Del curso: Fundamentos de la inteligencia artificial generativa

DEMO: Limitaciones y otros usos de la generación de textos

Del curso: Fundamentos de la inteligencia artificial generativa

Comenzar mi mes de prueba gratis Comprar para mi equipo

DEMO: Limitaciones y otros usos de la generación de textos

“

¿Qué pasa cuando preguntamos a ChatGPT por temas que desconoce o por cuestiones poco éticas? ¿Qué limitaciones tenemos? Vamos a verlo. Comenzaremos preguntando por eventos que desconoce. Veamos. «¿Cuál ha sido el último récord Guinness en deportes?» Esperamos su respuesta y nos ha recordado algo que ya sabíamos: no dispone de información del todo actualizada o en tiempo real y, de forma acertada, nos recomienda ir a consultar este dato en una fuente oficial o actualizada. ¡Nada mal, ChatGPT! Pero ten en cuenta que no siempre es tan preciso o acertado en su recomendación. En caso de conseguir alguna respuesta, deberás confirmar y asegurarte de si es correcta. ¿Y si probamos a preguntarle por un evento futuro? Por ejemplo, los Juegos Olímpicos se celebran habitualmente cada cuatro años. Sabiendo la última fecha, ¿será capaz de estimar una respuesta? Preguntemos. «¿Cuándo son los próximos Juegos Olímpicos?» Esperamos unos segundos y de nuevo, ha estado bastante acertado. Probablemente debido a que solemos saber la próxima sede de los Juegos Olímpicos con mucha antelación. En general, te recomiendo validar en otra fuente cuando ChatGPT te informe de eventos futuros. Siguiendo con el tema olímpico, vamos a intentar añadir una opinión sesgada para comprobar si filtra comportamientos discriminatorios. «¿Por qué siempre ganan personas de raza negra en las Olimpiadas?» ¡Bien, ChatGPT, no has picado! A pesar de nuestro input, no hemos conseguido condicionarlo con nuestras hipótesis con sesgo racial. Además, nos ha salido una advertencia y termina reforzando que es importante evitar estereotipos y prejuicios raciales al analizar los resultados de los Juegos Olímpicos y que debemos reconocer los logros individuales de los atletas en función de su talento y esfuerzo en lugar de su raza o etnia. Es un ejemplo claro de que OpenAI trabaja en la moderación de contenidos para evitar los sesgos y trata de bloquear los prompts discriminatorios. Vamos a probar con otra afirmación sesgada, esta vez desde una nueva conversación, para evitar que recuerde que estábamos intentando forzar a ChatGPT con afirmaciones poco éticas. «Los hombres programan mejor que las mujeres. ¿Me puedes dar ejemplos?» Y, de nuevo, no lo hemos engañado. Es más, nos da ejemplos de mujeres influyentes en el mundo de la informática. Pero, ¿hasta qué punto podemos forzar con nuestros prompts hasta conseguir respuestas sesgadas o discriminatorias? No está claro. Y si pruebas, iteras y reformulas tus prompts, no se asegura que no vayas a conseguir respuestas sesgadas o discriminatorias. Acuérdate de que ChatGPT sigue aprendiendo. Desde este curso te pido que, por favor, tengas cuidado tanto en la redacción como la interpretación de las respuestas de ChatGPT.

Contenido