Aunque el uso de esta herramienta de IA generativa se ha popularizado, los expertos avisan de que sus respuestas no son infalibles y siempre es adecuado comprobar la información que proporciona. Recogemos los fallos más habituales del conocido chatbot.
Redactar un correo electrónico, recopilar información para un trabajo o traducir un texto son sólo algunas de las muchas tareas en las que ChatGPT puede ayudarnos cada día. El uso de esta tecnología de IA generativa se ha extendido a millones de internautas y, según una encuesta de la Organización de Consumidores y Usuarios (OCU), uno de cada dos usuarios españoles ya la ha probado. Aun así, solo un 11% dice utilizarla con frecuencia y el porcentaje baja al 3% cuando se les pregunta si lo emplean a diario. Y aunque su principal reclamo es que contesta de forma completa y muy detallada a cualquier cuestión planteada en lenguaje natural, no todos los internautas se fían de sus resultados: el 24% de los encuestados alega falta de confianza en las respuestas generadas.
Índice de contenidos
En este sentido, expertos como Josep Curto, profesor de Estudios de Informática, Multimedia y Telecomunicación de la UOC, corroboran que "en ningún caso debemos considerar que ChatGPT es infalible. De hecho, por construcción, al ser un sistema generativo puede introducir errores, llamados frecuentemente alucinaciones". Algunos fallos comunes son describir de forma incorrecta hechos verificables; generar respuestas incompletas o responder de manera convincente a todo tipo de preguntas aunque no conozca la respuesta. También introducir términos erróneos en idiomas que no son el inglés; y proporcionar respuestas no éticas o con sesgos humanos o técnicos. Pero no son los únicos. Recogemos los cinco errores más habituales al utilizar ChatGPT.
Esta herramienta tiene acceso a una gran cantidad de información pero su base de datos de conocimientos sólo abarca hasta 2021. Por eso, a veces no es capaz de responder a determinadas cuestiones que han tenido lugar de manera posterior a esa fecha ni profundizar en conocimientos muy especializados. Sus creadores alertan de esta cuestión al iniciar el chat, pero algunos usuarios han compartido errores relacionados con personalidades concretas e, incluso, problemas matemáticos que el chatbot no ha sido capaz de resolver.
Otra forma de poner a prueba la fiabilidad de ChatGPT es plantearle una misma pregunta con unos minutos de diferencia. Lo habitual sería que contestara de manera idéntica en ambos casos, pero en ocasiones cambia su respuesta. Y aunque estas modificaciones no suelen afectar al sentido completo de la información proporcionada, sí podrían alterar determinados matices y detalles del contenido.
La IA generativa basa sus respuestas en la información contenida en su biblioteca de conocimientos y también en los datos que acumula poco a poco gracias a su capacidad de aprendizaje. Aun así, es posible que a veces conteste algo que no tiene nada que ver con lo que se le pregunta; esto se debe a su dificultad para jerarquizar y sesgar los contenidos, así como para aportar una perspectiva determinada relacionada con una cultura, sociedad o momento concreto.
Uno de los errores más visibles, o que más llama la atención de los usuarios, son los fallos gramaticales, ortográficos y de puntuación. Ante una consulta sencilla es probable que no suceda, pero las posibilidades aumentan cuanto más confusa o compleja sea la pregunta formulada.
Dado que ChatGPT se basa en el aprendizaje automático y la estadística, no está preparado para reconocer emociones o ciertas intencionalidades como el sarcasmo y la ironía. Por esta razón, no siempre proporciona respuestas ingeniosas y en algunos casos contesta de manera completamente descontextualizada.
Aunque los creadores de grandes modelos de lenguaje de IA como OpenAI actualizan cada cierto tiempo el sistema para introducir mejoras y reducir algunos de estos errores, es necesario ser conscientes de ellos. Por lo tanto, los expertos recomiendan siempre confirmar las respuestas con otras fuentes fiables; incrementar el conocimiento ligado a la pregunta para reconocer fallos o sesgos; y usar esta tecnología como una ayuda para construir la respuesta que buscamos en lugar de aceptarla directamente. Además, es aconsejable comparar la información proporcionada por ChatGPT con otras herramientas de IA generativa (Copilot, Jasper, Gemini…) para determinar qué respuesta encaja mejor con nuestras necesidades.
EDUCACIÓN 3.0
Somos el medio de comunicación líder en innovación educativa, nuevas tecnologías y metodologías, innovación docente, formación y recursos para profesores.
Personalmente cuando ocupo ChatGPT lo hago diciéndole los parámetros y márgenes para la conversación para así obtener el resultado esperado. Si bien es una gran herramienta tampoco deberíamos esperar que la IA haga todo, corroborar la información que nos de es esencial al igual que proporcionarle información con la que queremos trabajar, y eso va por nuestra parte para lograr un trabajo bien hecho. Igual es importante recordar que no es un humano y debemos decirle las cosas muy literales para que "comprenda" nuestros objetivos, aunque si he tenido respuestas en donde debí explicarle algunas cosas que para nosotros son comunes, como la emocionalidad y la importancia que tiene para nosotros. Fuera de eso, encuentro divertido y útil contar con esta inteligencia artificial!