Buscar una receta, organizar una excursión, preparar una presentación, resumir un documento, pedirle ideas para una actividad educativa… Las posibilidades de la inteligencia artificial son ilimitadas y muchos usuarios confían en ella habitualmente para agilizar sus tareas o facilitar procesos que, de otra manera, les llevarían más tiempo y esfuerzo. Su capacidad para explicar conceptos complejos y proponer soluciones en segundos sobre prácticamente cualquier tema también la convierte en una herramienta versátil y muy útil; pero, ¿todo lo que nos dice es acertado o correcto?
Uno de sus principales riesgos es que esta tecnología no funciona como el cerebro humano: genera respuestas a partir de patrones aprendidos a base de horas y horas de entrenamiento, acertando en muchas ocasiones pero también inventando datos o proporcionando información desactualizada. Por eso, informes como Empowering Learners for the Age of AI de la OCDE insisten en la importancia de promover desde el sistema educativo la alfabetización en IA y el pensamiento crítico para emplearla de forma creativa, pero también ética y con criterio.
Posibles señales de que la IA se equivoca
No existe un truco infalible para saber cuándo un asistente de IA generativa se equivoca, pero nunca está de más desarrollar determinados hábitos antes de dar sus respuestas por válidas y reconocer algunas señales que nos ayudarán a detectar errores. Estos son algunos de los más comunes:
Genera un texto muy bien escrito pero con información genérica
Emplea oraciones amplias y un vocabulario convincente pero no aporta datos verificables, por lo que es probable que lo haya creado a partir de patrones generales.
Cita libros o autores que no aparecen por ninguna parte
Se trata de una de las ‘alucinaciones’ más habituales, que genera al mezclar extractos e información de diferentes publicaciones, dando lugar a fuentes que en realidad no existen.
Responde con datos categóricos sin fundamento
Cuando se le pide información cuantificable, estudios o informes, es posible que aporte cifras precisas. Sin embargo, al preguntarle de dónde salen esos datos no es capaz de indicar la procedencia, la fecha de publicación o la muestra analizada.
Se contradice cuando le preguntas sobre un mismo tema dos veces
Una alternativa muy sencilla para comprobar la fiabilidad de una respuesta es reformular una misma pregunta o insistir para que explique cómo ha llegado a esa conclusión.
Recomendaciones para usar la IA con criterio
Más allá de desarrollar un ‘sexto sentido’ y estar siempre alerta ante sus posibles ‘alucinaciones’, es recomendable seguir algunas pautas para emplear la IA con sentido crítico y responsabilidad.
Comprobar siempre la información importante
Debe ser la regla principal al utilizar la IA generativa, especialmente cuando se le consulta información para incluir en un trabajo académico, un artículo periodístico, una presentación, un documento importante… Siempre es conveniente verificar su respuesta con fuentes fiables: contrastar cifras, nombres y datos con organismos oficiales, publicaciones científicas o medios especializados apenas lleva unos minutos y evitará errores importantes.
No dar por buena la primera respuesta
Una de sus ventajas es que permite mantener una conversación. Por eso, cuando una respuesta nos parece demasiado general, poco clara o genera dudas, merece la pena seguir interactuando con ella y solicitar datos adicionales, ejemplos, preguntar por las fuentes o pedir que justifique su razonamiento.
Para conseguir buenas respuestas, elabora un buen prompt
Cuanto más contexto, objetivos y detalles reciba la IA, más útil suele ser el resultado: indicar el formato deseado, el público al que va dirigido, la extensión, el tono o el área profesional son elementos que nos ayudarán a obtener un resultado mucho más ajustado a nuestras peticiones. Otra opción es emplear los denominados prompts JSON: se escriben dentro de un bloque delimitado por unas llaves de apertura y de cierre representadas con el símbolo { } y actúan como un contenedor para agrupar toda la información que se desea transmitir a la IA.
La IA es un apoyo, no sustituye el pensamiento
Aunque nos puede ayudar a ahorrar tiempo y esfuerzo, los expertos coinciden en que nunca debe reemplazar el análisis personal: lo más importante en todo momento es comprender la información que nos da, cuestionar sus respuestas y desarrollar un criterio propio en base a ellas.
Precaución con los datos personales
Siempre que sea posible conviene eliminar cualquier información identificativa antes de compartirla con una herramienta de IA. De hecho, muchas plataformas y asistentes incorporan medidas y avisos de privacidad en los que se aconseja evitar información sensible, datos personales de terceros, documentos confidenciales, exámenes, historiales médicos, información empresarial reservada…
