Cada vez más docentes son conscientes del potencial de la IA en educación, y más concretamente de los modelos generativos, para ayudarles en sus tareas educativas. Pero no todos tienen las mismas expectativas en el uso que puedan hacer de ellas los estudiantes. Por esta razón, la Oficina de Ciencia y Tecnología del Congreso de los Diputados ha encargado a 20 expertos y docentes que reflexionen sobre las oportunidades que conlleva la IA, pero también sobre los riesgos y la incertidumbre que existen acerca de los efectos de introducirla en la educación y de su eficacia para mejorar el aprendizaje.
A partir de sus conclusiones se ha elaborado el informe ‘Inteligencia artificial y educación’, cuyo objetivo es “buscar un equilibrio entre las altas expectativas de algunos y el pesimismo de otros”. En él, además, instan a debatir sobre cómo encajar la inteligencia artificial en el sistema educativo y la necesidad de decidir cómo dotar a las instituciones de los medios materiales, las capacidades humanas, la metodología y los marcos éticos y regulatorios para mejorar la educación.
¿Cómo ayuda IA generativa a docentes y alumnado?
Según el informe, las herramientas de IA generativa pueden ser útiles para el alumnado adulto siempre que se utilicen siguiendo las normas establecidas en la institución y para tareas como resumir, definir conceptos, clarificar el significado de un texto o simplificarlo. Sin embargo, advierte que actualmente no es posible detectar si un texto ha sido creado por IA generativa, y si se sospecha no se puede evidenciar la copia. Por tanto, los autores urgen a replantearse qué se va a aprender, con qué fines y cómo se van a examinar y validar las capacidades del alumnado, ya que las pruebas sin vigilancia pueden no reflejar sus conocimientos.
En el caso del profesorado, esta tecnología ayuda a elaborar planes de sus asignaturas, generar rúbricas, adaptar textos, o automatizar tareas administrativas rutinarias (planificar horarios, asignar espacios etc.). También sirve como apoyo en las correcciones o para obtener información acerca del aprendizaje del alumnado. A su vez, es posible analizar y modelar los datos obtenidos a través de distintas herramientas digitales para hacer predicciones que permitan al profesorado adaptar sus contenidos a los progresos y dificultades del grupo.
Los principales riesgos de la IA
Más allá de las oportunidades que ofrece el uso de IA en educación, para los expertos también plantea todavía numerosos riesgos. Por ejemplo, advierten acerca de las preocupaciones sobre la privacidad y la protección de datos; los posibles errores e inexactitudes del contenido generado; la discriminación por sesgos; la definición de autoría y el respeto a los derechos de autor; o el impacto que puede producir en capacidades como la creatividad o la curiosidad.
Asimismo, ven otros peligros como la desconexión social del alumnado, depositar demasiada confianza en las decisiones algorítmicas o que los estudiantes se sientan vigilados y cambien sus comportamientos. Además, ponen el foco en una posible privatización encubierta de la educación, la homogeneización de contenidos sin considerar las diferencias culturales, el aumento de la brecha digital o que la IA suponga un alto coste ambiental.
El horizonte: un uso seguro y responsable de la IA
Para encajar la IA en el sistema educativo y limitar sus riesgos e impactos indeseados, el documento considera esencial contar con la colaboración de tecnólogos, responsables políticos, especialistas en ciencias sociales y la comunidad educativa. El trabajo conjunto de todos ellos tendría como finalidad favorecer una relación más segura y productiva mediante el desarrollo de una IA responsable y de calidad demostrada que cumpla con la ley, se adhiera a principios éticos y sea robusta, explicable y admita la supervisión humana. Por otro lado, y como marco para lo anterior, destacan la importancia de establecer leyes específicas como el reglamento europeo sobre IA que entrará en vigor en 2026, y otras iniciativas.
Otro aspecto clave para fomentar un uso responsable de esta tecnología tiene que ver con la alfabetización en IA del alumnado y el personal educativo, puesto que ayudaría a entender su funcionamiento, cultivar el pensamiento crítico y a ser innovadores y responsables en su desarrollo y aplicación. Como punto final, animan a promover recursos educativos abiertos y a desarrollar herramientas públicas independientes.