‘Ética en Juego’ es una iniciativa educativa que aborda la formación en ética de la inteligencia artificial (IA) mediante una experiencia práctica basada en retos. El proyecto sitúa a estudiantes, docentes y profesionales en un entorno interactivo donde deben tomar decisiones, identificar sesgos y analizar el impacto social de los sistemas tecnológicos.
Desarrollado en el marco de la Red territorial de hubs en inteligencia artificial del programa Redes Territoriales de Especialización Tecnológica (RETECH), y financiado por el Plan de Recuperación, Transformación y Resiliencia (PRTR) –Next Generation EU, con el apoyo de la Generalitat de Catalunya, el proyecto parte de la necesidad de comprender el funcionamiento de la IA más allá de su dimensión técnica, ya que los sistemas algorítmicos intervienen actualmente en ámbitos como la selección de personal, la educación o las finanzas. Algo que plantea cuestiones relacionadas con la equidad, la transparencia y la responsabilidad en su uso. Para abordar estos retos, ‘Ética en Juego’ propone un enfoque basado en la experimentación directa.
El proyecto está impulsado por el EduTech Clúster y desarrollado en colaboración con diversas entidades especializadas: EIM Consultores, encargada del diseño pedagógico y los materiales didácticos; el Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) de la Universitat de Girona, responsable del marco ético basado en el Modelo PIO Educación; y Maths for More, que aporta la plataforma tecnológica mediante Model Share AI. Esta iniciativa ya ha contado con la participación de más de 1.300 personas entre participación directa e indirecta, y con la implicación de más de 40 centros educativos.
Metodología basada en la toma de decisiones
La actividad principal de ‘Ética en juego’ se estructura como una competición digital en la que los participantes trabajan con modelos de inteligencia artificial en un entorno guiado. A través de una plataforma interactiva, deben construir modelos, ajustar parámetros y evaluar resultados en tiempo real. Cada decisión genera efectos concretos: un modelo puede mejorar su precisión a costa de aumentar sesgos o reducir su impacto ambiental sacrificando rendimiento. Este planteamiento permite analizar de forma aplicada cómo las decisiones técnicas afectan a valores como la equidad, la sostenibilidad o la transparencia.
Tres ámbitos clave: equidad, sostenibilidad y transparencia
La propuesta se organiza en una secuencia de retos que abordan distintos aspectos de la ética en IA. El primer reto se centra en la justicia algorítmica. Los participantes trabajan con conjuntos de datos que pueden contener sesgos y deben identificar posibles discriminaciones en los resultados. Este ejercicio permite evidenciar que un sistema técnicamente correcto no garantiza resultados justos.
El segundo introduce la dimensión de sostenibilidad y responsabilidad ampliada. Se analizan aspectos como el consumo de recursos (energía, agua), el impacto social o las condiciones asociadas a la generación de datos. Los participantes deben equilibrar eficiencia y responsabilidad en sus decisiones.
Por último, el tercer reto aborda la transparencia y la explicabilidad de los sistemas. Se plantean cuestiones como la comprensión de decisiones automatizadas, la atribución de responsabilidades o el grado de control humano necesario en sistemas inteligentes.
En conjunto, estos retos ofrecen una visión aplicada de los dilemas reales asociados al desarrollo y uso de la inteligencia artificial.
Accesibilidad tecnológica y aprendizaje interactivo
El proyecto incorpora más de 30 aplicaciones interactivas accesibles sin necesidad de conocimientos avanzados de programación. Estas herramientas, desarrolladas con tecnologías como Gradio y desplegadas en la nube, permiten interactuar mediante interfaces intuitivas. Así, los participantes pueden seleccionar algoritmos, modificar variables o analizar resultados de forma visual e inmediata. Este enfoque facilita la participación de perfiles diversos y elimina barreras técnicas, al tiempo que permite profundizar en el funcionamiento de los sistemas para usuarios más avanzados mediante notebooks opcionales.
Un sistema de evaluación basado en criterios éticos
Uno de los elementos centrales del proyecto es su sistema de evaluación, denominado ‘Brújula Moral’. A diferencia de otros entornos de aprendizaje tecnológico, la evaluación no se basa únicamente en el rendimiento técnico. El sistema integra múltiples dimensiones, como la precisión del modelo, la equidad en los resultados y el impacto en términos de sostenibilidad. Estas variables se combinan en una puntuación multifactorial alineada con el Modelo PIO (Principios, Indicadores y Observables).
En la práctica, se valoran acciones como la identificación de sesgos, la mejora de la representatividad de los datos o la justificación de decisiones desde una perspectiva ética. Este enfoque convierte la evaluación en un elemento formativo que permite interpretar resultados y comprender sus implicaciones.
Aplicación del Modelo PIO en un entorno práctico
El marco conceptual del proyecto se basa en el Modelo PIO Educación, desarrollado por el Observatori d’Ètica en Intel·ligència Artificial de Catalunya de la Universitat de Girona. Este modelo permite evaluar sistemas de IA a partir de siete principios éticos: transparencia, justicia, responsabilidad, seguridad, autonomía, privacidad y sostenibilidad. La integración del modelo en la competición facilita su aplicación práctica. Los participantes utilizan un sistema de autoevaluación estructurado en preguntas que permiten analizar el grado de cumplimiento de estos principios y obtener métricas concretas.
Transferencia educativa y aplicabilidad
El diseño del proyecto permite trasladar conceptos abstractos a situaciones concretas mediante narrativas contextualizadas. Los participantes se sitúan en escenarios aplicados, como la toma de decisiones automatizadas o el análisis de datos, y utilizan herramientas visuales para experimentar con diferentes opciones. Las decisiones se traducen en resultados medibles que se representan mediante indicadores, rankings y visualizaciones. Este sistema facilita la comprensión de cómo pequeños cambios en los modelos pueden alterar significativamente sus efectos.
Formación en ética aplicada a la IA
En definitiva, ‘Ética en Juego’ plantea un modelo de aprendizaje basado en la práctica, orientado a desarrollar competencias críticas en el uso y diseño de sistemas de inteligencia artificial. Una iniciativa que muestra cómo es posible integrar la ética en procesos formativos mediante entornos interactivos, accesibles y escalables. Y un proyecto que contribuye a la formación de perfiles capaces de analizar, diseñar y utilizar tecnologías de manera responsable, en el contexto actual en el que la IA tiene un impacto creciente en ámbitos educativos, sociales y económicos.
(Este contenido se ha elaborado en colaboración con Edutech Clúster)
