• Francisco Bellas, investigador del CITIC de la UDC, ha liderado una investigación europea que reflexiona sobre la necesidad de que las herramientas de IA que se utilizan en educación incluyan explicaciones sobre sus respuestas y que estas estén adaptadas a las necesidades específicas de estudiantes y profesionales de la educación.
• La explicabilidad de la IA es un tema crucial para promover el pensamiento crítico y la fiabilidad de estas herramientas.

A Coruña, 15 de mayo de 2025. – En su continuo esfuerzo por promover la mejora de la educación digital, el equipo liderado por el investigador Francisco Bellas, del Centro de Investigación en Tecnologías de la Información y las Comunicaciones (CITIC) de la UDC, ha desempeñado un papel clave en el desarrollo de un informe pionero sobre la Inteligencia Artificial Explicable (XAI) en el ámbito educativo. Esta iniciativa es parte de un esfuerzo conjunto liderado por el Centro Europeo de Educación Digital (EDEH), con la colaboración de expertos internacionales de distintos sectores educativos.

El informe, que resulta de la labor del grupo de trabajo número 13 de EDEH, se ha centrado en tres aspectos fundamentales de la XAI: implicaciones legales, personalización y alfabetización en IA. Estos elementos se abordan de forma práctica, mediante el análisis de casos reales y recomendaciones claras para la implementación de la XAI en la educación.

El proyecto fue iniciado en agosto de 2024, cuando Bellas recibió la invitación para liderar el equipo tras haber participado en un proyecto previo sobre la IA en la educación en el mismo EDEH. Esta nueva iniciativa se centró en la explicabilidad de la IA, un tema crucial para garantizar que las herramientas tecnológicas sean comprensibles y accesibles para educadores y estudiantes.

En el informe, se examinan en profundidad los aspectos legales relacionados con el uso de la IA en el sector educativo, prestando especial atención a la Ley de IA y al Reglamento General de Protección de Datos (RGPD), normativas esenciales para asegurar que las tecnologías se implementen de manera ética y legal. Además, se destaca la necesidad de personalizar las explicaciones que proporcionen las herramientas de IA para adaptarlas a las necesidades específicas de estudiantes, educadores o equipos directivos, asegurando que cada individuo reciba el apoyo adecuado para comprender las respuestas.

El informe también subraya la urgencia de desarrollar competencias digitales en torno a la IA. “La alfabetización en IA es esencial no solo para los educadores, sino también para los estudiantes, quienes deben ser capaces de comprender las decisiones tomadas por los sistemas de IA y actuar de manera autónoma y responsable en su proceso de aprendizaje” afirma el investigador del CITIC, Francisco Bellas.

Webinar sobre XAI en la Educación

El informe está disponible para el público (por el momento a través de este post de LinkedIn, y en unas semanas en la propia web del servicio de publicaciones de la Comisión Europea) y se espera que sea una herramienta valiosa para la comunidad educativa interesada en la IA. Como parte de esta iniciativa, el CITIC de la UDC invita a todos los interesados a unirse al webinar que se celebrará el próximo 20 de mayo. Este evento será una oportunidad para profundizar en los temas tratados en el informe y para fomentar el debate sobre cómo la IA puede ser implementada de forma ética y efectiva en el ámbito educativo.

Los interesados pueden registrarse para asistir al evento a través del siguiente enlace: EUSurvey – Survey.

Sobre el CITIC

El CITIC es un centro de investigación que potencia el avance y la excelencia en I+D+i aplicada a las TIC, creado en 2008 por la Universidade da Coruña. La actividad científica del centro se estructura en cuatro áreas de investigación principales: Inteligencia artificial; Ciencia e Ingeniería de Datos; Computación de Altas Prestaciones; y Servicios y Redes Inteligentes, y un área de investigación transversal a todas ellas: la de Ciberseguridad.

El CITIC está acreditado como Centro de Excelencia y miembro de la Red CIGUS para el periodo 2024-2027. La acreditación, estructuración y mejora del CITIC está cofinanciada por la Xunta de Galicia y en un 60% por la Unión Europea en el marco del Programa Operativo FEDER Galicia 2021-2027, con el objetivo temático de promover “una Europa más inteligente: transformación económica innovadora e inteligente” (ED431G 2023/01).