El investigador del CITIC de la UDC, Francisco Bellas, ha participado en el foro europeo EMINENT 2025, celebrado recientemente en Madrid y organizado por el Ministerio de Educación, Formación Profesional y Deportes, con financiación europea a través de los proyectos Agile EDU y EmpowerED.

EMINENT 2025 reunió a responsables políticos, autoridades educativas, centros escolares, empresas del sector EdTech y personal investigador de toda Europa para debatir sobre el uso responsable, ético y con sentido de la inteligencia artificial en el ámbito educativo.

Durante el encuentro, Francisco Bellas impartió la ponencia magistral titulada “Explainable AI: Can we truly trust AI in education if we don’t understand how it works?”, en la que introdujo el concepto de Inteligencia Artificial Explicable (XAI) y reflexionó sobre la necesidad de comprender cómo funcionan los sistemas de IA para poder confiar en su uso dentro del ámbito educativo.

A lo largo de su intervención, Bellas se centró especialmente en la aplicación de la XAI en contextos educativos, apoyándose en ejemplos concretos que ilustraron tanto las oportunidades como los riesgos de incorporar sistemas de IA en las aulas. Subrayó que la transparencia y la explicabilidad son elementos clave para reforzar la confianza, la equidad y la responsabilidad en la toma de decisiones automatizadas que afectan a docentes y estudiantes.

Entre las conclusiones principales de la ponencia, destacó la necesidad de contar con marcos legales y estándares claros que regulen el uso de la IA en educación. Asimismo, insistió en la importancia de reconocer que los sistemas de IA no son infalibles y deben emplearse siempre desde una perspectiva crítica, manteniendo la agencia y supervisión humanas.

Otro aspecto central fue la protección de la privacidad y los datos personales, especialmente sensibles cuando se trata de menores. En este sentido, Bellas defendió un diseño de sistemas de IA complejo y centrado en el usuario, capaz de ofrecer distintos niveles de explicación adaptados a profesorado, estudiantes y administradores educativos.

De cara al futuro, subrayó el papel clave de los policymakers como actores activos en la definición de la regulación de la IA, así como la responsabilidad de la comunidad investigadora a la hora de evaluar el impacto real de estas tecnologías en las aulas. Todo ello, acompañado de un esfuerzo decidido por fomentar la alfabetización en IA en todo el sistema educativo.

La conferencia completa está disponible en el canal oficial de YouTube del evento.

Además, European Schoolnet, entidad organizadora del evento, ha realizado una entrevista a Francisco Bellas que será publicada próximamente en su canal de YouTube.