O investigador do CITIC da UDC, Francisco Bellas, participou no foro europeo EMINENT 2025, celebrado recentemente en Madrid e organizado polo Ministerio de Educación, Formación Profesional e Deportes, con financiamento europeo a través dos proxectos Agile EDU e EmpowerED.

EMINENT 2025 reuniu a responsables políticos, autoridades educativas, centros escolares, empresas do sector EdTech e persoal investigador de toda Europa para debater sobre o uso responsable, ético e con sentido da intelixencia artificial no ámbito educativo.

Durante o encontro, Francisco Bellas impartiu o relatorio maxistral titulado “Explainable AI: Can we truly trust AI in education if we don’t understand how it works?”, na que introduciu o concepto de Intelixencia Artificial Explicable (XAI) e reflexionou sobre a necesidade de comprender como funcionan os sistemas de IA para poder confiar no seu uso dentro do ámbito educativo.

Ao longo da súa intervención, Bellas centrouse especialmente na aplicación da XAI en contextos educativos, apoiándose en exemplos concretos que ilustraron tanto as oportunidades como os riscos de incorporar sistemas de IA nas aulas. Subliñou que a transparencia e a explicabilidade son elementos clave para reforzar a confianza, a equidade e a responsabilidade na toma de decisións automatizadas que afectan a docentes e estudantes.

Entre as conclusións principais do relatorio, destacou a necesidade de contar con marcos legais e estándares claros que regulen o uso da IA en educación. Así mesmo, insistiu na importancia de recoñecer que os sistemas de IA non son infalibles e deben empregarse sempre desde unha perspectiva crítica, mantendo a axencia e supervisión humanas.

Outro aspecto central foi a protección da privacidade e os datos persoais, especialmente sensibles cando se trata de menores. Neste sentido, Bellas defendeu un deseño de sistemas de IA complexo e centrado no usuario, capaz de ofrecer distintos niveis de explicación adaptados a profesorado , estudantes e administradores educativos.

De fronte ao futuro, subliñou o papel crave dos policymakers como actores activos na definición da regulación da IA, así como a responsabilidade da comunidade investigadora á hora de avaliar o impacto real destas tecnoloxías nas aulas. Todo iso, acompañado dun esforzo decidido por fomentar a alfabetización en IA en todo o sistema educativo.

A conferencia completa está dispoñible na canle oficial de Youtube do evento.

Ademais, European Schoolnet, entidade organizadora do evento, realizou unha entrevista a Francisco Bellas que será publicada proximamente na súa canle de Youtube.