La Universidade da Coruña celebró este 2 de octubre, en la Casa del Alumnado, la cuarta edición de las Jornadas de IA y Sesgos de Género: oportunidades para la igualdad, organizadas por Laura Morán, investigadora del CITIC de la UDC, y Teresa Piñeiro, de la UDC. El encuentro reunió a especialistas de referencia para reflexionar sobre los sesgos de género, sociales y discriminatorios presentes en los sistemas de inteligencia artificial (IA), así como sobre los retos éticos y tecnológicos que plantean su desarrollo y aplicación en ámbitos cada vez más diversos de la sociedad. 

A lo largo de la jornada se abordaron cuestiones relacionadas con la reproducción de prejuicios en los algoritmos, el impacto de la IA en la salud mental, la detección del discurso de odio y del machismo en las redes sociales, los modelos tecnológicos alternativos basados en los cuidados y los riesgos de discriminación asociados al uso de estas herramientas en sectores como el asegurador. 

En su intervención, el rector advirtió de que la inteligencia artificial no es una tecnología neutral ni ajena a las desigualdades existentes en la sociedad. Según explicó, “los sistemas de IA aprenden a partir de datos generados por personas e instituciones, por lo que tienden a reproducir y amplificar los sesgos presentes en esa información”. En este sentido, Ricardo Cao recordó ejemplos conocidos en los que algoritmos empleados en procesos de selección de personal, concesión de créditos o reconocimiento facial acabaron generando resultados discriminatorios al replicar patrones históricos de desigualdad. 

El rector subrayó también que la solución a este problema “no puede limitarse al desarrollo técnico de los sistemas, sino que requiere una ciudadanía crítica y formada en el uso de estas herramientas”. Defendió la necesidad de impulsar la alfabetización digital, promover equipos de desarrollo más diversos y aplicar mecanismos de supervisión y auditoría que permitan construir una inteligencia artificial más justa e inclusiva. “La IA es un apoyo extraordinario, pero el criterio y la responsabilidad final deben seguir siendo humanos”, concluyó. 

La catedrática de Psicología Experimental de la Universidad de Deusto Helena Matute centró su intervención en la capacidad de la inteligencia artificial para heredar los sesgos de las personas y, al mismo tiempo, transmitirlos a otras personas a través de decisiones automatizadas. Según explicó, estos mecanismos pueden amplificar prejuicios ya existentes e influir de múltiples formas en los procesos de toma de decisiones, por lo que resulta fundamental comprender cómo se producen para poder combatirlos. 

Por su parte, Eurídice Cabañes propuso una reflexión crítica sobre los fundamentos ideológicos y económicos sobre los que se desarrollan los actuales modelos de IA. La investigadora cuestionó los enfoques patriarcales, extractivistas y coloniales que, a su juicio, sustentan gran parte del ecosistema tecnológico contemporáneo y defendió la necesidad de avanzar hacia “tecnologías de la vida”, diseñadas desde los contextos locales, orientadas a los cuidados y basadas en la reciprocidad, la regeneración y el beneficio común. 

La investigadora y docente de la Universitat Pompeu Fabra Ana Freire abordó el potencial de la inteligencia artificial para detectar y comprender problemas relacionados con la salud mental a través del análisis de contenidos en redes sociales. A partir de un estudio sobre la identificación de señales de anorexia nerviosa, mostró cómo los sesgos pueden introducirse en los datos, en su representación o incluso en el diseño de los modelos, y advirtió de que incrementar el volumen de información no garantiza necesariamente sistemas más justos si determinados colectivos continúan infrarrepresentados. 

La profesora de la Universidade da Coruña Lucía Álvarez presentó los avances realizados en el desarrollo de herramientas capaces de detectar el machismo directamente en gallego. La investigadora destacó la importancia de disponer de recursos tecnológicos propios para las lenguas minorizadas, evitando la necesidad de traducir previamente los contenidos y conservando matices fundamentales vinculados a las marcas gramaticales de género. El trabajo realizado demuestra, según señaló, que el gallego también puede contar con tecnología específica y precisa para combatir el acoso contra las mujeres en las redes sociales. 

A continuación, Paloma Piot, investigadora del CITIC de la UDC, analizó los sesgos demográficos presentes en los sistemas de detección y clasificación del discurso de odio. Su intervención se centró en cómo la adopción de diferentes perfiles demográficos puede influir en la identificación de este tipo de contenidos y en cómo determinadas técnicas de inteligencia artificial pueden contribuir a reducir las discriminaciones que se producen en los procesos de clasificación automatizada. 

Rafael Colina cerró la jornada con un análisis de la creciente presencia de la inteligencia artificial en el sector asegurador. El experto advirtió de que la personalización de los contratos mediante sistemas inteligentes puede derivar en diferencias de trato entre clientes que no estén justificadas por criterios objetivos. Además, alertó de que estos mecanismos no solo pueden reforzar discriminaciones preexistentes, sino también ocultarlas, ya que suelen resultar difíciles de detectar debido a la complejidad de los algoritmos empleados. 

La participación del CITIC de la UDC en la organización de la cuarta edición de estas jornadas, junto con la intervención de la investigadora Paloma Piot en la sesión “FACTOR[IA] UDC · investigaciones en 10’”, refuerza la implicación del centro en el análisis de los retos sociales asociados a la inteligencia artificial. La jornada puso de manifiesto la necesidad de situar la ética, la igualdad y la responsabilidad social en el centro del desarrollo tecnológico, favoreciendo una inteligencia artificial que contribuya a la inclusión y al bienestar de la ciudadanía.