• La investigadora Verónica Bolón participó en el XI Encuentro Estatal de APCGénero, celebrado en Bilbao, junto a referentes como Nuria Oliver, Mercedes Siles y Lorena Fernández

El CITIC de la Universidade da Coruña participó en el XI Encuentro Estatal de la Asociación Profesional de Consultoría de Género (APCGénero), celebrado los días 4 y 5 de septiembre en Bilbao bajo el lema “Innovación, igualdad y justicia digital: claves para intervenir desde la consultoría de género”.

El encuentro reunió a profesionales de la consultoría de género, expertas en inteligencia artificial y tecnología, entidades e instituciones para analizar los retos que plantea la transformación digital y debatir cómo incorporar la perspectiva de género en el desarrollo y aplicación de las nuevas tecnologías.

En representación del CITIC participó Verónica Bolón Canedo, profesora de la Universidade da Coruña e investigadora del centro, que intervino en una sesión dedicada a la relación entre inteligencia artificial y género. Asimismo, asistieron al encuentro María Suárez Taboada, Beatriz Botana, Blanca Padín y Alexia Rivas, personal del CITIC e integrantes de la Comisión de Igualdad del centro, que participaron en las diferentes actividades y sesiones de las jornadas.

La participación de Verónica Bolón se desarrolló junto a las aportaciones de expertas y profesionales como Mercedes Siles Molina, Nuria Oliver, Lorena Fernández Álvarez y Judith Membrives, que abordaron desde diferentes perspectivas los efectos de la inteligencia artificial, la automatización y el uso de datos sobre la igualdad.

La perspectiva de género, desde el diseño de la tecnología

Una de las principales ideas compartidas durante las jornadas fue que los sesgos algorítmicos no son únicamente errores técnicos. Pueden surgir de los datos utilizados, de aquello que no se mide, de las decisiones de diseño, de los objetivos asignados a los sistemas y del contexto social en el que se aplican.

Por ello, las participantes defendieron la necesidad de incorporar la perspectiva de género desde la definición del problema y durante todo el ciclo de vida de una tecnología, incluyendo la selección de datos, el diseño, la contratación, las pruebas, el despliegue, la supervisión y la evaluación de sus impactos.

En este contexto, la intervención de Verónica Bolón puso el foco en los mecanismos mediante los que los sesgos humanos pueden trasladarse a los datos y modelos de aprendizaje automático. La investigadora abordó también ejemplos de discriminación algorítmica, la brecha de género en el desarrollo tecnológico y la importancia de contar con equipos diversos.

Asimismo, destacó la necesidad de realizar auditorías de género y de evaluar las tecnologías más allá de los conjuntos de datos con los que se entrenan. Entre las cuestiones planteadas se encuentran para qué se utiliza un sistema, quién lo desarrolla, con qué datos trabaja, qué grupos están infrarrepresentados, cómo se distribuyen los errores, quién supervisa sus resultados y qué mecanismos existen para impugnar sus decisiones.

Una mirada interdisciplinar sobre la inteligencia artificial

El encuentro permitió abordar la relación entre tecnología e igualdad desde diferentes perspectivas. Mercedes Siles Molina y Nuria Oliver analizaron los fundamentos de la inteligencia artificial y conceptos como la discriminación algorítmica, los sesgos, los estereotipos y la desigualdad estructural. Ambas pusieron de relieve la necesidad de reforzar la responsabilidad institucional y la calidad de los sistemas algorítmicos, así como de impulsar la presencia de niñas y mujeres en la formación, investigación y toma de decisiones tecnológicas.

Por su parte, Lorena Fernández Álvarez planteó la inteligencia artificial como un proceso político y sociotécnico, poniendo el foco en cuestiones como quién define los problemas, quién diseña las herramientas y quién controla los datos. Su intervención defendió la importancia de preservar el criterio profesional y humano y evitar que la IA sustituya la deliberación y la responsabilidad de quienes toman decisiones.

El impacto de la automatización sobre el mercado laboral fue otro de los ejes del encuentro. Judith Membrives analizó especialmente sus efectos sobre sectores y profesiones feminizadas, alertando de riesgos relacionados con la precarización, la vigilancia y el control de la productividad, la conciliación, la igualdad retributiva, la promoción profesional y la salud laboral.

Hacia una tecnología más ética, inclusiva y responsable

Las jornadas pusieron de manifiesto que la tecnología no es neutral y que las decisiones adoptadas durante su desarrollo y aplicación pueden contribuir a reproducir o amplificar desigualdades existentes. Por ello, se defendió una evaluación de los sistemas desde una perspectiva interseccional, teniendo en cuenta la combinación del género con factores como la edad, el origen racial, la discapacidad o la situación socioeconómica.

También se subrayó que no debe automatizarse una decisión injusta y que la supervisión humana debe ser real, garantizando la posibilidad de revisar y corregir las decisiones adoptadas mediante sistemas automatizados.

Además del programa de ponencias, el XI Encuentro Estatal de APCGénero incluyó talleres centrados en el uso crítico y responsable de la inteligencia artificial en la consultoría de igualdad y en la aplicación de nuevas metodologías relacionadas con datos, participación e impacto.

La participación del CITIC en este encuentro refuerza su compromiso con una investigación y una innovación tecnológica que incorporen criterios de igualdad, diversidad y responsabilidad social, y con el desarrollo de tecnologías que tengan en cuenta el impacto que pueden generar sobre las personas y la sociedad.