• A investigadora Verónica Bolón participou no XI Encontro Estatal de APCGénero, celebrado en Bilbao, xunto a referentes como Nuria Oliver, Mercedes Siles e Lorena Fernández

O CITIC da Universidade da Coruña participou no XI Encontro Estatal da Asociación Profesional de Consultoría de Xénero (APCGénero), celebrado os días 4 e 5 de setembro en Bilbao baixo o lema “Innovación, igualdade e xustiza dixital: claves para intervir desde a consultoría de xénero”.

O encontro reuniu profesionais da consultoría de xénero, expertas en intelixencia artificial e tecnoloxía, entidades e institucións para analizar os retos que presenta a transformación dixital e debater sobre como incorporar a perspectiva de xénero no desenvolvemento e aplicación das novas tecnoloxías.

En representación do CITIC participou Verónica Bolón Canedo, profesora da Universidade da Coruña e investigadora do centro, que interveu nunha sesión dedicada á relación entre intelixencia artificial e xénero. Así mesmo, asistiron ao encontro María Suárez Taboada, Beatriz Botana, Blanca Padín e Alexia Rivas, persoal do CITIC e integrantes da Comisión de Igualdade do centro, que participaron nas diferentes actividades e sesións das xornadas.

A participación de Verónica Bolón desenvolveuse xunto ás achegas de expertas e profesionais como Mercedes Siles Molina, Nuria Oliver, Lorena Fernández Álvarez e Judith Membrives, que abordaron desde diferentes perspectivas os efectos da intelixencia artificial, a automatización e o uso de datos sobre a igualdade.

A perspectiva de xénero, desde o deseño da tecnoloxía

Unha das principais ideas compartidas durante as xornadas foi que os nesgos algorítmicos non son unicamente erros técnicos. Poden xurdir dos datos utilizados, daquilo que non se mide, das decisións de deseño, dos obxectivos asignados aos sistemas e do contexto social no que se aplican.

Por iso, as participantes defenderon a necesidade de incorporar a perspectiva de xénero desde a definición do problema e durante todo o ciclo de vida dunha tecnoloxía, incluíndo a selección de datos, o deseño, a contratación, as probas, o despregamento, a supervisión e a avaliación dos seus impactos.

Neste contexto, a intervención de Verónica Bolón puxo o foco nos mecanismos mediante os que os nesgos humanos poden trasladarse aos datos e modelos de aprendizaxe automática. A investigadora abordou tamén exemplos de discriminación algorítmica, a fenda de xénero no desenvolvemento tecnolóxico e a importancia de contar con equipos diversos.

Así mesmo, destacou a necesidade de realizar auditorías de xénero e de avaliar as tecnoloxías máis aló dos conxuntos de datos cos que se adestran. Entre as cuestións formuladas atópanse para que se utiliza un sistema, quen o desenvolve, con que datos traballa, que grupos están infrarrepresentados, como se distribúen os erros, quen supervisa os seus resultados e que mecanismos existen para impugnar as súas decisións.

Unha mirada interdisciplinar sobre a intelixencia artificial

O encontro permitiu abordar a relación entre tecnoloxía e igualdade desde diferentes perspectivas. Mercedes Siles Molina e Nuria Oliver analizaron os fundamentos da intelixencia artificial e conceptos como a discriminación algorítmica, os nesgos, os estereotipos e a desigualdade estrutural. Ambas puxeron de relevo a necesidade de reforzar a responsabilidade institucional e a calidade dos sistemas algorítmicos, así como de impulsar a presenza de nenas e mulleres na formación, investigación e toma de decisións tecnolóxicas.

Pola súa banda, Lorena Fernández Álvarez formulou a intelixencia artificial como un proceso político e sociotécnico, poñendo o foco en cuestións como quen define os problemas, quen deseña as ferramentas e quen controla os datos. A súa intervención defendeu a importancia de preservar o criterio profesional e humano e evitar que a IA substitúa a deliberación e a responsabilidade de quen toma decisións.

O impacto da automatización sobre o mercado laboral foi outro dos eixes do encontro. Judith Membrives analizou especialmente os seus efectos sobre sectores e profesións feminizadas, alertando de riscos relacionados coa precarización, a vixilancia e o control da produtividade, a conciliación, a igualdade retributiva, a promoción profesional e a saúde laboral.

Cara a unha tecnoloxía máis ética, inclusiva e responsable

As xornadas puxeron de manifesto que a tecnoloxía non é neutral e que as decisións adoptadas durante o seu desenvolvemento e aplicación poden contribuír a reproducir ou amplificar desigualdades existentes. Por iso, defendeuse unha avaliación dos sistemas desde unha perspectiva interseccional, tendo en conta a combinación do xénero con factores como a idade, a orixe racial, a discapacidade ou a situación socioeconómica.

Tamén se subliñou que non debe automatizarse unha decisión inxusta e que a supervisión humana debe ser real, garantindo a posibilidade de revisar e corrixir as decisións adoptadas mediante sistemas automatizados.

Ademais do programa de relatorios, o XI Encontro Estatal de APCGénero incluíu obradoiros centrados no uso crítico e responsable da intelixencia artificial na consultoría de igualdade e na aplicación de novas metodoloxías relacionadas con datos, participación e impacto.

A participación do CITIC neste encontro reforza o seu compromiso cunha investigación e unha innovación tecnolóxica que incorporen criterios de igualdade, diversidade e responsabilidade social, e co desenvolvemento de tecnoloxías que teñan en conta o impacto que poden xerar sobre as persoas e a sociedade.