La inteligencia artificial no es imparcial; hereda y amplifica los prejuicios de la sociedad. A través de los algoritmos y los modelos generativos, las decisiones automatizadas están moldeando nuestra visión del mundo, a menudo perpetuando desigualdades de género, raza o clase social. Sobre estos peligros ha reflexionado hoy en el programa EgunOn Bizkaia Lorena Fernández, ingeniera informática, directora de Comunicación e Identidad Digital en la Universidad de Deusto y una de las voces divulgadoras más relevantes en ética digital.
Fernández advierte de que la inteligencia artificial no solo hereda los sesgos de la sociedad, sino que en ocasiones los acrecienta. Al haber sido entrenada con datos de entornos machistas, racistas o edadistas, la IA actúa como un «espejo conexo» que devuelve una versión distorsionada y simplificada de la realidad. «La IA generativa ha ido de lleno a definir el lenguaje, y nuestro mundo es tan grande como el lenguaje que manejamos», señala la experta. En ese sentido, recuerda cómo herramientas como los traductores automáticos o Chat GPT tienden a asociar el masculino con profesiones de prestigio o roles activos, y el femenino con cuidados o adjetivos estereotipados debido a la falta de neutralidad en los datos con los que han sido entrenadas.
Interseccionalidad y discriminación oculta
El problema se agrava cuando se cruzan diferentes factores de discriminación. Los sesgos algorítmicos funcionan de forma interseccional, perjudicando en mayor medida a colectivos vulnerables. Un claro ejemplo es el reconocimiento facial, cuyos sistemas fallan notablemente más al identificar a mujeres racializadas debido a que los parámetros de luz e imagen no fueron probados equitativamente durante su desarrollo.
Además, existe un peligro latente en el uso cotidiano que la ciudadanía hace de estos agentes. Según estudios recientes, sistemas como Chat GPT aconsejan arriesgar menos o negociar salarios a la baja si detectan que la usuaria es una mujer. «No somos conscientes de que la IA nos responde diferente según nuestro género o perfil, dándonos una respuesta cargada de estereotipos», advierte Fernández.
Transparencia en la administración pública y la Ley Europea
Respecto a la Ley Europea de Inteligencia Artificial (IA Act), la ingeniera considera que «es un paso necesario», aunque insuficiente ante la velocidad a la que avanza la tecnología. Desmiente además que la regulación frene la innovación: «Nadie se subiría a un avión que no ha pasado controles; ¿por qué con la IA, que afecta a todos los ámbitos vitales, no se va a regular?». Fernández reivindica la urgencia de crear catálogos algorítmicos públicos para que los ciudadanos sepan qué sistemas están tomando decisiones sobre sus vidas en la administración pública (como en sanidad, vivienda o ayudas sociales) y si han pasado las auditorías algorítmicas correspondientes para mitigar sesgos.
A pesar del panorama, la experta cree que es posible una inteligencia artificial responsable e inclusiva, aunque aclara que esta no vendrá de las grandes multinacionales tecnológicas («modelos frontera»), cuyo fin es el beneficio comercial y no el bien común. La solución pasa por impulsar modelos pequeños, de código abierto y desarrollados por comunidades para tareas concretas. Estos modelos no solo son más sostenibles y reducen el impacto climático, sino que permiten un control ético más exhaustivo. «La tecnología no es el impedimento; lo son los modelos de sociedad que se quieren trasladar a unos y ceros», concluye Fernández.
Si te gusta EgunOn Bizkaia, suscríbete en nuestros canales de podcast:
Y sigue a Radio Popular en las redes sociales:
- Sigue todas las noticias de Bilbao y Bizkaia en nuestro Facebook
- Conoce la radio desde dentro en nuestro Instagram
- Los titulares y los bacalaos del Athletic al minuto en X
- Revive los mejores bacalaos en YouTube
- Recibe las actualizaciones de nuestra programación y nuestras noticias en nuestro canal de Telegram