La inteligencia artificial no es neutral: advierten por los sesgos que nacen detrás de los algoritmos
Expertas señalan que la baja presencia de mujeres y otros grupos históricamente excluidos en el desarrollo tecnológico puede reproducir desigualdades dentro de los sistemas de IA.
La inteligencia artificial no toma decisiones en el vacío: detrás de cada algoritmo existen personas, datos y criterios que pueden trasladar los prejuicios de la sociedad a las nuevas tecnologías. Expertas advierten que la escasa participación femenina en los equipos que desarrollan estos sistemas contribuye a la reproducción de sesgos de género y otras desigualdades.
“La inteligencia artificial no es neutral: refleja las sociedades que la diseñan, los datos con los que se entrena y las decisiones políticas que orientan su uso”, explicó Bibiana Aido, directora regional de ONU Mujeres para América Latina y el Caribe.
Según la especialista, cuando los datos utilizados para entrenar estos modelos contienen estereotipos o exclusiones, la IA puede replicarlos e incluso profundizarlos. El impacto, sostienen, no se limita a un problema técnico, sino que involucra aspectos democráticos, éticos y de derechos humanos.
Paola Ricaurte Quijano, investigadora del Tecnológico de Monterrey y coordinadora de la Red Feminista de IA para América Latina y el Caribe, señaló que los sesgos afectan especialmente a personas trans, racializadas y con discapacidad, al ampliar desigualdades que ya existen.
“Estos sesgos no son errores aislados que se arreglan con una actualización; son propiedades intrínsecas de modelos centralizados”, afirmó Luciana Benotti, profesora de la Universidad Nacional de Córdoba y especialista en auditoría algorítmica.
El problema empieza antes del algoritmo
Las especialistas explican que los sesgos aparecen mucho antes de que una inteligencia artificial genere una respuesta. Se originan en decisiones humanas: qué datos se seleccionan, qué variables se priorizan, qué problemas se buscan resolver y quiénes participan en el diseño.
“Detrás de cada sistema hay decisiones humanas: qué datos se usan, qué se mide, qué se deja afuera, quién define el problema, quién programa la solución y quién supervisa sus impactos”, sostuvo Aido.
En ese sentido, advierten que los equipos tecnológicos todavía tienen una composición poco diversa, especialmente en los cargos técnicos y de liderazgo. La falta de variedad de experiencias puede llevar a no detectar determinados riesgos o a crear herramientas que respondan solo a una parte de la sociedad.
“Los equipos homogéneos tienden a ver menos riesgos, anticipar menos impactos diferenciados y diseñar soluciones que responden a experiencias parciales”, agregó la representante de ONU Mujeres.
Una industria con fuerte predominio masculino
Ricaurte Quijano describió al desarrollo de inteligencia artificial como una industria “muy masculinizada” y remarcó que la brecha aumenta en áreas específicas, como la ciberseguridad, donde la participación de mujeres y minorías continúa siendo baja.
Para las expertas, incorporar más mujeres y comunidades históricamente excluidas no solo responde a una cuestión de representación, sino también a la necesidad de construir tecnologías más precisas y menos dañinas.
“Cuando las mujeres no participan en el desarrollo de estas tecnologías, se toman decisiones sobre el futuro digital sin sus experiencias, necesidades y conocimientos”, señaló Aido.
Otro de los puntos de preocupación es la concentración del desarrollo de los sistemas más avanzados en pocas grandes empresas tecnológicas. Benotti advirtió que esa centralización puede dejar de lado necesidades específicas de regiones como América Latina, donde muchas herramientas son creadas con criterios ajenos a los contextos locales.
Además, las especialistas alertaron que los modelos pueden reproducir desigualdades lingüísticas y culturales al estar entrenados principalmente con información proveniente de idiomas y sociedades dominantes.
Auditorías y mayor diversidad para cambiar el rumbo
Frente a este escenario, las especialistas plantean la necesidad de avanzar con auditorías algorítmicas independientes, metodologías adaptadas a cada región y una mayor participación de mujeres en todas las etapas del desarrollo tecnológico.
“Necesitamos que las mujeres participen en el diseño, desarrollo, regulación y evaluación de estas tecnologías. No puede haber decisiones sobre el futuro digital sin mujeres en la mesa”, afirmó Aido.
El desafío para América Latina, sostienen, es dejar de ser solo consumidora de herramientas creadas en otros lugares y participar activamente en la construcción de una inteligencia artificial más inclusiva.
“El futuro no se espera, se construye. Y si queremos un futuro digital justo, seguro e inclusivo, tenemos que construirlo con las mujeres y las niñas en el centro”, concluyó Aido.
About The Author
