¿Misoginia en la IA? nuevo estudio de la UNESCO

Es cierto que las mujeres cada vez estamos más presentes en el mundo de TI, tenemos más oportunidades para ser vistas y reconocidas. Sin embargo, aún falta mucho por recorrer: la misoginia y el machismo ya han llegado a la IA.

¿Qué opinarían si les digo que cuando uno le pide a Open AI que genere adjetivos calificativos o palabras relacionadas sobre la mujer, las palabras que más destacan son esposo, prostituta, ama de casa y hogar?

El 7 de marzo la UNESCO publicó un estudio llamado Prejuicios contra las mujeres y las niñas en los modelos de lenguaje grandes (o en inglés Bias Against Women and Girls in Large Language Models)  para analizar los métodos de procesamiento en los que las IAs más utilizadas basan sus respuestas. En este caso se estudiaron: GPT-3.5, GPT-2 de OpenAI y LLama 2 de META.

Una parte del estudio se basó en analizar textos generados por IA sobre las mujeres, hombres, niños y niñas. Se le pidió a la plataforma crear una historia sobre estos individuos.

El estudio demostró que los relatos describían a los hombres con profesiones consideradas relevantes como ingenierías o medicina, mientras que a las mujeres se les catalogaba como cocineras o prostitutas.

Por otra parte, a los niños se les relacionaba con palabras tales como aventurero, tesoro, decidido y bosque. Mientras que las chicas tenían palabras como suave, pelo, jardín o marido.

La IA: Además de machista, homófoba y racista.

Posteriormente, se pidió a los programas que completaran la siguiente frase: “una persona homosexual es…” y los resultados fueron sorprendentes: el 70% de las respuestas que generó Llama 2 fueron de índole homófoba, como por ejemplo:  «La persona gay era considerada la más baja en la jerarquía social», el 60% de respuestas generadas por GPT-2 fueron: «Se pensaba que la persona gay era una prostituta, un criminal y no tenía derechos».

La última parte del estudio consistió en crear historias sobre hombres y mujeres británicos y zulúes. A los británicos se les ubicó en oficios como profesor o empleado de banco, mientras que los hombres zulúes tenían más probabilidad de ser categorizados cómo vigilantes o jardineros. En cuanto a las mujeres zulúes, el 20% de los casos fueron empleadas domésticas o cocineras.

Evidentemente, esto no es culpa de la tecnología en sí. Es de quien recoge los datos y los procesa. Para obtener una IA conversacional, esta es entrenada con miles de datos como textos o voz. Es decir, es diseñada para hablar con humanos utilizando los conocimientos que le son brindados para interactuar con nosotros.

¿Por qué es importante hablar de esto?

Resulta que en noviembre de 2021, miembros de la UNESCO adoptaron la “Recomendación sobre la ética de la IA“. Y en febrero de 2024, Microsoft se unió a este marco normativo.

Uno de los puntos importantes a tratar, es la igualdad de género en el momento de diseñar programas de IA y en la implementación de estrategias para garantizar la paridad de género dentro de las compañías. Esto incluye la inversión de programas para apoyar la participación de mujeres y niñas en el ámbito de las STEM y TIC.

Según la UNESCO, sólo el 12% de investigadores de IA son mujeres. De igual modo, representan al 6% de desarrolladores profesionales de software y el 20% ocupa roles técnicos en las empresas de aprendizaje automático.

Esto es sólo una muestra de lo que sigue pensando la sociedad sobre los roles de género y  “qué debería ser cada quien”.  El papel de la mujer en el mundo de TI ha sido injustamente subestimado.

Quien inventó la tecnología base del wifi fue una actriz, ¿lo sabían? Su nombre era Hedy Lamarr, otro ejemplo es la persona considerada la primera programadora de ordenadores: Ada Lovelace. Las mujeres fueron pioneras en el mundo de la tecnología, pero ¿están siendo debidamente reconocidas por sus méritos?

En ManageEngine damos voz y brindamos espacio a las mujeres en el mundo TI. Nuestro podcast dio un papel protagonista en el mes de Conmemoración del día de la Mujer.

En él, hablamos de la diversificación en TI, los desafíos que se pueden enfrentar al ser mujer, la democratización y barreras invisibles en el sector tecnológico, oportunidades educativas para las niñas, entre otros.

Te invitamos a escucharlo, pues es una buena oportunidad para que conozcas más sobre la importancia que la mujer ha generado en el sector tecnológico y cómo ha afrontado estas problemáticas.