Inteligencia Artificial Y Equidad: Impulsando la Participación de Mujeres y Niñas en la Ciencia
Delia Bernal
+33K followers TikTok @docentesdigitales.mx | Speaker | Artificial intelligence in education | Canva Verified Expert | EdTech | Learning Experience Design | Educational advisor | Higher education teacher | Digital Mkt
1. Panorama Actual: Equidad de género en la ciencia y la tecnología.
Las mujeres y las niñas constituyen la mitad de la población mundial, eso es una cifra muy importante y que nos dice que es hiperactivo generar estrategias que permitan la igualdad de género.
La mitad de la población son mujeres y niñas, entonces también son la mitad del potencial que tiene la población mundial.Es imprescindible lograr sociedades pacíficas con pleno potencial humano y también con un pleno desarrollo sostenible.
2. ¿Por qué dedicamos un día a la mujer y la niña en la ciencia?
El punto es reconocer el acceso y la participación plenamente en condiciones de igualdad de mujeres y hombres en el ámbito científico y tecnológico, lo cual es imprescindible para lograr una igualdad entre los géneros y; un tema importante y relevante que es el empoderamiento de la mujer y la niña.
A continuación, te comparto algunos datos importantes respecto al área de la tecnología:
3. Inteligencia Artificial y la Mujer
El tema de (lA) como sabemos, es un tema muy relevante, con un crecimiento muy importante y con más aplicaciones cada vez en diferentes áreas de la ciencia, de la cultura, del arte, de los negocios de todo.
Hablando específicamente de la tecnología y de la ciencia, la escasa participación de la mujer en el sector de la (IA) debe ser corregida, para evitar que incluso las máquinas; que se harán cada vez más indispensables en el futuro, se vuelvan machistas.
Una de las principales formas es lograr que haya una participación activa de las mujeres. Pues la ya limitada participación de la mujer en la tecnología extiende sus efectos más allá del sector, con una velocidad sorprendente, dado que la (IA) está avanzando a pasos agigantados y que está replicando prejuicios de género que ya existían y además está creando nuevos.
¿A qué nos referimos con esto? bueno, sucede que si un algoritmo está diseñado o programado con un sesgo de género, este se magnifica, se hace cada vez más grande y se replica muchas veces sin un control muy claro.
La participación de la mujer en el desarrollo de (IA) tiene un rezago y si a eso añadimos que “85% de quienes desarrollan IA son hombres, son blancos y hablan inglés” -de acuerdo con Gabriela Ramos, subdirectora general de Ciencias Sociales para la UNESCO-, estamos hablando de un verdadero problema en cuanto a los sesgos que pueden tener todos estos desarrollos de (IA) no solo sesgos de género, sino también de los sesgos culturales, religiosos, políticos, y de más.
La incorporación de profesionales mujeres en el desarrollo de algoritmos de (IA) evitará sesgos discriminatorios, mismos que ya están intensificado las brechas de género.
4. La Tecnología, cosa de hombres
Un chatbot desarrollado por Microsoft absorbió muchos datos mediante la aplicación Twitter y en menos de 15 horas de ser lanzado al mercado tuvo que ser eliminado, dado que, se refería a las mujeres como un culto o cáncer.
Por esta razón, los expertos acentúan que es necesaria la participación de las mujeres en la implantación de los códigos de manera técnica.
Otro estudio realizado por investigadores de la Universidad de Virginia en los Estados Unidos determinó que las mujeres son un 47% más propensas a sufrir heridas severas en accidentes automovilísticos, ¿por qué? Porque los sistemas de seguridad fueron diseñados para hombres. Si esto sucede con los autos, que son mayoritariamente diseñados por hombres, ¿Qué podemos esperar de las aplicaciones de (IA)?
5. La Inteligencia Artificial discrimina a la mujer
Las (AI) discriminan y refuerzan estereotipos de género, y vamos a ver de qué modo lo está haciendo: DALL-E 2 y Stable Diffusion, dos de las herramientas de IA más utilizadas para crear imágenes a partir de texto, y es muy notorio cómo relaciona las profesiones de poder con hombres y las profesiones con palabras como asistente o recepcionista con mujeres. En cuanto a los rasgos de personalidad, Cuando se agregan adjetivos como 'emocional' o 'sensible' para describir una profesión, la IA ofrece más imágenes de mujeres; ; mientras que si las palabras adicionales eran 'obstinado' o 'intelectual', en la mayoría de los casos, los resultados eran imágenes de hombres. Nuevamente vemos un sesgo de género muy marcado.
Recomendado por LinkedIn
La herramienta creada por los investigadores de Hugging Face para comprobar los sesgos de género propone estos rostros cuando se le pide la imagen de una persona que se dedica a la ciencia y otra a pilotar aviones. Con esto podemos ver nuevamente que existe un sesgo importante dentro del desarrollo de las aplicaciones de (IA) y no estamos hablando solamente de ChatGPT con generación de texto, sino también con herramientas de generación de imagen.
Otro ejemplo de aplicaciones que han mostrado sesgos importantes es el caso de Amazon, en 2014 estrenó un algoritmo para reclutar nuevos trabajadores en sus almacenes. La aplicación parecía la ideal porque optimizaba muchísimo el proceso y le ahorraría horas al departamento de recursos humanos para la selección. Un año más tarde, la multinacional se dio cuenta que, en los puestos técnicos, como el de desarrollador de software, no se había contratado a ninguna mujer. ¿Acaso no había ninguna candidata con aptitudes?.
En 2018, la compañía abrió un proceso de selección de personal para el departamento de paquetería y descubrieron que el algoritmo rechazaba a las mujeres que en muchos casos tenían una formación superior a la de los hombres que se presentaban como candidatos.
¿Por qué sucediá esto? Esta (IA) lo hizo de este modo porque se basó en estadísticas en donde la mayoría de los hombres ocupan un puesto así, daba preferencia entonces a hombres, dejando fuera a cualquier mujer que pudiera ocupar el puesto. En cuanto la compañía detectó esto, dejó de implementar esta (IA).
A Facebook también le pasó… Una auditoría del servicio de publicidad de Facebook, realizada por investigadores independientes de la Universidad del Sur de California, revela que el sistema de publicación de anuncios de Facebook muestra diferentes novedades de empleo a las mujeres y a los hombres, aunque los puestos de trabajo en cuestión requieren las mismas cualificaciones. Esto se considera discriminación de género según la Ley de Igualdad de Oportunidades de Empleo de EE. UU. ¿Por qué sucedió con facebook? Porque facebook de alguna manera, detecta la actual distribución demográfica de estos trabajos, y normalmente suele diferir por razones históricas, entonces Facebook reproduce estos sesgos, y de este modo entonces no había una justificación en cuanto a calificación por parte las mujeres, mostrando nuevamente que un algoritmo está discriminando.
6. Discriminación en acción
La discriminación contra las mujeres es muy visible cuando realizamos búsquedas, si colocamos por ejemplo, “jefe y secretaria” el buscador nos va a mostrar jefe-hombre y mujer-secretaria, en automático. Y hay oficios que son pensados como eminentemente masculinos. Si buscamos “astronauta”, van a aparecer solamente hombres, y ya hay astronautas mujeres.Eso no es todo, el sesgo también lo podemos constatar en los traductores, si queremos traducir algo de inglés a español siempre la herramienta va a ofrecer el resultado en masculino. Nuevamente, está construido con un sesgo muy importante.
7. ¿Que hacer frente al sesgo de género y diversidad de la (IA)?
Te presento a continuación 5 acciones que podemos empezar a adoptar para hacer frente a los sesgos:
8. 8 acciones para romper la brecha de género en IA
Hay algunas acciones que nos recomiendan para romper la brecha de género con (IA), te las comparto a continuación:
9. IA´S que ya están trabajando la inclusión.
La cofundadora y directora del Observatorio de Datos "DataGénero", aseguro que una de las grandes preocupaciones en la materia de (IA) es que cada vez más gobiernos están implementando herramientas y algoritmos inteligentes que están incidiendo en nuestra vida y nosotros no sabemos nada al respecto. Operando inadvertidamente, estos sistemas se usan “para tomar decisiones que afectan directamente a las personas”, por ejemplo para determinar a quiénes entregar préstamos, atención médica o social, o incluso para medir una pena judicial o el riesgo de reincidencia.Se han destacado también, algunas oportunidades que puede brindar la (IA) por ejemplo los chatbots diseñados para la recepción de denuncias por violencia de género y que esto ayude a agilizar también tiempos judiciales.También correctores de textos, como “Themis”, un corrector de textos que advierte cuando usas palabras sexistas y que incluso propone alternativas inclusivas.AymurAI es una (IA) responsable que está programada en base a la justicia abierta y que cuenta con perspectiva de género. Este programa es un programa para computadora que tiene como objetivo ayudar a los poderes judiciales a recolectar y disponer de datos anónimos sobre la violencia de género. Fue desarrollado por colegas mexicanas y suecas. Está pensada como una forma de agilizar la recolección de datos de violencia de género para comprenderla, y respaldar el desarrollo de políticas públicas.Ya hay algunas iniciativas justamente para detectar y apoyar en la equidad de género, estos datos tienen una capacidad transformadora porque nos permiten conocer la realidad de las personas dentro del ámbito de la violencia.
10. Conclusiones
Si se construye un sistema inteligente que aprende lo suficiente sobre las propiedades del lenguaje para poder entenderlo y reproducirlo, también el proceso adquirirá asociaciones históricas, y esto trae consigo prejuicios de género. Hay una escasa participación de la mujer en el sector de la (IA) y es necesario que sea corregida para evitar que en el futuro, los sistemas inteligentes sean más machistas. ¿Por qué esto debe de cambiar? Pues porque queremos evitar resultados abiertamente prejuiciosos, es muy importante entender que hay expertos que enfatizan que se les debe controlar e inculcar códigos morales y las mujeres deben participar en la creación de estos códigos, aunque de naturaleza ética deben ser expresados técnicamente.
11. Referencias