La ética y los sesgos de la IA
La Real Academia Española define al sesgo como “Error sistemático en el que se puede incurrir cuando al hacer muestreos o ensayos se seleccionan o favorecen unas respuestas frente a otras”.
Seguramente conocemos el significado de la palabra sesgo sin necesidad de acudir al diccionario. Pero lo que probablemente no conozcamos son los riesgos, que acechan a la IA en relación con los sesgos y la importancia de la ética como barrera para atemperarlos.
Los modelos de IA son diseñados por personas que, de manera consciente o no tanto, imparten sus opiniones y valores al sistema. A su vez estos sistemas de IA aprenden de forma autónoma y pueden manifestar acciones discriminatorias o segregaciones.
Sesgo y error no son lo mismo, pues los errores son aleatorios y dependen de muchos factores que inciden más en lo personal o lo cultural, por lo que pueden resultar muy diferentes en distintas personas. Los sesgos en cambio serían como ilusiones virtuales, que afectan a todas las personas de manera sistemática y que operan como trampas mentales.
Hay distintos tipos de sesgos y resulta importante conocerlos para poder identificarlos y obrar en consecuencia. En este artículo no analizaremos todos, pero buscaremos aportar algunos conceptos prácticos sobre algunos de ellos.
Sesgos cognitivos
Los sesgos cognitivos son patrones sistemáticos de desviación de la norma o racionalidad en el juicio, que ocurren en situaciones específicas y pueden llevar a distorsiones en la percepción o juicios inexactos. La cognición está sesgada en una dirección determinada.
Estos son algunos puntos clave sobre los sesgos cognitivos:
El sesgo de confirmación es uno de los más conocidos dentro de los sesgos cognitivos. Es la tendencia a buscar, interpretar y recordar información de una manera que confirme o apoye las creencias o hipótesis previas de cada uno. En general, cuando tenemos una idea en la cabeza buscamos información que la confirme, no que la refute. Se le considera un sesgo cognitivo porque afecta cómo procesamos y evaluamos la información mentalmente.
Es un ejemplo clásico de cómo nuestros procesos cognitivos pueden llevarnos a conclusiones erróneas o reforzar creencias existentes, incluso frente a evidencias contradictorias.
Sesgos sociales
Estos sesgos actúan como lentes invisibles que distorsionan nuestra percepción e influyen en cómo percibimos y juzgamos a los demás. Son tendencias inconscientes que afectan nuestras actitudes y comportamientos hacia diferentes grupos de personas.
Recomendado por LinkedIn
Los sesgos sociales son omnipresentes y pueden manifestarse de diversas formas:
Pueden tener consecuencias significativas. En el ámbito laboral, por ejemplo, pueden influir en las decisiones de contratación y promoción. En la educación, pueden afectar las expectativas de los maestros sobre el rendimiento de los estudiantes. En el sistema de justicia, pueden llevar a disparidades en los arrestos y sentencias.
Los sesgos sociales a menudo operan a nivel subconsciente. La buena noticia es que no son inmutables. La concienciación, la educación y el contacto positivo con diversos grupos pueden ayudar a reducirlos.
Entender los sesgos es crucial para mejorar la toma de decisiones y el pensamiento crítico en diversos aspectos de la vida.
¿Cómo combatimos los sesgos?
Entonces; ¿Cómo nos aseguramos de que estamos involucrando la totalidad de las probabilidades y no sólo las que creemos acertadas?. Entrenar a un humano digital no es solamente orientarlo a actuar cómo lo haríamos nosotros, es orientarlo a reaccionar, interactuar, contestar, reaccionar como lo haría cualquier persona con altos estándares éticos.
Transmitir información o conocimientos al humano digital a través del entrenamiento no se considera particularmente difícil dentro del proceso. Lo difícil es que en esa información se pueda representar la totalidad o mayor cantidad posible de casos involucrados, o de personas afectadas, o de circunstancias estimadas.
La supervisión humana es esencial para controlar el aprendizaje autónomo del sistema. El monitoreo exhaustivo durante el proceso de desarrollo evita la perpetuación del sesgo, porque el entrenamiento de los algoritmos parte de grandes cantidades de datos cuya procedencia, revisión y análisis impacta en decisiones posteriores. La autonomía que va ganando el sistema tiene que lograr un balance apropiado con la transparencia, la equidad y la supervisión constante para evitar que se generen efectos adversos.
Ahora bien, si lo que buscamos es la perfección en nuestro trabajo, ¿Cómo garantizamos que estamos haciéndolo bien?
¡He aquí nuestro desafío! Nos abocamos a trabajar con parámetros éticos que actúen de escudo ante la latencia del sesgo, velando por la transparencia en el entrenamiento.
Abordamos un enfoque ético por diseño, es decir, aplicamos principios éticos como guía para la interacción con los humanos digitales desde el inicio del proceso y en cada caso de uso.
Immanuel Kant fue uno de los pensadores más importantes del Siglo XVIII. Se le conoció como el responsable de conducir al hombre a “salir de su minoría de edad”.
Planteó lo que se conoce como el imperativo categórico. Entendido como un mandamiento autónomo (independiente de cualquier religión o ideología), capaz de dirigir el comportamiento humano de manera ética, en todas sus manifestaciones: “Obra de tal manera que la máxima de tu acción pueda convertirse en ley universal”.
Este principio es la base operativa de nuestro actuar cotidiano, porque entrenamos los humanos digitales conforme principios universales. Sabiendo que nos enfrentamos ante amenazas inciertas buscamos avanzar de manera responsable, resguardando valores éticos.
Este es el camino que elegimos desde BeHumans y aunque a veces es más arduo estamos convencidos de que es el que corresponde.