Vivir en tiempos de inteligencias artificiales

Vuelvo a escribir en ETC by VOZ.COM, la revista de Empresa, Tecnología y Comunicación, en su edición de invierno.

Esta vez, en referencia a una posible salida al dilema evolutivo de las inteligencias artificiales: Que ni son neutrales ni tienen per sé que ofrecer mayores garantías que la gestión humana.

Mi tesis, que defiendo en la sección SecuriTIC de esta revista, y disponible para su lectura en PDF (ES/página 52-53), es que resulta necesario permitir que terceros puedan auditar dichos sistemas y cerciorarnos que se cumplen una serie de requisitos básicos para que podamos depositar la confianza en ellos, sin dependencias del libre albedrío (e interés) de una u otra organización.

Dejo por aquí el artículo, adobado de paso con unos cuantos enlaces.

Vivir en tiempos de inteligencias artificiales

Si alguien nos hubiera dicho hace un par de décadas que el mayor medio de comunicación no sería un periódico, sino una red social, o que la mayor compañía de transporte privado apenas iba a tener vehículos a su nombre, seguramente lo hubiéramos tachado de loco.

Cosa que nos ocurre actualmente con todos aquellos que señalan que eso de conducir un coche será pronto una labor no de personas, sino de máquinas. Que quien decidirá si somos adecuados para un puesto de trabajo, o para el acceso a una hipoteca, no será de carne y hueso. Y que por supuesto, tampoco lo serán aquellos que a día de hoy realizan tareas tan rutinarias como formar parte de una cadena de producción o pasar el código de barras por una caja registradora.

La tecnología, y en especial, los avances en inteligencia artificial, están ya destruyendo puestos de trabajo, y aunque también generan nuevos, no lo harán al mismo nivel.

Esto conlleva varias lecturas que pueden o no gustarte, pero que son un hecho:

La más obvia, que el sistema social que durante siglos ha dirigido el sentir de nuestra civilización, se está tambaleando. No por la aparición de una élite dirigente y una clase obrera trabajadora (véase la relación que en su día tuvieron los nobles y los vasallos de la Edad Media, o sus adinerados descendientes y los esclavos de algunos siglos posteriores), sino por el surgimiento de un sistema económico capaz de sustentarse por sí mismo, sin el sudor y sin la batuta del hombre. Un entorno difícil de conciliar con esa necesidad vital, implantada a fuego en nuestro cerebro, de encontrar nuestro puesto dentro de la sociedad.

Yo soy Pablo, analista de información. Pero quizás llegue el día en el que tenga que plantearme que quizás solo soy Pablo, sin ninguna otra coletilla. Cosa que presumiblemente nos acabará pasando a todos.

El otro punto que me parece interesante señalar, y en el que quería centrar el discurso de este artículo, es en los riesgos que conlleva el delegar el destino de cada vez más facetas de nuestras vidas en máquinas y no en seres humanos.

Máxime a sabiendas que la tendencia actual es la de dotar a estas inteligencias artificiales de una suerte de neutralidad mesiánica que realmente no tienen, como si hubieran sido creadas por una inteligencia ajena a las limitaciones, sesgos y prejuicios de nuestra sociedad.

Inteligencias artificiales que están aprendiendo el mundo que les rodea utilizando los ojos de aquellos que han desarrollado su código, y en base a un universo de datos lo más heterogéneo posible, sí, pero profundamente sesgado.

Habría casos para aburrir, y lamentablemente solo tengo dos páginas, por lo que recurriré a plantarte únicamente la semilla del interés, con la esperanza de que crezca y acabe empujándote a buscar más del asunto. Porque hablamos de sistemas de recomendación como el de Google, en el que se tiende a favorecer el posicionamiento de enlaces con opiniones consideradas políticamente incorrectas (los afroamericanos son racistas, Hitler no era tan mal como parece…) frente a otras aparentemente menos sesgadas, o coches autónomos que bajo la tesitura de tener que elegir ante un accidente causar el menor daño a su tripulante (un hombre) o al coche contrario (donde viaja una familia con niños pequeños), quizás se bloquee, o decida darle prioridad al menor número de bajas (lo que significa poner en peligro a su dueño), o justo lo contrario (lo que significa anteponer los intereses de su dueño a los de la sociedad).

El problema de fondo es que el ciudadano desconoce por completo el ámbito de actuación de estas inteligencias. Protegidas bajo patentes y licencias únicamente de explotación, estamos exponiéndonos cada vez más a sistemas que deben tomar decisiones en base a algo que solo la compañía conoce. Un algo que quizás en un momento dado reme a favor de nuestros intereses, pero que quizás en otro vaya a favor de los intereses propios de esa organización, aunque ello suponga ir directamente en contra de los nuestros.

Bajo este prisma, Tim O’Reil (EN), un conocido experto en IAs, propone una serie de reglas que cualquier sistema inteligente debería cumplir para llegar al mercado:

1. Sus creadores han aclarado el resultado que buscan, y es posible para observadores externos verificar ese resultado.
2. El éxito es medible.
3. Los objetivos de los creadores del algoritmo están alineados con los objetivos de los consumidores.
4. Permite el algoritmo llevar a sus creadores y usuarios a una mejor toma de decisiones a largo plazo.

Cuatro reglas que curiosamente no se cumplen en prácticamente ningún sistema actual. O al menos, nos es imposible saber si en efecto se están cumpliendo.

Lo que supone, de facto, un cambio radical en la forma en la que habría que diseñar los sistemas de inteligencia, habida cuenta de que deben permitir que terceros auditen el código y la respuesta que tendrían frente a múltiples situaciones.

Para llevarlo a cabo, además del compromiso de la industria, haría falta una legislación que se adecuara a dicha necesidad. Una óptica distinta que, recalco, no debería verse como nociva por parte de las compañías, sino justo lo contrario.

Porque ¿qué más quiere una organización que gozar de la confianza de su consumidor? Máxime a sabiendas que esta apertura podría ayudarles a localizar fallos antes de que se produjeran problemas reales. Máxime a sabiendas de que en juego ya no están solo unos cuantos millones de dólares, sino también vidas humanas. Y máxime a sabiendas que es el camino a seguir para esbozar el futuro de la nuestra civilización.

Un futuro muy prometedor, cercano a la promesa de una sociedad basada en la abundancia… siempre y cuando se tomen las medidas oportunas.