El riesgo de sumar a Geoffrey Hinton a los apocalípticos de la inteligencia artificial

Después de la entrevista del lunes en The New York Times ('The Godfather of A.I.' Leaves Google and Warns of Danger Ahead), El País publica la suya este domingo (Geoffrey Hinton: "Si hay alguna forma de controlar la inteligencia artificial, debemos descubrirla antes de que sea tarde"). El científico británico acaba de abandonar Google, donde durante una década fue vicepresidente de ingeniería, para sentirse liberado a la hora de advertir de las amenazas de la inteligencia artificial. La suya es una voz autorizada y nada sospechosa de ser contraria a la IA. Considerado como el 'padrino' de la inteligencia artificial de Google, las últimas declaraciones de Greoffrey Hinton [Wikipedia] coinciden en el tiempo con la llamada a capítulo de la Casa Blanca a los principales directivos de las tecnológicas implicadas en el desarrollo de la IA y los impactos mediáticos más relevantes de estas semanas vertiginosas. La popularización de herramientas como ChatGPT de OpenAI y la irrupción entre el gran público de un debate que se ha acelerado últimamente viene acompañado del predominio de un mensaje del miedo atizado por la mayoría de medios de comunicación europeos.

@geoffreyhinton, que en 2018 recibió el Premio Turing, pide que se descubra lo más pronto posible la manera de controlar la inteligencia artificial porque teme que el proceso de aprendizaje de los ordenadores sea más eficiente que el funcionamiento del cerebro humano a partir de los próximos cinco años. Hasta ahora calculaba que la IA superaría la inteligencia humana en 30 o 50 años. Por lo tanto, las palabras del hasta ahora vicepresidente de ingeniería de Google, que se ha instalado en Londres, deben ser tenidas en cuenta. Pero vigilemos con el uso de sus declaraciones por parte de los catastrofistas o apocalípticos (Hablamos del posible fin de la historia humana), porque Hinton hace un advertimiento sobre el uso de la tecnología más que no sobre la propia tecnología y plantea dudas razonables con la prudencia que deberían mantener empresas enloquecidas por "la competencia que provoca el capitalismo" y la inteligencia de gobiernos incapaces de reaccionar ante retos menores al de la IA.

Lo suyo, pues, no es un cheque en blanco a los propagandistas del apocalipsis. De hecho, deberíamos interpretar su posición también en función de la pugna entre Google y OpenAI, teniendo en cuenta que Microsoft ha dejado la exempresa donde trabajaba Hinton descolocada con ChatGPT y la integración a toda la oferta de la compañía multinacional de informática fundada por Bill Gates y Paul Allen. Google rechazó lanzar productos basados en LaMDA porque consideraba que una tecnología con este potencial debía estar mejor controlada, pero la alianza de OpenAI de Sam Altman con Microsoft lanzó ChatGPT sin tantos reparos, con una lógica más de Silicon Valley de prueba y error. ¿Realmente lo hizo por cuestiones éticas? ¿O fue un descuido de Google?

Las palabras de Geoffrey Hinton, el ingenuo manifiesto pidiendo una parada de seis meses en inteligencia artificial, y las voces dirigidas a empresas tecnológicas y gobiernos a reflexionar sobre las implicaciones éticas, sociales y económicas de la IA ponen de relieve la importancia de una discusión abierta y transparente sobre las ventajas y riesgos de esta tecnología, así como la necesidad de establecer un marco regulatorio que garantice su uso responsable. En este sentido, es fundamental tener en cuenta las siguientes cuestiones:

• Privacidad y vigilancia: La IA puede ser utilizada para mejorar la seguridad, pero también puede poner en peligro la privacidad de los ciudadanos si se hace un uso inapropiado de la tecnología.
• Automatización y desempleo: La IA puede aumentar la eficiencia en la industria y otros sectores, pero también puede provocar la pérdida de empleos y la desigualdad social si no se gestionan adecuadamente estos cambios.
• Sesgos y discriminación: Las aplicaciones de IA pueden perpetuar y amplificar sesgos existentes si no se toman medidas para garantizar la neutralidad y la justicia en los datos y algoritmos utilizados.
• Ética y responsabilidad: Es necesario establecer principios éticos y marcos regulatorios que aseguren la responsabilidad de los desarrolladores, empresas y gobiernos en el desarrollo y uso de la IA.
• Seguridad y ciberseguridad: La IA puede ser utilizada tanto para proteger como para atacar sistemas informáticos, por lo que es crucial abordar los riesgos de seguridad y ciberseguridad que esta tecnología puede comportar.

Transparencia y explicabilidad: La IA debe ser transparente y comprensible para las personas que la utilizan, garantizando que las decisiones basadas en esta tecnología sean justas, equitativas y respetuosas con los derechos humanos.

El debate en curso y el manifiesto sobre la IA reflejan la importancia de abordar estas cuestiones en nuestro camino hacia un futuro impulsado por la inteligencia artificial. Los científicos, las empresas y los gobiernos deben trabajar juntos para desarrollar políticas y estrategias que aseguren que la IA sea una fuerza positiva en nuestra sociedad y no una amenaza para la libertad, la igualdad y el bienestar de las personas.

La salida de Geoffrey Hinton de Google y sus advertencias sobre los peligros de la IA son un recordatorio oportuno de la necesidad de un debate serio y una reflexión crítica sobre el impacto de la inteligencia artificial en nuestra sociedad. Como sociedad, debemos ser conscientes de los desafíos que enfrentamos y trabajar juntos para asegurar que la IA sea desarrollada y utilizada de manera responsable y ética, garantizando un futuro próspero y justo para todos. Pero no corramos a agregar personalidades como Hinton al cajón de los apocalípticos y catastrofistas sobre la IA. A menudo mezclamos críticos con la inteligencia humana (control y regulación) con la inteligencia artificial (tecnología).