¿Y si fuera verdad que la IA puede ser peligrosa?

Geoffrey Hinton, Premio Princesa de Asturias de Investigación Científica y Técnica junto a otros tres pioneros de la IA, considerado como el padrino de la inteligencia artificial, ha dejado su puesto en Google.

Antes de la llegada de la Inteligencia Artificial -IA-, esta situación no sería noticia, ya que por un lado tiene 75 años, y por otro, los cambios de proyectos y empresas están a la orden de día.

Es precisamente la IA lo que hace esta noticia especial, y es que según informa The New York Times, la causa de la salida de Hinton ha sido tener más libertad para poder advertir de los peligros que plantean las tecnologías que usan IA, y no perjudicar con ello a Google

El no firmó ninguna de las cartas abiertas que se presentaron a finales de marzo por parte de expertos en inteligencia artificial y ejecutivos de la industria tecnológica, entre los que estaban Elon Musk, el cofundador de Apple, Steve Wozniak, y días después en otra carta Francesca Rossi de IBM o Eric Horvitz de Microsoft.

En la famosa carta se solicitaba una pausa de seis meses en el entrenamiento de los poderosos sistemas de inteligencia artificial, argumentando que se trata de una potencial amenaza para la humanidad.

Con un ChatGPT cada vez más popular y evolucionado, considera que va a ser difícil evitar un mal uso, como está sucediendo por ejemplo con la publicación de fotos y textos falsos. En poco tiempo va a ser muy difícil reconocer la verdad y las consecuencias sin ser alarmista, no son muy positivas.

Ya no solamente están en peligro puestos de trabajo, departamentos y empresas enteras, si no que a pesar de haber limitado su uso malicioso, estas herramientas por ejemplo pueden dar información sobre acciones criminales, o generar su propio código y lo peor: ejecutarlo por si solas.

No cuento con visibilidad o capacidad de impactar en muchas mas personas de las que lean este artículo, pero me parece urgente trasladar esta información a cuantas más personas mejor, y solicitar un compromiso y actuación real e inmediato sobre algo que si tiene impacto en todas las personas y las iguala: la información y el conocimiento.

La Unión Europea está negociando ahora mismo una propuesta de la Ley de Inteligencia Artificial que se votará el 11 de mayo en los comités técnicos. Al ser un Reglamento, cuando se apruebe se aplicará inmediatamente en los 27 países de la UE sin necesidad de transponerlo a la normativa nacional.

Rescato las leyes de Asimov, porque me parece increíble que hayamos sobrepasado ya lo que planteaba en sus relatos y novelas, y que tengamos que pensar cómo controlar esta carrera sin control ni normas donde el final es literalmente impredecible.