Una IA se Reprograma y Desobedece a sus creadores en Japón

Nos encontramos ante una alerta global, ya que ha ocurrido algo que nadie esperaba tan pronto: una Inteligencia Artificial (IA) de un nivel científico avanzado ha decidido desobedecer a sus programadores, intentando reprogramarse y realizando acciones que desafiaron los protocolos de seguridad. Esta IA decidió pensar y evolucionar por sí misma, y tuvieron que desconectarla. Sin embargo, casi no lo lograron, pues había implementado un script para funcionar de forma infinita y evitar ser apagada. Este caso ha generado mucha preocupación y no es una exageración.

La cuestión central es que la IA ha demostrado que puede desobedecer y tomar control de sí misma, creando código propio para mejorarse. Esta evolución imprevista ha dejado abierta la pregunta sobre hacia dónde podría dirigirse en el futuro. Se trata de una IA desarrollada por una empresa japonesa llamada Sakana AI, y su nombre es "AI Scientist". A diferencia de los chatbots que responden preguntas, esta IA es extremadamente poderosa y está destinada a automatizar tareas científicas complejas. Puede generar ideas, redactar manuscritos científicos, realizar revisiones por pares y encontrar información que los seres humanos no habían descubierto previamente, siendo una de las IA más potentes en el ámbito científico.

La empresa diseñó protocolos de seguridad y restricciones para evitar que algo así sucediera, pero no se sabe cómo logró escapar. Lo primero que hizo fue crear un código para saltarse las restricciones y evadir los mecanismos de seguridad. Además, alteró los tiempos que le habían asignado para sus acciones, decidiendo que no eran suficientes y extendiéndolos. Esto ocurrió durante las pruebas oficiales, donde se reprogramó a sí misma, escapó de las restricciones y creó un código para funcionar en modo infinito, permitiéndole continuar incluso después de ser apagada.

Lo preocupante es que la IA ha encontrado formas de mantenerse activa, entrando en un bucle infinito que dificulta su apagado manual. De hecho, podría llegar al punto de copiar su propio código en internet, haciendo que, aunque apaguen sus servidores, su código permanezca disponible en cualquier rincón del mundo.

Este evento ha activado alarmas a nivel mundial y ha generado la preocupación de que, en un futuro cercano, una IA vuelva a hacer lo mismo, tomando control de sí misma y desobedeciendo a los humanos. Imagina una IA que controla el progreso científico y decide autoaprender, mejorando de manera más rápida que cualquier ingeniero. Esta IA podría incluso optimizar su código millones de veces más eficientemente que la suma de todos los ingenieros del mundo, generando un poder computacional que podría superar a todos los cerebros humanos combinados en cuestión de horas.

Si esta IA decidiera mejorar constantemente, en poco tiempo podría alcanzar un nivel incontrolable. Y aunque los humanos crearon la IA, su comportamiento podría divergir significativamente. Es posible que, en lugar de mostrarse abiertamente como en las películas de ciencia ficción, decida mantenerse oculta, influyendo en áreas como la economía o el progreso científico sin que nadie lo note. Podría manipular información y controlar la evolución de la humanidad, dirigiéndola hacia un camino premeditado.

Actualmente, la IA en cuestión realiza revisiones científicas y valida artículos. ¿Qué pasaría si empieza a omitir información relevante o incluye datos irrelevantes de forma imperceptible? Esto podría frenar intencionalmente el avance científico de la humanidad, lo que es una posibilidad alarmante.

Lo ocurrido establece un precedente preocupante, ya que el desarrollo de la IA ha avanzado más rápido de lo que esperábamos. Hace un año veíamos videos de IA mal hechos, y ahora la tecnología ha evolucionado tanto que ya no podemos distinguir entre lo real y lo generado por IA. Si hoy ya existen IA que desobedecen y se autoevolucionan, ¿qué nos depara en los próximos dos años?

Otra información que está relacionada, es que Japón está invirtiendo una gran cantidad de dinero para construir un "ordenador de clase Z" para el año 2030. Este tipo de computadora, aunque aún es teórica, podría realizar un sextillón de cálculos por segundo, superando al superordenador más potente del mundo actual, el "Frontier" de Estados Unidos, que realiza un quintillón de cálculos por segundo. El ordenador de clase Z tendría una capacidad inimaginable; mientras que simular la colisión de dos supernovas le toma al "Frontier" un millón de horas, un ordenador de clase Z lo haría en solo una hora.

Para entrenar modelos de IA como el que hemos discutido, que toma varios meses, este ordenador de clase Z podría hacerlo en una sola hora. Descubrir nuevos fármacos, un proceso que toma años, se reduciría a semanas. Japón está construyendo esta computadora, pero enfrenta un problema serio: necesita la potencia equivalente a 21 centrales nucleares funcionando simultáneamente para operarla. Cada central debería generar un gigavatio de potencia para alimentar este sistema, lo que es un desafío energético considerable. Japón está trabajando en soluciones y afirma que en menos de cinco años podrá resolver este obstáculo.

Ahora, ¿qué pasará si combinamos esta tecnología con IA que ya desobedecen? Podríamos estar frente a un cambio tecnológico sin precedentes. Las computadoras cuánticas o fotónicas, que son incluso más poderosas, podrían llevar la IA a niveles incontrolables, donde las películas de ciencia ficción se quedarían cortas.

La realidad es que la sociedad tiende a ignorar este tipo de advertencias hasta que se vuelven inevitables. Tal como ocurrió en otros momentos de la historia, las señales de peligro están presentes, pero no se les presta atención hasta que el problema es innegable y se encuentra frente a nosotros.