🔵 Una corriente catastrofista sobre la inteligencia artificial en la que se encuentra, por ejemplo, el reciente premio Nobel de física Geoffrey Hinton, recela en voz alta sobre los efectos que la IA puede tener en el futuro de la humanidad si se le permite que tome decisiones propias sobre sistemas que resulten vitales para las personas. El temor de este grupo minoritario pero acreditado de científicos es que, al gobernar infraestructuras como servicios de suministro, una IA pueda anteponer intereses propios sobre los de los humanos e incluso actuar contra estos. El grado de desarrollo alcanzado por la inteligencia artificial hasta hoy no permite todavía una situación como la de una máquina con voluntad, pero existe una tendencia a probar los nuevos modelos al mando de sistemas complejos que podría ponerla a prueba. Ya están aquí.
La compañía Anthropic ha anunciado que su modelo de IA actualizado Claude 3.5 Sonnet es capaz de interactuar con un PC por su cuenta. A través de una nueva función de uso del ordenador, ahora en modo de prueba abierto a los desarrolladores de software, el modelo puede imitar las pulsaciones de teclas, los clics de botones y los gestos del ratón. Exactamente como si el computador fuera utilizado por un ser humano. La utilización de estos “agentes de IA” se ha convertido en una carrera entre compañías. “Hemos entrenado a Claude para que vea lo que ocurre en la pantalla y utilice las herramientas de software disponibles para llevar a cabo las tareas”, explica Anthropic en su blog.
Pero la propia compañía advierte a quienes lo prueban que está función de la IA como principal fuerza decisoria ante la máquina “plantea riesgos únicos” que además “aumentan cuando se utiliza el ordenador para interactuar con internet”. Así que Anthropic propone tomar varias precauciones varias, como evitar dar al modelo acceso a datos sensibles, “como información de inicio de sesión de cuentas, para evitar el robo de información”, limitar el acceso a internet a una única lista de dominios permitidos y que un humano “confirme las decisiones que puedan tener consecuencias significativas en el mundo real”. A partir de aquí empiezan a surgir dudas entre quién debe controlar una máquina como un ordenador personal. Por ejemplo: ¿dejaríamos a una IA el poder de controlar nuestras cuentas bancarias?
Google también prepara su propia versión de agente de IA para el mes de diciembre, según The Information. El proyecto, que se llama Jarvis -como la IA de Iron Man- haría tareas en lugar del usuario como “recopilar información, comprar un producto o reservar un vuelo”. A diferencia del modelo de Anthropic, Jarvis se basará en una versión de la IA Gemini todavía no publicada y que funcionaría en el navegador Chrome. Su objetivo sería “automatizar tareas cotidianas basadas en la web”.
👇
https://lnkd.in/d3eevE2x
