A hombros de ¿delirantes?

Por Guillermo Movia, Coordinador de Tecnología y Seguridad

Si nos basáramos en las publicaciones y conferencias tecnológicas, podríamos creer que la Inteligencia Artificial estaba destinada a crearse y el camino de su desarrollo tiene un solo final posible: la aparición de una Inteligencia Artificial General (AGI son sus siglas en inglés), una Inteligencia Artificial (IA)[1] “que supera la capacidad humana a la hora de realizar la mayor parte de tareas con valor económico” [2]. Pero sabemos (¿sabemos?) que las tecnologías y su desarrollo no son lineales y que dependen de otros factores, principalmente de ideologías que buscan un tipo de sociedad futura o pretenden resolver un problema de una forma particular. La IA no es una excepción a esta regla, y así como en China el desarrollo parece centrarse en el control social, las IAs desarrolladas en occidente (o al menos las que llegan al público masivo como las IAs generativas) se ven afectadas por discusiones filosóficas sobre la posible aparición de una AGI y las consecuencias que eso podría tener para la humanidad [3].

El lado crítico

Las autoras del estudio “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? ” forman parte de las principales voces críticas a estos grupos. No sólo a partir de intentar bajar la espuma de los anuncios de lo cerca que están los laboratorios de conseguir la AGI, si no también de los problemas actuales que están causando estos desarrollos.

Ellas sostienen que en lugar de Inteligencia Artificial, debería llamarse “automatismos”, porque es lo que, finalmente, realizan estos algoritmos. Esa automatización de tareas genera, por un lado, la pérdida de trabajos actuales y, por el otro, la ocultación del trabajo humano para que las IAs funcionen. Y estos trabajos ocultos suelen ser mal pagos (aprovechando países donde es más fácil evadir controles para explotar a los trabajadores), y pueden exponer a los trabajadores a tareas insalubres, como la de mirar o leer contenidos perturbadores. Por otro lado, la cantidad de dinero en juego es tan grande que muchas veces se engaña a usuarios e inversores para hacerles creer que una tecnología está en un estadio más avanzado que el real. Por ejemplo, a partir de un accidente de uno de los coches autónomos de la compañía Cruise que operaba en San Francisco, Estados Unidos, se reveló que por cada auto, había un chofer a distancia que manejaba cuando la IA del automóvil no entendía la situación en la que estaba. Y eso pasaba de cada 4 a 8 kilómetros. La necesidad de ser la primera compañía en realizar una tarea para generar un monopolio es tan fuerte, que se utilizan muchos recursos para simular avances tecnológicos que aún no están disponibles.

Y poco se habla del consumo energético de estos sistemas, cuando los países no logran alcanzar los objetivos de protección medioambiental que se habían propuesto. Una de las principales razones para que OpenAI creara su división que pudiera generar dinero fue los enormes costos que conlleva desarrollar estos modelos. Y si bien se han encontrado varios usos útiles de las Inteligencias Artificiales generativas, la pregunta sobre si esos usos justifican la depredación del planeta flota en el aire.

Pero las voces críticas obtienen menos repercusión que los anuncios de los avances en los LLM o la promesa de la AGI que ya está próxima. Los multimillonarios están dirigiendo las inversiones de la sociedad pensando en las vidas futuras y no en los problemas actuales desde sus púlpitos de elegidos.

Existen visiones alternativas y experiencias para crear inteligencias artificiales que se basen en otras cosmovisiones que no vean solo el crecimiento económico ni alienten las desigualdades. Inteligencias artificiales pensadas desde el sur global, como forma de resistencia a la vigilancia y a la automatización. Ese debería ser el camino a seguir.

[1]     Hay especialistas que dicen que el concepto de Inteligencia Artificial es aspiracional, y que deberíamos llamarla “automatización”.

[2]     Aunque hay varias definiciones de lo que puede considerarse una AGI, esta es la que aparece en la página web de OpenAI, uno de los principales laboratorios de Norteamérica que desarrolla esta tecnología.

[3]     No hay que dejar de lado que muchos usos de las IAs en occidente son para control social, incluidos los sistemas de reconocimiento facial que se utilizan en ciudades y fronteras entre países.