Un gran poder conlleva una gran responsabilidad.

Por el momento veo dos grandes grupos diferenciados, los NeoLuditas que JAMÁS usarán la Inteligencia Artificial, como en su día dijeron que nunca usarían un "Smartphone" (¡ja!), y los que abrazan sin titubeos la llegada masiva de las Inteligencias Generativas como si un nuevo mesías hubiese llegado.

La realidad parece ser que hay un aumento considerable del uso de la GenIAs por parte de los empleados de nuestras empresas, y quizás no de la mejor manera.

Según el informe Revealing GenAI’s True Data Exposure Risk habría un aumento del 43% del uso en empresas, pero lo preocupante es que un 15% de los usuarios copiaba y pegaba información en las GenIAs, ¡ Y un 6% reconoce que era información "sensible" de la compañía !.

En el informe se indica además que las áreas que mas tenían esta mala práctica eran los departamentos de I+D, Ventas y Financiero.

Un comportamiento que ya pasó facturas a empresas como Samsung, en la que se detectó el envío de información referente a sus semiconductores y datos de reuniones corporativas al famoso ChatGPT.

Y no son los únicos, Apple, CitiGroup, Bank of America, Deutsche Bank, Goldman Sachs y Wells Fargo se unen a esa prohibición.

Otros como Amazon han dado directrices para el uso correcto de este tipo de herramientas en el entorno laboral.

¿ Pero es para tanto ?

Pues OpenAI, los creadores de ChatGPT, te dejan claro en su web que Podrían usar los datos que envías para entrenar el modelo de inteligencia artificial.

Ahora bien, si usas la versiones de pago se comprometen a no hacerlo.

Yo me pongo mi gorro de aluminio, y me vais a permitir que dude de sus buenas intenciones si pagas, y aplicaré el manido "La nube es el ordenador de otro", pero eso ya que cada uno saque su conclusión y decida su apetito por el riesgo.

Personalmente, si necesitáis un servicio de este tipo, tenedlo en vuestra propia casa, y si no sabéis cómo... Enviadme un mensaje y estaré encantado de ayudaros con eso.

Hackeando Inteligencias

Y es qué como cualquier software conectado a una red, estos servicios son susceptibles de ser hackeados.

De hecho OWASP, conocido proyecto abierto para determinar y combatir la inseguridad del código de las aplicaciones, ha lanzado la versión 1.1 de los 10 principales fallos de seguridad de los Large Language Models - LLMs (que son como se denomina el tipo de inteligencia artificial detrás de estos productos).

Por ejemplo, investigadores de Google desarrollan técnicas que les permitieron exfiltrar información personal de este tipo de servicios (paper) o como le hicieron cantar al Copilot de Microsoft información privada de su mismo.

Recientemente Chema Alonso dió una charla en la TRGCON 23 que te recomiendo echar un ojo para empaparte un poco de lo que ya tenemos encima.

Como conclusión simplemente considerar la concienciación al usuario como una responsabilidad de los que somos tecnólogos.

El uso de las Inteligencias Artificiales está aquí, es imparable, pero sepamos como usarlas de un modo ético y eficiente para hacer de nuestro mundo, un mundo mejor.

Antonio Fernandes (afernandesvigo) - Febrero 2024