Las imágenes creadas por IA y la necesidad de regularlas

El día de ayer comenzaron a circular en Internet imágenes de la noche más importante de la moda en Nueva York. Aunque a la Met Gala siempre asisten las más grandes estrellas de Hollywood, comenzaron a circular muchas imágenes falsas con la finalidad de engañar a las personas que seguían la transmisión en línea. Por ejemplo, una imagen de Katy Perry con un gran vestido floreado fue vista más de 10,6 millones de veces, recibió casi 300,000 me gusta (entre ellos uno de su madre) y fue compartida más de 66,000 veces. La foto mostraba a la cantante con un vestido generado por la IA en una de las escalinatas del Museo Metropolitano de Arte, con el fondo del evento del año anterior. Lo mismo sucedió con la cantante Rihanna unos momentos después.

Aunque el tema no pasó de ser una anécdota y pronto se descubrió que las imágenes no eran reales sino creadas por computadora, y aunque estas falsificaciones pueden parecer inofensivas, lo cierto es que no nos permiten distinguir lo que es real de lo que no lo es. Estas fotos (que se hicieron virales en sólo unos minutos) demuestran que no estamos preparados para las imágenes generadas por IA ni para sus consecuencias, y lo más grave, no se encuentra regulado en nuestro sistema legal el uso de las imágenes de cada persona.

En este sentido, el derecho es un sistema incompleto por naturaleza, que no puede abarcar los acontecimientos futuros, sino que tiene que actualizarse conforme suceden nuevos tipos de hechos, y si trasladamos este uso de la IA en el mundo de la moda a nuestra vida diaria, sabemos que estamos expuestos al uso de la clonación de nuestra imagen y nuestra voz con fines que pueden ser ilícitos.

Por ejemplo, nuestra voz puede ser usada para la creación de mensajes urgentes y llenos de angustia para extorsionar a nuestros más cercanos, y aunque todavía no es tan común su uso, de acuerdo con una encuesta realizada por un creador de antivirus para computadoras, este tipo de estafa ha demostrado ser bastante efectiva hasta ahora, ya que una de cada diez personas encuestadas dijo que ha recibido un mensaje de un clon de voz con IA, y el 77% de esas víctimas dijeron que perdieron dinero como resultado.

Llevar a los tribunales a los delincuentes que realicen este tipo de estafas y procesarlos implicará una serie de desafíos frente a los vacíos legales que existen todavía respecto al tema, por lo que es urgente comenzar a legislar en este sentido, con la finalidad de que los juristas tengan las herramientas necesarias para llevar a juicio a quienes utilicen las IA's con fines ilícitos y para que tanto el MP como el Poder Judicial puedan procesarlos adecuadamente, velando por la seguridad de los habitantes de nuestro país.