Comprensión de los deepfakes y el engaño

Ya hemos hablado anteriormente de los deepfakes en este curso. Retomamos precisamente este concepto porque estos vídeos, imágenes o audios generados de forma sintética presentan uno de los principales problemas éticos de la inteligencia artificial generativa. Y es que ya nos lo anticipa su nombre, deepfake, de la combinación de deep learning, aprendizaje profundo, y fake, que podemos traducir como falsificación. Desde hace algunos años, la tecnología es capaz de hacer que una persona aparentemente diga o haga cosas que nunca ha dicho o hecho, en ocasiones, con software o aplicaciones gratuitas y de fácil acceso. En la mayoría de ocasiones, estos deepfakes, incluso aquellos que son virales en redes sociales, son inofensivos y se crean por mera diversión. Pero existen otros usos y ya hemos vivido casos mediáticos donde son potencialmente peligrosos para la sociedad o las personas que aparecen en ellos, desde políticos haciendo declaraciones falsas con el objetivo de tergiversar información hasta caras de menores en imágenes y vídeos con contenido sexualizado. ¿Cómo podrías sentirte como adolescente al volver al instituto cuando se ha hecho viral un vídeo falso con tu cara? Otros usos poco éticos de los deepfakes están relacionados con el cibercrimen. Por ejemplo, delincuentes se hacen pasar por otra persona para pedir favores o dinero a sus empleados o seres queridos o simplemente solicitan información para robar su identidad. Al igual que ocurría en la demostración de generación de imágenes, en los vídeos es posible identificar flicker, ruido o inconsistencias visuales que nos pueden hacer dudar sobre esos contenidos; movimientos raros o cambios en la iluminación o el color de la piel nos pueden ayudar a detectar que estos vídeos son falsos y, por lo tanto, desconfiar de ellos. No obstante, la tecnología es cada vez más precisa y, si quien los recibe no presta la atención suficiente, podría causar los mismos daños. Por suerte, se sigue investigando en su detección y ya existe inteligencia artificial que lo detecta, precisamente identificando ese tipo de patrones que generan inconsistencias en esta tecnología. No sabemos cuándo su uso poco ético estará controlado o erradicado. Lo que sí parece es que los deepfakes llegaron para quedarse. La buena noticia es que no todos los usos son negativos. Por ejemplo, esta tecnología podría servir para mejorar la atención al cliente y que, a partir de una fotografía de un trabajador, se genere un vídeo con un mensaje personalizado a un cliente concreto, haciendo referencia a su última compra para comunicar cuándo va a recibir su pedido y recomendaciones de uso en base a la información que previamente nos ha proporcionado. Recuerda que no solo sirven para engañar y, cuando veas algo sospechoso, ándate con ojo y valida en fuentes fiables que lo que has visto y escuchado es real.