Taylor Swift vendendo panela? Clonagem da cantora mostra como IA criou nova era de anúncios 'fake'

• A maneira como você ouve vai mudar: saiba como será a 'audição imersiva', turbinada com IA
• Uma TV do seu tamanho: lançamentos na CES 2024 têm supertelas de até 140 polegadas, com 1,74 m de altura

O que não é real: Swift fazendo propaganda dos produtos da companhia, o que tem aparecido nas últimas semanas em anúncios no Facebook e em outras redes usando o seu rosto e até sua voz.

Os anúncios estão entre os muitos golpes focados em celebridades, com anúncios falsos que se tornaram muito mais convincentes com a inteligência artificial (IA). Em uma única semana em outubro, o ator Tom Hanks, o jornalista Gayle King e o youtuber MrBeast vieram a público apontar que versões deles mesmos geradas por IA, sem permissão, para promoções enganosas de planos odontológicos, ofertas de brindes de iPhone e outros anúncios falsos, os fake ads.

• Vínculos: Parceria entre Microsoft e OpenAI pode ser alvo de investigação da União Europeia

No caso de Taylor Swift, a IA ajudou até a criar uma versão sintética da voz da cantora, que foi associada a imagens dela juntamente com trechos de vídeos sobre mostrando fornos holandeses da Le Creuset.

Em vários dos anúncios, a voz clonada da cantora se dirige aos “swifities”, como são conhecidos seus fãs, e diz que ela está empolgada de estar distribuindo conjuntos de utensílios de cozinha gratuitamente. Tudo o que a audiência precisa fazer é clicar em um botão e responder algumas perguntas.

A Le Creuset disse que não estava envolvida com a cantora em nenhum brinde ao consumidor. A empresa pediu aos compradores que verificassem suas contas oficiais on-line antes de clicar em anúncios suspeitos.

• Tetris: Quem é o prodígio de 13 anos que se tornou primeira pessoa a ganhar o game, nos EUA

Representantes de Swift, que foi nomeada Pessoa do Ano pela revista Time em 2023, não responderam aos pedidos de comentários.

A campanha fraudulenta da Le Creuset também apresentou versões fabricadas de Martha Stewart e Oprah Winfrey, que em 2022 postou um vídeo exasperado sobre a prevalência de anúncios falsos nas mídias sociais, e-mails e sites alegando falsamente que ela endossava gomas para perda de peso.

No último ano, grandes avanços em inteligência artificial tornaram muito mais fácil produzir uma réplica digital não autorizada de uma pessoa real. As falsificações de áudio têm sido especialmente fáceis de produzir e difíceis de identificar, disse Siwei Lyu, professor de ciência da computação que dirige o Media Forensic Lab na Universidade de Buffalo, em Nova York.

A campanha fraudulenta da Le Creuset provavelmente foi criada usando um serviço de conversão de texto em fala, disse Lyu. Essas ferramentas geralmente traduzem um script em uma voz gerada por IA, que pode então ser incorporada a uma filmagem de vídeo existente usando programas de sincronização labial.

• Conteúdo: TikTok é invadido por áudios falsos de celebridades criados por inteligência artificial; Obama foi um dos alvos

"Essas ferramentas estão se tornando muito acessíveis hoje em dia", disse Lyu, acrescentando que é possível fazer um "vídeo de qualidade decente" em menos de 45 minutos. "Está se tornando muito fácil, e é por isso que estamos vendo mais."

Dezenas de anúncios fraudulentos separados, mas semelhantes, da Le Creuset com Swift - muitos deles publicados este mês - estavam visíveis no final da semana passada na biblioteca pública de anúncios da Meta. (A empresa é proprietária do Facebook e do Instagram.) A campanha também foi veiculada no TikTok.

Em abril, o Better Business Bureau alertou os consumidores que os golpes de celebridades falsas feitos com IA estavam "mais convincentes do que nunca". As vítimas geralmente ficavam com cobranças mais altas do que o esperado e nenhum sinal do produto que haviam encomendado.

Os banqueiros também relataram tentativas de vigaristas de usar deepfakes de voz, ou réplicas sintéticas de vozes de pessoas reais, para cometer fraudes financeiras.

• Mudanças: Airbnb vai usar inteligência artificial para controle de qualidade dos anúncios

Um porta-voz do TikTok disse que a política de anúncios do aplicativo exige que os anunciantes obtenham consentimento para "qualquer mídia sintética que contenha uma figura pública", acrescentando que os padrões da comunidade do TikTok exigem que os criadores divulguem "mídia sintética ou manipulada mostrando cenas realistas".

Meta disse que tomou medidas em relação aos anúncios que violaram suas políticas, que proíbem conteúdo que usa figuras públicas de forma enganosa para tentar enganar os usuários. A empresa disse que tomou medidas legais contra alguns autores de tais esquemas, mas acrescentou que os anúncios mal-intencionados muitas vezes conseguiam burlar os sistemas de revisão do Meta camuflando seu conteúdo.

Sem leis federais em vigor para lidar com golpes de IA, os legisladores propuseram uma legislação que teria como objetivo limitar seus danos. Dois projetos de lei apresentados no Congresso no ano passado - o Deepfakes Accountability Act, na Câmara, e o No Fakes Act, no Senado - exigiriam barreiras de proteção, como rótulos de conteúdo ou permissão para usar a voz ou a imagem de alguém.

Pelo menos nove estados, incluindo Califórnia, Virgínia, Flórida e Havaí, têm leis que regulamentam o conteúdo gerado por IA.