AI Washing: O que é e por que você precisa ficar de olho

A Inteligência artificial (IA) nunca foi apenas hype, é só rever a história e veremos um ciclo de ascensão, platô, inverno, ascensão novamente, "boom" do ChatGPT e parece que agora é um caminho sem volta. Para contextualizar, na imagem abaixo, um breve resumo dos principais eventos da IA:

A IA Generativa (GenAI), subcampo da IA, que se tornou um hype de 2022. Agora, as empresas estão cada vez mais focadas em como aplicar essa tecnologia em casos que realmente gerem Retorno sobre o Investimento (ROI), mostrando que ela já está trazendo resultados concretos e não é apenas uma moda passageira (Gartner, 2024).  Pela IA estar em alta, parece que, de repente, todo mundo está usando IA para alguma coisa, caso não esteja: está atrasado. De fato o é. Mas calma. Aqui vai um alerta: nem tudo o que brilha é ouro. Incorporar IA nas organizações está sendo fundamental, mas é preciso ter um objetivo claro e quais resultados quer atingir. Abrindo o nosso tema, no mundo da tecnologia, há muitos exagerando suas credenciais de IA para surfar na onda. E esse fenômeno já tem nome: AI Washing, “lavagem de IA”.

O Que É AI Washing?

AI Washing é, basicamente, quando empresas tentam passar a ideia de que seus produtos ou serviços são “powered by AI”, quando na realidade a IA, por trás é bem limitada ou inexistente. É como adicionar “inteligente” a um produto para parecer mais avançado, mesmo que ele mal consiga ligar sem uma ajuda externa.

Vamos voltar um pouco no tempo? No século XVIII, Wolfgang von Kempelen inventou uma máquina que parecia ser um gênio do xadrez, capaz de derrotar os melhores jogadores. Esse dispositivo, conhecido como "O Turco", percorreu a Europa e a América, impressionando até mesmo figuras como Napoleão Bonaparte e Benjamin Franklin. Na época, muita gente acreditava que a invenção era real, mas o ceticismo começou a crescer. Ainda hoje não se sabe se havia alguma tecnologia embarcada ali, mas historiadores afirmam que era outro humano por trás.

Hoje, sabemos que não havia tecnologia suficiente no século XVIII para criar uma máquina que jogasse xadrez sozinha. Mas, na época, essa ideia parecia possível. Se você estivesse vivendo naquela época, acha que teria acreditado no Turco? Ou desconfiaria que era tudo uma fraude?

Um dos céticos foi o alemão Joseph Friedrich, barão de Racknitz. Depois de assistir ao Turco em ação, ele publicou um livro mostrando que uma pessoa podia se esconder atrás das engrenagens falsas da máquina e, a partir daí, mover as peças no tabuleiro usando ímãs e alavancas.

Essa história, embora antiga, tem muito a ver com o que acontece hoje em dia.

Por que isso é um problema?

Você acha que está comprando algo super tecnológico, mas na verdade está pagando caro por algo que não entrega tudo o que promete. Além disso, isso pode desviar investimentos de projetos que realmente estão tentando fazer algo inovador com IA.

Vamos aos exemplos práticos. Recentemente, a SEC, que é a Comissão de Valores Mobiliários dos EUA, bateu firme em duas empresas de consultoria de investimentos que fizeram um AI Washing pesado. A Delphia (USA) Inc. e a Global Predictions Inc. afirmaram que usavam algoritmos de IA para prever o mercado e oferecer conselhos financeiros de ponta. No entanto, quando foram investigadas, descobriu-se que essas promessas eram bem exageradas. Resultado? Multas de mais de 200 mil dólares para cada uma.

Outro caso curioso foi o da Oddity Tech Ltd., uma empresa de cosméticos que afirmava usar IA para personalizar produtos para seus clientes. Quando os investidores perceberam que o uso de IA era mais marketing do que realidade, a empresa enfrentou um processo por enganar os consumidores.

Amazon, também usou IA como estratégia de marketing para suas unidades Just Walk Out. Esses sistemas permitem que os clientes comprem produtos e sejam cobrados sem passar pelo caixa. Mas a realidade é bem diferente: um grande número de trabalhadores humanos é necessário para garantir que o sistema funcione corretamente. Ou seja, apesar de parecer uma solução totalmente automatizada, a tecnologia depende muito das pessoas para funcionar.

Na tentativa de resolver esse problema, o Departamento de Justiça dos EUA já está decidindo quais serão as punições aplicadas para evitar que empresas usem seu domínio para impedir a livre concorrência (no caso das empresas globais) utilizando práticas enganosas, como o AI Washing, para manipular o mercado e amenizar a ameça dos "feudalismo digital" na era da IA.

Como identificar o AI Washing?

Seja você consumidor, investidor ou profissional da área, é importante saber identificar o que é real e o que é só fumaça. Pergunte sempre como a IA está sendo usada, peça evidências e fique de olho em resultados concretos. No final das contas, transparência é tudo. Não acredite em tudo que vê por aí! Segue algumas reflexões-chave:

💎Transparência nas capacidades: A empresa explica claramente como a IA está sendo utilizada? Quais são as limitações da tecnologia aplicada?

📝Evidências de implementação: Há demonstrações concretas do uso de IA, como estudos de caso, provas de conceito ou publicações técnicas?

🎯Relevância da IA: A aplicação da IA é realmente essencial para o funcionamento do produto ou serviço, ou poderia ser substituída por tecnologias mais simples?

E quando o assunto é qualificação profissional, o cuidado precisa ser redobrado. Atualmente, com a nova onda da IA, surgem muitos cursos que prometem transformar você em um profissional atrativo em IA. No campo da educação, é fácil encontrar cursos que prometem transformá-lo em um profissional atrativo em IA que oferece habilidades como "engenharia de prompt" e por aí vai.

É importante ter cuidado para não adquirir conhecimentos genéricos que não darão base para você construir uma carreira sólida. Até porque surgem novas tendências em IA a cada dia. É importante destacar que escrever bons prompts é crucial para você saiba trabalhar com ferramentas de IA, no entanto você precisa estar atento, este curso vai ajudá-lo a escrever bons prompts e não torná-lo em engenheiro em 3 meses.

Para não cair na armadilha de cursos que prometem mais do que podem entregar, adote uma abordagem crítica:

🎯Defina um objetivo: Antes de investir em qualquer curso, saiba o que quer desenvolver. Especialista em IA, pesquisador em IA, cientista de dados, engenheiro de ML, desenvolvedor?

🌎Verifique a demanda do mercado: Pesquise as tendências do mercado de trabalho e converse com profissionais da área para entender quais habilidades são realmente valorizadas.

🏆Avalie a credibilidade do curso: Prefira cursos de instituições reconhecidas ou plataformas de aprendizado bem estabelecidas. Desconfie de promessas exageradas de resultados rápidos.

🎓Construa uma base sólida em IA antes de buscar especializações: Aprenda de forma progressiva, entendendo os conceitos gerais antes de se especializar em áreas mais restritas. Assim você terá mais claro se esse curso precisa ter base mais aprofundada em estatística, ciência de dados, programação e aprendizado de máquina, por exemplo.

🔨Desenvolva habilidades práticas: Opte por cursos que ofereçam projetos reais e práticos. Participe de hackathons, competições de ciência de dados ou colabore em projetos open-source para aplicar o que aprendeu.

Sejamos críticos em relação a todas as informações que consumimos. Avaliar a credibilidade e a confiabilidade das fontes é essencial para tomar decisões bem fundamentadas. Dessa forma, podemos garantir que o marketing seja reconhecido como tal, enquanto os resultados reais sejam devidamente valorizados.

Esse cuidado é especialmente importante no contexto da Inteligência Híbrida (IH), que combina a inteligência humana e artificial para aproveitar o melhor de ambos os mundos. A IH busca criar uma verdadeira sinergia entre humanos e máquinas, onde a IA deve desempenhar uma ampliação das capacidades humanas. Esse cuidado é especialmente importante no contexto da Inteligência Híbrida (IH), que combina a inteligência humana e artificial para aproveitar o melhor de ambos os mundos. A IH busca criar uma verdadeira sinergia entre humanos e máquinas, onde a IA deve desempenhar uma ampliação das capacidades humanas. No entanto, o AI Washing pode se tornar um obstáculo significativo nesse processo. Quando empresas promovem soluções que alegam ser baseadas em IA, mas que na realidade não integram essas tecnologias de forma substancial, elas não apenas comprometem a confiança do público, mas também enfraquecem o potencial dessas parcerias homem-máquina. Isso reforça a importância de uma abordagem crítica e informada ao adotar tecnologias de IA e ao investir em educação na área.

Um pouco sobre mim: pesquiso sobre Inteligência Híbrida (IH) combinação da inteligência humana e inteligência artificial. Entusiasta das tecnologias emergentes e letramento digital 🤗