Qual o papel do SEO quando a Inteligência Artificial reproduz preconceitos?

Tenho visto artigos e estudos muito interessantes mostrando como a Inteligência Artificial tem reproduzido o pior de nós (pois é eu disse que eram interessantes, não animadores).

Programados por humanos e constituídos, basicamente, por todos os dados e informações coletados a partir das nossas estatísticas e hábitos comportamentais, os robôs e algortimos têm perpetuado preconceitos como sexismo e racismo.

Emre Şarbak, Vice-Presidente da LaunchCode, partilhou uma imagem no seu Facebook onde mostrava como o Google traduzira sentenças de gênero neutro do Turco parapara sentenças com gênero, e visivelmente sexistas, no Inglês. Porque o algoritmo presume a partir da observação de frequência de uso.

Outro caso, também de um robô da Google, foi de um programa de reconhecimento facial em imagens que rotulou diversos rostos negros como gorilas. Ou o projeto Tay, um robô completamente automatizado da Microsoft, que começou a publicar mensagens racistas, sexistas e homofóbicas no Twitter, inclusive uma apoiando Hitler.

Agora, algo que sempre faço quando confronto esse tipo de informação sobre perpetuar preconceitos é me perguntar: qual minha parte nisso?

E pensei no meu trabalho como SEO e no de todos os meus colegas de profissão.

Nós trabalhamos com a intencionalidade, a linguagem e pensamento dos usuários, nosso público-alvo. E nosso público são pessoas nascidas e criadas sim numa sociedade racista e misógina, infelizmente.

Nós reproduzimos isso o tempo todo, mesmo sem perceber ou sem querer. São nossas referências culturais, nossa educação, nosso mal de cada dia.

E, enquanto SEO, nós reproduzimos o que todos os outros reproduzem. Para chegar até nossos usuários, falamos exatamente o que eles querem, com as palavras que eles usam. Que não necessariamente são coisas boas sempre.

O ramo de afiliados é, possivelmente, um dos maiores exemplos disso. Vendendo produtos milagrosos, serviços fraudulentos que vão de encontro à ciência, à ética, prejudicam pessoas lucrando sobre sua ignorância, ingenuidade e com uma sociedade estruturada no machismo e racismo. Só ficaria atrás dos sites de pornografia.

Já fui chamada para trabalhar no projeto de um site que vendia cura para o câncer. Sites que ensinavam mulheres o bê-a-bá do sexismo: como agradar homem na cama, obsessão pela magreza, como ser delicada e "mulher de bem". Fui chamada para limpar o nome de políticos.

Recusei tudo isso sem pensar duas vezes. Não, não tenho vida ganha e, como freelancer, sem clientes não pago a creche do meu pequeno. Mas minha ética não é negociável. Não tem preço.

Então lanço a pergunta para os colegas ajudarem a solucionar e refletir sobre esse puzzle:

Como nós, SEO, podemos quebrar a estrutura e os preconceitos usando do nosso conhecimento sobre o funcionamento dos algoritmos? Como podemos usar isso não só chegar aos usuários, mas para transformar positivamente as relações digitais e impactar os dados de Inteligência Artificial de forma construtiva?