Democracia, IA e Humanidade: A Importância de se Manter o Fator Humano na Era Digital

Tem sido interessante a leitura do último título de Yuval Noah Harari – Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial, sobretudo, às vésperas da próxima eleição presidencial americana.

É fácil perceber em casos como, por exemplo, na direção inteligente de veículos autônomos pode ser bem mais segura e eficiente que a humana. Ao mesmo passo que, os algoritmos ameaçam a democracia de grandes países, a nossa independência ao “nos conhecerem melhor que nós mesmos” e, infelizmente, vem atrofiando uma capacidade que nos garante certa supremacia no planeta terra: a capacidade de se debater e discordar em alto nível.

Na última edição de sua coluna no Financial Times, Harari tangibiliza sua posição ao fazer uma reflexão sobre o cenário distópico de uma possível “Grande Rebelião de Robôs”, bastante explorada na ficção – algo improvável em sua opinião. Ele destaca: “O verdadeiro risco está na IA assumindo o controle de sistemas burocráticos, mais próximo de um pesadelo kafkiano do que de um cenário como o de “O Exterminador do Futuro”.

“Parem as máquinas!”: este é outro cenário improvável. É fácil chegar a esta hipótese quando entendemos que as boas práticas, regulamentações e limites deveriam existir frente às proporções disruptivas e riscos envolvidos no avanço exponencial das tecnologias baseadas em IA.

Entretanto, Yuval também estressa este cenário, revelando algo que entendemos muito bem sobre a natureza humana: a confiança é algo que não consideramos garantido há muito tempo, seja pelas cotidianas traições do dia a dia e até mesmo golpes geopolíticos que fazem parte da história da civilização humana. Ninguém vai parar, este é um momento em que todos estão firmando suas posições e correndo por pioneirismo nos diversos fronts tecnológicos.

A lógica de “cada um por si” atropela o ideal de um desenvolvimento tecnológico centrado na melhoria da vida das pessoas e diz muito sobre a verdadeira crise que estamos tendo aqui: a falta de prioridade do bem-estar humanitário. Sejamos honestos, até mesmo a ONU, criada sob a égide de “manter a paz e a segurança internacionais, além de promover o desenvolvimento econômico e social, e os direitos humanos”, falhou e vem falhando frequentemente.

Assim sendo, chegamos ao cerne da questão que vem me inquietando e movimentando pensadores de elite em todo o mundo, bem como Harari: perdemos a capacidade de dialogar e discordar. Estamos limitando o nosso potencial de desenvolvimento humano encurralados em bolhas de segmentação de conteúdos e narrativas que estão definindo tendências de mercado, movimentos econômicos e o destino de democracias consolidadas.

A IA vem substituindo os editores humanos, figuras historicamente influentes, indicando uma mudança em que a IA influencia o discurso público através da priorização de conteúdos. Isso se torna ainda mais crítico frente à crise educacional que estamos enfrentando: se a qualidade das nossas conversas e interações estão frágeis, nossa capacidade de escrita e interpretação de textos padece.

Aqui no Brasil, viralizou o jornal que publicou uma matéria de destaque em maio deste ano com o parágrafo inicial com prompt utilizado para gerar o texto em alguma ferramenta como, o Chat GPT. E, embora emblemático, este caso, claro, infelizmente, não é isolado. Até mesmo, propostas que recebi por email, de empresas que prometem “tecnologia de ponta” foram escritas por LLMs neste ano. Como confiar em um produto destes?

Não podemos confiar nem mesmo em nações, imagine em empresas de porte pequeno ou médio com tal abordagem. Sim, nem os donos de produtos complexos sabem mais argumentar perante ao alto fluxo de demandas. O ChatGPT veio para organizar e estruturar pontos que as pessoas dão como prontos, e não como uma criação humano-tecnológica.

Enfim, enquanto finalizo este artigo, as eleições americanas já estão em apuração. E se, as IAs nas redes sociais já vêm explorando, de forma bem sucedida as emoções dos usuários para aumentar o engajamento, espalhar negatividade e impactar a estabilidade social, seu verdadeiro impacto, passa pela burocracia.

Longe de alegorias futuristas, as ferramentas de IA encontram sua maior oportunidade de colocarem à prova a supremacia humana na educação, nos sistemas burocráticos, onde a expertise em áreas específicas gera grande influência, são ideais para as capacidades de “idiota prodígio” da IA. As IA não precisam se rebelar para obter poder; elas operam dentro desses sistemas. 

Em uma hipótese mais literal, quem talvez precise se rebelar fôssemos nós: humanos, que exigem mais tempo, mais informação de qualidade e independência de opinião. As IA não estão aqui para nos permitir o ócio e criatividade como prometia Domenico di Masi – pelo menos em relação ao Brasil? Se isso é uma premissa verdadeira, porque nós, ainda que, em exceção por estarmos na bolha tecnológica, não estamos tendo mais paz e tempo livre?

Sim, a IA, controlada por pequenos grupos dos conglomerados da bolsa, pode dominar o mundo. Principalmente, em um cenário de inércia intelectual, conversas precárias e a falta de protagonismo humano. Eu não quero este mundo. E se você leu até aqui, foi impactado e comunga deste ponto de vista, eu te convoco para discussões globais em alto nível que já vem sendo articuladas com o respaldo de autoridades e institutos pioneiros em estudos de IA.

Como maior protesto, resgato a minha frase favorita, um mantra que carrego desde os 16 anos de idade, herdado de Johann Von Goethe, diretamente do século XVII, de um dos polímatas mais brilhantes e profundos:

“Quem é firme em seus propósitos molda o mundo a seu gosto.”

E que assim seja, pois com o grande empoderamento que as IAs nos garante, também devemos nos lembrar das grandes responsabilidades que elas nos conferem.