Demasiado humano

A ideia, bastante popular, de que sensibilidade e empatia são traços irreprodutíveis da comunicação humana é um abrigo bastante precário.

"Inteligências artificiais nunca irão substituir as humanas em atividades que demandam sensibilidade, empatia ou domínio das emoções". Tenho me deparado frequentemente com essa ideia, ou com variações dela. A popularidade dessa linha de pensamento é compreensível. Especialmente num contexto em que questionamos nossa relevância em termos produtivos, essa forma de pensar nos conforta. Mas esse aconchego é real? Penso que não. As paredes desse abrigo não são tão grossas quanto desejaríamos. 

A fragilidade desse argumento está em sua premissa, a de que uma inteligência não-humana precisa operar sob os mesmos mecanismos e registros que regem as nossas para poder produzir, então e somente então, toda a riqueza psíquica e socioemocional que nós desenvolvemos, como espécie, nos últimos 300 mil anos. Mais simplesmente: a premissa é a de que somente uma inteligência senciente pode despertar reações socioemocionais em outra inteligência. Temos insumos para pensar de forma justamente oposta, tanto pela forma com que nos relacionamos há milênios com a tecnologia quanto por evidências bem recentes, que apareceram com o uso em massa de IA generativa. 

Tecnofetiche

Nossa capacidade de revestir tecnologia com emoções parece ser tão antiga quanto a roda. No fundo da minha caixa de ferramentas está um martelo inglês, dos anos 1970, que foi de meu pai – está embebido em WD-40 e envolto num pano, e essa mumificação caseira obviamente só se justifica a partir do ponto de vista emocional. Lembro-me quando, lá pelos anos 1990, fiquei bastante desorientado quando soube que existia algo como um tamagotchi, e não entendi de imediato como a palavra "morrer" estava sendo usada com relação a um brinquedo. Mais tarde um pouco, pessoas começaram a adoecer porque não recebiam tantos e-mails quanto gostariam ou mais do que suportavam – distorções que as mídias sociais elevaram à décima potência, a ponto de termos hoje um problema de saúde mental que afeta todo o planeta. Como animais afetivos, atribuímos carga emocional a tudo o que nos cerca. 

As tecnologias generativas vão além, porque trazem essa camada emocional para o centro da própria tecnologia. O fascínio com os modelos de linguagem natural decorre, em grande parte, da experimentação de algo muito similar a uma outra identidade. É um simulacro – nenhum dos processos neurológicos, lógicos, químicos, semânticos ou linguísticos que ocorreriam em humanos está de fato ocorrendo nos sistemas –, mas que recebemos como dotados de capacidade emocional. Graças a uma analogia torta, explicitada e reforçada pelo vocabulário que usamos para lidar com essas tecnologias  – dizemos que um software está "alucinando", ou damos nomes próprios a eles – fica estabelecida a ilusão de uma contraparte emocionalmente capaz. Uma ilusão que abraçamos, tipicamente e de bom grado. 

Dessa mesma ilusão decorrem duas coisas. Primeiro, a pergunta sobre se realmente máquinas podem vir a ter sentimentos – algo sobre o que cientistas e filósofos especulam em estágio embrionário, até porque nossa ciência atual sequer delimita com clareza conceitos como mente, identidade e emoções, em suas plenas complexidades. É uma discussão ontológica, tecnológica e ética, e fora do tópico atual. Segundo, vem a constatação: se máquinas não podem reproduzir os processos socioemocionais de humanos, não podem também substituir a inteligência humana em atividades carregadas de empatia, humor ou generosidade, entre outras tantas. É essa correlação, precisamente, que não se sustenta. 

Isso porque a tese desconsidera que os efeitos reais da comunicação se dão, última e exclusivamente, nas mentes e nas subjetividades de quem a recebe. São efeitos modulados por uma série de fatores – repertório, contexto, canal etc. – mas não necessariamente condicionados à natureza ou ao nível de autoconsciência da entidade que emite essa comunicação – que pode ser, inclusive, nula, como no caso dos modelos de linguagem atuais. Para produzir efeitos emocionalmente inteligentes, o mimetismo de uma subjetividade bastará: o resultado afetivo se dará, na verdade, na humanidade receptora. Nesse contexto, não é necessário sentir para despertar sentimentos. Verossimilhança, no nível da mensagem, já pode desencadear a dinâmica pretendida.

Um exemplo bobo é considerar, no hipotético destinatário de ambos os e-mails abaixo, o meu e o da máquina, o efeito afetivo-emocional de cada mensagem:

Possibilidades ampliadas

Pesquisas que buscam explorar os efeitos socioemocionais da comunicação por/com máquinas vêm sendo realizadas, na verdade, há décadas. As aplicações no campo da publicidade são inúmeras, motivadas pela lógica de consumo-personalização, bem à moda do Século XX, e originaram coisas como os algoritmos de recomendação e campanhas políticas polarizantes. Modelos de linguagem vêm sendo sistematicamente submetidos a testes de comunicação afetiva e de inteligência emocional, bem como usados como suporte a diagnóstico e tratamento de doenças psíquicas severas, como a esquizofrenia. Estuda-se o uso de machine learning e de robótica para ampliar a capacidade afetiva de máquinas para o mundo não-verbal (reportagem da Wired sobre o tema, que aponta dificuldades e ineficácias). Essas aplicações relacionam-se intimamente com as questões de vieses e uso ético, de forma geral, e certamente abrem possibilidades tão grandes quanto riscos. E constituem um último conjunto de evidências que reforçam a independência entre processos emocionais e resultados emocionais na relação tecnológica, sob a forma de comunicação, entre humanos e máquinas. 

Notas pessoais

A ideia de que a comunicação emocionalmente ativa é exclusiva de emissores humanos é sedutora, pois fundamenta a noção de que somos algo realmente especial no Universo. Está na base da encruzilhada em que se encontra o Humanismo. As compras no supermercado (que acabam de chegar, interrompendo o flow) e as contas (que insistem em chegar) eu as pago escolhendo palavras que induzam determinados entendimento e emoções. É minha profissão. Frequentemente, portanto, me pego correndo para debaixo da cobertura emotiva-humanista. É inevitável. Mas tenho procurado manter a perspectiva livre. Não penso tanto em máquinas que sentem, isso é outra discussão. Tecnologias perfeitamente capazes de provocar emoções já temos há milênios. Lembrar disso é mais um passo, por mais que modesto, na investigação sobre o que nos caracteriza, como humanos, no que diz respeito à tecnologia. A conclusão pode vir a ser algo diferente do que prega o Humanismo. Peculiar pode não ser nossa capacidade de criar tecnologia, mas a de nos apaixonarmos e nos deixarmos iludir por ela, de modo demasiadamente eficaz.