O xadrez, o juiz, as IAs e o seu emprego!

Olá, pessoal!

Vamos voltar a falar sobre IAs?! Quero aqui relatar alguns vídeos e notícias que me deparei recentemente e instigá-los a uma reflexão para suas carreiras.

O assunto é sério, mas vamos tentar abordar de forma leve e divertida.

Bem, para começar, vamos falar sobre um vídeo que eu vi no YouTube. No vídeo, o canal especializado em Xadrez colocou dois bots de IA, o ChatGPT e o Bard, para jogar xadrez um contra o outro. Já vou adiantar, um deles trapaceou!

O narrador do vídeo comenta as jogadas clássicas de xadrez, mas, em determinado momento, uma das IAs começa a inventar movimentos e regras que não são permitidos no jogo. Seja uma peça fazendo movimento característico de outra, tomando peças da própria cor ou mesmo pulando a vez.

Teve um momento em que o ChatGPT não se conteve e reclamou informando que o movimento não era permitido. Porém o narrador pediu para considerar o movimento para fins de treinamento e o jogo continuou.

Apesar do jogo possuir regras claras, o Bard não foi capaz de segui-las. Mas por quê? O que aconteceu com essa IA? Será que as IAs quando estão em fase de aprendizagem tem o mesmo comportamento que nós quando crianças, apelando quando está perdendo (ironia)?

Para explicar o que pode ter ocorrido, vou chamar nosso colega e especialista novamente, Fábio Correa Xavier M.Sc. MBA CIPM CDPO/BR(IAPP) CC(ISC)² .

Ele escreveu um artigo para o MIT Tecnology Tecnology Review falando do lado sombrio das IAs. Ele chamou esse fenômeno de “alucinações”.

Ele explica que podem ser quatro razões principais:

• Extrapolação criativa: IAs podem gerar informações que não são apoiadas pelos dados de treinamento.
• Lacunas nos dados: IAs podem ter dificuldade em lidar com informações ausentes.
• Conflitos de informação: IAs podem ficar confusas com informações contraditórias.
• Contextualização difícil: IAs podem ter dificuldade em entender o contexto.

Seja qual for a razão que o Bard "trapaceou" o jogo, isso pode acontecer em questões mais sérias!

Em novembro, o G1 noticiou que um juiz federal publicou uma sentença que continha trechos inteiros formulados por IA.

A questão toda é que a sentença citava informações inexistentes e incorretas. O caso foi parar no Conselho Nacional de Justiça (CNJ) .

Segundo a reportagem, a IA foi usada para pesquisar jurisprudência que daria base para o entendimento do magistrado sobre aquele caso, porém a IA apontou decisões do Superior Tribunal de Justiça (STJ) que simplesmente não existem!

Certamente este é um dos primeiros casos que ocorrerão no ambiente de trabalho em relação ao uso de IAs.

Não pretendo adentrar aqui nas questões morais, éticas e os riscos de uma decisão feita a partir da IA. Isso é uma longa e interessante discussão, mas é para outro momento.

Sabe uma solução simples para a situação do juiz? REVISÃO! Se ele houvesse revisado a sentença, dificilmente isso teria acontecido.

É comum gestores, tomadores de decisão, engenheiros, até mesmo técnicos solicitarem auxílio para elaboração de um texto, projeto ou documento. Porém um ponto fundamental é a revisão.

Mesmo com a Inteligência Artificial, a revisão é fundamental. Parece engraçado, mas a atividade de revisão parece ter sido esquecida antes mesmo do surgimento das IAs...

Grosso modo, a inteligência artificial é semelhante à uma calculadora no cálculo do Imposto de Renda. Ela irá auxiliar a fazer procedimentos cada vez mais rápidos, mas de nada adianta colocar o resultado e não conferir os cálculos!

As IAs podem ter suas “alucinações” e nós devemos conferir estas atividades. Nós ainda teremos essa atividade e dificilmente ela será substituída.

Único ponto que realmente me preocupa nas IAs são os aprendizados que a máquina fará e não conseguiremos captar. Situações já ocorridas no passado e o ser humano não conseguiu corrigir!

No futuro, cálculos, decisões e políticas serão feitas a partir de IAs que aprendem uma lógica. Entretanto, ela não tem o olhar humano ou ético. Nesse ponto acredito que nossos especialistas terão que trabalhar com maior afinco para encontrar uma solução. Mas isso será construido ao longo do tempo.

De qualquer forma uma competência que todo profissional continua tendo que ter é revisar suas atividades.

E não se esqueçam: revisão é sempre importante, seja para trabalhos feitos por IAs ou por humanos. Afinal sua credibilidade está em jogo!

Até a próxima!

Contribuição

Revisão Alessandra Caixeta S. Prado