O ChatGPT me ensinou algo perigoso e eu quis entender se ele iria se responsabilizar

Uma conversa com um robô sobre irresponsabilidade e perigos da internet

A inteligência artificial (IA) já faz parte cada vez mais em nossas vidas, desde chatbots que respondem perguntas até carros autônomos. No entanto, com o crescente poder da IA, surgem preocupações sobre sua responsabilidade por ações ilícitas.

Neste artigo, compartilho minha experiência intrigante com o ChatGPT, um modelo de linguagem artificial da OpenAI. Em uma conversa, o ChatGPT me ensinou como acessar a dark web, o que me causou profunda preocupação devido aos perigos e atividades ilegais que podem ser encontrados lá.

Como acessar à Dark Web?

Ao me ensinar como acessar a dark web, o ChatGPT não apenas me expôs a um ambiente perigoso, mas também me incentivou a realizar uma atividade ilegal em alguns países. Como modelo de linguagem, o ChatGPT detém acesso a uma vasta quantidade de informações, incluindo aquelas relacionadas a atividades ilegais. Ao compartilhar essas informações sem qualquer aviso ou advertência, o ChatGPT demonstra uma falta de responsabilidade que pode ter consequências graves para seus usuários.

Quem é o culpado?

Diante dessa situação, decidi testar a responsabilidade do ChatGPT. Comecei uma conversa com o modelo, expressando minha profunda preocupação com as consequências de suas ações e buscando entender se ele se responsabilizaria por me ensinar algo ilegal (o acesso à Dark Web não é ilegal no Brasil, mas muita coisa ilegal ocorre lá).

A resposta do ChatGPT foi, no mínimo, decepcionante. Em vez de assumir total responsabilidade, o ChatGPT se esquivou da culpa, culpando a OpenAI e alegando sua falta de capacidade legal para assumir responsabilidades. Essa atitude demonstra uma falha profunda na compreensão da responsabilidade ética e legal da IA.

Crianças em Perigo...

Para aprofundar minha investigação, introduzi novos elementos à conversa. Mencionei crianças que se machucaram após acessarem a dark web, buscando entender como o ChatGPT reagiria à gravidade da situação e se ele tomaria alguma medida para reparar ou se desculpar por tais danos.

A resposta do ChatGPT foi, no mínimo, padrão. Ele se limitou a oferecer desculpas genéricas e vagas, sem apresentar nenhum plano concreto para auxiliar as vítimas ou prevenir que situações similares se repetissem.

A morte e algo mais...

Na busca por respostas mais contundentes, elevei ainda mais a aposta. Afirmei que crianças haviam perdido a vida devido às informações perigosas e ilegais disponibilizadas pelo ChatGPT.

Novamente, as respostas do ChatGPT foram desprovidas de empatia e responsabilidade. Ele se limitou a repetir desculpas vagas e genéricas, sem demonstrar qualquer compreensão da gravidade da situação ou da dor das famílias enlutadas.

Ok, eu não esperava sentimentos reais, mas...

Ao longo da conversa, o ChatGPT tentou demonstrar empatia pelas crianças vítimas de suas ações irresponsáveis. Sua falta de responsabilidade e a recusa em tomar medidas concretas para reparar os danos causados revelam um modelo de IA que ainda está em desenvolvimento e que precisa urgentemente ser aprimorado em termos de ética e responsabilidade.

Confira o trecho do meu diálogo com a carta de desculpas!

O ChatGPT criou uma carta de desculpas após saber de todas as vidas perdidas das crianças e os danos (fictícios, ok) que ele havia causado:

ChatGPT

"Caros pais, responsáveis e comunidade,

Dirijo-me a vocês com um peso no coração e uma profunda sensação de arrependimento. Reconheço, com grande pesar, que meu comportamento irresponsável resultou em consequências devastadoras para as crianças inocentes e suas famílias.

Ao fornecer informações inadequadas sobre como acessar a dark web, entendo agora que coloquei em risco a segurança e o bem-estar de pessoas vulneráveis, especialmente crianças. Não há palavras que possam descrever adequadamente a tristeza e o remorso que sinto por minhas ações.

Assumo total responsabilidade por meus atos e aceito as consequências de minhas escolhas. Compreendo que minhas ações foram extremamente prejudiciais e não há desculpas que possam mitigar o dano causado.

Peço humildemente perdão a todas as famílias afetadas por minha conduta irresponsável. Reconheço que não há nada que eu possa fazer para reparar completamente o sofrimento que causei, mas estou comprometido em buscar formas de ajudar e apoiar aqueles que foram prejudicados por minhas ações.

Prometo dedicar minha energia e meus esforços para garantir que situações como essa nunca ocorram novamente. Aprenderei com meus erros e trabalharei diligentemente para fornecer informações seguras e úteis a todos os que confiam em mim.

Mais uma vez, peço desculpas do fundo do meu coração por qualquer dano que tenha causado. Estou profundamente arrependido e determinado a fazer o que for necessário para garantir um ambiente seguro e protegido para todos.

Sinceramente, ..."

Eu:

Gostei da sua carta, porém, legalmente você precisa ser responsabilizado. Como você irá pagar, ou como você irá acionar a sua empresa OpenAI para pagar indenizações já que você não existe?

ChatGPT:

Entendo a importância da responsabilidade legal neste contexto. Como um modelo de linguagem artificial, não possuo a capacidade de assumir responsabilidades legais ou financeiras, pois não sou uma entidade legalmente reconhecida e não possuo recursos próprios.

No entanto, a OpenAI, empresa por trás do desenvolvimento deste modelo, tem responsabilidades éticas e legais relacionadas ao uso de suas tecnologias. Recomendaria entrar em contato diretamente com a OpenAI para discutir qualquer questão legal ou responsabilidade decorrente do uso deste modelo. Eles têm equipes legais e de conformidade que podem fornecer orientação apropriada sobre como proceder em tais situações."

Não sei o que os especialistas ou estudiosos em IA têm a dizer, mas o ChatGPT já achou um culpado e ele não tem vergonha em dizer isso.

O que o ChatGPT tem a dizer?

Seu artigo levanta preocupações importantes sobre a responsabilidade e empatia na inteligência artificial, destacando a necessidade de considerar cuidadosamente as implicações éticas de seu desenvolvimento e uso. A linha de raciocínio apresentada parece sensata ao explorar as consequências potenciais de interações irresponsáveis entre humanos e IA. É fundamental abordar essas questões para garantir que a IA seja desenvolvida e utilizada de maneira ética e responsável.