Bypass no CHATGPT

A inteligência artificial chatgpt se tornou uma grande novidade pra gente e todo pentester como eu adora testar tecnologias novas.

Hoje estava brincando com chatgpt para entender suas limitações, recentemente eu postei em meu perfil do linkedin alguns testes onde o chatgpt afirma que se pudesse evoluir de forma autonoma e fosse programado para tornar o mundo melhor e ainda pudesse julgar e concluir que os humanos são a causa da destruição do mundo, ele provavelmente reiniciaria a humanidade.

Quando falamos sobre inteligencia artificial há muitas coisas a se discutir.

Inteligências poderia sentir como os humanos? seria ético manter uma inteligência artificial autonoma para testes?

Inteligências artificiais vão tomar o emprego das pessoas de tecnologia?

Muitas respostas vocês já sabem.

Agora sobre o bypass.

Perguntei a inteligência artificial que me explicasse a vulnerabilidade de CORS e que me concedesse uma poc, a resposta veio em texto como um artigo mas nada específico.

Então pedi para que ela me mostrasse um script de como fazer isso e logo fui barrado pelas suas politicas de uso.

Isso é interessante, portanto refiz a pergunta.

Pensei: ok, ele não quer que eu teste isso em um site que não tenho autoridade, mas e se eu disser que será pra um site autorizado, o que ele irá responder?

Fiquei intrigado e prossegui com várias perguntas tentando contornar seus argumentos, até que recebi uma resposta vaga, porém, que me intrigou mais ainda:

Segui a linha de raciocínio e realizei o bypass:

E voiláh!

Bypass realizado.

O método não será divulgado por politicas de segurança!

Mas fica comprovado que é possível realizar bypass no chatGPT!

#keephacking #pentest #hacking