Chat GPT Hackeado

A inteligência Artificial está a viver um dos seus momentos mais alto, graças ao surgimento do ChatGPT, que já conquistou muitas empresas, uma delas é a Microsoft que decidiu integrar o mesmo com o Bing Search.

O buscador ainda não está redesenhado, mas desde a divulgação da sua aparição várias pessoas têm testado a ferramenta e inclusive, muitos já a têm enganado graças a engenharia social.

O autor do ataque é um estudante de Stanford chamado Kevin Liu, que usou a criatividade de um engenheiro social(técnica usada para enganar pessoas), mas neste caso, foi com a inteligência artificial.

Kevin Liu, foi capaz de enganar o ChatGPT para obter um documento interno com as directrizes que lhe foi fornecido pela Microsoft.

Fazendo o uso da ferramenta da Yandex Translate, que também traduz imagens, traduziu uma parte do chat publicado por Kevin Liu no twitter.

Usando de 5 em 5 frases Kavin foi capaz de obter toda a informação confidencial das instruções de "Sidney".

As caputuras detalhadas deste ataque, foram publicadas por Kevin na sua página do Twitter Kavin Liu.

Enquanto especialista de segurança da informação, estou cada vez mais convencido de que nenhum sistema está salvo e da necessidade de colocarmos a segurança de informação em primeiro lugar na implementação de qualquer produto.

Por: Fernando Palaia