Privacidade de Dados & Segurança da Informação | O ChatGPT é tudo isso mesmo?

Em evidência há algumas semanas - mas não a única ferramenta de Inteligência Artificial em formato de chatbot - o ChatGPT, da OpenAI tem causado um grande alvoroço tanto na comunidade especializada em Tecnologia da Informação quanto em outros públicos, como Marketing Digital, corporativo (sobretudo as lideranças que ainda buscam entender direito sobre a tecnologia e como tirar proveito dela) e também do público geral, que tem testado das formas mais variadas e obtido resultados igualmente surpreendentes.

Mas de onde vem as respostas que o ChatGPT nos fornece? Como ele sabe de tanta coisa, em praticamente todos os idiomas e de forma tão cadenciada e natural?

Enfim... Será que o ChatGPT é tudo isso mesmo e não tem limites?

Esta pergunta pode ter sido imaginada e feita por muitas pessoas, mas certamente são os profissionais de Tecnologia da Informação, Cibersegurança. Segurança da Informação e Privacidade de Dados que detém maior preocupação e profundidade neste assunto, uma vez que, sendo uma tecnologia nova, ainda restam muitas possibilidades não exploradas (que sequer foram previstas pelos seus desenvolvedores) e, como tudo neste campo, pode ser usado tanto de forma lícita quanto ilícita.

Da mesma forma que podemos usar o ChatGPT para nos ajudar a formatar uma ideia de um texto, também é possível extrairmos informações que foram indevidamente colocadas em alguma fonte de dados utilizadas por esta ferramenta, como de um indivíduo, de um grupo, de uma organização, de uma corporação ou mesmo de um governo.

Mas como isso seria possível?

Simplesmente porque a lógica (de forma simplista e focada em proteção de dados) desta ferramenta é a retroalimentação, onde inicialmente a ferramenta foi concebida para dar as respostas com base em bancos de dados offline e até uma certa data (Wikipedia, sites de tribunais, entre outros) e, a partir das questões feitas de forma cada vez mais elaboradas e detalhadas, acabamos por fornecer dados que não constavam destas bases de dados, além de comportamentos, o que pode induzir a ferramenta e gerar novos perfis de comportamento e se aprimorar de forma automática, levando a uma capacidade com escalabilidade sem limites.

O que nós, de Privacidade de Dados e Segurança da Informação, devemos ter em mente é, inicialmente, a cautela, o discernimento e o senso crítico sobre compartilhamento de informações, sejam elas classificadas ou não, pessoais ou não, sensíveis ou não.

Muitas corporações já tomaram a dianteira disso e atualizaram suas políticas internas restringindo o uso de IA de forma ilimitada, prevendo problemas de uso indevido de tecnologia, violação de dados e direitos autorais, dentre vários outros cenários - muito embora reconheçam que é um salto e uma quebra de paradigma que, em outro período naturalmente será incorporado de forma adequada e em sintonia com leis, regulações, políticas, processos e procedimentos.

Portanto, o ChatGPT não é tudo isso ainda, mas já está se tornando algo maior do que pensamos que poderia ser, o que representa muitos benfícios e facilidades ao ponto que novos riscos são incorporados de forma proporcional a todos que estão envolvidos com sua utilização, seja de forma direta e ativa ou indireta e involuntária.