A Ascensão da 'Shadow AI' e os Riscos de Segurança de Dados no Ambiente de Trabalho

A Ascensão da 'Shadow AI' e os Riscos de Segurança de Dados no Ambiente de Trabalho

A inteligência artificial (IA) está cada vez mais presente no ambiente corporativo, transformando processos e aumentando a eficiência. No entanto, um relatório recente da Cyberhaven revelou um cenário preocupante: o uso de IA pelos trabalhadores para processar dados sensíveis mais do que dobrou no último ano, e a prática da chamada "Shadow AI" está em alta.

O Crescimento do Uso de IA e a Exposição de Dados Sensíveis

De acordo com o relatório "AI Adoption and Risk Report", o volume de dados corporativos inseridos em ferramentas de IA cresceu 485% entre março de 2023 e março de 2024. Esse aumento exponencial está relacionado principalmente ao uso de ferramentas das gigantes OpenAI, Google e Microsoft, que representam 96% de todas as interações.

Um dado alarmante do relatório é o crescimento de 156% na quantidade de dados sensíveis enviados a chatbots, como o ChatGPT e o Gemini. Entre os dados mais expostos estão:

• Informações de suporte ao cliente (16,3%);
• Código-fonte (12,7%);
• Dados de pesquisa e desenvolvimento (10,8%).

Além disso, documentos legais, registros de funcionários e materiais de recursos humanos também têm sido enviados a essas plataformas, muitas vezes sem os devidos cuidados de segurança.

O Perigo da Shadow AI

O termo "Shadow AI" refere-se ao uso de ferramentas de IA em contas pessoais de colaboradores, fora do controle e supervisão das empresas. O relatório revelou que a maior parte do uso corporativo de IA acontece em contas pessoais, sem as salvaguardas oferecidas pelas soluções empresariais dessas plataformas.

Alguns números preocupantes incluem:

• 73,8% do uso do ChatGPT no trabalho ocorre em contas pessoais;
• 94,4% do uso do Gemini ocorre em contas pessoais.

Essa prática representa um enorme risco, já que dados sensíveis podem ser submetidos a modelos de IA sem garantias de segurança, podendo ser utilizados no treinamento dos modelos ou expostos em caso de vulnerabilidades.

Por que Isso Importa?

O envio de informações confidenciais para ferramentas de IA apresenta dois riscos principais:

1. Exposição de dados: Credenciais comprometidas podem permitir que terceiros acessem informações confidenciais armazenadas na conta do usuário, como ocorreu com o roubo de 225 mil credenciais do OpenAI no ano passado.
2. Vulnerabilidades de IA: Pesquisadores descobriram falhas em ferramentas como o ChatGPT e plugins de terceiros, permitindo que invasores acessem conversas e repositórios de código.

Além disso, a geração de conteúdo por IA também representa riscos. Em março de 2024, 3,4% dos materiais de P&D e 3,2% das inserções de código-fonte em empresas foram gerados por IA. Quando ferramentas de IA não especializadas são usadas para desenvolvimento de código, há chances de introduzir vulnerabilidades ou até infringir direitos autorais.

Como Mitigar os Riscos da Shadow AI

Para proteger os dados e reduzir os riscos da Shadow AI, as empresas devem:

• Implementar soluções corporativas de IA: Ferramentas empresariais têm mais controles de privacidade e segurança.
• Monitorar o uso de IA pelos funcionários: Estabelecer políticas claras para o uso dessas tecnologias no ambiente de trabalho.
• Educar os colaboradores: Ensinar a importância de evitar inserir dados sensíveis em contas pessoais ou ferramentas de IA não aprovadas.

O uso de IA no trabalho está trazendo uma nova era de produtividade, mas exige uma abordagem responsável e proativa para proteger dados sensíveis. A ascensão da Shadow AI é um lembrete de que a segurança deve caminhar lado a lado com a inovação.

Se sua organização utiliza IA, como vocês estão lidando com os riscos relacionados à Shadow AI? Compartilhe suas estratégias nos comentários!

#SegurançaDeDados #InteligenciaArtificial #ShadowAI #Cibersegurança