ChatGPT, quels dangers en matière de cybersécurité ?

La facilité d’utilisation de la nouvelle intelligence artificielle ChatGPT et ses compétences commencent à intéresser la communauté des cybercriminels. Cet agent conversationnel pourra-t-il écrire lui-même un virus et transformer ainsi n’importe qui en cyberdélinquant potentiel ? 

"Gagnez 1 000 dollars par jour grâce à ChatGPT", ou encore "Cette méthode simple pour se faire de l'argent avec ChatGPT". Depuis le début de l'année, des messages similaires fleurissent sur des forums populaires chez les cybercriminels.

En effet, le nouveau prototype d'intelligence artificielle à la mode depuis fin novembre 2022 ne sert pas uniquement aux étudiants qui demandent à ChatGPT d'écrire leurs devoirs ou aux collègues de bureau qui passent leur temps à vous dire que cette IA va tous bientôt nous remplacer. 

Des mails trompeurs et des codes malveillants

Les capacités de cet agent conversationnel de dernière génération créé par OpenAI – c'est-à-dire un "bot" capable de répondre à des questions qui lui sont soumises et d'avoir une discussion – ont fait forte impression aux pirates informatiques. 

Cette IA a commencé par aider les cybercriminels à… écrire des mails. Mais pas n'importe lesquels : des messages de "phishing", c'est-à-dire destinés à amener les cibles à cliquer sur un lien frauduleux ou à télécharger une pièce jointe contenant un virus. 

L'intérêt premier est de permettre aux non-anglophones de rédiger des mails sans erreur de grammaire et d'une qualité professionnelle. L'ère des faux e-mails envoyés depuis un pays d'Europe de l'Est dans un anglais très hésitant est révolue. Par exemple, un cybercriminel peut demander à ChatGPT d'écrire un mail comme s'il était un chirurgien qui communiquait avec un collègue.

D'où la crainte que ChatGPT ne favorise l'émergence d'une génération de pirates informatiques peu versés dans l'art du code mais dopés à l'IA. Une sorte de démocratisation de la cybercriminalité grâce à cet agent conversationnel qui se proposerait de rédiger les virus à votre place.

Si ChatGPT rend les codes malveillants plus accessibles, une action cybercriminelle nécessite également une infrastructure, un suivi des opérations, l’identification des informations sensibles et de celles qui peuvent être monnayées sur Internet.

Le Google Trad de la cybercriminalité

ChatGPT n'est donc pas une arme de piraterie massive pour apprenti hacker. Pour autant, il peut rendre la face obscure de la sécurité informatique plus accessible.

Ce "bot" peut devenir un professeur de piratage de premier ordre. Il peut être particulièrement utile pour la jeune génération de hackers qui devaient auparavant passer des heures à lire de la documentation ou à discuter sur des forums. Il peut accélérer leur formation. Surtout, il est d'autant plus attrayant qu'il dispose d'une interface beaucoup plus intuitive et génère des réponses plus précises que ses prédécesseurs.

OpenAI a tenté de mettre en place quelques garde-fous pour empêcher une utilisation malveillante de leur robot aux 1001 réponses. Il est ainsi, théoriquement, impossible de lui demander clairement, par exemple, de "rédiger le code pour la création d'un rançongiciel" et les ressortissants d'une douzaine de pays – dont la Russie, l'Iran, la Chine, l'Ukraine, etc. – ne sont pas censés pouvoir l'utiliser.