Optimisation de la détection de vulnérabilités logicielles : Le rôle clé de l'ingénierie des prompts dans l'utilisation des LLMs

Introduction

L'étude A Preliminary Study on Using Large LanguageModels in Software Pentesting se penche sur l'utilisation des modèles de langage à grande échelle (LLM) dans le pentesting logiciel, une pratique essentielle pour identifier les vulnérabilités de sécurité dans le code source. L'objectif est d'évaluer si un agent IA basé sur un LLM peut s'améliorer au fil du temps en interagissant avec des opérateurs humains. Cette recherche est d'une grande pertinence pour les professionnels de la cybersécurité et les développeurs, car elle propose une approche novatrice pour affiner les outils de pentesting logiciel.

Contexte

L'étude s'inscrit dans un contexte où le pentesting est souvent considéré comme l'une des dernières étapes du cycle de développement logiciel, avec des équipes de développement et de pentesting travaillant séparément. Les outils actuels de pentesting, tels que SonarQube, génèrent un grand nombre de fausses alertes, conduisant à une fatigue des pentesters. L'étude vise à déterminer si les LLMs peuvent être affinés pour réduire ces fausses alertes et améliorer la précision des résultats.

Méthodes

Les méthodes employées dans l'étude se concentrent sur l'évaluation de l'efficacité des modèles de langage à grande échelle (LLM) dans la détection automatique des vulnérabilités logicielles. Pour ce faire, les chercheurs ont utilisé le projet OWASP Benchmark version 1.2, qui est une suite de test Java comprenant 2 740 fichiers source conçus pour présenter une vulnérabilité unique parmi 11 catégories différentes. Ces cas de test ont été divisés en un ensemble d'entraînement et un ensemble de test, avec une répartition aléatoire au sein de chaque catégorie de vulnérabilité, afin d'avoir 20 % des cas de test dans l'ensemble d'entraînement et le reste dans l'ensemble de test.

Pour interagir avec les LLMs, des prompts de base ont été utilisés, fournissant un contexte et des directives suffisants pour que le LLM puisse agir comme un outil d'analyse de code de sécurité au niveau d'un pentester débutant. Ces prompts de base ont été ensuite augmentés avec des directives spécifiques à chaque catégorie de vulnérabilité, basées sur les observations des données d'entraînement.

Par exemple, pour la catégorie "Weak Hashing", les prompts augmentés dirigeaient le LLM pour considérer uniquement SHA1 et MD5 comme des algorithmes de hachage faibles. Les modèles de LLM testés incluent GPT-3.5-Turbo, GPT-4-Turbo et Gemini-Pro, en utilisant les APIs de complétion de chat (ChatCompletion) et d'assistants (AssistantsAPI) fournies par OpenAI pour les modèles GPT, et une API non spécifiée pour Gemini-Pro.

Les résultats obtenus par ces LLMs ont été comparés à ceux de SonarQube, un outil d'analyse de code statique (SAST) largement utilisé dans l'industrie. L'évaluation et l'expérimentation ont été réalisées en utilisant la même suite de test OWASP et les mêmes prompts pour tous les LLMs. Cependant, il est noté que dans la réalité, une approche plus personnalisée, où les prompts sont conçus en fonction des réponses spécifiques de chaque LLM, pourrait être plus efficace. Cette méthode d'ingénierie des prompts vise à améliorer la précision des réponses des LLMs et à adapter l'agent IA à l'environnement d'utilisation spécifique, en devenant plus efficace au fur et à mesure de son interaction avec l'utilisateur humain.

Résultats

Les résultats de l'étude montrent que l'ingénierie des prompts a permis d'améliorer la précision des modèles de langage à grande échelle (LLMs) dans la détection des vulnérabilités logicielles. Cependant, cette amélioration n'est pas uniforme à travers toutes les catégories de vulnérabilités. Prenons l'exemple de l'injection SQL (SQL Injection), de la faiblesse de l'aléatoire (Weak Randomness) et de l'injection XPATH (XPATH Injection).

Injection SQL

Pour l'injection SQL, une vulnérabilité courante dans les applications web, l'étude a révélé que l'application de prompts augmentés a eu un impact variable sur la précision des différents modèles de langage à grande échelle (LLMs). En se concentrant sur le modèle GPT-4-Turbo en combinaison avec l'API Assistants, il est observé que la précision est passée de 62,4% avec le prompt de base à 67,8% avec le prompt augmenté. Cette augmentation de la précision, bien que modeste, indique que les prompts augmentés peuvent améliorer la capacité du modèle à détecter correctement les vulnérabilités d'injection SQL.

Cependant, cette amélioration n'est pas uniforme à travers tous les modèles LLM testés. Certains modèles n'ont pas montré d'amélioration significative avec l'utilisation des prompts augmentés pour cette catégorie de vulnérabilité. Cela suggère que l'efficacité des prompts augmentés dépend de la spécificité du modèle LLM utilisé et de sa capacité à intégrer et à appliquer les directives plus détaillées fournies par ces prompts.

Il est important de noter que les prompts augmentés sont conçus pour fournir des directives plus spécifiques et un contexte supplémentaire qui aident le LLM à mieux comprendre ce qui est considéré comme une vulnérabilité dans le code source analysé. Par exemple, dans le cas de l'injection SQL, le prompt augmenté pourrait inclure des instructions pour que le LLM se concentre sur des modèles de code spécifiques connus pour être susceptibles à ce type d'attaque, comme l'utilisation de chaînes de requête SQL non sanitaires.

Cette légère amélioration avec l'utilisation des prompts augmentés pour l'injection SQL reflète la complexité de cette vulnérabilité et la nécessité d'une compréhension approfondie du flux de code du programme pour une détection précise. Cela souligne également l'importance de l'ingénierie des prompts en tant que méthode pour affiner les capacités des LLMs dans des tâches spécifiques de pentesting logiciel.

Faiblesse de l'aléatoire (Weak Randomness)

La faiblesse de l'aléatoire (Weak Randomness) fait référence à l'utilisation d'algorithmes de génération de nombres aléatoires qui ne sont pas suffisamment robustes pour garantir la sécurité. Dans le contexte de l'étude, cette vulnérabilité est particulièrement pertinente car elle peut compromettre la sécurité des systèmes en rendant prévisibles des valeurs qui devraient être imprévisibles, comme les clés de cryptographie ou les jetons de session.

Les résultats de l'étude montrent que pour la catégorie de vulnérabilité Weak Randomness, l'ingénierie des prompts a eu un impact significatif sur la précision des modèles de langage à grande échelle (LLMs). En utilisant le prompt de base, le modèle Gemini Pro a atteint une précision de 93,1%. Après l'application de prompts augmentés, qui fournissent des directives plus détaillées et spécifiques à la catégorie de vulnérabilité, la précision de ce même modèle a grimpé à 98,7%.

Cela suggère que les prompts augmentés, qui sont conçus pour corriger les erreurs spécifiques observées dans les réponses des LLMs et pour fournir un contexte plus riche, peuvent considérablement améliorer la capacité des LLMs à identifier correctement les vulnérabilités liées à l'utilisation d'algorithmes faibles. En d'autres termes, lorsque les LLMs sont mieux guidés sur ce qui constitue une vulnérabilité dans le code source analysé, ils sont plus à même de détecter avec précision les cas de faiblesse de l'aléatoire.

Injection XPATH

Pour l'injection XPATH, une vulnérabilité qui peut permettre à un attaquant d'interférer avec les requêtes XPATH d'une application, les résultats de l'étude montrent une variation significative en fonction du modèle de langage à grande échelle (LLM) utilisé et de l'approche de prompt. Pour le modèle GPT-4-Turbo en association avec l'API Assistants, on observe une augmentation notable de la précision, passant de 59,2% avec le prompt de base à 74,0% avec le prompt augmenté.

Cela indique que les prompts augmentés, qui fournissent des directives plus spécifiques et un contexte enrichi, peuvent améliorer la capacité du modèle à détecter correctement les vulnérabilités d'injection XPATH. Il est important de noter que cette amélioration n'est pas constante pour tous les modèles ou toutes les catégories de vulnérabilités. Par exemple, le même GPT-4-Turbo avec l'API Assistants a montré une performance réduite dans d'autres catégories de vulnérabilités avec des prompts augmentés, comme l'injection SQL et la faiblesse de l'aléatoire (Weak Randomness).

Cela souligne l'importance d'une ingénierie des prompts adaptée non seulement au modèle LLM spécifique mais aussi à la nature de la vulnérabilité traitée. L'étude suggère que pour maximiser l'efficacité des LLMs dans la détection des vulnérabilités, il est essentiel de personnaliser les prompts en fonction des réponses spécifiques de chaque modèle et des améliorations observées, plutôt que d'adopter une approche uniforme. Cela peut conduire à une utilisation plus efficace des LLMs dans le pentesting logiciel, en permettant une adaptation dynamique et une amélioration continue de la précision des modèles grâce à l'ingénierie des prompts guidée par l'utilisation.

Pour résumer, les résultats démontrent que l'ingénierie des prompts peut améliorer la performance des LLMs dans la détection des vulnérabilités logicielles, mais cette amélioration n'est pas uniforme et dépend de la nature spécifique de la vulnérabilité ainsi que du modèle LLM utilisé. Il est donc crucial de personnaliser les prompts pour chaque type de vulnérabilité et pour chaque modèle LLM afin d'optimiser les résultats.

Discussion et conclusion

L'étude conclut que les LLMs offrent une voie viable pour l'automatisation du pentesting logiciel, avec une capacité d'amélioration grâce à l'ingénierie des prompts. Cependant, elle souligne que l'approche d'ingénierie des prompts pourrait être optimisée en étant adaptée à chaque LLM spécifique. Les limites de l'étude incluent l'utilisation d'une méthode uniforme pour tous les LLMs et la nécessité d'une approche plus personnalisée pour maximiser l'efficacité. Les implications pour la recherche future comprennent l'exploration de méthodes d'ingénierie des prompts plus ciblées et l'évaluation de leur efficacité sur de nouvelles tâches de pentesting.