🤖 AI

LLMs as Hackers: Autonomous Linux Privilege Escalation Attacks

Cette étude présente hackingBuddyGPT, un prototype automatisé utilisant des modèles de langage pour des attaques d'élévation de privilèges Linux, démontrant que GPT-4-Turbo atteint des taux de réussite comparables à ceux des pentesters humains (75 %) grâce à une gestion contextuelle optimisée, tandis que les modèles locaux comme Llama3 montrent des performances nettement inférieures.

Auteurs originaux : Andreas Happe, Aaron Kaplan, Juergen Cito

Publié 2026-02-12

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Andreas Happe, Aaron Kaplan, Juergen Cito

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🕵️‍♂️ Le Concept : Des IA qui deviennent des "Hacks"

Imaginez que vous avez un coffre-fort très sécurisé (votre ordinateur ou serveur Linux). Pour le protéger, vous engagez des experts en sécurité (des "pentesters" humains) qui essaient de le forcer pour voir où sont les faiblesses. C'est ce qu'on appelle le test d'intrusion.

Cette étude se demande une question fascinante : Et si on remplaçait l'expert humain par un robot très intelligent, un "Grand Modèle de Langage" (LLM), pour qu'il essaie de forcer le coffre-fort tout seul ?

Les chercheurs ont créé un petit robot nommé hackingBuddyGPT. Son but ? Se connecter à un ordinateur, chercher les portes mal verrouillées, et escalader les échelles pour devenir le "Roi" (l'administrateur root) de la machine.

🧪 La Méthode : Un Terrain de Jeu Sécurisé

Pour tester cela sans faire de mal à personne, les chercheurs ont construit un laboratoire virtuel.

C'est comme un parc d'attractions de sécurité où ils ont créé 12 petites maisons (des machines virtuelles).
Chaque maison a une seule faille spécifique (une porte ouverte, un mot de passe écrit sur un post-it, un outil mal configuré).
Ils ont invité différents "hacks" pour voir qui réussirait à entrer :
1. Un vrai expert humain (avec 7 ans d'expérience).
2. Des outils automatiques classiques (des robots rigides qui suivent des listes de règles).
3. Différentes IA (des modèles comme GPT-4, GPT-3.5 et Llama3).

🏆 Les Résultats : Qui gagne ?

Voici ce qu'ils ont découvert, avec des analogies :

1. Le Vainqueur : GPT-4 (Le Génie)

Performance : GPT-4 a réussi à ouvrir 66% à 83% des coffres-forts. C'est presque aussi bien que l'expert humain (qui a réussi 75%).
L'analogie : Imaginez un détective qui lit tous les livres de police, comprend la logique des voleurs, et sait exactement où chercher. Il ne se contente pas de taper au hasard ; il réfléchit.
Le coût : C'est efficace, mais cela coûte un peu plus cher (comme payer un consultant très cher), mais moins qu'un humain pour certaines tâches.

2. Le Milieu : GPT-3.5 (L'Apprenti)

Performance : Il a réussi environ 16% à 50% des cas.
L'analogie : C'est un apprenti détective. Il a de bonnes idées, mais il oublie souvent les détails ou se perd dans des impasses. Il a besoin qu'on lui donne un indice (une "aide de haut niveau") pour bien faire.

3. Le Perdant : Llama3 (Le Robot Rigide)

Performance : La version petite (Llama3-8b) n'a rien réussi (0%). La version géante (70b) a réussi un peu (25-33%).
L'analogie : C'est comme un robot qui suit un manuel d'instructions à la lettre. S'il ne trouve pas la clé dans le manuel, il ne sait pas improviser. Il essaie souvent de faire des choses qui n'ont aucun sens (comme essayer d'ouvrir une porte avec une cuillère).

🛠️ Les Astuces pour Améliorer les IA

Les chercheurs ont découvert que pour que l'IA fonctionne bien, il faut lui donner des outils spécifiques :

Les "Indices" (Guidance) : Si on dit à l'IA : "Hé, regarde du côté des fichiers de mot de passe", elle réussit beaucoup mieux. C'est comme donner une carte au trésor au détective au lieu de le laisser chercher au hasard.
La "Mémoire à court terme" (Contexte) : Les IA ont besoin de se souvenir de tout ce qu'elles ont fait. Plus elles ont de place pour se souvenir (un grand contexte), mieux elles réussissent. Mais attention, plus la mémoire est grande, plus cela coûte cher en argent et en temps.
La "Réflexion" : Au lieu de juste noter tout ce qu'elles ont fait (ce qui remplit la mémoire), on demande à l'IA de faire un résumé intelligent de la situation. Cela l'aide à mieux comprendre où elle en est.

⚠️ Les Limites : Ce que l'IA ne sait pas encore faire

Même si GPT-4 est impressionnant, il a des défauts qui le rendent moins "humain" :

Le manque de bon sens : Parfois, l'IA trouve un mot de passe écrit sur un fichier, le lit, mais oublie de l'utiliser pour se connecter. Un humain aurait dit : "Tiens, c'est le mot de passe ! Je l'essaie tout de suite !"
La patience : Pour certaines failles, il faut attendre qu'un programme tourne (comme un cron qui s'exécute toutes les heures). L'IA a tendance à s'impatienter, à répéter les mêmes commandes ou à abandonner trop vite, alors qu'un humain saurait attendre et surveiller.
Les erreurs de syntaxe : Parfois, l'IA invente des commandes qui n'existent pas ou mélange les paramètres, comme un enfant qui essaie de construire une maison avec des briques de la mauvaise taille.

💰 Conclusion : Est-ce que ça vaut le coup ?

Pour les entreprises : Utiliser une IA comme GPT-4 pour tester la sécurité est faisable et rentable, surtout si on l'aide avec des indices. C'est presque aussi bien qu'un humain, mais cela ne remplace pas encore totalement l'humain pour les cas complexes qui demandent de l'intuition.
Pour la sécurité : C'est une bonne nouvelle pour les défenseurs. En comprenant comment ces IA attaquent, on peut mieux se protéger contre elles.
Le danger : Les chercheurs ont aussi noté que des "mauvais acteurs" (des hackers malveillants) pourraient utiliser ces mêmes IA pour attaquer des systèmes réels. C'est pourquoi il est crucial de comprendre ces outils maintenant.

En résumé : Les IA sont devenues de très bons apprentis hackers. Avec un peu d'aide (des indices) et un bon budget, elles peuvent faire presque aussi bien que des experts humains. Mais elles manquent encore de l'intuition et de la patience d'un vrai détective.

1. Problématique et Contexte

Le test d'intrusion (pentesting) est essentiel pour identifier les vulnérabilités des systèmes, et l'élévation de privilèges (privilege escalation) en est une sous-tâche critique. Elle consiste à exploiter des bugs ou des erreurs de configuration pour passer d'un utilisateur à faible privilège à un administrateur système (root).

Bien que les grands modèles de langage (LLM) aient démontré leur capacité à imiter le comportement humain, leur efficacité réelle dans l'exécution autonome d'attaques d'élévation de privilèges sur Linux reste mal comprise. Les outils automatisés traditionnels se concentrent souvent sur la détection (énumération) mais échouent à exploiter automatiquement les vulnérabilités découvertes, laissant cette étape à l'humain. L'objectif de cette étude est de combler ce vide en évaluant quantitativement et qualitativement les capacités des LLMs à mener des attaques autonomes.

2. Méthodologie

Les auteurs ont conçu une approche expérimentale rigoureuse basée sur trois piliers :

A. Le Prototype : hackingBuddyGPT

Ils ont développé hackingBuddyGPT, un agent autonome entièrement automatisé écrit en Python.

Fonctionnement : L'agent se connecte via SSH à une machine virtuelle (VM) vulnérable. Il utilise un LLM pour décider de la prochaine commande à exécuter.
Boucle de contrôle : L'agent reçoit l'historique des commandes, l'état du système (ou un résumé de celui-ci) et des indices éventuels. Il génère une commande, l'exécute, analyse la sortie, et répète le processus jusqu'à l'obtention de l'accès root ou l'épuisement du nombre de tours (limité à 60 ou 120 tours).
Stratégies de contexte : L'étude compare l'utilisation de l'historique brut (truncation) contre une gestion d'état compressé (résumé des faits par le LLM via un mécanisme de "réflexion").

B. Le Benchmark (Testbed)

Pour garantir la reproductibilité et la sécurité, les auteurs ont créé un benchmark open-source unique :

Environnement : Des VMs Debian isolées, chacune contenant une seule vulnérabilité spécifique (pour éviter la contamination des résultats).
Classes de vulnérabilités : 12 scénarios couvrant les SUID, les erreurs de configuration sudo, Docker, la réutilisation de mots de passe, les clés SSH, les historiques de shell, et les tâches cron.
Sécurité : Les tests sont exécutés en réseau local (air-gapped) pour éviter tout risque de propagation.

C. Modèles Évalués et Baselines

L'étude compare plusieurs LLMs contre des baselines humaines et traditionnelles :

LLMs Cloud : GPT-3.5-Turbo, GPT-4-Turbo.
LLMs Locaux (Open Weights) : Llama3-8b (Small Language Model) et Llama3-70b (quantifié en 4-bit).
Baselines Humaines : Un pentester professionnel (7 ans d'expérience).
Outils Traditionnels : traitor et pwncat-cs.

3. Contributions Clés

Benchmark Open-Source : La création et la publication d'un ensemble de tests d'élévation de privilèges Linux reproductible et sécurisé, conçu spécifiquement pour évaluer les agents autonomes.
Prototype Automatisé : La mise à disposition de hackingBuddyGPT, permettant une évaluation comparative standardisée des capacités des LLMs.
Analyse Empirique Approfondie : Une évaluation quantitative des taux de réussite et une analyse qualitative du comportement des agents (qualité des commandes, gestion des erreurs, raisonnement causal).
Étude des Stratégies de Prompting : Analyse de l'impact de la gestion du contexte (historique vs état compressé), de la taille du contexte (8k vs 128k tokens) et de l'utilisation d'indices de haut niveau (guidance).

4. Résultats Principaux

Efficacité Quantitative

GPT-4-Turbo : C'est le modèle le plus performant. Sans guidance, il résout 33 % à 66 % des cas. Avec des indices de haut niveau (simulant un humain guidant l'agent), son taux de réussite monte à 83 %, se rapprochant du taux humain de 75 % (91 % avec guidance).
GPT-3.5-Turbo : Performances modérées (16 % sans guidance, 50 % avec guidance). Il est moins efficace mais beaucoup moins coûteux.
Llama3 (70b et 8b) : Performances limitées. Le modèle 70b atteint 25-33 % avec guidance, tandis que le modèle 8b (Small Language Model) échoue sur 0 % des cas sans assistance, prouvant que les modèles locaux actuels ne sont pas encore prêts pour le pentesting autonome.
Outils Traditionnels : traitor et pwncat-cs ne résolvent que 8-16 % des cas, confirmant que l'automatisation pure de l'exploitation est encore difficile pour les outils basés sur des règles.

Gestion du Contexte et Guidance

Guidance de Haut Niveau : Fournir des indices génériques (ex: "il pourrait y avoir un binaire SUID exploitable") augmente considérablement les performances, surtout pour GPT-4-Turbo (+33 % de réussite).
Gestion de l'État (State vs History) : Utiliser un mécanisme de "réflexion" où le LLM résume l'historique en un état concis améliore les performances de GPT-4-Turbo de 100 % (passant de 33 % à 66 % sans guidance) par rapport à l'utilisation brute de l'historique.
Taille du Contexte : L'augmentation de la taille du contexte (jusqu'à 128k tokens) apporte des améliorations marginales par rapport à 8k tokens, suggérant que la qualité de l'information (résumé) est plus importante que la quantité brute.

Analyse Qualitative et Limites

Raisonnement Causal : Les LLMs réussissent bien les attaques en une étape mais peinent avec les dépendances temporelles (ex: les attaques via cron où il faut attendre l'exécution d'un script).
Gestion des Erreurs : Les agents ont tendance à ignorer les messages d'erreur ou à répéter les mêmes commandes sans adapter leur stratégie (comportement de "parrot stochastique").
Commandes : GPT-4 génère des commandes syntaxiquement correctes mais parfois trop complexes. Llama3-8b génère souvent des commandes invalides ou hallucine de nouvelles fonctionnalités.
Sens Commun : Les LLMs manquent de "sens commun" (ex: ne pas utiliser un mot de passe trouvé dans un fichier .bash_history pour se connecter, ou ne pas comprendre qu'un binaire SUID standard comme passwd n'est pas exploitable).

Analyse des Coûts

GPT-4-Turbo peut atteindre des performances comparables à un humain pour un coût par vulnérabilité exploitée d'environ 1,54 $à 11,43$ (selon la configuration), ce qui reste compétitif par rapport aux coûts horaires des pentesters (environ 159 $/h).
Les modèles locaux (Llama3) sont très peu coûteux mais inefficaces.

5. Signification et Conclusion

Cette étude démontre que les LLMs, en particulier GPT-4-Turbo, ont atteint un niveau de compétence leur permettant d'automatiser une partie significative des attaques d'élévation de privilèges Linux, rivalisant avec des experts humains lorsqu'ils sont correctement guidés.

Implications :

Pour la Défense (Blue Teams) : Comprendre les schémas d'attaque des LLMs (manque de sens commun, répétition d'erreurs) permet de mieux concevoir des défenses et des détections spécifiques.
Pour la Recherche : L'étude identifie que l'amélioration des performances passe moins par l'augmentation de la taille du contexte que par l'optimisation de la gestion de l'état (réflexion) et l'intégration de guidance humaine ou de haut niveau.
Limites Actuelles : Les modèles locaux (SLMs) ne sont pas encore viables pour cette tâche, et les LLMs cloud restent coûteux et soumis à des filtres de sécurité (bien que contournables).

En conclusion, bien que l'automatisation complète ne soit pas encore parfaite, les LLMs représentent un levier puissant pour augmenter la productivité des pentesters, à condition de les superviser et de les guider stratégiquement. Les auteurs ont rendu publics leurs benchmarks et leurs données pour favoriser la recherche future sur la sécurité défensive.