💻 computer science

UntrustVul: An Automated Approach for Identifying Untrustworthy Alerts in Vulnerability Detection Models

UntrustVul est une approche automatisée qui identifie les prédictions de vulnérabilité peu fiables en signalant les lignes de code suspectes qui ne présentent ni des motifs historiques de vulnérabilité ni de dépendances vulnérables, atteignant une précision nettement supérieure à celle des méthodes existantes sur plusieurs jeux de données et modèles.

Auteurs originaux : Lam Nguyen Tung, Xiaoning Du, Neelofar Neelofar, Aldeida Aleti

Publié 2026-05-18

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Lam Nguyen Tung, Xiaoning Du, Neelofar Neelofar, Aldeida Aleti

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème : Le Détective « Confiant mais dans l'Erreur »

Imaginez que vous engagez un détective de sécurité très qualifié (un modèle d'IA) pour trouver des failles dans les plans d'un bâtiment (le code logiciel). Ce détective est très rapide et trouve généralement les problèmes. Cependant, parfois, le détective devient trop confiant mais mal orienté.

Voici ce qui se passe :

Le détective repère un vrai problème (une vulnérabilité) dans les plans.
Mais, au lieu de pointer le tuyau cassé, le détective pointe une poignée de porte élégante ou une couleur spécifique de peinture sur le mur.
Le détective dit : « Je suis sûr à 99 % que ce bâtiment est dangereux à cause de cette poignée de porte ! »
En réalité, la poignée de porte n'a rien à voir avec le tuyau cassé. Le détective a simplement appris que les « poignées de porte » apparaissent souvent dans les images de bâtiments dangereux dans ses données d'entraînement, il suppose donc qu'elles en sont la cause.

Si un constructeur humain (un développeur) fait confiance à ce détective, il pourrait perdre des heures à essayer de réparer la poignée de porte, ou pire, il pourrait colmater la poignée de porte et laisser le tuyau cassé fuir, provoquant une catastrophe.

Le Problème Central : Les modèles d'IA actuels peuvent être très bons pour dire « Ceci est cassé », mais ils sont souvent mauvais pour expliquer pourquoi ou pour pointer la vraie partie cassée. Ils s'appuient sur des « caractéristiques fallacieuses » (indices non pertinents) plutôt que sur la véritable cause racine.

La Solution : UNTRUSTVUL (Le « Vérificateur de Confiance »)

Les auteurs ont créé un nouvel outil appelé UNTRUSTVUL. Considérez-le non pas comme un détective, mais comme un inspecteur de contrôle qualité du rapport du détective.

Son travail est d'examiner les « lignes suspectes » du détective (les indices qu'il a pointés) et de se demander : « Cet indice est-il réellement pertinent pour le crime, ou est-ce juste une coïncidence ? »

Comment UNTRUSTVUL Fonctionne (La Vérification en Deux Étapes)

UNTRUSTVUL utilise un processus en deux étapes pour décider si une prédiction est digne de confiance :

Étape 1 : La Vérification du « Livre d'Histoire » (Évaluation au Niveau de la Ligne)

L'Analogie : Imaginez une bibliothèque de chaque scène de crime jamais résolue. UNTRUSTVUL examine la ligne de code spécifique que le détective a signalée. Il se demande : « Cette ligne ressemble-t-elle aux parties de code qui causent habituellement de vrais problèmes ? »
L'Action : Si la ligne signalée n'est qu'un commentaire générique, un nom de variable ou un style de codage courant qui apparaît aussi dans du code sûr, UNTRUSTVUL la marque comme un « Candidat Bénin » (une ligne inoffensive qui a juste l'air suspecte).
L'Objectif : Elle filtre les lignes qui ne sont clairement pas le problème en se basant sur des modèles historiques.

Étape 2 : La Vérification de l'« Effet Domino » (Évaluation des Dépendances)

L'Analogie : Parfois, une ligne apparemment inoffensive peut faire partie d'un problème si elle contrôle un interrupteur qui allume une machine dangereuse. UNTRUSTVUL dessine une carte de la façon dont le code se connecte (comme un organigramme). Il se demande : « Cette ligne inoffensive est-elle connectée à une ligne qui EST réellement dangereuse ? »
L'Action : Elle trace les connexions.
- Si la ligne signalée est loin du vrai danger (aucune connexion), elle est Sans Rapport avec la Vulnérabilité.
- Si la ligne signalée est directement connectée au danger (comme un interrupteur qui allume une bombe), elle est Pertinente pour la Vulnérabilité.
Le Résultat : Si le détective a pointé des lignes qui sont à la fois « inoffensives » ET « déconnectées du danger », UNTRUSTVUL signale toute la prédiction comme Non Digne de Confiance.

Le Score : Un « Mètre de Confiance »

UNTRUSTVUL ne dit pas juste « Oui » ou « Non ». Il donne un Score de Confiance.

Score Élevé : Le détective a pointé les bonnes lignes, et ces lignes sont connectées au vrai problème. (Faites confiance à l'IA).
Score Faible : Le détective a pointé des lignes non pertinentes ou des lignes qui ne se connectent pas au danger. (Ignorez l'explication de l'IA ; c'est probablement une fausse alerte ou un mauvais diagnostic).

Pourquoi Cela Compte (Les Résultats)

Les chercheurs ont testé UNTRUSTVUL sur 115 000 prédictions faites par quatre modèles d'IA de premier plan différents.

Les Constats : Ils ont découvert que de nombreuses prédictions à « haute confiance » étaient en réalité peu fiables. L'IA était confiante, mais son raisonnement était erroné.
La Performance : UNTRUSTVUL était beaucoup plus efficace pour repérer ces mauvaises prédictions que les méthodes précédentes (qui regardaient principalement le niveau de confiance de l'IA).
- Il a amélioré la capacité à détecter les prédictions peu fiables de 13 % à 92 % par rapport aux anciennes méthodes.
- Il a identifié avec succès des cas où l'IA « courait après des fausses pistes » (des indices non pertinents).

La Conclusion

Dans le monde de la sécurité logicielle, savoir qu'un programme est vulnérable n'est que la moitié de la bataille. Vous devez aussi savoir où se trouve le problème pour pouvoir le réparer.

UNTRUSTVUL est un filet de sécurité. Il empêche les développeurs de perdre du temps à réparer les mauvaises choses (comme la poignée de porte) en signalant automatiquement les prédictions de l'IA basées sur des indices non pertinents. Il garantit que lorsque l'IA dit : « Réparez cette ligne », le développeur peut réellement faire confiance au fait que cette ligne est celle qui doit être réparée.

Résumé Technique de UNTRUSTVUL : Identification Automatisée des Alertes Non Fiables dans les Modèles de Détection de Vulnérabilités

1. Énoncé du Problème

Les modèles d'apprentissage automatique (ML) ont démontré une grande précision dans la détection des vulnérabilités logicielles. Cependant, des études récentes indiquent que ces modèles s'appuient souvent sur des corrélations fallacieuses — des caractéristiques de code non pertinentes telles que des identifiants spécifiques, des signatures de fonctions ou des styles de codage qui apparaissent fréquemment dans le code vulnérable mais qui ne sont pas sémantiquement liés à la vulnérabilité réelle. Par conséquent, bien qu'un modèle puisse correctement classifier une fonction comme vulnérable, les lignes de code spécifiques qu'il met en évidence comme « suspectes » (via des techniques d'interprétabilité telles que les mécanismes d'attention) peuvent être sans rapport avec la cause racine.

Ce phénomène rend les prédictions non fiables. Les développeurs qui se fient à ces annotations trompeuses peuvent perdre du temps à investiguer du code non pertinent, créer des correctifs inefficaces, ou même introduire de nouvelles vulnérabilités. Les métriques existantes, telles que les scores de confiance du modèle, échouent à distinguer les prédictions fiables des prédictions non fiables ; des prédictions à haute confiance peuvent toujours reposer sur un raisonnement incorrect. Il existe un besoin critique d'une approche automatisée pour identifier et signaler ces prédictions non fiables avant qu'elles n'atteignent les examinateurs humains.

2. Méthodologie : UNTRUSTVUL

L'article présente UNTRUSTVUL, la première approche automatisée conçue pour identifier les prédictions de vulnérabilité non fiables. La philosophie centrale est qu'une prédiction est non fiable si les lignes qu'elle met en évidence sont non pertinentes pour la vulnérabilité. Une ligne est définie comme non pertinente pour la vulnérabilité si :

Elle est intrinsèquement non vulnérable (un « candidat bénin »).
Elle n'a aucune influence sur d'éventuelles lignes vulnérables via des dépendances de contrôle ou de données.

UNTRUSTVUL fonctionne en deux étapes principales :

Étape 1 : Évaluation au Niveau des Lignes (Identification des Candidats Bénins)

Objectif : Déterminer si une ligne suspecte annotée par un modèle est syntaxiquement distinguable des lignes vulnérables historiques.
Mécanisme : Le système exploite des données historiques (spécifiquement à partir de l'ensemble de données BigVul) pour entraîner un ensemble de classificateurs utilisant des modèles de code basés sur des transformateurs (CodeBERT, GraphCodeBERT, UniXcoder).
Processus : Les lignes suspectes sont encodées en représentations profondes et comparées aux lignes historiques vulnérables et non vulnérables. Les lignes qui ressemblent aux lignes historiques non vulnérables (bénins sans contexte) sont classées comme candidats bénins. Les lignes qui ressemblent aux modèles vulnérables historiques sont des candidats non bénins (potentiellement vulnérables).
Raffinement : Pour assurer la robustesse, le système utilise les scores BLEU pour filtrer les lignes non vulnérables qui sont syntaxiquement trop similaires aux lignes vulnérables, garantissant ainsi que l'ensemble « bénin » est distinct.

Étape 2 : Évaluation au Niveau des Dépendances (Mesure de la Accessibilité)

Objectif : Évaluer si les candidats bénins peuvent influencer les candidats non bénins (vulnérabilités potentielles) via des dépendances de code.
Mécanisme : Le code source est analysé en un Graphe de Dépendances de Programme (PDG) à l'aide d'outils d'analyse statique (Joern).
Analyse d'Accessibilité : Le système calcule la distance d'accessibilité de chaque candidat bénin au candidat non bénin le plus proche.
- Si un candidat bénin ne peut atteindre aucun candidat non bénin via des dépendances de contrôle ou de données, il est jugé totalement non pertinent pour la vulnérabilité.
- S'il peut atteindre un candidat non bénin, la distance est mesurée ; des distances plus courtes impliquent une influence plus forte.
Notation : Un Score de Fiabilité ( $T$ ) continu est calculé en agrégeant les scores d'importance des lignes suspectes et leurs distances d'accessibilité vers les candidats non bénins.
- Un score $T$ plus bas indique une probabilité plus élevée de non-fiabilité (c'est-à-dire que le modèle s'appuie fortement sur des lignes qui sont à la fois bénignes et déconnectées des vulnérabilités réelles).

3. Contributions Clés

Cadre UNTRUSTVUL : La première approche automatisée pour révéler les prédictions de vulnérabilité non fiables en analysant la plausibilité des lignes suspectes annotées par le modèle.
Insight sur la Confiance : Une investigation démontrant que la confiance du modèle est un indicateur insuffisant de fiabilité ; des prédictions à haute confiance peuvent toujours être non fiables.
Évaluation Complète : Évaluation extensive sur quatre détecteurs de l'état de l'art (SOTA) (LineVul, SVulD, IVDetect, ReVeal) et quatre ensembles de données (BigVul, MegaVul, SARD, PrimeVul), couvrant plus de 115 000 prédictions.
Ressources Ouvertes : Publication publique du code et des ensembles de données pour faciliter la recherche future.

4. Résultats Expérimentaux

Les auteurs ont évalué UNTRUSTVUL par rapport à des références incluant une approche basée sur la confiance (« Naive ») et des méthodes basées sur la perturbation (variantes de CausalVul).

Performance de Détection : UNTRUSTVUL a atteint un AUC de 70 % à 88 % et un score F1 de 82 % à 94 % dans la détection des prédictions non fiables.
Comparaison : Il a surpassé les approches existantes de 6 % à 59 % en AUC et de 13 % à 92 % en score F1. Plus précisément, il a nettement dépassé les références basées sur la confiance (qui échouaient souvent à distinguer la fiabilité) et les méthodes basées sur la perturbation.
Amélioration des Détecteurs : Lorsqu'il est utilisé pour filtrer ou guider le réentraînement des modèles, UNTRUSTVUL a amélioré le score F1 des détecteurs de vulnérabilités jusqu'à 321 % dans des contextes inter-projets et a amélioré les métriques de fiabilité (IoU et score $T$ ) jusqu'à 100 %.
Efficacité : L'outil traite une fonction en environ 1,02 à 1,47 seconde, ce que les auteurs jugent acceptable pour des tâches critiques en matière de sécurité, malgré une vitesse inférieure aux simples vérifications de confiance.

5. Importance et Revendications

L'article revendique que UNTRUSTVUL comble une lacune critique dans le cycle de vie de la sécurité logicielle. Alors que les recherches précédentes se concentraient sur la génération d'interprétations (explications) pour les modèles ML, ce travail se concentre sur l'évaluation de la plausibilité de ces interprétations.

Flux de Travail des Développeurs : En filtrant automatiquement les prédictions non fiables, UNTRUSTVUL réduit la charge de la révision manuelle, empêchant les développeurs de poursuivre du code non pertinent et évitant des stratégies de correction défectueuses.
Agnosticisme du Modèle : L'approche ne nécessite pas la connaissance des emplacements spécifiques des vulnérabilités ni de l'architecture interne du détecteur. Elle fonctionne avec n'importe quel modèle fournissant des interprétations au niveau des lignes (par exemple, via l'attention ou GNNExplainer).
Conception Conservatrice : La méthodologie est conçue pour être conservatrice afin d'éviter de classer à tort des prédictions fiables comme non fiables, en priorisant la précision dans l'identification de cas clairs d'irrélevance.

Les auteurs concluent que bien que l'approche soit actuellement centrée sur le C/C++ et des ensembles de données spécifiques, la logique sous-jacente d'analyse de la syntaxe et de l'accessibilité des dépendances offre une voie généralisable vers des outils d'ingénierie logicielle basés sur le ML plus fiables.