🔢 mathematics

Two Black Boxes, One Solver: Encoder Probing and Decoder Attribution for Neural Multi-Attribute VRP under Hard-Mask and Recourse Decoders

Cet article introduit un protocole unifié pour interpréter les solveurs neuronaux du problème de tournées de véhicules multi-attributs en combinant des techniques de sondage de l'encodeur et d'attribution du décodeur, révélant que les biais inductifs de graphes et les régimes d'entraînement par recours améliorent significativement tant la clarté représentationnelle des contraintes que la génération d'explications contrefactuelles exploitables pour les décisions infaisables.

Auteurs originaux : Sohaib Afifi

Publié 2026-07-07

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Sohaib Afifi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un robot répartiteur brillant et super rapide qui planifie les itinéraires de livraison pour une flotte de camions. Il est excellent pour trouver les chemins les moins chers, mais c'est une « boîte noire ». Il se contente de dire : « Tournez à gauche ici », sans expliquer pourquoi. Si un gestionnaire humain demande : « Pourquoi avez-vous sauté ce client ? » ou « Et si nous avions un camion de plus ? », le robot n'a aucune réponse. Cela est risqué dans le monde réel car les gestionnaires ont besoin de faire confiance et de vérifier ces décisions.

Ce document est comme un kit de détective conçu pour ouvrir deux de ces boîtes noires à la fois : la partie qui comprend la carte (l'Encodeur) et la partie qui prend les décisions (le Décodeur). Les auteurs ont testé différentes versions de ces robots pour voir lesquels sont non seulement intelligents, mais aussi « honnêtes » et explicables.

Voici la décomposition de leur enquête en utilisant des analogies simples :

1. Les deux parties du robot

L'Encodeur (Le cerveau qui voit) : Cette partie regarde la carte, les règles de circulation, la capacité du camion et les fenêtres horaires. Elle transforme toutes ces données désordonnées en un code secret (une « représentation latente »).
- Le test : Les chercheurs ont demandé : « Pouvons-nous lire ce code secret pour voir si le robot comprend réellement les règles ? » Ils ont découvert que les robots construits avec des Encodeurs de Graphes (qui comprennent comment les villes sont connectées comme une toile) étaient bien meilleurs pour organiser ce code secret que les robots « Transformer » standards.
- La surprise : Un robot spécial (UNIMPMOE) ne stockait pas seulement les règles dans des tiroirs distincts et bien rangés. Au lieu de cela, il les stockait de manière distribuée, comme un hologramme où l'image entière est répartie sur tout le code. On ne peut pas trouver les « limites de temps » à un seul endroit ; il faut regarder l'ensemble du motif pour les voir.
Le Décodeur (Le cerveau qui décide) : Cette partie regarde le code secret et choisit la prochaine étape pour le camion.
- Le robot à « Masque Dur » (Hard-Mask) : Ce robot est comme un professeur strict. Il bloque physiquement le robot de choisir des mouvements illégaux (comme conduire un camion trop lourd). Il ne fait jamais d'erreur, mais parce qu'il est forcé d'être parfait, il n'apprend pas ce que signifie « presque ».
- Le robot de « Recours » (Recourse) : Ce robot est comme un étudiant qui apprend par essais et erreurs. Il est autorisé à faire des mouvements illégaux pendant l'entraînement, mais il est « puni » (un coût) pour cela. Il apprend ainsi à les éviter naturellement.

2. Les trois façons de demander « Pourquoi ? »

Pour comprendre le Décodeur, les auteurs ont utilisé trois différents « angles de lecture » (méthodes) pour demander au robot pourquoi il a fait un choix :

Abductif (Le « Pourquoi celui-ci ? ») : « Quelle était la raison la plus importante pour laquelle vous avez choisi ce client ? »
Contrastif (Le « Pourquoi pas celui-là ? ») : « Vous avez choisi le Client A, mais le Client B était très proche. Quelle est la minuscule différence qui vous a fait choisir A ? »
Contrefactuel (Le « Et si ? ») : « Quel est le plus petit changement que nous pourrions apporter au monde (par exemple, donner un peu plus de carburant au camion ou prolonger la fenêtre horaire) pour rendre un choix différent possible ? »

3. Les grandes découvertes

Les chercheurs ont passé une « fiche d'évaluation » comparant six différentes combinaisons de robots. Voici ce qu'ils ont trouvé :

Le « Professeur Strict » vs « L'Apprenant » :
Le robot Hard-Mask (le strict) était excellent pour suivre les règles, mais il était incapable d'expliquer pourquoi il ne pouvait pas faire quelque chose. Si vous demandiez : « Et si nous changions légèrement les règles pour rendre cet itinéraire impossible possible ? », le robot Hard-Mask n'avait aucune réponse car il n'avait jamais été entraîné à réfléchir aux itinéraires « presque possibles ».
Le robot de Recours (l'apprenant), en revanche, était incroyable pour cela. Parce qu'il a appris à gérer les situations de type « presque », il pouvait vous dire exactement quel petit changement rendrait un itinéraire impossible réalisable. Il produisait des contrefactuels de « rendre faisable » — disant essentiellement : « Je ne peux pas y aller encore, mais si vous ajoutez 5 minutes à la fenêtre horaire, je le peux. »
Le « Test de Sanité » :
Ils ont testé si les robots ne faisaient pas que « simuler » leurs explications. Ils ont brouillé le cerveau du robot (en randomisant les poids) et ont posé les mêmes questions.
- Le robot Hard-Mask avec l'architecture standard donnait des réponses qui semblaient identiques même lorsque son cerveau était brouillé. Cela signifie que ses « explications » n'étaient qu'un tour de passe-passe de sa conception, et non un véritable apprentissage.
- Les robots basés sur les graphes (particulièrement les modèles de Recours) donnaient des réponses totalement différentes et absurdes lorsqu'ils étaient brouillés. Cela a prouvé que leurs explications étaient réellement basées sur ce qu'ils avaient appris, et non sur un simple bug du code.
Le compromis :
Les robots de Recours étaient légèrement moins efficaces (ils prenaient un peu plus de temps pour trouver l'itinéraire parfait) par rapport aux robots Hard-Mask. Cependant, les auteurs soutiennent que ce petit coût en vaut la peine car le robot de Recours fournit des explications plus riches et exploitables. Il dit à un gestionnaire humain non seulement quoi faire, mais aussi comment corriger un problème si le plan échoue.

L'essentiel

Le document conclut que pour construire une IA digne de confiance pour la logistique, on ne peut pas se contenter de regarder si les itinéraires sont les moins chers. Il faut regarder comment le robot réfléchit.

Les encodeurs basés sur les graphes aident le robot à mieux organiser ses connaissances.
L'entraînement par recours (laisser le robot faire des erreurs et apprendre d'elles) crée un robot capable d'expliquer ses décisions et de suggérer des corrections réalistes pour les situations impossibles.

La meilleure combinaison trouvée était un Encodeur de Graphe associé à un Décodeur de Recours. Ce robot est non seulement compétitif en termes de coût, mais c'est le seul capable de répondre véritablement à la question : « Quel est le plus petit changement nécessaire pour que cela fonctionne ? »

Résumé Technique : Deux Boîtes Noires, Un Seul Résolveur

Contexte du Problème
Les solveurs autoregressifs neuronaux pour le Problème de Tournées de Véhicules Multi-Attributs (MAVRP) ont atteint des coûts compétitifs face à des heuristiques robustes et d'autres bases de référence basées sur l'apprentissage. Cependant, ces modèles fonctionnent comme des « boîtes noires », n'offrant aucune justification étape par étape pour leurs décisions. Dans les opérations logistiques, les répartiteurs ont besoin de plus qu'un simple itinéraire ; ils doivent valider les décisions par rapport aux règles métier, diagnostiquer les anomalies et comparer les familles de solveurs candidates. L'opacité actuelle empêche cela, car la politique émet des actions sans exposer quels entrées importaient, quelles contraintes ont dominé, ou quels changements minimaux modifieraient la décision. L'article soutient qu'un compte rendu d'IA explicable (XAI) conjoint des deux étapes — l'encodeur (représentation) et le décodeur (décision) — est nécessaire pour remédier à cette responsabilité opérationnelle.

Méthodologie
Les auteurs proposent un protocole unifié pour « ouvrir » deux boîtes noires complémentaires : l'encodeur et le décodeur. L'étude évalue six variantes de solveurs formées en combinant trois familles d'encodeurs (baseline ATT, encodeur de graphe UNIMP, UNIMPMOE avec Mixture-of-Experts) et deux variantes de décodeurs (HARD-MASK et RECOURSE).

Sondage de l'Encodeur (Pilier 1) :
Le protocole analyse les représentations latentes gelées ( $h$ ) aux niveaux du graphe, du nœud et de l'arête en utilisant quatre métriques :

Prédictibilité : Des sondes linéaires déterminent si les familles de contraintes actives peuvent être récupérées à partir de $h$ . Des lectures non supervisées (axe unique vs sous-espace top- $k$ ) distinguent entre un codage aligné sur les axes et un codage distribué.
Organisation Spontanée : Les métriques de clustering (NMI, silhouette) évaluent si $h$ partitionne naturellement les instances par famille de contraintes sans supervision.
Richesse : Les rangs effectifs et stables mesurent la dimensionnalité de la représentation pour détecter un effondrement.
Directions Découvertes : Les axes PCA/ICA sont alignés avec les indicateurs de contraintes et validés causalement via une intervention (perturbation du latent pour vérifier si le concept se déplace comme prédit).

Attribution du Décodeur (Pilier 2) :
Trois méthodes d'attribution (Gradient, Integrated Gradients, DeepLIFT) sont appliquées à l'étape de décodage sous trois angles de lecture :

Abductif : Agrégation de la masse d'attribution pour identifier « pourquoi cette action ? ».
Contrastif : Attribution de la marge entre l'action choisie et la meilleure alternative réalisable pour identifier ce qui sépare la décision de son rival le plus proche.
Contrefactuel : Une recherche dirigée pour trouver la plus petite perturbation d'entrée qui soit soit un retournement de l'action choisie, soit le rétablissement de la faisabilité d'une alternative infaisable (« rendre réalisable »).

Grille d'Évaluation :
Tous les résultats sont évalués selon cinq critères : Fidélité (le retrait des entrées attribuées inverse-t-il la décision ?), Concentration (l'explication est-elle focalisée ?), Stabilité (des modèles initialisés différemment sont-ils d'accord ?), Sanité (l'attribution survit-elle à la randomisation des poids ?) et Actionnabilité (des changements mineurs peuvent-ils mener à des décisions différentes ?).

Contributions Clés

Protocole à Deux Piliers : Un cadre XAI conjoint qui sonde la prédictibilité/organisation de l'encodeur et attribue les décisions du décodeur à travers des lentilles abductives, contrastives et contrefactuelles.
Taxonomie des Familles de Contraintes : Une méthode pour agréger les gradients d'entrée bruts en groupes opérationnellement lisibles (capacité, géométrie, fenêtres temporelles, recours de l'itinéraire).
Benchmarking Complet : Application du protocole à six variantes de MAVRP, comparant explicitement un décodeur à « masque fort » (HARD-MASK, faisabilité par construction) à un décodeur à « masque faible » (RECOURSE, faisabilité par apprentissage).
Révélation de Phénomènes Cachés : Le protocole expose des phénomènes invisibles par le seul coût d'inférence, incluant le codage distribué dans les encodeurs MoE, les écarts de sanité entre architectures, et les écarts de représentation entre les politiques de décodeurs.

Résultats

Performance de l'Encodeur : Les encodeurs de graphes (UNIMP, UNIMPMOE) surpassent significativement la baseline ATT en termes de prédictibilité (macro-F1) et d'organisation spontanée (NMI). UNIMPMOE présente un codage distribué : bien qu'il soit moins performant que UNIMP sur les sondes à axe unique, il rattrape son retard lors de l'évaluation sur des sous-espaces top- $k$ , indiquant que les contraintes sont représentées à travers un sous-espace plutôt que sur un axe unique.
Performance et Coût du Décodeur : Les décodeurs HARD-MASK atteignent des coûts d'inférence plus bas (écart de 1,39–1,82 % par rapport au BKS) comparativement à RECOURSE (2,73–2,91 %). Cependant, RECOURSE offre une meilleure interprétabilité.
Sanité et Stabilité : Les encodeurs de graphes passent le test de sanité (poids entraînés vs randomisés) de manière décisive, tandis que l'ATT montre des artefacts architecturaux. Les politiques RECOURSE produisent des explications plus riches mais présentent une plus faible stabilité dans l'identification d'une seule famille de contraintes dominante par rapport à HARD-MASK, reflétant un compromis entre richesse et reproductibilité.
Contrefactuels (La Découverte Critique) : Le décodeur RECOURSE est la seule variante capable de produire des contrefactuels de type « rendre réalisable » (petits changements qui transforment une alternative infaisable en une alternative réalisable). Les politiques HARD-MASK échouent à produire ces contrefactuels même lorsqu'elles sont alimentées par des alternatives infaisables externes. Cela est attribué au régime d'entraînement : RECOURSE apprend à assigner une masse de logit significative aux candidats infaisables, tandis que les politiques HARD-MASK, contraintes par construction, ne le font pas.

Signification et Revendications
L'article affirme que le choix du décodeur n'est pas simplement un compromis de performance, mais un choix d'interprétabilité. Le régime d'entraînement RECOURSE, plutôt que simplement son masquage plus souple, produit des politiques qui représentent l'infaisabilité de manière utile, exposant des contrefactuels actionnables que les politiques HARD-MASK ne peuvent produire. De plus, l'étude démontète que le biais inductif de graphe améliore à la fois la prédictibilité de la représentation et la sanité du décodeur. Les auteurs concluent que les solveurs d'optimisation combinatoire neuronaux nécessitent un compte rendu XAI conjoint des étapes de représentation et de décision pour être opérationnellement viables, car un encodeur lisible ne garantit pas un décodeur lisible, et vice versa. Le protocole sert de grille standard pour comparer les familles de solveurs sur les mêmes points de contrôle, révélant que le « meilleur » solveur dépend de la priorité accordée soit au coût brut, soit à la capacité de valider et de comparer les décisions.

1. Les deux parties du robot

2. Les trois façons de demander « Pourquoi ? »

3. Les grandes découvertes

L'essentiel

Articles similaires