🤖 AI

Bridging Auxiliary Constraints to Resolve Instruction Following in Large Reasoning Models

Cet article introduit le Constraint Relationship Graph Completion (CRGC), un nouveau cadre qui résout le problème d'adhérence aux contraintes dans les grands modèles de raisonnement en construisant un graphe de connaissances des instructions afin d'identifier et de générer des « contraintes de pont » qui réconcilient les exigences concurrentes, réduisant ainsi les violations de contraintes de 39 % sans compromettre les capacités de raisonnement.

Auteurs originaux : Zhengyi Zhao, Shubo Zhang, Huimin Wang, Zezhong Wang, Yutian Zhao, Yefeng Zheng, Binyang Li, Yulan He, Kam-Fai Wong, Xian Wu

Publié 2026-06-03

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Zhengyi Zhao, Shubo Zhang, Huimin Wang, Zezhong Wang, Yutian Zhao, Yefeng Zheng, Binyang Li, Yulan He, Kam-Fai Wong, Xian Wu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous demandiez à un assistant très intelligent et créatif d'écrire une histoire pour vous. Vous lui donnez une liste de règles : « Rendez cela drôle », « Restez sous les 200 mots », « N'utilisez pas la lettre 'e' » et « Incluez un chat ».

Par le passé, même les assistants les plus intelligents (appelés Grands Modèles de Raisonnement) échouaient souvent à cette tâche. Ils pouvaient écrire une histoire hilarante de 500 mots, ou une histoire courte mais totalement sérieuse, ou encore oublier complètement le chat. Ils sont submergés par la tentative de jongler avec toutes ces règles à la fois, surtout lorsque les règles semblent s'opposer (comme être « drôle » tout en étant « court »).

Ce papier appelle cette difficulté le Problème d'Adhérence aux Contraintes. C'est comme demander à un chef de cuisiner un plat qui soit à la fois « épicé », « sucré », « servi dans un bol » et « servi sur une assiette » en même temps. Le chef s'embrouille et vous sert un désastre.

La Solution : Construire une carte de « Pont »

Les auteurs proposent une nouvelle façon de parler à ces modèles d'IA appelée CRGC (Constraint Relationship Graph Completion - Complétion de Graphe de Relation de Contraintes). Au lieu de simplement jeter une liste de règles à l'IA, cette méthode agit comme un contrôleur de trafic ou un chef de chantier avant même que le travail ne commence.

Voici comment cela fonctionne, en utilisant une analogie simple :

1. Le Plan (Le Graphe)

D'abord, le système décompose votre demande en règles individuelles (contraintes). Il dessine ensuite une carte (un graphe) montrant comment ces règles sont liées entre elles.

S'entraident-elles ? (ex : « Utilisez des listes à puces » aide à « Rester court »).
Se battent-elles ? (ex : « Soyez très détaillé » contre « Restez sous les 200 mots »).
Sont-elles ignorées ? (ex : L'IA oublie de « mettre la réponse entre guillemets »).

2. Identifier les embouteillages

Le système examine cette carte et repère les points de friction. Il identifie les endroits où les règles s'affrontent ou là où l'IA est susceptible d'être distraite et d'oublier une règle.

3. Construire le Pont

C'est la partie magique. Lorsque le système voit deux règles qui se battent (comme « détaillé » contre « court »), il ne dit pas simplement à l'IA de « faire plus d'efforts ». Au lieu de cela, il invente une Contrainte de Pont.

Considérez une contrainte de pont comme un traducteur ou un médiateur.

Le Conflit : « Écrire une explication détaillée » contre « Rester sous les 200 mots ».
Le Pont : Le système ajoute une nouvelle instruction utile : « Utilisez des listes à puces et du texte en gras pour condenser un maximum d'informations dans un minimum d'espace ».

Cette nouvelle instruction agit comme un pont. Elle donne à l'IA une stratégie concrète pour satisfaire les deux règles originales sans en briser aucune. Elle transforme un conflit en un puzzle soluble.

Pourquoi est-ce différent ?

Les méthodes précédentes tentaient de résoudre cela de plusieurs manières :

Entraîner l'IA plus durement : Comme embaucher un nouveau chef et lui enseigner pendant des mois. C'est coûteux et cela peut faire oublier à l'IA comment cuisiner d'autres choses.
Demander à l'IA de vérifier son travail plus tard : Comme demander au chef de cuisiner, de goûter, de réaliser que c'est trop long, puis de recommencer. Cela prend beaucoup de temps et mène souvent à un problème de « coup de marteau » où corriger une erreur en crée une autre.

CRGC est différent car :

Il ne change pas le cerveau de l'IA (pas de réentraînement).
Il ne attend pas que les erreurs surviennent. Il planifie à l'avance.
Il utilise les propres connaissances de l'IA pour créer ces « ponts » automatiquement.

Les Résultats

Les auteurs ont testé cela sur trois ensembles différents d'instructions difficiles.

Le Résultat : L'IA a respecté les règles 39 % mieux que lorsqu'elle recevait des instructions standards.
L'Équilibre : Crucialement, l'IA n'est pas devenue « moins intelligente » pour les autres tâches. Habituellement, quand on apprend à une IA à suivre les règles strictement, elle perd en capacité de raisonnement général. Mais comme cette méthode se contente d'ajouter un « pont » utile aux instructions sans modifier l'entraînement de base de l'IA, celle-ci est restée performante en mathématiques et en logique tout en devenant bien meilleure pour suivre les règles.

En résumé

Imaginez que vous dirigiez une pièce de théâtre.

L'ancienne méthode : Vous dites aux acteurs : « Soyez drôles, soyez brefs et ne trébuchez pas ». Ils sont confus, trébuchent ou s'éternisent. Vous devez leur crier de recommencer.
La méthode CRGC : Avant que la pièce ne commence, vous examinez le script et réalisez que « Drôle » et « Bref » sont difficiles à concilier. Alors, vous donnez un conseil spécifique aux acteurs : « Racontez des blagues courtes avec des chutes percutantes ». Ce « pont » les aide à atteindre les deux objectifs parfaitement dès le premier essai, sans avoir besoin de réécrire toute la pièce ou de licencier les acteurs.

Ce papier démontre qu'en aidant les modèles d'IA à comprendre comment leurs instructions se connectent et entrent en conflit, nous pouvons les rendre beaucoup plus fiables sans avoir besoin de les reconstruire de zéro.

Résumé Technique : Combler les Contraintes Auxiliaires pour Résoudre le Suivi d'Instructions dans les Grands Modèles de Raisonnement

Définition du Problème : Le Problème d'Adhérence aux Contraintes (CAP)

Les Grands Modèles de Raisonnement (LRM) ont démontré des capacités impressionnantes dans des tâches complexes, mais peinent fréquemment à suivre de manière fiable plusieurs instructions simultanément. Cet échec se manifeste de deux manières principales : (1) l'Oubli de Contrainte, où le modèle néglige entièrement des exigences spécifiques, et (2) l'Interférence de Contrainte, où le modèle ne parvient pas à équilibrer des contraintes multiples qui semblent entrer en conflit (par exemple, fournir une « explication technique détaillée » tout en respectant une limite stricte de « 200 mots »).

Les auteurs formalisent ce défi généralisé comme le Problème d'Adhérence aux Contraintes (Constraint Adherence Problem - CAP). Bien que les approches existantes reposent sur des méthodes d'entraînement généralistes telles que l'ajustement fin supervisé ou l'apprentissage par renforcement à partir de la rétroaction humaine (RLHF), ces méthodes supposent implicitement qu'une amélioration des capacités générales conduit naturellement à une meilleure satisfaction des contraintes. Le papier soutient que cette hypothèse échoue souvent en pratique car ces méthodes ne modélisent pas explicitement comment les contraintes se rapportent les unes aux autres, se soutiennent ou interfèrent entre elles.

Méthodologie : Complétion de Graphe de Relation de Contraintes (CRGC)

Pour répondre au CAP, le papier introduit la Complétion de Graphe de Relation de Contraintes (Constraint Relationship Graph Completion - CRGC), un cadre qui représente les instructions sous la forme d'un graphe de connaissances structuré de contraintes. Le CRGC exploite la propre connaissance du modèle pour générer des « contraintes de pont » (bridge constraints) — des instructions auxiliaires qui réconcilient les exigences conflictuelles ou déconnectées — sans modifier les paramètres du modèle.

Le cadre fonctionne via trois composantes séquentielles :

1. Construction du Graphe de Contraintes

L'instruction d'entrée $I$ est décomposée en un ensemble de contraintes individuelles $C = \{C_1, C_2, \dots, C_n\}$ et un objectif de tâche $T$ . Le système construit un graphe orienté pondéré $G_{init} = (V, E_{init}, W_{init})$ où les nœuds représentent les contraintes et les arêtes représentent leurs influences.

Poids des Arêtes ( $w_{ij}$ ) : Le poids d'une arête de $C_i$ vers $C_j$ quantifie le « coût » ou le risque de violation de $C_j$ lorsque $C_i$ est satisfaite. Il est calculé à l'aide de la baisse relative de la satisfaction attendue :
$w_{ij} = \frac{E[S(C_j, y)] - E[S(C_j, y) | S(C_i, y) \geq \tau]}{E[S(C_j, y)]}$
où $S(C, y)$ est un score de satisfaction (0 à 1) et $\tau$ est un seuil. Les poids négatifs indiquent des relations d'amélioration, tandis que les poids positifs indiquent une interférence.
Optimisation : L'algorithme de l'Arborescence Spanning Minimale (Minimum Spanning Arborescence - MSA) est appliqué pour trouver l'arbre orienté couvrant optimal enraciné au niveau du nœud de la tâche. Cet arbre représente le chemin de génération qui minimise le risque total de violation de contrainte.

2. Détection de Défis d'Adhérence

L'arbre optimisé est analysé pour identifier les arêtes problématiques qui posent encore des défis :

Contraintes Interférentes : Arêtes avec des poids positifs élevés ( $w_{ij} > \delta$ ), indiquant que le modèle perçoit un conflit entre les contraintes.
Contraintes Isolées : Arêtes avec des poids proches de zéro ( $|w_{ij}| \leq \delta$ ), indiquant que le modèle ne parvient pas à connecter cognitivement des contraintes disjointes, menant à l'oubli.
Ces arêtes forment l'ensemble des candidats pour l'insertion de contraintes de pont.

3. Découverte de Contraintes de Pont

Pour chaque paire problématique $(C_i, C_j)$ , le cadre génère une Contrainte de Pont $B_{ij}$ en utilisant un Grand Modèle de Langage.

Pour les paires interférentes, un prompt de réconciliation $R(C_i, C_j)$ génère une stratégie pour résoudre le conflit (par exemple, « utiliser des sections structurées avec des listes à puces » pour satisfaire à la fois « concis » et « détaillé »).
Pour les paires isolées, un prompt de connexion $C(C_i, C_j)$ établit un lien logique explicite.
Ces ponts sont intégrés à l'instruction originale pour former une instruction enrichie $I_{enhanced}$ , qui guide le modèle pour satisfaire toutes les contraintes en une seule passe directe (forward pass).

Contributions Clés

Caractérisation Formelle du CAP : Le papier définit le Problème d'Adhérence aux Contraintes, en distinguant spécifiquement l'oubli de contrainte et l'interférence de contrainte comme des modes de défaillance distincts dans les LRM.
Cadre Basé sur les Graphes : Il propose une méthode novatrice pour représenter les contraintes d'instruction comme un graphe de relation, utilisant l'algorithme MSA pour identifier les chemins de génération optimaux et détecter les défis d'adhérence.
Mécanisme de Contrainte de Pont : L'introduction des « contraintes de pont » comme instructions auxiliaires dynamiques en langage naturel qui réconcilient structurellement les exigences conflictuelles sans nécessiter de réentraînement du modèle.
Validation Empirique : Des expériences approfondies démontrent que le CRGC réduit considérablement les violations de contraintes tout en préservant les capacités de raisonnement général du modèle.

Résultats Expérimentaux

Les auteurs ont évalué le CRGC à travers trois benchmarks de suivi d'instructions (IFEval, ComplexBench, FollowBench) et trois benchmarks de raisonnement général (MMLU, GSM8K, BIG-Bench Hard).

Satisfaction des Contraintes : Le CRGC a réduit les violations de contraintes de 39 % par rapport au prompting standard et de 27,7 % par rapport au prompting par Chaîne de Pensée (Chain-of-Thought - CoT). Sur le jeu de données ComplexBench, il a amélioré le Taux de Satisfaction des Contraintes (CSR) d'environ 11,9 % par rapport au prompting standard pour Qwen2.5-72B.
Préservation du Raisonnement : Contrairement aux méthodes d'ajustement fin spécialisées qui dégradent souvent les performances de raisonnement général (de ~6-7 %), le CRGC maintient ou améliore légèrement les capacités de raisonnement sur les benchmarks standards.
Efficacité : Bien que le CRGC incurre un surcoût computationnel plus élevé lors du tour initial dû à la construction du graphe, il réduit drastiquement le besoin de raffinement itératif. Comparé aux méthodes réactives comme DeCRIM, le CRGC a atteint une réduction de 67 % de la consommation totale de tokens cumulés et une réduction de 58 % du temps de traitement en résolvant les conflits de manière proactive plutôt que réactive.
Résolution de Conflits : Le CRGC a surpassé tous les baselines dans la résolution de contraintes diamétralement opposées, atteignant une amélioration absolue allant jusqu'à 19,7 % dans les taux de résolution de conflits par rapport aux cadres de vérification et de réparation.

Signification et Revendications

Le papier affirme que le CRGC offre une solution non invasive et adaptative au Problème d'Adhérence aux Contraintes. Sa principale importance réside dans le passage d'une « amélioration des capacités générales » à une « modélisation structurelle des contraintes ».

Proactif vs Réactif : Les auteurs soutiennent que la capacité du CRGC à cartographier les relations de contraintes avant la génération lui permet de contourner les cycles coûteux en calcul et sujets à l'erreur de la correction réactive (où la correction d'une violation en brise une autre).
Généralisabilité : En exploitant la propre connaissance du modèle pour générer des contraintes de pont, la méthode évite le besoin de catégories de contraintes prédéfinies ou de données d'entraînement supplémentaires, ce qui la rend applicable à divers types d'instructions implicites et diverses.
Performance Équilibrée : Le cadre parvient à découpler l'adhérence aux instructions du pouvoir de raisonnement, prouvant que les modèles peuvent être guidés pour suivre des instructions complexes à contraintes multiples sans sacrifier leur puissance de raisonnement sous-jacente.

Les auteurs concluent que la modélisation structurée des contraintes représente une direction prometteuse pour améliorer le suivi d'instructions, particulièrement dans les applications du monde réel où l'adhérence fiable à des exigences multiples et potentiellement conflictuelles est critique.