🤖 AI

Wnuan: Staged Post-Training for Question Answering over Proprietary Enterprise Knowledge

Le document présente Wnuan, un pipeline de post-entraînement en trois étapes qui adapte efficacement les grands modèles de langage aux connaissances d'entreprise propriétaires en atteignant un taux de réponses acceptables de 91,51 % sur WnuanBench, tout en quantifiant le compromis associé avec les capacités générales de suivi d'instructions.

Auteurs originaux : Xiaofeng Shi, Xiaosong Qiu, Wenxin Ma, Qian Kou, Yiming Pan, Longbin Yu, Ying Liu, Haiping Wang, Hua Zhou

Publié 2026-08-04

📖 8 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xiaofeng Shi, Xiaosong Qiu, Wenxin Ma, Qian Kou, Yiming Pan, Longbin Yu, Ying Liu, Haiping Wang, Hua Zhou

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'enseigner à un adolescent brillant et cultivé comment diriger une entreprise très spécifique et complexe. Cet adolescent a déjà lu presque tous les livres de la bibliothèque publique et peut discuter de tout, de l'histoire au codage. Cependant, il n'a jamais vu les manuels de règles internes, les manuels de sécurité ou les fichiers de projets secrets de l'entreprise. Si vous lui demandez simplement de deviner les réponses en se basant sur ce qu'il sait du monde extérieur, il pourrait paraître sûr de lui mais se tromper sur les détails, ou pire, inventer des faits qui semblent réels mais qui ne le sont pas (un problème que les experts appellent « hallucination »).

C'est le défi de l'Enterprise Question Answering (Réponse aux questions en entreprise). Les entreprises possèdent des montagnes de documents privés qui détiennent les « vraies » réponses, mais leurs modèles d'IA ne les connaissent pas. L'objectif est d'enseigner ces secrets privés à l'IA sans qu'elle oublie comment être un assistant utile, poli et logique. C'est un équilibre délicat : si vous lui apprenez trop de choses sur l'entreprise, elle pourrait cesser d'être un bon assistant général ; si vous ne lui en apprenez pas assez, elle ne pourra pas faire son travail. Le document que vous allez lire explore une recette ingénieuse en trois étapes pour résoudre ce casse-tête, transformant une IA à usage général en un expert de l'entreprise sans lui faire perdre la tête.

La Recette Wnuan : Enseigner à une IA comment devenir un expert d'entreprise

Découvrez Wnuan, un nouveau pipeline d'entraînement conçu pour transformer une IA générale en un spécialiste qui connaît les documents privés d'une entreprise sur le bout des doigts. Considérez l'IA non pas comme un étudiant qui révise pour un examen, mais comme un nouvel employé qui doit apprendre le manuel de l'entreprise, les protocoles de sécurité et l'historique des projets, tout en se rappelant comment être un être humain poli.

Les auteurs de ce document ont construit un camp d'entraînement en trois étapes pour leur IA, qu'ils appellent Wnuan. Voici comment le voyage se déroule, étape par étape.

Étape 1 : Transformer le manuel en un jeu de quiz

Tout d'abord, l'équipe a dû transformer des milliers de documents d'entreprise arides et ennuyeux (comme des PDF de règles de sécurité ou des spécifications techniques) en quelque chose dont l'IA puisse réellement tirer profit. On ne peut pas simplement nourrir l'IA avec un manuel de 500 pages en espérant qu'elle le mémorise. Au lieu de cela, ils ont utilisé un processus appelé Document-to-QA.

Imaginez prendre un manuel de règles dense et demander à un éditeur intelligent de transformer chaque règle en une fiche de révision de type « Question et Réponse ». Si la règle dit : « Tous les employés doivent porter un casque dans la Zone B », le système crée une fiche qui demande : « Que devez-vous porter dans la Zone B ? » et fournit la réponse. Ils ont fait cela pour plus de 220 000 exemples ! Ils ont même demandé à l'IA de réécrire certaines réponses pour s'assurer qu'elles sonnent exactement comme l'IA spécifique qu'ils étaient en train d'entraîner. Cela a créé un immense jeu de quiz personnalisé, adapté aux secrets de l'entreprise.

Étape 2 : La pause « Replay »

Voici maintenant la partie délicate. Si vous étudiez uniquement le manuel de l'entreprise, vous pourriez oublier comment parler aux gens ou résoudre des problèmes généraux. C'est ce qu'on appelle l'« oubli catastrophique » (catastrophic forgetting). Pour éviter cela, l'équipe a utilisé une technique appelée General-Data Replay.

Voyez cela comme une session d'étude où l'étudiant étudie le manuel de l'entreprise pendant un certain temps, puis fait une pause pour discuter de sujets généraux comme le sport, la science ou les énigmes logiques. Le document a révélé que mélanger environ 48 % de données de conversation générale avec les données de l'entreprise était le « point d'équilibre » idéal. Cela permettait de garder l'IA intelligente et polie tout en apprenant les règles de l'entreprise. Sans cette pause, l'IA serait devenue un excellent expert d'entreprise, mais un piètre interlocuteur.

Étape 3 : L'exercice de l'« erreur résiduelle »

Après les deux premières étapes, l'IA était plutôt bonne, mais elle faisait encore des erreurs. Elle réussissait les questions faciles mais trébuchait sur les plus difficiles. C'est là qu'intervient la troisième étape, l'Apprentissage par Renforcement (RL) sur l'erreur résiduelle.

Au lieu de réviser tout le jeu de quiz, l'équipe s'est concentrée spécifement sur les questions auxquelles l'IA avait répondu mal (les « erreurs résiduelles »). Ils ont traité ces erreurs comme un entraîneur se concentrant sur les points faibles d'un athlète. Ils ont utilisé un système de récompense spécial pour apprendre à l'IA comment corriger ces erreurs spécifiques. C'est comme dire : « Tu as réussi les problèmes de mathématiques faciles, mais travaillons sur ces trois problèmes d'algèbre complexes jusqu'à ce que tu les maîtrises. »

Les Résultats : Une grande victoire pour un faible coût

Les résultats de cet entraînement en trois étapes sont impressionnants. Avant l'entraînement, l'IA (appelée Wnuan-Base) ne pouvait donner des réponses acceptables qu'à environ 52,76 % des questions de leur ensemble de test, appelé Wnuan-Bench.

Après l'étape 2 (SFT avec Replay) : Le score est passé à 80,06 %. L'IA était désormais un employé solide.
Après l'étape 3 (RL sur l'erreur résiduelle) : Le score a grimpé encore plus haut pour atteindre 91,51 %. L'IA maîtrisait les secrets de l'entreprise.

L'équipe a également vérifié si l'IA avait oublié comment être un assistant général. Ils ont constaté que, bien que l'IA soit devenue légèrement moins performante pour suivre des instructions très spécifiques et complexes (une baisse d'environ 5 points sur un benchmark général), elle n'avait pas perdu son intelligence générale. Le compromis en valait la peine : l'IA est devenue un bien meilleur expert d'entreprise.

Ce que le document écarte (et ce qu'il ne fait pas)

Les auteurs ont été très prudents dans leurs tests. Ils n'ont pas simplement supposé que se concentrer sur les erreurs était préférable ; ils l'ont prouvé.

Se concentrer sur les erreurs fonctionne : Ils ont comparé leur méthode « Erreur Résiduelle » (se concentrer uniquement sur les mauvaises réponses) à deux autres méthodes : étudier tout (le pool complet) et étudier un mélange aléatoire de questions. La méthode « Erreur Résiduelle » a gagné, battant la méthode aléatoire de 2,97 points et le pool complet de 3,11 points. Cela suggère qu'une fois qu'une IA connaît les bases, s'exercer sur ses faiblesses spécifiques est le moyen le plus efficace d'apprendre.
La recherche (Retrieval) n'est pas une solution miracle : L'équipe a également testé une astuce courante appelée RAG (Retrieval-Augmented Generation), où l'IA est autorisée à chercher des réponses dans une base de données pendant le test. Étonnamment, pour l'IA entièrement entraînée, la recherche de réponses a rendu les performances moins bonnes dans certains cas. L'IA avait déjà tellement bien appris la matière que le fait de chercher l'information la perturbait. Cela suggère que pour ce type d'entraînement spécifique, il vaut mieux que la connaissance soit « intégrée » plutôt que recherchée à la volée.
Ce n'est pas un remède universel : Le document admet que cette méthode fonctionne très bien pour les documents internes de cette entreprise. Elle ne prétend pas résoudre tous les problèmes d'IA au monde. De plus, l'IA est toujours conçue pour être une aide que les humains vérifient, et non un robot prenant des décisions finales de sécurité ou d'embauche de manière autonome.

L'essentiel

Le papier Wnuan nous montre une voie claire pour créer des experts en IA. En transformant les documents en quiz, en mélangeant la conversation générale pour maintenir l'équilibre de l'IA, et en s'exerçant spécifiquement sur les erreurs qu'elle commet, on peut transformer un robot à usage général en un initié de l'entreprise hautement qualifié.

Les auteurs suggèrent que cette approche « par étapes » est la clé : d'abord enseigner les bases, puis affiner les points faibles. Bien que l'IA perde un tout petit peu de sa capacité à suivre des instructions complexes, le gain massif de précision (passant de 52,76 % à 91,51 %) en fait une stratégie gagnante pour les entreprises qui ont besoin que leur IA connaisse les règles, les procédures et les secrets de l'entreprise. Cela nous rappelle que parfois, la meilleure façon d'apprendre n'est pas de tout réviser, mais de se concentrer intensément sur ce que l'on a raté.

Étape II : SFT avec Rejeu de Données Générales
- Modèle de Base : Le pipeline commence par Qwen3-32B, que les auteurs nomment Wnuan-Base.
- Entraînement : Le modèle subit un SFT à l'échelle de tous les paramètres sur le jeu de questions-réponses (QA) du domaine, mélangé à des exemples généraux publics (Soren 2025).
- Stratégie de Rejeu : Les auteurs recherchent empiriquement un ratio de « rejeu » optimal (de 0 % à 100 % des exemples du domaine) pour équilibrer la performance sur le domaine et la rétention des capacités générales. Le réglage nominal de 50 % sélectionné (ratio réel d'environ 48,3 %) maximise la moyenne non pondérée des benchmarks MMLU, IFEval et C-Eval. Cela produit Wnuan-Inst.
Étape III : Apprentissage par Renforcement sur les Erreurs Résiduelles (RL)
- Sélection : Au lieu de s'entraîner sur l'ensemble du pool, le pipeline identifie les « erreurs résiduelles » — les exemples auxquels Wnuan-Inst répond encore incorrectement. Cela génère un pool de 56 147 exemples.
- Optimisation : Le modèle subit une optimisation de politique relative de groupe (GRPO) avec une fonction de récompense sémantique ( $r = 0,6r_{acc} + 0,3r_{qualité} + 0,1r_{format}$ ). Les composantes de la récompense évaluent l'exactitude, la cohérence logique, l'expression professionnelle, la concision et la conformité du format.
- Comparaison : Une expérience contrôlée compare cet échantillonnage par erreur résiduelle à un échantillonnage sur le pool complet et à un échantillonnage aléatoire de taille équivalente sous un budget fixe de 100 mises à jour.

Contributions Clés

Pipeline de Bout en Bout : Une recette pour convertir des documents propriétaires en un modèle de QA en mode « boîte fermée » (closed-book), traitant explicitement le compromis entre la spécialisation du domaine et la rétention des capacités générales.
Wnuan-Bench : Un nouveau benchmark d'évaluation composé de 707 questions réparties sur huit domaines métier (ex. : scénarios opérationnels, normes, supervision de la sécurité), élaboré par des experts internes et distinct des données d'entraînement.
Stratégie de RL par Erreur Résiduelle : La preuve que concentrer un budget de mise à jour fixe sur les exemples encore jugés incorrects après le SFT permet d'obtenir une performance supérieure par rapport à l'échantillonnage aléatoire ou sur le pool complet.
Évaluation Calibrée : Un ensemble d'évaluation automatique (utilisant plusieurs juges LLM) calibré par rapport à un expert du domaine, atteignant un accord de 90,5 % sur un échantillon stratifié.

Résultats
Évalué sur le Wnuan-Bench de 707 questions en utilisant la voie principale de 32B :

Gains de Performance :
- Wnuan-Base : 52,76 % de Taux de Réponse Acceptable (AAR).
- Wnuan-Inst (Post-SFT) : 80,06 % d'AAR (+27,30 points).
- Wnuan-RL (Post-RL) : 91,51 % d'AAR (+11,45 points par rapport à Inst).
Efficacité de l'Échantillonnage par Erreur Résiduelle : Sous un protocole de 100 mises à jour appariées, l'échantillonnage par erreur résiduelle a atteint 89,39 % d'AAR, surpassant l'échantillonnage sur le pool complet (86,28 %) et l'échantillonnage aléatoire de taille équivalente (86,42 %) de 3,11 et 2,97 points, respectivement. Les intervalles bootstrap de grappes de sources sont restés positifs pour ces contrastes.
Compromis de Capacité Générale :
- La moyenne des benchmarks généraux (MMLU, IFEval, C-Eval) est passée de 88,61 % (Base) à 83,44 % (RL).
- Ce déclin est concentré dans le suivi d'instructions (IFEval), qui a chuté de 6,52 points de Inst à RL, tandis que le MMLU et le C-Eval ont connu de légères augmentations.
Analyse de la Récupération (Retrieval) : L'application d'un pipeline RAG fixe a amélioré le modèle Base non adapté, mais s'est révélée non additive (et légèrement préjudiciable) pour les modèles spécialisés Inst et RL, suggérant que la récupération devrait être déclenchée par une condition plutôt qu'unconcaténation inconditionnelle.

Signification et Revendications
L'article prétend caractériser à la fois les gains et les coûts de l'adaptation d'entreprise par étapes.

Efficacité par Étapes : Le pipeline démontre qu'après que le SFT a résolu les exemples faciles, concentrer le RL sur les erreurs résiduelles est une politique efficace pour maximiser la précision du domaine sous contrainte de budget.
Compromis Explicites : Les auteurs notent modestement que les gains en maîtrise du domaine s'accompagnent d'un « coût de capacité générale », spécifiquement une réduction de la performance de suivi d'instructions. Ils ne revendiquent pas de solution universelle, mais plutôt un point de fonctionnement spécifique sélectionné via une recherche par grille empirique.
Rigueur de l'Évaluation : Les résultats sont soutenus par une analyse de sensibilité des grappes de sources et une évaluation automatique calibrée par des experts, distinguant les améliorations de politique agrégées de l'invariance exacte au niveau de chaque ligne.
Limites : L'étude est confinée aux données de domaine d'une seule entreprise ; elle ne revendique pas de généralisation inter-entreprises ou de performance sur des données non vues. Le diagnostic de récupération est limité à un seul pipeline et n'établit pas une interaction généralisée entraînement-récupération.

En conclusion, Wnuan fournit une recette validée pour l'adaptation en entreprise qui privilégie l'apprentissage par erreur résiduelle lors de la phase finale, offrant une voie claire vers une QA en mode boîte fermée à haute précision tout en reconnaissant explicitement la dégradation associée de certaines capacités générales spécifiques.