Résumé Technique : SIFT (Self-Improving, Frozen-gate Training)

1. Énoncé du Problème

Le papier identifie que, bien que la classification de documents soit techniquement « résolue » dans les environnements de laboratoire, elle reste un défi non résolu en production d'entreprise. Les principaux obstacles ne sont pas l'architecture du modèle ou la précision, mais plutôt :

1. Le projet d'étiquetage de démarrage à froid (Cold-Start) : Déployer un classificateur supervisé nécessite un corpus étiqueté, ce qui nécessite un projet chronophage et coûteux impliquant des experts métier rares avant que la première prédiction ne puisse être servie.
2. La peur du réentraînement autonome : Les entreprises hésitent à autoriser les modèles à se réentraîner d'eux-mêmes car un cycle de réentraînement automatisé peut dégrader silencieusement les performances sur des classes critiques tout en améliorant l'exactitude globale. Cela conduit à ce que les modèles soient « gelés » aux poids de lancement, où ils finissent par décliner en raison de la dérive des données (ex: changements dans le mélange de documents, nouveaux sous-types ou changements d'OCR).

Les solutions existantes comme la supervision faible, l'apprentissage actif et les approches de type « LLM-as-judge » traitent une partie du problème mais ne parviennent pas à fournir une recette complète pour un apprentissage continu, autonome et sûr sans intervention humaine à chaque cycle.

2. Méthodologie : L'Architecture SIFT

SIFT (Self-Improving, Frozen-gate Training) est un service de classification dynamique conçu pour briser cette impasse en créant une boucle d'auto-alimentation et un mécanisme de sécurité pour les mises à jour autonomes.

2.1 Service à Coût Échelonné (Cascade de Modèles)

SIFT emploie une architecture de type « modèle peu coûteux d'abord, modèle coûteux uniquement si nécessaire » :

• Le Modèle Peu Coûteux : Un pipeline lié au CPU composé d'un encodeur creux SPLADE (générant des caractéristiques lexicales basées sur des phrases ancres, des correspondances regex, et la longueur) alimentant une tête LightGBM. Ce modèle sert la majorité des requêtes en quelques millisecondes.
• Le Juge LLM : Seules les pages où la confiance du modèle peu coûteux tombe en dessous d'un seuil spécifique sont escaladées vers un Grand Modèle de Langage (LLM) agissant comme un juge. Le LLM est fourni avec l'espace de labels du domaine, le glossaire et la politique.
• Le Twist : Contrairement aux cascades traditionnelles où le verdict du modèle coûteux est jeté après l'inférence, les verdicts du juge LLM sont réécrits dans un corpus étiqueté.

2.2 Le Corpus d'Auto-Alimentation

Le système crée une boucle continue où le trafic de production génère des données d'entraînement :

• Réécriture (Write-Back) : Les pages à faible confiance escaladées vers le LLM sont étiquetées par le juge (si elles respectent un seument de confiance minimal) et ajoutées au corpus comme lignes étiquetées.
• Bootstrap : Pour les nouveaux domaines avec zéro donnée étiquetée, un chemin de bootstrap exécute le juge LLM sur des pages brutes non étiquetées pour générer un corpus initial et entraîner un premier modèle.
• Apprentissage Actif : Les réviseurs humains sont intégrés via une file d'attente qui fait remonter les lignes étiquetées par le juge ayant la plus faible confiance. Cela garantit que l'attention limitée des experts se concentre sur les cas limites les plus difficiles, corrigeant les étiquettes pour qu'elles servent de vérité terrain.
• Effet Économique : À mesure que le modèle peu coûteux apprend du feedback du juge, le taux d'escalade diminue, faisant tendre le coût marginal de l'étiquetage vers zéro.

2.3 Les Domaines comme Paquets Déclaratifs

Pour éliminer le besoin de changements de code ou de nouveaux projets d'étiquetage pour de nouvelles familles de documents, SIFT traite les domaines comme des données. Un « paquet » (bundle) est une configuration YAML déclarative contenant :

• Un espace de labels.
• Des phrases ancres pour l'encodeur creux.
• Des packs de regex optionnels.
• Un bloc de glossaire et de politique pour le juge LLM.
• Une liste de « labels critiques ».

2.4 Le Mécanisme de Promotion par Porte Gelée (Frozen-Gate)

Pour permettre un réentraînement autonome sûr, SIFT introduit un mécanisme de « porte de promotion » en deux parties qui veto tout candidat qui échoue à des vérifications spécifiques avant qu'il ne puisse remplacer le modèle en ligne :

1. Vérification de Régression F1 des Labels Critiques : Le paquet définit des classes spécifiques où une mauvaise classification est coûteuse (ex: « NDA »). Si le score F1 d'un modèle candidat chute en dessous du score du modèle actuel sur un label critique, la promotion est bloquée.
2. Ensemble d'Or Gelé (Frozen Golden Regression Set) : Le paquet inclut un petit ensemble immuable d'exemples qui ne sont jamais utilisés pour l'entraînement. Chaque modèle candidat est évalué par rapport à cet ensemble « doré ». Une baisse de performance sur cet ensemble gelé (soit en exactitude globale, soit en F1 des labels critiques) agit comme un veto strict.

Ce mécanisme garantit qu'un modèle ne peut pas régresser sur des tâches critiques ou dériver à cause de la dérive de la distribution du corpus d'entraînement lui-même.

3. Contributions Clés

Le papier présente cinq contributions principales :

1. Recadrage du Problème : Déplacer l'accent de la précision du modèle vers les véritables bloqueurs : le projet d'étiquetage initial et l'insécurité du réentraînement autonome.
2. Service à Coût Échelonné : Une architecture utilisant SPLADE + LightGBM avec escalade LLM, où le taux d'escalade diminue naturellement à mesure que le corpus croît.
3. Corpus d'Auto-Alimentation : Un système où les verdicts du juge et les révisions humaines étiquettent continuellement le trafic brut, permettant un chemin de bootstrap à partir de zéro donnée et une file d'attente d'apprentissage actif pour la correction par l'humain.
4. Promotion par Porte Gelée : Un mécanisme de sécurité combinant la vérification F1 des labels critiques et un ensemble doré non utilisé pour l'entraînement afin de rendre le réentraînement autonome sûr et routinier.
5. Onboarding Déclaratif : Une approche par paquets permettant d'intégrer de nouvelles familles de documents sans changements de code ni projets d'étiquetage, avec isolation multi-tenant.

4. Résultats et Application Illustrative

Le papier fournit une application illustrative impliquant la classification de documents juridiques (distinguer les NDA des pages de support et du contenu divers) :

• Démarrage à Zéro Étiquette : Une équipe a créé un paquet et a utilisé le chemin de bootstrap sur des centaines de pages non étiquetées. Le LLM a étiqueté les pages confiables, créant un corpus et entraînant un modèle sans étiquetage humain.
• Boucle de Production : Le modèle peu coûteux a géré la majorité du trafic. Environ 15 à 25 % des pages ont été escaladées vers le LLM.
• La Sécurité en Action : Un réentraînement mensuel a produit un candidat avec une exactitude globale améliorée, mais une chute de 2 points du F1 pour la classe critique « NDA ». La porte de promotion a bloqué la promotion, enregistrant l'écart.
• Correction : Les humains ont examiné le candidat bloqué via la file d'attente d'apprentissage actif, ont corrigé les pages « SUPPORTING » mal étiquetées, et le candidat suivant a passé les deux portes et a été auto-promu.
• Résultat : Au fil du temps, le taux d'escalade a diminué à mesure que le modèle peu coûteux absorbait la connaissance du juge, et l'équipe a limité ses coûts récurrents à la révision occasionnelle des promotions bloquées.

5. Signification et Revendications

Le papier affirme que SIFT change fondamentalement l'économie de la classification de documents en entreprise :

• D'un Projet à une Routine : Il transforme le « projet d'étiquetage » d'une dépense en capital en une opération continue à coût marginal quasi nul, pilotée par le trafic de production.
• De l'Imprudence à la Routine : Il convertit le « réentraînement mensuel sans humain » d'une proposition risquée en une configuration par défaut sûre et gouvernée.
• La Dynamique Enseignant-Élève : Le LLM est positionné non pas comme le classificateur principal, mais comme un « enseignant » déployé uniquement sur les leçons que l'« élève » (le modèle peu coûteux) n'a pas encore apprises, devenant progressivement inactif à mesure que l'élève s'améliore.
• Gouvernance : Le système est conçu pour être auditable et délimité, rendant les classificateurs auto-améliorés déployables dans des environnements réglementés où la sécurité et la détection de dérive sont primordiales.

6. Limites

Les auteurs reconnaissent plusieurs contraintes :

• Texte Uniquement : Le système repose actuellement sur le texte issu de l'OCR et n'utilise pas encore d'embeddings d'image pour la mise en page visuelle.
• Biais du Juge : Le système fait confiance au juge LLM au-dessus d'un seuil de confiance ; un juge systématiquement biaisé pourrait enseigner son biais au modèle peu coûteux, bien que l'ensemble gelé et l'apprentissage actif servent de contrôles.
• Représentativité de l'Ensemble Gelé : L'ensemble doré est un étalon fixe ; il ne peut pas veto les régressions sur des sous-types réellement nouveaux qui n'étaient pas présents dans l'ensemble original.
• Dépendance au Paquet : La qualité du démarrage à froid dépend fortement de la qualité des phrases ancres et des politiques fournies dans le paquet.
• Empreinte Opérationnelle : L'encodeur creux est le coût résident dominant, et les déploiements à grande échelle nécessiteront des magasins d'artefacts partagés et des files d'attente, actuellement sur la feuille de route.