💬 NLP

Latent Knowledge as a Predictor of Fact Acquisition in Fine-Tuned Large Language Models

Cette étude démontre que la connaissance latente — des faits biomédicaux stockés dans les poids d'un modèle mais initialement inaccessibles — est le prédicteur le plus fort de la rapidité avec laquelle les grands modèles de langage acquièrent de nouveaux faits lors du réglage fin et de leur capacité à généraliser à des correspondances d'ontologies inédites, tout en révélant que les correspondances précédemment correctes sont plus sujettes à la dégradation lorsqu'elles ne sont pas renforcées pendant l'entraînement.

Auteurs originaux : Daniel B. Hier, Tayo Obafemi-Ajayi

Publié 2026-01-27

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Daniel B. Hier, Tayo Obafemi-Ajayi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un Grand Modèle de Langage (comme celui utilisé dans cette étude) comme une bibliothèque géante et chaotique qui aurait été construite en lisant des millions de livres. Avant que les chercheurs ne commencent leur expérience, cette bibliothèque était déjà remplie de faits, mais ils étaient stockés de manière désordonnée. Certains faits étaient écrits en lettres brillantes et grasses sur la couverture (faciles à trouver), tandis que d'autres étaient griffonnés à l'encre invisible au fond d'un livre poussiéreux (difficiles à trouver, mais toujours présents).

Les chercheurs voulaient savoir : Si nous donnons à cette bibliothèque un « guide d'étude » spécifique (ajustement fin ou fine-tuning), à quelle vitesse apprendra-t-elle de nouveaux faits ? Et qu'est-ce qui détermine si elle les apprend rapidement ou si elle oublie les anciens ?

Voici l'histoire de leurs découvertes, décomposée en concepts simples :

1. La découverte de l'« encre invisible » (Connaissance latente)

Les chercheurs ont découvert que la bibliothèque avait un secret. Certains faits étaient écrits avec une « encre invisible ». Si vous posiez une question normalement à la bibliothèque, elle répondrait : « Je ne sais pas ». Mais si vous lui posiez la question d'une manière légèrement différente, plus aléatoire (en utilisant une technique appelée décodage stochastique), la bibliothèque dirait soudainement : « Oh ! En fait, je sais ça ! ».

Ils ont appelé cela la Connaissance Latente. C'est comme un étudiant qui connaît une formule mathématique mais qui est trop nerveux pour l'écrire pendant un examen. La connaissance est là, juste cachée.

La grande découverte :

Les faits avec de l'« encre invisible » ont été appris super vite. Lorsque les chercheurs ont commencé le « guide d'étude » (fine-tuning), le modèle a appris ces faits presque immédiatement. C'était comme si l'étudiant avait juste besoin d'un petit coup de pouce pour se souvenir de ce qu'il savait déjà.
Les faits SANS « encre invisible » étaient des apprenants lents. Si la bibliothèque n'avait jamais vu un fait auparavant (ou s'il était très rare), le modèle devait l'apprendre à partir de zéro. Cela prenait beaucoup plus de temps et se produisait à un rythme plus lent.

2. Les trois issues de l'étude

Les chercheurs ont observé la bibliothèque sur 20 « sessions d'étude » (époques) et ont suivi trois choses spécifiques :

Mémorisation (Apprendre ce que l'on voit) : Le modèle a appris les faits qui lui ont été explicitement enseignés.
- Résultat : Il a appris environ 72 % des faits qui lui ont été enseignés. Mais encore une fois, ceux qu'il « connaissait à moitié » (connaissance latente) ont été appris en premier et le plus rapidement.
Généralisation (Deviner l'invisible) : Les chercheurs ont donné au modèle une liste de faits qu'il n'avait jamais vus et lui ont demandé s'il pouvait les deviner simplement en étudiant les faits similaires.
- Résultat : C'était très rare (seulement environ 6 % du temps). Cependant, le modèle n'a réussi à deviner ces nouveaux faits que s'il possédait déjà cette « encre invisible » (connaissance latente) à leur sujet. S'il n'avait aucune exposition préalable, il ne pouvait pas deviner les nouveaux faits.
Dégradation (Oublier ce que l'on savait) : C'est la partie effrayante. Parfois, pendant que le modèle étudiait de nouvelles choses, il oubliait des faits qu'il connaissait parfaitement au début.
- Résultat : Le modèle était beaucoup plus susceptible d'oublier des faits qu'il n'avait pas étudiés pendant les sessions d'étude. Les faits qui lui ont été enseignés étaient protégés, comme un bouclier. C'est comme étudier pour un examen d'histoire et oublier accidentellement son propre numéro de téléphone parce qu'on était trop concentré sur le nouveau matériel.

3. Le facteur de « Popularité »

Les chercheurs ont également vérifié si la « popularité » d'un fait dans le monde réel (la fréquence à laquelle il apparaît dans les livres médicaux) importait.

La surprise : La fréquence d'apparition d'un mot spécifique n'avait pas beaucoup d'importance.
Le véritable gagnant : La fréquence d'apparition de l'identifiant (le code spécifique du fait) comptait beaucoup.
Le champion : L'« Encre Invisible » (Connaissance Latente) était le prédicteur le plus fort. Elle importait plus que la popularité ou la fréquence.

La métaphore de synthèse

Pensez au modèle comme à un jardinier et aux faits comme à des graines.

La Connaissance Latente est comme une graine qui a déjà fait germer une minuscule racine sous terre. Quand vous l'arrosez (ajustement fin), elle devient instantanément une plante.
Pas de Connaissance Latente est une graine qui est complètement dormante. Vous devez l'arroser pendant longtemps avant qu'elle ne commence même à pousser.
La Généralisation, c'est essayer de faire pousser une plante à partir d'une graine que vous n'avez jamais vue auparavant. Vous ne pouvez le faire que si le sol (le cerveau du modèle) possède déjà les bons nutriments (connaissance latente) pour la soutenir.
La Dégradation, c'est comme si le jardinier se concentrait tellement sur la plantation de nouvelles fleurs qu'il piétinait accidentellement les anciennes. Les fleurs que vous arrosez actuellement (l'ensemble d'entraînement) restent en sécurité, mais celles que vous ignorez (l'ensemble non vu) sont piétinées.

Résumé

L'article conclut qu'on ne peut pas simplement forcer un modèle à apprendre n'importe quoi instantanément.

Si le modèle possède déjà un « indice » de la connaissance (connaissance latente), il apprend vite et peut même deviner des choses nouvelles similaires.
Si le modèle n'a aucun indice du tout, l'apprentissage est lent et il ne pourra pas deviner de nouvelles choses.
Pour empêcher le modèle d'oublier les anciens faits, vous devez continuer à pratiquer ces faits spécifiques pendant l'entraînement.

Cela aide les scientifiques à comprendre quand entraîner un modèle et à quoi s'attendre, plutôt que d'espérer simplement qu'il apprenne tout par magie.

Résumé technique : La connaissance latente comme prédicteur de l'acquisition de faits dans les grands modèles de langage après ajustement fin (fine-tuning)

Énoncé du problème
Les grands modèles de langage (LLM) encodent les faits biomédicaux avec une force inégale après le pré-entraînement, reflétant souvent la distribution à longue traîne de leurs corpus d'entraînement. Si certains faits sont encodés mais inaccessibles via un décodage déterministe (appelés « connaissance latente »), d'autres sont minimaux. La recherche actuelle traite souvent l'acquisition de faits lors de l'ajustement fin comme un résultat binaire (appris vs non appris), échouant à quantifier le taux d'acquisition, la dynamique de généralisation aux faits non vus, ou les mécanismes de dégradation des connaissances. De plus, il reste à déterminer comment les représentations dérivées du pré-entraînement, spécifiquement la connaissance latente, influencent l'efficacité de l'ajustement fin pour injecter des faits d'ontologie structurés (paires terme–identifiant) dans les LLM.

Méthodologie
Les auteurs ont employé un cadre d'analyse de survie pour modéliser l'acquisition de faits comme un processus de temps jusqu'à l'événement, traitant l'époque (epoch) de l'ajustement fin comme le temps et la première occurrence d'une sortie d'identifiant correct comme l'événement.

Modèle et données : L'étude a utilisé le modèle Llama-3.1-8B-Instruct. Deux ontologies biomédicales ont servi de bancs d'essai structurés : l'Human Phenotype Ontology (HPO) et la Gene Ontology (GO).
- HPO : 800 paires terme–identifiant ont été utilisées comme données d'entraînement (termes vus).
- GO : 800 paires ont été divisées en 400 d'entraînement (vues) et 400 mises en réserve (non vues) pour évaluer la généralisation.
Détection de la connaissance latente : La connaissance latente a été identifiée via un décodage stochastique (échantillonnage à température 1.0). Un terme possédait une connaissance latente si au moins un échantillon parmi 50 échantillons stochastiques produisait l'identifiant correct avant l'ajustement fin.
Protocole d'ajustement fin : Le modèle a été ajusté par LoRA (Low-Rank Adaptation) pendant 20 époques. Pour HPO, les 800 paires ont été entraînées. Pour GO, seules les 400 paires vues ont été entraînées, tandis que les 400 paires non vues ont été évaluées pour la généralisation.
Cadre analytique :
- Acquisition/Généralisation : Modélisées à l'aide d'estimateurs de Kaplan–Meier pour générer des courbes d'accumulation ( $F(t)$ ) et des courbes de vélocité ( $V(t)$ ).
- Prédicteurs : Des modèles de risques proportionnels de Cox ont été utilisés pour quantifier l'impact des covariables sur les taux d'acquisition. Les covariables incluaient le statut de la connaissance latente, la fréquence de l'identifiant dans PubMed Central (PMC), la fréquence du terme dans PMC et les comptes d'annotations curatées.
- Dégradation : Analysée en suivant les termes qui étaient corrects à la base (époque 0) mais sont devenus incorrects pendant l'entraînement.

Contributions clés

Cadre basé sur le taux : L'article introduit une approche d'analyse de survie pour caractériser l'apprentissage des faits, dépassant les mesures de précision binaire pour quantifier la vélocité de l'acquisition, le moment de la convergence et le risque de dégradation.
La connaissance latente comme prédicteur primaire : L'étude établit que la connaissance latente (information présente dans les poids mais inaccessible de manière déterministe) est le prédicteur le plus fort de la vitesse d'acquisition des faits et du succès de la généralisation.
Dynamiques asymétriques de l'ajustement fin : Le travail délimite trois résultats distincts de l'ajnement fin :
- Mémorisation : Acquisition rapide de faits vus, fortement dépendante de la connaissance latente.
- Généralisation : Rare (5,8 % dans cette étude) mais prévisible, se produisant presque exclusivement lorsqu'une connaissance latente existe.
- Dégradation : La perte de faits précédemment corrects, qui est significativement atténuée uniquement par une exposition continue pendant l'entraînement, et non par la connaissance latente.

Résultats

Vélocité d'acquisition : À la base, le modèle rappelait correctement 2,8 % des paires HPO. Après 20 époques, 71,9 % ont été acquises. Les termes avec une connaissance latente ont été acquis significativement plus rapidement (temps moyen de 2,9 époques) par rapport à ceux sans (11,4 époques). La connaissance latente a augmenté le rapport de risque (hazard ratio, HR) d'acquisition de 2,6 ( $p < 0,001$ ).
Effet dose-réponse : Une relation graduée a été observée ; les termes avec une connaissance latente « élevée » (précision stochastique $\ge$ 10 %) ont convergé plus tôt et avec des vélocités de pointe plus élevées que ceux avec une connaissance latente « modérée ».
Généralisation : La généralisation aux termes GO non vus était peu commune (5,8 % de 379 termes). Cependant, la connaissance latente était le prédicteur dominant, augmentant le risque de généralisation par un facteur de 13,67 ( $p < 0,005$ ). La fréquence de l'identifiant dans PMC a également prédit positivement la généralisation (HR = 3,39).
Dégradation : Sur 43 termes GO corrects à la base, 55,8 % ont dégradé pendant l'entraînement. La dégradation était significativement plus probable pour les termes non vus que pour les termes vus (HR = 0,10 pour les termes vus, indiquant un effet protecteur de l'entraînement). Notamment, la connaissance latente n'a pas protégé contre la dégradation pour les faits qui étaient déjà corrects.

Signification et affirmations
L'article affirme que la structure dérivée du pré-entraînement, spécifiquement la connaissance latente, façonne fondamentalement l'efficacité de l'ajustement fin. Il postule que la connaissance latente réduit l'espace de recherche effectif du modèle, permettant à l'ajustement fin d'ajuster des associations faibles existantes plutôt que d'en découvrir de nouvelles à partir de zéro. Par conséquent, l'ajustement fin est plus efficace pour injecter des faits d'ontologie là où le modèle possède déjà une « demi-connaissance ».

Les auteurs concluent que ce cadre offre une méthode principled pour :

Identifier les « déserts d'ontologie » (termes sans connaissance latente) où l'ajustement fin est probablement inefficace en termes de données.
Prédire quels faits non vus sont susceptibles de la généralisation.
Concevoir des curricula qui priorisent le renforcement des faits cliniquement importants pour prévenir l'oubli catastrophique, car la résistance à la dégradation repose sur l'exposition à l'entraînement plutôt que sur la saillance du pré-entraînement.

L'étude souligne que ces conclusions sont spécifiques aux courbes d'apprentissage observées et ne prétendent pas expliquer les changements mécanistes internes (par exemple, la redistribution des logits) qui les pilotent, suggérant que les travaux futurs devraient intégrer l'analyse mécaniste avec ce cadre basé sur le taux.

1. La découverte de l'« encre invisible » (Connaissance latente)

2. Les trois issues de l'étude

3. Le facteur de « Popularité »

La métaphore de synthèse

Résumé

Articles similaires