💬 NLP

Efficient Knowledge Probing of Large Language Models by Adapting Pre-trained Embeddings

Cet article présente PEEK, une méthode efficace sur le plan computationnel qui adapte des modèles d'encodage pré-entraînés avec un décodeur linéaire pour prédire avec précision les connaissances factuelles des grands modèles de langage à grande échelle, évitant ainsi les coûts élevés des techniques traditionnelles de sondage par passage avant.

Auteurs originaux : Kartik Sharma, Yiqiao Jin, Rakshit Trivedi, Srijan Kumar

Publié 2026-01-27

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Kartik Sharma, Yiqiao Jin, Rakshit Trivedi, Srijan Kumar

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédez une bibliothèque géante et incroyablement intelligente (un grand modèle de langage, ou LLM) qui a lu presque tout ce qui existe sur Internet. Vous voulez savoir exactement quels faits elle a mémorisés et ce qu'elle a oublié.

Le Problème :
Actuellement, pour vérifier si une bibliothèque connaît un fait spécifique (comme « Garifuna est une population du Guatemala »), vous devez vous approcher du bibliothécaire, poser la question et attendre la réponse. Si vous voulez vérifier des millions de faits, c'est comme essayer de lire chaque livre de la bibliothèque un par un. C'est lent, coûteux et, si la bibliothèque est une « boîte noire » (vous ne pouvez pas voir comment elle réfléchit), vous ne pouvez pas jeter un coup d'œil à l'intérieur de son cerveau pour voir ce qu'elle sait sans lui poser la question directement.

La Solution (PEEK) :
Les auteurs de cet article proposent un nouvel outil appelé PEEK (Proxy Embeddings to Estimate Knowledge — Plongements de substitution pour estimer la connaissance). Considérez PEEK comme un « radar de connaissances » de haute technologie ou un bibliothécaire de l'ombre.

Au lieu de poser chaque question à la bibliothèque géante, PEEK utilise un « scanner » plus petit et plus rapide (un modèle de plongement ou embedding model) pour deviner ce que la grande bibliothèque sait.

Voici comment cela fonctionne, étape par étape :

La Phase d'Entraînement (Enseigner au Scanner) :
D'abord, les chercheurs prennent un petit échantillon de faits et demandent à la grande bibliothèque : « Connais-tu ceci ? ». Ils enregistrent la réponse de la bibliothèque (Oui/Non, ou son degré de confiance). Ensuite, ils montrent le texte de ces faits à un scanner plus petit et plus rapide. Ils ajustent les paramètres du scanner (comme on accorde une radio) jusqu'à ce que le « devin » du scanner corresponde à la réponse réelle de la grande bibliothèque.
Analogie : Imaginez que vous avez un chef étoilé (le LLM) et un sous-chef (le modèle de plongement). Vous goûtez la soupe du chef étoilé et vous dites au sous-chef : « Cette soupe est salée ». Vous continuez à ajuster l'assaisonnement du sous-chef jusqu'à ce qu'il puisse prédire exactement à quel point la soupe du chef est salée, simplement en regardant la liste des ingrédients.
La Phase de Prédiction (Le Radar) :
Une fois le scanner réglé, vous n'avez plus besoin de solliciter la grande bibliothèque. Vous injectez simplement un nouveau fait dans le scanner. Le scanner prédit instantanément : « La grande bibliothèque connaît ceci » ou « La grande bibliothèque ne connaît pas ceci ».
Analogie : Maintenant, au lieu de demander au chef étoilé de goûter chaque nouvel ingrédient, le sous-chef regarde la liste des ingrédients et dit instantanément : « Le chef sait cuisiner cela ».

Ce qu'ils ont découvert :

Vitesse et Précision : Cette méthode de « scanner » est incroyablement rapide et précise. Dans leurs tests, elle pouvait prédire ce que la grande bibliothèque savait avec une précision allant jusqu'à 90 %, sans jamais poser une seule question à la grande bibliothèque.
Texte vs Cartes : Ils ont testé deux types de scanners : un qui lit des phrases (un modèle de plongement de phrases) et un qui lit des cartes de connexions (un réseau de neurones graphiques). Ils ont découvert que le scanner de phrases fonctionnait beaucoup mieux. Il semble que la grande bibliothèque organise ses connaissances davantage comme une collection de phrases que comme une carte rigide de connexions.
Pas besoin de regarder à l'intérieur : Contrairement à d'autres méthodes qui nécessitent d'observer les ondes cérébrales internes de la bibliothèque (les couches cachées), PEEK n'a besoin que du texte du fait. Cela signifie qu'il fonctionne même si la bibliothèque est une « boîte noire » que vous ne pouvez pas toucher.

Pourquoi cela est important :
L'article suggère qu'avant de laisser ces bibliothèques d'IA géantes nous aider pour des tâches importantes (comme la santé ou le droit), nous devrions utiliser ce « scanner » pour vérifier rapidement leurs lacunes de connaissances. C'est un moyen peu coûteux et efficace de dire : « Hé, cette IA ne connaît pas X, alors corrigeons cela avant de la laisser parler à un patient ».

En résumé :
PEEK est un moyen de construire un substitut (proxy) rapide et peu coûteux qui apprend à imiter la base de connaissances d'une IA géante. Une fois entraîné, ce substitut peut scanner des millions de faits pour vous dire ce que l'IA géante sait, vous faisant ainsi gagner du temps et de l'argent par rapport à une interrogation directe de l'IA géante.

Résumé Technique : Sondage Efficace des Connaissances des Grands Modèles de Langage par l'Adaptation des Plongements Pré-entraînés

Énoncé du Problème

Les grands modèles de langage (LLM) acquièrent de vastes quantités de connaissances factuelles à travers divers domaines lors du pré-entraînement génératif. Cependant, en raison d'objectifs d'apprentissage stochastiques et de données d'entraînement bruitées, cartographier le paysage spécifique des connaissances d'un LLM reste un défi. Les méthodes actuelles pour sonder ces connaissances — telles que la conception de prompts spécifiques, l'investigation des représentations cachées ou l'estimation de l'incertitude épistémique — nécessitent des passages avant (forward passes) à travers le LLM sous-jacent. Ces approches sont coûteuses en calcul, chronophages et souvent irréalisables pour des modèles extrêmement grands ou des modèles "boîte noire", limitant la capacité d'identifier efficacement les lacunes factuelles avant le déploiement dans des applications exigeant de la connaissance comme la santé ou le droit.

Méthodologie : PEEK (Proxy Embeddings to Estimate Knowledge)

Les auteurs proposent PEEK, un cadre qui exploite des modèles de plongement (embedding models) pré-entraînés comme des proxys pour estimer les connaissances des LLM sans interroger directement les LLM. L'hypothèse centrale est que les plongements peuvent effectivement encoder des connaissances factuelles et que, lorsqu'ils sont adaptés, ils peuvent prédire les sorties des LLM avec une grande précision.

1. Fonctions de Sondage de la Connaissance

Pour établir une vérité de terrain (ground truth) pour les modèles proxys, les auteurs définissent quatre stratégies de sondage distinctes pour déterminer si un LLM ( $M$ ) connaît un fait spécifique ( $f$ ) :

Génération Binaire : Interroger le LLM par des questions oui/non concernant la véracité d'une affirmation.
Génération de Logits Binaires : Extraire les logits des jetons attendus ('oui'/'non') du LLM pour mesurer la "confiance externe".
Prédiction d'Activation Binaire : Entraîner une tête linéaire sur les représentations cachées (activations du dernier jeton) du LLM pour prédire la véracité, mesurant ainsi la "confiance interne".
Génération de Faits : Utiliser une génération ouverte (ex: biographies) et étiqueter les faits atomiques comme supportés (connus) ou non supportés (inconnus) sur la base de bases de connaissances externes.

2. Modèles de Plongement Proxys

Le cadre utilise deux types de modèles de plongement pré-entraînés pour représenter les faits :

Plongements de Phrases (Sentence Embeddings) : Des modèles (ex: MPNET, NVE2, Linq, GTE) qui encodent des phrases dans des espaces de faible dimension, entraînés pour représenter la similitude sémantique.
Réseaux de Neurones Graphiques (GNN) : Spécifiquement ULTRA, qui encode des triplets de graphes de connaissances (tête, relation, queue) en utilisant des informations de chemin le plus court.

3. Ajustement du Proxy (Proxy Tuning)

Puisque les plongements pré-entraînés ne sont pas nativement alignés avec les connaissances spécifiques d'un LLM, les auteurs les adaptent en utilisant un petit ensemble d'entraînement de faits identifiés via les stratégies de sondage. L'adaptation implique la minimisation d'une fonction de perte pour faire correspondre la prédiction basée sur le plongement ( $\hat{P}_\theta$ ) avec la sortie sondée du LLM ( $P_M$ ). Deux stratégies d'ajustement sont employées :

Ajustement Linéaire (Linear Tuning) : Mettre à jour uniquement la couche de décodeur linéaire finale ( $W$ ) tout en laissant les paramètres du plongement ( $E$ ) gelés.
Ajustement de Bas Rang (LoRA) : Mettre à jour les paramètres via l'ajout d'une matrice de bas rang.

La fonction de perte est l'entropie croisée binaire pour les sorties discrètes (0/1) et la perte de distillation de connaissances (avec température $T$ ) pour les sorties continues (logits/activations).

Principales Contributions

Approche de Sondage Novatrice : Introduction de PEEK, qui utilise des têtes linéaires entraînables sur des modèles de plongement pré-entraînés pour sonder les connaissances des LLM, évitant ainsi les passages avant coûteux à travers le LLM cible.
Validation Multi-Stratégie : Découverte des connaissances factuelles à travers diverses stratégies, incluant les requêtes binaires, la génération libre et l'analyse des activations internes.
Évaluation Exhaustive : Expérimentations approfondies sur 4 LLM (Llama-3.1-8B, GPT-4o, GPT-4o-mini), 3 jeux de données (DBP100k, YAGO310, FactScore) et 7 modèles de plongement.
Efficacité et Précision : Démonstration que les plongements peuvent prédire les connaissances des LLM sur des ensembles de test hors échantillon avec une précision allant jusqu'à 90 % et des scores AUC élevés, surpassant nettement les bases de comparaison comme les classificateurs majoritaires et le tirage aléatoire.

Résultats Expérimentaux

Performance : Les modèles de plongement de phrases (particulièrement NVE2 et Linq) ont systématiquement surpassé les plongements graphiques (ULTRA) et les bases de comparaison. Dans la tâche de génération binaire sur DBP100k, NVE2 a atteint jusqu'à 91,52 % de précision et 86,89 % d'AUC pour GPT-4o-mini.
Comparaison de Modèles : Bien que Linq ait été le plus performant sur YAGO310, NVE2 excellait sur DBP100k. Notamment, le modèle graphique ULTRA a mal performé, suggérant que les LLM n'induisent pas les faits via les mêmes mécanismes de chemin le plus court que les GNN sur les graphes de connaissances.
Efficacité de l'Ajustement : L'ajustement linéaire s'est avéré aussi efficace que l'ajustement LoRA, suggérant qu'une simple couche linéaire suffit pour adapter les plongements à l'espace de connaissance du LLM.
Robustesse : Les résultats sont restés stables à travers différents pourcentages d'échantillonnage (0,1 % à 10 %) et ratios d'échantillons négatifs, bien que la performance se soit généralement améliorée avec l'inclusion d'échantillons négatifs grâce à l'équilibre des classes.
Limites Observées : La méthode a éprouvé des difficultés avec Llama-3.3-70B, où les modèles de plongement n'ont pas réussi à estimer les connaissances mieux que le hasard, indiquant que l'estimation des connaissances dans des modèles plus grands et plus complexes reste un défi.

Signification et Revendications

L'article affirme que PEEK fournit une alternative évolable et rentable au sondage traditionnel des connaissances. En utilisant des plongements proxys, les chercheurs et praticiens peuvent :

Identifier les lacunes factuelles des LLM à grande échelle sans interroger les modèles.
Obtenir des informations sur le biais inductif interne des LLM concernant les paysages factuels.
Optimiser la Génération Augmentée par Récupération (RAG) en écartant les faits que le modèle connaît déjà, améliorant ainsi l'utilisation du contexte.

Les auteurs soulignent que bien que leur benchmark repose sur des connaissances dérivées de Wikipédia, la méthodologie n'est pas intrinsèquement restreinte aux domaines fermés. Cependant, ils notent modestement que les domaines spécialisés peuvent nécessiter l'entraînement de plongements spécifiques au domaine à partir de zéro. Le travail conclut que les modèles de plongement devraient être utilisés lors de la phase de pré-déploiement des LLM pour identifier et corriger préventivement les lacunes factuelles.