💬 NLP

Efficient Knowledge Probing of Large Language Models by Adapting Pre-trained Embeddings

Dieses Paper stellt PEEK vor, eine recheneffiziente Methode, die vortrainierte Embedding-Modelle mit einem linearen Decoder adaptiert, um das faktische Wissen von Large Language Models in großem Maßstab präzise vorherzusagen und dadurch die hohen Kosten traditioneller Forward-Pass-Probing-Techniken zu vermeiden.

Ursprüngliche Autoren: Kartik Sharma, Yiqiao Jin, Rakshit Trivedi, Srijan Kumar

Veröffentlicht 2026-01-27

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Kartik Sharma, Yiqiao Jin, Rakshit Trivedi, Srijan Kumar

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten eine riesige, unglaublich intelligente Bibliothek (ein Large Language Model, oder LLM), die fast alles im Internet gelesen hat. Sie möchten genau wissen, welche Fakten sie auswendig gelernt hat und was sie vergessen hat.

Das Problem:
Derzeit müssen Sie, um zu prüfen, ob die Bibliothek eine bestimmte Tatsache kennt (wie „Garifuna ist eine Bevölkerungsgruppe in Guatemala“), zum Bibliothekar gehen, die Frage stellen und auf eine Antwort warten. Wenn Sie Millionen von Fakten überprüfen wollen, ist das so, als müssten Sie jedes einzelne Buch in der Bibliothek eines nach dem anderen lesen. Das ist langsam, teuer und, wenn die Bibliothek eine „Black Box“ ist (Sie also nicht sehen können, wie sie denkt), können Sie nicht in ihr Gehirn hineinspähen, um zu sehen, was sie weiß, ohne sie direkt zu fragen.

Die Lösung (PEEK):
Die Autoren dieser Arbeit schlagen ein neues Werkzeug namens PEEK (Proxy Embeddings to Estimate Knowledge) vor. Stellen Sie sich PEEK wie einen hochmodernen „Wissensradar“ oder einen Schatten-Bibliotheken vor.

Anstatt die riesige Bibliothek jede einzelne Frage zu stellen, nutzt PEEK einen kleineren, schnelleren, vortrainierten „Scanner“ (ein Embedding-Modell), um zu erraten, was die große Bibliothek weiß.

So funktioniert es, Schritt für Schritt:

Die Trainingsphase (Den Scanner lehren):
Zuerst nehmen die Forscher eine kleine Stichprobe von Fakten und fragen die große Bibliothek: „Kennst du das?“ Sie zeichnen die Antwort der Bibliothek auf (Ja/Nein oder wie sicher sie sich ist). Dann zeigen sie einem kleineren, schnelleren Scanner den Text dieser Fakten. Sie passen die Einstellungen des Scanners an (wie das Stimmen eines Radios), bis die „Vermutung“ des Scanners mit der tatsächlichen Antwort der großen Bibliothek übereinstimmt.
- Analogie: Stellen Sie sich vor, Sie haben einen Chefkoch (das LLM) und einen Sous-Chef (das Embedding-Modell). Sie probieren die Suppe des Chefkochs und sagen dem Sous-Chef: „Das schmeckt salzig.“ Sie passen die Würzung des Sous-Chefs immer wieder so lange an, bis er genau vorhersagen kann, wie salzig die Suppe des Chefkochs schmeckt, allein durch den Blick auf die Zutatenliste.
Die Vorhersagephase (Der Radar):
Sobald der Scanner abgestimmt ist, müssen Sie die große Bibliothek nicht mehr fragen. Sie füttern den Scanner einfach mit einer neuen Tatsache. Der Scanner sagt sofort voraus: „Die große Bibliothek kennt das“ oder „Die große Bibliothek kennt das nicht“.
- Analogie: Jetzt, anstatt den Chefkoch jedes Mal nach jeder neuen Zutat probieren zu lassen, schaut der Sous-Chef auf die Zutatenliste und sagt sofort: „Der Koch kennt das.“

Was sie herausgefunden haben:

Geschwindigkeit und Genauigkeit: Diese „Scanner“-Methode ist unglaublich schnell und genau. In ihren Tests konnte sie vorhersagen, was die große Bibliothek wusste, mit einer Genauigkeit von bis zu 90 %, ohne die große Bibliothek jemals eine einzige Frage gestellt zu haben.
Text vs. Karten: Sie haben zwei Arten von Scannern getestet: einen, der Sätze liest (ein Satz-Embedding-Modell), und einen, der Verbindungskarten liest (ein Graph Neural Network). Sie fanden heraus, dass der Satz-Scanner viel besser funktionierte. Es scheint, dass die große Bibliothek ihr Wissen eher wie eine Sammlung von Sätzen als wie eine starre Karte von Verbindungen organisiert.
Keine Notwendigkeit, hineinzusehen: Im Gegensatz zu anderen Methoden, die erfordern, dass man in die internen „Gehirnwellen“ (Hidden Layers) der Bibliothek schaut, benötigt PEEK nur den Text der Tatsache. Das bedeutet, dass es auch dann funktioniert, wenn die Bibliothek eine „Black Box“ ist, die man nicht manipulieren kann.

Warum das wichtig ist:
Die Arbeit legt nahe, dass wir, bevor wir diese riesigen KI-Bibliotheken Aufgaben mit hoher Verantwortung übertragen lassen (wie etwa im Gesundheitswesen oder im Recht), diesen „Scanner“ nutzen sollten, um schnell ihre Wissenslücken zu prüfen. Es ist eine kostengünstige und effiziente Methode, um zu sagen: „Hey, diese KI weiß nichts über X, also lass uns das beheben, bevor wir sie einen Patienten beraten lassen.“

Zusammenfassend:
PEEK ist eine Möglichkeit, einen schnellen, günstigen Proxy zu erstellen, der lernt, die Wissensbasis einer riesigen KI nachzuahmen. Einmal trainiert, kann dieser Proxy Millionen von Fakten scannen, um Ihnen zu sagen, was die riesige KI weiß, wodurch Sie Zeit und Geld sparen, die Sie sonst für die direkte Befragung der riesigen KI aufwenden müssten.

Technisches Resümee: Effiziente Wissensabfrage großer Sprachmodelle durch Anpassung vortrainierter Embeddings

Problemstellung

Große Sprachmodelle (LLMs) erwerben während des generativen Pre-trainings enorme Mengen an Faktenwissen über diverse Domänen hinweg. Aufgrund stochastischer Lernziele und verrauschter Trainingsdaten bleibt es jedoch eine Herausforderung, die spezifische Wissenslandschaft eines LLM abzubilden. Aktuelle Methoden zur Untersuchung dieses Wissens – wie das Erstellen spezifischer Prompts, die Untersuchung verborgener Repräsentationen oder die Schätzung der epistemischen Unsicherheit – erfordern Vorwärtsläufe (Forward Passes) durch das zugrunde liegende LLM. Diese Ansätze sind rechenintensiv, zeitaufwendig und oft für extrem große oder Black-Box-Modelle nicht praktikabel, was die effiziente Identifizierung von Faktenlücken vor dem Einsatz in wissensintensiven Anwendungen wie dem Gesundheitswesen oder dem Rechtswesen einschränkt.

Methodik: PEEK (Proxy Embeddings to Estimate Knowledge)

Die Autoren schlagen PEEK vor, ein Framework, das vortrainierte Embedding-Modelle als Proxys nutzt, um das Wissen von LLMs zu schätzen, ohne die LLMs direkt abzufragen. Die Kernhypothese lautet, dass Embeddings faktisches Wissen effektiv kodieren können und, wenn sie angepasst werden, die Ausgaben eines LLM mit hoher Genauigkeit vorhersagen können.

1. Wissensabfrage-Funktionen (Knowledge Probing Functions)

Um die Grundwahrheit (Ground Truth) für die Proxy-Modelle zu etablieren, definieren die Autoren vier verschiedene Abfragestrategien, um zu bestimmen, ob ein LLM ( $M$ ) einen spezifischen Fakt ( $f$ ) kennt:

Binäre Generierung (Binary Generation): Abfrage des LLM mittels Ja/Nein-Fragen zur Wahrhaftigkeit einer Aussage.
Binäre Logit-Generierung (Binary Logits Generation): Extraktion der Logits der erwarteten Token ('ja'/'nein') aus dem LLM, um die "externe Konfidenz" zu messen.
Binäre Aktivationsvorhersage (Binary Activation Prediction): Training eines linearen Kopfes auf den verborgenen Repräsentationen (Aktivierungen des letzten Tokens) des LLM, um die Wahrhaftigkeit vorherzusagen, was die "interne Konfidenz" misst.
Faktengenerierung (Fact Generation): Verwendung von offener Generierung (z. B. Biografien) und Kennzeichnung atomarer Fakten als gestützt (bekannt) oder nicht gestützt (unbekannt) basierend auf externen Wissensdatenbanken.

2. Proxy-Embedding-Modelle

Das Framework verwendet zwei Arten von vortrainierten Embedding-Modellen, um Fakten zu repräsentieren:

Satz-Embeddings (Sentence Embeddings): Modelle (z. B. MPNET, NVE2, Linq, GTE), die Sätze in niedrigdimensionale Räume kodieren und darauf trainiert sind, semantische Ähnlichkeit zu repräsentieren.
Graph Neural Networks (GNNs): Speziell ULTRA, welches Wissensgraph-Tripel (Kopf, Relation, Ende) unter Verwendung von kürzesten Pfaden kodiert.

3. Proxy-Tuning

Da vortrainierte Embeddings nicht nativ auf das Wissen eines spezifischen LLM ausgerichtet sind, passen die Autoren diese mithilfe eines kleinen Trainingsdatensatzatz von Fakten an, die über die Abfragestrategien identifiziert wurden. Die Anpassung erfolgt durch Minimierung einer Verlustfunktion, um die embedding-basierte Vorhersage ( $\hat{P}_\theta$ ) mit der LLM-abgefragten Ausgabe ( $P_M$ ) in Einklang zu bringen. Dabei werden zwei Tuning-Strategien angewandt:

Lineares Tuning (Linear Tuning): Aktualisierung nur der finalen linearen Decoder-Schicht ( $W$ ), während die Embedding-Parameter ( $E$ ) eingefroren bleiben.
Low-Rank-Tuning (LoRA): Aktualisierung der Parameter über eine Low-Rank-Matrix-Addition.

Die Verlustfunktion ist die binäre Kreuzentropie für diskrete Ausgaben (0/1) und der Knowledge-Distillation-Loss (mit Temperatur $T$ ) für kontinuierliche Ausgaben (Logits/Aktivierungen).

Zentrale Beiträge

Neuartiger Abfrageansatz: Einführung von PEEK, das trainierbare lineare Köpfe auf vortrainierten Embedding-Modellen verwendet, um das Wissen eines LLM abzufragen und so kostspielige Vorwärtsläufe durch das Ziel-LLM zu vermeiden.
Multistrategie-Validierung: Aufdeckung von faktischem Wissen durch diverse Strategien, einschließlich binärer Abfragen, freier Generierung und interner Aktivationsanalyse.
Umfassende Evaluierung: Umfangreiche Experimente über 4 LLMs (Llama-3.1-8B, GPT-4o, GPT-4o-mini), 3 Datensätze (DBP100k, YAGO310, FactScore) und 7 Embedding-Modelle hinweg.
Effizienz und Genauigkeit: Demonstration, dass Embeddings das Wissen eines LLM auf gehaltenen Testsets mit bis zu 90 % Genauigkeit und hohen AUC-Scores vorhersagen können, womit sie Baselines wie Mehrheitsklassifikatoren und zufälliges Raten deutlich übertreffen.

Experimentelle Ergebnisse

Leistung: Satz-Embedding-Modelle (insbesondere NVE2 und Linq) übertrafen Graph-Embeddings (ULTRA) und Baselines konsistent. Bei der Aufgabe der binären Generierung auf DBP100k erreichte NVE2 für GPT-4o-mini bis zu 91,52 % Genauigkeit und 86,89 % AUC.
Modellvergleich: Während Linq auf YAGO310 am besten abschnitt, zeichnete sich NVE2 auf DBP100k aus. Bemerkenswerterweise schnitt das graphbasierte ULTRA-Modell schlecht ab, was darauf hindeutet, dass LLMs Fakten nicht über dieselben Kürzeste-Pfad-Mechanismen induzieren wie GNNs auf Wissensgraphen.
Tuning-Effizienz: Es wurde festgestellt, dass lineares Tuning so effektiv wie LoRA-Tuning ist, was darauf hindeutet, dass eine einfache lineare Schicht ausreicht, um Embeddings an den Wissensraum eines LLM anzupassen.
Robustheit: Die Ergebnisse blieben über variierende Sampling-Prozentanteile (0,1 % bis 10 %) und negative Probenverhältnisse stabil, wobei die Leistung durch die Einbeziehung negativer Proben aufgrund der Klassengleichgewichtung generell verbessert wurde.
Beobachtete Limitationen: Die Methode hatte Schwierigkeiten mit Llama-3.3-70B, bei dem die Embedding-Modelle das Wissen nicht besser als durch Zufall schätzen konnten, was zeigt, dass die Schätzung des Wissens in größeren, komplexeren Modellen weiterhin eine Herausforderung darstellt.

Bedeutung und Behauptungen

Das Paper behauptet, dass PEEK eine skalierbare, kosteneffiziente Alternative zu traditioneller Wissensabfrage bietet. Durch die Nutzung von Proxy-Embeddings können Forscher und Praktiker:

Faktische Lücken in LLMs in großem Maßstab identifizieren, ohne die Modelle direkt abzufragen.
Einblicke in den internen induktiven Bias von LLMs bezüglich faktischer Landschaften gewinnen.
Retrieval-Augmented Generation (RAG) optimieren, indem Fakten, die das Modell bereits kennt, ignoriert werden, wodurch die Kontextnutzung verbessert wird.

Die Autoren betonen, dass, obwohl ihr Benchmark auf Wikipedia-basiertem Wissen beruht, die Methodik nicht inhärent auf geschlossene Domänen beschränkt ist. Sie merken jedoch bescheiden an, dass spezialisiertes Domänenwissen die Entwicklung domänenspezifischer Embeddings von Grund auf erfordern könnte. Die Arbeit kommt zu dem Schluss, dass Embedding-Modelle in der Pre-Deployment-Phase von LLMs eingesetzt werden sollten, um faktische Lücken präventiv zu finden und zu schließen.