💬 NLP

Predictable Confabulations: Factual Recall by LLMs Scales with Model Size and Topic Frequency

Diese Arbeit stellt fest, dass das faktische Abrufen in großen Sprachmodellen einem vorhersehbaren sigmoiden Skalierungsgesetz folgt, das durch die kombinierten Effekte der Anzahl der Modellparameter und der Themenhäufigkeit in den Trainingsdaten angetrieben wird und bis zu 94 % der Leistungsvarianz innerhalb spezifischer Modellfamilien erklärt.

Ursprüngliche Autoren: Matthew L. Smith, Jonathan P. Shock, Samuel T. Segun, Iyiola E. Olatunji, Tegawendé F. Bissyandé

Veröffentlicht 2026-05-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Matthew L. Smith, Jonathan P. Shock, Samuel T. Segun, Iyiola E. Olatunji, Tegawendé F. Bissyandé

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten eine riesige Bibliothek im Gehirn eines Roboters. Dieser Roboter ist eine Künstliche Intelligenz (KI), und seine Aufgabe besteht darin, Fragen zu beantworten, indem er Fakten aus dieser Bibliothek hervorholt. Manchmal liegt der Roboter richtig. In anderen Fällen erfindet er Fakten, die real klingen, aber nicht wahr sind. Die Autoren dieses Papers bezeichnen diese erfundenen Fakten als „Konfabulationen".

Dieses Paper stellt eine einfache Frage: Was bewirkt, dass der Roboter häufiger die Wahrheit sagt?

Die Forscher testeten 38 verschiedene KI-Modelle (von kleinen bis hin zu massiven) und baten sie, für 24 verschiedene Themen jeweils 10 echte wissenschaftliche Arbeiten aufzulisten. Einige Themen waren extrem populär (wie „Klimawandel"), während andere sehr nischig waren (wie „Prävention von Schulabbrüchen in ländlichen Gebieten"). Anschließend überprüften sie, ob die von den Robotern aufgelisteten Arbeiten tatsächlich existierten.

Hier ist das Ergebnis, erklärt mit einigen alltäglichen Analogien:

1. Die zwei Zutaten für die Wahrheit

Das Paper entdeckte, dass die Richtigkeit der Antwort von zwei Hauptfaktoren abhängt, die wie ein Rezept zusammenwirken:

Die Größe des Gehirns (Modellgröße): Wie groß die KI ist. Stellen Sie sich dies als die Größe der Bibliotheksregale vor. Eine größere Bibliothek kann mehr Bücher aufnehmen, ohne dass diese zerdrückt oder vermischt werden.
Wie bekannt das Thema ist (Themenfrequenz): Wie oft dieses spezifische Thema in den Büchern vorkommt, die die KI während des Lernens gelesen hat. Stellen Sie sich dies als die Anzahl der Exemplare eines bestimmten Buches in der Bibliothek vor. Wenn ein Thema in Tausenden von Büchern erwähnt wird, kennt die KI es gut. Wenn es nur in wenigen erwähnt wird, könnte die KI Schwierigkeiten haben.

2. Der Kampf zwischen „Signal und Rauschen"

Die Autoren verwenden ein Konzept namens Signal-Rausch-Verhältnis, um zu erklären, wie dies funktioniert. Stellen Sie sich vor, Sie versuchen, einen Freund in einem überfüllten, lauten Raum flüstern zu hören.

Das Signal: Dies ist die „Wahrheit" über ein Thema. Wenn das Thema in den Trainingsdaten sehr häufig vorkommt (wie „Klimawandel"), ist das Signal laut und klar.
Das Rauschen: Dies ist die Störung, die durch das begrenzte Gedächtnis der KI verursacht wird. Wenn die KI klein ist, ist ihr „Raum" mit anderen Fakten sehr überfüllt, was viel statisches Rauschen erzeugt.
Das Ergebnis: Um die Wahrheit zu hören (einen Fakt abzurufen), muss das Signal (wie bekannt das Thema ist) laut genug sein, um sich durch das Rauschen (wie klein das Gedächtnis der KI ist) zu bahnen.

3. Die „S-Kurve" des Erfolgs

Das interessanteste Ergebnis ist, dass die Beziehung keine gerade Linie ist. Es ist eine S-förmige Kurve (eine Sigmoidfunktion). Stellen Sie sich eine Rampe vor, die einen flachen Boden, einen steilen Mittelteil und eine flache Spitze hat.

Der flache Boden (Der Boden): Wenn die KI sehr klein ist oder das Thema sehr obskur ist, ist das „Rauschen" zu laut. Die KI kann die Wahrheit überhaupt nicht hören. Anstatt zu raten, beginnt sie, Vorlagen zu erfinden. Sie könnte immer wieder sagen: „Smith (1990) schrieb über X" und dabei gängige Namen wie „Smith" verwenden, nur um den Platz auszufüllen. Sie versucht nicht zu lügen; ihr fehlen einfach echte Daten.
Der steile Mittelteil (Die Rampe): Wenn die KI größer wird oder das Thema populärer wird, beginnt das Signal, sich durch das Rauschen zu bahnen. Hier wird die KI sehr schnell deutlich besser. Eine kleine Erhöhung der Größe oder der Datenfrequenz führt zu einem großen Sprung in der Wahrhaftigkeit.
Die flache Spitze (Die Decke): Schließlich wird die KI so groß und das Thema so häufig, dass sie eine Grenze erreicht. Sie erinnert sich bereits an fast alles, was sie zu diesem Thema wissen kann. Die KI noch größer zu machen, hilft nicht viel, weil es keine weiteren Fakten mehr zu finden gibt.

4. Das Problem des „langen Schwanzes"

Das Paper hebt eine große Ungleichheit hervor. Die KI ist hervorragend darin, populäre Dinge zu erinnern (den „Kopf" der Kurve), aber schrecklich darin, seltene Dinge zu erinnern (den „Schwanz").

Die Analogie: Stellen Sie sich einen Radiosender vor, der die Top-40-Hits im Dauerloop spielt. Sie werden die Hits immer klar hören. Aber wenn Sie versuchen, einen Song zu hören, der nur einmal 1995 gespielt wurde, wird das statische Rauschen ihn übertönen.
Das Ergebnis: Selbst die größten getesteten KI-Modelle (mit Billionen von Parametern) hatten Schwierigkeiten mit den seltensten Themen. Um die KI dazu zu bringen, einen sehr seltenen Fakt genauso gut zu erinnern wie einen populären, müsste man die KI 30-mal größer machen als das größte von ihnen getestete Modell. Das ist ein gewaltiger Sprung!

5. Was dies für die Zukunft bedeutet (laut dem Paper)

Die Autoren kommen zu dem Schluss, dass „Halluzinationen" (das Erfinden von Dingen) keine zufälligen Fehler sind. Sie sind ein vorhersehbares Ergebnis des Versuchs, eine massive, ungleichmäßige Welt voller Informationen in ein endliches Gedächtnis zu pressen.

Es ist nicht zufällig: Wenn ein Thema selten ist und die KI klein ist, wird sie Fehler machen.
Es ist strukturell: Die KI „lügt" nicht; es ist nur so, dass das Signal für diesen Fakt zu schwach ist, um das Rauschen ihres begrenzten Gedächtnisses zu überwinden.
Die Lösung: Um dies für seltene Themen zu beheben, müssen Sie entweder die KI massiv vergrößern (was teuer ist) oder, wie das Paper vorschlägt, eine andere Strategie wie „Retrieval Augmentation" verwenden (der KI eine Suchmaschine geben, um die Antwort nachzuschlagen, anstatt sich auf ihr Gedächtnis zu verlassen).

Kurz gesagt: Das Paper beweist, dass die Fähigkeit einer KI, die Wahrheit zu sagen, eine mathematisch vorhersehbare Mischung aus wie groß sie ist und wie populär das Thema ist. Wenn das Thema obskur und die KI klein ist, erwarten Sie, dass sie sich Dinge ausdenkt. Wenn das Thema berühmt und die KI riesig ist, wird sie es wahrscheinlich richtig haben.

Technische Zusammenfassung: Vorhersehbare Konfabulationen

Problemstellung
Faktische Abruffehler, auch Konfabulationen genannt, bleiben eine kritische Fehlerart bei Large Language Models (LLMs). Während frühere Forschungen gezeigt haben, dass die aggregierte Modellleistung Skalierungsgesetzen folgt, die mit der Modellgröße, der Datensatzgröße und der Rechenleistung zusammenhängen, hat kein einzelner Rahmenwerk die Qualität des faktischen Abrufs sowohl mit der Modellgröße als auch mit der Zusammensetzung der Trainingsdaten (insbesondere der Themenhäufigkeit) verknüpft. Bestehende Arbeiten behandeln Modellskalierung und Wissenshäufigkeit als unabhängige Treiber, fehlen jedoch eine vorhersagende funktionale Form, die sie vereint.

Methodik
Die Autoren bewerteten 38 LLMs (im Bereich von 1 Mrd. bis 1,6 Bio. Parametern, einschließlich dichter Modelle, Mixture-of-Experts und geschlossener Quellmodelle) über 24 wissenschaftliche Themen hinweg. Die Themen wurden so ausgewählt, dass sie fünf Größenordnungen in der Darstellung der Trainingsdaten abdecken, gemessen an den OpenAlex-Zählungen wissenschaftlicher Werke ( $S$ ).

Datengenerierung: Jedes Modell wurde aufgefordert, pro Thema 10 wissenschaftliche Referenzen unter Verwendung eines standardisierten Prompts zu generieren.
Verifizierungspipeline: Ein automatisiertes System, SourceVerify, authentifizierte die generierten Referenzen gegenüber OpenAlex, Google Scholar und DOI-Registern. Es erzeugte einen kontinuierlichen Authentizitätswert basierend auf Übereinstimmungen auf Feldebene (Titel, Autoren, Jahr, Veranstaltungsort, Kennung).
Qualitätsmetrik: Die endgültige Abrufqualität wurde als Produkt aus Authentizität (verifiziert durch SourceVerify) und Relevanz (beurteilt durch einen automatisierten Agenten und validiert durch menschliche Bewerter) definiert.
Statistische Analyse: Die Autoren passten eine Sigmoid-Funktion an die Daten an und modellierten die Qualität als Funktion der log-linearen Kombination aus der Parameteranzahl des Modells ( $P$ ) und der Themenrepräsentationshäufigkeit ( $S$ ).

Theoretischer Rahmen
Die Studie schlägt ein „von Superposition inspiriertes" Signal-Rausch-Verhältnis (SNR)-Modell vor.

Signal: Die Stärke der Darstellung eines Konzepts skaliert mit seiner Häufigkeit in den Trainingsdaten ( $S$ ).
Rauschen: Die Interferenzuntergrenze wird durch die Modellkapazität ( $P$ ) bestimmt. Unter der Theorie der Superposition, bei der Modelle mehr Merkmale als Dimensionen kodieren, beinhaltet der Abruf eines Konzepts Interferenzen durch andere überlappende Darstellungen. Mit zunehmender Modellkapazität sinkt diese Interferenzuntergrenze.
Die Sigmoid-Kurve: Der Abruf erfolgt, wenn das Signal die Rauschuntergrenze überschreitet. Die Autoren gehen davon aus, dass die Abrufqualität einer Sigmoid-Funktion der Log-Summe dieser Faktoren folgt:
$\text{Qualität} = \sigma(\alpha \log_{10} P + \beta \log_{10} S + \gamma)$
wobei $\sigma$ die logistische Funktion ist.

Hauptergebnisse

Sigmoid-Skalierung: Das vorgeschlagene Sigmoid-Modell passt die Daten über 16 dichte Modelle aus vier unabhängigen Familien (Llama, Gemma, Mistral, Qwen) mit einem $R^2$ von 0,599 an. Bei der Analyse innerhalb einzelner Familien verbessert sich die Anpassung erheblich ( $R^2$ im Bereich von 0,74 bis 0,94).
Unabhängige Treiber: Sowohl die Modellgröße ( $P$ ) als auch die Themenhäufigkeit ( $S$ ) tragen unabhängig zur Abrufqualität bei. Die Modellgröße allein erklärt 42,1 % der Varianz, während die Themenhäufigkeit weitere 17,8 % hinzufügt.
Drei Regime: Die Sigmoid-Kurve zeigt drei distincte operative Regime:
- Boden: Kleine Modelle oder seltene Themen führen zu „vorlagebasierten Fälschungen", bei denen Modelle hochfrequente Nachnamen oder generische Vorlagen wiederverwenden, anstatt spezifische Fakten abzurufen.
- Anstieg: Ein Bereich der log-linearen Verbesserung, in dem eine Erhöhung der Kapazität oder Häufigkeit proportionale Gewinne beim Abruf erzielt.
- Decke: Sättigung tritt ein, wenn die Kapazität den Konzeptbestand übersteigt, und die Qualität flacht ab.
Zitationsgradient: Größere Modelle rufen Referenzen mit niedrigeren Zitationszahlen ab (Langschwellenwissen) im Vergleich zu kleineren Modellen, die auf stark zitierte (hochfrequente) Arbeiten beschränkt sind. Dies unterstützt die Hypothese, dass größere Modelle die Rauschuntergrenze ausreichend senken, um schwächere Signale abzurufen.
Familieneffekte: Es existieren systematische Verschiebungen zwischen Modellfamilien (z. B. schneiden Llama-Modelle bei ähnlichen Parameterzahlen im Allgemeinen besser ab als Gemma und Qwen), was darauf hindeutet, dass Trainingsverfahren und Datencuration den Achsenabschnitt ( $\gamma$ ) verschieben, ohne die Skalierungssteigung zu verändern.

Bedeutung und Behauptungen
Das Papier behauptet, das erste vereinheitlichte prädiktive Skalierungsgesetz für den faktischen Abruf zu liefern, das sowohl die Modellskalierung als auch die Zusammensetzung der Trainingsdaten berücksichtigt. Indem die Autoren Konfabulationen nicht als zufällige Fehler, sondern als vorhersehbare Konsequenz der Kompression ungleichmäßig verteilter Wissensbestände in eine endliche Darstellungskapazität neu rahmen, bieten sie einen quantitativen Rahmen zur Schätzung der Zuverlässigkeit.

Die Autoren betonen, dass aggregierte Benchmarks oft systematische Diskrepanzen verschleiern; ein Modell kann bei hochfrequenten Themen gut abschneiden, während es bei Konzepten der Langschwelle versagt. Der Rahmen legt nahe, dass die Ausweitung des zuverlässigen Abrufs auf niedrigfrequente Themen unverhältnismäßige Erhöhungen der Modellkapazität erfordert, während Datencuration und gezieltes Vor-Training für Konzepte nahe der Abrufschwelle effizienter sein können. Die Studie kommt zu dem Schluss, dass für sehr niedrigfrequente Konzepte die Abrufaugmentierung die notwendige Alternative zum parametrischen Abruf bleibt.

Einschränkungen
Die Autoren weisen auf mehrere Einschränkungen hin: Die Studie ist beobachtend (korrelational) und nicht kausal; der Proxy für die Trainingsdaten ( $S$ ) ist indirekt; die Analyse beschränkt sich auf Englisch und wissenschaftliche Referenzen; und die spezifischen Skalierungsparameter mögen sich nicht auf andere faktische Domänen wie gesunden Menschenverstand oder prozedurales Wissen verallgemeinern lassen.