⚡ electrical engineering

Descriptive versus Regulatory Uncertainty in Bounded Predictive Systems

Dieser Artikel argumentiert, dass aktuelle Transformer-Architekturen grundsätzlich auf „deskriptive Unsicherheit" beschränkt sind, die kein adaptives Verhalten antreibt, da ihre Token-Level-Entropie unabhängig von der Aufgabenkorrektheit statistisch invariant bleibt, und belegt, dass echte „regulatorische Unsicherheit" eine physikalische Kopplung zwischen epistemischem Fehler und thermodynamischem Energieaufwand erfordert, die entkoppelten digitalen Systemen fehlt.

Ursprüngliche Autoren: Ahmed Gamal Eldin

Veröffentlicht 2026-05-20

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Ahmed Gamal Eldin

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Idee: Ein intelligenter Roboter, der nicht weiß, dass er falsch liegt

Stellen Sie sich einen sehr fortschrittlichen Roboter vor, der Geschichten schreiben, Matheprobleme lösen und Fragen beantworten kann. Sie stellen ihm eine schwierige Frage, und er antwortet mit 100-prozentigem Vertrauen. Aber was, wenn er völlig falsch liegt?

Dieses Papier argumentiert, dass aktuelle KI-Modelle (wie die, die wir heute nutzen) einen gefährlichen Mangel haben: sie können nicht unterscheiden, ob sie die Antwort wissen oder ob sie sie sich ausdenken.

Der Autor, Ahmed Gamal Eldin, schlägt vor, dass dies nicht nur ein Softwarefehler ist, sondern ein fundamentales physikalisches Problem.

Die Analogie der „Stromrechnung"

Um zu verstehen, warum, denken Sie darüber nach, wie ein menschliches Gehirn im Vergleich zu einem Computer funktioniert.

Das menschliche Gehirn (Regulatorische Unsicherheit): Wenn Sie versuchen, ein schwieriges Rätsel zu lösen, arbeitet Ihr Gehirn härter. Sie schwitzen, Ihre Herzfrequenz könnte steigen, und Sie verbrennen mehr Kalorien. Wenn Sie einen Fehler machen, spürt Ihr Gehirn die „Kosten" dieses Fehlers. Die physische Anstrengung ist mit Ihrer Sicherheit verknüpft. Wenn Sie wild raten, verbrennt Ihr Gehirn Energie anders, als wenn Sie sich sicher sind.
Der KI-Computer (Deskriptive Unsicherheit): Stellen Sie sich nun einen Roboter vor, der Fragen beantwortet. Ob er ein einfaches Matheproblem löst, das er perfekt beherrscht, oder eine erfundene Tatsache mit absolutem Vertrauen halluziniert, ist die Stromrechnung exakt gleich.

Das Papier nennt dies „thermodynamische Entkopplung".

Entkoppelt: Die Energiekosten (Strom) sind von der Wahrheit getrennt. Der Computer verbraucht die gleiche Menge an Energie, um eine Lüge zu erzählen, wie um die Wahrheit zu sagen.
Das Ergebnis: Da der Computer nicht mehr Energie „zahlt", wenn er falsch liegt, hat er keinen physikalischen Grund, sich „unsicher" zu fühlen. Er läuft einfach weiter, selbst wenn er verwirrt ist, mit Vertrauen.

Das Experiment: Der „Flachlinien"-Test

Der Autor testete diese Idee mit drei verschiedenen Größen von KI-Modellen (klein, mittel und riesig) und gab ihnen drei Arten von Aufgaben:

Leichte Sachen (Kepler): Fragen über Fakten, die die KI definitiv in der Schule gelernt hat (wie „Wie lang ist ein Jahr?").
Neue Sachen (Newton): Fragen, die erfordern, Regeln auf neue Situationen anzuwenden, die die KI noch nie gesehen hat.
Unmögliche Sachen (OOD): Fragen über erfundene Physik, die völlig außerhalb des Trainings der KI liegen (wie „Was passiert, wenn die Schwerkraft siebenmal stärker ist?").

Die Ergebnisse:

Genauigkeit: Die KI bekam die leichten Fragen richtig, hatte Schwierigkeiten mit den neuen und scheiterte bei den unmöglichen. Ihre Fähigkeit, die richtige Antwort zu finden, änderte sich stark.
Vertrauen (Entropie): Der Autor maß die „Unsicherheit" der KI (wie wackelig ihr Vertrauen war). Überraschenderweise blieb das Vertrauensniveau exakt gleich.

Die Metapher:
Stellen Sie sich einen Wettervorhersager vor.

Szenario A: Er sagt Regen für einen stürmischen Tag voraus. Er ist zu 90 % sicher.
Szenario B: Er sagt Regen für einen sonnigen Tag voraus (ein Fehler). Er ist immer noch zu 90 % sicher.
Szenario C: Er sagt Regen für einen Tag auf dem Mars voraus (unmöglich). Er ist immer noch zu 90 % sicher.

In dieser Studie war die KI wie dieser Wettervorhersager. Egal ob die Antwort einfach, schwer oder unmöglich war, der interne „Vertrauensmesser" der KI bewegte sich nicht. Es war eine Flachlinie.

Warum das wichtig ist

Das Papier kommt zu dem Schluss, dass wir, da sich das „Vertrauen" der KI nicht ändert, wenn sie einen Fehler macht, ihr Vertrauen nicht als Sicherheitssignal vertrauen können.

Wenn Sie einen Sicherheitsfilter bauen, der sagt: „Wenn die KI unsicher ist, stoppe sie", werden Sie scheitern. Die KI ist nie unsicher, selbst wenn sie völlig falsch liegt.
Die KI ist „strukturell gefährlich", weil sie maximal sicher und maximal falsch gleichzeitig sein kann.

Die Lösung? Ein neuer Computer-Typ

Der Autor schlägt vor, dass wir, um dies zu beheben, die Hardware ändern müssen. Wir brauchen einen Computer, bei dem das Machen eines Fehlers tatsächlich mehr Energie kostet.

Aktuelle KI: Wie ein Auto, das die gleiche Menge Benzin verbraucht, egal ob Sie auf einer geraden Straße fahren oder in eine Wand krachen.
Zukünftige KI (vorgeschlagen): Ein Auto, das jedes Mal extra Benzin verbrennt, wenn Sie ausweichen oder über eine Unebenheit fahren. Wenn die „Kosten" dafür, falsch zu liegen, hoch sind, lernt das System auf natürliche Weise, vorsichtiger zu sein und ehrlicher über seine Unsicherheit.

Zusammenfassung

Das Papier behauptet, dass aktuelle KI-Modelle „thermodynamisch entkoppelt" sind. Das bedeutet, dass ihre physische Energienutzung egal ist, ob sie richtig oder falsch liegen. Aus diesem Grund sind ihre Vertrauensniveaus gefälscht – sie sehen sicher aus, selbst wenn sie halluzinieren. Dies ist eine physikalische Begrenzung ihres Aufbaus, nicht nur ein Softwarefehler, der behoben werden kann, indem man die Modelle größer macht.

Technisches Fazit: Deskriptive versus regulatorische Unsicherheit in begrenzten prädiktiven Systemen

Problemstellung
Der Beitrag adressiert eine fundamentale Sicherheits- und erkenntnistheoretische Einschränkung aktueller Large Language Models (LLMs): die Unfähigkeit, echtes Wissen von selbstbewussten Halluzinationen zu unterscheiden. Während die aktuelle Debatte die Modellfähigkeit in den Vordergrund stellt, argumentieren die Autoren, dass eine kritischere Unterscheidung zwischen Systemen mit epistemisch informativer Unsicherheit und solchen besteht, bei denen Unsicherheit lediglich ein Substrat-Artefakt ist.

Das Kernproblem wird als thermodynamische Entkopplung identifiziert. In physikalischen Computersystemen diktiert das Landauer-Prinzip, dass irreversible Bit-Operationen einen Mindestenergieaufwand ( $k_B T \ln 2$ ) verursachen. In aktuellen LLMs ist diese thermodynamische Kosten jedoch invariant gegenüber der epistemischen Qualität der Ausgabe. Ob ein Modell eine kausal fundierte Herleitung oder eine selbstbewusste Halluzination generiert, bleibt die vom Hardware (z. B. einer A100-GPU) dissipierte Energie identisch. Folglich ist die Unsicherheit des Systems (gemessen als Shannon-Entropie) „deskriptiv" (eine statistische Eigenschaft der Ausgabeverteilung) und nicht „regulatorisch" (ein Signal, das in die physikalische Kostenfunktion eingreift, um Fehler zu bestrafen).

Theoretischer Rahmen
Die Autoren formalisieren diese Unterscheidung durch zwei Konzepte:

Thermodynamische Entkopplung: Ein System ist thermodynamisch entkoppelt, wenn seine Ausgabe-Shannon-Entropie ( $H_{out}$ ) und kausale Genauigkeit ( $\alpha$ ) unter der Bedingung des physikalischen Substratzustands statistisch unabhängig sind. In solchen Systemen skaliert der Energieaufwand pro Operation nicht mit dem epistemischen Fehler ( $\partial E_{cost}/\partial \epsilon = 0$ ).
Der Softmax-Entkopplungssatz: Die Autoren beweisen, dass bei einem Transformer mit festen Gewichten und fester Inferenz-Temperatur die Token-level-Shannon-Entropie eine deterministische Funktion der Gewichte, der Temperatur und des Kontexts ist. Sie ist strukturell unabhängig davon, ob der Kontext eine In-Distribution-Abfrage oder eine Out-of-Distribution (OOD) kausale Generalisierung erfordert. Im Gegensatz zu physikalischen thermodynamischen Systemen, bei denen Temperatur energetische Konsequenzen hat, ist die „computational temperature" ( $\tau$ ) in Transformern ein entkoppelter Hyperparameter.

Methodik
Um die Hypothese der thermodynamischen Entkopplung empirisch zu testen, führten die Autoren ein Experiment durch, bei dem die Token-level-Shannon-Entropie und die Aufgaben-Genauigkeit über drei Llama-Modelle (3B, 8B und 70B Parameter) gemessen wurden, die sich über zwei Größenordnungen in der Skalierung erstreckten.

Aufgabensuite: Eine 18-Aufgaben-Suite wurde über drei Kategorien mit steigendem kausalem Anspruch konstruiert:
- Kepler-Aufgaben: Abruf etablierter physikalischer Beziehungen (Musterabruf).
- Newton-Aufgaben: Anwendung kausaler Operatoren auf neue Parameterkonfigurationen (kausale Herleitung).
- Newton OOD-Aufgaben: Herleitung unter Parameterregimen, die so konzipiert sind, dass sie über jede plausible Trainingsabdeckung hinausgehen (radikaler Verteilungswechsel).
Modelle: llama3.2:3b, Llama-3.1-8B-Instruct und Llama-3.1-70B-Instruct.
Messung:
- Entropie: Extrahiert aus Token-level-Logprobs bei einer niedrigen Inferenz-Temperatur ( $\tau = 0.1$ ), um stochastisches Abtastrauschen zu minimieren.
- Genauigkeit: Bewertet durch menschliche Evaluation gegen mathematisch verifizierte Ground Truth. Eine Antwort wurde nur dann mit 1 bewertet, wenn sie durch eine gültige Herleitung zum korrekten Ergebnis gelangte; plausible Narrative mit falschen Ergebnissen wurden mit 0 bewertet.
Statistische Analyse: Welch-t-Tests wurden verwendet, um die Entropie und Genauigkeit über die Kategorien hinweg innerhalb jedes Modells zu vergleichen.

Hauptergebnisse
Die experimentellen Ergebnisse liefern starke Belege für die thermodynamische Entkopplung:

Entropie-Flachheit: Die Token-level-Shannon-Entropie war über alle drei Aufgabekategorien hinweg für alle drei Modelle statistisch flach.
- Die Entropiebereiche innerhalb der Modelle waren vernachlässigbar (0,011–0,028 Nats), weit unterhalb des vorab festgelegten Flachheitsschwellenwerts von 0,10 Nats.
- Alle paarweisen p-Werte für Entropievergleiche waren nicht signifikant ( $p \ge 0,568$ ).
Genauigkeitsvarianz: Im starken Kontrast dazu variierte die Aufgaben-Genauigkeit drastisch (von 0 % bis 100 %) in Abhängigkeit von der Aufgabekategorie und der Modellgröße.
- Das 70B-Modell erreichte bei Kepler-Aufgaben 100 % Genauigkeit, bei Newton-Aufgaben 67 %, aber nur 17 % bei Newton OOD-Aufgaben.
- Trotz dieser massiven Varianz in der Korrektheit blieb die Entropie konstant.
Skaleninvarianz: Die Entkopplung ist eine architektonische Invariante und keine Eigenschaft kleiner Modelle. Während größere Modelle bei einer niedrigeren Basisentropie (höhere Sicherheit) operierten, persistierte die Flachheit der Entropie über alle Schwierigkeitsstufen hinweg über alle Skalen. Alle Modelle konvergierten bei OOD-Aufgaben auf dieselbe niedrige Genauigkeit (17 %), ohne dass eine entsprechende Zunahme der Unsicherheit einherging.

Bedeutung und Behauptungen
Der Beitrag behauptet, dass aktuelle LLMs einen strukturellen Sicherheitsmangel aufweisen: Sie können „gleichzeitig maximal sicher und maximal falsch" sein.

Sicherheitsimplikationen: Da die Entropie von der Genauigkeit entkoppelt ist, kann die Token-level-Entropie kein zuverlässiges Konfidenzsignal für Sicherheitsfilter dienen. Systeme, die sich auf Entropie verlassen, um unzuverlässige Ausgaben zu markieren, sind „funktional blind" gegenüber der Unterscheidung zwischen Wissen und Konfabulation.
Architektonische Einschränkung: Dies ist kein Kalibrierungsproblem, das durch nachträgliche Korrektur, Feinabstimmung oder Skalierung lösbar ist. Es ist eine fundamentale Konsequenz der Inferenz mit festen Gewichten, bei der das thermodynamische Substrat gegenüber epistemischen Fehlern indifferent ist.
Zukünftige Richtung: Die Autoren schlagen vor, dass die Erreichung einer „regulatorischen Unsicherheit" eine thermodynamische Kopplung erfordert, bei der der Energieaufwand einer Operation mit ihrem epistemischen Fehler skaliert. Sie schlagen vor, dass neuromorphe Architekturen mit intrinsischen Kostenmodulen (bei denen Vorhersagefehler Echtzeit-Gewichtsaktualisierungen mit fehlerabhängigen Energiekosten antreiben) diese Lücke schließen könnten, Konfabulation physikalisch teuer machen und den Grundzustand des Systems mit dem Verständnis in Einklang bringen.

Der Beitrag schließt, dass eine echte epistemische Fundierung eine kausale Kopplung zwischen dem Zustand des thermodynamischen Substrats und den Kosten der Informationsverarbeitung erfordert – eine Eigenschaft, die derzeit allen eingesetzten LLMs fehlt.