🤖 AI

Unbiased Canonical Set-Valued Oracles Via Lattice Theory

Diese Arbeit schlägt ein auf der Verbandstheorie basierendes Framework vor, das den Knaster–Tarski-Fixpunktsatz verwendet, um eine kanonische, nicht-triviale Credal-Menge für selbstreferenzielle KI-Orakel zu konstruieren, die selbst dann unvoreingenommen und selbstkonsistent bleibt, wenn ihre Vorhersagen zukünftige Ereignisse beeinflussen, wodurch die Einschränkungen kontrafaktischer Ansätze überwunden werden.

Ursprüngliche Autoren: Jobst Heitzig

Veröffentlicht 2026-06-26

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jobst Heitzig

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Problem: Die Falle der „selbsterfüllenden Prophezeiung“

Stellen Sie sich vor, Sie haben einen superintelligenten KI-Orakel, das die Zukunft vorhersagen kann. Sie fragen es: „Wird mein neues Startup erfolgreich sein?“

Wenn die KI sagt: „Nein, es wird scheitern“, und Sie das hören, könnten Sie entmutigt werden und aufhören, sich anzustrengen. Weil Sie aufgehört haben, sich anzustrengen, scheitert das Startup tatsächlich. Die Vorhersage der KI wurde wahr, aber nur, weil sie Ihnen die Antwort gesagt hat.

Wenn die KI sagt: „Ja, es wird erfolgreich sein“, könnten Sie übermütig werden, unvorsichtige Risiken eingehen und die Firma in den Ruin treiben. Auch hier wurde die Vorhersage wahr, weil die Antwort gegeben wurde.

Dies ist das Selbstreferenz-Problem: In dem Moment, in dem die KI eine Antwort gibt, verändert diese Antwort die Welt, was die ursprüngliche Vorhersage potenziell falsch macht.

Die alte Lösung (Das „Was wäre wenn“-Spiel):
Einige Forscher schlagen vor, die KI zu fragen: „Was würde passieren, wenn Sie uns eine Antwort gaben, wir sie aber niemals tatsächlich hören würden?“
Die Arbeit argumentt, dass dies nutzlos ist. Sobald Sie die Frage stellen, wissen Sie, dass Sie die Antwort hören werden. Das „Was wäre wenn“-Szenario ist eine Lüge. Es ist, als würde man fragen: „Wie wäre das Wetter, wenn ich niemals nach draußen gehen würde?“, während man gerade selbst draußen steht. Die Antwort hilft einem in der realen Welt nicht weiter.

Die neue Lösung: Die „Sicherheitszone“ (Credal Sets)

Anstatt nach einer einzelnen Zahl zu fragen (wie „90 % Erfolgschance“), schlägt der Autor vor, die KI nach einer Sicherheitszone (einer Menge möglicher Wahrscheinlichkeiten) zu fragen.

Denken Sie an Folgendes: Anstatt zu fragen: „Ist die Brücke sicher zu überqueren?“ (Ja/Nein), fragen Sie: „Geben Sie mir eine Liste von Gewichtsgrenzen, die definitiv sicher sind.“

Wenn die KI sagt „500 kg“, und Sie wiegen 501 kg, versuchen Sie vielleicht, die Brücke zu überqueren und brechen sie.
Wenn die KI sagt: „Jedes Gewicht zwischen 100 kg und 600 kg ist sicher“, und Sie wiegen 500 kg, wissen Sie, dass Sie in der „Sicherheitszone“ liegen.

Das Ziel ist es, eine selbstkonsistente Sicherheitszone zu finden. Dies ist eine Liste von Wahrscheinlichkeiten, bei der, wenn die KI Ihnen sagt: „Die Antwort liegt irgendwo in dieser Liste“, das tatsächliche Ergebnis tatsächlich innerhalb dieser Liste liegen wird.

Das große Problem: Zu viele Antworten

Es gibt einen Haken. Es gibt zu viele „Sicherheitszonen“.

Die Liste [0,1, 0,9] könnte sicher sein.
Die Liste [0,1] könnte sicher sein.
Die Liste [0, 1] (was bedeutet: „Alles ist möglich“) ist definitiv sicher, aber sie ist nutzlos. Es ist, als würde man sagen: „Das Wetter wird irgendwo zwischen eisig und siedend heiß sein.“ Das ist wahr, aber es sagt einem nichts.

Wir brauchen eine Möglichkeit, eine spezifische, nicht nutzlose Antwort zu wählen, die fair und unvoreingenommen ist.

Das magische Werkzeug: Das „Gitter“ und die „Bottom-Up“-Suche

Der Autor verwendet ein mathematisches Werkzeug namens Gittertheorie (denken Sie an ein riesiges, organisiertes Archiv aller möglichen Listen), um die perfekte Antwort zu finden.

Stellen Sie sich vor, Sie versuchen, die kleinste mögliche „Sicherheitszone“ zu finden.

Beginnen Sie mit nichts: Stellen Sie sich vor, die KI beginnt mit einer leeren Liste (oder einem „Ich weiß es nicht“-Basistestwert).
Fragen Sie die KI: „Wenn ich Ihnen diese leere Liste nenne, was würde passieren?“
Aktualisieren Sie die Liste: Die KI gibt eine neue Zahl an. Sie fügen diese Zahl zu Ihrer Liste hinzu.
Wiederholen: Sie fragen immer wieder: „Wenn ich Ihnen die aktuelle Liste nenne, was würde passieren?“ und Sie fügen die neuen Ergebnisse immer wieder der Liste hinzu.

Die Arbeit beweist, dass die Liste schließlich aufhören wird zu wachsen und sich auf eine bestimmte Form festlegt, wenn man dies fortsetzt. Dies wird als Fixpunkt bezeichnet.

Der „kleinste“ Fixpunkt: Der Autor wählt die kleinste Liste, die aufhört zu wachsen. Dies ist die „kanonische“ Antwort. Sie ist die ehrlichste, am wenigsten verpflichtende Antwort, die möglich ist. Sie rät nicht; sie berichtet nur den kleinsten Bereich, der garantiert wahr sein wird.

Ein besonderer Kniff: Der „Anker“

Es gibt eine kleine Besonderheit in der Mathematik. Um sicherzustellen, dass die Liste niemals leer bleibt, zwingt die Mathematik die KI dazu, ihre Reaktion auf „Ich weiß es nicht“ (die leere Liste) in die endgültige Antwort einzubeziehen.

Betrachten Sie dies als einen Anker. Selbst wenn die KI unsicher ist, muss sie ihren „Basis-Tipp“ in die endgültige Sicherheitszone einbeziehen.
Dies stellt sicher, dass die Antwort niemals leer ist, aber es kann bedeuten, dass die endgültige Liste etwas größer ist als unbedingt nötig.

Das Beispiel des „Startups“

Die Arbeit nutzt ein Startup-Beispiel, um zu zeigen, wie dies funktioniert:

Wenn der Gründer eine niedrige Zahl erfährt (wie 10 %), gibt er auf, und die Chance auf Erfolg bleibt niedrig.
Wenn er eine hohe Zahl erfährt (wie 90 %), wird er unvorsichtig, und die Chance auf Erfolg sinkt.
Es gibt „stabile“ Punkte (10 % und 90 %), an denen die Vorhersage mit dem Ergebnis übereinstimmt.

Die Mathematik zeigt, dass es – je nachdem, wie man die Suche beginnt – zwei Wege gibt:

Die minimale Antwort: Wenn man von „Ich weiß es nicht“ ausgeht, landet man vielleicht bei einer Liste, die nur die „pessimistische“ Seite abdeckt (z. B. 10 % bis 26 %). Man verpasst die optimistische 90 %, weil der Startpunkt einen nach unten gezogen hat.
Die „faire“ Antwort: Die Arbeit schlägt eine Variante vor, die die KI dazu zwingt, alle stabilen Punkte (10 %, 90 % usw.) von vornherein einzubeziehen. Dies führt zu einer größeren Liste (10 % bis 90 %), ist aber „fairer“, da die optimistische Möglichkeit nicht ignoriert wird, nur weil der Startpunkt niedrig war.

Das Faz-sait

Die Arbeit schlägt einen neuen Weg vor, wie KI-Orakel Fragen über die Zukunft beantworten können, ohne in die Falle selbsterfüllender Prophezeiungen zu geraten:

Fragen Sie nicht nach einer einzelnen Zahl, sondern nach einem Bereich (einer Menge).
Nutzen Sie eine mathematische „Bottom-Up“-Suche, um den kleinsten Bereich zu finden, der garantiert wahr ist, sobald man ihn hört.
Diese Methode funktioniert für einfache Ja/Nein-Fragen und kann auf komplexe Vorhersagen über beliebige Variablen (wie Aktienkurse oder Wettermuster) ausgeweitet werden.

Es ist ein Weg, eine Vorhersage zu erhalten, die ehrlich, selbstkonsistent und nicht darauf abzielt, die Welt zu manipulieren, damit sie wahr wird.

Technisches Resümee: Unvoreingenommene kanonische wertmengenbasierte Orakel mittels Lattentheorie

Problemstellung
Die Arbeit befasst sich mit dem „Selbstbezüglichkeitsproblem“, das nicht-agentischen „Orakel“-KIs inhärent ist, die darauf ausgelegt sind, zukünftige Ereignisse vorherzusagen. Wenn die Ausgabe eines Orakels gelernt und darauf reagiert wird, kann dies genau die Wahrscheinlichkeit verändern, nach der gefragt wurde (Performativität). Während bestehende Vorschläge (z. B. Fornasiere et al., 2026; Bengio et al., 2025b) vorschlagen, nur kontrafaktische Fragen zu stellen (unter der Annahme, dass die Antwort keinen Einfluss hat), argumentiert der Autor, dass dies die Antwort irrelevant macht, sobald sie gelernt wurde, da die kontrafaktische Prämisse falsch wird. Umgekehrt leidet ein rein selbstbezuglicher Ansatz („Was passiert, wenn ich Ihre Antwort erfahre?“) unter mangelnder Eindeutigkeit; es können mehrere selbstkonsistente Wahrscheinlichkeiten (oder Mengen) existieren, einschließlich der trivialen und nutzlosen Menge $[0, 1]$ . Die zentrale Herausforderung besteht darin, eine Methode zu definieren, die eine eindeutige, nicht-triviale und unvoreingenommene wertmengenbasierte Antwort liefert, die selbstkonsistent mit den Konsequenzen des Erlernens bleibt.

Methodik
Der Autor schlägt eine konstruktion auf Basis der Lattentheorie vor, um die Nicht-Eindeutigkeit selbstkonsistenter Credal-Mengen aufzulösen.

Domänendefinition: Das Problem wird innerhalb des vollständigen Lattices $D$ aller abgeschlossenen Teilmengen von $[0, 1]$ formuliert, geordnet durch Mengeninklusion. Das Meet ist die Schnittmenge, und das Join ist der Abschluss der Vereinigung.
Operator-Konstruktion: Eine Reaktionsfunktion $f(C) = P(B \mid A, C)$ bildet eine berichtete Menge $C$ auf die resultierende Wahrscheinlichkeit von Ereignis $B$ unter der Prämisse $A$ ab. Um die Fixpunkt-Theorie anzuwenden, definiert der Autor einen isotonen (monotonen) Operator $F: D \to D$ :
$F(C) = \{ f(C') : C' \subseteq C, C' \text{ ist abgeschlossen} \}$
Dieser Operator sammelt alle möglichen Reaktionswahrscheinlichkeiten zu jeder Teilantwort $C'$ innerhalb von $C$ .
Fixpunkt-Auswahl: Die Arbeit nutzt den Knaster–Tarski-Fixpunktsatz. Da $D$ $D$ ein vollständiger Lattice ist und $F$ $F$ isoton ist, bildet die Menge der Fixpunkte $\text{Fix}(F)$ $Fix (F)$ einen nicht-leeren vollständigen Lattice. Der Autor wählt den kleinsten Fixpunkt ( $\mu_F$ $μ_{F}$ ) als die kanonische Antwort.
- Variante: Eine zweite Kandidatenmenge, $C^\star$ , wird definiert, die innerhalb des Sub-Lattices der Mengen liegt, die alle „selbstkonsistenten Singletons“ (Punkte $p$ , für die $f(\{p\}) = p$ gilt) und einen Anker $f(\emptyset)$ enthalten. Diese Variante stellt sicher, dass keine selbst erfüllenden Punktschätzungen stillschweigend ausgeschlossen werden.

Schlüsselergebnisse und theoretische Eigenschaften

Existenz und Nicht-Leere: Der kleinste Fixpunkt $\mu_F$ existiert immer und ist nicht leer. Entscheidend ist, dass er den Ankerwert $f(\emptyset)$ (die Schätzung des Orakels, wenn keine Information bereitgestellt wird) enthält, was verhindert, dass die Lösung zur leeren Menge kollabiert.
Selbstkonsistenz: Jeder Fixpunkt $C \in \text{Fix}(F)$ erfüllt die Bedingung $f(C) \in C$ . Die berichtete Menge ist konsistent mit der Wahrscheinlichkeitsverteilung, die aus dem Lernen dieser Menge resultiert.
Nicht-Trivialität: Die triviale Antwort $[0, 1]$ wird nicht erzwungen, es sei denn, die Reaktionsfunktion ist dicht in $[0, 1]$ . In den meisten Fällen ist $\mu_F$ eine streng kleinere, nicht-triviale Menge.
Kollaps zu klassischen Antworten: Für nicht-performative Fragen (bei denen die Antwort das Ergebnis nicht beeinflusst) kollabiert die Konstruktion zu der klassischen Singleton-Punktschätzung $\{P(B \mid A)\}$ .
Iterative Berechnung: Unter einer Stetigkeitshypothese (bezüglich der Hausdorff-Metrik) kann $\mu_F$ über eine Kleene-Iteration ausgehend von der leeren Menge erreicht werden: $C_0 = \emptyset$ , $C_{i+1} = F(C_i)$ , konvergierend zu $C_\omega = \mu_F$ .
Intervall-Charakterisierung (Binärfall): Für binäre Ereignisse, falls die Reaktionsfunktion „hull-factored“ (abhängig nur vom Min/Max der berichteten Menge) und stetig ist, ist garantiert, dass die Variante $C^\star$ ein abgeschlossenes Intervall ist. Jedoch kann die minimale Lösung $\mu_F$ eine disjunkte Menge sein (z. B. ein gefülltes Becken plus ein diskreter Schweif), wie durch ein Toy-Startup-Modell demonstriert wurde, bei dem der Anker in einem „pessimistischen Becken“ liegt, was dazu führt, dass $\mu_F$ „optimistische“ selbstkonsistente Gleichgewichte übersieht.
Generalisierung: Die Konstruktion lässt sich unverändert auf beliebige Zufallsvariablen $X$ erweitern, indem die Wahrscheinlichkeiten durch bedingte Gesetze $L(X \mid A, C)$ im Raum der Wahrscheinlichkeitsmaße ersetzt werden, vorausgesetzt, der Raum ist $T_1$ (Punkte sind abgeschlossen).

Bedeutung und Behauptungen
Die Arbeit behauptet, eine rein mathematische Lösung für die Nicht-Eindeutigkeit selbstbezüglicher Orakel-Abfragen zu liefern, ohne auf Kontrafaktualitäten zurückzugreifen. Durch die Verschiebung von Punktschätzungen hin zu wertmengenbasierten Credal-Mengen absorbiert die Methode die inhärente Unbestimmtheit performativer Vorhersagen, anstatt sie durch eine willkürliche Auswahl zu brechen.

Unvoreingenommenheit: Die Auswahl des kleinsten Fixpunkts wird als unvoreingenommen präsentiert, da es die „geringst-verpflichtende“ Lösung ist, die alle Kandidaten-Wahrscheinlichkeitswerte symmetrisch behandelt, ohne bestimmte Werte (wie das Minimum oder Maximum) zu bevorzugen.
Komplement zur Wissenschafts-KI: Der Ansatz wird als Komplement zum „Scientist AI“-Programm positioniert. Während kontrafaktische Abfragen darauf abzielen, die Verbindung zwischen Vorhersage und Konsequenz zu trennen, akzeptiert dieser selbstbezügliche Ansatz die Verbindung, stellt aber sicher, dass das Orakel eine Menge berichtet, die stabil und konsistent mit den Konsequenzen seiner eigenen Offenbarung ist.
Limitierungen und offene Fragen: Der Autor merkt bescheiden an, dass zwar die Existenz einer kanonischen Menge bewiesen wurde, die Schätzbarkeit dieser Menge jedoch ein offenes rechnerisches Problem (die „computational gap“) bleibt. Zudem bleibt die Frage offen, ob die Intervall-Charakterisierung für binäre Ereignisse automatisch auf höherdimensionale Zufallsvariablen generalisiert werden kann und welche Sicherheitsimplikationen die Berichterstattung einer Menge hinsichtlich der Wahrung der „nicht-agentischen“ Natur des Orakels hat.

Fazung
Die Arbeit etabliert einen auf der Lattentheorie basierenden Rahmen zur Generierung unvoreingenommener, selbstkonsistenter, wertmengenbasierter Vorhersagen für Orakel-KIs. Sie beweist die Existenz eines kanonischen kleinsten Fixpunkts, der die Trivialität von $[0, 1]$ und die Irrelevanz von Kontrafaktualitäten vermeidet und somit eine rigorose Alternative für den Umgang mit performativer Vorhersage in nicht-agentischen Systemen bietet.