🤖 AI

Unbiased Canonical Set-Valued Oracles Via Lattice Theory

Dit artikel stelt een rooster-theoretisch kader voor dat gebruikmaakt van de Knaster–Tarski vaste-puntstelling om een canonieke, niet-triviale credale verzameling te construeren voor zelfreferentiële AI-orakels die onbevooroordeeld en zelfconsistent blijft, zelfs nadat de voorspellingen ervan toekomstige gebeurtenissen beïnvloeden, waardoor de beperkingen van contrafactische benaderingen worden overwonnen.

Oorspronkelijke auteurs: Jobst Heitzig

Gepubliceerd 2026-06-26

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jobst Heitzig

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Probleem: De valstrik van de "Zelfvervullende Voorspelling"

Stel je voor dat je een superintelligente AI-orakel hebt dat de toekomst kan voorspellen. Je vraagt het: "Zal mijn nieuwe startup succesvol zijn?"

Als de AI zegt: "Nee, het zal mislukken," en je hoort dat, dan kun je ontmoedigd raken en stoppen met proberen. Omdat je bent gestopt met proberen, mislukt de startup inderdaad. De voorspelling van de AI kwam uit, maar alleen omdat de AI het antwoord gaf.

Als de AI zegt: "Ja, het zal succesvol zijn," kun je overmoedig worden, roekeloze risico's nemen en het bedrijf laten crashen. Opnieuw kwam de voorspelling uit omdat van het antwoord.

Dit is het Zelfreferentieprobleem: Op het moment dat de AI een antwoord geeft, verandert dat antwoord de wereld, waardoor de oorspronkelijke voorspelling potentieel onjuist wordt.

De Oude Oplossing (Het "Wat als"-spel):
Sommige onderzoekers suggereren om de AI te vragen: "Wat zou er gebeuren als je ons een antwoord zou geven, maar we het nooit echt zouden horen?"
Het artikel stelt dat dit nutteloos is. Zodra je de vraag stelt, weet je dat je het antwoord gaat horen. Het "wat als"-scenario is een leugen. Het is alsof je vraagt: "Hoe zou het weer zijn als ik nooit naar buiten zou gaan?" terwijl je op dit moment buiten staat. Het antwoord helpt je niet in de echte wereld.

De Nieuwe Oplossing: De "Veilige Zone" (Credal Sets)

In plaats van te vragen om één enkel getal (zoals "90% kans op succes"), stelt de auteur voor om de AI te vragen om een Veilige Zone (een verzameling mogelijke waarschijnlijkheden).

Denk hierover op deze manier: In plaats van te vragen "Is de brug veilig om over te steken?" (Ja/Nee), vraag je: "Geef me een lijst met gewichtslimieten die gegarandeerd veilig zijn."

Als de AI zegt "500 kg", en jij bent 501 kg, probeer je misschien over te steken en breek je de brug.
Als de AI zegt "Elk gewicht tussen 100 kg en 600 kg is veilig", en jij bent 500 kg, dan weet je dat je in de "Veilige Zone" zit.

Het doel is om een Zelfconsistentie Veilige Zone te vinden. Dit is een lijst met waarschijnlijkheden waarbij, als de AI tegen je zegt "Het antwoord zit ergens in deze lijst", de werkelijke uitkomst ook daadwerkelijk binnen die lijst zal vallen.

Het Grote Probleem: Te Veel Antwoorden

Er is een addertje onder het gras. Er zijn te veel "Veilige Zones."

De lijst [0.1, 0.9] kan veilig zijn.
De lijst [0.1] kan veilig zijn.
De lijst [0, 1] (wat betekent: "alles is mogelijk") is zeker veilig, maar het is nutteloos. Het is alsof je zegt: "Het weer zal ergens tussen vriespunt en kookpunt liggen." Dat is waar, maar het vertelt je niets.

We hebben een manier nodig om één specifiek, niet-nutteloos antwoord te kiezen dat eerlijk en onbevooroordeeld is.

Het Magische Instrument: De "Lattice" en de "Bottom-Up" Zoektocht

De auteur gebruikt een wiskundig instrument genaamd Lattice Theory (denk aan een enorme, georganiseerde archiefkast van alle mogelijke lijsten) om het perfecte antwoord te vinden.

Stel je voor dat je probeert de kleinste mogelijke "Veilige Zone" te vinden.

Begin met niets: Stel je voor dat de AI begint met een lege lijst (of een "ik weet het niet"-basislijn).
Vraag de AI: "Als ik je deze lege lijst zou vertellen, wat zou er dan gebeuren?"
Update de lijst: De AI geeft een nieuw getal. Je voegt dat getal toe aan je lijst.
Herhaal: Je blijft vragen: "Als ik je de huidige lijst zou vertellen, wat zou er dan gebeuren?" en je blijft de nieuwe resultaten aan je lijst toevoegen.

Het artikel bewijst dat als je dit blijft doen, de lijst uiteindelijk zal stoppen met groeien en zal bezinken op een specifieke vorm. Dit wordt een Fixed Point genoemd.

De "Kleinste" Fixed Point: De auteur kiest de kleinste lijst die stopt met groeien. Dit is het "canonieke" antwoord. Het is het meest eerlijke, minst stellige antwoord dat mogelijk is. Het gokt niet; het rapporteert simpelweg de kleinste reeks die gegarandeerd waar zal zijn.

Een Bijzondere Twist: De "Anker"

Er is een klein trekje in de wiskunde. Om ervoor te zorgen dat de lijst nooit leeg blijft, dwingt de wiskunde de AI om de reactie op "Ik weet het niet" (de lege lijst) op te nemen in het uiteindelijke antwoord.

Zie dit als een Anker. Zelfs als de AI onzeker is, moet hij zijn "basis-gok" opnemen in de uiteindelijke Veilige Zone.
Dit zorgt ervoor dat het antwoord nooit leeg is, maar het kan betekenen dat de uiteindelijke lijst iets groter is dan strikt noodzakelijk.

Het "Startup"-voorbeeld

Het artikel gebruikt een startup-voorbeeld om te laten zien hoe dit werkt:

Als de oprichter een laag getal krijgt verteld (zoals 10%), geeft hij op, en blijft de kans op succes laag.
Als er een hoog getal wordt verteld (zoals 90%), wordt hij roekeloos, en daalt de kans op succes.
Er zijn "stabiele" punten (10% en 90%) waar de voorspelling overeenkomt met de uitkomst.

De wiskunde laat zien dat het, afhankelijk van hoe je de zoektocht start, het volgende kan zijn:

Het Minimale Antwoord: Als je start vanuit "Ik weet het niet," kom je misschien uit bij een lijst die alleen de "pessimistische" kant dekt (bijv. 10% tot 26%). Je mist de optimistische 90% omdat het startpunt je naar beneden trok.
Het "Eerlijke" Antwoord: Het artikel stelt een variant voor die de AI dwingt om vanaf het begin álle stabiele punten (10%, 90%, etc.) op te nemen. Dit resulteert in een grotere lijst (10% tot 90%), maar het is "eerlijker" omdat het de optimistische mogelijkheid niet negeert, enkel omdat het startpunt laag was.

De Kern van het Verhaal

Het artikel stelt een nieuwe manier voor waarop AI-orakels vragen over de toekomst kunnen beantwoorden zonder gevangen te raken in zelfvervullende voorspellingen:

Vraag niet om één enkel getal; vraag om een bereik (een verzameling).
Gebruik een wiskundige "bottom-up" zoektocht om de kleinste reeks te vinden die gegarandeerd waar zal zijn zodra je deze hoort.
Deze methode werkt voor eenvoudige ja/nee-vragen en kan worden uitgebreid naar complexe voorspellingen over elke variabele (zoals aandelenkoersen of het weer).

Het is een manier om een voorspelling te krijgen die eerlijk, zelfconsistent is en niet probeert de wereld te manipuleren om waar te worden.

Technische Samenvatting: Onbevooroordeelde Canonieke Verzameldwaardige Orakels via Roostertheorie

Probleemstelling
Het artikel behandelt het "zelfreferentieprobleem" dat inherent is aan niet-agentische "orakel" AI's die ontworpen zijn om toekomstige gebeurtenissen te voorspellen. Wanneer de output van een orakel wordt geleerd en erop wordt gehandeld, kan dit de zeer waarschijnlijkheid die het werd gevraagd te rapporteren, veranderen (performativiteit). Terwijl bestaande voorstellen (bijv. Fornasiere et al., 2026; Bengio et al., 2025b) suggereren om alleen contrafectuele vragen te stellen (ervan uitgaande dat het antwoord geen invloed heeft), betoogt de auteur dat dit de antwoorden irrelevant maakt zodra ze geleerd worden, omdat de contrafectuele premisse daarmee onwaar wordt. Omgekeerd lijdt een puur zelfreferentiële benadering ("wat gebeurt er zodra ik jouw antwoord leer?") aan niet-uniciteit; meerdere zelfconsistente waarschijnlijkheden (of verzamelingen) kunnen bestaan, inclusief de triviale en nutteloze verzameling $[0, 1]$ . De kernuitdaging is het definiëren van een methode die een uniek, niet-triviaal en onbevooroordeeld verzameld antwoord oplevert dat zelfconsistent blijft met de consequenties van het geleerd worden.

Methodologie
De auteur stelt een roostertheoretische constructie voor om de niet-uniciteit van zelfconsistente credal-verzamelingen op te lossen.

Domeindefinitie: Het probleem wordt geformuleerd binnen het volledige rooster $D$ van alle gesloten deelverzamelingen van $[0, 1]$ , geordend door verzameling inclusie. De meet is intersectie, en de join is de afsluiting van de unie.
Operatorconstructie: Een reactiefunctie $f(C) = P(B \mid A, C)$ brengt een gerapporteerde verzameling $C$ in kaart naar de resulterende waarschijnlijkheid van gebeurtenis $B$ gegeven premisse $A$ . Om fixed-point theorie toe te passen, definieert de auteur een isotone (monotone) operator $F: D \to D$ :
$F(C) = \{ f(C') : C' \subseteq C, C' \text{ is gesloten} \}$
Deze operator verzamelt alle mogelijke reactiewaarschijnlijkheden voor elke sub-antwoord $C'$ die binnen $C$ valt.
Fixed-Point Selectie: Het artikel roept de Knaster–Tarski fixed-point stelling aan. Omdat $D$ $D$ een volledig rooster is en $F$ $F$ isotoon is, vormt de verzameling vaste punten $\text{Fix}(F)$ $Fix (F)$ een niet-leeg volledig rooster. De auteur selecteert het kleinste vaste punt ( $\mu_F$ $μ_{F}$ ) als het canonieke antwoord.
- Variant: Een tweede kandidaat, $C^\star$ , wordt gedefinieerd als het kleinste vaste punt binnen het deelrooster van verzamelingen die alle "zelfconsistente singletonen" bevatten (punten $p$ waar $f(\{p\}) = p$ ) en een anker $f(\emptyset)$ . Deze variant zorgt ervoor dat geen enkele zelfvervullende punt-schatting stilzwijgend wordt uitgesloten.

Belangrijkste Resultaten en Theoretische Eigenschappen

Bestaan en Niet-leegheid: Het kleinste vaste punt $\mu_F$ bestaat altijd en is niet-leeg. Cruciaal is dat het de ankerwaarde $f(\emptyset)$ bevat (de schatting van het orakel wanneer geen informatie wordt verstrekt), wat voorkomt dat de oplossing inklapt tot de lege verzameling.
Zelfconsistentie: Elk vast punt $C \in \text{Fix}(F)$ voldoet aan de voorwaarde $f(C) \in C$ . De gerapporteerde verzameling is consistent met de waarschijnlijkheidsverdeling die voortvloeit uit het leren van die verzameling.
Niet-trivialiteit: Het triviale antwoord $[0, 1]$ wordt niet afgedwongen, tenzij de reactiefunctie dicht is in $[0, 1]$ . In de meeste gevallen is $\mu_F$ een strikt kleinere, niet-triviale verzameling.
Inklappen naar Klassieke Antwoorden: Voor niet-performatieve vragen (waar het antwoord de uitkomst niet beïnvloedt), klapt de constructie in tot de klassieke singleton punt-schatting $\{P(B \mid A)\}$ .
Iteratieve Berekening: Onder een continuïteitshypothese (met betrekking tot de Hausdorff-metriek), kan $\mu_F$ worden bereikt via een Kleene-iteratie beginnend bij de lege verzameling: $C_0 = \emptyset$ , $C_{i+1} = F(C_i)$ , convergerend naar $C_\omega = \mu_F$ .
Intervalkarakterisering (Binair Geval): Voor binaire gebeurtenissen, indien de reactiefunctie "hull-factored" is (afhankelijk van enkel de min/max van de gerapporteerde verzameling) en continu, wordt gegarandeerd dat de variant $C^\star$ een gesloten interval is. Echter, de minimale oplossing $\mu_F$ kan een gedisconnecteerde verzameling zijn (bijv. een gevulde bek plus een discrete staart), zoals gedemonstreerd in een toy startup-model waarbij het anker in een "pessimistische bek" ligt, waardoor $\mu_F$ "optimistische" zelfconsistente evenwichten mist.
Generalisatie: De constructie breidt zonder wijziging uit naar willekeurige willekeurige variabelen $X$ door waarschijnlijkheden te vervangen door conditionele wetten $L(X \mid A, C)$ in de ruimte van waarschijnlijkheidsmaten, mits de ruimte $T_1$ is (punten zijn gesloten).

Betekenis en Claims
Het artikel beweert een puur wiskundige oplossing te bieden voor de niet-uniciteit van zelfreferentiële orakel-queries zonder terug te vallen op contrafectualiteiten. Door over te stappen van punt-schattingen naar verzameldwaardige credal-verzamelingen, absorbeert de methode de onbepaaldheid die inherent is aan performatieve voorspellingen, in plaats van deze te breken via een willekeurige selectie.

Onbevooroordeeldheid: De selectie van het kleinste vaste punt wordt gepresenteerd als onbevooroordeeld omdat het de "minst-committende" oplossing is, die alle kandidaat-waarschijnlijkheidswaarden symmetrisch behandelt zonder specifieke waarden te bevoordelen (zoals het minimum of maximum).
Complement aan Scientist AI: De benadering wordt gepositioneerd als een complement aan het "Scientist AI"-programma. Waar contrafectuele queries proberen de link tussen voorspelling en gevolg te verbreken, accepteert deze zelfreferentiële benadering de link, maar zorgt zij ervoor dat het orakel een verzameling rapporteert die stabiel en consistent is met de consequenties van de eigen onthulling.
Beperkingen en Openstaande Vragen: De auteur merkt bescheiden op dat hoewel het bestaan van een canonieke verzameling bewezen is, de schatbaarheid van deze verzameling een open computationeel probleem blijft (de "computationele kloof"). Bov�gens is de vraag of het rapporteren van een verzameling de "niet-agentische" natuur van het orakel behoudt, een openstaande kwestie.

Conclusie
Dit artikel vestigt een roostertheoretisch kader voor het genereren van onbevooroordeelde, zelfconsistente, verzameldwaardige voorspellingen voor orakel-AI's. Het bewijst het bestaan van een canoniek kleinste vaste punt dat zowel de trivialiteit van $[0, 1]$ als de irrelevantie van contrafectualiteiten vermijdt, en biedt een rigoureus alternatief voor het afhandelen van performatieve voorspelling in niet-agentische systemen.