Uncountably many conditionally inaccessible decisions exist in every finite probability space
Dit artikel bewijst dat in elke eindige kansruimte onaftelbaar veel paren van objectieve kansmaten en nutfuncties bestaan die beslissingen conditioneel ontoegankelijk maken, wat aantoont dat de subjectieve kans van een agent hen systematisch kan beletten objectief optimale beslissingen te nemen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Plaatje: Het "Blind Vlekje" van Rationaliteit
Stel je voor dat je de kapitein bent die een schip bestuurt (de Agent). Je hebt een kaart in je hoofd die weergeeft wat je denkt dat waar is over de zeestromingen en het weer (je Subjectieve Kans, of ). Je hebt ook een "Gods-oogperspectief" van de oceaan dat de daadwerkelijke, fysieke wetten van het water vertegenwoordigt (de Objectieve Kans, of ).
In een perfecte wereld zou je, als je naar het echte weer kijkt, je kaart bijwerkt en vervolgens een beslissing neemt, altijd de best mogelijke keuze maken. Dit artikel betoogt dat dit niet altijd waar is.
De auteurs bewijzen dat er talloze situaties zijn waarin, ongeacht hoeveel gedeeltelijke informatie je verzamelt over de realiteit, je bijgewerkte kaart je nooit zal leiden tot de objectief beste beslissing. Sterker nog, je rationele updates kunnen je actief van de waarheid afsturen.
De Kernconcepten
1. De Beslissingscontext (Het Menu)
Stel je voor dat je kiest tussen twee acties, zoals het nemen van Route A of Route B.
- De Objectieve Waarheid (): De daadwerkelijke verkeersdata. Op basis hiervan is Route A duidelijk sneller.
- Je Geloof (): Je huidige gok over het verkeer.
- De Beslissing: Je kiest de route die op basis van je geloof het snelst lijkt.
2. De Update-strategie (Jeffrey-conditionering)
Je kent het volledige verkeersrapport niet. In plaats daarvan krijg je "gedeeltelijk bewijs".
- Voorbeeld: Je hoort een gerucht dat "er een ongeluk is aan de noordkant", maar je weet de exacte locatie niet.
- Het Proces: Je neemt je huidige geloof () en werkt het bij op basis van dit gedeeltelijke gerucht. Dit creëert een nieuw, "geüpgrade" geloof ().
- Het Doel: Je wilt dat dit geüpgrade geloof je vertelt om Route A te nemen (de objectief goede keuze).
3. Het Probleem: "Conditioneel ontoegankelijke" Beslissingen
Het artikel definieert een beslissing als "conditioneel ontoegankelijk" als, ongeacht welk gedeeltelijk bewijs je krijgt, je geüpgrade geloof je nooit vertelt om de objectief beste route te nemen.
Het is alsof je een kompas hebt dat magnetisch vervormd is. In welke richting je ook kijkt (welk gedeeltelijk bewijs je ook verzamelt), de naald wijst nooit naar het Noorden. Hij kan naar het Oosten, Westen of Zuiden wijzen, maar nooit naar het Noorden.
De Hoofdontdekking: Het Is Overal, Niet Zeldzaam
In een eerder artikel vonden de auteurs een paar voorbeelden waar deze "kapotte kompas" gebeurde. Ze vermoedden dat het vaak zou gebeuren in complexe situaties.
Dit artikel bewijst dat ze te voorzichtig waren. Ze tonen aan dat:
- Het in bijna elke situatie voorkomt: Als je een beslissing hebt met ten minste 3 opties (zoals 3 routes), bestaat dit probleem.
- Het oneindig is: Voor elke manier waarop je momenteel denkt (), zijn er een onafbrekbaar oneindig aantal realiteitsscenario's () waarin je rationele updates zullen falen om de beste beslissing te vinden.
- Het robuust is: Het is geen toeval. Er zijn oneindig veel paren keuzes (Route A versus Route B) waarbij dit falen optreedt.
De Metafoor:
Stel je voor dat je probeert een specifieke sleutel te vinden in een grote, donkere kamer. Je hebt een zaklamp (je gedeeltelijk bewijs). Het artikel bewijst dat voor bijna elke mogelijke locatie van de sleutel, er een manier is waarop je zaklamp kapot is, zodat je, ongeacht hoe je de straal zwaait, de sleutel nooit in het licht zult zien. Je denkt misschien dat je rationeel bent door de vloer te scannen, maar de fysica van je zaklamp garandeert dat je het doel zult missen.
De "Blind Vlek" Uitleg
De auteurs gebruiken een wiskundig concept dat de "Bayes Blind Vlek" wordt genoemd.
- Denk aan je huidige geloof () als een bril.
- De "Blind Vlek" is de verzameling van alle mogelijke realiteiten () die je niet kunt bereiken door alleen door die bril te kijken en ze aan te passen op basis van gedeeltelijke aanwijzingen.
- Het artikel bewijst dat deze "Blind Vlek" enorm is. Hij beslaat bijna het hele universum van mogelijkheden.
- Als de "realiteit" in deze blindvlek valt, zullen je rationele updates altijd falen om overeen te komen met de realiteit.
De Graad van Falen
Het artikel introduceert ook een manier om te meten hoe kapot het kompas is.
- Graad 0: Je updates werken altijd perfect.
- Maximale Graad: Je updates werken nooit, ongeacht welk bewijs je krijgt.
- De Bevinding: De auteurs bewijzen dat je situaties kunt vinden waarin het falen optreedt voor elk specifiek aantal bewijstypen dat je zou kunnen tegenkomen. Je kunt een scenario ontwerpen waarin je kompas precies 5 keer faalt op 10 mogelijke aanwijzingen, of 99 keer op 100.
Het "Verrassende" Resultaat: Leren Maakt Het Erger?
Men zou denken: "Als ik begin met een slechte gok, maar ik leer de waarheid, word ik dan niet beter?"
Het artikel bewijst een specifiek, tegenintuïtief feit:
Als je rationele updates (met gebruik van gedeeltelijk bewijs) je leiden tot een verkeerde beslissing, impliceert dit dat je oorspronkelijke gok (voorafgaand aan welke updates dan ook) ook verkeerd was.
- Vertaling: Je kunt niet beginnen met een "goede" gok, een gedeeltelijke waarheid leren, en eindigen met een "slechte" beslissing. Als de update je op het verkeerde been zet, was je al op het verkeerde been.
- Echter: Het hoofdpunt van het artikel is dat er zo veel "slechte" startpunten (subjectieve overtuigingen) zijn die corresponderen met "goede" realiteiten, dat het statistisch overweldigend is om jezelf in een situatie te bevinden waarin je rationele updates falen om de waarheid te vinden.
Samenvatting in Eén Zin
Het artikel bewijst dat voor elke rationele persoon met een specifieke set overtuigingen, er een enorme, oneindige oceaan van realiteitsscenario's bestaat waarin, ongeacht hoeveel gedeeltelijke informatie ze verzamelen en verwerken, hun rationele updates systematisch voorkomen dat ze de objectief beste keuze maken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.