Technische Samenvatting: De Kostenmeetkunde van Geloof

1. Probleemstelling

Het artikel behandelt de geometrische structuur van de ruimte van overtuigingen (beliefs) die worden vastgehouden door een eindige actor die een vaste, luidruchtige wereld afleidt. Een "overtuiging" wordt gedefinieerd als de Bayesiaanse posterieure waarschijnlijkheidsdichtheid $p(x|y)$ over de toestand van de wereld $x$, afgeleid van eindige, luidruchtige observaties $y$.

Het centrale probleem is het karakteriseren van de geometrie van deze ruimte van overtuigingen, specifiek:

• Afstanden: De kosten van het veranderen van je mening (het bewegen van de ene overtuiging naar de andere).
• Grens: De aard van "zekerheid" (een Dirac-delta distributie) en of deze bereikbaar is.
• Kromming: De intrinsieke kromming van de ruimte van overtuigingen.

Het raamwerk stelt dat zekerheid tweemaal wordt ontzegd aan elk eindig systeem:

1. Observatie-eindigheid: Perfecte precisie vereist oneindige informatie, wat wordt uitgesloten door de Cramér–Rao ongelijkheid (eindige Fisher-informatie).
2. Fysieke eindigheid: Het wissen van informatie om zekerheid te bereiken, verbruikt oneindige energie, wat wordt uitgesloten door het Landauer-principe.

Beide beperkingen kunnen worden afgeleid van de Fisher-informatie ($J$), die divergeert naarmate een overtuiging de zekerheid nadert. Het doel is om een metriek te construeren waarin deze divergentie zich manifesteert als een onoverbrugbare grens.

2. Methodologie en Raamwerk

De auteur construeert een kostenmeetkunde op de ruimte van waarschijnlijkheidsmaten $\mathcal{P}_2(\mathbb{R}^n)$ (Wasserstein-ruimte met eindige tweede momenten). De methodologie rust op drie kernverplichtingen:

1. De Arena (Optimaal Transport): De basisgeometrie is de Wasserstein-ruimte $(\mathcal{P}_2, W_2)$, waarbij de afstand de kosten meet om waarschijnlijkheidsmassa te verplaatsen. Dit staat in contrast met de Informatiegeometrie, die de Fisher–Rao-metriek gebruikt (onderscheidbaarheid).
2. De Kosten (Conforme Deformatie): De kosten van het veranderen van een overtuiging worden niet gemodelleerd door de ruwe Wasserstein-afstand, maar door een conform hergewogen metriek:
   $$\tilde{g}_{e,U} = 2(e + U) g_{W_2}$$
   Hier is $U$ een "relief"-functie die de onwaarschijnlijkheid of kosten van een overtuigingsstaat vertegenwoordigt, en $e \ge 0$ is een niveauparameter. De kostenlengte van een curve $\gamma$ is $\ell_e(\gamma) = \int \sqrt{2(e + U(\gamma_t))} |\dot{\gamma}| dt$.
3. De Brug (Otto-identiteit): Het raamwerk maakt gebruik van de Otto-identiteit, die de helling van de Shannon-entropie $H$ op de Wasserstein-ruimte relateert aan de Fisher-informatie: $\|\nabla_{W_2} H\|^2 = J$. Dit maakt het mogelijk dat de Fisher-informatie fungeert als de "helling" van de entropie, in plaats van een metriektensor.

De analyse richt zich op de conforme klasse van metrieken en primair op locatie-schaalfamilies van distributies (bijv. Gaussische verdelingen).

3. Belangrijkste Bijdragen en Resultaten

Het artikel stelt drie hoofdkarakteriseringen van de kostenmeetkunde vast, die invariant zijn onder een verandering van kosteneenheid (gauge-invariantie).

A. De Muur (Wel-geponeerde Inferentie)

Resultaat: Voor inferentie om wel-geponeerd te zijn (het toelaten van een intern minimum dat niet inklapt tot zekerheid), moet de grens van zekerheden ($\partial_\infty$, waar $J \to \infty$) op een oneindige afstand liggen.

• Conditie: Deze "muur" wordt gevestigd als de relief $U$ de Fisher-informatie $J$ domineert bij de grens.
• Voldoende voorwaarde: Als $U \ge \varepsilon J$ globaal geldt (voor een $\varepsilon > 0$), is de afstand tot zekerheid oneindig.
• Noodzakelijke voorwaarde: Op de machtswet-familie $U = cJ^\alpha$ bestaat de muur dan en slechts dan als $\alpha \ge 1$.
• Implicatie: Een eindige actor kan zekerheid niet bereiken tegen eindige kosten; de kosten van het bereiken van een bepaalde precisie divergeren naarmate de doelvariantie naar nul nadert.

B. Eerlijkheid (De Eikonal-conditie)

Resultaat: De eis dat de "prijs" van kennis overal uniform is (een eikonal kostenstructuur, waarbij elke "nat" aan informatie dezelfde geometrische lengte kost) selecteert uniek de Fisher-familie van reliefs.

• Conditie: $U = cJ$ voor een constante $c > 0$.
• Interpretatie: Dit sluit aan bij het Landauer-principe (constante energie per nat) via de Otto-identiteit. De "eerlijke" geometrie is proportioneel aan de Fisher-informatie.

C. Rigiditeit (Hyperboliciteit en de Stam-grens)

Resultaat: Op locatie-schaalfamilies is de eerlijke geometrie ($U=cJ$) hyperbolisch (strikt negatieve kromming).

• Kromming: De Gauss-kromming is $K = -1/(2cJ_0)$, waarbij $J_0$ de Fisher-informatie is van de gestandaardiseerde basisdichtheid.
• Stam Extremaliteit: Door de Stam-grens ($J_0 \ge 1$ voor eenheidvariantie) is de kromming begrensd: $K \in [-1/(2c), 0]$.
• De Gaussische Verdeling: De Gaussische verdeling ($J_0=1$) bereikt de extremale kromming $K = -1/(2c)$. Onder een specifieke keuze van eenheden ($c=2$), is deze waarde $-1/4$. De Gaussische verdeling is daarmee de "meest hyperbolische" overtuiging.

D. Gauge Invariantie

Resultaat: Het veranderen van de eenheid van kosten (het schalen van $e$ en $U$ met $\lambda$) werkt als een homothetie op de geometrie. Het schaalt afstanden met $\sqrt{\lambda}$ en kromming met $1/\lambda$, maar behoudt:

• De existentie van de muur (oneindige afstand tot zekerheid).
• De ordening van krommingen.
• De extremaliteit van de Gaussische verdeling.
• De eikonal proportionaliteit $U \propto J$.

4. Betekenis en Claims

Het artikel claimt een geometrisch raamwerk voor eindige inferentie te bieden dat verschilt van bestaande formalismen:

• Onderscheid van Fisher–Rao: In tegenstelling tot de Informatiegeometrie (die Fisher–Rao gebruikt als een metriektensor voor onderscheidbaarheid), behandelt dit raamwerk de Fisher-informatie als een conforme gewicht op de transportmetriek. Dit resulteert in een andere kromming-signatuur (bijv. $-1/4$ voor Gaussische verdelingen hier versus $-1/2$ in Fisher–Rao).
• Onderscheid van Thermodynamica: Hoewel gerelateerd aan geometrische thermodynamica, meet dit werk niet louter dissipatie op een vaste geometrie; het re-metrizeert de ruimte van overtuigingen om een onoverbrugbare grens (de muur) en negatieve kromming te bevatten, gedreven door positie-informatie.
• Algoritmische Lezing: Het raamwerk biedt een geometrische interpretatie van bestaande algoritmen:
  • Kalman Filters: Opereren als interne punten in deze geometrie en herzien overtuigingen tegen eindige kosten.
  • Punt-voorspellers/Overconfident Netwerken: Liggen op de grens (de muur) en vereisen hertraining (oneindige kosten) om te herzien, aangezien zij niet continu bereikbaar zijn vanuit interne overtuigingen.
  • Elastic Weight Consolidation (EWC): Deelt het principe van het straffen van beweging proportioneel aan zekerheid (Fisher), hoewel EWC dit toepast op gewichten (Fisher–Rao) in plaats van op de overtuigingsdichtheid zelf.

5. Beperkingen en Conjecturen

De auteurs zijn bescheiden over de reikwijdte van hun bewijzen:

• Noodzakelijkheid: De noodzakelijkheid van de muur-conditie ($U \ge \varepsilon J$) is bewezen voor machtswetten, maar blijft een conjectuur voor algemene reliefs.
• Uniciteit: Het raamwerk stelt de existentie van minimizers voor inferentie vast (wel-geponeerdheid), maar bewijst niet de uniciteit in het algemene geval (niet-convexiteit van interactietermen blijft open).
• Reikwijdte van Kromming: De negatieve kromming en Stam-rigiditeit zijn strikt bewezen voor 1D locatie-schaalfamilies. De uitbreiding naar hogere dimensies of niet-locatie-schaalfamilies is een conjectuur, maar niet bewezen.
• Fysieke Motivatie: Thermodynamica (Landauer) motiveert het raamwerk en fixeert de kosteneenheid, maar de geometrische bewijzen zijn onafhankelijk van natuurwetten en vertrouwen enkel op de metriek-geometrie.

Samenvattend construeert het artikel een "Kostenmeetkunde van Geloof" waarbij de eindige aard van actoren en sensoren zich manifesteert als een hyperbolische ruimte met een oneindige muur bij zekerheid, gestuurd door de Fisher-informatie en de Otto-identiteit.