The Reconstruction Gap: Boundary Noise and the Limits of Holographic Bulk Recovery in Deep Learning, with Implications for Black-Box AI Auditing

Technische Samenvatting: De Reconstructiekloof in Holografisch Diep Leren

Probleemstelling
Het artikel adresseert een kritieke kloof in de literatuur met betrekking tot "holografisch diep leren", een vakgebied dat de AdS/CFT-correspondentie (Maldacena's conjectuur) toepast op machine learning. In dit kader representeren de lagen van een neuraal netwerk radiale snijvlakken van een anti-de Sitter (AdS) ruimtetijd, en representeren de gewichten van het netwerk de bulk-metriek. Hoewel bestaande literatuur (bijv. Hashimoto et al., 2018a; Filev, 2026) heeft vastgesteld dat netwerken de bulk-geometrie kunnen herstellen vanuit randgegevens, is er grotendeels vanuit gegaan bij ideale omstandigheden. Het specifieke probleem dat wordt geïdentificeerd, is het gebrek aan begrip over hoeveel informatie uit het binnenste verloren gaat wanneer randgegevens imperfect worden waargenomen (d.w.z. met ruis) en of verschillende interne structuren identieke randgedragingen kunnen produceren. Dit wordt geframed als een invers probleem met implicaties voor AI-auditing, waarbij auditors vaak slechts toegang hebben tot "black-box"-gegevens (inputs/outputs) en de interne mechanismen ("de bulk") moeten afleiden.

Methodologie
De studie maakt gebruik van een gecontroleerd computationeel laboratorium met een bekende grondwaarheid (ground truth) om de "reconstructiekloof" te meten—de relatieve fout tussen de geleerde metriek en de ware metriek, opgelost per radiale regio.

• Modelarchitectuur: Het ontwerp volgt Hashimoto et al. (2018a) en discretiseert een 4D planaire AdS–Schwarzschild zwart gat. Een scalair veld met massa $m^2 = -1$ en een quartische zelfinteractie plant voort van de rand ($\eta \to \infty$) naar de horizon ($\eta = 0$). Het netwerk bestaat uit $N$ lagen, waarbij elk trainbaar gewicht van een laag overeenkomt met de metriekfunctie $h(\eta)$ op dat radiale snijvlak.
• Leertaak: Het netwerk wordt getraind om randvoorwaarden te classificeren als "regulier" (veld blijft eindig bij de horizon) of "irregulier" (veld is niet eindig bij de horizon) op basis van randinputs $(\phi, \pi)$. De ware metriek is $h(\eta) = 3 \coth(3\eta)$.
• Experimenteel Ontwerp:
  • Experiment 1 (Factoriële Grid): 900 trainingsruns variërend over vier factoren: randruisniveaus (0% tot 20% van de input standaarddeviatie), steekproefgroottes (500 tot 10.000), netwerkdieptes (10, 20, 40 lagen) en de aanwezigheid van gladheidsregularisatie.
  • Experiment 2 (Observationele Equivalentie): 400 netwerken getraind vanaf verschillende willekeurige initialisaties op een vaste, schone dataset om netwerken te identificeren met ononderscheidbare in-distributie nauwkeurigheid maar potentieel verschillende interne structuren.
• Metrieken:
  • Reconstructiekloof ($G_n$): Relatieve fout $| \hat{h}_n - h(\eta_n) | / h(\eta_n)$ gemiddeld over de rand-, midden- en nabij-horizonregio's.
  • Gedragsnauwkeurigheid: Classificatienauwkeurigheid op schone testsets.
  • Out-of-Distribution (OOD) Nauwkeurigheid: Prestaties op randgegevens afkomstig uit regio's die niet tijdens de training zijn gezien.

Belangrijkste Resultaten

1. Radiale Structurering van Fout: Zelfs met schone data is de reconstructiekloof niet uniform. Terwijl randregio's met hoge getrouwheid worden hersteld (1,7% fout), behoudt de nabij-horizonregio een significante fout (30%), ondanks dat het netwerk een 99,1% classificatienauwkeurigheid bereikt.
2. Asymptotische Sensitiviteit voor Ruis: Randruis beïnvloedt het diepe binnenste onevenredig sterk.
   • Een ruisniveau van 1% vermindert de nauwkeurigheid met slechts 0,5 procentpunt, maar verdubbelt bijna de nabij-horizon reconstructiefout (van ~30% naar ~55%).
   • Bij 5% ruis blijft de nauwkeurigheid hoog (~94,6%), maar overschrijdt de nabij-horizon fout de 100% (de geleerde metriek keert van teken om).
3. Ineffectiviteit van Standaard Maatregelen:
   • Steekproefgrootte: Het 20-voudig vergroten van de data (500 naar 10.000 punten) vermindert de nabij-horizon fout niet, wat suggereert dat het probleem bias (systematische fout door ruis) is in plaats van variantie.
   • Diepte: Diepere netwerken verbeteren de structurele getrouwheid niet onder schone condities; ze breiden simpelweg de regio van hoge fout uit dichter naar de horizon toe.
   • Regularisatie: Gladheidsregularisatie vermindert de randfout onder schone condities, maar verslechtert de nabij-horizon reconstructie wanneer de ruis meer dan ~6–7% bedraagt.
4. Observationele Equivalentie en Onderdeterminatie:
   • Netwerken met identieke in-distributie nauwkeurigheid (binnen 1%) kunnen interne metrieken hebben die verschillen door een factor drie.
   • Deze structureel verschillende netwerken vertonen zeer uiteenlopende OOD-gedragingen, met nauwkeurigheidsverschillen van wel 42 procentpunten.
   • Cruciaal is dat een globale maat voor structurele fout (de reconstructiekloof) niet voorspelt welk netwerk zal falen op OOD-data.

Betekenis en Claims
Het artikel positioneert deze bevindingen als een formele analogie in plaats van een equivalentie, en voert aan dat holografisch diep leren dient als een uniek laboratorium om de grenzen van black-box auditing te kwantificeren.

• Voor de Natuurkunde: De resultaten beargumenteren dat holografische reconstructies met echte of experimentele data deels regio-specifieke onzekerheid moeten rapporteren, met name nabij de horizon, aangezien standaard benchmarks op schone data diepe structurele fouten maskeren.
• Voor AI-Auditing: De studie levert kwantitatief bewijs voor drie proposities:
  1. Gedragsmatige Onderdeterminatie: Hoge in-distributie nauwkeurigheid geeft geen informatie over de nabijheid van het interne mechanisme tot de waarheid (onderdeterminatie).
  2. Deployment Risico: Observationeel equivalente modellen kunnen significant afwijken bij out-of-distribution inputs, een risico dat black-box testen alleen niet kan detecteren.
  3. Limieten van White-Box Toegang: Het louter inspecteren van gewichten (white-box toegang) onthult structurele dispersie, maar voorspelt niet automatisch faalmodi. Effectieve auditing vereist het stellen van gerichte vragen over specifieke interne mechanismen die relevant zijn voor de context van de inzet (deployment).

De auteur stelt expliciet dat dit hypotheses zijn afgeleid van een gecontroleerde setting met een bekende grondwaarheid, bedoeld om verder onderzoek naar interpreteerbare architecturen met bekende interne doelstellingen te stimuleren, in plaats van directe claims te maken over de huidige toegepaste AI-systemen.