Notes on algebraic perspective on neural network conformal theories

In het uitgestrekte landschap van de moderne natuurkunde is er een voortdurende inspanning om te begrijpen hoe de fundamentele regels van het universum voortkomen uit het gedrag van talloze minuscule componenten. Een krachtige manier waarop natuurkundigen deze regels bestuderen, is via een raamwerk dat conform veldentheorie wordt genoemd, wat systemen beschrijft die er hetzelfde uitzien, ongeacht of je inzoomt of uitzoomt. Deze theorieën zijn meestal gebouwd op het idee van een "Hilbertruimte", een wiskundig podium waar elke mogelijke toestand van een systeem een positieve, meetbare grootte heeft, vergelijkbaar met hoe een fysiek object een positieve massa heeft. Deze positiviteit is cruciaal omdat het ervoor zorgt dat de theorie zinvol is in de echte wereld, wat voorkomt dat kansen negatief of absurd worden. Echter, de natuur presenteert ons soms systemen die deze standaardregels breken, wat leidt tot wat bekend staat als niet-unitaire theorieën. Decennialang waren deze systemen moeilijk te bestuderen omdat de standaard wiskundige instrumenten die worden gebruikt om ze op te bouwen zouden instorten zonder die garantie van positieve grootte.

Onlangs is er een nieuwe brug gebouwd tussen deze abstracte wereld van de natuurkunde en de praktische wereld van kunstmatige intelligentie. Onderzoekers hebben ontdekt dat als je een zeer grote collectie eenvoudige neurale netwerken neemt — computermodellen geïnspireerd door het menselijk brein — en hun gedrag middelt, de resulterende patronen het gedrag van deze exotische fysieke theorieën nabootsen. Deze verbinding, bekend als de neurale netwerk-veldtheorie-correspondentie, suggereert dat de statistische eigenschappen van de interne instellingen van het neurale netwerk exact dezelfde wiskundige structuren kunnen genereren als complexe kwantumvelden. Dit biedt een frisse, niet-traditionele manier om natuurkunde te bestuderen, die niet rust op de gebruikelijke bewegingsvergelijkingen maar op de statistiek van de netwerkparameters.

Een team van onderzoekers heeft nu een nadere blik geworpen op deze verbinding, waarbij zij zich specifiek richtten op een klasse van deze neurale netwerktheorieën die niet-unitaire conforme veldentheorieën produceren. Dit zijn de lastige systemen waarbij de standaardregels van positiviteit falen en het gebruikelijke wiskundige podium voor de theorie lijkt te verdwijnen. De onderzoekers wilden de onderliggende structuur van deze theorieën begrijpen: hoe de verschillende delen van het systeem met elkaar samenhangen, en of er nog steeds een consistente wiskundige structuur gebouwd kon worden, zelfs wanneer de standaardregels van positiviteit worden geschonden. Ze waren bijzonder geïntrigeerd door een puzzel die in eerder werk naar voren was gekomen: hoewel de theorie consistente patronen produceerde voor hoe deeltjes met elkaar interageren, leek het een oneindig aantal identieke, of "gedegenereerde", toestanden te bevatten die moeilijk te onderscheiden waren. Het was onduidelijk of dit een fout in het model was of een werkelijk kenmerk van de fysica.

Om dit op te lossen, onderzocht het team de wiskundige "Gram-matrix", een instrument dat meet hoeveel verschillende delen van het systeem met elkaar overlappen. In een standaardtheorie moet deze matrix positief definitief zijn, wat betekent dat deze altijd positieve getallen oplevert, wat garandeert dat de toestanden verschillend en goed gedefinieerd zijn. De onderzoekers ontdekten dat deze matrix voor hun neurale netwerktheorieën inderdaad positief definitief is wanneer deze wordt gemeten in de ruimte van de parameters van het neurale netwerk. Dit betekent dat binnen de context van het neurale netwerk zelf elke operator verschillend en welgedefinieerd is. Echter, wanneer ze de theorie bekeken vanuit het perspectief van ruimte en tijd, verdween de positiviteit. De toestanden die verschillend waren in de parameterruimte, werden gemengd en negatief in de ruimtetijd-beschrijving, wat bevestigt dat dit inderdaad niet-unitaire theorieën zijn die niet door een standaard Hilbertruimte kunnen worden beschreven.

Het team construeerde vervolgens een nieuw algebraïsch raamwerk om deze theorieën te beschrijven. In plaats van te vertrouwen op de standaard Hilbertruimte, die een positieve grootte voor alle toestanden vereist, bouwden zij een structuur gebaseerd op een "Krein-ruimte". Dit is een flexibeler wiskundig podium dat zowel positieve als negatieve grootheden toestaat, mits deze op een specifieke manier in evenwicht zijn. Ze toonden aan dat, zelfs zonder de strikte positiviteit van een standaard kwantumtheorie, de correlaties tussen verschillende punten in de ruimte en tijd nog steeds de symmetrieën van de conforme veldentheorie volgen. Ze demonstreerden dat de oneindige reeks gedegenereerde operatoren die in eerdere studies werd gevonden, waarschijnlijk geen kunstmatige fout is, maar een natuurlijk gevolg van hoe de parameters van het neurale netwerk middelen, een conclusie die ondersteund wordt door numerieke trends en geconstueerd voor de oneindige limiet. De onderzoekers toonden aan dat deze operatoren op een nauwkeurige manier met elkaar gerelateerd zijn en een coherente algebraïsche structuur vormen die kan worden beschreven met behulp van de symmetrieën van de conforme groep, hoewel ze opmerkten dat het bewijzen van de volledige Krein-positiviteit van deze structuur een aanname blijft en geen afgeleid feit is.

Een van de meest significante bevindingen was de oplossing van een puzzel betreffende "gemengde" interacties. In eerdere studies was het onduidelijk hoe de interactie tussen verschillende typen operatoren berekend moest worden wanneer deze gedegenereerd waren. Het team toonde aan dat de standaardmethode van het simpelweg vermenigvuldigen van operatoren hier niet werkt. In plaats daarvan is de juiste manier om deze interacties te begrijpen, door ze te zien als een expansie rond een reeks "wortel"-operatoren, waarbij de verbindingen tussen verschillende toestanden worden bemiddeld door de specifieke statistische distributie van de parameters van het neurale netwerk. Ze vonden dat de beperkingen op de statistische momenten van de neurale netwerkparameters diep verbonden zijn met de consistentie van de theorie. Als de distributie van de parameters correct is gekozen, blijft de theorie consistent, ook al ontbreekt de standaard positiviteit van een fysieke Hilbertruimte.

De onderzoekers verduidelijkten ook het onderscheid tussen de "algebra van velden" en de "algebra van correlaties". In de constructie van het neurale netwerk volgen de velden zelf, vóór het middelen, een eenvoudige vermenigvuldigingsregel. Echter, zodra de middeling wordt uitgevoerd om de fysieke voorspellingen te verkrijgen, onthullen de resulterende correlaties een veel rijkere en complexere structuur. Deze structuur wordt gedefinieerd door de conforme symmetrie en de specifieke manier waarop de parameters van het neurale netwerk verdeeld zijn. Het team toonde aan dat deze algebraïsche structuur robuust is en gedefinieerd kan worden zonder de aanwezigheid van een standaard Hilbertruimte te veronderstellen. In plaats daarvan gebruikten ze de staat-operator-correspondentie, een fundamenteel principe in de conforme veldentheorie, om de algebra direct vanuit de correlatiefuncties te definiëren.

In hun conclusie benadrukten de auteurs dat, hoewel deze theorieën niet passen in het standaard raamwerk van de unitaire kwantumveldentheorie, ze niet wiskundig defect zijn. Ze bestaan als geldige algebraïsche structuren die bestudeerd en begrepen kunnen worden. Het werk biedt een recept voor het direct construeren van de algebra van deze theorieën vanuit hun correlatiefuncties, waarbij de noodzaak voor een traditionele Hilbertruimte wordt omzeild. Dit opent de deur naar het bestuderen van een bredere klasse van fysieke systemen die voorheen als te moeilijk te hanteren werden beschouwd. De onderzoekers merkten op dat hoewel zij de existentie van deze algebraïsche structuur hebben vastgesteld, de volledige details van hoe deze systemen zich in een lokale ruimtetijd gedragen, nog steeds worden verkend. Ze suggereerden dat de grote-N-limiet, waarbij het aantal neurale netwerken zeer groot wordt, een heldere setting biedt om deze ideeën verder te testen.

Uiteindelijk demonstreert dit werk dat de instrumenten van kunstmatige intelligentie kunnen worden gebruikt om complexe fysieke theorieën te construeren en te analyseren die buiten de standaardgrenzen van de natuurkunde liggen. Door de parameters van het neurale netwerk als de fundamentele ingrediënten te behandelen, waren de onderzoekers in staat om een consistente wiskundige beschrijving van niet-unitaire conforme veldentheorieën op te bouwen. Ze toonden aan dat de schijnbare degeneratie en het gebrek aan positiviteit geen fouten zijn, maar kenmerken van een nieuw soort fysieke theorie die met behulp van een Krein-ruimte kan worden beschreven. Deze bevinding suggereert dat het landschap van mogelijke fysieke theorieën breder is dan voorheen gedacht, en dat de intersectie van machine learning en theoretische natuurkunde een krachtige nieuwe manier biedt om de fundamentele wetten van de natuur te verkennen. De studie bevestigt dat zelfs in de afwezigheid van standaard positiviteit, een coherente en gestructureerde theorie kan voortkomen uit de statistiek van neurale netwerken, wat een nieuw perspectief biedt op hoe natuurwetten in complexe systemen gecodeerd kunnen zijn.