Physics-Aware Learnability: From Set-Theoretic Independence to Operational Constraints

Dit artikel introduceert 'physics-aware learnability', een operationeel kader dat de logische onafhankelijkheid van klassieke leerbaarheid oplost door het definiëren van leerbaarheid binnen expliciete fysische protocollen, waardoor continuümproblemen reduceerbaar worden tot decidable, fysisch realiseerbare taken met kwantificeerbare sample- en kopiecomplexiteit.

De kern

"Fysiek Bewust Leren: Waarom de Realiteit de Wiskunde Redt"

Stel je voor dat je een leermeester bent die probeert een student iets te leren. In de wereld van de wiskunde en kunstmatige intelligentie (AI) hebben we lang gedacht dat "leren" puur een logisch spelletje is. Als je maar genoeg voorbeelden hebt, zou een computer theoretisch alles kunnen leren.

Maar recent onderzoek heeft een vreemd probleem blootgelegd: voor sommige simpele taken is het antwoord op de vraag "Kan dit geleerd worden?" afhankelijk van welke regels je kiest voor de wiskunde zelf! Het is alsof je vraagt of een brug kan worden gebouwd, en het antwoord "ja" of "nee" is, afhankelijk van of je gelooft in een bepaalde abstracte theorie over oneindige getallen. Dit is wat de auteurs van dit papier een "paradox" noemen.

De oplossing? Kijk naar de realiteit.

De auteurs, Jeongho Bang en Kyoungho Cho, zeggen: "Wacht even. Computers zijn geen geesten in een machine; ze zijn fysieke apparaten." Ze introduceren een nieuw concept: Physics-Aware Learnability (PL), ofwel "Fysiek Bewust Leren".

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het probleem: De "Geest in de Machine"

In de oude theorie mocht een computerleraar alles doen. Hij kon denken aan oneindig precieze getallen, oneindig veel data tegelijk bekijken en antwoorden geven die niemand ooit kan uitschrijven.

• De analogie: Stel je voor dat je een kaart van de wereld moet tekenen. De oude theorie zegt: "Je mag de kaart tekenen met oneindig veel details, zelfs de atomen in de lucht." Maar in de echte wereld heb je alleen een potlood en een stuk papier. Je kunt niet oneindig precies zijn.
• Het gevolg: Omdat de oude theorie deze "oneindige" mogelijkheden toeliet, raakte ze in de war. Ze kwam tot conclusies die afhankelijk waren van wiskundige axioma's (regels) die niets met de echte wereld te maken hebben.

2. De oplossing: De "Fysieke Interface"

De auteurs zeggen: "Laten we de regels veranderen. Een leerder is een fysiek apparaat. Wat kan het apparaat echt doen?"
Ze introduceren een toegangsmodeel. Dit is als de poort tussen de echte wereld en de computer.

• Voorbeeld 1: Ruwe precisie (Coarse-graining). In de echte wereld meten we temperaturen niet tot op de 100e decimaal. We kijken naar een thermometer die alleen "koud", "warm" of "heet" aangeeft.
  • Het effect: Als je de computer alleen deze ruwe informatie geeft, verdwijnt de wiskundige paradox plotseling. De taak wordt plotseling oplosbaar. Het is alsof je een ingewikkeld raadsel oplost door te zeggen: "Oké, we kijken alleen naar de grote lijnen."
• Voorbeeld 2: Kwantumdata (De "No-Cloning" regel). In de quantumwereld kun je een deeltje niet kopiëren (net als je een origineel schilderij niet kunt fotokopiëren zonder het origineel te beschadigen).
  • Het effect: Als je een quantumcomputer wilt laten leren, moet je rekening houden met het aantal kopieën dat je hebt. Dit maakt het leren moeilijker, maar het antwoord is nu wel echt en fysiek, niet langer een wiskundig raadsel.

3. De drie grote inzichten

A. Van "Onmogelijk" naar "Oplosbaar" door ruwer te kijken
De beroemde paradox over het leren van alle mogelijke eindige verzamelingen in het interval [0,1] (een stuk van de getallenlijn) verdwijnt zodra je erkent dat een computer geen oneindig precieze getallen kan zien. Zodra je zegt: "De computer ziet alleen de getallen die op een scherm met beperkte resolutie verschijnen," wordt de taak oplosbaar.

• Analogie: Het is alsof je probeert een schilderij te kopiëren. Als je probeert elke atoom in de verf na te bootsen, is het onmogelijk. Maar als je zegt: "Ik kopieer alleen de kleuren en vormen die ik met mijn blote oog zie," dan is het een haalbare klus.

B. Kwantumleren: Kopieën zijn geld
In de quantumwereld is "leren" niet alleen een kwestie van tijd, maar van kopieën. Omdat je een quantumtoestand niet kunt kopiëren (No-Cloning), is elke keer dat je een meting doet, een kostbaar hulpbron.

• Analogie: Stel je voor dat je een zeldzame edelsteen wilt analyseren. Je mag hem niet kopiëren. Je hebt maar één steen. Als je hem te vaak aanraakt, verandert hij. De auteurs laten zien dat je precies kunt berekenen hoeveel keer je hem mag aanraken (hoeveel "kopieën" je nodig hebt) om een goed antwoord te krijgen. Dit is een fysieke limiet, geen wiskundige.

C. Beslisbaarheid: Van "Gokken" naar "Rekenen"
In de oude theorie was het soms onmogelijk om te zeggen of iets te leren was (het was "onbeslisbaar"). Met de nieuwe fysieke regels wordt het een vraag van rekenen.

• Analogie: Vroeger vroeg je: "Bestaat er een magische sleutel die dit slot opent?" (Antwoord: Misschien, afhankelijk van de wiskunde). Nu vraag je: "Is er een sleutel in deze doos met 100 sleutels die past?" (Antwoord: Ja of Nee, en we kunnen het berekenen).
  • Voor klassieke computers is dit een lineair probleem (makkelijk op te lossen).
  • Voor quantumcomputers is het een semidefiniet probleem (iets moeilijker, maar nog steeds oplosbaar met moderne rekenmethodes).

Conclusie: "Fysica bepaalt wat er te leren valt"

De boodschap van dit paper is krachtig en simpel: Leren is niet alleen een wiskundig concept; het is een fysiek proces.

Als we stoppen met het veronderstellen dat computers "geesten" zijn die oneindig kunnen denken, en beginnen met het erkennen dat ze "machines" zijn met beperkte precisie en beperkte middelen, dan verdwijnen de vreemde wiskundige paradoxen. In plaats daarvan krijgen we nieuwe, echte grenzen die door de natuur worden opgelegd (zoals de onmogelijkheid om quantumtoestanden te kopiëren).

Het is alsof we stoppen met dromen over een perfecte, oneindige wereld en beginnen met het bouwen van een huis op de grond, waar we rekening houden met de zwaartekracht. En dat maakt de wereld van leren niet minder interessant, maar juist veel realistischer en betrouwbaarder.

Technische samenvatting

Titel: Physics-Aware Learnability: Van Set-theoretische Onafhankelijkheid naar Operationele Beperkingen

1. Het Probleem: Logische Fragiliteit in Lerende Systemen

De kern van het probleem ligt in de fundamentele definitie van "leerbaarheid" (learnability) buiten de klassieke binaire classificatie.

• De EMX-Paradox: In het kader van "Estimating the Maximum" (EMX), zoals geïntroduceerd door Ben-David et al., bleek dat de leerbaarheid van een ogenschijnlijk eenvoudige klasse (alle eindige deelverzamelingen van het interval $[0, 1]$) afhankelijk is van de gekozen axioma's van de ZFC-settheorie (Zermelo-Fraenkel met Keuzeaxioma). In sommige modellen van ZFC is deze klasse leerbaar, in andere niet.
• De Oorzaak: Deze paradox ontstaat doordat de standaarddefinitie van een "leerder" een willekeurige set-theoretische functie is die werkt op een overaftelbaar domein (continuüm). Dit introduceert niet-operationele resources: oneindige precisie, toegang tot data die niet eindig benoembaar is, en hypothesen die niet fysiek realiseerbaar zijn.
• Het Gevolg: De vraag "is dit probleem leerbaar?" wordt een logisch onbeslisbare kwestie die afhangt van externe wiskundige axioma's in plaats van van de statistische of fysieke eigenschappen van het leerproces zelf.

2. Methodologie: Physics-Aware Learnability (PL)

De auteurs introduceren een nieuw raamwerk, Physics-Aware Learnability (PL), dat de definitie van leerbaarheid verschuift van een abstracte set-theoretische existentie naar een operationele haalbaarheid binnen een specifiek fysiek model.

• Kernconcept: Leerbaarheid wordt niet langer gedefinieerd over alle mogelijke functies, maar over een familie van toegelaten protocollen ($\mathcal{L}$) die worden beperkt door fysieke wetten en resource-begrenzingen.
• Definitie van een Taak: Een leeropdracht wordt gedefinieerd als een drietal $(\Theta, \mathcal{H}, U)$:
  • $\Theta$: Omgevingen (bijv. verdelingen, kwantumtoestanden).
  • $\mathcal{H}$: Hypothesen (moet representabel zijn, d.w.z. eindig benoembaar/aftelbaar).
  • $U$: Nuttigheidsfunctie (prestatiescore).
• Toegelaten Protocollen: In plaats van een functie $G: \text{samples} \to \text{hypothesen}$, wordt een protocol beschreven als een Markov-kern $Q(\cdot|\theta)$ die de verdeling van de output hypothesen geeft voor een gegeven omgeving $\theta$, binnen een resource-budget $d$.
• De Verandering: De existentiële kwantor verschuift van "bestaat er een willekeurige functie?" naar "bestaat er een fysiek realiseerbaar protocol binnen de toegelaten set $\mathcal{L}_d$?".

3. Belangrijkste Bijdragen en Resultaten

A. Oplossing voor de EMX-Paradox via Finite Precision (Ruwe Grofheid)

• Mechanisme: De auteurs modelleren fysieke toegang als een coarse-graining (ruwe grofheid) map $\pi: X \to Y$, waarbij $Y$ een aftelbare verzameling is (bijv. pixels, binned data). De leerder ziet alleen $\pi(x)$, niet de exacte $x$.
• Resultaat (Stelling 1 & Corollarium 1): Door de continuüm-taak te reduceren tot een aftelbare taak via pushforward/pullback, verdwijnt de ZFC-onafhankelijkheid. De klasse van eindige deelverzamelingen onder een dergelijke interface is bewijsbaar leerbaar in ZFC.
• Complexiteit: Er wordt een expliciete "quantile"-leerder geconstrueerd met een scherpe steekproefcomplexiteit van $O(\frac{1}{\epsilon} \ln \frac{1}{\delta})$. De onbeslisbaarheid was dus een artefact van de idealisatie van oneindige precisie.

B. Kwantum Lerbaarheid en Copy-Complexiteit

• Mechanisme: In kwantumsystemen is data een fysiek systeem (een toestand $\hat{\rho}$). Door het no-cloning theorema kan men geen onbeperkt aantal onafhankelijke kopieën maken. De "steekproefgrootte" $d$ wordt hier een copy-complexiteit (aantal beschikbare kopieën).
• Karakterisering (Stelling 2): Toegelaten kwantumleerders komen exact overeen met POVM's (Positive Operator-Valued Measures) op $d$ kopieën van de toestand.
• Resultaat (Stelling 3 & Corollarium 5): Dit leidt tot fundamentele onmogelijkheidsresultaten die niets met settheorie te maken hebben, maar wel met de geometrie van de kwantumruimte. Voor het onderscheiden van niet-orthogonale toestanden is een minimale kopie-complexiteit nodig die afhangt van de overlap van de toestanden (Helstrom-grenzen). Dit is een intrinsieke fysieke beperking.

C. Beslisbaarheid in Eindige Operationele Modellen

• Mechanisme: Voor veel fysieke modellen (zoals no-signaling correlaties of eindige kwantumsystemen) vormen de toegelaten protocollen een convexe verzameling die beschreven kan worden door lineaire of semidefiniete ongelijkheden.
• Resultaat (Stelling 3): De vraag of een leeropdracht leerbaar is binnen een specifiek fysiek model, reduceert tot een convex optimalisatieprobleem (Lineaire Programmering voor no-signaling, Semidefiniete Programmering voor kwantum).
• Betekenis: In deze regime is leerbaarheid algorithmisch beslisbaar. Men hoeft niet te wachten op set-theoretische axioma's; men kan berekenen of een apparaat dat aan de specificaties voldoet, bestaat.

4. Significatie en Conclusie

Het artikel biedt een fundamentele verschuiving in hoe we over machine learning nadenken:

1. Van Abstractie naar Realiteit: Het toont aan dat "leerbaarheid" geen absolute eigenschap van een wiskundig probleem is, maar een relatieve eigenschap van een probleem + interface. De paradoxen van Ben-David zijn geen eigenschap van de data, maar van de onrealistische aanname dat een leerder oneindige precisie en niet-fysieke functies kan gebruiken.
2. Fysica Beslist: De slogan "Physics decides what is learnable" is niet retoreisch. Fysieke beperkingen (zoals no-cloning, causaliteit, finite precision) elimineren wiskundige pathologieën en blootstellen tegelijkertijd nieuwe, echte informatie-theoretische grenzen.
3. Pragmatische Beslisbaarheid: Voor fysiek gedefinieerde scenario's verandert de vraag "Is dit leerbaar?" van een logisch onoplosbaar vraagstuk naar een technisch haalbaarheidsprobleem dat opgelost kan worden met convex optimalisatie.
4. Design Variable: Coarse-graining (ruwe grofheid) wordt gepresenteerd als een ontwerpparameter. Door de resolutie van de interface te kiezen, kan men een onleerbaar continuüm-probleem omzetten in een leerbaar discreet probleem.

Samenvattend: De auteurs tonen aan dat door leerbaarheid te definiëren binnen de grenzen van fysieke haalbaarheid (PL), de logische fragiliteit van set-theoretische onafhankelijkheid wordt opgelost, terwijl tegelijkertijd nieuwe, intrinsiek fysieke beperkingen (zoals copy-complexiteit) worden geïdentificeerd die de werkelijke grenzen van leren in de natuur bepalen.