💻 computer science

From categorized neural architectures to subexponential proof theory

Dit artikel presenteert een programma dat neurale architecturen via categorisatie vertaalt naar subexponentiële bewijstheorie, waarbij een symmetrisch monoidale categorie en een bewijsstelsel met cut-eliminatie worden afgeleid uit de architecturale beperkingen op kopiëren, wegwerpen en zone-coercie.

Oorspronkelijke auteurs: Carlos Ramírez Ovalle

Gepubliceerd 2026-04-01

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Carlos Ramírez Ovalle

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorm complex machinebouwpakket hebt: een neurale architectuur, zoals die gebruikt wordt in kunstmatige intelligentie. Meestal kijken we naar deze systemen als naar een "black box": je stopt data erin, en er komt een antwoord uit. Maar hoe werkt dat van binnen? En vooral: welke regels gelden er voor de informatie die door het systeem stroomt?

Dit artikel van Carlos Ramírez Ovalle probeert een brug te slaan tussen de technische bouwplaat van deze AI-systemen en de logische regels die ze volgen. Het doet dit op een heel slimme manier: in plaats van te beginnen met een logische theorie en die dan op de machine te plakken, kijkt hij eerst naar de machine en leest de logica eruit.

Hier is een uitleg in gewone taal, met een paar creatieve vergelijkingen.

1. De Bouwstenen: De "Zones" van de Machine

Stel je een neurale netwerkblok voor als een keuken. In deze keuken werken verschillende soorten ingrediënten, maar ze worden niet allemaal op dezelfde manier behandeld. De auteur introduceert het idee van "zones" (gebieden):

De Vriezer (Persistent Zone): Hier kun je ingrediënten (zoals een recept of een geheugen) opbergen. Je kunt ze eruit halen, gebruiken, en ze blijven nog steeds in de vriezer staan. Je kunt ze ook weggooien als je ze niet meer nodig hebt. Dit is informatie die je mag kopiëren en weggooien.
De Werkplaat (Relevant Zone): Hier liggen ingrediënten die je nodig hebt voor het koken. Je mag ze verdubbelen (kopiëren) als je twee borden moet vullen, maar je mag ze niet zomaar in de prullenbak gooien. Ze moeten gebruikt worden.
De Snijplank (Linear Zone): Dit is een heel specifiek ingrediënt, bijvoorbeeld een kwetsbaar ei. Je mag het maar één keer gebruiken. Als je het breekt, is het op. Je mag het niet kopiëren en je mag het niet weggooien zonder het te gebruiken.

In de wiskundige taal van het artikel zijn dit zones met specifieke regels over kopieëren (vermenigvuldigen) en weggooien (verwijderen).

2. Van Bouwplaat naar Logica: Het "Uitlezen"

Meestal zeggen logici: "Hier zijn de regels voor kopiëren en weggooien, en nu bouwen we een machine die die regels volgt."
De auteur doet het omgekeerd:

Hij kijkt naar de architectuur van de neurale netwerken.
Hij ziet welke zones er zijn en welke regels er voor die zones gelden (mag ik hier kopiëren? Mag ik hier weggooien?).
Hij vertaalt deze regels naar een logisch systeem (een taal van bewijzen).

Het is alsof je een nieuwe taal bedenkt door te kijken hoe mensen in een dorp met elkaar communiceren, in plaats van een taalboek te nemen en te zeggen hoe ze zouden moeten praten.

3. De "Subexponentiële" Regels

De term "subexponentiële" klinkt eng, maar het betekent simpelweg: "Regels die afhankelijk zijn van de locatie."

In de gewone wiskunde zijn regels vaak universeel: "Je mag altijd kopiëren" of "Je mag nooit kopiëren".
In dit artikel zijn de regels gebonden aan de zone:

In zone A mag je kopiëren.
In zone B mag je kopiëren, maar niet weggooien.
In zone C mag je niets doen dan precies één keer gebruiken.

Dit is precies hoe neurale netwerken werken: je geheugen (persistent) gedraagt zich anders dan je huidige sensorische input (linear). De auteur toont aan dat je voor elke van deze zones een specifieke logische regel kunt schrijven.

4. De Drie Grote Bewijzen

Het artikel levert drie belangrijke bewijzen, die we als volgt kunnen vertalen:

De Bouw is Stabiel (Symmetrisch Monoidaal):
De manier waarop deze blokken aan elkaar worden gekoppeld (in serie of parallel) is logisch consistent. Het is alsof je legoblokken hebt die altijd perfect op elkaar passen, ongeacht hoe je ze combineert. De structuur van de machine is wiskundig solide.
Geen Dubbel werk (Cut Elimination):
In de logica betekent dit dat als je een bewijs hebt dat ergens tussenstapjes gebruikt, je die tussenstapjes altijd kunt weglaten en toch tot hetzelfde resultaat komt. In de keuken: als je een recept zegt "kook de soep, haal de soep uit de pot, en serveer de soep", kun je het stap "haal de soep uit de pot" overslaan en direct zeggen "kook en serveer". Het systeem is efficiënt en heeft geen overbodige stappen nodig.
De Logica past bij de Machine (Geluid/Soundness):
Dit is het belangrijkste punt. De logische regels die de auteur heeft "uitgelezen" uit de machine, zijn waar. Als de logica zegt "je mag hier kopiëren", dan kan de machine dat ook echt. Als de logica zegt "je mag hier niet weggooien", dan is dat ook zo in de machine. Er is geen leugen in de logica; het is een exacte kaart van de machine.

5. Een Praktisch Voorbeeld

Stel je een slimme assistent voor die een vraag beantwoordt:

Hij gebruikt zijn lange-termijn geheugen (de "Vriezer"): Hij mag dit herlezen en kopiëren om het in zijn antwoord te verwerken.
Hij gebruikt context (de "Werkplaat"): Hij mag dit gebruiken om de vraag te begrijpen, maar hij moet het volledig verwerken.
Hij gebruikt de huidige sensorische input (de "Snijplank"): Hij moet dit direct verwerken en mag het niet bewaren voor later.

Het artikel zegt: "Kijk, als we deze regels in een logisch systeem zetten, dan krijgen we een taal die precies beschrijft wat deze assistent mag en niet mag doen."

Conclusie

Dit papier is een fundament voor de toekomst. Het zegt: "We hoeven niet langer te raden welke logica bij een AI past. We kunnen naar de architectuur kijken, de regels voor het gebruik van geheugen en context aflezen, en daaruit een perfecte logische taal construeren."

Het is alsof je niet meer gissen moet naar hoe een motor werkt door hem te openen, maar dat je door naar de bouwtekening te kijken, precies de regels van de brandstofverbranding kunt afleiden. De logica is niet van bovenaf opgelegd; hij is ontdekt in de structuur van de machine zelf.

Probleemstelling

Het artikel adresseert de vraag hoe men een logisch discipline kan afleiden uit een klasse van neurale architecturen, zonder uit te gaan van een reeds bestaande logica. Traditioneel wordt in categorische logica vaak een logica als uitgangspunt genomen en vervolgens een semantiek gezocht. De auteur stelt echter dat neurale architecturen inherent resource-gevoelig zijn: sommige informatie is herbruikbaar, sommige kan worden weggegooid, sommige moet lineair worden gebruikt, en sommige kan worden gecoerceerd tussen verschillende "zones" (contexten).

Het centrale probleem is het ontbreken van een rigoureuze methode om deze architecturale beperkingen (zoals kopiëren, weggooien en contextbeheer) te vertalen naar een formele logische structuur. De auteur wil een "theorema-dragend" antwoord geven op de vraag of men kan starten bij een georganiseerde familie van neurale architecturen, deze kan vertalen naar een categorische beschrijving van hun resource-gedrag, en daaruit een passende logica kan extraheren.

Methodologie

De auteur volgt een strikte constructieve volgorde: Architectuur $\rightarrow$ Categorisatie $\rightarrow$ Subexponentiële Signatuur $\rightarrow$ Bewijstheorie.

Gecategoriseerde Architecturen (ArchZ):
- De basis wordt gevormd door een categorie ArchZ van geparametriseerde, zone-gelabelde blokken.
- Objecten zijn getypeerde resource-contexten (lijsten van (zone, type) paren).
- Morfismen zijn equivalentieklassen van geparametriseerde rekeneenheden (blokken) die input-contexten naar output-contexten afbeelden.
- Het bewijs dat ArchZ een symmetrisch monoidale categorie is, legt de basis voor parallelle en seriële compositie van blokken.
Coherente Zone-discipline:
- Om resource-gevoeligheid te modelleren, wordt een "coherente zone-discipline" (Lic) gedefinieerd op ArchZ.
- Deze discipline specificeert welke structurele operaties (weggooien/verzwakking en dupliceren/contractie) zijn toegestaan voor specifieke zones.
- Het omvat een pre-orde op zones (voor coercie), en families van morfismen voor toegestane discards ( $\omega$ ) en diagonalen ( $\delta$ ).
Extractie van de Subexponentiële Signatuur:
- Uit de discipline wordt een subexponentiële signatuur $\Sigma_{Lic} = (Z, \preceq, W, C)$ geëxtraheerd.
- $Z$ : De set van zones.
- $\preceq$ : De pre-orde op zones.
- $W$ : De set zones waar verzwakking (weakening/discard) is toegestaan.
- $C$ : De set zones waar contractie (contraction/duplication) is toegestaan.
- Een cruciaal resultaat is dat deze signatuur niet extern wordt opgelegd, maar faithfully (trouw) wordt gereconstrueerd uit de toegestane structurele morfismen in de architectuur.
Bewijstheorie (TZ $\Sigma$ ):
- Op basis van de geëxtraheerde signatuur wordt een tensoriële sequentiekalculus gedefinieerd.
- Deze logica bevat atomen, tensor-producten, een eenheid, en zone-afhankelijke structurele regels (verzwakking en contractie).
- Er wordt geen implicatie ( $\multimap$ ) toegevoegd, omdat de huidige architecturale data daarvoor onvoldoende structuur biedt (zoals een intern hom).

Belangrijkste Bijdragen en Resultaten

Symmetrisch Monoidale Categorie:
De auteur bewijst dat de categorie van zone-gelabelde architecturale blokken (ArchZ) een symmetrisch monoidale categorie is, wat de compositie van neurale netwerken formeel onderbouwt.
Faithful Reconstruction (Truwe Reconstructie):
Er wordt aangetoond dat de geëxtraheerde subexponentiële signatuur exact overeenkomt met de structurele toestemmingen die in de architecturale discipline zijn vastgelegd. De logica is dus een directe lezing van de architectuur, geen externe constructie.
Cut-Eliminatie:
Het artikel bewijst dat de geëxtraheerde tensoriële calculus (TZ $\Sigma$ ) voldoet aan het cut-eliminatieprincipe. Dit betekent dat elke afleiding een cut-vrije afleiding heeft, wat de consistentie en de rekenkracht van het systeem garandeert.
Geluidheid (Soundness):
Het belangrijkste theoretische resultaat is de geluidheidstheorema: elke afleiding in de geëxtraheerde logica correspondeert met een morfisme in de oorspronkelijke gecategoriseerde architectuur.
- Als een regel verzwakking gebruikt, komt dit overeen met een toegestaan "discard"-morfisme in de architectuur.
- Als een regel contractie gebruikt, komt dit overeen met een toegestaan "diagonal"-morfisme.
- Dit garandeert dat de logica precies de resource-beperkingen van de onderliggende neurale architectuur respecteert.
Concrete Voorbeelden:
Het artikel illustreert de theorie met een twee-blokken neurale architectuur. Hierin worden drie zones gebruikt:
- Persistent (p): Mag worden gekopieerd en weggegooid (vergelijkbaar met een constante of geheugen).
- Relevant (r): Mag worden gekopieerd, maar niet weggegooid.
- Lineair (l): Mag noch worden gekopieerd noch weggegooid (moet exact één keer worden gebruikt).
  De geëxtraheerde logica weerspiegelt exact deze beperkingen.

Significantie

De betekenis van dit werk ligt in de omkering van de traditionele richting in de relatie tussen logica en machine learning:

Traditioneel: Logica $\rightarrow$ Semantiek $\rightarrow$ Architectuur (Logica als ontwerprichtlijn).
Dit artikel: Architectuur $\rightarrow$ Categorisatie $\rightarrow$ Logica (Logica als een invariant van de architectuur).

Het artikel toont aan dat de "logische discipline" van een neurale architectuur niet willekeurig is, maar een fundamenteel gevolg is van hoe de architectuur omgaat met resources (geheugen, context, input). Dit biedt een wiskundig onderbouwde basis voor het begrijpen van de structurele beperkingen van complexe netwerken (zoals Transformers) zonder deze beperkingen van tevoren te hoeven specificeren. Het is een eerste, rigoureuze stap in het programma "Neurale Architectuur $\rightarrow$ Categorie $\rightarrow$ Logica", met name gericht op resource-gevoelig gedrag.

De afwezigheid van lineaire implicatie in de huidige versie wordt erkend als een beperking, maar de auteur betoogt dat de geïsoleerde tensoriële fragment al voldoende is om de resource-gevoelige kern van de architectuur te karakteriseren. Toekomstig werk kan uitbreiden naar volledige subexponentiële systemen en implicaties door het toevoegen van meer categorische structuur (zoals een lineair-niet-lineair adjunctie).