Ternary Gamma Semirings: From Neural Implementation to Categorical Foundations

Each language version is independently generated for its own context, not a direct translation.

Stel je voor dat je een jonge student leert om auto's te herkennen. Je laat hem twee foto's zien: een rode auto en een blauwe fiets. Vervolgens vraag je hem: "Wat is dit?" terwijl je een foto toont van een rode fiets.

Een standaard kunstmatige intelligentie (zoals de grote AI-modellen van vandaag) zou waarschijnlijk in de war raken. Hij ziet "rood" (zoals de auto) en "fiets" (zoals de fiets), en omdat hij alleen de voorbeelden heeft gezien, raadt hij misschien dat het een auto is. Hij heeft de regels niet geleerd, hij heeft alleen de foto's onthouden. Dit is wat de auteur, Ruoqi Sun, "compositional generalization" noemen: het vermogen om nieuwe combinaties van bekende onderdelen te begrijpen.

In dit paper laat Sun zien dat standaard AI-modellen hierin volledig falen (0% succes). Maar als je ze een beetje "wiskundige discipline" geeft, worden ze plotseling perfect (100% succes).

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De "Prikkelende" AI

Stel je een standaard AI voor als een klein kind dat alleen maar nadoet. Als je het een rode bal en een blauwe kubus laat zien, onthoudt het die twee specifieke dingen. Als je daarna een rode kubus laat zien, denkt het kind: "Oh, het is rood, dus het moet een bal zijn!" Het begrijpt niet dat "rood" en "kubus" losse eigenschappen zijn die je kunt mixen.

Sun toont aan dat zelfs de slimste AI-modellen dit niet kunnen. Ze zijn te goed in het herkennen van oppervlakkige gelijkenissen, maar te slecht in het begrijpen van de onderliggende logica.

2. De Oplossing: De "Wiskundige Regel" (De Ternary Gamma Semiring)

Om dit op te lossen, voegt Sun een nieuwe regel toe aan het AI-systeem. Hij noemt dit een Ternary Gamma Semiring. Dat klinkt als een ingewikkeld wiskundig woord, maar je kunt het zien als een onbreekbare wet die de AI moet volgen.

Stel je voor dat je de AI niet alleen foto's laat zien, maar haar ook een spelregelsboek geeft. De belangrijkste regel in dit boek is de "Meerderheidsregel" (Majority Vote).

De Analogie: Denk aan een jury van drie mensen. Als twee mensen zeggen "Ja" en één zegt "Nee", dan is het antwoord "Ja". Als twee zeggen "Nee" en één "Ja", dan is het "Nee".
De AI wordt nu gedwongen om haar antwoorden te baseren op deze meerderheidsregel, in plaats van op het onthouden van foto's.

3. Het Resultaat: Van Chaos naar Orde

Zodra de AI deze wiskundige regel moet volgen, gebeurt er iets magisch:

Vroeger: De AI zag een rode fiets en dacht: "Het lijkt op de rode auto, dus het is een auto." (Fout).
Nu: De AI kijkt naar de eigenschappen. "Rood" en "Fiets" zijn twee verschillende dingen. Volgens de meerderheidsregel (die nu in haar brein zit) kan ze perfect voorspellen dat een rode fiets een nieuwe, unieke combinatie is die niet op de rode auto lijkt.

Het resultaat? De AI scoort 100% goed op dingen die ze nooit eerder heeft gezien. Ze heeft niet meer "geleerd door te onthouden", maar "geleerd door te redeneren".

4. De Diepere Betekenis: De AI Ontdekt Wiskunde

Het meest fascinerende deel van het paper is wat Sun ontdekt over waarom dit werkt.

Hij laat zien dat de manier waarop de AI nu denkt, precies overeenkomt met een bestaande, zuivere wiskundige structuur die wiskundigen al hebben beschreven (de "Boolean-type ternary Γ-semiring").

De Vergelijking: Stel je voor dat je een nieuwe taal uitvindt om te praten. Je denkt dat je iets heel nieuws hebt bedacht, maar later ontdek je dat je precies dezelfde grammaticaregels gebruikt als de taal die in een ver land al duizend jaar wordt gesproken.
Sun zegt eigenlijk: "AI-modellen worden slim als ze de 'natuurlijke' wiskundige regels van het universum gaan volgen." De meerderheidsregel is zo'n fundamentele, natuurlijke regel, net als zwaartekracht.

5. Waarom is dit belangrijk?

Dit paper verandert hoe we naar AI kijken:

Groter is niet altijd beter: We denken vaak dat we AI slimmer maken door hem meer data te geven (meer foto's, meer tekst). Sun zegt: "Nee, je moet hem de juiste regels geven." Zelfs een klein model kan perfect redeneren als het de juiste wiskundige wetten in zijn hoofd heeft.
AI is geen zwarte doos meer: Vaak weten we niet waarom een AI een antwoord geeft. Nu weten we dat het antwoord komt uit een strakke wiskundige structuur. We kunnen het verklaren met algebra en logica.
Nieuw vakgebied: De auteur start een nieuw veld genaamd "Computational Γ-Algebra". Dit is een brug tussen de wereld van computers en de wereld van pure wiskunde.

Samenvattend

Stel je voor dat je een robot bouwt.

De oude manier: Je geeft de robot duizenden foto's en hoopt dat hij er een patroon in ziet. (Resultaat: Hij raakt in de war bij nieuwe dingen).
De nieuwe manier (Sun's methode): Je geeft de robot een wiskundig kompas (de meerderheidsregel). Nu kan hij elke nieuwe situatie oplossen door de regels toe te passen, net als een mens die logisch nadenkt.

De boodschap is hoopvol: AI hoeft niet alleen maar te "kijken" en "onthouden". Als we de juiste wiskundige regels toevoegen, kunnen we AI-systemen bouwen die echt begrijpen hoe de wereld in elkaar zit.

Each language version is independently generated for its own context, not a direct translation.

Titel: Ternary Gamma Semirings: Van Neuronale Implementatie naar Categorische Fundamenten

Auteur: Ruoqi Sun (Intelligent Game and Decision Lab, Peking)

1. Het Probleem: Falen van Compositional Generalisatie

Het artikel begint met een fundamentele uitdaging in de huidige kunstmatige intelligentie: het vermogen van neurale netwerken om compositional generalisatie te vertonen.

De Aanneming: Er wordt vaak aangenomen dat grote neurale netwerken inherent redeneervermogen bezitten.
De Realiteit: Het artikel presenteert een minimaal contra-voorbeeld (een XOR-taak met twee binaire attributen: kleur en vorm).
- Training: Het netwerk leert alleen "rood vierkant" (0,0) en "blauw cirkel" (1,1) (Klasse A).
- Test: Het netwerk moet "rood cirkel" (0,1) en "blauw vierkant" (1,0) (Klasse B) classificeren, combinaties die nooit tijdens het trainingstadium zijn gezien.
Resultaat: Standaard neurale netwerken falen volledig op deze taak met 0% nauwkeurigheid. Ze baseren hun voorspellingen op oppervlakkige gelijkenis (bijv. "rood" lijkt op "rood vierkant") in plaats van de onderliggende logische regels (XOR) te internaliseren. Dit bevestigt dat ze patronen memoriseren in plaats van te redeneren.

2. Methodologie: De Ternary Gamma Semiring

Om dit probleem op te lossen, introduceert de auteur een nieuwe architecturale beperking gebaseerd op abstracte algebra: de Ternary Gamma Semiring (Drievoudige Gamma-halve ring).

Architectuur:
- Een feature extractor (een klein neuraal netwerk) die input vectoren mapt naar een 8-dimensionale feature space.
- Een logische verliesfunctie (logical loss) die algebraïsche axioma's oplegt in plaats van alleen classificatiefouten te minimaliseren.
De Logische Beperkingen:
- Proximiteit binnen dezelfde klasse: Features van dezelfde klasse (bijv. beide Klasse A) moeten dicht bij elkaar liggen.
- Scheiding tussen verschillende klassen: Features van verschillende klassen moeten ver uit elkaar liggen.
- Algebraïsche structuur: De feature space moet voldoen aan de axioma's van een commutatieve ternary $\Gamma$ -semiring.
Implementatie: Het model wordt getraind in twee fasen: eerst met alleen de logische loss om de feature space te structureren, gevolgd door een prototype-classificator (gemiddelde van de training features) voor de uiteindelijke voorspelling.

3. Belangrijkste Bijdragen en Theoretische Koppeling

Het artikel verbindt machine learning met pure wiskunde (abstracte algebra en categorietheorie) via drie kernbijdragen:

Ontdekking van een Algebraïsche Structuur: De geleerde feature space vormt een eindige commutatieve ternary $\Gamma$ -semiring.
- De ternaire operatie $\phi$ in deze ruimte implementeert perfect de meerderheidsregel (majority vote).
- Parameters: $|T| = 4$ (vier elementen/feature vectoren) en $|\Gamma| = 1$ (één parameter).
Isomorfisme met Wiskundige Classificatie: De auteur vergelijkt de gevonden structuur met de recente classificatie van Gokavarapu et al. [3–6].
- De structuur komt exact overeen met het unieke Boolean-type ternary $\Gamma$ -semiring in hun enumeratie.
- Dit is uniek tot op isomorfisme.
Categorische Interpretatie:
- De structuur wordt geïnterpreteerd als een object in de categorie TTS (commutatieve ternary $\Gamma$ -semirings).
- Hoewel strikte associativiteit op element-niveau kan falen, geldt associativiteit tot op isomorfisme op het niveau van klassenlabels, wat voldoet aan de eisen van monoidale gesloten categorieën.

4. Resultaten

De experimentele resultaten tonen een dramatische verbetering aan:

Standaard Netwerk: 0% testnauwkeurigheid (faalt volledig).
Ternary Gamma Semiring + Prototype: 100% testnauwkeurigheid op ongezette combinaties.
Feature Space Structuur:
- De afstand tussen features van dezelfde klasse is minimaal ( $\approx 0.003 - 0.009$ ).
- De afstand tussen verschillende klassen is groot ( $\approx 2.04$ ).
- De verhouding is meer dan 200:1, wat een perfect gescheiden feature space aangeeft.
Verificatie van Axioma's: De geleerde operatie $\phi$ $ϕ$ voldoet aan:
- Symmetrie (volgorde van input maakt niet uit).
- Idempotentie ( $\phi(a,a,a) = a$ ).
- De meerderheidsaxioma ( $\phi(a,a,b) = a$ ).

5. Betekenis en Implicaties

De bevindingen hebben diepgaande gevolgen voor zowel AI-onderzoek als wiskunde:

Redeneren vs. Memoriseren: Succesvolle generalisatie in neurale netwerken is niet het gevolg van toevallige memorisatie, maar van het internaliseren van wiskundig "natuurlijke" structuren (algebraïsche axioma's).
Nieuw Paradigma: "Groter is beter" (meer data, grotere modellen) is niet de enige oplossing. Het inbrengen van de juiste inductieve bias (logische beperkingen) is effectiever dan data-augmentatie.
Interpreteerbaarheid: Door neurale representaties te behandelen als algebraïsche objecten, wordt "redeneren" meetbaar en verifieerbaar. Een netwerk "begrijpt" een regel als het de algebraïsche axioma's van die regel heeft geïnternaliseerd.
Computational $\Gamma$ -Algebra: Het artikel lanceert een nieuw interdisciplinair veld dat machine learning, abstracte algebra en categorietheorie combineert. Het toont aan dat neurale netwerken kunnen dienen als instrumenten om wiskundige structuren te ontdekken.

Conclusie

Dit artikel bewijst dat standaard neurale netwerken falen in compositional generalisatie, maar dat dezelfde architectuur, wanneer deze wordt beperkt door de axioma's van een Ternary Gamma Semiring, perfect redeneert. De geleerde structuur is geen toeval, maar een exacte implementatie van een uniek, wiskundig gedefinieerd algebraïsch object (het Boolean-type ternary $\Gamma$ -semiring). Dit onderstreept dat logische beperkingen essentieel zijn voor het creëren van AI-systemen die echt redeneren in plaats van alleen patronen te matchen.