🤖 machine learning

The Standard Interpretable Model: A general theory of interpretable machine learning to deductively design interpretable methods using Lagrangian mechanics

Dit artikel introduceert het Standard Interpretable Model (SIM), een algemene theorie geworteld in de Lagrangiaanse mechanica die interpreteerbare methoden deductief afleidt door door de gebruiker gedefinieerde premissen te vertalen naar wiskundige beperkingen, waardoor gefragmenteerd onderzoek wordt verenigd en het systematisch ontwerp van zowel geoptimaliseerde opaak modellen als inherent interpreteerbare architecturen wordt mogelijk gemaakt.

Oorspronkelijke auteurs: Pietro Barbiero, Giovanni De Felice, Mateo Espinosa Zarlenga, Francesco Giannini, Filippo Bonchi, Mateja Jamnik, Giuseppe Marra, Ruggero Noris

Gepubliceerd 2026-06-11

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Pietro Barbiero, Giovanni De Felice, Mateo Espinosa Zarlenga, Francesco Giannini, Filippo Bonchi, Mateja Jamnik, Giuseppe Marra, Ruggero Noris

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een ongelooflijk krachtige, complexe machine hebt gebouwd (een AI-model) die het weer kan voorspellen, ziekten kan diagnosticeren of poëzie kan schrijven. Maar er is een probleem: de machine is een "black box". Je stopt er data in, en er komt een antwoord uit, maar je hebt geen idee hoe het daar gekomen is. Het is alsof je een chef-kok hebt die een heerlijke soep maakt, maar weigert je het recept te vertellen of zelfs te zeggen welke ingrediënten er in de pan zitten.

Dit artikel introduceert een nieuw framework genaamd het Standard Interpretable Model (SIM). Zie SIM niet als een specifiek recept, maar als een universele blauwdruk voor het bouwen van transparante machines. Het gebruikt de wetten van de natuurkunde (specifiek de Lagrangiaanse mechanica, dezelfde wiskunde die wordt gebruikt om de beweging van planeten te beschrijven) om een stapsgewijze handleiding te maken voor het ontwerpen van AI die mensen daadwerkelijk kunnen begrijpen.

Hier is hoe het artikel dit uiteenzet, met behulp van eenvoudige analogieën:

1. Het Kernidee: De "Natuurkunde" van Begrip

De auteurs stellen dat wetenschappers, om complexe dingen te begrijpen, meestal zoeken naar symmetrieën — dingen die hetzelfde blijven, zelfs als je van perspectief verandert.

De Analogie: Stel je een tol voor die ronddraait. Als je er van links, rechts of van boven naar kijkt, is het nog steeds een draaiende tol. Die "gelijkheid" is een symmetrie.
In AI: Het artikel vraagt: "Welke delen van het denken van een AI moeten hetzelfde blijven zodat een mens het kan begrijpen?" Ze stellen voor dat voor een AI om interpreteerbaar te zijn, de interne logica specifieke "symmetrieën" ten opzichte van een menselijke gebruiker moet respecteren.

2. De Drie Spelregels (De Premissen)

Het artikel definieert drie "regels" waaraan een interpreteerbare AI moet voldoen, gebaseerd op hoe mensen denken en spreken.

Regel 1: Gedeelde Taal (Concept Semantiek)
- De Metafoor: Stel je voor dat jij en een vriend een spel spelen waarbij je naar objecten wijst. Als jij naar een rode appel wijst en "Rood" zegt, moet je vriend het met je eens zijn dat deze rood is. Als je naar een groene appel wijst en "Rood" zegt, breekt het spel.
- De Regel: De AI moet woorden (concepten) gebruiken die voor de mens hetzelfde betekenen als voor de AI. Als de AI denkt dat "Rood" "Blauw" betekent, is het niet interpreteerbaar. Het artikel laat zien hoe je de AI kunt dwingen om de volgorde van deze betekenissen te respecteren (bijv. als Object A roder is dan Object B, moet de AI dat ook eens zijn).
Regel 2: Geen Verborgen Trucs (Voorspelling-Concept Afhankelijkheid)
- De Metafoor: Stel je een goochelaar voor die een konijn uit een hoed tovert. Als het konijn eigenlijk uit een verborgen zakje in de mouw van de goochelaar kwam, is de truc niet "magisch" op de manier die het publiek verwacht.
- De Regel: Het uiteindelijke antwoord van de AI moet alleen afhangen van de concepten die hij aan je heeft getoond. De AI mag niet stiekem gebruikmaken van verborgen variabelen of "valsspelen" met interne data die jij niet kunt zien. Als de AI zegt: "Ik voorspel regen vanwege wolken", dan moet hij ook daadwerkelijk naar wolken kijken, en niet naar een geheime code.
Regel 3: Maak het Niet Te Compliceren (Begrensde Redenering)
- De Metafoor: Als je een mens vraagt een wiskundig probleem op te lossen, kan diegene een eenvoudige vergelijking zoals $2+2$ aan. Een mens kan echter niet direct een vergelijking van 1.000 pagina's met oneindig veel variabelen oplossen. Mensen hebben "begrensde" (beperkte) hersenen.
- De Regel: De uitleg van de AI moet simpel genoeg zijn voor een mens om te volgen. Het kan geen redeneermethode gebruiken die te complex is voor een mens om te traceren. De AI moet zich houden aan een "menu" van redeneerstijlen die een mens daadwerkelijk kan verwerken.

3. De Blauwdruk: Van Theorie naar Bouw

Het artikel biedt een "Lagrangiaan", wat in essentie een wiskundige constructiehandleiding is. Het biedt twee manieren om een AI te bouwen die deze regels volgt:

Methode A: De "Zachte" Benadering (Trainen met Beperkingen)
- Stel je voor dat je een hond traint. Je geeft hem een koekje als hij zit en een zachte "nee" als hij springt. Na verloop van tijd leert hij.
- In deze methode neem je een standaard AI en voeg je "boetes" toe aan de training. Als de AI probeert een geheime verborgen variabele te gebruiken (het schenden van Regel 2) of de verkeerde definitie van "Rood" gebruikt (het schenden van Regel 1), straft de wiskunde de AI. De AI leert zijn gedrag aan te passen om de boete te vermijden, waardoor hij uiteindelijk interpreteerbaar wordt.
Methode B: De "Harde" Benadering (Architecturale Compilatie)
- Stel je voor dat je een auto bouwt waarbij het stuur fysiek aan de voorwielen is vastgeschroefd. Je kunt de auto niet sturen zonder de wielen te draaien. Het is onmogelijk om te valsspelen.
- In deze methode ontwerpt het artikel de structuur van de AI zodanig dat het fysiek onmogelijk is voor de AI om de regels te breken. De AI wordt alleen gebouwd met de toegestane concepten en redeneerstijlen. Hij hoeft niet "geleerd" te worden om eerlijk te zijn; zijn ontwerp dwingt hem tot eerlijkheid.

4. Wat Ze Vonden (De Experimenten)

De auteurs testten dit framework en vonden enkele verrassende zaken:

Standaard metrieken liegen: Alleen omdat een AI het juiste antwoord geeft (lage foutmarge), betekent dat niet dat hij de concepten correct begrijpt. Een AI kan het juiste antwoord raden terwijl hij een volkomen gebroken begrip heeft van "rood" of "blauw".
Huidige "uitleg" is vaak nep: Ze testten populaire AI-modellen die "Chain of Thought"-uitleg genereren (zoals een mens die hardop nadenkt). Ze ontdekten dat het uiteindelijke antwoord van de AI vaak niet daadwerkelijk afhing van die gedachten. De uitleg was slechts een verhaal dat de AI vertelde, niet de echte reden voor de beslissing.
Grote modellen kunnen worden gerepareerd: Ze lieten zien dat zelfs enorme, complexe modellen kunnen worden "gerepareerd" om deze regels te volgen zonder dat ze vanaf nul opnieuw getraind hoeven te worden, simpelweg door te veranderen hoe ze informatie verwerken.

Samenvatting

Het Standard Interpretable Model is een nieuwe manier van denken over AI. In plaats van alleen maar te hopen dat een AI begrijpelijk is, geeft het wetenschappers een rigoureuze, wiskundige recept om AI te ontwerpen die begrijpelijk is door constructie. Het behandelt "begrijpelijkheid" niet als een vaag gevoel, maar als een reeks natuurkundige wetten (symmetrieën) die in de code van de machine gebouwd kunnen worden, wat ervoor zorgt dat de "gedachten" van de AI overeenkomen met de menselijke logica.

Technische Samenvatting: Het Standard Interpretable Model (SIM)

Probleemstelling

Naarmate kunstmatige intelligentie-modellen complexer worden, is interpreteerbaarheid essentieel geworden voor het debuggen, controleren en waarborgen van de eerlijkheid van deze systemen. De huidige literatuur ontbeert echter een algemene, systematische theorie om interpreteerbare methoden deductief te ontwerpen. Bestaande literatuur is gefragmenteerd, met inconsistente evaluatieprotocollen en een disconnect tussen theoretische principes en praktische implementaties (bijv. verliesfuncties, architecturen en metrieken). Huidige benaderingen slagen er vaak niet in om abstracte interpreteerbaarheidsprincipes te vertalen naar concrete, operationele methoden, wat resulteert in modellen die moeilijk systematisch te vergelijken, te reproduceren of op te bouwen zijn.

Methodologie: Het Standard Interpretable Model (SIM)

De auteurs stellen het Standard Interpretable Model (SIM) voor, een algemene theorie die geworteld is in de Lagrangiaanse mechanica en het concept van "immuutbare" (symmetrieën). De SIM biedt een deductief kader om interpreteerbare machine learning (ML) methoden af te leiden uit een set door de gebruiker gedefinieerde premissen.

Het kader werkt via een zesstappenproces:

Interpreteerbaarheidspremissen: Definieer wat "interpreteerbaar" betekent voor een specifieke doelentiteit $h$ (bijv. een mens met begrensde redeneerkracht en een formeel vocabulaire).
Interpreteerbaarheidsymmetrieën: Formaliseer deze premissen als eigenschappen die invariant moeten blijven onder specifieke transformaties $g$ .
Interpreteerbaarheidsrestricties: Vertaal symmetrieën naar operationele restricties $q(z) \leq 0$ die schendingen van de symmetrie kwantificeren.
Lagrangiaanse Formulering: Construeer een Lagrangiaan $\mathcal{L} = T - V$ , waarbij $T$ de parameterdynamiek vertegenwoordigt en $V$ de objectieve functie (loss) is die de interpreteerbaarheidsrestricties incorporeert. De minima van $V$ komen overeen met optimale interpreteerbare modellen.
Trajecten (Optimalisatie): Leid bewegingsvergelijkingen af (bijv. gradiëntafdaling met momentum) om parameters $\theta$ van een opaak model naar een interpreteerbaar model te updaten door de actie-integraal van $\mathcal{L}$ te minimaliseren.
Restrictie-compilatie: Compileer restricties alternatief direct in de modelarchitectuur, waardoor interpreteerbaarheid gegarandeerd is door constructie in plaats van door optimalisatie-straffen.

Casestudy: Begrensde en Formele Entiteiten

Het artikel leidt een specifieke instantie van de SIM af voor een doelentiteit $h$ met een vast vocabulaire, semantiek en begrensde computationele middelen. Deze afleiding levert drie kernsymmetrieën en hun bijbehorende restricties op:

Symmetrie I (Concept-invariantie): De conceptkaarten van het model moeten de preorder (rangorde) van menselijke concept-semantiek behouden onder monotone transformaties.
- Restrictie: De verschillen in paarscore van concepten in het model moeten de door de mens opgelegde ordening respecteren.
Symmetrie II (Voorspellings-Concept Afhankelijkheid): De voorspellingen van het model moeten uitsluitend afhangen van gedeelde concepten. De gradiënt van de voorspellingsfunctie moet liggen binnen de span van de concept-gradiënten.
- Restrictie: De projectie van de voorspellings-Jacobiaan op de concept-gradiënt-subruimte moet invariant zijn (d.w.z. geen gevoeligheid voor richtingen buiten de conceptruimte).
Symmetrie III (Begrensde Redenering): De compositie van concepten in voorspellingen moet behoren tot een hypotheseklasse die hanteerbaar is voor de doelentiteit (bijv. ijle lineaire functies).
- Restrictie: De conceptformule moet een oplossing zijn voor een specifieke differentiële operator $K[h]$ (bijv. de Hessiaan moet verdwijnen voor lineaire functies).

Deze restricties vormen het "interpreteerbaarheidslandschap" $V$ . De SIM verenigt het ontwerp van interpreteerbare architecturen (door restricties te compileren) en geconstreerde optimalisatie (door straftermen aan de loss toe te voegen).

Belangrijkste Bijdragen

Een Algemene Theorie van Interpreteerbaarheid: De SIM biedt een deductieve methode om interpreteerbare methoden af te leiden vanuit eerste principes, waarmee de kloof tussen abstracte theorie en operationeel ontwerp wordt overbrugd.
Operationeel Kader voor Grootschalige Modellen: De auteurs passen de SIM toe om grootschalige modellen te analyseren en te verbeteren, waarbij zij demonstreren hoe "gebroken" concept-semantiek en voorspellingsafhankelijkheden geïdentificeerd en gecorrigeerd kunnen worden zonder hertraining.
Systematische Vergelijking en Gat-analyse: Het kader omvat bestaande families van interpreteerbare modellen (bijv. Concept Bottleneck Models, Prototypical Networks, Sparse Autoencoders) als speciale gevallen, waarbij beperkingen zoals het gebrek aan gegarandeerde gedeelde semantiek of over-geconstreerde hypotheseklassen worden onthuld.
Software-implementatie (PyTorch Concepts): De theorie wordt vertaald naar een open-source bibliotheek, PyTorch Concepts (PyC), die modulaire lagen, verliesfuncties en metrieken biedt die direct corresponderen met de theoretische symmetrieën en restricties.

Empirische Resultaten

Het artikel valideert de SIM via gecontroleerde experimenten en toepassingen op grootschalige modellen:

Validatie van Symmetrieën:
- Symmetrie I: Standaard prestatie-metrieken (bijv. Mean Absolute Error) falen om semantische preservatie te vangen. Modellen die MAE minimaliseren schenden vaak de door de mens opgelegde concept-ordening, terwijl modellen met gecompileerde restricties (Architectuur I) de semantiek perfect behouden.
- Symmetrie II: Optimalisatie-gebaseerde handhaving van restricties (het toevoegen van straffen aan de loss) bereikt slechts een lokale uitlijning tussen voorspellingen en concepten. Architecturale compilatie (het afdwingen dat voorspellingen functies zijn van concepten) is vereist om globale afhankelijkheid te garanderen.
- Symmetrie III: De SIM maakt het mogelijk om de complexiteit van concept-formules (bijv. lineair versus niet-lineair) af te stemmen via Lagrangiaanse multipliers, waarbij een interpolatie plaatsvindt tussen flexibele fitting en begrensde redenering.
Toepassingen op Groot-Schaal Modellen:
- Vision-Language Models (VLMs): Pre-trained VLMs (CLIP, Moondream2, Qwen2) produceren vaak inconsistente paar-rangordes voor concepten (bijv. "rood"), wat Symmetrie I schendt. De auteurs tonen echter aan dat label-vrije concept-semantiek kan worden gecorrigeerd zonder training door geordende prototypen te gebruiken om de correcte rangorde te herstellen.
- Chain-of-Thought (CoT): Experimenten op Qwen2.5 laten zien dat CoT-uitleg grotendeels onafhankelijk is van de werkelijke voorspellingsberekening (hoge Symmetrie II schending), wat suggereert dat ze geen getrouwe verklaringen zijn.
- Concept-gebaseerde LLM's (Steerling-8B): Analyse onthult dat voorspellingen in grote concept-gebaseerde modellen afhangen van een klein fractie (~1,5%) van de gesuperviseerde concepten. De afhankelijkheid kan verder worden uitgeeld tijdens de inferentie, wat bevestigt dat deze modellen bij ontwerp stuurbaar kunnen worden gemaakt.

Betekenis en Claims

Het artikel beweert dat de SIM het perspectief op interpreteerbaarheid verschuift van een informele verzameling methoden naar een rigoureus, deductief onderzoeksveld.

Unificatie: Het biedt een enkele taal (Lagrangiaanse mechanica) om gefragmenteerde formalismen, losses en architecturen te verzoenen.
Gebruikersbewustzijn: Het parametriseert interpreteerbaarheid expliciet door de kenmerken van de doelgebruiker, waarbij wordt erkend dat verschillende premissen verschillende, intern consistente theorieën opleveren.
Falsifieerbaarheid: Het kader maakt claims over interpreteerbaarheid falsifieerbaar door middel van analytische controles (invariantie), empirische tests (restrictie-schending) en epistemische evaluatie (gebruikersstudies).
Pedagogische Waarde: Door interpreteerbaarheid te funderen in gevestigde principes van geometrie, fysica en logica, biedt de SIM een basis voor het onderwijzen van interpreteerbaarheid in het hoger onderwijs.

De auteurs benadrukken dat de SIM niet beweert alle interpreteerbaarheids-problemen op te lossen, maar een systematisch recept biedt voor het afleiden van interpreteerbare methoden, het identificeren van beperkingen in huidige benaderingen en het sturen van het ontwerp van toekomstige programmeerinterfaces en onderzoeksrichtingen.