On the Limits of Interpretable Machine Learning in Quintic Root Classification

Hoewel neurale netwerken sterke voorspellende prestaties leveren bij het classificeren van kwintische wortelconfiguraties, concluderen de auteurs dat geen enkel geëvalueerd model autonoom discrete, menselijk interpreteerbare wiskundige regels uit ruwe data kan herleiden, wat suggereert dat interpretatie in gestructureerde wiskundige domeinen expliciete structurele inductieve bias vereist in plaats van puur datagedreven benadering.

De kern

Stel je voor dat je een groep wiskundige detectives bent die probeert een geheim te ontrafelen. Het geheim? Een speciale formule die je vertelt hoeveel "echte" oplossingen (wortels) een bepaald type wiskundige vergelijking heeft.

Deze vergelijkingen zijn tot de vijfde macht (quintisch). Voor eenvoudige vergelijkingen (tot de vierde macht) kennen wiskundigen al eeuwenlang de "magische sleutels" (formules) om dit probleem op te lossen. Maar voor de vijfde macht bestaat er geen algemene formule meer. Het is alsof de sleutelkast leeg is.

Hier komt de kunstmatige intelligentie (AI) om de hoek kijken. De vraag van de onderzoekers was: Kan een computer, die alleen maar naar de getallen kijkt, zelf die magische sleutel opnieuw uitvinden?

Het Experiment: De "Blinddoek" Test

De onderzoekers gaven verschillende soorten AI-modellen een opdracht:

1. De "Blinddoek" AI: Krijgt alleen de ruwe getallen van de vergelijking. Geen hints, geen wiskundige regels, gewoon data.
2. De "Slimme" AI: Krijgt dezelfde getallen, maar ook een speciaal hulpmiddel dat wiskundigen al lang kennen (een signaal dat aangeeft waar de kromming van de grafiek verandert).

Ze testten dit met twee soorten detectives:

• Het Neuraal Netwerk: Een complexe, "zwarte doos" AI die heel goed kan leren, maar waarvan we niet precies weten hoe het denkt.
• De Beslisboom: Een simpele, doorzichtige AI die werkt met "Als dit, dan dat"-regels. Dit is de "interpreteerbare" detective die we kunnen uitleggen aan een mens.

Wat Vonden Ze? (De Verassende Resultaten)

1. De "Blinddoek" AI is een goede gokker, maar geen uitvinder.
Het complexe neuraal netwerk was verrassend goed in het voorspellen van de juiste oplossing (ongeveer 84% goed). Het leerde een soort patroon. Maar toen de onderzoekers probeerden te kijken hoe het dit deed, vonden ze niets anders dan een wazige, wiskundige "schim". De AI had geen duidelijke regel bedacht die een mens kon begrijpen. Het was alsof het netje een gevoel had voor de oplossing, maar niet kon uitleggen waarom.

2. De "Slimme" AI faalt zonder hints.
De simpele, doorzichtige beslisboom deed het slecht (slechts 60% goed) toen hij alleen de ruwe getallen kreeg. Hij kon het patroon niet vinden. Hij was te simpel om de chaos van de getallen te doorgronden zonder een duwtje in de rug.

3. De Magische Sleutel (De "Crit8" Hint)
Toen de onderzoekers de beslisboom een specifieke hint gaven (een getal dat aangeeft hoe vaak de grafiek van de vergelijking van richting verandert), gebeurde er iets wonderlijks.

• De beslisboom schoot direct omhoog naar 84% goed!
• Hij bedacht een heel duidelijke, menselijke regel: "Als dit getal kleiner is dan 0,5, dan heb je 1 oplossing. Als het groter is dan 1,5, dan heb je 5 oplossingen."
• Dit was precies de wiskundige regel die ze zochten!

De Grote Les: Geometrie vs. Symbolen

Dit is het belangrijkste punt van het verhaal:

• Het Neuraal Netwerk leerde een geometrische kaart. Het leerde hoe de punten op een kaart lagen en kon daar een lijn trekken. Maar die lijn was gebaseerd op de specifieke training. Als je de kaart iets verschuift (andere getallen), raakt het de weg kwijt. Het heeft de regels niet geleerd, alleen de plekken.
• De Beslisboom met de hint leerde de symbolische wet. Het leerde de universele wet van de natuur die altijd geldt, ongeacht de schaal.

De Metafoor:
Stel je voor dat je een kind leert rijden.

• Het Neuraal Netwerk is als een kind dat een route uit zijn hoofd leert door er 1000 keer te rijden. Het kent de weg perfect, maar als je de straatnaam verandert of een nieuw verkeersbord plaatst, raakt het verdwaald. Het kan niet uitleggen waarom het linksaf moet, het doet het gewoon omdat het zo voelt.
• De Beslisboom met de hint is als een kind dat de verkeersregels heeft geleerd. Zodra je het de regel geeft ("Bij een rood licht moet je stoppen"), begrijpt het het principe. Het kan nu rijden in elke stad ter wereld, zelfs als de straten anders zijn.

Conclusie

De onderzoekers concluderen dat AI momenteel niet in staat is om zelfstandig complexe wiskundige regels uit ruwe data te "ontdekken".

AI kan wel heel goed voorspellen (het is een goede gokker), maar het kan niet zelfstandig de uitleg vinden (het is geen uitvinder). Om AI te laten begrijpen wat het doet, moeten mensen de AI nog steeds de juiste "wiskundige bril" opzetten. De AI is nog niet slim genoeg om de bril zelf te vinden; wij moeten die voor haar maken.

Kortom: In de wereld van wiskunde is "interpreteerbaarheid" (begrijpen hoe het werkt) nog steeds een menselijke taak die we aan de computer moeten geven, niet iets wat de computer voor ons doet.

Technische samenvatting

Titel: Over de grenzen van interpreteerbaar machine learning bij de classificatie van vijfdegraads wortels

Auteurs: Rohan Thomas en Majid Bani-Yaghoub (Universiteit van Missouri-Kansas City)

---

1. Het Probleem

De kernvraag van dit onderzoek is of Machine Learning (ML) modellen autonoom interpreteerbare wiskundige structuren kunnen herontdekken uit ruwe numerieke data, zonder menselijke ingreep of vooraf gedefinieerde symbolische regels.

Als testbed wordt de classificatie van de configuratie van reële wortels van polynomen tot graad vijf gebruikt:

• Graad 2 t/m 4: Er bestaan algebraïsche discriminanten (bijv. $b^2 - 4ac$ voor kwadratische vergelijkingen) die de wortelconfiguratie exact bepalen.
• Graad 5 (Quintisch): Volgens de stelling van Abel-Ruffini bestaat er geen algemene symbolische oplossing in radicalen. Hoewel het tellen van reële wortels algoritmisch oplosbaar is (bijv. via Sturm-reeksen), ontbreekt een eenvoudige, gesloten formule.

Dit creëert een gecontroleerde omgeving om te testen of ML-modellen de onderliggende wiskundige invarianten (zoals tekenwisselingen bij kritieke punten) zelfstandig kunnen afleiden uit de coëfficiënten van de polynoom, of dat ze slechts continue geometrische benaderingen leren.

2. Methodologie

De auteurs hebben een uitgebreid experimenteel kader opgezet met de volgende componenten:

• Dataset: 40.000 quintische polynomen gegenereerd met coëfficiënten willekeurig getrokken uit het interval $[-10, 10]$. De grondwaarheid (aantal reële wortels: 1, 3 of 5) werd numeriek berekend met hoge precisie.
• Modellen: Een diversiteit aan modellen werd getest, waaronder:
  • Interpreteerbare modellen: Beslissingsbomen (CART), Logistische regressie.
  • Ensemble-methoden: Random Forest, Gradient Boosting, XGBoost.
  • "Black-box" modellen: Neuronale netwerken (MLP), SVM.
  • Symbolische regressie (PySR) om te zoeken naar exacte wiskundige formules.
• Feature Engineering:
  • Ruwe coëfficiënten: Alleen de coëfficiënten van de polynoom.
  • Wiskundige features: 63 afgeleide features gebaseerd op klassieke theorieën, waaronder Sturm-reeksen, Descartes' tekenregel, Newton-sommen, en kritieke punten (waar de afgeleide nul is).
  • Speciale feature (Crit8): Het aantal tekenwisselingen in de rij van polynoomwaarden op de kritieke punten. Dit is een cruciale indicator voor het aantal wortels (via de Tussenwaardestelling).
• Validatie:
  • Eerst getest op graad 2-4 om te verifiëren of modellen bekende regels kunnen leren als de juiste features worden gegeven.
  • Vervolgens getest op graad 5 met en zonder feature engineering.
  • Knowledge Distillation: Een neuronale netwerk werd getraind en vervolgens gebruikt om een beslissingsboom te "distilleren" (leren om de voorspellingen van het netwerk na te bootsen) om de interne logica te onthullen.
  • Robuustheidstests: Out-of-Distribution (OOD) extrapolatie, data-efficiëntie en ruisbestendigheid.

3. Belangrijkste Resultaten

A. Prestatieverschil tussen modellen

• Neuronale netwerken: Bereikten een sterke prestatie (84,3% ± 0,9% gebalanceerde nauwkeurigheid) op de classificatie van quintische polynomen alleen met ruwe coëfficiënten.
• Beslissingsbomen: Presteerden aanzienlijk slechter (59,9% ± 0,9%) met alleen ruwe coëfficiënten, wat aantoont dat ze de complexe patronen niet autonoom kunnen ontdekken.
• Invloed van features: Wanneer de specifieke feature Crit8 (tekenwisselingen bij kritieke punten) werd toegevoegd, verbeterden beslissingsbomen dramatisch tot 84,2%, wat gelijkstaat aan de prestaties van de neurale netwerken.

B. Knowledge Distillation en Interpretatie

• Na distillatie bleek dat de feature Crit8 verantwoordelijk was voor 97,5% van de leerstructuur in de beslissingsboom.
• De afgeleide regels waren wiskundig intuïtief en correct:
  • Crit8 ≤ 0,5 → 1 reële wortel.
  • 0,5 < Crit8 ≤ 1,5 → 3 reële wortels.
  • Crit8 > 1,5 → 5 reële wortels.
• Cruciaal punt: Deze regels waren alleen te ontdekken omdat de onderzoekers de feature Crit8 expliciet hebben ontworpen. Het model ontdekte deze regel niet autonoom.

C. Robuustheid en Generalisatie

• OOD Extrapolatie: Beslissingsbomen met exacte algebraïsche invarianten (zoals discriminanten) bleven perfect stabiel bij schaalveranderingen van de data. Neuronale netwerken daarentegen verloren significant aan nauwkeurigheid buiten het trainingsdomein, wat suggereert dat ze continue, data-afhankelijke geometrische benaderingen hebben geleerd in plaats van schaal-invariante symbolische regels.
• Data-efficiëntie: Invariant-bewuste modellen hadden slechts 50-100 steekproeven nodig voor perfecte nauwkeurigheid, terwijl neurale netwerken duizenden steekproeven nodig hadden en nog steeds verbeterden bij meer data.
• Ruis: Beide modellen degradeerden identiek onder ruis, wat aangeeft dat de instabiliteit voortkomt uit de aard van de polynoomwortels zelf (kleine veranderingen in coëfficiënten kunnen wortels drastisch veranderen), en niet uit het model.

4. Bijdragen en Conclusies

Belangrijkste bijdragen:

1. Validatie van methodologie: Het bewijs dat interpreteerbare modellen (zoals beslissingsbomen) perfecte regels kunnen extraheren voor graad 2-4 als de juiste features worden geboden.
2. Identificatie van de "Complexity Cliff": Symbolische regressie faalt consequent bij polynomen van graad 4 en hoger, terwijl neurale netwerken wel goed presteren maar geen interpreteerbare regels produceren.
3. Het onderscheid tussen geometrie en symboliek: Het onderzoek toont aan dat neurale netwerken succesvol een continue, data-afhankelijke geometrische benadering van de beslissingsgrens leren, maar geen discrete, schaal-invariante symbolische regels herontdekken.

Conclusie:
Hoewel ML-modellen hoge voorspellende nauwkeurigheid kunnen bereiken op complexe wiskundige problemen, is er geen bewijs dat deze modellen autonoom mens-interpreteerbare wiskundige regels kunnen herontdekken uit ruwe data. De "interpretability gap" (het gat tussen voorspellende kracht en begrijpelijkheid) kan alleen worden overbrugd door menselijke ingreep in de vorm van expliciete structurele inductieve bias (zoals het handmatig ontwerpen van features zoals Crit8).

Significantie:
Deze bevindingen suggereren dat voor gestructureerde wiskundige domeinen, puur datagedreven benaderingen onvoldoende zijn voor autonome wiskundige ontdekking. Toekomstige vooruitgang vereist waarschijnlijk hybride neuro-symbolische methoden of modellen met ingebouwde wiskundige inductieve bias, in plaats van het vertrouwen op "black-box" deep learning.