Data-driven Machine Learning Cannot Reach Symbolic-level Logical Reasoning -- The Limit of the Scaling Law
Dit artikel betoogt dat datagestuurde supervised machine learning de rigueur van symbolische logische redenering niet kan bereiken vanwege inherente methodologische beperkingen in de onderscheidbaarheid van trainingsdata en conflicterende trainingsdoelstellingen, een conclusie die wordt ondersteund door zowel theoretische analyse als experimenteel bewijs dat zelfs modellen met een hoge nauwkeurigheid, zoals GPT-5, er niet in slagen correcte logische verklaringen te geven.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot probeert te leren hoe hij een heel specifiek type logische puzzel moet oplossen, namelijk een syllogisme. Dit zijn eenvoudige "Als A, dan B"-puzzels, zoals:
- Premisse 1: Alle katten zijn zoogdieren.
- Premisse 2: Alle zoogdieren zijn dieren.
- Conclusie: Daarom zijn alle katten dieren.
Eeuwenlang hebben mensen strikte regels (symbolische logica) gebruikt om dit perfect op te lossen. Maar tegenwoordig gebruiken we voornamelijk Machine Learning (ML), wat er eigenlijk op neerkomt een robot te leren door hem miljoenen voorbeelden te laten zien en te hopen dat hij het patroon vanzelf ontdekt.
Dit artikel stelt een grote vraag: Als we een robot steeds meer voorbeelden blijven laten zien (het opschalen van data), zal hij dan uiteindelijk even perfect en rigoureus worden als een mens die strikte logische regels gebruikt?
De auteurs zeggen Nee. Hier is waarom, uitgelegd via eenvoudige analogieën.
1. Het "Fotoalbum" versus het "Regelboek"
Denk aan traditionele logica als een Regelboek. Het weet precies waarom "Alle katten zijn dieren" waar is op basis van de definities van de woorden. Het maakt nooit een fout omdat het de regels volgt.
Huidige Machine Learning is als een Fotoalbum. Als je een robot een miljoen foto's van katten en honden laat zien, leert hij ze te herkennen door te zoeken naar patronen (oren, vacht, staarten). Hij begrijpt eigenlijk niet wat een kat is; hij weet alleen dat "deze foto lijkt op de andere 999.999 foto's die ik heb gezien."
Het artikel betoogt dat, ongeacht hoeveel foto's (data) je aan het album toevoegt, de robot nooit echt het Regelboek zal leren. Hij zal alleen maar beter worden in het raden op basis van eerdere foto's.
2. De twee grote hindernissen voor beeldgebaseerd leren
De auteurs testten een specifiek type robot dat logica leert door naar afbeeldingen te kijken (zoals Venn-diagrammen met cirkels). Ze ontdekten twee "doodlopende wegen" die deze robot ervan weerhouden ooit perfecte logica te bereiken, ongeacht hoeveel hij traint.
Hindernis A: De "Blinde Vlek" in de trainingsdata
Stel je voor dat je een robot leert om fruit te sorteren. Je laat hem appels, sinaasappels en bananen zien. Maar je vergeet hem een specifieke soort zeldzame peer te laten zien.
- Het Probleboek: In de logica zijn er 24 specifieke "geldige" manieren waarop een syllogisme kan werken. De auteurs ontdekten dat de trainingsdata (de afbeeldingen) die gebruikt wordt om deze robots te onderwijzen, niet in staat is om alle 24 geldige typen te onderscheiden.
- De Analogie: Het is also exits om iemand te leren het verschil te zien tussen 24 verschillende tinten blauw, maar je geeft ze alleen een kleurenpalet met 20 kleuren. Hoeveel ze ook oefenen, ze zullen altijd in de war raken over de ontbrekende 4 tinten. De robot kan een score van 99% halen op een test, maar hij faalt op de specifieke logische "tinten" die hem niet expliciet zijn getoond.
Hindernis B: De "Invul-in-het-gat" valstrik
Dit is het meest interessante deel.
- Patroonherkenning (De Kunstenaar): Wanneer je een mens een afbeelding laat zien van een cirkel met een klein stukje dat ontbreekt, vult ons brein automatisch de leegte in en zien we een hele cirkel. We zijn erg goed in het raden van het geheel op basis van de delen.
- Logisch Redeneren (De Rechter): In strikte logica is het je verboden om informatie toe te voegen die er niet is. Als de premisse zegt "Sommige X zijn Y", mag je niet aannemen dat "Alle X zijn Y". Je moet je exact houden aan wat er geschreven staat.
- Het Conflict: De robot heeft twee taken:
- De Kunstenaar: Kijk naar de afbeelding en raad de hele vorm (het invullen van ontbrekende delen).
- De Rechter: Kijk naar de logica en beslis of de conclusie waar is.
- De Crash: Het "Kunstenaar"-gedeelte van de robot blijft "hallucineren" of gaten invullen die er niet zijn (bijvoorbeeld een volledige rode cirkel zien terwijl er slechts een halve rode cirkel getekend was). Het "Rechter"-gedeelte gebruikt deze valse, ingevulde informatie vervolgens om een beslissing te nemen.
- Het Resultaat: De robot krijgt het juiste antwoord bij toeval (omdat hij de leegte correct heeft ingevuld), maar om de verkeerde reden. Of hij krijgt het verkeerde antwoord omdat hij een gat heeft ingevuld dat er niet had moeten zijn. Je kunt de robot niet trainen om te stoppen met "het invullen van de gaten", want dat is precies hoe hij leert om afbeeldingen te herkennen.
3. De "Perfecte Score" Illusie
De auteurs testten de nieuwste AI-modellen (zoals GPT-5) en vonden dat ze 100% nauwkeurigheid kunnen halen op deze logische puzzels. Echter, wanneer ze de AI vroegen om haar antwoord te verklaren, gaf de AI vaak een foutieve verklaring of een verzonnen verhaal (hallucinatie) om het juiste antwoord te rechtvaardigen.
- De Analogie: Stel je een student voor die bijna altijd (100% van de tijd) het juiste antwoord raadt op een wiskundetoets, maar de verkeerde stappen opschrijft om daar te komen. Als de docent alleen het eindgetal controleert, krijgt de student een voldoende. Maar als de docent de logica controleert, is de student aan het falen.
- De Conclusie: Omdat het trainingsproces stopt zodra de robot 100% nauwkeurigheid bereikt, is er geen druk meer om de "verkeerde stappen" (de slechte redenering) te corrigeren. De robot heeft de grens van "goed raden" bereikt, maar heeft nog niet het niveau van "correct denken" bereikt.
De Kernboodschap
De conclusie van het artikel is dat Data niet genoeg is.
Je kunt het gebrek aan echt logisch begrip van een robot niet oplossen door hem simpelweg meer data te voeren of hem langer te trainen.
- Symbolische Logica is als een GPS die een strikte kaart volgt.
- Data-gestuurde AI is als een Toerist die een stad een miljoen keer heeft bezocht en de afkortingen kent, maar de kaart er niet echt van begrijpt.
Als je een robot wilt die rigoureus, onwankelbaar logisch kan redeneren (het soort dat nodig is voor recht, geneeskunde of complexe wetenschap), dan zal het simpelweg opschalen van huidige AI-methoden niet werken. We hebben een totaal andere aanpak nodig—één die het "Regelboek" in de machine bouwt, in plaats van hem alleen maar meer "Foto's" te laten zien.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.