Data-driven Machine Learning Cannot Reach Symbolic-level Logical Reasoning -- The Limit of the Scaling Law
Dieses Paper argumentiert, dass datengesteuertes überwachtes maschinelles Lernen aufgrund inhärenter methodischer Einschränkungen bei der Unterscheidbarkeit von Trainingsdaten und widersprüchlichen Trainingszielen nicht die Stringenz symbolischer logischer Argumentation erreichen kann, eine Schlussfolgerung, die sowohl durch theoretische Analysen als auch durch experimentelle Belege gestützt wird, die zeigen, dass selbst hochpräzise Modelle wie GPT-5 daran scheitern, korrekte logische Erklärungen zu liefern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter eine ganz bestimmte Art von Logikrätsel beizubringen, einen sogenannten Syllogismus. Dies sind einfache „Wenn A, dann B“-Rätsel, wie zum Beispiel:
- Prämisse 1: Alle Katzen sind Säugetiere.
- Prämisse 2: Alle Säugetiere sind Tiere.
- Konklusion: Daher sind alle Katzen Tiere.
Seit Jahrhunderten nutzen Menschen strikte Regeln (symbolische Logik), um diese perfekt zu lösen. Aber heute verwenden wir hauptsächlich Maschinelles Lernen (ML), was so ist, als würde man einen Roboter lehren, indem man ihm Millionen von Beispielen zeigt und hofft, dass er das Muster von selbst erkennt.
Dieses Paper stellt eine große Frage: Wenn wir dem Roboter einfach immer mehr Beispiele zeigen (die Daten skalieren), wird er dann irgendwann so perfekt und präzise werden wie ein Mensch, der strikte Logikregeln verwendet?
Die Autoren sagen Nein. Hier ist die Begründung, erklärt durch einfache Analogien.
1. Das „Fotoalbum“ vs. das „Regelbuch“
Denken Sie an traditionelle Logik als ein Regelbuch. Es weiß genau, warum „Alle Katzen sind Tiere“ wahr ist, basierend auf den Definitionen der Wörter. Es macht nie einen Fehler, weil es den Regeln folgt.
Aktuelles Maschinelles Lernen ist wie ein Fotoalbum. Wenn Sie einem Roboter eine Million Fotos von Katzen und Hunden zeigen, lernt er, sie zu erkennen, indem er nach Mustern sucht (Ohren, Fell, Schwänze). Er versteht eigentlich nicht, was eine Katze ist; er weiß nur, dass „dieses Bild wie die anderen 999.999 Bilder aussieht, die ich gesehen habe“.
Das Paper argumentiert, dass der Roboter, egal wie viele Fotos (Daten) man dem Album hinzufügt, niemals das echte Regelbuch lernen wird. Er wird nur besser darin, basierend auf vergangenen Fotos zu raten.
2. Die zwei großen Hürden für bildbasiertes Lernen
Die Autoren testeten einen spezifischen Typ von Roboter, der lernt, Logik durch das Betrachten von Bildern (wie Venn-Diagramme mit Kreisen) zu verstehen. Sie fanden zwei „Sackgassen“, die verhindern, dass dieser Roboter jemals perfekte Logik erreicht, egal wie viel er trainiert.
Hürde A: Der „blinde Fleck“ in den Trainingsdaten
Stellen Sie sich vor, Sie bringen einem Roboter bei, Obst zu sortieren. Sie zeigen ihm Äpfel, Orangen und Bananen. Aber Sie vergessen, ihm eine ganz bestimmte, seltene Birne zu zeigen.
- Das Problem: In der Logik gibt es 24 spezifische „gültige“ Arten, wie ein Syllogismus funktionieren kann. Die Autoren fanden heraus, dass die Trainingsdaten (die Bilder), mit denen diese Roboter unterrichtet wurden, nicht in der Lage sind, zwischen allen 24 gültigen Typen zu unterscheiden.
- Die Analogie: Es ist, als würde man versuchen, jemandem beizubringen, zwischen 24 verschiedenen Blautönen zu unterscheiden, aber man gibt ihm nur eine Farbpalette mit 20 Farben. Egal wie viel er übt, er wird bei den fehlenden 4 Farbtönen immer verwirrt sein. Der Roboter wird bei einem Test vielleicht 99 % richtig machen, aber er scheitert an den spezifischen logischen „Blautönen“, die ihm nicht explizit gezeigt wurden.
Hürde B: Die „Lückenausfüll“-Falle
Dies ist der interessanteste Teil.
- Mustererkennung (Der Künstler): Wenn Sie einem Menschen das Bild eines Kreises zeigen, bei dem ein winziges Stück fehlt, füllt unser Gehirn die Lücke automatisch aus und sieht einen ganzen Kreis. Wir sind groß darin, das Ganze aus den Teilen zu erschließen.
- Logisches Denken (Der Richter): In der strengen Logik ist es Ihnen verboten, Informationen hinzuzufügen, die nicht da sind. Wenn die Prämisse sagt „Einige X sind Y“, dürfen Sie nicht annehmen, dass „Alle X sind Y“ sind. Sie müssen sich exakt an das halten, was geschrieben steht.
- Der Konflikt: Der Roboter hat zwei Aufgaben:
- Künstler: Das Bild betrachten und die ganze Form erraten (fehlende Teile ergänzen).
- Richter: Die Logik betrachten und entscheiden, ob die Konklusion wahr ist.
- Der Crash: Der „Künstler“-Teil des Roboters neigt dazu zu „halluzinieren“ oder Lücken zu füllen, die gar nicht existieren (z. B. einen vollen roten Kreis zu sehen, obwohl nur ein halber roter Kreis gezeichnet wurde). Der „Richter“-Teil nutzt diese falschen, ergänzten Informationen dann, um eine Entscheidung zu treffen.
- Das Ergebnis: Der Roboter hat die richtige Antwort durch Zufall (weil er die Lücke korrekt ergänzt hat), aber aus dem falschen Grund. Oder er hat die falsche Antwort, weil er eine Lücke ergänzt hat, die gar nicht da sein sollte. Man kann den Roboter nicht darauf trainieren, das „Ausfüllen der Lücken“ zu unterlassen, denn genau das ist die Art und Weise, wie er lernt, Bilder zu erkennen.
3. Die „Perfektergebnis“-Illusion
Die Autoren testeten die neuesten KI-Modelle (wie GPT-5) und fanden heraus, dass sie bei diesen Logikrätseln eine Genauigkeit von 100 % erreichen können. Wenn sie die KI jedoch baten, ihre Antwort zu erklären, lieferte sie oft eine falsche Erklärung oder eine erfundene Geschichte (Halluzination), um die richtige Antwort zu rechtfertigen.
- Die Analogie: Stellen Sie sich einen Schüler vor, der bei einer Mathearbeit zu 100 % die richtige Antwort rät, aber die falschen Rechenschritte aufschreibt, um dorthin zu gelangen. Wenn der Lehrer nur das Endergebnis prüft, bekommt der Schüler eine Eins. Aber wenn der Lehrer die Logik prüft, fällt der Schüler durch.
- Die Konklusion: Da der Trainingsprozess stoppt, sobald der Roboter eine Genauigkeit von 100 % erreicht, gibt es keinen Druck mehr, die „falschen Schritte“ (das schlechte Denken) zu korrigieren. Der Roboter hat die Grenze des „gut Ratens“ erreicht, aber er hat nicht das Niveau des „korrekten Denkens“ erreicht.
Das Fazit
Das Paper kommt zu dem Schluss, dass Daten nicht ausreichen.
Man kann das mangelnde logische Verständnis eines Roboters nicht beheben, indem man ihm einfach mehr Daten gibt oder ihn länger trainiert.
- Symbolische Logik ist wie ein GPS, das einer strikten Karte folgt.
- Datengesteuerte KI ist wie ein Tourist, der eine Stadt schon eine Million Mal besucht hat und die Abkürzungen kennt, aber die Karte eigentlich nicht versteht.
Wenn man einen Roboter will, der rigorose, unerschütterliche logische Schlussfolgerungen ziehen kann (die Art, die für Recht, Medizin oder komplexe Wissenschaft nötig ist), wird es nicht ausreichen, die aktuellen KI-Methoden einfach nur zu skalieren. Wir brauchen einen völlig anderen Ansatz – einen, der das „Regelbuch“ direkt in die Maschine einbaut, anstatt ihr nur mehr „Fotos“ zu zeigen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.