Where Cognition Lives: Dissecting Emergent from Computed Function in a Minimal Complete Cognitive Architecture

Auf der Suche nach dem Bau von Maschinen, die denken können, debattieren Wissenschaftler schon lange darüber, woher der Funke der Intelligenz tatsächlich kommt. Eine Denkschule glaubt, dass es genügt, ein ausreichend großes System zu bauen und es aus riesigen Mengen an Daten lernen zu lassen, dass komplexe Fähigkeiten wie logisches Schlussfolgern und Entscheidungsfindung einfach von selbst erscheinen werden, ganz so wie ein Kind, das lernt zu laufen, ohne die Mechanik des Gleichgewichts gelernt zu haben. Die gegensätzliche Ansicht legt nahe, dass Denken ein sorgfältig konstruierter Prozess ist, der ausgefeilte, dedizierte Teile für Wahrnehmung, Gedächtnis und Urteilskraft erfordert, vergleichbar mit einer Fabrik mit spezialisierten Montagelinien. Jahrelang war dies ein philosophisches Tauziehen, doch eine neue Studie verlagert die Konversation von der Theorie auf den Laborboden. Die Forscher setzten sich zum Ziel, eine kleine, vollständige Denkmaschine zu bauen und dann jedes einzelne Teil streng zu testen, um zu sehen, ob es seine Aufgabe durch Erfahrung lernte oder ob es explizit programmiert werden musste, um sie auszuführen. Ihr Ziel war nicht nur zu sehen, ob die Maschine Probleme lösen konnte, sondern genau zu verstehen, wie sie entschied, wann sie aufhörte zu denken, wie sie die Wichtigkeit einer Aufgabe beurteilte und ob sie lernen konnte, ihre eigene mentale Energie zu verwalten.

Das Team konstruierte ein minimales, aber vollständiges kognitives System, ein digitales Gehirn, das aus wenigen Schlüsselkomponenten besteht, die zusammenarbeiten. Im Zentrum stand ein „Reasoner“, ein Modul, das in der Lage war, ein Problem Schritt für Schritt abzuarbeiten. Um dieses herum befanden sich Werkzeuge, die ihm halfen zu entscheiden, wie lange es nachdenken sollte, ein Kontrollsystem zur Verwaltung seiner Energie und ein Werte-Modul, das beurteilte, wie wichtig eine Aufgabe war. Sie trainierten dieses System an einer Reihe von Logikrätseln, speziell Aufgaben, die die Umordnung von Symbolen beinhalteten – Aufgaben, die für Standard-Computermodelle schwierig zu lösen sind, ohne stecken zu bleiben. Die Forscher unterzogen daraufhin jeden Teil dieser Maschine einem Testbatterie und stellten für jeden Teil eine einfache Frage: Entstand diese Fähigkeit natürlich aus dem Trainingsprozess oder musste sie durch einen spezifischen, vorgegebenen Mechanismus berechnet werden? Die Antworten, die sie fanden, waren scharf und oft überraschend; sie zeigten, dass zwar die Fähigkeit, Probleme zu lösen, entstehen kann, die Fähigkeit jedoch, zu entscheiden, wann man aufhört und wie viel Aufwand man aufwendet, dies nicht kann.

Die bedeutendste Entdeckung betraf die Frage, wie die Maschine entschied, wann sie aufhörte zu denken. In vielen modernen Systemen der künstlichen Intelligenz wird dem Modell erlaubt, so lange zu laufen, wie es braucht, und es stoppt erst, wenn es sich sicher fühlt. Die Forscher fanden heraus, dass ihr System zwar lernte aufzuhören, diese Fähigkeit jedoch eher eine Illusion der Messung als eine echte Fertigkeit war. Wenn sie die Maschine zwangen, exakt an dem Punkt aufzuhören, an dem die „intelligente“ Version gewählt hatte, war die Leistung identisch. Der scheinbare Vorteil der selbststoppenden Maschine kam vollständig aus einem Fehler in der Art und Weise, wie ihr Endergebnis ausgelesen wurde, und nicht aus einem tieferen Verständnis der Aufgabe. Soblich die Forscher diese Auslesemethode korrigierten, sank der Wert der Maschine, die sich selbst beim Denken beobachtete, auf fast Null. Zu wissen, welches spezifische Rätsel mehr Zeit als ein anderes benötigte, erwies sich als nur Bruchteile eines Prozentsatzes an Leistungssteigerung wert. Der interne Monitor der Maschine traf nicht wirklich bessere Entscheidungen; er war lediglich ein Nebenprodukt der Art und Weise, wie das System gebaut war.

Dies führte zu einem klareren Bild davon, wo wahre Entscheidungsfindung stattfindet. Die Forscher testeten, ob die Maschine lernen konnte, wichtige Aufgaben gegenüber weniger wichtigen zu priorisieren, indem sie sie einfach darauf trainierten, sich um das Ergebnis zu sorgen. Sie fanden heraus, dass der Trainingsprozess die Maschine tatsächlich schlechter darin machte. Als das System gelehrt wurde, die Konsequenzen seiner Antworten abzuwägen, wurde es verwirrt und weniger genau. Die Fähigkeit, zu entscheiden, wie viel Aufwand für eine Aufgabe zu betreiben ist, entstand überhaupt nicht aus dem Lernprozess. Stattdessen musste sie durch einen expliziten, separaten Rechner berechnet werden, der das Problem betrachtete und das Anstrengungsniveau festlegte, noch bevor die Maschine überhaupt mit der Arbeit begann. Diese „berechnete Entscheidung“ war weitaus effektiver als jeder Versuch, die Maschine die Bedeutung einer Aufgabe von selbst lernen zu lassen. Der interne Zustand der Maschine, der durch das Training geformt wurde, verlorft natürlich genau die Informationen, die für diese wertbasierten Entscheidungen nötig waren, wodurch der explizite Rechner als einzige Möglichkeit übrig blieb, die Aufgabe zu bewältigen.

Die Studie untersuchte auch, wie sich diese Erkenntnisse auf die heute populären, massiven Sprachmodelle übertragen lassen. Die Forscher testeten ein großes, eingefrorenes Sprachmodell – eines, das nicht neu trainiert werden kann – mit ähnlichen Methoden, um zu sehen, ob es seine eigene Denkzeit steuern konnte. Sie fanden heraus, dass die gängige Strategie, viele verschiedene Antworten zu generieren und über die beste abzustimmen, nur sehr wenig Raum für Verbesserungen bot. Das Modell neigte dazu, sich selbst zuzustimmen, selbst wenn es falsch lag, was bedeutete, dass es kaum half, es länger denken zu lassen oder häufiger abzustimmen. Genau wie bei der kleineren Maschine war die Fähigkeit, sich selbst beim Denken zu beobachten und zu entscheiden, wann man aufhört, nahezu wertlos. Die Forscher kamen zu dem Schluss, dass wir, bevor wir versuchen können, die Denkweise dieser großen Modelle zu steuern, zuerst messen müssen, ob die Werkzeuge, die wir zu ihrer Steuerung haben, tatsächlich funktionieren. In vielen Fällen bewegt der Hebel, den wir zu ziehen versuchen, die Maschine auf keine sinnvolle Weise.

Das letzte Kapitel der Forschung untersuchte einen spezifischen Typus schwieriger Probleme, bei denen die Kosten des Denkens erst am Ende verborgen bleiben, ähnlich wie beim Gehen auf einem Pfad, dessen Distanz man erst kennt, wenn man ankommt. In diesen „Cliff“-Szenarien sagten die Forscher voraus, dass der Wert einer Vorab-Entscheidung drastisch ansteigen würde. Ihre Vorhersage bestätigte sich: In diesen Situationen wurde es unglaublich wichtig, den Wert einer Aufgabe vor dem Start zu kennen, was einen massiven Leistungsschub im Vergleich zum bloßen Wissen um den Schwierigkeitsgrad bedeutete. Dieser Schub kam jedoch nicht daher, dass die Maschine plötzlich das Problem besser verstand; er kam daher, dass der potenzielle Lohn für das Richtigliegen so viel größer war. Die Studie zeigte, dass die Größe des Problems und die Struktur der Information zwei verschiedene Dinge sind. Die Maschine musste keine neue Art des Denkens lernen; sie benötigte lediglich einen klaren, vorab berechneten Plan, um mit den hohen Einsätzen umzugehen.

Letztendlich zeigt die Landkarte dieser Forschung, wo Kognition nicht angesiedelt ist. Sie liegt nicht in der Fähigkeit der Maschine, sich selbst beim Denken zu beobachten, noch liegt sie im Trainingsprozess, der ihr lehrt, eine Aufgabe zu bewerten. Stattdessen muss die Fähigkeit, den Aufwand zu verwalten und Entscheidungen zweiter Ordnung darüber zu treffen, was wichtig ist, als eine separate, explizite Berechnung eingebaut werden. Die Maschine lernt, das Rätsel zu lösen, aber es muss ihr durch einen separaten Mechanismus gesagt werden, wie hart sie sich anstrengen soll. Die Forscher fanden heraus, dass der am meisten wiederverwendbare Teil ihrer Arbeit nicht eine neue Art von Intelligenz war, sondern eine rigorose Methode, um zu messen, was real und was eine Illusion ist. Indem sie bewiesen, dass viele vermeintliche Fähigkeiten eigentlich Artefakte der Art und Weise sind, wie wir sie messen, haben sie ein klareres, ehrlicheres Fundament für den Bau von Maschinen geschaffen, die wahrhaftig denken können.