Brain in a Vat: On Missing Pieces Towards Artificial General Intelligence in Large Language Models
Dieses Perspektivpapier kritisiert die aktuelle Bewertung von LLMs wegen der Überbewertung ihrer Fähigkeiten, definiert künstliche allgemeine Intelligenz durch vier Schlüsselmerkmale einschließlich Aufgabengenerierung und Weltmodellierung und argumentiert, dass das Erreichen von AGI die Überbrückung der Lücke zwischen Wissen und Handeln durch aktives Engagement in der realen Welt und iteratives Lernen durch Versuch und Irrtum erfordert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die Kernidee: Das „Gehirn im Gefäß“
Stellen Sie sich eine Person vor, deren Gehirn chirurgisch aus ihrem Körper entfernt und in ein Nährstoffbad gesetzt wurde. Ein Supercomputer ist direkt mit ihrem Gehirn verbunden und sendet ihr elektrische Signale, die perfekt das Gefühl simulieren, zu gehen, zu essen, zu sprechen und die Welt zu sehen. Für die Person im Gefäß fühlt sich das Leben vollkommen echt an. Sie kann fließend sprechen und eine „Tasse“ in großem Detail beschreiben.
Sie hat jedoch noch nie eine Tasse gehalten, ihr Gewicht gespürt oder daraus getrunken. Sie weiß nur das Wort „Tasse“, weil der Computer ihr gesagt hat, was das Wort bedeutet.
Die Behauptung der Arbeit: Aktuelle Large Language Models (LLMs) wie GPT-4 sind genau wie dieses „Gehirn im Gefäß“. Sie sind brillant darin, Texte zu verarbeiten und das nächste Wort in einem Satz vorherzusagen, aber sie haben keine echte Verbindung zur physischen Welt. Sie kennen die Wörter für Dinge, aber sie kennen die Dinge selbst nicht.
Teil 1: Warum wir getäuscht werden (Das „Pauken“-Problem)
Die Autoren argumentieren, dass wir LLMs oft für Genies halten, weil sie in standardisierten Tests (wie dem SAT, der Bar Exam oder dem GRE) unglaublich hohe Punktzahlen erreichen.
Die Analogie: Stellen Sie sich einen Studenten vor, der jeden einzelnen Lösungsschlüssel der letzten 50 Jahre eines ganz bestimmten Mathetests auswendig gelernt hat. Wenn man ihm einen Test gibt, den er schon einmal gesehen hat, erzielt er eine perfekte Punktzahl. Aber wenn man ihn bittet, ein völlig neues Arten von Matheproblem zu lösen, das er noch nie gesehen hat, oder wenn man die Zahlen leicht verändert, scheitert er kläglich. Er hat nicht Mathematik gelernt; er hat Muster gelernt.
Die Arbeit zeigt, dass LLMs genau das Gleiche tun:
- Sie sind gut im „Pauken“: Sie glänzen in Fächern mit viel Textdaten (wie Geschichte oder Literatur), weil sie die Muster auswendig gelernt haben.
- Sie haben Schwierigkeiten mit dem „Schlussfolgern“: Wenn der Test tatsächliche Logik, Physik oder das Lösen eines neuen Problems erfordert (wie fortgeschrittene Mathematik oder Naturwissenschaften), sinken ihre Werte signifikant. Sie raten nur basierend darauf, welche Wörter normalerweise auf andere Wörter folgen, anstatt die zugrunde liegenden Regeln zu verstehen.
Teil 2: Das „Karussell“ der Sprache
Die Arbeit beschreibt ein amüsantes Experiment, bei dem zwei KI-Chatbots wurden, die miteinander sprachen.
- Was passierte: Sie begannen mit einem normalen Satz („Es ist heute heiß“). Nach einigen Austauschrunden steckten sie in einer Schleife fest und sagten immer wieder nur „Danke sehr!“ und „Einen schönen Tag noch!“.
- Die Lektion: Ohständen einer realen Welt, mit der sie interagieren können, wird Sprache zu einem Spiel des „Stille Post spielen“, bei dem Symbole nur auf andere Symbole abgebildet werden. Sie kommunizieren nicht über die Realität; sie spiegeln einander nur in einem Kreis wider.
Teil 3: Was wahre Intelligenz tatsächlich braucht
Die Autoren sagen, dass ein System vier spezifische Eigenschaften benötigt, die aktuellen KIs fehlen, um vom „Gehirn im Gefäß“ zu echter Künstlicher Allgemeiner Intelligenz (AGI) zu gelangen:
- Unendliche Aufgaben: Es sollte nicht nur in der Lage sein, eine feste Liste von Dingen zu tun (wie „eine E-Mail schreiben“ oder „ein Matheproblem lösen“). Es muss in der Lage sein, jede Aufgabe zu bewältigen, die auftaucht.
- Erschaffung neuer Aufgaben: Es sollte nicht nur auf Anweisungen warten. Es sollte in der Lage sein, eine Situation zu betrachten und zu sagen: „Ich muss herausfinden, wie ich das repariere“, und eine neue Aufgabe erfinden, um es zu lösen.
- Ein Wertesystem: Es braucht ein „Warum“. Genau wie Menschen von Überleben, Neugier oder Freundlichkeit angetrieben werden, braucht eine KI ein internes Set an Werten, das entscheidet, was sie als Nächstes versuchen sollte.
- Ein Weltmodell: Es braucht eine mentale Landkarte davon, wie die reale Welt funktioniert (Gravitation, Ursache-Wirkung, soziale Normen), und nicht nur eine Karte davon, wie Wörter miteinander in Beziehung stehen.
Teil 4: Das fehlende Puzzleteil – „Wissen“ vs. „Tun“
Die Arbeit nutzt den berühmten chinesischen Philosophen Wang Yang-Ming, um einen Punkt zu machen: „Wer ‚weiß‘, aber nicht handelt, weiß eigentlich noch nicht.“
Die Analogie der „Tasse“:
- Aktuelle KI: Kann Ihnen sagen, dass eine Tasse „rund“ ist, „einen Henkel hat“ und „zum Trinken verwendet wird“. Sie hat die Definition millionenfach gelesen.
- Reale Intelligenz: Ein Baby lernt, was eine Tasse ist, indem es sie greift, sie fallen lässt, spürt, wie sie heiß wird, Wasser verschüttet und erkennt: „Oh, das ist dazu da, Flüssigkeit zu halten, und wenn ich sie zu weit kippe, verschüttet sie etwas.“
Die Autoren argumenten, dass Wissen aus Handeln entsteht. Man kann die Welt nicht allein durch das Lesen eines Handbuchs (passiver Input) wirklich verstehen. Man muss berühren, zerbrechen, ausprobieren und scheitern (aktive Interaktion).
- Das „Blicket“-Experiment: Die Arbeit erwähnt ein Experiment, bei dem Kinder lernen, welche Blöcke eine Maschine einschalten. Kinder, die die Blöcke spielen und testen dürfen, lernen viel schneller als jene, die nur zusehen. Die aktuelle KI ist wie das Kind, das nur zuschauen darf; es kann die Regeln des Spiels nicht lernen, weil es die Teile nicht anfassen kann.
Teil 5: Was als Nächstes passieren muss
Die Arbeit kommt zu dem Schluss, dass wir aufhören müssen, nur größere Textdatenbanken zu erstellen. Um echte AGI zu bauen, brauchen wir:
- Bessere Tests: Wir müssen aufhören, KI mit Dingen zu testen, die sie vielleicht bereits aus dem Internet auswendig gelernt hat. Wir brauchen Tests, die sie zwingen, neue Probleme zu lösen, die sie noch nie gesehen hat.
- Reiche Spielplätze: Wir müssen virtuelle Welten (Metaversen) bauen, in denen KIs tatsächlich Dinge tun können. Nicht nur chatten, sondern Objekte aufheben, ihr Gewicht spüren und sehen, was passiert, wenn sie zerbrechen.
- Einheit von Wissen und Handeln: Wir müssen Systeme bauen, in denen Lernen und Tun dasselbe sind. Die KI sollte lernen, indem sie Dinge ausprobiert, Fehler macht und ihr Verständnis basierend auf den Ergebnissen anpasst.
Kurz gesagt: Die Arbeit sagt: „Hört auf, die KI dafür zu loben, dass sie eine großartige Enzyklopädie ist. Sie ist nur eine sehr gute Mimikry. Um sie wahrhaft intelligent zu machen, müssen wir ihr einen Körper (oder einen Roboter) geben, damit sie durch Tun lernt und nicht nur durch Lesen.“
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.