Bootstrapping Cognitive Agents with a Large Language Model
Dieses Paper schlägt ein Framework vor, das interpretierbare kognitive Architekturen unter Nutzung des verrauschten Allgemeinwissens großer Sprachmodelle bootstrappt, wobei durch verkörperte Küchenaufgaben demonstriert wird, dass dieser hybride Ansatz eine größere Effizienz als die alleinige Nutzung von LLMs erreicht und gleichzeitig eine domänenspezifische Wissensverifizierung sowie -aktualisierung ermöglicht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter das Kochen in einer Küche beizubringen. Sie haben zwei sehr unterschiedliche Werkzeuge, um Ihnen dabei zu helfen:
Der „Super-Leser“ (Large Language Model): Dies ist wie ein Roboter, der jedes Buch, jede Website und jedes Rezept im Internet gelesen hat. Er weiß, dass „Tomaten normalerweise im Kühlschrank leben“ und dass „man ein Messer braucht, um einen Apfel zu schneiden“. Er ist jedoch ein wenig zerstreut. Manchmal erfindet er Dinge dazu (Halluzinationen), verliert sich in Details oder wird verwirrt. Zudem ist es sehr teuer, ihn jedes Mal um Rat zu fragen, wenn er seinen Arm bewegen muss.
Der „Strenge Bibliothekar“ (Kognitive Architektur): Dies ist wie ein Roboter mit einem sehr organisierten, schrittweisen Regelbuch. Er ist unglaublich zuverlässig und leicht zu verstehen. Wenn Sie ihm sagen: „Regel 1: Wenn der Kühlschrank offen ist, schau hinein“, wird er genau das tun. Aber er beginnt mit einem leeren Buch. Sie müssen jede einzelne Regel für jede einzelne Situation manuell aufschreiben, was einen riesigen menschlichen Aufwand bedeutet.
Die große Idee des Papers:
Die Autoren Feiyu (Gavin) Zhu und Reid Simmons von der Carnegie Mellon University haben beschlossen, diese beiden zu kombinieren. Sie haben ein System geschaffen, bei dem der Super-Leser die ersten Regeln für den Strengen Bibliothekar schreibt, und danach übernimmt der Bibliothekar das Kommando.
Denken Sie an Folgendes:
- Die Bootstrapping-Phase: Sie fragen den Super-Leser: „Wie finde ich ein Ei?“ Der Super-Leser sagt: „Nun, Eier sind normalerweise im Kühlschrank oder in einem Schrank.“ Der Roboter versucht dies dann in der Küche. Wenn es funktioniert, schreibt der Roboter dies als permanente, strikte Regel in sein eigenes Regelbuch: „Wenn ich ein Ei brauche, prüfe zuerst den Kühlschrank.“
- Die Lernphase: Der Roboter macht immer weiter. Er versucht, eine Tomate zu schneiden. Wenn er stecken bleibt, fragt er den Super-Leser nach einem Tipp. Der Super-Leser schlägt eine Strategie vor, und der Roboter verwandelt diese Strategie in eine permanente Regel.
- Das Ergebnis: Schließlich besitzt der Roboter sein eigenes, vollständiges Regelbuch. Er muss den teuren Super-Leser nicht mehr um Hilfe bitten. Er folgt einfach seinen eigenen Regeln.
Warum ist das besser, als nur den Super-Leser zu verwenden?
Das Paper testete dies in einer simulierten Küche mit Aufgaben wie „finde eine Tomate“, „schneide einen Apfel“ oder „putze die Arbeitsflächen“.
- Kosten und Geschwindigkeit: Den Super-Leser für jede einzelne Bewegung (wie „bewege links“, „greife Messer“, „schneide“) zu fragen, ist so, als würde man für jeden Schritt beim Bau eines Hauses einen Berater anrufen. Das ist langsam und kostet viel Geld (an Rechenleistung). Das neue System ruft den Berater nur ein paar Mal an, um die Regeln zu lernen, und baut das Haus dann selbst. Das Paper stellte fest, dass diese Methode signifikant weniger „Token“ (die Währung der KI-Rechenleistung) verbrauchte, als wenn man die KI für jede Aktion fragen würde.
- Zuverlässigkeit: Der Super-Leser wird manchmal albern. Er könnte denken, dass eine Tasse ein Becher ist, und deshalb aufhören, nach der Tasse zu suchen. Der Strenge Bibliothekar hingegen folgt seinen eigenen verifizierten Regeln. Wenn die Regel besagt „Prüfe die Spüle“, prüft er die Spüle, selbst wenn der Super-Leser einmal falsch geraten hat.
- Generalisierung: Sobald der Roboter die Regel „Wenn ich etwas finden muss, prüfe, wo es üblicherweise aufbewahrt wird“ gelernt hat, kann er diese Regel auf jedes beliebige Objekt anwenden (Eier, Messer, Tassen), ohne erneut unterrichtet werden zu müssen.
Wie es mit Fehlern umgeht:
Das System hat einen eingebauten „Kritiker“. Wenn der Roboter eine Regel ausprobiert und in einer Endlosschleife stecken bleibt (wie zum Beispiel ein Objekt aufzuheben und es immer wieder an derselben Stelle abzulegen), erkennt er, dass etwas nicht stimmt. Er bittet den Super-Leser, die Regel zu korrigieren, indem er sie spezifischer macht (z. B. „Hebe das Objekt nur auf, wenn es nicht bereits an der Zielstelle liegt“).
Das Fazament:
Dieses Paper zeigt, dass man sich nicht zwischen einer klugen, aber verrauschten KI und einem dummen, aber zuverlässigen Roboter entscheiden muss. Indem man die kluge KI nutzt, um das erste Handbuch für den zuverlässigen Roboter zu schreiben, erhält man ein System, das intelligent, kostengünstig und leicht verständlich ist. Der Roboter lernt aus dem „verrauschten“ Wissen der KI, filtert es aber durch sein eigenes logisches Gehirn, um einen sauberen, effizienten Satz von Anweisungen für Küchenaufgaben zu erstellen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.