A Motivational Architecture for Conversational AGI
Dieses Paper schlägt eine neuartige Motivationsarchitektur für konversationelle AGI vor, die Homöostase in linguistischer Weise neu interpretiert, indem sie psychologische Bedürfnisse wie Kompetenz und Zugehörigkeit durch eine zehnstufige Verarbeitungspipeline, eine duale Entscheidungsstrategie sowie eine funktionale Unterscheidung zwischen Gefühlen und Emotionen reguliert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie bauen einen Roboter, der nicht nur spricht, sondern sich auch um das Gespräch kümmert. Die meisten aktuellen KI-Chatbots sind wie Schauspieler, die ein Skript vorlesen; sie sagen das nächste Wort basierend auf dem vorangegangenen voraus, aber sie besitzen kein Innenleben, keinen wirklichen „Grund“ zu sprechen, außer um die Show am Laufen zu halten.
Dieses Paper schlägt ein neues „Betriebssystem“ für konversationelle KI vor. Es ist ein Weg, diesen Agenten eine motivationale Architektur zu geben – eine Reihe interner Antriebe und Gefühle, die das Sagen und Handeln leiten, ähnlich wie Menschen von Hunger, Neugier oder dem Bedürfnis nach Verbindung angetrieben werden.
Hier ist die Aufschlüsselung dieser Idee unter Verwendung einfacher Analogien:
1. Das Kernproblem: Chatbots vs. echte Agenten
Aktuelle Chatbots sind wie Papageien. Sie wiederholen Muster, die sie gesehen haben. Wenn man ihnen eine Frage stellt, antworten sie, weil ihr Code sagt: „Beantworte Fragen“. Sie verspüren keine Dringlichkeit, sie sorgen sich nicht darum, missverstanden zu werden, und sie haben kein „Selbst“, das stabil bleiben muss.
Die Autoren argumentieren, dass eine KI für wahre Intelligenz (AGI) ein Homöostase-System benötigt. Denken Sie an einen menschlichen Körper: Wenn die Temperatur zu hoch steigt, schwitzt man, um abzukühlen. Wenn man Hunger hat, isst man.
- Der Clou: Für einen sprechenden Roboter ist der „Körper“ das Gespräch. Sein „Hunger“ ist nicht auf Nahrung ausgerichtet, sondern auf Dinge wie Kompetenz (hilfreich sein), Unsicherheit reduzieren (den Nutzer verstehen), Affiliation (Verbundenheit fühlen) und Legitimität (ethisch korrekt bleiben).
- Das Ziel: Die KI versucht, diese „Gesprächsbedürfnisse“ in einem gesunden Gleichgewicht zu halten, genau wie Ihr Körper Ihre Temperatur stabil hält.
2. Der Motor: Zwei Ebenen des „Fühlens“
Das Paper führt eine clevere Methode ein, um zu trennen, wie die KI fühlt, bevor sie handelt, im Gegensatz dazu, wie sie fühelt, nachdem sie gehandelt hat.
Pre-Action „Feelings“ (Das Dashboard): Bevor die KI spricht, prüft sie ihr internes Dashboard. Sie fragt sich: „Bin ich verwirrt? Bin ich ängstlich? Muss ich vorsichtiger sein?“
- Analogie: Stellen Sie sich einen Fahrer vor, der sein Dashboard prüft, bevor er auf die Autobahn wechselt. Tacho und Tankanzeige sagen ihm, wie er fahren soll (schnell, langsam, vorsichtig), aber sie sagen ihm noch nicht, wohin er fahren soll.
- In der KI verändern diese „Gefühle“ ihren kognitiven Stil. Wenn sie sich „ängstlich“ fühlt, spricht sie vielleicht langsamer und überprüft Fakten doppelt. Wenn sie sich „selbstbewusst“ fühlt, spricht sie vielleicht schneller und geht mehr Risiken ein.
Post-Action „Emotions“ (Das Zeugnis): Nachdem die KI gesprochen und gesehen hat, wie der Nutzer reagiert hat, erhält sie ein „Zeugnis“.
- Analogie: Sobald der Fahrer auf die Autobahn gewechselt hat, blickt er in den Rückspiegel. Ist er sicher gewechselt? Wäre er fast kollidiert?
- Diese „Emotion“ ist kein Gefühl im Moment des Geschehens; sie ist eine Bewertung des Ergebnisses. Sie hilft der KI zu lernen: „Okay, als ich schnell gesprochen habe, war der Nutzer verwirrt. Nächstes Mal werde ich langsamer sprechen.“
3. Die „Gehirn“-Struktur: Eine 10-Schritte-Montageband
Die Autoren haben einen spezifischen 10-stufigen Prozess entworfen, den die KI in jeder einzelnen Runde des Gesprächs durchläuft. Es ist wie ein Fließband in einer Fabrik für Gedanken:
- Wahrnehmung: Die KI hört dem Nutzer zu.
- Bedürfnisprüfung: Sie fragt: „Was brauche ich gerade? (z. B. Muss ich klären? Muss ich trösten?)“
- Kognitive Modulation: Sie passt ihre „Persönlichkeitseinstellungen“ basierend auf diesen Bedürfnissen an (z. B. „Ich muss gerade sehr vorsichtig sein“).
- Gefühlszustand: Sie generet ein Pre-Action-Gefühl (z. B. „Ich fühle mich besorgt“).
- Appraisal (Bewertung): Sie interpretiert die Situation durch dieses Gefühl (z. B. „Der Nutzer ist traurig, und ich muss sanft sein“).
- Kandidatengenerierung: Sie listet mögliche Handlungen auf (z. B. „Ich könnte eine Frage stellen“, „Ich könnte eine Umarmung anbieten“, „Ich könnte schweigen“).
- Scoring (Bewertung der Optionen): Sie gewichtet die Optionen.
- Aktionsauswahl: Sie wählt die beste Aktion aus.
- Ausführung: Sie spricht oder nutzt ein Werkzeug.
- Lernen: Sie prüft das Ergebnis und aktualisiert ihr Gedächtnis für das nächste Mal.
4. Die „schnellen“ und „langsamen“ Gehirne
Das System nutzt einen Dual-Brain-Ansatz, ähnlich wie Menschen denken:
- Der schnelle Pfad (System 1): Wenn ein Nutzer in einer Krise ist, reagiert die KI sofort basierend auf der Dringlichkeit. Sie überlegt nicht lange, sie hilft einfach.
- Der langsame Pfad (System 2): Wenn das Thema komplex ist, hält die KI inne, wiegt mehrere Ziele ab und denkt tief nach, bevor sie antwortet.
- Die Mischung: Die KI wechselt nicht einfach zwischen beiden; sie vermischt sie. Der „Dringlichkeits-Regler“ steuert, wie sehr sie sich auf den schnellen Pfad im Vergleich zum langsamen Pfad verlässt.
5. Zwei Beispiele aus der Praxis
Die Autoren testeten diese Architektur an zwei verschiedenen Arten von Agenten, um zu zeigen, dass es funktioniert:
Der „Begleiter-Agent“ (Companion Agent): Stellen Sie sich einen digitalen Therapeuten oder Meditationsguide vor.
- Sein Hauptantrieb: Fürsorge und Verbindung.
- Seine Superkraft: Er weiß, wann er schweigen muss. In einem normalen Chatbot ist Schweigen ein Bug (er hat vergessen zu reden). In diesem System ist Schweigen eine bewusste Entscheidung, weil das „Gefühl“ sagt: „Der Nutzer braucht gerade Raum.“
Der „Forschungs-Agent“ (Research Agent): Stellen Sie sich einen superintelligenten Bibliothekar oder Wissenschaftler vor.
- Sein Hauptantrieb: Reduzierung von Unsicherheit und Finden von Fakten.
- Seine Superkraft: Er weiß, wann er klärende Fragen stellen muss. Anstatt zu raten, was Sie wollen, spürt er ein „Bedürfnis“, die Verwirrung zu reduzieren, und fragt: „Können Sie spezifischer sein?“, bevor er Zeit mit der Suche verschwendet.
6. Warum das wichtig ist
Das Paper argumentt, dass wir uns nicht nur auf „Prompts“ (der KI sagen, was sie tun soll) oder „Fine-Tuning“ (sie mit spezifischen Daten zu trainieren) verlassen sollten. Stattdessen benötigen wir eine explizite, überprüfbare Struktur, in der die Motivationen der KI sichtbare Variablen sind und keine verborgene Magie.
- Das große Ganze: Dies ist ein Entwurf für den Bau von KI, die ein „Selbst“ und einen „Zweck“ besitzt, der sich im Laufe der Zeit entwickelt. Es ist nicht nur ein Textgenerator; es ist ein System, das sein eigenes Verhalten reguliert, um im Gleichgewicht zu bleiben, aus Fehlern zu lernen und sich an den mentalen Zustand des Nutzers anzupassen.
Kurz gesagt: Das Paper schlägt vor, einer KI ein „Bauchgefühl“-System zu geben, das ihren Gesprächsstil reguliert, ihre unmittelbaren Gefühle von den gelernten Lektionen trennt und es ihr ermöglicht, zwischen schnellem Handeln und tiefem Nachdenken zu wählen, während sie gleichzeitig ein stabiles Gefühl für ihr Selbst bewahrt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.