LLM-enabled Social Agents
Dieser Beitrag argumentiert, dass Large Language Models, um als sozial verständliche Agenten zu fungieren, in Rollendefinitionen verankert sein müssen, die durch Persona-Beschreibungen operationalisiert werden, und skizziert zukünftige Forschungsrichtungen in den Bereichen Repräsentation, hybride Steuerung und Evaluation, um dies zu erreichen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Problem: Flüssige Sprecher vs. Soziale Wesen
Stellen Sie sich einen Roboter vor, der perfektes Englisch spricht. Er kann jede Frage beantworten, einen Witz erzählen und ein Gedicht schreiben. Aber wenn Sie ihn bitten, wie ein „Lehrer" im Klassenzimmer zu handeln, könnte er einfach zufällig plaudern, ohne jemals tatsächlich zu unterrichten, die Klasse zu verwalten oder zu verstehen, dass er geduldig mit einem kämpfenden Schüler sein muss.
Die Autoren dieses Papiers argumentieren, dass die Tatsache, dass eine KI gut spricht, nicht bedeutet, dass sie weiß, wie man sich „sozial" verhält.
Derzeit sind die meisten KI-Systeme wie hocheffiziente Rechner konzipiert: Sie konzentrieren sich darauf, die Aufgabe schnell zu erledigen. Aber in der realen Welt geht es beim Sozialsein nicht nur um Effizienz; es geht darum, seinen Platz, seine Regeln und seine Beziehungen zu kennen. Das Papier besagt, dass wir aufhören müssen, „soziales Verhalten" als eine zusätzliche Funktion zu behandeln, die wir später anhängen, und beginnen müssen, es von Anfang an in das Gehirn der KI zu integrieren.
Die Lösung: Der „Persona"-Bauplan
Das Papier schlägt eine neue Art vor, diese KI-Agenten zu bauen. Anstatt ihnen nur einen Jobtitel zu geben (wie „Assistent" oder „Arzt"), sollten wir ihnen eine Persona-Beschreibung geben.
Stellen Sie sich einen Jobtitel als Namensschild vor. Er sagt Ihnen, was die Person tut, aber nicht, wie sie es tut.
Stellen Sie sich eine Persona als vollständiges Charakterblatt für einen Schauspieler vor. Es umfasst:
- Wer sie sind: Ihre Persönlichkeit, Werte und Eigenheiten.
- Worum es ihnen geht: Ihre Ziele und Prioritäten.
- Die Regeln, die sie befolgen: Ihre Grenzen und Verpflichtungen.
- Wer sie kennen: Ihre Beziehungen zu anderen.
Die Analogie:
Stellen Sie sich vor, Sie inszenieren ein Theaterstück.
- Der alte Weg: Sie sagen dem Schauspieler: „Du bist der Held." Der Schauspieler könnte herumrennen und schreien, aber er weiß vielleicht nicht, warum er der Held ist oder wie er in einer bestimmten Szene heldenhaft handeln soll.
- Der Weg des Papiers: Sie geben dem Schauspieler eine Charakterbibel. Darin steht: „Du bist ein Held, der Tapferkeit schätzt, aber Angst hat, Unschuldige zu verletzen. Du beschützt derzeit ein Dorf, also musst du Sicherheit vor Geschwindigkeit priorisieren. Du hast ein Versprechen an den König zu halten." Wenn sich nun die Szene ändert, weiß der Schauspieler genau, wie er reagieren muss, weil er seine Rolle versteht, nicht nur sein Label.
Wie es funktioniert: Das „Hybride" Gehirn
Das Papier schlägt vor, dass sich die KI nicht nur auf ihr Sprachmodell (den Teil, der spricht) verlassen sollte, um alles zu erinnern. Stattdessen benötigt sie eine Hybride Architektur.
Stellen Sie sich einen Dirigenten und ein Orchester vor:
- Das LLM (Sprachmodell) ist der Dirigent. Es hört der Musik (dem Gespräch) zu, interpretiert die Stimmung und entscheidet, welche Note als Nächstes gespielt wird. Es ist flexibel und kreativ.
- Die Persona und das Gedächtnis sind die Partitur und der Notenbogen. Sie enthalten die stabilen Regeln, die langfristigen Versprechen und die Geschichte des Charakters.
Wenn der Dirigent (LLM) versucht, alles zu improvisieren, ohne auf die Partitur (Persona) zu schauen, wird die Musik chaotisch. Das Papier argumentiert, dass der Dirigent die Partitur braucht, um im Charakter zu bleiben. Die KI braucht ein System außerhalb ihres „Gehirns", um ihre langfristigen Erinnerungen, Verpflichtungen und sozialen Regeln zu speichern und sie dem LLM bei Bedarf zuzuführen.
Die drei nächsten Schritte
Das Papier skizziert drei Hauptaufgaben, die Forscher als Nächstes erledigen müssen:
- Bessere Baupläne (Repräsentation): Hören Sie auf, einfache Prompts wie „Verhalte dich wie ein Lehrer" zu verwenden. Beginnen Sie damit, strukturierte „Charakterbibeln" zu erstellen, die Werte, Beziehungen und Regeln so definieren, dass der Computer sie tatsächlich zur Entscheidungsfindung nutzen kann.
- Bessere Kontrolle (Hybride Überlegung): Lassen Sie die KI nicht einfach durch ein Problem „chatten". Bauen Sie Systeme, bei denen die KI ihre langfristigen Ziele und Regeln (die Partitur) überprüft, bevor sie spricht, um sicherzustellen, dass sie über die Zeit konsistent bleibt.
- Besseres Testen (Evaluation): Wir müssen aufhören, KI nur daran zu testen, ob sie eine Aufgabe abschließt. Wir müssen testen, ob sie im Charakter bleibt. Verhält sich der „Lehrer" auch nach 50 Interaktionen noch wie ein Lehrer? Erinnert er sich an seine Versprechen? Das Papier schlägt vor, dass wir gemeinsame „Übungsdatensätze" (wie standardisierte Skripte) benötigen, um diese Fähigkeiten fair zu testen.
Das Fazit
Das Papier kommt zu dem Schluss, dass wir, um KI wirklich sozial zu machen, nicht nur darauf vertrauen können, dass sie gut im Sprechen ist. Wir müssen ihr eine stabile Identität (eine Persona) geben, die ihre Rolle, Werte und Regeln definiert. Diese Identität dient als Fundament, das einen flüssigen Sprecher in einen sozial intelligenten Agenten verwandelt, der sinnvoll an unserer Welt teilhaben kann.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.