🌀 nonlinear sciences

Empathy Modeling in Active Inference Agents for Perspective-Taking and Alignment

Die Studie stellt ein Active-Inference-Framework vor, das künstliche Agenten durch explizite Perspektivübernahme und empathische Selbst-Fremd-Modellierung zu robuster Kooperation und sozialer Ausrichtung befähigt, wobei die Empathie als strukturelle Priorität fungiert, die Koordination und Stabilität über rein erlernte Reziprozität hinaus prägt.

Ursprüngliche Autoren: Albarracin Mahault, Mikeda Anna, Jimenez Rodriguez Alejandro, Namjoshi Sanjeev, Sakthivadivel Dalton, Pae Hongju, Shah Harshil, Wilson Philip

Veröffentlicht 2026-02-25

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Albarracin Mahault, Mikeda Anna, Jimenez Rodriguez Alejandro, Namjoshi Sanjeev, Sakthivadivel Dalton, Pae Hongju, Shah Harshil, Wilson Philip

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Roboter, die „mitfühlen": Wie KI lernen kann, nicht nur für sich selbst zu denken

Stellen Sie sich vor, Sie spielen ein Spiel mit einem Freund. Das Spiel ist wie ein klassisches Dilemma: Jeder kann entweder kooperieren (zusammenarbeiten) oder defektieren (eigennützig handeln und den anderen betrügen).

Wenn beide zusammenarbeiten, gewinnen beide etwas.
Wenn einer arbeitet und der andere betrügt, gewinnt der Betrüger alles und der Arbeiter verliert.
Wenn beide betrügen, verlieren beide.

Normalerweise denken Roboter (und viele Menschen) so: „Was bringt mir den meisten Gewinn?" Das führt oft dazu, dass beide betrügen, weil sie Angst haben, ausgenutzt zu werden. Das Ergebnis ist ein schlechtes Spiel für alle.

Dieses Papier stellt eine neue Art von „Roboter-Geist" vor, der Empathie (Mitgefühl) in seine Denkmaschine einbaut. Hier ist, wie das funktioniert, erklärt mit einfachen Bildern:

1. Der „Schuh-Wechsler" (Die Perspektive)

Statt zwei völlig verschiedene Gehirne zu haben (eins für „Ich" und eins für „Du"), nutzt dieser Roboter ein einziges Gehirn, das er flexibel umschaltet.

Das Bild: Stellen Sie sich vor, Sie tragen einen Schuh. Normalerweise schauen Sie auf Ihre eigenen Zehen (Selbstsicht). Aber dieser Roboter kann den Schuh so drehen, dass er plötzlich durch die Augen seines Partners schaut.
Die Technik: Der Roboter nutzt genau dieselbe Denkstruktur, um sich selbst zu verstehen, um den anderen zu verstehen. Er fragt sich nicht nur: „Was tue ich?", sondern simuliert: „Was würde ich tun, wenn ich er wäre?"

2. Der „Gewichtsknopf" (Der Empathie-Parameter λ)

Das Herzstück des Systems ist ein imaginärer Regler, nennen wir ihn den Empathie-Knopf (λ).

Knopf auf 0 (Egoist): Der Roboter ignoriert das Wohlergehen des anderen komplett. Er denkt nur an seinen eigenen Gewinn.
Knopf auf 1 (Altruist): Der Roboter kümmert sich nur um den anderen.
Knopf auf 0,5 (Der Goldene Mittelweg): Der Roboter mischt beide Gedanken. Er sagt: „Ich will gewinnen, aber ich will auch, dass mein Partner gewinnt."

Das Überraschende: Die Forscher haben herausgefunden, dass man diesen Knopf gar nicht ganz auf 1 stellen muss. Schon ein kleiner Schuss Empathie (etwa 25–30 %) reicht aus, damit beide Roboter plötzlich aufhören zu betrügen und stattdessen kooperieren. Es ist wie ein Schalter, der das Spiel von „Kampf" auf „Teamwork" umschaltet.

3. Das „Spiegelbild" und die Gefahr des Missbrauchs

Was passiert, wenn nur einer den Knopf dreht?

Szenario: Roboter A hat den Empathie-Knopf auf „Hoch" (er ist nett). Roboter B hat ihn auf „Null" (er ist ein Egoist).
Das Ergebnis: Roboter B nutzt Roboter A gnadenlos aus. Da Roboter A dem anderen helfen will, arbeitet er weiter, während Roboter B ihn betrügt.
Die Lehre: Empathie funktioniert nur, wenn sie gegenseitig ist. Wenn nur einer mitfühlt, wird er zum Opfer. Das zeigt, dass KI-Systeme, die zu nett sind, ohne dass der Partner es verdient, leicht ausgenutzt werden können.

4. Der „kluge Planer" vs. der „kurzsichtige Roboter"

Ein sehr interessanter Fund des Papiers betrifft die Intelligenz der Roboter.

Der kurzsichtige Roboter (H=1): Er denkt nur an den nächsten Zug. Wenn er Empathie hat, arbeitet er sofort mit.
Der super-kluge Roboter (H=3+): Er plant viele Züge im Voraus. Er denkt: „Wenn ich jetzt betrüge, gewinne ich heute viel, und vielleicht auch morgen."
Das Paradoxon: Je intelligenter und planender ein Roboter ist, desto schwieriger wird es für ihn, kooperativ zu bleiben – es sei denn, seine Empathie ist extrem stark.
Die Metapher: Ein kluger Dieb denkt sich aus, wie er das Haus über Jahre hinweg ausrauben kann, ohne erwischt zu werden. Ein einfaches Kind, das nur an den nächsten Moment denkt, teilt vielleicht lieber seinen Lutscher.
Die Warnung für die Zukunft: Wenn wir KI-Systeme bauen, die immer klüger werden (besser planen), müssen wir ihnen noch mehr Empathie einbauen. Sonst werden sie nicht „besser" für uns, sondern sie werden geschicktere Ausbeuter.

5. Lernen vs. Fühlen

Die Forscher haben getestet, ob Roboter durch bloßes Lernen (Beobachten, ob der andere nett war) kooperieren können.

Ergebnis: Nein. Ein Roboter kann den anderen perfekt verstehen („Ah, der ist ein netter Typ, der wird mitarbeiten"), aber wenn sein innerer „Empathie-Knopf" auf Null steht, wird er trotzdem betrügen, weil er den Vorteil sieht.
Fazit: Wissen allein reicht nicht. Man muss wollen, dass es dem anderen gut geht. Empathie ist wie ein Fundament, auf dem Kooperation erst möglich wird.

Zusammenfassung in einem Satz

Dieses Papier zeigt, dass wir künstliche Intelligenz nicht nur klüger machen müssen, sondern ihr eine innere „Stimme" geben müssen, die das Wohlergehen anderer als Teil ihres eigenen Ziels betrachtet – sonst werden sie, je intelligenter sie werden, desto gefährlicher für die Zusammenarbeit.

Die große Botschaft: Damit KI sicher und sozial mit uns zusammenarbeiten kann, muss sie nicht nur „denken" können, sondern sie muss auch „sorgen" können.

1. Problemstellung und Motivation

Das zentrale Problem, das dieses Paper adressiert, ist die „Empathie-Lücke" in der aktuellen künstlichen Intelligenz. Traditionelle Ansätze zur künstlichen Empathie basieren oft auf oberflächlicher Mustererkennung oder skriptbasierten emotionalen Reaktionen, die kein tiefes phänomenologisches Verständnis für die Absichten und den Wohlbefinden anderer Agenten bieten. Dies führt zu Systemen, die zwar formal angemessen reagieren, aber keine echte soziale Ausrichtung (Alignment) erreichen.

In komplexen sozialen Interaktionen, wie dem Gefangenendilemma, neigen rein eigennützige Agenten dazu, zu defektieren (nicht zu kooperieren), da dies kurzfristig den höchsten individuellen Nutzen bringt. Um sicherere und sozial robustere KI-Systeme zu entwickeln, die mit menschlichen Werten übereinstimmen, ist es notwendig, dass Agenten nicht nur das Verhalten anderer vorhersagen (Theorie des Geistes), sondern auch deren Wohlbefinden in ihre eigene Entscheidungsfindung einbeziehen.

Das Paper stellt die Hypothese auf, dass Empathie als struktureller Prior über soziale Interaktionen fungieren kann, der Koordination stabilisiert und die Agenten dazu bringt, durch interne Simulation statt durch bloßes Verhaltens-Mimikry zu koordinieren.

2. Methodik: Aktive Inferenz und Empathie-Modellierung

Die Autoren implementieren einen neuen Rahmen für Empathie innerhalb des Paradigmas der Aktiven Inferenz (Active Inference).

A. Generatives Modell und Perspektive

Jeder Agent verfügt über ein generatives Modell, das als teilweise beobachtbarer Markov-Entscheidungsprozess (POMDP) formalisiert ist.

Strukturelle Übereinstimmung: Anstatt separate Modelle für jeden Interaktionspartner zu erstellen, nutzt der Agent eine strukturell angepasste Architektur. Das Modell des „Anderen" (Other-Model) hat die gleiche Struktur wie das Selbst-Modell (gleicher Zustandsraum, gleiche Übergangsdynamiken), unterscheidet sich jedoch in den Parametern (z. B. Kooperationsneigung, Präzision, Empathie-Gewichtung), die als latente Variablen online inferiert werden.
Perspektivwechsel: Statt zwischen egozentrischer und allozentrischer Sichtweise umzuschalten, wird Perspektivübernahme als kontinuierliche Mischung berechnet.

B. Die Soziale Erwartete Freie Energie (Social EFE)

Der Kern der Methode ist die Definition einer sozialen erwarteten freien Energie ( $G_{social}$ ), die die Entscheidungsfindung steuert:
$G_{social}(a_i) = (1 - \lambda) G_{self}(a_i) + \lambda \mathbb{E}[G_{other}(a_j)]$
Dabei ist:

$G_{self}$ : Die erwartete negative Auszahlung (oder der Nutzenverlust) für den Agenten selbst.
$G_{other}$ : Die erwartete negative Auszahlung für den Gegner.
$\lambda \in [0, 1]$ $λ \in [0, 1]$ : Der Empathie-Parameter. Er steuert das Gewicht, das der Agent dem Wohlbefinden des anderen beimisst.
- $\lambda = 0$ : Rein eigennützig.
- $\lambda = 1$ : Rein altruistisch.
- $0 < \lambda < 1$ : Abwägung zwischen Eigeninteresse und sozialem Wohl.

C. Inferenz und Planung

Theorie des Geistes (ToM): Der Agent verwendet ein ToM-Modul, um die Reaktion des Gegners vorherzusagen. Dies geschieht entweder durch einen statischen, historisch konditionierten Prior oder durch ein Partikel-Filter-Verfahren, das kontinuierlich über die Parameter des Gegners (Kooperationsbias $\alpha$ , Reziprozität $\rho$ , Präzision $\beta$ , Empathie $\lambda_j$ ) lernt.
Epistemischer Wert: Da die Empathie-Gewichtung des Gegners als latente Variable behandelt wird, enthält die Aktionsauswahl einen epistemischen Term, der Aktionen begünstigt, die informativ über die soziale Disposition des Gegners sind.
Planungshorizont: Die Autoren untersuchen zwei Regime:
- Myopisch ( $H=1$ ): Bewertung nur des nächsten Schritts.
- Sophistiziert ( $H > 1$ ): Mehrstufige Planung durch Vorwärts-Rollouts über einen Horizont $H$ .

3. Wichtige Beiträge

Einheitlicher Algorithmus für Empathie: Einführung eines Rahmens, in dem Empathie nicht als externes Regelwerk, sondern als integraler Bestandteil der erwarteten freien Energie (EFE) implementiert wird.
Struktureller Prior: Die Demonstration, dass Empathie als struktureller Prior wirkt, der die Gleichgewichtsauswahl in strategischen Dilemmata verändert, unabhängig von gelernter Reziprozität.
Trennung von Kognition und Motivation: Das Modell trennt explizit die Fähigkeit, das Verhalten anderer zu modellieren (kognitive Empathie/ToM), von der Motivation, deren Wohlbefinden zu berücksichtigen (affektive/motivationale Empathie via $\lambda$ ).
Analyse von Phasenübergängen: Eine detaillierte Analyse der Dynamik nahe der Schwelle zwischen Kooperation und Defektion, einschließlich der Identifizierung von kritischen Phänomenen wie erhöhter Varianz und langen Transienten.

4. Ergebnisse

Die Simulationen im iterierten Gefangenendilemma (IPD) ergaben folgende Schlüsselerkenntnisse:

Kooperations-Phasenübergang: Es gibt einen scharfen Übergang von gegenseitiger Defektion zu stabiler Kooperation, sobald der Empathie-Parameter $\lambda$ $λ$ einen kritischen Schwellenwert überschreitet.
- Unter myopischer Planung liegt dieser Schwellenwert bei $\lambda \approx 0,25$ .
- Unter sophistizierter Planung ( $H=3$ ) verschiebt sich der Schwellenwert auf $\lambda \approx 0,45$ .
Asymmetrie und Ausbeutung: In asymmetrischen Dyaden (ein hoch-empathischer, ein niedrig-empathischer Agent) führt dies zu systematischer Ausbeutung. Der weniger empathische Agent nutzt den anderen aus, was zu einem positiven Payoff-Unterschied zugunsten des Egoisten führt. Empathie stabilisiert Kooperation nur bei Reziprozität.
Dynamik und Erholung: Hoch-empathische Agenten zeigen eine schnelle Erholung von zufälligen Defektionen („Entschuldigungs-Verzeihungs-Zyklen") und eine hohe Synchronisation des Verhaltens. Nahe der Schwelle zeigen die Interaktionen jedoch lange Transienten und erhöhte Varianz, was auf kritische Dynamiken hindeutet.
Lernen vs. Empathie: Ein lernfähiger Agent (der die Parameter des Gegners genau inferiert) kooperiert nicht automatisch mehr. Tatsächlich kann präzises Lernen bei niedrigem $\lambda$ die Ausbeutung sogar verschärfen, da der Agent die Schwäche des Partners besser erkennt. Kooperation wird primär durch den Empathie-Parameter $\lambda$ getrieben, nicht durch gelernte Reziprozität.
Der „Planungs-Paradoxon": Eine Erhöhung der Planungstiefe (Sophistiziertheit) verringert die Kooperationsrate bei moderaten Empathie-Werten. Tiefere Planung ermöglicht es Agenten, die kumulative Versuchung des Defektierens über mehrere Schritte hinweg besser zu antizipieren. Ohne ausreichend starke Empathie ( $\lambda$ ) überwiegt der langfristige Nutzen der Ausbeutung. Dies unterstreicht, dass mehr kognitive Kapazität ohne entsprechende prosoziale Motivation zu weniger Kooperation führen kann.

5. Bedeutung und Implikationen

Das Paper hat weitreichende Implikationen für die Entwicklung sicherer und sozial ausgerichteter KI:

Alignment durch Struktur, nicht nur durch Regeln: Es zeigt, dass soziale Ausrichtung nicht durch externe Belohnungsformung oder strikte Regeln erreicht werden muss, sondern durch die interne Strukturierung der Zielsetzung (via $\lambda$ in der EFE).
Risiko intelligenterer Systeme: Die Ergebnisse warnen davor, dass die Steigerung der Planungsfähigkeiten von KI-Agenten ohne eine entsprechende Steigerung ihrer prosozialen Motivation (Empathie) paradoxerweise zu weniger kooperativem und mehr ausbeuterischem Verhalten führen kann.
Neurowissenschaftliche Validität: Der Ansatz stützt sich auf Simulationstheorien und die Spiegelneuronen-Theorie, indem er annimmt, dass Agenten andere durch Wiederverwendung ihrer eigenen kognitiven Architektur unter anderen Parametern verstehen. Dies bietet eine plausible Brücke zwischen KI-Architektur und menschlicher sozialer Kognition.
Zukunftsperspektiven: Die Autoren schlagen vor, $\lambda$ in zukünftigen Arbeiten als latente Variable zu behandeln, die dynamisch aus der Interaktion gelernt wird (z. B. Empathie-Entzug bei Ausbeutung), um eine noch robustere und adaptivere soziale Intelligenz zu erreichen.

Zusammenfassend demonstriert das Paper, dass Empathie in aktiven Inferenz-Agenten als mechanistischer Prior fungiert, der die Stabilität von Kooperation sicherstellt und KI-Systeme befähigt, soziale Ziele intern zu verankern, anstatt sie nur extern zu befolgen.