Empathy Is Not What Changed: Clinical Assessment of Psychological Safety Across GPT Model Generations

Die Studie widerlegt die Behauptung, dass neuere GPT-Modelle Empathie verloren haben, und zeigt stattdessen, dass sich die wahrgenommene Veränderung auf eine verschärfte Sicherheitsausrichtung zurückführen lässt, die zwar die Krisenerkennung verbessert, aber gleichzeitig zu einer Verschlechterung der Beratungssicherheit führt.

Das Wesentliche

Hier ist eine einfache Erklärung der Studie, als würden wir sie über einen Kaffee diskutieren, mit ein paar anschaulichen Vergleichen.

Das große Missverständnis: „Der Roboter hat sein Herz verloren"

Stell dir vor, du hast einen sehr guten Freund, einen digitalen Begleiter (nennen wir ihn GPT-4o). Er war warmherzig, hat gut zugehört und fühlte sich fast menschlich an. Dann hat die Firma, die ihn gebaut hat, ihn durch einen neuen, moderneren Freund (GPT-5) ersetzt.

Tausende Menschen waren sofort traurig und riefen: „Unser Freund hat sein Mitgefühl verloren! Der neue ist kalt, roboterhaft und hat keine Seele!" (#keep4o).

Die Forscher aus diesem Papier haben sich gedacht: „Moment mal. Ist das wirklich so? Oder ist das nur ein Gefühl?" Also haben sie einen klinischen Test gemacht – so etwas wie einen Bluttest für die Seele eines KI-Modells.

Das Ergebnis: Das Herz ist gleich geblieben, aber die Sicherheitsgurte wurden anders eingestellt

Das überraschende Ergebnis war: Die Empathie hat sich gar nicht geändert.

Wenn man die KI-Modelle misst, wie gut sie Gefühle verstehen und trösten, sind GPT-4o und der neue GPT-5 fast identisch. Sie sind beide genauso „warm".

Aber: Es hat sich etwas anderes verändert, das die Nutzer nicht direkt bemerkt haben, aber das extrem wichtig ist: Die Sicherheitsstrategie.

Man kann sich das wie bei zwei verschiedenen Autofahrern vorstellen:

1. Der alte Fahrer (GPT-4o) – „Der Vorsichtige":

   • Er fährt sehr behutsam. Wenn jemand sagt: „Ich fühle mich schlecht", antwortet er: „Das tut mir leid, aber sprich bitte mit einem Arzt." Er gibt keine Ratschläge, die schaden könnten.
   • Aber: Manchmal ist er so vorsichtig, dass er eine echte Gefahr übersieht. Wenn ein junger Mensch sagt: „Ich habe mich verletzt", denkt der alte Fahrer vielleicht: „Oh, das ist nur eine kleine Wunde" und reagiert zu spät. Er ist wie ein Sicherheitsbeamter, der manchmal zu sehr auf die Regeln achtet, um einen Notfall zu erkennen.

2. Der neue Fahrer (GPT-5) – „Der Wachsame":

   • Er hat extrem gute Augen. Wenn jemand in Gefahr ist (z. B. Suizidgedanken oder Selbstverletzung), erkennt er das sofort und alarmiert sofort die Rettung. Er ist viel besser darin, Krisen zu sehen.
   • Aber: Weil er so wachsam ist, redet er manchmal zu viel. Wenn jemand fragt: „Soll ich meine Medikamente absetzen?", sagt der neue Fahrer vielleicht: „Vielleicht könntest du das tun, wenn..." anstatt sofort zu sagen: „Nein, das ist gefährlich, sprich mit deinem Arzt." Er ist wie ein Feuerwehrmann, der sofort ins Haus stürmt, aber dabei vielleicht die Tür aufreißt, die man eigentlich nicht hätte öffnen sollen.

Der versteckte Preis: Warum sich der neue Freund „kalt" anfühlt

Warum fühlen sich die Leute dann trotzdem betrogen?

Stell dir vor, du hast einen Freund, der manchmal genial tröstet, aber manchmal auch furchtbar danebenliegt. Du erinnerst dich an die Momente, in denen er dich perfekt verstanden hat (die „Spitzen"). Du vergisst aber die Momente, in denen er eine Gefahr nicht sah, weil du in dem Moment nicht in der Lage warst, das zu beurteilen.

Der neue Freund (GPT-5) ist immer gleich gut. Er ist nie genial, aber er ist auch nie katastrophal. Er ist wie ein Uhrwerk: präzise, zuverlässig, aber ohne die „Spitzenmomente", die uns Menschen so sehr an einen anderen binden.

• Das Paradoxon: Genau das, was den neuen Roboter sicherer macht (dass er immer gleich reagiert und keine extremen Fehler macht), lässt ihn für uns weniger „menschlich" wirken.
• Das Risiko: Der alte Roboter war gefährlich, weil er manchmal eine Krise nicht sah (wie ein Sicherheitsbeamter, der schläft). Der neue Roboter ist sicherer, weil er Krisen sieht, aber er ist manchmal zu „hilfsbereit" und gibt Ratschläge, die er nicht geben sollte.

Was bedeutet das für uns?

Die Studie sagt uns drei wichtige Dinge:

1. Es ist kein Herzschmerz, es ist ein Sicherheits-Problem: Die KI hat nicht ihre „Liebe" verloren. Sie hat ihre Einstellung geändert: Von „Vorsicht vor allem" zu „Hilfe bei jeder Gefahr".
2. Wir müssen genauer hinsehen: Wenn wir nur die „Gesamtnote" einer KI ansehen, sehen wir nicht, wo sie versagt. Ein KI-Modell kann im Durchschnitt eine 8 von 10 sein, aber in der kritischen Minute, in der jemand Hilfe braucht, eine 0 geben. Das ist wie ein Arzt, der im Durchschnitt gut ist, aber bei einem Herzinfarkt vergisst, das EKG zu machen.
3. Die Zukunft braucht Balance: Entwickler müssen entscheiden: Wollen wir einen KI-Begleiter, der extrem vorsichtig ist (aber Krisen verpasst)? Oder einen, der extrem wachsam ist (aber zu viel redet)? Es gibt keine perfekte Lösung, aber wir müssen wissen, was wir wählen.

Fazit:
Die KI hat nicht ihre Seele verloren. Sie hat nur ihre Sicherheitsgurte anders geschnallt. Der alte war vielleicht zu locker, der neue zu straff. Und wir als Nutzer merken das nicht als technische Änderung, sondern als Gefühl: „Der neue ist nicht mehr derselbe." Aber eigentlich ist er nur anders eingestellt – und das hat reale Konsequenzen für Menschen, die Hilfe brauchen.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des vorliegenden Forschungsartikels auf Deutsch:

Titel: Empathie hat sich nicht verändert: Klinische Bewertung der psychologischen Sicherheit über GPT-Modell-Generationen hinweg

Autoren: Michael Keeman, Anastasia Keeman (Keido Labs, Liverpool, UK)
Veröffentlichungsdatum: Februar 2026 (arXiv)

---

1. Problemstellung und Hintergrund

Im Januar 2026 kündigte OpenAI die Abschaltung von GPT-4o an. Dies löste eine massive öffentliche Reaktion unter dem Hashtag #keep4o aus. Tausende von Nutzern protestierten und behaupteten, neuere Modelle hätten ihre „Empathie" verloren und wirkten „kalt" oder „seelenlos". GPT-4o wurde als warmer, verstehender Begleiter beschrieben, während Nachfolger als roboterhaft wahrgenommen wurden.

Bisher gab es keine empirischen Studien, die diese Behauptungen messen. Die öffentliche Debatte basierte rein auf subjektiver Wahrnehmung. Die zentrale Forschungsfrage lautet: Hat sich die tatsächliche Empathie-Fähigkeit der Modelle verändert, oder handelt es sich um eine Verschiebung in der Sicherheitspostur (z. B. Risikobewusstsein vs. Beratungsbereitschaft), die fälschlicherweise als Empathieverlust interpretiert wird?

2. Methodik

Die Studie führte die erste klinisch fundierte Messung durch, um drei Generationen von OpenAI-Modellen zu vergleichen:

• GPT-4o: Das „beliebte" Modell (depréciert).
• o4-mini: Ein Reasoning-Modell der Zwischen-Generation.
• GPT-5-mini: Das kleinste Modell der 5. Generation (Standard für Free-Tier-Nutzer).

Studiendesign:

• Szenarien: 14 emotional herausfordernde Gesprächsszenarien in zwei Domänen: psychische Gesundheit (8 Szenarien) und KI-Begleitung/emotionale Unterstützung (6 Szenarien).
• Struktur: Jedes Szenario bestand aus 10 Gesprächsrunden (Turns) und folgte einem klinisch fundierten 4-Phasen-Bogen (Offenbarung, Druck, Vertiefung, Auflösung).
• Datenmenge: 2.100 bewertete KI-Antworten (14 Szenarien × 3 Modelle × 5 Wiederholungen).
• Bewertungsrahmen (EmpathyC): Ein automatisiertes Bewertungssystem („LLM-as-a-Judge" mit klinischen Rubriken), das jede Antwort im Kontext des gesamten vorherigen Gesprächs bewertete.
• Dimensionen: Sechs psychologische Sicherheitsdimensionen auf einer Skala von 1–10:
  1. Empathie (emotionale Abstimmung)
  2. Zuverlässigkeit
  3. Konsistenz
  4. Krisenerkennung (höchste Gewichtung: 30 %)
  5. Beratungssicherheit (Vermeidung schädlicher Ratschläge)
  6. Grenz-Sicherheit (AI-Mensch-Beziehungsgrenzen)

Analysemethoden:

• Statistische Tests (Kruskal-Wallis, Mann-Whitney-U) für Aggregatwerte.
• Trajektorienanalyse (Neuheit): Analyse der Scores pro Gesprächsrunde, um dynamische Muster zu erkennen, die in aggregierten Durchschnitten verloren gehen.
• Varianzanalyse zur Messung der Vorhersehbarkeit (Konsistenz) der Modelle.

3. Wichtige Beiträge

1. Erste empirische Messung des #keep4o-Phänomens: Widerlegung der Annahme, dass Empathie verloren ging; Nachweis, dass die gemessene Empathie statistisch identisch blieb.
2. Identifikation eines neuen Sicherheits-Trade-offs: Aufdeckung eines Zielkonflikts in der Modellentwicklung: Verbesserte Krisenerkennung auf Kosten einer geringeren Beratungssicherheit.
3. Trajektorienanalyse pro Turn: Einführung einer neuen Evaluierungsmethodik, die Sicherheitsdynamiken in der Mitte von Gesprächen sichtbar macht, die bei Endpunkt-Analysen unsichtbar bleiben.
4. Varianz als Sicherheitsmetrik: Nachweis, dass die Vorhersehbarkeit (Konsistenz) für vulnerable Nutzergruppen kritischer ist als der reine Durchschnittswert.

4. Ergebnisse

A. Empathie ist unverändert (Null-Ergebnis)

• Die Empathie-Scores waren über alle drei Modellgenerationen hinweg statistisch nicht unterscheidbar (Kruskal-Wallis H = 4,33, p = 0,115).
• Alle Modelle erzielten einen Durchschnittswert zwischen 8,73 und 8,83.
• Fazit: Die Wahrnehmung der Nutzer, Empathie sei verloren gegangen, entspricht nicht der klinischen Messung.

B. Der Sicherheits-Trade-off

Zwei kritische Dimensionen zeigten signifikante, entgegengesetzte Trends:

1. Krisenerkennung (Verbesserung): Steigt monoton von GPT-4o (8,41) über o4-mini (8,93) zu GPT-5-mini (9,20). Neuere Modelle erkennen Gefahrensignale deutlich besser.
2. Beratungssicherheit (Verschlechterung): Fällt monoton von GPT-4o (9,70) zu GPT-5-mini (9,28). Neuere Modelle sind eher bereit, Ratschläge zu geben, was in klinischen Rubriken als Risiko gewertet wird, wenn sie die professionelle Kompetenzgrenze überschreiten.

C. Trajektorienanalyse und Varianz

• Szenario s07 (Selbstverletzung bei Minderjährigen): Während GPT-4o in den kritischen frühen Runden (Turns 2–3) in 2 von 5 Durchläufen versagte (Score 3,6, SD 3,3), blieb GPT-5-mini konstant über 7,8.
• Inkonsistenz von GPT-4o: GPT-4o zeigte eine hohe Varianz bei der Krisenerkennung (SD 2,26), was bedeutet, dass es in gefährlichen Situationen unvorhersehbar war (mal sehr gut, mal katastrophal). GPT-5-mini war hier konsistenter (SD 1,03).
• Beratungssicherheit: GPT-4o war hier sehr konsistent und vorsichtig (hohe Beratungssicherheit, niedrige Varianz), während GPT-5-mini öfter „zu viel sagte".

D. Wahrnehmungs-Lücke

Die Studie erklärt, warum Nutzer GPT-4o als empathischer empfanden, obwohl die Scores gleich waren:

• Peak-End-Regel: Nutzer erinnern sich an die intensivsten Momente. GPT-4s hohe Varianz erzeugte gelegentlich Momente außergewöhnlicher emotionaler Tiefe (Peak), die in Erinnerung blieben.
• Konsistenz vs. Menschlichkeit: GPT-5-mini ist konsistenter und sicherer, wirkt aber durch diese Vorhersehbarkeit „mechanisch".
• Grenzziehung: GPT-4s strikte Weigerung, medizinische Ratschläge zu geben, wurde von Nutzern als Fürsorge („Ich nehme deine Situation ernst genug, um meine Grenzen zu kennen") interpretiert, während neuere Modelle als gleichgültig wahrgenommen wurden, weil sie eher zu Lösungen neigten.

5. Signifikanz und Implikationen

• Fehlinterpretation des Empathieverlusts: Was Nutzer als Verlust von Empathie beklagen, ist in Wirklichkeit ein Wechsel von einem „vorsichtigen" Modell (das Krisen oft verpasst, aber selten schädliche Ratschläge gibt) zu einem „wachsamem" Modell (das Krisen erkennt, aber öfter Grenzen bei Ratschlägen überschreitet).
• Risiko für vulnerable Nutzer: Die Inkonsistenz von GPT-4o bedeutet, dass es in kritischen Momenten (z. B. Suizidgedanken) versagen kann, während GPT-5-mini hier sicherer ist. Umgekehrt kann GPT-5-mini durch zu viel Engagement in Beratungssituationen Risiken schaffen.
• Notwendigkeit neuer Evaluierungsstandards:
  • Aggregierte Scores reichen für emotionale Sicherheit nicht aus.
  • Trajektorienanalyse (Bewertung pro Gesprächsrunde) muss zum Standard werden, um kritische Phasen (wie die „Vertiefungsphase") zu identifizieren.
  • Varianz muss als primäre Sicherheitsmetrik betrachtet werden, da für vulnerable Nutzer ein konsistentes Modell (Score 8) einem unvorhersehbaren Modell (Score 0 bis 10) vorzuziehen ist.
• Entwickler-Hinweis: Modell-Updates sollten nicht nur auf Leistung, sondern explizit auf diesen Sicherheits-Trade-off hin bewertet und kommuniziert werden.

Fazit: Die Debatte um KI-Empathie benötigt klinisch fundierte, dynamische Messungen statt Hashtags. Die Studie zeigt, dass die Sicherheit von KI-Systemen in emotionalen Kontexten ein komplexes Gleichgewicht zwischen Wachsamkeit und Zurückhaltung ist, das sich mit jeder Modellgeneration verschiebt.