💬 NLP

CARE: Counselor-Aligned Response Engine for Online Mental-Health Support

Die Studie stellt CARE vor, ein auf Open-Source-LLMs basierendes Framework, das durch Feinabstimmung auf expertenvalidierten Krisengesprächen in Hebräisch und Arabisch psychologisch abgestimmte Antwortvorschläge für Online-Beratungszentren generiert, um die Arbeitsbelastung von Beratern zu verringern und die Versorgungsqualität in ressourcenarmen Sprachkontexten zu verbessern.

Ursprüngliche Autoren: Hagai Astrin, Ayal Swaid, Avi Segal, Kobi Gal

Veröffentlicht 2026-04-24

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Hagai Astrin, Ayal Swaid, Avi Segal, Kobi Gal

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stell dir vor, du bist ein Ersthelfer in einer riesigen, chaotischen Notrufzentrale. Tausende Menschen rufen an, wenn sie am Boden zerstört sind, Angst haben oder sogar daran denken, sich das Leben zu nehmen. Deine Aufgabe ist es, ihnen zuzuhören, sie zu beruhigen und genau die richtigen Worte zu finden, die in diesem speziellen Moment helfen.

Das Problem? Die Helfer sind oft überlastet. Sie müssen gleichzeitig mit mehreren Menschen sprechen, unter enormem Druck stehen und dabei jede Sekunde die perfekte Balance zwischen Empathie und professioneller Krisenintervention halten. Ein falsches Wort kann verletzen; ein zu schnelles Wort kann den Hilfesuchenden vergraulen.

Hier kommt CARE ins Spiel.

Was ist CARE?

CARE ist keine künstliche Intelligenz, die die menschlichen Helfer ersetzen soll. Stell dir CARE eher wie einen super-erfahrenen Co-Piloten oder einen weisen Mentor vor, der neben dem Helfer sitzt und flüstert: "Hey, basierend auf dem, was die Person gerade gesagt hat und wie sich das Gespräch entwickelt hat, wäre es vielleicht gut, jetzt erst einmal Verständnis zu zeigen, statt sofort Lösungen anzubieten."

CARE ist ein System, das auf modernster KI (Large Language Models) basiert, aber mit einem ganz besonderen Trick trainiert wurde.

Das Geheimnis: Lernen aus der ganzen Geschichte

Die meisten KI-Systeme sind wie Leute, die nur das letzte Wort eines Gesprächs hören und dann sofort antworten. Das ist in der Krisenberatung aber gefährlich. Wenn jemand sagt: "Ich fühle mich allein", und die KI antwortet: "Ruf einen Freund an", verpasst sie vielleicht, dass der Hilfesuchende vor 10 Minuten schon gesagt hat, dass er keine Freunde mehr hat.

CARE macht etwas anderes: Es liest die gesamte Geschichte des Gesprächs mit.

Die Analogie: Stell dir vor, du betrittst ein Theaterstück erst in der letzten Minute. Du weißt nicht, warum die Schauspieler weinen. Aber CARE hat das ganze Stück gesehen. Es weiß, wie die Stimmung von "traurig" zu "wütend" und dann zu "hoffnungsvoll" gewechselt ist. Deshalb weiß es genau, welche Art von Trost jetzt passt.

Wie wurde CARE trainiert? (Der "Meister-Lehrling"-Ansatz)

Die Forscher haben keine KI genommen und einfach gesagt: "Sei nett." Stattdessen haben sie echte, anonymisierte Gespräche von professionellen Helfern der Organisation "Sahar" (die in Israel für hebräische und arabische Gemeinschaften arbeitet) verwendet.

Die besten Gespräche: Sie haben nur die Gespräche ausgewählt, die von Experten als "sehr erfolgreich" bewertet wurden. Das sind die Momente, in denen die Krise wirklich deeskaliert wurde.
Zwei Sprachen: CARE wurde speziell für Hebräisch und Arabisch trainiert. Das ist wichtig, weil diese Sprachen kulturell und sprachlich sehr komplex sind und viele KI-Modelle dort oft scheitern.
Der Lernprozess: Die KI hat tausende Male gesehen, wie ein Profi in einer bestimmten Situation reagiert hat. Sie hat gelernt: "Wenn der Hilfesuchende sich so fühlt, dann sagen wir das und nicht das."

Was macht CARE besser als eine normale KI?

Die Forscher haben CARE mit normalen KI-Modellen verglichen (wie man sie vielleicht auf Chatbots kennt). Das Ergebnis war beeindruckend:

Normale KI: Sagt oft Dinge wie: "Alles wird gut, mach dir keine Sorgen." Das klingt nett, ist aber oft oberflächlich und invalidiert das Leid des Menschen.
CARE: Sagt Dinge wie: "Ich höre, wie sehr du dich gerade einsam fühlst. Das muss schrecklich sein. Lass uns gemeinsam schauen, was dir jetzt ein kleines bisschen Halt geben könnte."

CARE spricht die Sprache der Empathie, nicht die Sprache eines Roboters. Es versteht die Nuancen, die kulturellen Feinheiten und die emotionale Entwicklung des Gesprächs.

Warum ist das wichtig?

In Krisensituationen zählt jede Sekunde. Wenn ein Helfer überlastet ist, kann CARE ihm helfen, schneller die richtigen Worte zu finden. Es ist wie ein Sicherheitsnetz, das verhindert, dass aus Versehen das Falsche gesagt wird.

Zusammenfassend:
CARE ist kein Roboter, der die menschliche Wärme ersetzt. Es ist ein Werkzeug, das KI nutzt, um menschliche Helfer zu unterstützen, damit diese noch besser, schneller und einfühlsamer helfen können – besonders in Sprachen und Kulturen, die bisher oft von der KI-Forschung vernachlässigt wurden. Es ist der Unterschied zwischen einem Chatbot, der eine Broschüre vorliest, und einem echten, mitfühlenden Gesprächspartner, der genau weiß, was zu tun ist.

1. Problemstellung

Die Nachfrage nach Online-Diensten für psychische Gesundheit steigt weltweit, was zu einer Überlastung von Beratern (Counselors) führt. Dies kann in kritischen Situationen, wie z. B. bei Suizidgedanken, zu verzögerten Antworten führen, was die Sicherheit der Hilfesuchenden gefährdet.

Herausforderung: Große Sprachmodelle (LLMs) sind zwar generativ stark, aber in ressourcenarmen Sprachen (wie Hebräisch und Arabisch) und in sensiblen Domänen wie der psychischen Gesundheit noch wenig erforscht.
Mangel an Passgenauigkeit: Bestehende LLM-basierte Agenten werden oft nicht auf großen, realen Datensätzen trainiert. Sie neigen dazu, generische, oberflächliche oder direktive Ratschläge zu geben, die nicht mit den bewährten, empathischen und deeskalierenden Strategien professioneller Berater übereinstimmen.
Ziel: Es fehlt ein System, das Berater in Echtzeit unterstützt, indem es Antworten vorschlägt, die psychologisch fundiert, kulturell angepasst und stilistisch mit der Arbeit erfahrener Berater übereinstimmen.

2. Methodik: Das CARE-Framework

CARE (Counselor-Aligned Response Engine) ist ein auf Generativer KI basierendes Framework, das Berater durch Echtzeit-Empfehlungen unterstützt. Es basiert auf einem fünfstufigen Pipeline-Ansatz:

Datenbasis (Sahar-Domain):
- Die Daten stammen von „Sahar", einer nationalen Suizidpräventions-Hotline für hebräisch- und arabischsprachige Gemeinschaften.
- Der Datensatz umfasst anonymisierte Chat-Sitzungen (ca. 30.000 Sitzungen auf Hebräisch, ca. 2.400 auf Arabisch).
- Auswahlkriterium: Nur Sitzungen mit einer hohen klinischen Wirksamkeit (bewertet durch Berater auf einer Skala von 1–5) wurden für das Training verwendet (ca. 1.000 Sitzungen mit VED-Score 4 oder 5).
- Datenschutz: Ein zweistufiger Anonymisierungsprozess (HebSafeHarbor für Hebräisch, CAMeLBERT-basiertes NER für Arabisch) entfernt personenbezogene Daten.
Datenaufbereitung:
- Statt einzelner Nachrichtenpaare werden vollständige Dialogverläufe (Full-History) als Trainingsbeispiele strukturiert.
- Dies ermöglicht dem Modell, den emotionalen Kontext und die dynamische Struktur des Gesprächs über die Zeit zu erfassen.
Modell-Training:
- Basis-Modell: Open-Source LLMs (hauptsächlich Gemma-3-12B-it, getestet auch mit Llama-3.1-8B-it und Qwen3-14B).
- Methode: Supervised Fine-Tuning (SFT) mit Low-Rank Adaptation (LoRA).
- Verlustfunktion (Masked Loss): Das Modell wird nur auf die Tokens der Berater-Antworten trainiert, nicht auf die Eingaben der Hilfesuchenden. Dies zwingt das Modell, spezifische Unterstützungsstrategien und Deeskalationstechniken zu lernen, anstatt generischen Dialog zu generieren.
- Prompting: Ein systemischer Prompt stellt sicher, dass das Modell empathisch, nicht-wertend und sicher agiert.
Inferenz:
- Das feinabgestimmte Modell erhält den gesamten Dialogverlauf und generiert eine Antwortempfehlung, die auf dem aktuellen emotionalen Zustand und der Gesprächsphase basiert.

3. Schlüsselbeiträge

Domain-spezifische Feinabstimmung in ressourcenarmen Sprachen: CARE ist eines der ersten Systeme, das große Sprachmodelle speziell für Hebräisch und Arabisch im Kontext der Suizidprävention feinabstimmt.
Lernansatz ohne explizite Strategie-Labels: Das Modell lernt implizit professionelle Beratungsstrategien (wie Reflexion, Aufforderung, Vorschlag) allein durch das Training auf vollständigen Dialogverläufen, ohne dass diese Strategien als explizite Labels im Training vorhanden sein müssen.
Neue Metrik (Support Intent Match - SIM): Einführung einer neuen Metrik, die misst, ob die vom Modell gewählte Interventionsstrategie mit der Strategie eines menschlichen Experten übereinstimmt.
Human-in-the-Loop Design: CARE ist als Entscheidungsunterstützungssystem konzipiert, das die endgültige Verantwortung beim menschlichen Berater belässt, um ethische Risiken zu minimieren.

4. Ergebnisse

Die Evaluation erfolgte auf einem zurückgehaltenen Testset (ca. 3.000 Äußerungen pro Sprache) unter Verwendung mehrerer Metriken:

Support Intent Match (SIM): CARE erreichte eine Übereinstimmung der Strategien von 0,53 (Hebräisch) und 0,74 (Arabisch), was deutlich über den Werten unangepasster Baseline-Modelle liegt. Dies zeigt, dass das Modell gelernt hat, wann welche Beratungsstrategie angemessen ist.
Semantische und lexikalische Ähnlichkeit:
- BERTScore: Deutlich höhere semantische Ähnlichkeit zu Experten-Antworten.
- ROUGE: CARE verdoppelte den Recall (ROUGE-1) im Hebräischen und zeigte fast eine Verfünffachung im Arabischen gegenüber den Baselines.
- BLEU: Die Präzision (BLEU-Score) war im Arabischen über 20-mal höher und im Hebräischen 6-mal höher als bei den unangepassten Modellen.
Stilistische Übereinstimmung (Perplexity): CARE zeigte die niedrigste Perplexity (3,34 auf Hebräisch, 2,63 auf Arabisch), was bedeutet, dass der generierte Text stilistisch und tonal am ehesten dem professionellen Beratungsstil entspricht.
Statistische Signifikanz: Wilcoxon-Vorzeichen-Rang-Tests bestätigten, dass die Leistungsunterschiede zwischen CARE und den Baselines in allen Metriken hochsignifikant sind ( $p \approx 0$ ).

5. Bedeutung und Fazit

Überwindung der „Kluft": Die Studie zeigt, dass domain-spezifisches Fine-Tuning auf vollständigen Dialogverläufen die Lücke zwischen generischen KI-Antworten und klinisch fundierter, empathischer Unterstützung schließt.
Skalierbarkeit: CARE bietet einen vielversprechenden Weg, um die Arbeitslast von Beratern zu reduzieren und die Reaktionszeiten in Krisensituationen zu verkürzen, insbesondere in Regionen mit begrenzten Ressourcen für psychische Gesundheit.
Implikationen: Die Ergebnisse belegen, dass LLMs durch kontextreiches Training komplexe, adaptive Interaktionsmuster internalisieren können, ohne dass externe Speichermodule oder Retrieval-Mechanismen zwingend erforderlich sind.
Zukünftige Arbeit: Es wird empfohlen, Retrieval-Augmented Generation (RAG) für Richtlinien-Grundlagen und Reinforcement Learning from Human Feedback (RLHF) zur weiteren Verfeinerung zu integrieren sowie Echtzeit-Evaluationen durch praktizierende Berater durchzuführen.

Zusammenfassend demonstriert CARE, wie KI-Systeme so gestaltet werden können, dass sie nicht nur sprachlich korrekt, sondern auch therapeutisch wirksam und kulturell angemessen sind, um menschliche Berater in kritischen Situationen zu unterstützen.