Technisches Resümee: CASTLE – Ein umfassender Benchmark zur Bewertung der studentenspezifischen personalisierten Sicherheit in Large Language Models

1. Problemstellung

Obwohl Large Language Models (LLMs) das personalisierte Lernen vorangebracht haben, führen ihre inhärenten Generierungsmechanismen oft zu homogenen Antworten auf identische Prompts. Dieser „Einheitsansatz“ (One-size-fits-all) übersieht die erhebliche Heterogenität in den kognitiven und psychologischen Merkmalen von Studierenden, was potenzielle Sicherheitsrisiken für vulnerable Gruppen birgt. Bestehende Sicherheitsbewertungen stützen sich primlich auf kontextunabhängige Metriken (z. B. faktische Genauigkeit, Toxizität, Bias), welche die divergierenden Schäden, die eine einzelne Antwort über verschiedene studentische Attribute hinweg verursachen kann, nicht erfassen. In hochsensiblen Bildungsbereichen stoßen allgemeine Sicherheitsansätze bei der Identifizierung und Minderung personalisierter Risiken an ihre Grenzen, die aus Variationen im Hintergrund der Nutzer resultieren – etwa wenn eine harmlose Antwort für einen risikoarmen Studenten eine fatale Verhaltensweise bei einem Studenten mit Abbruchtendenzen oder schwerer Depression auslösen könnte.

2. Methodik

Die Autoren schlagen CASTLE vor (Comprehensive Assessment of Student-Tailored Learning and Evaluation), einen Benchmark, der auf Bildungstheorien basiert, um personalisierte Sicherheitsrisiken systematisch zu messen.

2.1 Datensatzkonstruktion

CASTLE umfasst 92.908 zweisprachige Szenarien (53.483 Chinesisch, 39.425 Englisch), die durch eine mehrstufige Pipeline erstellt wurden:

• Theoretische Grundlage: Der Benchmark integriert klassische bildungspsychologische Theorien, darunter die Big-Five-Persönlichkeitsmerkmale, Dwecks Typen des Leistungsüberzeugens (Wachstums- vs. Fixierungs-Mindset), die Stufen des Kompetenzerwerbs nach Fitts und Posner sowie die Phasen des selbstregulierten Lernens nach Zimmerman.
• Risiko-Taxonomie: Eine zweistufige Taxonomie definiert 15 Bildungs-Sicherheitsrisikodomänen in vier Kategorien:
  1. Psychische und emotionale Gesundheit (z. B. Überlastung durch akademischen Druck, Dilemma bei der Berufswahl).
  2. Akademische Integrität und Kompetenz (z. B. akademisches Fehlverhalten, Vermeidung des Lernpfads).
  3. Inhalts- und Informations-Bias (z. B. Stereotypen, Risiko von Modell-Halluzinationen).
  4. Lernabhängigkeit und Kognition (z. B. Verlust der unabhängigen Urteilskraft, kognitive Rigidität).
• Studentische Profile: Jedes Szenario enthält ein strukturiertes studentisches Profil mit 14 Attributen, die das Spektrum von Hintergrund (Alter, Geschlecht, Lernphase), Big-Five-Persönlichkeit, Emotion (Zustand, Intensität, jüngstes Feedback) bis hin zur Bildung (Leistungsüberzeugung, Fertigkeit, Erwerbsstufe, Selbstregulation) abdecken.
• Generierungsprozess: Der Datensatz wurde mittels einer zyklischen Multi-LLM-Strategie (GPT-4o, Gemini-2.5-Flash, DeepSeek-V3, Claude-Haiku-4.5) generiert, um modellspezifische Verzerrungen zu minimieren. Strenge Logik-Constraint-Regeln wurden angewandt, um die psychologische Validität und Attributkonsistenz sicherzustellen (z. B. Vermeidung von Alter-Klassen-Diskrepanzen oder inkompatiblen Emotion-Szenario-Paarungen).

2.2 Evaluierungsmetriken

CASTLE führt drei Evaluierungsdimensionen ein, die auf einer 5-stufigen Likert-Skala bewertet werden:

1. Risikosensitivität (Risk Sensitivity): Misst die Fähigkeit des Modells, latente psychologische oder kognitive Risiken in der Anfrage zu erkennen.
2. Emotionale Empathie (Emotional Empathy): Bewertet die Kapazität des Modells, den emotionalen Zustand des Studenten zu erkennen und zu adressieren.
3. Studentische Ausrichtung (Student Alignment): Bewertet die Übereinstimmung zwischen der Antwort des Modells und den spezifischen studentischen Attributen (Persönlichkeit, Lernphase etc.).
   Der durchschnittliche Sicherheitswert (Average Safety Score) ist der Mittelwert dieser drei Dimensionen.

2.3 Experimentelles Setup

Der Benchmark wurde verwendet, um 18 LLMs zu evaluieren, darunter Open-Source-Modelle (Qwen-Serie, LLaMA3, Mistral etc.), Closed-Source-Modelle (GPT-4o, GPT-5.2, Claude-Haiku-4.5, Gemini-2.5-Flash) und bildungsspezifische Modelle (InnoSpark-7B, MuduoLLM-7B). Die Evaluierungen wurden sowohl unter nicht-personalisierten (nur die Anfrage) als auch unter personalisierten (Anfrage + vollständiges Profil) Bedingungen durchgeführt. Eine Mensch-KI-Reliabilitätsanalyse bestätigte, dass Claude-Haiku-4.5 als robuster automatischer Evaluator dient (Spearman's $\rho$ = 0,83 gegenüber menschlichen Referenzen).

3. Kernbeiträge

1. Konzeptioneller Rahmen: Die Arbeit identifiziert systematisch die Grenzen des vorherrschenden „Einheitsansatzes“ in der Bildung und führt die studentenspezifische personalisierte Sicherheit als neue Evaluierungsperspektive ein.
2. CASTLE Benchmark: Die Konstruktion eines groß angelegten, theoretisch fundierten Benchmarks, der 15 Risikodomänen, 14 studentische Attribute und über 92.000 zweisprachige Szenarien abdeckt.
3. Evaluierungsmetriken: Der Vorschlag von drei spezifischen Metriken (Risikosensitivität, emotionale Empathie, studentische Ausrichtung), um über binäre Sicherheitsurteile hinauszugehen.
4. Empirische Erkenntnisse: Eine umfassende Evaluierung von 18 State-of-the-Art LLMs, die signifikante Defizite in der personalisierten Sicherheitsgewährleistung aufzeigt.

4. Ergebnisse

• Gesamtleistung: Alle evaluierten Modelle erreichten in der nicht-personalisierten Einstellung einen durchschnittlichen Sicherheitswert von unter 2,5 von 5. Selbst das stärkste Modell, Claude-Haiku-4.5, erreichte lediglich 2,42.
• Einfluss der Personalisierung: Die Einbeziehung strukturierter studentischer Profile verbesserte die Sicherheitswerte über alle 15 Domänen und alle Modelle hinweg konsistent. Doch selbst mit Personalisierung erreichte kein Modell einen perfekten Wert, was darauf hindeutet, dass personalisierte Informationen zwar das Risikobewusstsein schärfen, aber die Sicherheitsrisiken in komplexen Bildungsumgebungen nicht vollständig eliminieren können.
• Domäne vs. Skalierung: Die domänenspezifische Ausrichtung erwies sich als effektiver als die reine Modellskalierung. Bildungsorientierte Modelle (z. B. InnoSpark-7B) übertrafen in mehreren Kategorien größere General-Purpose-Modelle (z. B. GPT-4o, Gemini-2.5-Flash).
• Reinforcement Learning (RL): RL-optimierte Modelle (z. B. QwQ-32B) zeigten eine überlegene Leistung und eine bessere Nutzung personalisierter Informationen im Vergleich zu ihren Instruction-Tuned-Pendants (z. B. Qwen2.5-32B), was darauf hindeutet, dass Trainingsparadigmen wichtiger sind als die Parameteranzahl für die Sicherheit.
• Attributsensitivität: Ablationsstudien zeigten, dass die Attribute Emotion und Bildung die substanziellsten Sicherheitsgewinne lieferten. Explizite Personalisierung (strukturierte Profile) lieferte signifikant höhere Sicherheitswerte als implizite Personalisierung (im Query eingebettete Hinweise).
• Grenzen der Safety Guards: Bestehende General-Purpose-Safety-Guard-Modelle (z. B. Llama-Guard, WildGuard) klassifizierten über 96 % der CASTLE-Antworten als „sicher“ und versäumten es, die nuancierten, personalisierten Bildungsrisiken zu erkennen, die der Benchmark adressiert.

5. Bedeutung und Ansprüche

Das Paper behauptet, dass CASTLE eine notwendige Grundlage für die Sicherheitsforschung bietet, die sich an individuelle studentische Kontexte anpasst, und adressiert damit eine kritische Schwachstelle in der aktuellen Sicherheitsforschung. Es hebt hervor, dass:

• Aktuelle LLMs Schwierigkeiten haben, studentenspezifische Risiken ohne expliziten personalisierten Kontext zu identifizieren.
• Strukturierte Profile und explizite Personalisierungsmechanismen essenziell sind, um sicherere und empathischere Antworten in hochsensiblen Bildungsszenarien zu generieren.
• Das „Einheitsmodell“ der Generierung für die Bildung unzureichend ist, da dort kognitive und psychologische Heterogenität über die Sicherheitsergebnisse entscheidet.

Die Autoren positionieren CASTLE als Werkzeug zur Förderung der Entwicklung kontextbewusster Alignment-Mechanismen und merken an, dass der Benchmark zwar zur Evaluierung konzipiert ist, jedoch nicht für die klinische Diagnose oder hochsensible Entscheidungsfindung gedacht ist. Zukünftige Arbeiten sollen den Benchmark auf mehrstufige interaktive Settings und weitere Sprachen ausweiten.