Evalet: Evaluating Large Language Models through Functional Fragmentation

1. Problemstellung

Die zunehmende Nutzung von Large Language Models (LLMs) durch Praktiker (Entwickler, Forscher) erfordert rigorose Evaluierungen, um sicherzustellen, dass die generierten Ausgaben mit den Zielen der Anwender übereinstimmen. Derzeitige Ansätze basieren häufig auf dem Paradigma „LLM-as-a-Judge", bei dem ein LLM die Ausgaben eines anderen LLM bewertet.

Hauptprobleme bestehender Methoden:

• Holistische Scores: Aktuelle Systeme fassen die Bewertung einer gesamten Ausgabe in eine einzelne numerische Note (z. B. 3 von 5) und eine kurze Begründung zusammen.
• Mangelnde Transparenz: Diese holistischen Scores verdecken, welche spezifischen Elemente in der Ausgabe zu der Bewertung geführt haben. Es ist für den Menschen schwer nachzuvollziehen, ob eine mittlere Note durch einen kleinen Fehler oder ein grundlegendes Problem verursacht wurde.
• Schwierige Validierung: Um die Genauigkeit der Bewertung zu überprüfen, müssen Praktiker die gesamte Ausgabe manuell lesen und die Begründung des LLMs den Textstellen zuordnen. Dieser Prozess ist bei großen Datensätzen ineffizient und führt oft dazu, dass systemische Fehlermuster übersehen oder das Vertrauen in die automatisierte Bewertung verloren geht.

2. Methodik: Funktionale Fragmentierung (Functional Fragmentation)

Die Autoren schlagen einen neuen Evaluierungsansatz vor, der als funktionale Fragmentierung bezeichnet wird. Statt den Output als Ganzes zu bewerten, wird dieser in signifikante Textfragmente zerlegt, und die rhetorische Funktion jedes Fragments wird im Hinblick auf ein Bewertungskriterium interpretiert.

Der Prozess im System „Evalet":

1. Extraktion und Interpretation: Ein LLM-basierter Evaluierer analysiert den Output. Er extrahiert textliche Fragmente, die für ein definiertes Kriterium (z. B. „Alterstauglichkeit" oder „Engagement") relevant sind.
2. Funktionszuweisung: Für jedes Fragment wird eine Funktion (eine rhetorische Rolle, z. B. „Personifizierung", „Kriegs-Imagery") abgeleitet. Ein Fragment kann mehrere Funktionen haben (z. B. positiv für Engagement, aber negativ für Alterstauglichkeit).
3. Bewertung auf Fragment-Ebene: Jede Funktion wird einzeln als „positiv" (erfüllt das Kriterium) oder „negativ" (verletzt das Kriterium) bewertet.
4. Aggregation: Der Gesamtscore eines Outputs ergibt sich aus dem Verhältnis positiver zu negativen Fragment-Funktionen.
5. Clustering und Visualisierung:
   • Die Funktionen aller Outputs werden in einen 2D-Raum eingebettet (mittels UMAP).
   • Ähnliche Funktionen werden durch Base Clusters (z. B. „Kreative Wortspiele") und Super Clusters gruppiert.
   • Dies ermöglicht den Vergleich von Outputs basierend auf ihrer funktionalen Ähnlichkeit, nicht nur auf lexikalischer Ähnlichkeit.

Technische Pipeline:

• LLM-Modell: Als Evaluierer wurde Claude 3.7 Sonnet verwendet, da es konsistentere, themenunabhängige Funktionsbeschreibungen lieferte.
• Embeddings & Clustering: Text-Embeddings wurden mit text-embedding-3-small erstellt. Für das Clustering kamen HDBSCAN (für Base Clusters) und KMeans (für Super Clusters) zum Einsatz.
• Interaktive Korrektur: Nutzer können falsche Bewertungen korrigieren, indem sie Fragmente als positive/negative Beispiele oder als auszuschließende Beispiele hinzufügen. Das System nutzt diese Few-Shot-Beispiele, um zukünftige Bewertungen anzupassen.

3. Wichtige Beiträge

• Konzept der Funktionalen Fragmentierung: Ein neuer Ansatz, der LLM-Evaluierungen von quantitativen, holistischen Scores hin zu einer qualitativen, feinkörnigen Analyse des Modellverhaltens verschiebt.
• Evalet-System: Ein interaktives Werkzeug, das die oben genannte Methode visualisiert. Es bietet zwei Hauptansichten: ein Informationspanel (Details zu Fragmenten und Funktionen) und eine Kartenvisualisierung (2D-Cluster der Funktionen).
• Neue Interaktionsmöglichkeiten:
  • Inspektion: Direkter Zugriff auf die für ein Kriterium relevanten Textstellen.
  • Bewertung: Korrektur von Bewertungen auf Ebene einzelner Funktionen statt ganzer Texte.
  • Vergleich: Identifikation von Mustern über viele Outputs hinweg durch Clustering funktional ähnlicher Fragmente.

4. Ergebnisse

Die Autoren führten eine technische Evaluation und eine Benutzerstudie (N=10) durch.

Technische Evaluation:

• Fragment-Extraktion: Der Evalet-Ansatz erreichte eine Recall-Rate von über 90%, was signifikant höher ist als bei herkömmlichen holistischen Ansätzen (Rating-Methode). Dies zeigt, dass die explizite Aufforderung zur Fragmentierung das Modell dazu bringt, relevantere Textstellen zu finden.
• Gesamtbewertung: Evalet war genauer darin, die qualitativ hochwertigere Antwort aus einem Paar von LLM-Antworten zu identifizieren, da es nuancierte Unterschiede besser erfassen konnte.

Benutzerstudie (Vergleich Evalet vs. Holistisch):

• Validierung: Teilnehmer identifizierten im Evalet-Modus 48 % mehr Diskrepanzen zwischen der LLM-Bewertung und ihrer eigenen Einschätzung im Vergleich zum holistischen Modus.
• Vertrauen: Durch die Möglichkeit, Bewertungen auf Fragment-Ebene zu validieren, entwickelten die Teilnehmer ein besseres, informiertes Vertrauen in die LLM-Evaluierungen. Im holistischen Modus neigten sie dazu, den Scores entweder blind zu vertrauen oder sie komplett zu ignorieren.
• Handlungsfähigkeit: Die identifizierten Probleme wurden als handlungsrelevanter (actionable) eingestuft. Teilnehmer konnten konkretere Korrekturen für das Modell vorschlagen.
• Arbeitslast: Die wahrgenommene Arbeitslast (NASA-TLX) war in beiden Bedingungen ähnlich, aber die Art der kognitiven Belastung unterschied sich: Evalet erforderte weniger manuelles Lesen ganzer Texte, förderte aber die Exploration von Mustern.

5. Bedeutung und Implikationen

• Shift von Quantität zu Qualität: Die Arbeit zeigt, dass die reine quantitative Bewertung (Scores) für komplexe, subjektive Aufgaben (wie Kreativität oder Sicherheit) unzureichend ist. Qualitative, feinkörnige Analysen sind notwendig, um Modellverhalten zu verstehen.
• Skalierbarkeit bei langen Outputs: Mit dem Trend zu immer längeren LLM-Ausgaben (z. B. durch Agentic Workflows) ist die manuelle Überprüfung unmöglich. Funktionale Fragmentierung bietet einen Weg, diese komplexen Outputs strukturiert zu analysieren.
• Induktives Lernen: Das System unterstützt Praktiker dabei, ihre Bewertungskriterien selbst zu verfeinern („Inductive Coding"), indem es unerwartete Muster (Funktionen) aufdeckt, die sie zuvor nicht bedacht hatten.
• Zukunft der HCI in der KI: Das Paper unterstreicht die Rolle der Human-Computer-Interaction (HCI), um neue interaktive Methoden zur Evaluierung und Sensemaking von KI-Modellen zu entwickeln, insbesondere dort, wo keine festen Benchmarks existieren.

Zusammenfassend stellt Evalet einen Paradigmenwechsel dar: Statt nur zu fragen „Wie gut ist die Antwort?", ermöglicht es die Frage „Welche spezifischen Teile der Antwort tragen zu dieser Bewertung bei und warum?", was zu robusteren und vertrauenswürdigeren KI-Systemen führt.