In der modernen digitalen Wirtschaft verlassen sich Unternehmen zunehmend auf künstliche Intelligenz, um komplexe Gespräche mit Kunden zu führen. Dies sind keine einfachen, einmaligen Austauschprozesse, bei denen ein Bot eine einzelne Frage beantwortet und dann verschwindet. Stattdessen handelt es sich um mehrstufige Dialoge, bei denen ein Kunde beispielsweise nach einem Produkt fragen, eine Preisprüfung anfordern, eine Adresse verifizieren und sich dann über eine Lieferverzögerung beschweren kann – alles innerhalb eines einzigen Threads. Um sicherzustellen, dass diese digitalen Assistenten korrekt arbeiten, müssen Unternehmen eine Möglichkeit finden, ihre Leistung zu bewerten. Jahrelang nutzten Forscher eine Methode namens „LLM-as-a-judge“, bei der ein Modell der künstlichen Intelligenz die Antworten eines anderen Modells bewertet. Dieser Ansatz hat sich für das Testen einfacher Aufgaben als Standard etabliert, stößt jedoch an seine Grenzen, wenn das Gespräch lang ist, sich die Regeln von Unternehmen zu Unternehmen ändern und die richtige Antwort von spezifischen Fakten abhängt, die die KI möglicherweise nicht kennt. Die Kernherausforderung besteht darin, dass ein Gespräch aus zwei sehr unterschiedlichen Gründen scheitern kann: Entweder ist die KI zu verwirrt, um den Kunden zu verstehen, oder das Unternehmen hat es versäumt, der KI die notwendigen Informationen zur Verfügung zu stellen, um ihre Aufgabe zu erfüllen. Zwischen diesen beiden Arten des Scheiterns zu unterscheiden ist entscheidend, denn die Behebung einer verwirrten KI erfordert eine andere Lösung als die Aufforderung an ein Unternehmen, seine Daten zu aktualisieren.

Ein Forschungsteam bei Meta hat ein neues, umfassendes System entwickelt, das darauf ausgelegt ist, genau dieses spezifische Problem zu lösen. Anstatt die Bewertung dieser Agenten als eine einfache Übung im Schreiben von Prompts zu behandeln, haben sie ein vollständiges Messsystem entwickelt, das die Komplexität der realen Welt nachahmt. Ihr Ansatz kombiniert vier verschiedene Teile: eine klare Definition dessen, was Erfolg für ein spezifisches Unternehmen bedeutet, eine Reihe spezialisierter KI-Richter, die verschiedene Aspekte des Gesprächs prüfen, einen simulierten Nutzer, der mit dem Agenten interagieren kann, um dessen Grenzen zu testen, und einen menschlichen Überprüfungsprozess, der die Genauigkeit des gesamten Systems ständig kontrolliert. Die Forscher fanden heraus, dass sie durch die Verknüpfung dieser Teile zu einem einzigen, selbstkorrigierenden Kreislauf zuverlässig messen konnten, ob ein Agent aufgrund seiner eigenen Einschränkungen oder aufgrund fehlender Geschäftsdaten versagte. Im Laufe der Zeit ermöglichte dieses System sowohl den menschlichen Prüfern als auch den automatisierten Richtern, sich gemeinsam zu verbessern, was zu einem genaueren Bild der Leistung führte, als es entweder allein möglich gewesen wäre.

Die Forscher begannen mit der Anerkennung, dass es für jedes Gespräch keine einzelne „richtige“ Antwort gibt. In einem Standardtest wird ein Modell gegen eine feste Liste von richtigen und falschen Antworten geprüft. Aber in einem echten Geschäftsszenario ist eine Aussage wie „Wir liefern an diese Adresse in drei Tagen“ nur dann korrekt, wenn das Unternehmen tatsächlich diese Versandrichtlinie hat. Wenn die Daten des Unternehmens fehlen, kann die KI die Antwort nicht wissen, und es wäre ungerecht, dies als Versagen der KI zu bezeichnen. Das Team erkannte, dass sie zuerst das Ziel des Gesprächs klar definieren mussten, um diese Agenten fair zu messen. Sie erstellten eine Spezifikation, die jede Interaktion in spezifische Endzustände unterteilt. Anstatt nur „gut“ oder „schlecht“ zu sagen, kategorisiert das System das Ergebnis in sieben verschiedene Möglichkeiten. Diese reichen von einer vollständigen Lösung, bei der das Problem des Kunden gelöst wurde, bis hin zu teilweisen Lösungen oder Fällen, in denen das Gespräch zwar ungültig, aber gut geführt wurde. Entscheidend ist, dass das System Fehler, die durch die Unfähigkeit der KI zum Verständnis verursacht wurden (eine Modelllücke), von Fehlern trennt, die durch fehlende Geschäftsfakten verursacht wurden (eine Wissenslücke). Diese Unterscheidung ist lebenswichtig, da sie dem Unternehmen genau sagt, wer das Problem beheben muss: die Ingenieure, die die KI bauen, oder das Business-Team, das seine Daten aktualisiert.

Um diese Agenten zu testen, ohne tausende echte Kunden benötigen zu müssen, entwickelten die Forscher einen simulierten Nutzer. Dies ist ein KI-Programm, das wie ein menschlicher Kunde agieren soll, aber strengen Regeln unterliegt, um der ursprünglichen Aufgabe treu zu bleiben. Der Simulator verfügt über zwei Modi. In einem Modus spielt er historische Gespräche nach, indem er die exakten Intentionen und Fakten eines echten Kunden-Chats nimmt und sie dem neuen Agenten einspeist, um zu sehen, wie er reagiert. Im anderen Modus folgt er einer Reihe von Anweisungen, um neue Szenarien zu erstellen, wie etwa einen Kunden, der verwirrt ist, oder einen Spammer, der versucht, das System zu täuschen. Der Schlüssel zu diesem Simulator ist, dass er auditiert wird, um sicherzustellen, dass er das ursprüngliche Ziel des Kunden nicht versehentlich verändert. Wenn der Simulator eine neue Anfrage erfindet, die der echte Kunde nie gestellt hat, würde dies eine falsche Messung der Leistung des Agenten liefern. Die Forscher verifizierten, dass dieser simulierte Nutzer in der Lage ist, die ursprüngliche Aufgabe beizubehalten und gleichzeitig auf die sich ändernden Antworten des Agenten zu reagieren, was ihn zu einem zuverlässigen Werkzeug für Tests vor der Markteinführung macht.

Sobald die Gespräche generiert wurden, wurden sie von einem Team spezialisierter KI-Richter evaluiert. Anstatt sich auf eine einzige riesige KI zu verlassen, die eine einzige Punktzahl vergibt, nutzt das System viele kleine, fokussierte Richter. Ein Richter prüft, ob die KI Fakten erfunden hat, ein anderer prüft, ob sie die spezifischen Abläufe des Unternehmens eingehalten hat, und ein dritter prüft, ob sie die Intention des Kunden korrekt behandelt hat. Diese individuellen Prüfungen werden dann unter Verwendung klarer Regeln zu einem endgültigen Urteil kombطiniert. Diese Struktur ermöglicht es dem System, transparent zu sein; wenn ein Gespräch als Fehlschlag markiert wird, kann das System auf das spezifische Beweisstück hinweisen, das dazu geführt hat, wie etwa eine fehlende Preisliste oder eine missverstandene Anweisung. Die Forscher bauten auch eine Ebene der menschlichen Aufsicht ein. Ein menschlicher Prüfer betrachtet eine Stichprobe der Gespräche unabhängig, ohne zu wissen, wie die KI-Richter entschieden haben. Wenn Mensch und KI nicht übereinstimmen, greift ein leitender Experte ein, um die endgültige Entscheidung zu treffen. Dieser Prozess liefert nicht nur ein Label; er schafft einen Feedback-Kreislauf. Die Unstimmigkeiten werden analysiert, um festzustellen, ob der Mensch einen Fehler gemacht hat, ob die Richtlinien unklar waren oder ob der KI-Richter neu trainiert werden muss.

Die Ergebnisse dieses Systems, das über zweieinhalb Jahre an realen Produktions-Agenten getestet wurde, zeigten ein klares Muster der Verbesserung. Zu Beginn waren die automatisierten Richter nicht viel besser als der Zufall bei der Identifizierung spezifischer Arten von Fehlern. Doch während das System durch wiederholte Zyklen der Prüfung und Anpassung lief, stieg die Genauigkeit der automatisierten Richter signifikant an. In einer Dimension verbesserte sich die Fähigkeit des Systems, fehlendes Geschäftswissen zu erkennen, von einem niedrigen Wert auf ein hohes Maß an Genauigkeit und übertraf schließlich sogar die Leistung der menschlichen Prüfer bei dieser spezifischen Aufgabe. Im Gegenzug blieben die menschlichen Prüfer in anderen Dimensionen etwas genauer, aber die Lücke zwischen den beiden verringerte sich im Laufe der Zeit. Die wichtigste Erkenntnis war, dass der kombinierte Workflow – bei dem Mensch und Maschine zusammen in einem gemeinsamen Feedback-Kreislauf arbeiteten – die zuverlässigsten Ergebnisse lieferte. Das System ersetzte nicht das menschliche Urteilsvermögen; statlich schuf es eine Partnerschaft, in der die Maschine die Schwerstarbeit beim Überprüfen von Fakten übernahm und die Menschen sich auf die komplexen Nuancen konzentrierten, wobei beide Seiten von den Fehlern der jeweils anderen lernten.

Die Forscher wiesen vorsorglich darauf hin, dass diese Ergebnisse auf Beobachtungsdaten aus ihrer eigenen Produktionsumgebung basieren und nicht auf einem kontrollierten Experiment gegen eine andere Methode. Sie behaupteten nicht, dass ihr System universell perfekt sei oder dass es für jedes Unternehmen auf die gleiche Weise funktionieren würde. Auch die menschlichen Prüfer waren nicht unfehlbar, und die Leistung des Systems erreichte schließlich ein Plateau, was bedeutet, dass die Verbesserung nach einem gewissen Punkt aufhörte. Die Studie demonstrierte jedoch, dass die Behandlung der KI-Evaluierung als ein gepflegtes Messsystem – statt als ein einmaliger Test – eine kontinuierliche Verfeinerung ermöglicht. Indem man klare Ziele definiert, spezialisierte Richter einsetzt, Nutzer sorgfältig simuliert und Menschen in den Prozess einbindet, um Fehler zu korrigieren, können Unternehmen eine zuverlässige Methode entwickeln, um ihre digitalen Agenten zu messen. Dieser Ansatz stellt sicher, dass ein Unternehmen, wenn ein Gespräch fehlschlägt, genau weiß warum, und die richtigen Maßnahmen ergreifen kann, sei es die Aktualisierung einer Datenbank oder das Nachschulen eines Modells.