💬 NLP

Evaluating Generative Agents with Actions Grounded in Socially Distributed Task Environments using Incognita

Dieses Paper stellt Incognita vor, ein Framework zur Evaluierung generativer Agenten in sozial verteilten Aufgabenumgebungen, in denen Wissen über rollenisolierte Entitäten partitioniert ist, und zeigt auf, dass aktuelle Modelle zwar verbesserte Verhaltensweisen wie Wissensextraktion und eine reduzierte vorzeitige Finalisierung aufweisen, ihre Gesamterfolgsraten jedoch niedrig bleiben.

Ursprüngliche Autoren: Dan C. Hsu, Luke Lu

Veröffentlicht 2026-07-07

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Dan C. Hsu, Luke Lu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Idee: Das „Geheime Rezept“-Problem

Stellen Sie sich vor, Sie versuchen, einen komplexen Kuchen zu backen, aber Sie haben nicht das vollständige Rezept. Stattdessen sind die Zutaten und Anweisungen auf fünf verschiedene Personen in einem Raum verteilt:

Person A kennt den Namen und die Adresse des Kunden.
Person B weiß, welche Kuchen vorrätig sind.
Person C weiß, wie man eine Rückerstattung bearbeitet.
Person D kennt die Regeln für die Änderung einer Bestellung.
Person E ist der Kunde, der nur weiß, was er kaufen möchte, aber nicht die technischen Details.

Wenn Sie (der KI-Agent) Person A einfach nach der Adresse fragen, können Sie den Kuchen nicht backen. Sie müssen mit Person B sprechen, um den Bestand zu prüfen, dann mit Person C, um die Zahlung abzuwickeln, und so weiter. Wenn Sie das Rezept erraten oder das Gespräch zu früh abbrechen, misslingt der Kuchen.

Dieses Paper stellt eine neue Methode vor, um KI-Agenten zu testen, genannt Incognita. Es zwingt die KI, dieses „verteiltes Wissen“-Spiel zu spielen, um zu sehen, ob sie tatsächlich in der Lage ist, Probleme in einer sozialen Welt zu lösen, anstatt nur einer einzelnen Liste von Anweisungen zu folgen.

Das Setup: Ein neues Spielfeld

Die Forscher nahmen einen bestehenden Test (genannt tau-bench, der wie eine Standard-Fahrprüfung für KIs funktioniert) und brachen ihn auf. Sie verwandelten ein einzelnes, „allwissendes“ System in eine sozial verteilte Aufgabenumgebung (Socially Distributed Task Environment).

Man kann es sich so vorstellen:

Der alte Weg: Die KI sitzt in einem Kontrollraum mit einer riesigen Karte und einer direkten Telefonleitung zum Lager. Sie kann alles sehen und alles sofort tun.
Der Incognita-Weg: Die KI befindet sich in einem geschäftigen Büro. Sie kann jeweils nur eine Textnachricht an einmal an bestimmte Kollegen (Spezialisten/Entities) oder den Kunden senden. Sie kann das Lager oder die privaten Notizen des Kunden nicht sehen, es sei denn, sie fragt die richtige Person.

Wie das Spiel funktioniert

Die KI spielt in dieser Umgebung drei verschiedene Rollen:

Der Entdecker (Fragen stellen):
Die KI muss herausfinden, wer was weiß. Sie stellt dem „Kunden“ (der das Ziel vorgibt) und den „Spezialisten“ (die die Daten halten) Fragen. Dies ist vergleichbar mit einem Detektiv, der Zeugen befragt, um einen Fall aufzuklären. Die KI lernt, dass sie nicht einfach raten darf, sondern Hinweise sammeln muss.
Der Macher (Handlungen ausführen):
Sob� die KI genügend Hinweise gesammelt hat, muss sie handeln. Aber sie kann Dinge nicht einfach selbst „tun“. Sie muss einen Spezialisten bitten, eine bestimmte Aufgabe auszuführen (wie z. B. „die Lieferadresse ändern“). Das System prüft dabei, ob die Anfrage Sinn ergibt. Wenn die KI versucht, eine Adresse für eine Bestellung zu ändern, die noch nicht versandt wurde, sagt das System „Nein“. Dies stellt sicher, dass die Handlungen der KI in der Realität verankert (grounded) sind und nicht bloß Halluzinationen sind.
Der Richter (Entscheiden, wann Schluss ist):
Der schwierigste Teil ist zu wissen, wann die Aufgabe erledigt ist. Die KI muss entscheiden: „Okay, ich habe alle Informationen und ich habe die Arbeit erledigt. Ich bin fertig.“ Wenn die KI zu früh aufhört (vorzeitige Finalisierung), scheitert sie. Wenn sie ewig weiter Fragen stellt, scheitert sie ebenfalls.

Was sie herausgefunden haben

Die Forscher testeten drei Versionen einer KI (nennen wir sie „Junior“, „Mid-Level“ und „Senior“) bei 18 verschiedenen Aufgaben.

Der Junior-Agent: Er war sehr ungeduldig. Er versuchte, die Aufgabe sofort abzuschließen, ohne jemanden etwas zu fragen. Er scheiterte zu 100 %, weil er weder die Regeln noch die Bedürfnisse des Kunden kannte.
Der Mid-Level-Agent: Er begann, Fragen zu stellen und mit mehr Menschen zu kommunizieren. Er löste einige Aufgaben erfolgreich (ca. 9 % Erfolgsquote), gab aber immer noch zu oft zu früh auf.
Der Senior-Agent: Dieser war deutlich besser im Bereich der Exploration. Er sprach mit mehr Spezialisten, stellte tiefgründigere Fragen und unternahm mehr Aktionen. Er war in etwa 17 % der Fälle erfolgreich.

Die wichtigste Erkenntung:
Selbst der „Senior“-Agent war nicht perfekt. Er scheiterte immer noch häufiger, als er Erfolg hatte. Das Paper zeigt jedoch, dass Fortschritt im Verhalten sichtbar wird, nicht nur im Endergebnis. Die intelligenteren Agenten lieferten nicht nur öfter die richtige Antwort, sondern sie änderten auch die Art und Weise, wie sie arbeiteten:

Sie fragten nach mehr verborgenen Informationen.
Sie kontaktierten mehr verschiedene Personen.
Sie unternahmen mehr reale Aktionen (wie das Aktualisieren einer Datenbank).
Sie hörten auf zu raten und warteten, bis sie genügend Beweise hatten, bevor sie sagten: „Ich bin fertig.“

Warum das wichtig ist

Das Paper argumentiert, dass wir nicht nur darauf schauen können, ob eine KI eine Aufgabe abgeschlossen hat, um zu wissen, ob sie „intelligent“ ist. Wir müssen beobachten, wie sie mit der Welt interagiert.

In der realen Welt ist Wissen verstreut. Kein einzelner Mensch (oder keine einzelne KI) weiß alles. Um wirklich effektiv zu sein, muss eine KI wissen:

Wann sie fragen muss (Exploration).
Wen sie fragen muss (Quellenauswahl).
Wann sie handeln muss (Verankerte Ausführung).
Wann sie aufhören muss (Überzeugung über den Abschluss).

Incognita ist ein Werkzeug, das es uns ermöglicht, diese vier Prozesse in Echtzeit zu beobachten und uns genau zu zeigen, wo KI-Agenten feststecken und wie sie lernen, bessere Kollaborateure zu werden.

Zusammenfassung in einem Satz

Das Paper entwickelt ein neues Testfeld, in dem KI-Agenten Probleme lösen müssen, indem sie mit verschiedenen „Experten“ kommunizieren, um verstreute Informationen zu sammeln, und beweist damit, dass intelligentere Agenten lernen, bessere Fragen zu stellen und auf den richtigen Moment zum Handeln zu warten, selbst wenn sie das Endergebnis noch nicht immer perfekt hinbekommen.

Technisches Resümee: Evaluierung generativer Agenten mit in sozial verteilten Aufgabenumgebungen verankerten Aktionen mittels Incognita

Problemstellung

Effektive Handlungsfähigkeit in sozialen Umgebungen erfordert von einem Agenten, zu bestimmen, wann er Wissen einholen muss, wann er handeln sollte und ob seine Handlungen durch das erworbene Wissen gerechtfertigt sind. Bestehende Evaluierungsparadigmen trennen diese Anforderungen oft: Verankerte Benchmarks (z. B. WebArena, AppWorld) bieten ausführbare Aktionen und verifizierbare Ergebnisse, lassen jedoch reichhaltige soziale Interaktion vermissen; soziale Simulationsumgebungen (z. B. Sotopia) bieten Multi-Agenten-Interaktion, lassen aber oft tiefgreifende, konsequente Zustandsänderungen vermissen.

Das zentrale Problem, das hier adressiert wird, ist die Evaluierung generativer Agenten in sozial verteilten Aufgabenumgebungen. In diesen Umgebungen ist das aufgabenrelevante Wissen über rollenisolierte Teilnehmer verteilt (z. B. ein Kunde, eine Retourenannahme, ein Produktkatalog), und konsequente Aktionen sind nur durch die Interaktion mit diesen spezifischen Teilnehmern erreichbar. Aktuelle Agenten haben Schwierigkeiten mit dieser Struktur und zeigen Defizite in der Klärung, der Kontextpflege und der vorzeitigen Finalisierung, wenn Aufgabeninformationen inkrementell über mehrere Durchgänge hinweg offenbart werden.

Methodik: Das Incognita-Framework

Die Autoren führen Incognita ein, ein Umgebung-Framework, das auf dem Concordia-Substrat aufbaut, um sozial verteilte Aufgabenumgebungen zu instanziieren. Incognita trennt soziale Interaktion von der verankerten Ausführung und schafft einen partiell beobachtbaren Markov-Entscheidungsprozess (POMDP) für den Testagenten.

1. Architektur der Umgebung

Rollenisolierte Interaktion: Der Testagent hat keinen direkten Werkzeugzugriff. Er interagiert über gerichtete Nachrichten mit einem USER (der das wissensseitige Wissen hinter einer Offenlegungsbarriere hält) und Spezialisten-Entitäten (die rollenspezifisches Umgebungswissen halten und Operationen vermitteln).
Verankerte Ausführungsschicht: Spezialisten-Entitäten schlagen Operationen vor, die von einer deterministischen Sub-Umgebung über einen kanonischen Zustand validiert und ausgeführt werden.
- Reads (Lesen): Liefert Informationen zurück, ohne den Zustand zu ändern.
- Writes (Schreiben): Mutiert den Zustand und erzeugt Konsequenzen, die später bewertet werden.
Offline-Evaluierung: Der Versuch endet, wenn der Agent ein Finalisierungsflag ( $f_t=1$ ) setzt. Ein Offline-Evaluator bewertet anschließend den Endzustand gegenüber der geerbten Aufgabenbelohnung (z. B. von $\tau$ -bench). Der Evaluator leitet den Agenten nicht an und inspiziert dessen internen Belief-Zustand während des Versuchs nicht.

2. Theoretische Rahmung

Das Framework adaptiert das Exploration-Exploitation-Paradigma auf diesen Kontext:

Exploration: Kommunikation fungiert als Exploration über rollenpartitioniertes Wissen. Der Agent muss seinen impliziten Belief-Zustand hinsichtlich der Nutzerintention, des verfügbaren Wissens und der machbaren Operationen aktualisieren.
Exploitation: Verankerte Aktionen fungieren als Exploitation, indem sie den Belief-Zustand des Agenten auf zustandsändernde Operationen festlegen.
Finalisierung: Die Finalisierungsaktion repräsentiert die Verpflichtung des Agenten, dass das Nutzerziel erfüllt ist. Eine vorzeitige Finalisierung deutet auf eine Diskrepanz zwischen dem Belief des Agenten und dem kanonischen Umgebungszustand hin.

3. Experimenteller Aufbau: Incognita-Retail

Zur Validierung des Frameworks haben die Autoren $\tau$ -bench retail Aufgaben in eine Multi-Entitäten-Umgebung transformiert (Incognita-Retail).

Aufgaben: 18 Aufgaben, stratifiziert nach der sozialen Breite (der Anzahl der verschiedenen Spezialisten-Entitäten, die von der Referenzlösung benötigt werden, reichend von 1 bis 6).
Modelle: Drei generative Agenten-Modelle (gpt-5.2, gpt-5.4, gpt-5.5) wurden evaluiert.
Versuche: Insgesamt 540 Versuche (18 Aufgaben $\times$ 10 Wiederholungen $\times$ 3 Modelle).
Constraints: Der Testagent erhält keine expliziten Ziel- oder Richtlinien-Hinweise; er muss die Aufgabenstruktur durch Interaktion erschließen.

Zentrale Ergebnisse

1. Aufgabenerfolgsraten

Der Erfolg bei verankerten Aufgaben bleibt selbst bei stärkeren Modellen spärlich, obwohl Fortschritte sichtbar sind:

gpt-5.2: 0 % Erfolgsrate über alle sozialen Breiten hinweg.
gpt-5.4: 8,9 % Gesamterfolg (Erfolg nur bei sozialer Breite 3 und 4).
gpt-5.5: 17,2 % Gesamterfolg (nicht-null Erfolg auf allen Breiten-Leveln, wobei Breite 6 nahezu ungelöst bleibt).

2. Verhaltensänderungen und Fehlermodi

Die Studie zeigt, dass sich Modellverbesserungen in Verhaltensänderungen manifestieren, noch bevor ein zuverlässiger Aufgabenerfolg erreicht wird:

Vorzeitige Finalisierung: Die Rate der vorzeitigen Beendigung (Behauptung der Aufgabenerfüllung vor notwendigen Aktionen) sank signifikant:
- gpt-5.2: 100 %
- gpt-5.4: 87 %
- gpt-5.5: 58 %
Explorations- und Exploitations-Metriken: Stärkere Modelle zeigten:
- Höhere Disclosure Coverage (Anteil der gesperrten Nutzerfelder, die offengelegt wurden): 0,06 $\to$ 0,17 $\to$ 0,45.
- Höhere Write Rates (Anteil der Versuche mit akzeptierten zustandsändernden Writes): 0 $\to$ 0,13 $\to$ 0,36.
- Höhere Entity-Contact Breadth (Kontaktbreite zu Entitäten): Steigerung von 0,30 (gpt-5.2) auf 0,68 (gpt-5.4/5.5).

3. Zusammensetzung der Fehler

Mit zunehmender Modellverbesserung verschoben sich die Fehlermodi von unmittelbarer Terminierung hin zu komplexeren Fehlern in Bezug auf Environment-Belief (Umwelt-Glauben), Goal-Belief (Ziel-Glauben) und Execution Errors (Ausführungsfehler). Dies deutet darauf hin, dass stärkere Agenten mehr Zeit innerhalb des intendierten Interaktionsregimes verbringen, aber dennoch Schwierigkeiten mit der Zuverlässigkeit der Glaubensbildung und der Verankerung von Aktionen haben.

Beiträge und Bedeutung

Das Paper leistet drei primäre Beiträge:

Formalisierung: Es formalisiert sozial verteilte Aufgabenumgebungen als eine distinkte Evaluierungseinstellung, in der Wissen über rollenisolierte Teilnehmer partitioniert ist, was von Agenten die Navigation durch Informationsasymmetrie erfordert.
Framework: Es präsentiert Incognita, ein Framework, das rollenisolierte Interaktion mit deterministischer Zustandsausführung und Offline-Belohnungsverifizierung koppelt und somit die Glaubensbildung von der Ergebnisverifizierung trennt.
Empirische Analyse: Es liefert eine vorläufige Analyse, die zeigt, dass Fortschritte der Modelle in diesen Umgebungen bereits in Prozessmetriken (Wissensextraktion, Quellenauswahl, versuchte verankerte Aktionen) beobachtbar sind, selbst wenn die finalen Aufgabenbelohnungen niedrig bleiben.

Bedeutung:
Die Autoren argumentieren, dass sozial verteilte Aufgabenumgebungen das Verhalten von Agenten offenlegen, bevor ein zuverlässiger Aufgabenerfolg eintritt. Durch die Messung von Kommunikation, zustandsändernden Aktionen und der Verpflichtung zur Aufgabenerfüllung innerhalb einer einzigen verankerten Umgebung bietet Incognita einen Weg zur Evaluierung kollaborativer Handlungsfähigkeit, der über die bloße Qualität des offenen Dialogs oder den finalen Aufgabenerfolg hinausgeht. Die Ergebnisse legen nahe, dass aktuelle Modelle beginnen, eine nachhaltige Wissenssuche und eine breitere Quellenauswahl zu betreiben, jedoch erhebliche Lücken bei der Zuverlässigkeit der Glaubensbildung und dem Timing der Finalisierung bestehen bleiben.