💬 NLP

DiscoverLLM: From Executing Intents to Discovering Them

DiscoverLLM ist ein neuartiges Framework, das Large Language Models trainiert, um Nutzer dabei zu unterstützen, ihre mehrdeutigen Absichten durch einen auf kognitiven Zuständen basierenden Benutzersimulator zu entdecken und zu konkretisieren, was zu einer signifikant verbesserten Aufgabenleistung, kürzeren Gesprächen und höherer Nutzerzufriedenheit bei kreativen, technischen und visuellen Aufgaben führt.

Ursprüngliche Autoren: Tae Soo Kim, Yoonjoo Lee, Jaesang Yu, John Joon Young Chung, Juho Kim

Veröffentlicht 2026-05-14

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Tae Soo Kim, Yoonjoo Lee, Jaesang Yu, John Joon Young Chung, Juho Kim

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einen sehr spezifischen Gang bei einem Koch zu bestellen, wissen aber eigentlich noch gar nicht, was Sie essen möchten. Sie wissen nur, dass Sie Hunger haben und etwas „Gutes" wollen.

Wenn Sie einen Standard-KI-Koch fragen: „Machen Sie mir etwas Gutes", könnte er ein Steak erraten. Sie beißen hinein und sagen: „Hmm, nicht ganz richtig." Der Koch fragt: „Wollen Sie es würziger?" Sie sagen: „Ich weiß es nicht." Der Koch rät erneut, vielleicht einen Salat. Sie sagen: „Nein, das ist zu kalt." Dieses Hin und Her kann ewig dauern, weil der Koch darauf wartet, dass Sie genau wissen, was Sie wollen, bevor er kochen kann.

DISCOVERLLM ist eine neue Methode, um KI-Köche so zu trainieren, dass sie erkennen, dass Sie möglicherweise nicht wissen, was Sie wollen, bis Sie das Essen sehen.

So erklärt das Papier dies unter Verwendung einfacher Analogien:

1. Das Problem: Das „versteckte Menü"

Normalerweise gehen KI-Modelle davon aus, dass Sie einen vollständigen Auftrag im Kopf haben (eine „voll ausgebildete Absicht"). Sie denken, ihre Aufgabe bestehe lediglich darin, klärende Fragen zu stellen wie: „Wollen Sie es heiß oder kalt?"

Aber im echten Leben, besonders bei kreativen Aufgaben wie dem Schreiben einer Geschichte oder dem Zeichnen eines Bildes, kennen Sie die Antwort oft erst, wenn Sie ein Beispiel sehen. Sie können dem Koch nicht sagen, dass Sie „würzig" wollen, wenn Sie noch nichts Würziges probiert haben. Sie müssen entdecken, dass Sie würzige Speisen mögen, indem Sie sie ausprobieren.

2. Die Lösung: Der „Degustationsmenü"-Simulator

Die Forscher haben einen speziellen „simulierten Benutzer" (einen Roboter, der wie ein Mensch agiert) entwickelt, um die KI zu trainieren. Dieser Roboter verfügt über eine geheime, versteckte Liste von Vorlieben, von deren Existenz er noch nichts weiß.

Das versteckte Menü: Stellen Sie sich vor, der Roboter hat eine geheime Liste von Wünschen: „Ich möchte ein Gedicht", „Ich möchte ein Tier", „Ich möchte eine Katze", „Ich möchte eine schlafende Katze".
Der Entdeckungsprozess: Zuerst weiß der Roboter nur, dass er „ein Gedicht" möchte. Er weiß nicht, dass er eine Katze möchte.
Die Aufgabe der KI: Anstatt nur zu fragen: „Welches Tier möchten Sie?" (was der Roboter noch nicht beantworten kann), versucht die KI, verschiedene Optionen anzubieten.
- KI versucht: „Hier ist ein Gedicht über einen Hund."
- Roboter denkt: „Oh, ein Hund ist okay, aber vielleicht möchte ich etwas Weicheres." (Der Roboter entdeckt, dass er ein Haustier bevorzugt).
- KI versucht: „Hier ist ein Gedicht über eine schlafende Katze."
- Roboter denkt: „Ja! Das ist es!" (Der Roboter hat nun seine wahre Absicht entdeckt).

3. Das Training: Lernen zu „Stupsen"

Die KI wird mit einem Belohnungssystem trainiert. Sie erhält Punkte nicht nur für die richtige Antwort, sondern dafür, dem Benutzer zu helfen, herauszufinden, was er will.

Schlechter Zug: Wenn die KI fragt: „Möchten Sie eine Katze oder einen Hund?", während der Benutzer es nicht weiß, erhält die KI keine Punkte. Der Benutzer steckt fest.
Guter Zug: Wenn die KI ein Bild eines Hundes zeigt und der Benutzer sagt: „Nein, vielleicht etwas Kleineres", erhält die KI Punkte. Sie hat den Benutzer erfolgreich „gestupst", eine neue Vorliebe zu entdecken.

Das Papier bezeichnet dieses Gleichgewicht als Divergenz (das Zeigen vieler verschiedener Optionen zur Exploration) und Konvergenz (das Eingrenzen, sobald der Benutzer weiß, was ihm gefällt).

4. Die Ergebnisse: Weniger Gerede, mehr Tun

Die Forscher testeten diese neue KI bei Aufgaben wie dem Schreiben von Geschichten, technischen Artikeln und dem Zeichnen digitaler Bilder.

Schnellere Entdeckung: Die neue KI half den Benutzern, das Gewünschte etwa 10 % schneller zu finden als ältere Modelle.
Kürzere Gespräche: Da die KI aufhörte, nutzlose Fragen zu stellen und stattdessen hilfreiche Beispiele zeigte, waren die Gespräche 40 % kürzer.
Glücklichere Benutzer: In einer Studie mit echten Menschen fühlten sich die Menschen von der neuen KI als hilfsbereiter und sie schien ihre Bedürfnisse „vorwegzunehmen", selbst wenn die Benutzer selbst nicht sicher waren, was sie wollten.

Das große Ganze

Denken Sie an die alte KI als Kellner, der wartet, bis Sie die gesamte Speisekarte gelesen und bestellt haben.
Denken Sie an den neuen DISCOVERLLM als Degustations-Koch, der kleine Proben verschiedener Gerichte herausbringt. Während Sie sie probieren, merken Sie: „Oh, ich liebe eigentlich das würzige!" oder „Ich mag die kalte Suppe nicht."

Das Papier behauptet, dass wir durch das Lehren der KI, dieser Degustations-Koch zu sein – indem wir Ihnen helfen, Ihre eigenen Vorlieben durch Exploration zu entdecken, anstatt nur auf Anweisungen zu warten – die KI viel besser darin machen können, bei kreativen und offenen Aufgaben zu helfen.

Technische Zusammenfassung: DISCOVERLLM

Problemformulierung

Aktuelle Large Language Models (LLMs) werden überwiegend darauf trainiert, Benutzerabsichten auszuführen und zu eruieren, wobei sie von der Annahme ausgehen, dass Benutzer Interaktionen mit vollständig geformten, wenn auch manchmal nicht artikulierten Zielen beginnen. Bei offenen, kreativen und schlecht definierten Aufgaben (z. B. Schreiben, Design) fehlt Benutzern jedoch häufig zunächst eine klare Absicht. Stattdessen entdecken sie, was sie wollen, indem sie potenzielle Ergebnisse beobachten und erkunden. Bestehende Ansätze, einschließlich Multi-Turn-Feinabstimmung und Prompting-Strategien, gehen typischerweise davon aus, dass Absichten verborgen, aber statisch sind, und konzentrieren sich darauf, sie durch Klärungsfragen ans Licht zu bringen. Dies versagt, wenn Benutzer Fragen wie „Welchen Tonfall wünschen Sie?" nicht beantworten können, weil sie diese Präferenz noch nicht gebildet haben. Die Kernherausforderung besteht darin, Modelle zu trainieren, die nicht nur bestehende Absichten ermitteln, sondern Benutzer aktiv dabei unterstützen, ihre Absichten durch kollaborative Exploration zu entdecken und zu formen.

Methodik: Das DISCOVERLLM-Framework

Die Autoren schlagen DISCOVERLLM vor, ein generalisierbares Trainingsframework, das die Absichtsentdeckung als ein von der Absichtsermittlung unterschiedliches Problem operationalisiert. Das Framework stützt sich auf einen neuartigen Benutzersimulator, der den kognitiven Zustand eines Benutzers mit einer latenten, hierarchischen Absichtsstruktur modelliert.

1. Absichtsentdeckung durch Interaktion

Das Framework formalisiert die Absichtsbildung als einen progressiven Verfeinerungsprozess ( $I_0 \subseteq I_1 \subseteq \dots \subseteq I_T$ ).

Latente Absichtshierarchie: Benutzerabsichten werden als Baumhierarchie ( $H$ ) dargestellt, wobei die Knoten von allgemein (z. B. „enthält ein Tier") bis spezifisch (z. B. „enthält eine auf dem Sofa schlafende getigerte Katze") reichen.
Entdeckungsstatus: Knoten existieren in den Zuständen unentdeckt, aufkommend oder entdeckt. Ein Benutzer kann nur Absichten artikulieren, die entdeckt sind.
Reaktionsgesteuerte Progression: Die Antwort des Assistenten ( $r_t$ $r_{t}$ ) bestimmt die Zustandsübergänge.
- Direkte Einbindung: Wenn die Antwort explizit eine Absicht anspricht oder erfüllt, wird der Knoten entdeckt.
- Seitliche Einbindung: Wenn die Antwort verwandte, aber nicht übereinstimmende Optionen anbietet (z. B. einen Hund vorschlägt, wenn der Benutzer eine Katze möchte), trägt dies zu einem kumulativen Score bei. Das Überschreiten eines Schwellenwerts führt den Knoten von unentdeckt zu aufkommend oder entdeckt über, was modelliert, wie Benutzer Präferenzen eingrenzen, indem sie sehen, was sie nicht wollen.
Ausdrucksstärke-Einschränkung: Benutzer in der Simulation können nur Absichten äußern, die sie entdeckt haben. Wenn eine Absicht nur aufkommend ist, kann der Benutzer nur vage Rückmeldungen geben (z. B. „vielleicht etwas anderes"), was verhindert, dass das Modell einfach nach spezifischen Details fragt, die der Benutzer noch nicht liefern kann.

2. Belohnungsberechnung

Das Framework berechnet eine pro-Turn-Belohnung ( $R$ ), um das Training zu steuern:

Entdeckungsfortschritt ( $R_d$ ): Misst die Zunahme der Anzahl entdeckter Absichten ( $|I_{t+1}| - |I_t|$ ). Dies belohnt das Modell dafür, latente Präferenzen ans Licht zu bringen.
Effizienzstrafe ( $R_e$ ): Bestraft übermäßige Antwortlänge, um kurze Interaktionen zu fördern.
Gesamtbelohnung: $R(r_t) = R_d(r_t) + R_e(r_t)$ . Das Design priorisiert die Entdeckung zuerst, wobei die Effizienz eine sekundäre Einschränkung darstellt.

3. Trainingspipeline

Unter Verwendung des Benutzersimulators und der Belohnungsfunktion unterstützt das Framework mehrere Trainingsparadigmen:

Synthetische Datengenerierung: Simulation von Gesprächen zur Generierung hochwertiger Datensätze für Supervised Fine-Tuning (SFT).
Präferenzoptimierung: Erstellen von paarweisen Vergleichen (ausgewählte vs. abgelehnte Antworten) für Direct Preference Optimization (DPO).
Online-Reinforcement-Learning: Direkte Optimierung von Modellen auf dem Belohnungssignal unter Verwendung von Algorithmen wie PPO oder GRPO.

Hauptbeiträge

Formalisierung der Absichtsentdeckung: Die Arbeit unterscheidet zwischen dem Ermitteln verborgener Absichten und dem Entdecken ungeformter Absichten und schlägt ein formales Modell vor, bei dem die Konkretisierung von Absichten durch die Exploration des Lösungsraums durch den Assistenten gesteuert wird.
Neuartiger Benutzersimulator: Ein Simulator, der die kognitiven Zustände von Benutzern als Hierarchie von Absichten modelliert und die Berechnung von Belohnungen für die Absichtsentdeckung ermöglicht – eine Fähigkeit, die in Standard-Trainingsaufbauten bisher nicht verfügbar war.
Trainingsframework: Eine vollständige Pipeline (SFT, DPO, RL), die LLMs lehrt, Divergenz (Erkunden von Optionen zur Untersuchung abstrakter Absichten) und Konvergenz (Verfeinern von Ausgaben zur Erfüllung konkreter Absichten) in Einklang zu bringen.

Experimentelle Ergebnisse

Das Framework wurde in drei Domänen evaluiert: Kreatives Schreiben, Technisches Schreiben und SVG-Zeichnung, wobei Llama-3.1-8B-Instruct und Qwen3-8B als Basismodelle dienten.

Leistungssteigerung: DISCOVERLLM erzielte im Vergleich zu den besten Baselines (einschließlich Prompting und COLLABLLM) über 10 % höhere Absichtsentdeckung und 11 % höhere Absichtserfüllung.
Effizienz: Es reduzierte die Gesprächslänge um bis zu 40 %, bei gleichzeitiger Beibehaltung oder Verbesserung der Aufgabenleistung.
Interaktivität: Die Interaktivitätswerte stiegen um 83 %, was auf eine effektivere Zusammenarbeit hindeutet.
Verhaltensanalyse: Im Gegensatz zu Basismodellen, die tendenziell rein konvergent sind (Überarbeitung einzelner Entwürfe), oder SFT-Modellen, die sich zu stark auf Divergenz überanpassen (unendliche Optionen anbieten), zeigten DISCOVERLLM-Varianten ein ausgewogenes Muster des Wechsels zwischen divergenter Exploration und konvergenter Verfeinerung.
Generalisierung: Der Ansatz generalisierte auf nicht gesehene Domänen (Reiseplanung, Webentwicklung) und verschiedene Simulatorkonfigurationen (unterschiedliche Backbone-LLMs und Aktualisierungsregeln).
Benutzerstudie: In einer Studie mit 75 menschlichen Teilnehmern erzielte DISCOVERLLM höhere Werte für Interaktions- und Schreibzufriedenheit und reduzierte die Zeit bis zum Aufgabenabschluss im Vergleich zu Baselines. Teilnehmer stellten fest, dass das Modell ihre latenten Absichten zu „antizipieren" schien.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass DISCOVERLLM einen Wandel im menschenzentrierten KI darstellt: weg von Modellen, die lediglich Anweisungen ausführen, hin zu proaktiven Partnern, die Probleme gemeinsam mit Benutzern erkunden und gestalten. Indem sie die kognitive Realität adressiert, dass Benutzer ihre Bedürfnisse oft durch Handeln und nicht durch Vorausplanung entdecken, ermöglicht das Framework der KI, schlecht definierte, offene Aufgaben effektiver zu unterstützen. Die Autoren betonen, dass dieser Ansatz die Sicherheitsausrichtung nicht beeinträchtigt und eine skalierbare Methode zum Trainieren von Modellen bietet, die bei komplexen, kreativen Unterfangen zusammenarbeiten, bei denen die Benutzerabsicht zunächst fließend ist. Die Arbeit legt nahe, dass zukünftige KI-Systeme so gestaltet werden sollten, dass sie diese Koevolution von Problem- und Lösungsraum erleichtern, anstatt statische Benutzerziele vorauszusetzen.