💬 NLP

Ad Insertion in LLM-Generated Responses

Dieses Paper schlägt ein neuartiges Framework für eine nachhaltige Monetarisierung von LLMs vor, das die Werbeinsertion von der Antwortgenerierung entkoppelt und genrespezifisches Bieten nutzt, um gleichzeitig kontextuelle Kohärenz, Recheneffizienz und ethische Konformität zu gewährleisten und dabei starke auktionstheoretische Garantien zu erreichen.

Ursprüngliche Autoren: Shengwei Xu, Zhaohua Chen, Xiaotie Deng, Zhiyi Huang, Grant Schoenebeck

Veröffentlicht 2026-08-26

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Shengwei Xu, Zhaohua Chen, Xiaotie Deng, Zhiyi Huang, Grant Schoenebeck

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Im digitalen Zeitalter hat sich die Art und Weise, wie wir Informationen finden, von der Eingabe kurzer, statischer Fragen in ein Suchfeld hin zu fließenden, fortlaufenden Gesprächen mit künstlicher Intelligenz gewandelt. Jahrzehntelang basierte das Geschäftsmodell hinter Suchmaschinen darauf, Werbeanzeigen mit den spezifischen Wörtern abzugleichen, die ein Nutzer eintippt. Wenn Sie „Laufschuhe“ eingeben, erscheint eine Anzeige für Sneaker. Dieses System funktioniert, weil die Absicht des Nutzers in diesen festen Schlüsselwörtern erfasst wird. Moderne Sprachmodelle beantworten jedoch nicht nur Fragen; sie generieren lange, sich entwickelnde Antworten, die menschliche Konversationen imitieren. In einem Gespräch über die Planung einer Reise nach New York kann der Dialog von der Diskussion über Museen zu Hotels, dann zu Transportmitteln und schließlich zum Budget übergehen. Die Absicht des Nutzers ändert sich mit jedem Satz. Dies schafft eine einzigartige Herausforderung: Wie zeigt man eine relevante Anzeige für ein Hotel, ohne dass sie deplatziert wirkt in einem Absatz über Museen, oder noch schlimmer, ohne dass die Anzeige selbst eine durch die künstliche Intelligenz im Moment des Schreibens halluzinierte Lüge ist? Darüber hinaus müssen diese Anzeigen sofort angezeigt werden, ohne das Gespräch zu verlangsamen, und sie müssen die Privatsphäre des Nutzers respektieren, indem sie keine sensiblen persönlichen Details an Werbetreibende preisgeben.

Forscher haben einen neuen Rahmen vorgeschlagen, um dieses Rätsel zu lösen, mit dem Ziel, Werbung in diese KI-Gespräche einzubinden, sodass sie sich natürlich anfühlt, schnell bleibt und Nutzerdaten schützt. Der Kern ihrer Lösung besteht aus zwei wesentlichen Trennungen. Erstens trennen sie den Akt des Verfassens des Gesprächs vom Akt des Einfügens der Anzeige. Anstatt dass die künstliche Intelligenz versucht, eine Anzeige in ihre Antwort einzuschreiben, während sie spricht, generiert das System zuerst eine saubere, werbefreie Antwort. Erst nachdem die Antwort abgeschlossen ist, entscheidet ein separates System, wo es vorgeschriebene Werbeanzeigen platzieren soll. Dies stellt sicher, dass der Anzeigeninhalt vorab auf Richtigkeit geprüft wurde und klar als gesponserte Nachricht gekennzeichnet werden kann, was verhindert, dass die KI versehentlich falsche Behauptungen über ein Produkt erfindet.

Die zweite, und vielleicht innovativere, Trennung findet in der Art und Weise statt, wie Werbetreibende für diese Plätze bieten. Im traditionellen Suchmaschinenwesen bieten Werbetreibende auf spezifische Schlüsselwörter. In einem dynamischen Chat wäre das Bieten auf jeden einzelnen Satz oder jeden Moment rechentechnisch unmöglich und ein Albtraum für die Privatsphäre, da es erfordern würde, dass Werbetreibende die privaten Prompts des Nutzers sehen. Stattdessen führten die Forscher das Konzept der „Genres“ ein. Dies sind breite, stabile Kategorien wie „Hotels“, „Fluggesellschaften“ oder „Elektronik“. Werbetreibende bieten im Voraus auf diese Genres, anstatt auf spezifische Nutzerfragen. Wenn das System bereit ist, eine Anzeige einzufügen, analysiert es den aktuellen Teil des Gesprächs und schätzt ein, wie gut jedes Genre zu diesem spezifischen Kontext passt. Es verwendet dann eine mathematische Methode, die einem Hochstimmungs-Auktionsverfahren ähnelt, um die am besten passende Anzeige an die am besten passende Stelle zuzuweisen. Dieser Ansatz ermöglicht es dem System, eine Hotelanzeige zu einem Absatz über Unterkünfte passend zu machen, ohne dass der Werbetreibende jemals die spezifischen Reisepläne des Nutzers sehen muss.

Um zu testen, ob diese Methode tatsächlich funktioniert, baute das Team einen Prototyp und maß, wie gut das System die Relevanz einer Anzeige für einen bestimmten Teil eines Gesprächs beurteilen konnte. Sie verglichen ihr automatisiertes System mit menschlichen Bewertungen. Sie fanden heraus, dass die Verwendung eines großen Sprachmodells als Richter – welches bewertet, ob ein Anzeigen-Genre zu einem spezifischen Satz passt – Ergebnisse lieferte, die eng mit der menschlichen Intuition übereinstimmten. In ihren Tests korrelierten die Vorhersagen des automatisierten Richters mit der durchschnittlichen Bewertung von sechsunddreißig menschlichen Teilnehmern auf einem Niveau von etwa 0,66. Bemerkenswerterweise schnitt dieser automatisierte Richter besser ab als neunundzwanzig der sechsunddreißig einzelnen menschlichen Bewerter im Vergleich zum Gruppendurchschnitt. Dies deutet darauf hin, dass das System zuverlässig bestimmen kann, wann eine Anzeige kontextuell angemessen ist, ohne dass ein Mensch jede einzelne Interaktion überprüfen muss.

Die Forscher führten auch Simulationen durch, um zu sehen, ob dieses System die für den Echtzeitgebrauch erforderliche Geschwindigkeit bewältigen kann. Sie simulierten ein Szenario mit einhunderttausend Werbetreibenden und einhundert möglichen Stellen für Anzeigen in einem Gespräch. Selbst bei dieser massiven Skalierung war das System in der Lage, zu berechnen, welche Anzeigen zu zeigen sind und wie viel sie kosten sollten, in etwa 1,25 Sekunden auf einem Standard-Laptop. Diese Geschwindigkeit zeigt, dass der Auktionsmechanismus schnell genug ist, um in Live-Gesprächen verwendet zu werden, ohne merkliche Verzögerungen zu verursachen. Die Studie kommt zu dem Schluss, dass durch die Entkopplung der Anzeigenplatzierung von der Textgenerierung und die Verwendung breiter Kategorien anstelle von spezifischen Schlüsselwörtern ein nachhaltiges, effizientes und kontextuell relevantes Werbemodell für konversationelle KI geschaffen werden kann. Obwohl das System auf Schätzungen anstelle von perfektem Wissen über die Absicht des Nutzers beruht, deuten die Ergebnisse darauf hin, dass die durch diese Annäherung eingeführten Fehler klein genug sind, um sowohl die Fairness für Werbetreibende als auch ein gutes Erlebnis für die Nutzer aufrechtzuerhalten.

Technisches Resümee: Werbeplatzierung in LLM-generierten Antworten

Problemstellung

Die nachhaltige Monetarisierung von Large Language Models (LLMs) steht vor einer kritischen Herausforderung: Die traditionelle Suchmaschinenwerbung, die auf statischen Keywords basiert, scheitert daran, die flüchtigen, kontextabhängigen Nutzerintentionen zu erfassen, die in konversationellen Abläufen eingebettet sind. Im Gegensatz zu Suchmaschinen, bei denen die Intention in statischen Abfragen kodiert ist, beinhalten LLM-Interaktionen sich entwickelnde Intentionen, die sich im Verlauf eines komplexen Dialogs verschieben (z. B. der Übergang von der Diskussion über Attraktionen zur Budgetplanung für eine Reise).

Die Integration von Werbung in diese Abläufe wirft drei primäre technische Hürden auf:

Kontextuelle Kohärenz: Anzeigen müssen semantisch mit der spezifischen, transienten Nutzerintention zum Zeitpunkt der Platzierung übereinstimmen, um das Nutzererlebnis nicht zu stören.
Recheneffizienz: Der Mechanismus muss in Echtzeit operieren, ohne eine Latenz einzuführen, die den konversationellen Fluss beeinträchtigt.
Sozialer Wohlstand & Ethik: Das System muss die Summe aus Werbetreibenden- und Plattformnutzen maximieren und gleichzeitig regulatorische Anforderungen (z. B. explizite Werbekennzeichnung) sowie Datenschutzstandards einhalten. Bestehende Lösungen exponieren entweder sensible Nutzer-Prompts gegenüber Werbetreibenden (Datenschutzrisiko) oder erfordern Echtzeit-Gebote auf jedes Token/jede Abfrage (rechentechnische Unpraktikabilität).

Methodik

Die Autoren schlagen ein Framework vor, das diese Spannungsfelder durch zwei Ebenen der Entkopplung löst:

1. Entkopplung der Werbeplatzierung von der Antwortgenerierung

Das Framework trennt die Generierung der „organischen“ Antwort von der Einfügung der Werbung.

Prozess: Nach Erhalt einer Abfrage generiert das LLM zuerst eine vollständige, werbefreie organische Antwort ( $z$ ).
Mechanismus: Unabhängig davon bestimmt ein Auktionsmechanismus, welche vorab eingereichten, statischen Werbemittel eingefügt werden und an welchen Stellen (an spezifischen Slots $y_j$ zwischen Textsegmenten).
Vorteile: Dies ermöglicht die Vorprüfung von Werbemitteln, um Halluzinationen oder irreführende Inhalte zu verhindern, und gewährleistet eine explizite Kennzeichnung (z. B. „[Gesponsert: ...]“). Zudem erlaubt es die unabhängige Optimierung der Antwortgenerierung und der Auktionsmodule.

2. Entkopplung von Geboten von spezifischen Nutzerabfragen via „Genres“

Anstatt auf spezifische Nutzer-Prompts oder Tokens zu bieten, bieten Werbetreibende auf Genres ( $g \in \mathcal{G}$ ), die als hochgradig semantische Cluster definiert sind (z. B. „Fluggesellschaften“, „Hotels“, „Essen“).

Bewertungsmodell: Werbetreibende geben statische Gebote ( $\tilde{v}_{i,g}$ ) für Genres ab. Die Plattform schätzt die Wahrscheinlichkeit, mit der ein bestimmtes Genre mit dem Kontext an einem spezifischen Slot $j$ in der Antwort übereinstimmt, bezeichnet als Kohärenz $c_{g,j} = \Pr[g|j]$ .
Schätzung des Wohlstands: Die geschätzte Wohlfahrt bei der Zuweisung eines Werbetreibenden $i$ zu einem Slot $j$ wird als Skalarprodukt des Gebotsvektors und des Kohärenzvektors berechnet: $\tilde{w}_{i,j} = \tilde{v}_i^\top \tilde{c}_j$ .
Auktionsmechanismus: Die Plattform verwendet den Vickrey–Clarke–Groves (VCG)-Mechanismus, um $K$ Anzeigen an $K$ Slots zuzuweisen, wobei der Proxy-soziale Wohlstand (basierend auf geschätzten Werten) maximiert wird.

Messung der Kohärenz

Um die Übereinstimmung zwischen einem Genre und einem Text-Slot ohne historische Klickdaten zu schätzen, schlägt das Paper zwei Methoden vor:

Satz-Embeddings: Berechnung der Kosinus-Ähnlichkeit zwischen dem Genre-Embedding und benachbarten Sätzen, wobei die Störung des Redeflusses sanktioniert wird.
LLM-as-a-Judge: Verwendung eines Large Language Models, um den rhetorischen Fluss und die kontextuelle Relevanz der Einfügung eines spezifischen Genres an einem spezifischen Slot zu bewerten, wobei ein Kohärenz-Score ausgegeben wird.

Zentrale Beiträge

Ein praktisches Framework: Das Paper führt eine zweistufige Entkopplungsstrategie ein, die die Trade-offs zwischen kontextueller Kohärenz, Recheneffizienz und Datenschutz adressiert.
Theoretische Garantien: Die Autoren beweisen, dass die Anwendung von VCG auf dieses Genre-basierte Proxy-System eine approximative Dominant-Strategy Incentive Compatibility (DSIC) und Individual Rationality (IR) liefert. Sie leiten Fehlerschranken ab, die zeigen, dass die Abweichung vom wahrheitsgemäßen Bieten und der Verlust an sozialem Wohlstand durch die Granularität der Genres und die Genauigkeit der Kohärenzschätzung begrenzt sind ( $\epsilon = \epsilon_V + \epsilon_C$ ).
LLM-as-a-Judge Metrik: Das Paper führt die „LLM-as-a-Judge“-Metrik zur Schätzung der kontextuellen Kohärenz ein und validiert diese.
Empirische Validierung: Das Framework wird in synthetischen Umgebungen und durch menschliche Evaluierungsstudien getestet.

Ergebnisse

Theoretische Leistung

Approximationsgrenzen: Es wird gezeigt, dass der Mechanismus im Ground-Truth-Setting $(2\epsilon)$ -DSIC und $\epsilon$ -IR ist, wobei $\epsilon$ die Summe aus Bewertungsfehler (aufgrund grober Genres) und Kohärenzfehler ist.
Sozialer Wohlstand: Unter der Annahme von wahrheitsgemäßem Bieten ist der realisierte soziale Wohlstand um höchstens $2K \cdot \epsilon \cdot \bar{v}$ suboptimal im Vergleich zum optimalen Ground-Truth-Wohlstand.

Recheneffizienz

In synthetischen Experimenten mit $10^5$ Werbetreibenden und 100 Kandidaten-Slots wurde der VCG-Mechanismus auf einem Consumer-Grade-Laptop (Apple M1) in etwa 1,25 Sekunden abgeschlossen.
Die Laufzeit skaliert annähernd linear mit der Anzahl der Werbetreibenden und Slots, was die Machbarkeit für die Echtzeit-Platzierung nahelegt.

Ausrichtung der Kohärenzmessung

Korrelation mit Menschen: In einer Studie mit 36 Teilnehmern erreichte die LLM-as-a-Judge Methode eine Spearman-Korrelation von $\rho \approx 0,66$ mit den mittleren menschlichen Bewertungen. Speziell erreichten DeepSeek-R1 und GPT-5 Korrelationen von 0,6650 bzw. 0,6637, während GPT-4o 0,6380 erreichte.
Überlegenheit gegenüber Embeddings: LLM-as-a-Judge übertraf die Satz-Embedding-Methoden (die $\rho \approx 0,28$ bis $0,31$ erreichten) signifikant.
Rater-Äquivalenz: Die Vorhersagen des GPT-5 Judges korrelierten stärker mit dem Leave-one-out-Gruppenmittelwert als mit 29 von 36 individuellen menschlichen Ratern (80,6 %). Die Leistung des Judge war äquivalent zum Durchschnitt von etwa zwei menschlichen Ratern.

Signifikanz und Ansprüche

Das Paper beansprucht, das erste ganzheitliche Framework für die LLM-Werbeplatzierung bereitzustellen, das gleichzeitig kontextuelle Kohärenz, Recheneffizienz und Datenschutz adressiert.

Datenschutz: Durch die Entkopplung des Bietens von Echtzeit-Abfragen bieten Werbetreibende auf stabile Kategorien statt auf sensible Nutzer-Prompts, was die Datenschutzrisiken mindert.
Regulatorische Konformität: Die Trennung von Generierung und Platzierung erleichtert die explizite Werbekennzeichnung und Vorprüfung, was im Einklang mit den FTC-Richtlinien gegen irreführende Werbung steht.
Skalierbarkeit: Die Verwendung von Genres als Proxy für die Intention transformiert ein unpraktikables Echtzeit-Bietproblem in eine handhabbare Optimierung über eine endliche Menge von Kategorien.
Zukünftige Lebensfähigkeit: Die Autoren merken an, dass mit der Verbesserung der Foundation Models die Genauigkeit der „LLM-as-a-Judge“-Kohärenzmetrik steigen wird, was die Approximationsgarantien des Mechanismus weiter festigt.

Das Paper schließt mit der Feststellung, dass das Framework zwar auf einer genauen Kohärenzschätzung beruht und eine feste Genre-Partitionierung voraussetzt, aber einen praktikablen Weg zur nachhaltigen Monetarisierung von LLMs bietet, ohne das Nutzererlebnis oder den Datenschutz zu gefährden.