💬 NLP

Ad Insertion in LLM-Generated Responses

Dit artikel stelt een nieuw kader voor voor duurzame LLM-monetisering dat advertentie-insertie ontkoppelt van responsgeneratie en genre-gebaseerd bieden gebruikt om simultaan contextuele coherentie, computationele efficiëntie en ethische naleving te waarborgen, terwijl het sterke veilingtheoretische garanties behaalt.

Oorspronkelijke auteurs: Shengwei Xu, Zhaohua Chen, Xiaotie Deng, Zhiyi Huang, Grant Schoenebeck

Gepubliceerd 2026-08-26

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Shengwei Xu, Zhaohua Chen, Xiaotie Deng, Zhiyi Huang, Grant Schoenebeck

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In het digitale tijdperk is de manier waarop we informatie vinden verschoven van het typen van korte, statische vragen in een zoekvak naar het voeren van vloeiende, voortdurende gesprekken met kunstmatige intelligentie. Decennialang heeft het verdienmodel achter zoekmachines berust op het koppelen van advertenties aan de specifieke woorden die een gebruiker typt. Als je "hardloopschoenen" typt, verschijnt er een advertentie voor sneakers. Dit systeem werkt omdat de intentie van de gebruiker wordt gevangen in die vaste trefwoorden. Moderne taalmodellen beantwoorden echter niet alleen vragen; ze genereren lange, evoluerende reacties die menselijke conversatie nabootsen. In een gesprek over het plannen van een reis naar New York kan het gesprek vloeien van het bespreken van musea naar hotels, vervolgens naar transport en tot slot naar budgettering. De intentie van de gebruiker verandert met elke zin. Dit creëert een unieke uitdaging: hoe toon je een relevante advertentie voor een hotel zonder dat het uit de toon valt in een paragraaf over musea, of erger nog, zonder dat de advertentie zelf een gehallucineerde leugen is die de kunstmatige intelligentie op dat moment genereert? Bovendien moet het tonen van deze advertenties onmiddellijk gebeuren, zonder het gesprek te vertragen, en moet het de privacy van de gebruiker respecteren door geen gevoelige persoonlijke details aan adverteerders bloot te stellen.

Onderzoekers hebben een nieuw kader voorgesteld om dit puzzelstuk op te lossen, met als doel advertenties op een manier in deze AI-gesprekken te verweven die natuurlijk aanvoelt, snel blijft en gebruikersgegevens beschermt. De kern van hun oplossing bestaat uit twee belangrijke scheidingen. Ten eerste scheiden ze de handeling van het schrijven van het gesprek van de handeling van het invoegen van de advertentie. In plaats van dat de kunstmatige intelligentie probeert een advertentie in haar reactie te schrijven terwijl ze spreekt, genereert het systeem eerst een schoon, advertentievrij antwoord. Pas nadat het antwoord voltooid is, beslist een apart systeem waar vooraf geschreven advertenties geplaatst moeten worden. Dit zorgt ervoor dat de inhoud van de advertentie vooraf is gecontroleerd op nauwkeurigheid en duidelijk kan worden gemarkeerd als een gesponsorde boodschap, wat voorkomt dat de AI per ongeluk valse beweringen over een product verzint.

De tweede, en misschien wel meest innovatieve, scheiding vindt plaats in de manier waarop adverteerders voor deze plekken bieden. In traditionele zoekmachines bieden adverteerders op specifieke trefwoorden. In een dynamische chat zou het bieden op elke mogelijke zin of elk moment computationeel onmogelijk zijn en een privacy-nachtmerrie vormen, omdat adverteerders de privé-prompts van de gebruiker zouden moeten kunnen zien. In plaats daarvan introduceerden de onderzoekers het concept van "genres". Dit zijn brede, stabiele categorieën zoals "hotels", "luchtvaartmaatschappijen" of "elektronica". Adverteerders bieden vooraf op deze genres, in plaats van op specifieke gebruikersvragen. Wanneer het systeem klaar is om een advertentie in te voegen, kijkt het naar het huidige deel van het gesprek en schat in hoe goed elk genre bij die specifieke context past. Vervolgens gebruikt het een wiskundige methode, vergelijkbaar met een veiling met hoge inzet, om de best passende advertentie aan de best passende plek toe te wijzen. Deze aanpak stelt het systeem in staat om een hoteladvertentie te koppelen aan een paragraaf over accommodatie, zonder dat de adverteerder ooit de specifieke reisplannen van de gebruiker hoeft te zien.

Om te testen of deze methode daadwerkelijk werkt, bouwde het team een prototype en mat hoe goed het systeem de relevantie van een advertentie voor een specifiek deel van een gesprek kon beoordelen. Ze vergeleken hun geautomatiseerde systeem met menselijke beoordelingen. Ze ontdekten dat het gebruik van een groot taalmodel om als rechter op te treden — door te evalueren of een advertentiegenre bij een specifieke zin past — resultaten opleverde die nauw aansloten bij de menselijke intuïtie. In hun tests correleerden de voorspellingen van de geautomatiseerde rechter met de gemiddelde beoordeling van zesendertig menselijke deelnemers op een niveau van ongeveer 0,66. Opmerkelijk genoeg presteerde deze geautomatiseerde rechter beter dan tweeëntwintig van de zesendertig individuele menselijke beoordelaars wanneer deze werd vergeleken met het groepsgemiddelde. Dit suggereert dat het systeem betrouwbaar kan bepalen wanneer een advertentie contextueel gepast is, zonder dat er een mens nodig is om elke interactie te beoordelen.

De onderzoekers voerden ook simulaties uit om te zien of dit systeem de snelheid kan aan die vereist is voor real-time gebruik. Ze simuleerden een scenario met honderdduizend adverteerders en honderd mogelijke plekken voor advertenties in een gesprek. Zelfs met deze enorme schaal was het systeem in staat om te berekenen welke advertenties getoond moesten worden en hoeveel ze moesten kosten in ongeveer 1,25 seconde op een standaard laptop. Deze snelheid geeft aan dat het veilingmechanisme snel genoeg is om in live gesprekken te worden gebruikt zonder merkbare vertragingen te veroorzaken. De studie concludeert dat door de plaatsing van de advertentie los te koppelen van de tekstgeneratie en brede categorieën te gebruiken in plaats van specifieke trefwoorden, het mogelijk is om een duurzaam, efficiënt en contextueel relevant advertentiemodel voor conversationele AI te creëren. Hoewel het systeem vertrouwt op schattingen in plaats van perfecte kennis van de intentie van de gebruiker, suggereren de resultaten dat de fouten die door deze benadering worden geïntroduceerd klein genoeg zijn om de eerlijkheid voor adverteerders en een goede ervaring voor gebruikers te behouden.

Technische Samenvatting: Ad Insertie in door LLM gegenereerde Responsen

Probleemstelling

De duurzame monetarisering van Large Language Models (LLM's) staat voor een kritieke uitdaging: traditionele zoekadvertenties, die vertrouwen op statische trefwoorden, slagen er niet in de vluchtige, contextafhankelijke gebruikersintentie te vangen die besloten ligt in conversationele flows. In tegenstelling tot zoekmachines waar de intentie is gecodeerd in statische queries, bevatten interacties met LLM's evoluerende intenties die gedurende een complex dialoog verschuiven (bijvoorbeeld van het bespreken van attracties naar het budgetteren voor een reis).

Het integreren van advertenties in deze flows brengt drie primaire technische hindernissen met zich mee:

Contextuele Coherentie: Advertenties moeten semantisch aansluiten bij de specifieke, tijdelijke gebruikersintentie op het moment van insertie om de gebruikerservaring niet te verstoren.
Computationele Efficiëntie: Het mechanisme moet in real-time kunnen opereren zonder latentie te introduceren die de conversationele flow verslechtert.
Sociaal Welzijn & Ethiek: Het systeem moet het totaal van de utiliteit van zowel de adverteerder als het platform maximaliseren, terwijl het voldoet aan regelgevende vereisten (bijv. expliciete advertentie-onthulling) en privacy-standaarden. Bestaande oplossingen ofweljes de gevoelige gebruikersprompts bloot aan adverteerders (privacyrisico) of vereisen real-time biedingen op elke token/query (computationele onhaalbaarheid).

Methodologie

De auteurs stellen een framework voor dat deze spanningen oplost door middel van twee lagen van ontkoppeling:

1. Ontkoppeling van Ad Insertie van Responsgeneratie

Het framework scheidt de generatie van de "organische" respons van de insertie van advertenties.

Proces: Bij ontvangst van een query genereert de LLM eerst een volledige, advertentievrije organische respons ( $z$ ).
Mechanisme: Onafhankelijk daarvan bepaalt een veilingmechanisme welke vooraf ingediende, statische advertentiecreatie's geïnterject worden en waar (op specifieke slots $y_j$ tussen tekstsegmenten).
Voordelen: Dit maakt pre-screening van advertentiecreatie's mogelijk om hallucinaties of misleidende inhoud te voorkomen en zorgt voor expliciete onthulling (bijv. "[Gesponsord: ...]"). Het stelt ook de responsgeneratie en de veilingmodules in staat om onafhankelijk van elkaar geoptimaliseerd te worden.

2. Ontkoppeling van Bieden van Specifieke Gebruikersqueries via "Genres"

In plaats van te bieden op specifieke gebruikersprompts of tokens, bieden adverteerders op genres ( $g \in \mathcal{G}$ ), gedefinieerd als hoogwaardige semantische clusters (bijv. "Luchtvaartmaatschappijen", "Hotels", "Eten").

Waarderingsmodel: Adverteerders dienen statische biedingen ( $\tilde{v}_{i,g}$ ) in voor genres. Het platform schat de waarschijnlijkheid in dat een specifiek genre aansluit bij de context op een specifiek slot $j$ in de respons, aangeduid als coherentie $c_{g,j} = \Pr[g|j]$ .
Welvaartschatting: De geschatte welvaart voor het toewijzen van adverteerder $i$ aan slot $j$ wordt berekend als het dotproduct van de biedvector en de coherentievector: $\tilde{w}_{i,j} = \tilde{v}_i^\top \tilde{c}_j$ .
Veilingmechanisme: Het platform gebruikt het Vickrey–Clarke–Groves (VCG) mechanisme om $K$ advertenties toe te wijzen aan $K$ slots, waarbij de proxy sociale welvaart (gebaseerd op geschatte waarden) wordt gemaximaliseerd.

Coherentie Meting

Om de afstemming tussen een genre en een tekstslot te schatten zonder historische klikdata, stelt het paper twee methoden voor:

Zin-embeddings: Het berekenen van de cosine gelijkenis tussen de genre-embedding en aangrenzende zinnen, waarbij de verstoring van de flow wordt bestraft.
LLM-as-a-Judge: Het gebruik van een groot taalmodel om de retorische flow en de contextuele relevantie van het invoegen van een specifiek genre op een specifiek slot te evalueren, waarbij een coherentiescore wordt gegenereerd.

Belangrijkste Bijdragen

Een Praktisch Framework: Het paper introduceert een twee-laagse ontkoppelingsstrategie die de trade-offs tussen contextuele coherentie, computationele efficiëntie en privacy aanpakt.
Theoretische Garanties: De auteurs bewijzen dat het toepassen van VCG op dit genre-gebaseerde proxy-systeem leidt tot benaderende Dominant-Strategy Incentive Compatibility (DSIC) en Individual Rationality (IR). Ze leiden foutmargen af die aantonen dat de afwijking van waarheidsgetrouw bieden en het verlies in sociale welvaart begrensd zijn door de granulariteit van de genres en de nauwkeurigheid van de coherentie-inschatting ( $\epsilon = \epsilon_V + \epsilon_C$ ).
LLM-as-a-Judge Metriek: Het paper introduceert en valideert een "LLM-as-a-Judge" metriek voor het schatten van contextuele coherentie.
Empirische Validatie: Het framework wordt getest in synthetische omgevingen en via menselijke evaluatiestudies.

Resultaten

Theoretische Prestaties

Benaderingsmarges: Het mechanisme is aangetoond $(2\epsilon)$ -DSIC en $\epsilon$ -IR te zijn in de ground-truth setting, waarbij $\epsilon$ de som is van de waarderingsfout (door grove genres) en de coherentiefout.
Sociale Welvaart: Uitgaande van waarheidsgetrouw bieden, is de gerealiseerde sociale welvaart maximaal suboptimaal met $2K \cdot \epsilon \cdot \bar{v}$ vergeleken met de optimale ground-truth welvaart.

Computationele Efficiëntie

In synthetische experimenten met $10^5$ adverteerders en 100 kandidaat-slots, werd het VCG-mechanisme afgehandeld in ongeveer 1,25 seconden op een consumentenlaptop (Apple M1).
De runtime schaalt ongeveer lineair met het aantal adverteerders en slots, wat duidt op haalbaarheid voor real-time insertie.

Coherentie Meting Alignement

Correlatie met Mensen: In een studie met 36 participanten bereikte de LLM-as-a-Judge methode een Spearman correlatie van $\rho \approx 0,66$ met gemiddelde menselijke beoordelingen. Specifiek behaalden DeepSeek-R1 en GPT-5 correlaties van 0,6650 en 0,6637 respectievelijk, terwijl GPT-4o 0,6380 behaalde.
Superioriteit aan Embeddings: LLM-as-a-Judge presteerde significant beter dan zin-embeddings (die $\rho \approx 0,28$ tot $0,31$ behaalden).
Beoordelaars-equivalentie: De voorspellingen van de GPT-5 judge correleerden sterker met het leave-one-out groepsgemiddelde dan 29 van de 36 individuele menselijke beoordelaars (80,6%). De prestaties van de judge waren gelijk aan het gemiddelde van ongeveer twee menselijke beoordelaars.

Betekenis en Claims

Het paper claimt het eerste holistische framework te bieden voor LLM ad insertie dat tegelijkertijd contextuele coherentie, computationele efficiëntie en privacy aanpakt.

Privacy: Door bidding te ontkoppelen van real-time queries, bieden adverteerders op stabiele categorieën in plaats van op gevoelige gebruikersprompts, wat de privacyrisico's beperkt.
Regulatoire Naleving: De scheiding van generatie en insertie faciliteert expliciete advertentie-onthulling en pre-screening, wat aansluit bij FTC-richtlijnen tegen misleidende reclame.
Schaalbaarheid: Het gebruik van genres als proxy voor intentie transformeert een onhandelbaar real-time biedprobleem in een beheersbare optimalisatie over een eindige set categorieën.
Toekomstige Levensvatbaarheid: De auteurs merken op dat naarmate foundation modellen verbeteren, de nauwkeurigheid van de "LLM-as-a-Judge" coherentie-metriek naar verwachting zal toenemen, wat de benaderende garanties van het mechanisme verder zal aanscherpen.

Het paper concludeert dat hoewel het framework afhankelijk is van nauwkeurige coherentie-inschatting en uitgaat van vaste genre-partities, het een levensvatbaar pad biedt naar duurzame monetarisering van LLM's zonder de gebruikerservaring of privacy in gevaar te brengen.