🤖 machine learning

From Prediction to Incrementality: Causal Optimization for Large-Scale Targeting and Recommendation

Dit artikel presenteert een besluitvormingsgerichte framework die traditionele voorspellende targeting vervangt door causale optimalisatie voor grootschalige aanbevelingssystemen, waarbij causale neurale netwerken, Bayesiaanse exploratie en geconstreerde allocatie worden geïntegreerd om een statistisch significante stijging van 7,20% in de lange termijn waarde te bereiken tijdens een online A/B-test op LinkedIn.

Oorspronkelijke auteurs: Changshuai Wei, John Bencina, Phuc Nguyen, Andre Assuncao Silva T Ribeiro, Benjamin Zelditch

Gepubliceerd 2026-08-12

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Changshuai Wei, John Bencina, Phuc Nguyen, Andre Assuncao Silva T Ribeiro, Benjamin Zelditch

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je de kapitein bent van een enorm cruiseschip, en je taak is om gratis ijs uit te delen aan de passagiers. In de oude manier van doen zou je naar een lijst kijken van wie meestal ijs eet en dat aan hen uitdelen. Maar hier komt de crux: sommige van die mensen gingen toch al ijs eten, zelfs als je het hen niet had gegeven. Je verspilde je scheppen aan mensen die geen duwtje nodig hadden, terwijl de passagiers die twijfelden over het halen van een traktatie niets kregen. Dit is het probleem van "voorspelling" versus "incrementaliteit". Voorspelling vraagt: "Wie gaat er ijs eten?" terwijl incrementaliteit vraagt: "Wie gaat er ijs eten alleen omdat ik het aan hen gaf?"

Dit artikel duikt in de wereld van Causal Machine Learning, een tak van kunstmatige intelligentie die probeert te begrijpen wat oorzaak en gevolg is, in plaats van alleen patronen te herkennen. Het is als het overstappen van een weervoorspeller die alleen zegt "het regent meestal op dinsdagen" naar een wetenschapper die kan bewijzen dat "als we een raket met zaadwolken lanceren, het daadwerkelijk zal gaan regenen." De auteurs werken aan een systeem dat wordt gebruikt door enorme online platforms (zoals LinkedIn) om te beslissen wie marketingberichten, vacatures of meldingen te zien krijgt. De grote vraag is: hoe stoppen we met het verspillen van geld aan mensen die toch al op de advertentie zouden klikken, en richten we ons in plaats daarvan op de mensen die echt die extra zet nodig hebben om actie te ondernemen?

De onderzoekers van LinkedIn hebben een nieuw, slimmer systeem gebouwd om dit puzzelstuk op te lossen. Ze noemen het een "decision-centric framework", wat een chique manier is om te zeggen dat ze gestopt zijn met simpelweg raden wie er zou klikken en begonnen zijn met het wiskundig berekenen van wie er veranderd zou worden door het bericht. Hun systeem bestaat uit drie hoofdonderdelen die samenwerken als een droomteam. Ten eerste fungeert een "causaal neuraal netwerk" (aangedreven door een Transformer, hetzelfde soort brein achter veel moderne AI-tools) als een detective. Het kijkt naar de geschiedenis van een gebruiker en schat het "behandelingseffect" in—in feilenheden: hoe waarschijnlijker ze iets zullen kopen of op een baan zullen solliciteren specifiek omdat ze de advertentie hebben gezien.

Ten tweede bevat het systeem een "neural bandit"-laag. Denk aan dit als een nieuwsgierige ontdekkingsreiziger. In het verleden kwamen AI-systemen vaak vast te zitten in een lus, waarbij ze alleen advertenties toonden aan mensen waarvan ze al zeker wisten dat ze zouden klikken, waardoor ze nieuwe kansen misten. Dit ontdekkingsdeel van het systeem is bereid om kleine risico's te nemen om nieuwe dingen te proberen, wat ervoor zorgt dat het geen potentiële klanten mist die nog niet getest zijn. Het gebruikt een slimme wiskundige truc genaamd "Laplace-approximatie" om te raden hoe onzeker het is over zijn voorspellingen, waardoor het veilig kan verkennen.

Ten derde, en misschien wel het belangrijkste, is er een laag van "grootschalige lineaire programmering". Dit is de strikte maar rechtvaardige manager. Zelfs als de detective een perfecte kandidaat vindt en de ontdekkingsreiziger een nieuwe strategie wil proberen, moet de manager ervoor zorgen dat ze de regels niet overtreden. Het bedrijf heeft een beperkt budget, een limiet op het aantal keren dat iemand een e-mail ontvangt, en een behoefte om verschillende soorten mensen op een eerlijke manier te bereiken. Deze laag lost een gigantische wiskundige puzzel op om de advertenties perfect te verdelen binnen die grenzen, zodat er geen geld wordt verspild en niemand onrechtvaardig wordt genegeerd.

Om te testen of dit nieuwe systeem daadwerkelijk werkt, hebben de onderzoekers simulaties uitgevoerd en vervolgens een experiment in de echte wereld uitgevoerd op het marketingverkeer van LinkedIn. In de simulaties vergeleken ze hun nieuwe "causale" methode met oudere methoden die alleen voorspelden wie er zou klikken. De resultaten waren duidelijk: het nieuwe systeem vond waardevollere doelwitten en gaf minder geld uit om dezelfde resultaten te behalen. Maar de echte magie gebeurde tijdens de live test. Toen ze het nieuwe systeem acht weken lang lieten draaien tegenover het oude standaard systeem, leverde het een statistisch significante stijging van +7,20% op in de primaire lange-termijn waarde-metriek. Dit betekent dat het bedrijf merkbaar meer waarde uit zijn marketingbudget haalde zonder meer geld uit te geven.

Het artikel benadrukt ook praktische lessen die zijn geleerd bij het bouwen van dit systeem in de echte wereld. Ze ontdekten dat het hebben van een slim model alleen niet genoeg is; je moet extreem voorzichtig zijn met hoe je je gegevens voorbereidt en hoe je de controle houdt over hoe de advertenties daadwerkelijk worden geleverd. Als het nieuwe systeem bijvoorbeeld besluit om iemand niet een advertentie te tonen (omdat het denkt dat zij toch niet van gedachten zouden veranderen), terwijl het oude systeem dat wel deed, moet je ervoor zorgen dat je geen appels met peren vergelijkt. Ze hebben speciale tools gebouwd om ervoor te zorgen dat de testgroepen perfect gematcht waren, zodat de resultaten eerlijk waren.

Kortom, dit artikel laat zien dat door de focus te verleggen van "wie zal er handelen?" naar "wie zal er handelen door ons?", en door slimme AI te combineren met strikt budgetbeheer, bedrijven hun marketing veel effectiever kunnen maken. Het gaat niet alleen om het harder roepen naar iedereen; het gaat om het fluisteren van het juiste bericht naar de juiste persoon op het juiste moment, waardoor middelen worden bespaard en er meer waarde wordt gecreëerd voor iedereen.

Technische Samenvatting: Van Voorspelling naar Incrementaliteit: Causale Optimalisatie voor Grootschalige Targeting en Aanbeveling

1. Probleemstelling

Grootschalige targeting- en aanbevelingssystemen in moderne online platforms (bijv. advertenties, marketing, notificaties) vertrouwen traditioneel op voorspellende modellering. Deze systemen trainen modellen om de waarschijnlijkheid van gebruikersrespons te schatten (bijv. klikfrequentie of conversiekans) en rangschikken op basis van deze voorspellingen.

De auteurs stellen echter dat dit paradigma fundamenteel niet in lijn is met de bedrijfsdoelstellingen in marketing- en prikkelgestuurde omgevingen, waar het doel incrementale impact is (bijv. "Zou deze gebruiker converteren vanwege de interventie, of zouden ze sowieso al geconverteerd zijn?").

De Discrepantie: Een hoge voorspelde respons betekent niet noodzakelijkerwijs een hoge causale waarde. Gebruikers die ongeacht een interventie zouden handelen (de "always-takers") worden systematisch over-getarget, wat middelen verspilt.
De Kloof: Bestaande causale benaderingen richten zich vaak op lokale besluitvorming (ranking) of beleidsevaluatie zonder globale beperkingen (budgetten, frequentiebeperkingen, eerlijkheid) aan te pakken. Omgekeerd gebruiken systemen voor beperkte optimalisatie doorgaans niet-causale voorspellende scores als input, wat leidt tot suboptimale toewijzing van middelen.

2. Methodologie

Het artikel stelt een besluitvormingsgericht framework voor dat causale effecten gezamenlijk optimaliseert onder globale beperkingen. Het systeem integreert drie kerncomponenten onder één enkele doelstelling:

A. Causaal Neuraal Netwerk (De "DragonBandit" Head)

Het systeem schat Individuele Behandelingseffecten (ITE) met behulp van een aangepaste DragonNet architectuur:

Architectuur: Een gedeelde encoder $\Phi$ voert naar drie heads: twee outcome heads ( $\mu_1, \mu_0$ ) voor potentiële uitkomsten onder behandeling en controle, en één propensity head ( $e$ ) voor de waarschijnlijkheid van behandelingstoewijzing.
Transformer Backbone: Om sequentiële gebruikersinteracties (marketing contactmomenten) te verwerken, bevat het model een Transformer-encoder. Deze verwerkt temporele kenmerken (recentheid, engagement-cadans) met behulp van geleerde embeddings voor interactietypes, dag van de week en sinusoidale positionele encodings.
Multi-Outcome Extensie: Om meerdere producten zonder hertraining te ondersteunen, gebruikt het model outcome embeddings. Een gedeelde embedding matrix codeert productattributen (gestructureerd of LLM-afgeleid), waardoor het model nieuwe, ongeziene producten kan scoren via dot-product gelijkenis met de gebruikersrepresentatie.
Trainingsdoelstelling: Het model minimaliseert een samengestelde loss inclusief outcome voorspelling (BCE), propensity voorspelling, gerichte regularisatie gebaseerd op de Efficient Influence Function (EIF) voor ATE, en een autoencoder reconstructie-loss voor outcome embeddings.

B. Onzekerheidsbewuste Exploratie (Neural Bandit)

Om feedbackloops aan te pakken en causale identificatie (overlap) te verbeteren, maakt het systeem gebruik van Neural Thompson Sampling:

Mechanisme: In plaats van deterministische punt-schattingen te gebruiken, samplet het systeem uit de posterior distributie van de netwerkparameters.
Benadering: Het gebruikt een Linearized Laplace Approximation (LLA) gecentreerd rond de Maximum A Posteriori (MAP) oplossing. Dit berekent de kromming van de log-likelihood om een Gaussische distributie over logits af te leiden, wat onzekerheidsbewuste exploratie mogelijk maakt met minimale serving overhead vergeleken met methoden zoals Bayes by Backprop.
Rol: Dit zorgt ervoor dat het systeem acties verkent met een hoge onzekerheid, waardoor de "rich-get-richer" dynamiek wordt voorkomen en de kwaliteit van de data voor toekomstige causale schattingen wordt verbeterd.

C. Geconstreerde Allocatie (Grootschalige Lineaire Programmering)

De gesamplede incrementele scores worden ingevoerd in een dual-based grootschalige lineaire programmerings (LP) solver om beslissingen over miljoenen gebruikers en items te coördineren:

Formulering: Het probleem maximaliseert de som van gesamplede incrementele beloningen onder globale beperkingen (budgetten, volume-caps, frequentielimieten).
Schaalbaarheid: Om tientallen miljoenen variabelen aan te kunnen, gebruiken de auteurs Dual Decomposition. Ze versoepelen binaire beperkingen naar waarschijnlijkheden en lossen het duale probleem op met Nesterov-geaccelereerde ascent. De primaire minimizer deelt per gebruiker op, waardoor de kosten per iteratie lineair zijn in het aantal gebruikers en items ( $O(|U| \cdot |I|)$ ), in plaats van kubisch.
Leveringscontrole: Een feedbackcontroller past de kostendoelstellingen aan op basis van gerealiseerde leveringspercentages (bijv. veilingoverwinningen, gebruikers-return rates) om ervoor te zorgen dat het systeem voldoet aan de pacing-vereisten zonder over- of onder-levering.

3. Belangrijkste Bijdragen

Verenigd Besluitvormingsframework: Een formulering die causale schatting, exploratie en geconstreerde allocatie verenigt onder één enkele doelstelling, waarmee het verder gaat dan de standaard patronen van het optimaliseren van voorspellende signalen met heuristische allocatie.
Architecturale Extensies:
- Een Transformer-versterkte DragonNet voor het modelleren van temporele marketingsequenties.
- Een gedeelde outcome-embedding head die multi-outcome en attribuut-geconditioneerde scoring voor cold-start producten mogelijk maakt.
Productie Pipeline: Een volledig geïntegreerde pipeline die de causale head, neural-bandit exploratie en een dual-based LP solver combineert.
Empirische Validatie:
- Offline Simulaties: Simulaties op de Open Bandit Dataset (OBD) tonen aan dat incremental modeling + constrained optimization beter presteert dan propensity-gebaseerde en ranking-only baselines.
- Online: Een acht-weken durende A/B-test op LinkedIn Feed marketingverkeer.

4. Resultaten

Offline Simulaties:
- Single-turn: De aanpak "Incremental Modeling + Constrained Optimization" behaalde het hoogste netto rendement ($0.46 vs. $0.39 voor propensity + constrained) en verminderde de kosten aanzienlijk door gebruikers te identificeren die waarschijnlijk organisch zouden converteren (waardoor de "no-recommendation" rates toenamen).
- Multi-turn: De "Bandit Incremental Model" overwon initiële databias en presteerde beter dan greedy varianten na ongeveer 50 rondes, wat de langetermijnwaarde van exploratie aantoont.
Online A/B-test:
- Uitgerold op LinkedIn Feed marketingverkeer tegenover een Business-As-Usual (BAU) twee-tier propensity stack.
- Primaire Metriek: De treatment arm bereikte een statistisch significante +7,20% lift in de primaire lange-termijn-waarde metriek ( $p=0,041$ , 95% CI: [0,31%, 14,09%]).
- Operationeel Succes: Het systeem beheerde budget pacing en leveringsbeperkingen succesvol, waarbij de "onder-levering" valkuilen die in vroege tests werden waargenomen zonder de feedbackcontroller, werden vermeden.

5. Betekenis en Claims

Het artikel claimt aan te tonen dat productie-schaal causale optimalisatie haalbaar is onder complexe bedrijfsbeperkingen. De betekenis ligt in:

Verschuiving van het Paradigma: Van het "ranken van hoog-responsieve gebruikers" naar het "kiezen van gebruikers met een hoge incrementele impact" via globaal gecoördineerde allocatie.
Praktische Implementatie: Een blauwdruk bieden voor het integreren van causale inferentie in industriële systemen, waarbij kritieke real-world hindernissen worden aangepakt zoals dataconstructie (context/treatment/outcome vensters), kostencontrole en leveringsschatting.
Schaalbaarheid: Bewijzen dat complexe causale modellen gecombineerd met constrained optimization efficiënt kunnen draaien op de schaal van honderden miljoenen leden met behulp van dual decomposition en lichtgewicht onzekerheidsbenaderingen.

De auteurs benadrukken dat het succes van het systeem niet alleen afhangt van de modelarchitectuur, maar van de pragmatische verbeteringen in dataconstructie en leveringscontrole, die vaak onzichtbaar zijn in offline simulaties maar cruciaal zijn voor real-world ROI.