Uncertainty Quantification of Click and Conversion Estimates for the Autobidding

Each language version is independently generated for its own context, not a direct translation.

Samenvatting: Hoe je slimmer biedt in een online veiling, zelfs als je voorspellingen niet 100% zeker zijn

Stel je voor dat je een online advertentiecampagne runt. Je wilt dat je advertenties worden getoond aan de juiste mensen, maar je hebt een vast budget en mag niet te veel betalen per klik. Om dit te doen, gebruiken grote platforms (zoals Avito of Google) een automatische veiling. Elke seconde vinden er miljoenen veilingen plaats voor een advertentieruimte.

Om te winnen, moet je een bod uitbrengen. Maar hier zit het probleem: je weet niet precies hoeveel kans er is dat iemand op je advertentie klikt (CTR) of iets koopt (CVR). Je gebruikt een slim computermodel om dit te voorspellen, maar die voorspellingen zijn nooit 100% zeker. Het is alsof je probeert het weer te voorspellen: het kan zonnig zijn, maar er is altijd een kans op een regenbui.

De auteurs van dit papier, Ivan, Andrey, Aleksandr en Egor, hebben een nieuwe methode bedacht genaamd DenoiseBid (Ruis-verwijderbied). Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De "Grijze" Voorspelling

Stel je voor dat je een voorspelling krijgt van je computer: "Er is 20% kans op een klik."
Maar die 20% is eigenlijk een wazig getal. Het zou 18% kunnen zijn, of 22%. Als je dit onzere getal direct gebruikt om je bod te berekenen, maak je fouten.

Te optimistisch: Je denkt dat de kans 22% is, biedt te hoog, en betaalt te veel (je budget is snel op).
Te pessimistisch: Je denkt dat de kans 18% is, biedt te laag, en mist kansen.

De oude methoden doen alsof de voorspelling 100% waar is. Dat werkt goed als het weer altijd zonnig is, maar in de echte wereld (met ruis) faalt dit.

2. De Oplossing: DenoiseBid (De "Wis-En-Smeer" Methode)

De auteurs zeggen: "Wacht even, we moeten niet kijken naar het ene wazige getal, maar naar de waarschijnlijkheid dat het getal klopt."

Ze gebruiken een wiskundige truc (Bayesiaanse statistiek) die werkt als een ruisonderdrukkende koptelefoon:

Luisteren naar het signaal: Het computermodel geeft een voorspelling (bijv. 20%).
Luisteren naar de achtergrondruis: Ze weten hoe onzeker dat model is (bijv. "soms zit hij 2% naast").
De "Echte" Kans berekenen: In plaats van te zeggen "Het is 20%", zeggen ze: "Gezien de onzekerheid, is de meest waarschijnlijke echte waarde waarschijnlijk iets anders." Ze "zuiveren" het getal van de ruis.

3. De Creatieve Analogie: De Weerman en de Paraplu

Laten we het vergelijken met het kopen van een paraplu.

De Oude Methode (Non-Robust): De weerman zegt: "Het regent met 60% kans." Je denkt: "Oké, 60% is veel!" en je koopt een dure paraplu. Maar als het niet regent, heb je geld verspild. Als het toch regent (en de kans eigenlijk 80% was), heb je te weinig betaald. Je reageert blind op het getal.
De Robuste Methode (RobustBid): Deze methode is heel bang. Ze denken: "Wat als het 100% regent?" Ze kopen de duurste, zwaarste paraplu die er bestaat. Ze zijn veilig, maar ze betalen te veel voor een paraplu die ze misschien nooit nodig hebben. Ze missen kansen om geld te besparen.
De DenoiseBid Methode: Deze methode kijkt naar de historie van de weerman. Ze weten: "Hij zegt vaak 60%, maar in het verleden bleek het vaak 50% te zijn als hij dit zei." Ze corrigeren het getal. Ze kopen een paraplu die perfect past bij de echte kans, rekening houdend met de onzekerheid. Het resultaat? Je bent niet te duur, maar je bent ook niet te goedkoop. Je raakt je budget niet kwijt, maar je mist ook geen regen.

4. Wat hebben ze bewezen?

De auteurs hebben dit getest met vier verschillende datasets (inclusief echte data van Avito en andere veilingplatforms). Ze hebben twee soorten "ruis" getest:

Verzonnen ruis: Ze hebben willekeurige fouten in de data gestopt om te zien of hun methode het overleeft.
Echte ruis: Ze hebben gekeken naar de onzekerheid van echte AI-modellen.

Het resultaat:
DenoiseBid werkt beter dan de oude methoden.

Het houdt zich strikt aan het budget (je geeft niet te veel uit).
Het haalt meer "conversies" (meer mensen kopen iets) dan de andere methoden.
Het is flexibel: of de voorspellingen nu een beetje of heel erg onzeker zijn, de methode past zich aan.

Conclusie

Kortom, DenoiseBid is een slimme manier om te bieden in online veilingen. In plaats van blind te vertrouwen op een computer die soms vergist, kijkt het systeem naar de onzekerheid van die computer en past het bod daarop aan. Het is als het hebben van een ervaren kapitein die niet alleen naar de GPS kijkt, maar ook weet hoe onnauwkeurig de GPS soms is, en daarom een veiligere route kiest.

Dit zorgt ervoor dat adverteerders meer winst maken en minder geld verspillen aan verkeerde inschattingen.

Each language version is independently generated for its own context, not a direct translation.

Titel: Kwantificering van Onzekerheid in Click- en Conventieschattingen voor Autobidding

Auteurs: Ivan Zhigalskii, Andrey Pudovikov, Aleksandr Katrutsa, Egor Samosvat (Avito & HSE/MSU)

1. Het Probleem

Moderne e-commerceplatforms gebruiken geautomatiseerde veilingmechanismen (zoals Second-Price Auctions) om miljoenen advertentieruimtes per dag toe te wijzen. Autobidding-systemen lossen geoptimaliseerde biedingen op voor adverteerders, gebaseerd op voorspellingen van Click-Through-Rate (CTR) en Conversion-Rate (CVR) gegenereerd door machine learning-modellen.

De Kernuitdaging: Deze ML-modellen zijn inherent onzeker. Fouten in de schattingen van CTR en CVR propageren lineair naar de biedformule. Dit leidt tot suboptimale budgettoewijzing en schendingen van de kosten-per-click (CPC) beperkingen van de adverteerder.
Huidige Beperkingen: Bestaande methoden negeren vaak de onzekerheid (niet-robust) of gebruiken benaderingen die te restrictief zijn (bijv. specifieke parametrische families) of informatie verliezen (clustering). Er is een behoefte aan een raamwerk dat expliciet rekening houdt met voorspellende ruis.

2. Methodologie: DenoiseBid

De auteurs stellen DenoiseBid voor, een Bayesiaanse autobidding-methode die de deterministische optimalisatie vervangt door een stochastische optimalisatie. Het doel is om de verwachte realisatie van conversies te maximaliseren, gegeven de ruis in de observaties.

A. Wiskundige Formulering

In plaats van te bidden op basis van ruwe schattingen ( $\hat{CTR}, \hat{CVR}$ ), maximaliseert DenoiseBid de posteriore verwachting van de conversie, voorwaardelijk op de waarnemingen $O$ .

Het probleem wordt geformuleerd als een Lineair Programmeringsprobleem (LP) waarbij de doelwitfunctie en de CPC-beperking gebaseerd zijn op $E[CTR \cdot CVR | O]$ en $E[CTR | O]$.
De optimale biedformule blijft lineair, maar gebruikt deze Bayesiaanse posterior-verwachtingen in plaats van de ruwe punten-schattingen.

B. Berekening van Posterior Verwachtingen

Om de verwachtingen te berekenen, worden twee componenten gebruikt:

Ruismodel (Likelihood): Ruis wordt gemodelleerd als additief en Gaussiaans in de logit-ruimte (waarbij $logit(p) = \ln(p/(1-p))$ ). Dit is een standaardbenadering voor CTR/CVR voorspellers.
A-priori Distributie: De ware verdeling van CTR/CVR wordt gemodelleerd als een Gaussische Mixtuur (Gaussian Mixture Model - GMM). Dit maakt het mogelijk om complexe, multimodale verdelingen uit historische data te vangen.

De posterior-verwachting wordt berekend via Bayes' theorema:
$E[X | O] = \frac{\int X \cdot p(O|X) \cdot p(X) dX}{\int p(O|X) \cdot p(X) dX}$

C. Herstelling van de A-priori Distributie (Empirisch)

Omdat de ware waarden ( $X$ ) niet bekend zijn, moeten de parameters van de a-priori distributie ( $\pi_k, \mu_k, \theta_k$ ) worden geschat uit de ruisige observaties.

De auteurs gebruiken Extreme Deconvolution (XDGMM). In tegenstelling tot standaard EM-algoritmen, houdt XDGMM rekening met de individuele ruisvariantie ( $\sigma_t^2$ ) van elke steekproef.
Dit stelt het systeem in staat om de onderliggende verdeling van CTR/CVR te reconstrueren, ondanks de meetfouten in de ML-voorspellingen.

D. Unieke en Gecombineerde Onzekerheid

Alleen CTR-onzekerheid: De methode vereenvoudigt tot een gesloten vorm met een probit-benadering voor de integraal.
Gecombineerde CTR-CVR onzekerheid: De methode generaliseert naar een bivariate Gaussische mixtuur. Correlaties tussen CTR en CVR binnen een veiling worden meegenomen. Voor de berekening van het product $CTR \cdot CVR$ wordt Gauss-Hermite kwadratuur gebruikt, wat computatie-efficiënt blijft (klein aantal knooppunten).

3. Belangrijkste Bijdragen

Formulering: Het autobidding-probleem is formeel gedefinieerd onder ruisige CTR/CVR-waarden, met een afleiding van een gesloten vorm biedregel gebaseerd op Bayesiaanse posterior-verwachtingen.
DenoiseBid Methode: Een praktische pijplijn die de a-priori distributie van CTR/CVR herstelt uit ruisige observaties (via XDGMM) en vervolgens "gedenoiste" biedingen berekent in gesloten vorm.
Empirische Validatie: Uitgebreide experimenten op vier datasets (Synthetisch, iPinYou, BAT, Criteo Attribution) onder zowel synthetische als empirische ruiscondities.

4. Resultaten

De prestaties van DenoiseBid zijn vergeleken met een niet-robuste baseline (standaard LP) en RobustBid (een robuuste optimalisatie-methode).

Synthetische Ruis:
- De niet-robuste baseline faalt bij toenemende ruis: deze schendt CPC-limieten en levert minder conversies op.
- RobustBid houdt de CPC-limiet in acht, maar offert aanzienlijk veel conversies op (lage $R/R^*$ ).
- DenoiseBid behaalt de beste balans: het behoudt een stabiele, bijna optimale conversiehoeveelheid en houdt de CPC-beperkingen strikt in acht, zelfs bij hoge ruisniveaus.
Empirische Ruis (Criteo Dataset):
- Door gebruik te maken van Virtual Ensembles om onzekerheid te schatten, toonde DenoiseBid (vooral met de Gaussische mixtuur variant) significante verbeteringen.
- Er werd een statistisch significante reductie in CPC-afwijking gezien (p < 0.05) en een toename in conversies, vooral bij scenario's met beperkte data of verwijderde features.

5. Betekenis en Conclusie

DenoiseBid biedt een modelvrije, Bayesiaanse oplossing voor het autobidding-probleem dat de onzekerheid van ML-modellen expliciet integreert in de biedstrategie.

Innovatie: Het combineert de empirische verdeling van waarden met per-voorspelling onzekerheidsschattingen, wat een verbetering is op eerdere methoden die ofwel de verdeling negeerden of te star waren.
Praktische Toepasbaarheid: De methode behoudt een gesloten vorm (snelle berekening), wat essentieel is voor real-time bidding-systemen.
Impact: Het resultaat is een robuuster advertentiebiedsysteem dat budgetten efficiënter gebruikt en de kostenbeperkingen van adverteerders betrouwbaarder respecteert, zelfs wanneer de onderliggende voorspellingsmodellen onzekerheid bevatten.

De auteurs merken op dat toekomstig werk gericht zal zijn op het aanpassen van deze framework aan diepe leermodellen (Deep Learning), aangezien deze steeds vaker worden gebruikt dan GBDT-modellen.