Uncertainty Quantification of Click and Conversion Estimates for the Autobidding

Diese Arbeit stellt die DenoiseBid-Methode vor, die mithilfe eines bayesianischen Ansatzes verrauschte Klick- und Konversionsraten schätzt, um die Effizienz von Autobidding-Algorithmen in E-Commerce-Auktionen zu verbessern und ihre Robustheit gegenüber Unsicherheiten zu erhöhen.

Das Wesentliche

Stellen Sie sich vor, Sie sind der Chef eines riesigen Online-Werbemarktplatzes, auf dem jeden Tag Millionen von Auktionen stattfinden. Werbeanbieter wollen ihre Produkte zeigen, aber sie haben ein strenges Budget und eine maximale Kosten pro Klick (CPC) Grenze. Um zu entscheiden, wie viel sie für einen Werbeslot bieten sollen, verlassen sie sich auf einen automatischen Bieter (Autobidding).

Dieser automatische Bieter ist wie ein hochintenter, aber manchmal etwas nervöser Assistent. Er schätzt zwei Dinge:

1. CTR (Click-Through-Rate): Wie wahrscheinlich ist es, dass jemand auf die Anzeige klickt?
2. CVR (Conversion-Rate): Wie wahrscheinlich ist es, dass der Käufer danach auch etwas kauft?

Das Problem: Der Assistent ist nicht perfekt. Seine Schätzungen sind wie ein Foto, das leicht unscharf ist oder durch einen Nebel betrachtet wird. Wenn er denkt, die Wahrscheinlichkeit für einen Klick sei 10 %, könnte sie in Wirklichkeit nur 5 % oder schon 15 % sein.

In der Vergangenheit haben die Systeme einfach diese unscharfen Zahlen genommen und darauf basierend geboten. Das führte zu zwei Problemen:

• Sie boten zu viel, wenn der Assistent zu optimistisch war (Geldverschwendung).
• Sie boten zu wenig, wenn er zu pessimistisch war (verpasste Chancen).

Die Lösung: DenoiseBid – Der "Entrauschungs"-Filter

Die Autoren dieses Papiers haben eine neue Methode namens DenoiseBid entwickelt. Man kann sich das wie einen cleveren Bildbearbeiter vorstellen, der nicht nur das unscharfe Foto betrachtet, sondern auch weiß, wie die Welt normalerweise aussieht.

Hier ist die Idee in einfachen Schritten:

1. Der Nebel ist vorhersehbar (Bayes'sche Statistik)

Stellen Sie sich vor, Sie hören ein Gespräch in einem lauten Raum. Sie hören Wörter, aber sie sind verzerrt durch das Rauschen. Ein normaler Zuhörer würde einfach raten, was gesagt wurde.
DenoiseBid macht etwas anderes: Es weiß, wie die Sprache normalerweise klingt (die "Verteilung" der Wörter). Es kombiniert das, was es gerade gehört hat (die verrauschte Schätzung), mit seinem Wissen darüber, wie die Welt normalerweise ist (die "Prior-Verteilung").

2. Die "Wahrheit" rekonstruieren

Anstatt blind auf die verrauschte Zahl zu vertrauen, fragt DenoiseBid: "Wenn ich dieses verrauschte Signal sehe, was ist die wahrscheinlichste wahre Zahl, die dahintersteckt?"
Es nutzt eine mathematische Technik namens Extreme Deconvolution (XDGMM). Das ist wie ein Detektiv, der aus den Spuren am Tatort (den verrauschten Daten) und dem Wissen über den Täter (die historische Verteilung der Klicks) rekonstruiert, wie der Täter wirklich aussieht.

3. Der neue Bieter

Sobald der Assistent die "entrauschte", also bereinigte Wahrscheinlichkeit hat, berechnet er das Gebot.

• Alte Methode: "Ich denke, die Chance ist 10 %, also biete ich 10 Euro." (Wenn die Chance nur 5 % war, hat er zu viel bezahlt).
• DenoiseBid: "Ich habe ein verrauschtes Signal von 10 %, aber basierend auf meiner Erfahrung mit ähnlichen Situationen ist die wahre Chance eher 7 %. Also biete ich 7 Euro."

Warum ist das so wichtig? (Die Analogie des Fahrers)

Stellen Sie sich den Autobidder als einen Autopiloten vor, der ein Auto fährt.

• Die CTR/CVR-Schätzungen sind die Sensoren (Kamera, Radar), die sehen, wie weit das nächste Auto entfernt ist.
• Wenn die Sensoren verrauscht sind (Nebel, Regen), sehen sie das Auto vielleicht näher oder weiter weg, als es ist.
• Ein normaler Algorithmus würde einfach auf die Sensorwerte reagieren und vielleicht zu stark bremsen oder zu spät bremsen.
• DenoiseBid ist wie ein erfahrener Fahrer, der die Sensoren kennt. Er weiß: "Wenn es regnet und der Sensor '5 Meter' anzeigt, ist die Wahrscheinlichkeit hoch, dass das Auto eigentlich '7 Meter' entfernt ist." Er passt sein Bremsverhalten (das Gebot) an diese korrigierte Realität an.

Das Ergebnis

In Tests mit echten Daten (von Plattformen wie Avito, iPinYou und BAT) hat sich gezeigt:

• Stabilität: DenoiseBid hält sich viel besser an das Budget und die Kostenlimits als die alten Methoden.
• Effizienz: Es verpasst weniger gute Gelegenheiten, weil es nicht panisch auf falsche Alarme reagiert.
• Robustheit: Selbst wenn die Vorhersagemodelle sehr ungenau sind (starker "Nebel"), bleibt DenoiseBid ruhig und trifft gute Entscheidungen.

Zusammenfassend:
DenoiseBid ist wie ein kluger Filter für die Unsicherheit. Es nimmt die rohen, fehleranfälligen Vorhersagen von KI-Modellen, reinigt sie mit statistischem Wissen über die Vergangenheit und liefert dem Bieter-System eine viel sauberere, realistischere Basis für seine Entscheidungen. Das spart Geld und bringt mehr Verkäufe.

Technische Zusammenfassung

1. Problemstellung

Moderne E-Commerce-Plattformen nutzen automatisierte Auktionsmechanismen (insbesondere Second-Price Auctions, SPA), um Werbeflächen zuzuweisen. Autobidding-Systeme lösen dabei Optimierungsprobleme, um Gebote für Werbetreibende zu berechnen. Diese Systeme basieren typischerweise auf Schätzungen der Click-Through-Rate (CTR) und der Conversion-Rate (CVR), die von vortrainierten Machine-Learning-Modellen stammen.

Das Kernproblem besteht darin, dass diese Vorhersagen inhärent unsicher sind (Rauschen enthalten). Da die optimalen Gebote in linearen Optimierungsproblemen direkt von CTR und CVR abhängen, propagieren Schätzfehler direkt in die Gebote. Dies führt zu:

• Suboptimaler Budgetallokation.
• Verletzungen der Kosten-pro-Klick (CPC)-Beschränkungen der Werbetreibenden.
• Ineffizienten Ergebnissen, wenn das Rauschen in den Modellen hoch ist.

Bestehende robuste Ansätze (wie RobustBid) nutzen oft Unsicherheitsmengen, ignorieren aber oft die modellbasierte Unsicherheit pro Vorhersage oder verlieren Informationen durch Diskretisierung.

2. Methodik: DenoiseBid

Die Autoren stellen DenoiseBid vor, eine Bayes'sche Autobidding-Methode, die das deterministische Optimierungsproblem in ein stochastisches umwandelt. Das Ziel ist es, die erwartete Anzahl an Conversions zu maximieren, unter Berücksichtigung der Unsicherheit in den CTR/CVR-Schätzungen.

Kerntechniken:

• Stochastische Optimierung: Anstatt die rohen Schätzwerte zu verwenden, maximiert das System den bedingten Erwartungswert der wahren Konversionswahrscheinlichkeit gegeben die verrauschten Beobachtungen ($O$).
• Bayessche Posterior-Erwartung: Die Gebotsformel wird so abgeleitet, dass sie auf den Posterior-Erwartungswerten von CTR und CVR basiert, anstatt auf den Punktschätzungen.
  • Die optimale Gebotsformel lautet: $bid_t \propto E[CTR_t \cdot CVR_t | O]$ und $E[CTR_t | O]$.
• Modellierung im Logit-Raum: Da CTR und CVR im Intervall $[0, 1]$ liegen, erfolgt die Modellierung im Logit-Raum ($\xi = \ln(\frac{p}{1-p})$).
  • Rauschmodell: Das Rauschen wird als additiv und normalverteilt im Logit-Raum angenommen ($\hat{\xi} = \xi + \epsilon, \epsilon \sim \mathcal{N}(0, \sigma^2)$).
  • Prior-Verteilung: Die wahre Verteilung der Logits wird als Gaussian Mixture Model (GMM) modelliert, um komplexe, multimodale reale Verteilungen abzubilden.
• Wiederherstellung der Prior-Verteilung (XDGMM): Da die wahren Werte unbekannt sind, werden die Parameter des GMM-Priors aus den verrauschten Beobachtungen rekonstruiert. Dafür wird die Extreme Deconvolution (XDGMM)-Technik verwendet, die die Varianz des Messrauschens pro Stichprobe explizit berücksichtigt (im Gegensatz zum Standard-EM-Algorithmus).
• Berechnung der Erwartungswerte:
  • Für den Fall nur CTR-unsicherheit wird eine geschlossene Formel mittels Probit-Näherung hergeleitet.
  • Für den Fall der gemeinsamen Unsicherheit (CTR & CVR) wird eine bivariante GMM verwendet. Die Erwartungswerte des Produkts (CTR $\cdot$ CVR) werden effizient mittels Gauss-Hermite-Quadratur berechnet, wobei die Korrelationen durch Cholesky-Zerlegung der Kovarianzmatrix berücksichtigt werden.

3. Hauptbeiträge

1. Formulierung: Das Autobidding-Problem wurde unter verrauschten CTR/CVR-Werten formalisiert, und eine geschlossene Gebotsregel basierend auf Bayesschen Posterior-Erwartungen wurde hergeleitet.
2. Algorithmus (DenoiseBid): Entwicklung einer praktischen Pipeline, die die Prior-Verteilung von CTR/CVR mittels XDGMM aus verrauschten Daten rekonstruiert und entrauschte Gebote in geschlossener Form berechnet.
3. Umfassende Validierung: Extenive Experimente auf vier Datensätzen (Synthetisch, iPinYou, BAT, Criteo Attribution) unter synthetischem und empirischem Rauschen.

4. Ergebnisse

Die Experimente verglichen DenoiseBid mit zwei Baselines:

• Non-Robust (Standard): Nutzt direkte ML-Schätzwerte.
• RobustBid: Ein Ansatz basierend auf robuster Optimierung mit Unsicherheitsmengen.

Ergebnisse:

• Stabilität unter Rauschen: Während die nicht-robuste Methode bei steigendem Rauschen die CPC-Grenzen verletzt und die Effizienz einbricht, und RobustBid zwar die Grenzen einhält, aber stark an Konversionsvolumen verliert, bietet DenoiseBid die beste Balance.
• Leistung: DenoiseBid erreicht ein fast optimales Konversionsvolumen ($R/R^*$), während es die CPC-Beschränkungen strikt einhält.
• Empirische Daten: Auf dem Criteo Attribution-Datensatz (mit realen ML-Modellen und Virtual Ensembles zur Unsicherheitsschätzung) zeigte DenoiseBid (insbesondere mit GMM-Prior) signifikante Verbesserungen bei der Reduzierung der CPC-Abweichung und Steigerung der Conversions im Vergleich zur nicht-robusten Basislinie.
• Effizienz: Die Methode ist rechnerisch effizient genug für Echtzeit-Bidding-Systeme, da die Approximationen (z. B. mit wenigen Gauss-Hermite-Knoten) analytisch lösbar sind.

5. Bedeutung und Ausblick

Die Arbeit zeigt, dass die explizite Berücksichtigung von Unsicherheiten in den Eingangsdaten (CTR/CVR) durch einen Bayesschen Ansatz die Leistung von Autobidding-Systemen signifikant verbessern kann.

• Modellunabhängigkeit: Der Ansatz ist nicht an spezifische ML-Modelle gebunden (z. B. GBDT oder Deep Learning), solange Unsicherheitsmaße (Varianzen) bereitgestellt werden können.
• Praktische Relevanz: Die Methode ermöglicht es Werbetreibenden, Budgets effizienter zu nutzen und CPC-Ziele sicherer einzuhalten, selbst wenn die Vorhersagemodelle ungenau sind.
• Zukunft: Die Autoren planen, den Ansatz auf moderne Deep-Learning-Modelle für die Konversionsvorhersage zu erweitern, da diese zunehmend GBDT-Modelle ersetzen.

Zusammenfassend stellt DenoiseBid einen wichtigen Schritt dar, um die Lücke zwischen theoretischer Optimierung und der unsicheren Realität von ML-Vorhersagen im automatisierten Bidding zu schließen.