Fine-Tuned LLM as a Complementary Predictor Improving Ads System
Dieser Beitrag stellt ein werbeindustrietaugliches System vor, das einen feinabgestimmten Open-Source-LLM als ergänzenden Hilfsprädiktor integriert, um aus Nutzerprofilen wahrscheinliche Werbetreibende vorherzusagen, wodurch die Kandidatengenerierung erweitert und informative A-priori-Annahmen für das nachgelagerte Ranking bereitgestellt werden, um signifikante Verbesserungen der Offline- und Online-Geschäftskennzahlen zu erzielen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie betreiben einen riesigen, geschäftigen digitalen Marktplatz (wie Pinterest). Sie haben Millionen von Besuchern, und Ihre Aufgabe besteht darin, ihnen die perfekten Anzeigen zu zeigen – Anzeigen für Produkte, die sie tatsächlich kaufen möchten.
Traditionell funktioniert Ihr System wie eine riesige, effiziente Bibliothekarin. Sie schaut, worauf eine Person gestern geklickt hat, und findet ähnliche Bücher (Anzeigen) im Regal. Es ist schnell und gut darin, „mehr vom Gleichen" zu finden. Aber manchmal verfehlt es das Ziel, weil es die tieferen Wünsche der Person oder die subtilen Verbindungen zwischen ihrem Surfverhalten und bestimmten Marken nicht wirklich versteht.
Dieser Artikel stellt ein neues Werkzeug vor: einen klugen, gut informierten Assistenten (ein feinabgestimmtes Large Language Model, oder LLM), der den Bibliothekarin nicht ersetzt, sondern neben ihr arbeitet, um bessere Vorhersagen zu treffen.
Hier ist, wie das System funktioniert, aufgeschlüsselt in einfache Schritte:
1. Das Problem: Die Bibliothekarin braucht einen Hinweis
Das traditionelle System ist großartig in Mathematik, hat aber Schwierigkeiten mit „Weltwissen". Es weiß, dass ein Nutzer auf einen Wanderschuh geklickt hat, aber es verbindet dies vielleicht nicht intuitiv mit einer bestimmten Marke von Energieriegel oder einem lokalen Outdoor-Geschäft, es sei denn, es hat diese genaue Kombination zuvor gesehen.
2. Die Lösung: Der „Anzeigen-Vorhersage"-Assistent
Anstatt die KI zu bitten, die ganze Anzeige zu schreiben oder jedes einzelne Element zu ranken (was zu langsam und teuer wäre), stellte das Team der KI eine sehr spezifische Frage:
"Basierend auf dem Profil dieser Person und dem, was sie sich angesehen hat, bei welchen spezifischen Werbetreibenden wird sie als nächstes am wahrscheinlichsten kaufen?"
Stellen Sie sich diese KI als Wahrsagerin für Marken vor. Sie liest die Historie des Nutzers (Suchen, Klicks, Einkäufe außerhalb der Plattform) und sagt eine kurze Liste von 20 spezifischen Unternehmen vorher (wie „Nike", „Sephora" oder „Home Depot"), mit denen dieser Nutzer bereit ist, sich zu beschäftigen.
3. Wie sie den Assistenten trainierten
Man kann eine generische KI nicht einfach bitten, dies zu tun; sie muss die spezifischen Regeln Ihres Marktplatzes lernen.
- Die Hausaufgaben (SFT): Zuerst lehrten sie der KI, die Historie eines Nutzers zu betrachten und nur eine Marke zu erraten, bei der sie kaufen könnte. Das war wie ein Schüler, der lernt, eine einzelne Matheaufgabe korrekt zu lösen.
- Der Probelauf (GRPO): Dann machten sie es schwieriger. Sie baten die KI, 20 Marken und 5 Nutzerinteressen aufzulisten, gaben ihr aber einen „Bewertungsbogen". Wenn die KI die richtige Marke errat und sie nahe an den Anfang der Liste setzte, erhielt sie eine hohe Punktzahl. Wenn sie falsch lag oder zu viele Elemente auflistete, erhielt sie eine Strafe. Dies lehrte die KI, präzise zu sein und die Regeln zu befolgen.
- Der geheime Code (Semantische IDs): Um sie noch schärfer zu machen, lehrten sie der KI eine spezielle „Kurzform"-Sprache (Semantische IDs), die Bilder und Produkte repräsentiert. Es ist wie dem Assistenten beizubringen, ein Bild eines roten Kleides nicht nur durch die Worte „rotes Kleid" zu erkennen, sondern durch einen einzigartigen Code, der es mit anderen roten Kleidern und Modetrends verknüpft.
4. In die Praxis umgesetzt: Zwei Wege zur Hilfe
Sobald die KI trainiert war, ließen sie sie nicht den ganzen Laden führen. Stattdessen nutzten sie ihre Vorhersagen auf zwei spezifische Arten:
Weg A: Der Filter (Retrieval)
Stellen Sie sich vor, die Bibliothekarin sucht in einem Lagerhaus mit Milliarden von Artikeln. Die KI sagt: „Hey, für diesen Nutzer schauen Sie nur in die Gänge, die diesen 20 spezifischen Marken gehören." Dies schränkt die Suche sofort ein und stellt sicher, dass das System keine Zeit damit verschwendet, irrelevante Anzeigen zu zeigen. Es ist wie dem Bibliothekarin eine VIP-Liste von Geschäften zu geben, die sie zuerst prüfen soll.Weg B: Der Hinweis (Ranking)
Wenn das System entscheidet, welche Anzeige zuerst gezeigt werden soll, gibt es die Vorhersagen der KI an den finalen Entscheidungsträger weiter. Es ist wie ein Flüstern an den Richter: „Dieser Nutzer mag Marke X wirklich, also geben Sie dieser Anzeige eine höhere Punktzahl."
5. Die Ergebnisse: Hat es funktioniert?
Das Team testete dies in der realen Welt (auf dem tatsächlichen Traffic von Pinterest).
- Offline-Tests: Die KI wurde viel besser darin, die richtigen Marken zu erraten als das alte System oder eine „Zero-Shot"-KI (eine, die nicht auf diese spezifische Aufgabe trainiert war).
- Online-Tests: Als sie es für echte Nutzer aktivierten, waren die Ergebnisse klar. Die gezeigten Anzeigen waren relevanter, und die Return on Ad Spend (RoAS) stieg um fast 5 % bis 6 %. Dies bedeutet, dass Werbetreibende mehr Wert für ihr Geld erhielten, weil die Anzeigen Personen gezeigt wurden, die tatsächlich daran interessiert waren.
Die große Erkenntnis
Der Artikel argumentiert, dass Sie Ihr gesamtes Empfehlungssystem nicht durch eine riesige, langsame KI ersetzen müssen. Stattdessen können Sie eine spezialisierte, feinabgestimmte KI als „ergänzenden Vorhersager" verwenden.
Stellen Sie es sich wie eine Sportmannschaft vor: Sie haben Ihre Starspieler (die traditionellen Algorithmen), die schnell und zuverlässig sind. Jetzt haben Sie einen taktischen Trainer (das LLM) hinzugefügt, der die Historie des Gegners studiert und den Spielern sagt: „Konzentrieren Sie sich auf diese spezifischen Strategien." Der Trainer spielt das Spiel nicht, aber sein Rat hilft der Mannschaft, öfter zu gewinnen.
Kurz gesagt: Sie nutzten eine intelligente KI, um vorherzusagen, welche Marken ein Nutzer mag, nutzten diese Vorhersagen, um Anzeigen zu filtern und zu ranken, und steigerten erfolgreich den Geldbetrag, den Werbetreibende verdienten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.