Don't Contrast the Impossible: Region-Constrained Batching for Contrastive User Modeling on a Local Community Platform
Dieses Paper schlägt Region-Constrained Batch Sampling (RCBS) vor, eine neuartige Batching-Methode für lokale Community-Plattformen, die geografisch unmögliche Negativbeispiele durch machbare ersetzt, um das kontrastive User-Modeling zu verbessern und dadurch die Performance von Empfehlungen und Werbung in der Produktion zu steigern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen einem Roboter beizubringen, was Menschen mögen. In der Welt der Informatik nennt man das „Recommender-Systeme“, und das Gehirn des Roboters wird mit einer Technik namens „Contrastive Learning“ aufgebaut. Denken Sie an dies wie an ein Spiel von „Finde den Unterschied“. Um dem Roboter beizubringen, was ein Nutzer mag, zeigen Sie ihm ein Bild von etwas, auf das er geklickt hat (ein „Positiv“), und zeigen ihm dann eine Reihe anderer Bilder, die er nicht angeklickt hat (die „Negativ-Beispiele“). Der Roboter lernt, indem er erkennt: „Ah, der Nutzer mag dieses eine, aber nicht diese anderen.“
Damit dieses Spiel gut funktioniert, müssen die „Negativ“-Bilder, die Sie dem Roboter zeigen, Dinge sein, die der Nutzer auch sehen konnte, ihn aber einfach ignoriert hat. Wenn Sie dem Roboter ein Bild eines Pinguins zeigen, der einem Nutzer präsentiert wird, der mitten in der Wüste lebt und noch nie einen Pinguin gesehen hat, lernt der Roboter nichts Nützliches. Der Nutzer hat den Pinguin nicht ignoriert, weil er ihn nicht mochte; er hat ihn ignoriert, weil es ihm unmöglich war, ihn überhaupt zu sehen. Dieser Artikel befasst sich mit einem spezifischen Problem, bei dem das „Spielfeld“ strengen Regeln unterliegt, wer was sehen darf, und der Roboter dadurch verwirrt wurde, indem man ihm unmögliche Dinge zeigte.
Das Problem: Einem Roboter mit unmöglichen Entscheidungen beibringen
Auf einer lokalen Community-App wie Karrot (ein beliebter Ort in Südkorea zum Kaufen und Verkaufen in der Nähe) sind die Regeln des Spiels ganz anders als bei einem globalen Geschäft wie Amazon. Auf Karrot können Sie nur Artikel sehen, die in Ihrer Nähe sind. Wenn Sie in Seoul leben, werden Sie kein Fahrrad zum Verkauf in Busan sehen, selbst wenn es das coolste Fahrrad der Welt ist. Die App ist so konzipiert, dass die Distanz wie eine Mauer wirkt; Artikel auf der anderen Seite der Mauer sind für Sie schlichtweg unsichtbar.
Die Forscher fanden heraus, dass die Standardmethode, mit der der Roboter trainiert wurde, einen großen Fehler machte. Der Roboter wurde mit „Mini-Batches“ trainiert, was einfach kleine Gruppen von Nutzern und Artikeln sind, die zufällig zusammengemischt werden. Da das Mischen zufällig geschah, wurde dem Roboter oft Artikel gezeigt, die für einen bestimmten Nutzer physisch unmöglich zu sehen waren. Zum Beispiel könnte man einem Nutzer in einem Stadtteil ein Objekt aus einem Stadtteil gezeigt haben, der 50 Kilometer entfernt liegt.
Das Paper bezeichnet diese als „unmögliche Negativ-Beispiele“ (impossible negatives). Wenn der Robot sieht, dass ein Nutzer ein Objekt ignoriert, das unmöglich zu sehen war, denkt er: „Okay, dieser Nutzer hasst dieses Objekt definitiv!“ Aber das ist falsch. Der Nutzer hat es nicht gehasst; er konnte es nur nicht sehen. Das ist so, als würde ein Lehrer einen Schüler dafür ausschimpfen, dass er eine Frage nicht beantwortet hat, die in einer Sprache geschrieben ist, die der Schüler nicht spricht. Das Paper argumentiert, dass das Füllen des Trainingsspiels mit diesen „unmöglichen“ Entscheidungen das Lernen des Roboters verwässert und ihn schlecht darin macht, vorherzusagen, was Menschen tatsächlich wollen.
Die Lösung: Die „gleiche Nachbarschaft“-Regel
Um dies zu beheben, schlugen die Autoren Seungho Han, Byeongchang Kim und Jin Yu eine neue Art vor, das Trainingsspiel zu organisieren, die Region-Constrained Batch Sampling (RCBS) genannt wird.
Anstatt alle in denselben großen Eimer zu werfen, fungiert RCBS wie eine strenge Nachbarschaftswache. Wenn es eine Gruppe von Nutzern erstellt, um den Roboter zu trainieren, wählt es nur Nutzer aus, die im selben Gebiet (oder in sehr nahen Gebieten) leben. Da alle in der Gruppe in der Nähe wohnen, ist jeder Artikel, der in der Gruppe gezeigt wird, etwas, das jeder in dieser Gruppe theoretisch sehen könnte.
Diese einfache Änderung hat eine gewaltige Wirkung. Jetzt, wenn der Roboter sieht, dass ein Nutzer ein Objekt ignoriert, weiß er mit Sicherheit, dass der Nutzer es auch hätte sehen können. Wenn er trotzdem nicht geklickt hat, ist das ein echtes Signal dafür, dass er nicht interessiert ist. Diese werden als „mögliche Negativ-Beispiele“ (feasible negatives) bezeichnet. Das Paper legt nahe, dass diese „möglichen“ Entscheidungen tatsächlich schwieriger und informativer für den Roboter zu lernen sind als die leichten „unmöglichen“ Entscheidungen. Es ist, als würde man das Training des Roboters von „raten, was in einer verschlossenen Box ist“ auf „raten, was in einer Box direkt vor einem steht“ upgraden.
Was sie herausfanden: Ein besserer Roboter
Das Team testete diese Idee auf zwei Arten: erstens durch Simulationen offline (wie ein Übungsspiel) und zweitens durch einen Test auf der echten App mit echten Nutzern (ein Live-A/B-Test).
In den Simulationen maßen sie, wie viele „unmögliche“ Entscheidungen in den Trainingsgruppen enthalten waren. Mit der alten Zufallsmethode waren beeindruckende 98 % der Negativ-Entscheidungen für den Nutzer unmöglich zu sehen. Mit ihrer neuen RCBS-Methode gelang es ihnen, diese Zahl auf 30 % zu senken.
Die Ergebnisse waren eindeutig. Der Roboter, der mit der neuen „Nachbarschaftsregel“ trainiert wurde, wurde viel besser darin, die richtigen Artikel zu finden.
- Offline-Tests: Der neue Roboter verbesserte seine Fähigkeit, die richtigen Artikel zu finden, um etwa 7,56 % bei der Suche im Home-Feed und um 4,61 % beim Ranking von Anzeigen im Vergleich zum alten Roboter.
- Live-Tests: Als sie den neuen Roboter in die tatsächliche App implementierten, waren die Ergebnisse noch spannender. Die Anzahl der Klicks auf den Home-Feed stieg um 10,0 %, und die Anzahl der Personen, die den Feed sahen (Impressions), stieg um 5,12 %. Sogar die Anzeigen performten besser, mit einem Anstieg der Klicks um 7,46 %.
Das Fazit
Das Paper kommt zu dem Schluss, dass man bei lokalen Community-Plattformen Nutzer und Artikel nicht einfach wahllos mischen kann. Man muss die Geografie respektieren. Indem man sicherstellt, dass der Roboter nur von Dingen lernt, die Nutzer auch tatsächlich sehen konnten, lernt der Roboter viel schneller und intelligenter. Die Autoren haben diese neue Methode bereits bei Karrot implementiert, und sie hilft nun Millionen von Nutzern, die Dinge zu finden, die sie wirklich wollen, direkt in ihrer eigenen Nachbarschaft. Sie schlagen vor, dass dies zwar ein großer Schritt nach vorne ist, es aber in Zukunft noch weitere Möglichkeiten geben könnte, diese „Nachbarschaftsregeln“ fein abzustimmen, aber für den Moment hat sich die einfache Lösung – „kontrastiere nicht das Unmögliche“ – als Gewinner erwiesen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.