HiGR: Industrial-Scale Hierarchical Generative Slate Recommendation Framework in Tencent
Dieses Paper stellt HiGR vor, ein industrielles hierarchisches generatives Framework für die Slate-Empfehlung, das die Einschränkungen bestehender Methoden adressiert, indem es einen strukturierten SID-Raum mittels PCRQ-VAE, einen grobkörnigen hierarchischen Slate-Decoder für effiziente Planung und einen auf ORPO basierenden Alignment-Mechanismus einsetzt, was zu signifikanten Verbesserungen der Empfehlungsqualität, der Inferenzgeschwindigkeit und des realen Nutzerengagements auf Tencent-Plattformen führt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind der Redakteur einer Tageszeitung. Ihr Job besteht nicht nur darin, die eine beste Geschichte für die Titelseite auszuwählen; Sie müssen eine ganze Titelseite (ein „Slate“) mit 10 verschiedenen Geschichten kuratieren.
Die Herausforderung? Wenn Sie einfach die 10 populärsten Geschichten einzeln auswählen, landen Sie vielleicht bei 10 Geschichten über denselben Prominenten oder 10 Geschichten über die gleiche Art von Verbrechen. Der Leser langweilt sich oder hat das Gefühl, in einer „Informationsblase“ zu stecken. Sie brauchen eine Mischung: ein wenig Politik, ein wenig Sport, ein wenig Human Interest, alles so angeordnet, dass der Leser dazu angeregt wird, die Seite umzublättern.
Genau dieses Problem löst HiGR für Apps wie die News- und Videoplattformen von Tencent. Es ist ein neuer „KI-Editor“, der nicht einfach einzelne Artikel nacheinander auswählt, sondern die gesamte Seite auf einmal plant.
So funktioniert HiGR, unterteilt in drei einfache Schritte mittels Analogien:
1. Die Bibliothek der organisierten Bücher (PCRQ-VAE)
Bevor die KI eine Liste schreiben kann, muss sie verstehen, worum es in jedem einzelnen Element (Video, Nachrichtenartikel, Roman) geht.
- Der alte Weg: Stellen Sie sich eine Bibliothek vor, in der jedes Buch mit einer zufälligen Nummerntags versehen ist. Wenn Sie nach „Science-Fiction“ suchen wollen, müssen Sie jedes einzelne Buch prüfen, ob die Nummer passt. Das ist unordentlich und ineffizient.
- Der HiGR-Weg: HiGR baut eine intelligente Bibliothek. Es gibt jedem Buch einen speziellen Code (eine „Semantische ID“), der wie eine hierarchische Adresse fungiert.
- Der erste Teil des Codes gibt das Genre an (z. B. „Science-Fiction“).
- Der zweite Teil gibt das Subgenre an (z. B. „Space Opera“).
- Der letzte Teil identifiziert das spezifische Buch.
- Die Magie: HiGR verwendet eine spezielle Trainingsmethode (genannt Prefix-Contrastive RQ-VAE), um sicherzustellen, dass alle „Space-Opera“-Bücher denselben ersten Teil ihres Codes teilen. Dies macht es der KI leicht zu sagen: „Ich brauche eine Space Opera“, ohne die gesamte Bibliothek durchsuchen zu müssen.
2. Der zweistufige Architekt (Hierarchical Slate Decoder)
Nun muss die KI die Titelseite erstellen.
- Der alte Weg (Der langsame Baumeister): Stellen Sie sich einen Baumeister vor, der jeden einzelnen Stein nacheinander legen muss, um ein ganzes Haus zu bauen. Wenn er beim ersten Stein einen Fehler macht, muss er die ganze Wand wieder abreißen und von vorne beginnen. Das ist langsam und führt dazu, dass er den Überblick über die Gesamtform des Hauses verliert.
- Der HiGR-Weg (Der Architekt + Der Maurer): HiGR teilt die Aufgabe in zwei Rollen auf:
- Der Architekt (Grobkörniger Planer): Zuerst schaut der Architekt auf den Nutzer und sagt: „Okay, für diese Person braucht die Titelseite: 1. Eine Sportgeschichte, 2. Eine Tech-Geschichte, 3. Eine Kochgeschichte.“ Er wählt noch nicht die spezifischen Geschichten aus, sondern plant lediglich den Vibe und die Struktur der Seite. Das geht schnell und stellt sicher, dass die Seite ausgewogen aussieht.
- Der Maurer (Feinkörniger Generator): Sobald der Architekt sagt: „Wir brauchen eine Sportgeschichte“, findet der Maurer schnell die beste spezifische Sportgeschichte, um diese Lücke zu füllen.
- Das Ergebnis: Da der Architekt zuerst das gesamte Layout plant, bleibt die KI nicht im Kleinteiligen hängen. Sie baut die Seite viel schneller (5-mal schneller!) und behält dabei die perfekte Struktur bei.
3. Die Kritik des Editors (ORPO Preference Alignment)
Schließlich muss die KI lernen, was eine gute Titelseite ausmacht, nicht nur eine technisch korrekte.
- Das Problem: Wenn man eine KI nur lehrt, das „nächste Wort“ vorherzusagen, schreibt sie vielleicht einen Satz, der grammatikalisch perfekt, aber langweilig ist. Ähnlich könnte eine KI 10 Elemente auswählen, die zwar alle populär, aber repetitiv sind.
- Die HiGR-Lösung: HiGR nutzt eine Technik namens ORPO (Odds Ratio Preference Optimization). Betrachten Sie dies als einen strengen Editor, der zwei Versionen der Titelseite bewertet:
- Version A (Der Gewinner): Eine Seite, die der Nutzer tatsächlich gesehen, gemocht und zu Ende gelesen hat.
- Version B (Der Verlierer): Eine Seite, die zufällig zusammengestellt wurde, langweilige Inhalte hatte oder zu repetitiv war.
- Die Lektion: Die KI lernt, diese beiden zu vergleichen. Sie lernt, dass eine gute Seite nicht nur aus Popularität besteht, sondern aus Ranking (das Beste zuerst platzieren), echtem Interesse (Dinge auswählen, die der Nutzer wirklich mag) und Diversität (sicherzustellen, dass die Seite nicht nur aus dem Gleichen besteht).
Die reale Auswirkung
Die Publikation berichtet, dass dieses System bereits auf Tencent-Plattformen live ist und hunderten Millionen Nutzern dient.
- Geschwindigkeit: Es läuft 5-mal schneller als bisherige Methoden, was bedeutet, dass Nutzer nicht warten müssen, bis ihr Feed lädt.
- Qualität: In realen Tests erhöhte es die Zeit, die Menschen mit dem Anschauen von Videos verbrachten, um 1,22 % und die Anzahl der abgespielten Videos um 1,73 %.
- Skalierbarkeit: Es bewältigt massive Datenmengen, ohne ins Schwitzen zu geraten, was beweist, dass dieser „Architekt + Maurer“-Ansatz für die industrielle Skalierung der Empfehlung funktioniert.
Kurz gesagt: HiGR ist eine KI, die aufhört, versucht, Items einzeln auszuwählen. Stattdessen entwirft sie zuerst einen ausgewogenen, diversen Plan für die gesamte Liste und füllt dann schnell die Details aus, wodurch sichergestellt wird, dass die Nutzer ein personalisiertes, ansprechendes und nicht repetitives Erlebnis erhalten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.