💻 computer science

Action-Aware Generative Sequence Modeling for Short Video Recommendation

Dit artikel stelt Action-Aware Generative Sequence Network (A2Gen) voor, een nieuw model dat gebruikmaakt van de temporele patronen van gebruikersacties om de beperkingen van traditionele binaire classificatie bij het aanbevelen van korte video's te overwinnen, wat leidt tot aanzienlijke verbeteringen in kijktijd, interactiepercentages en gebruikersbehoud door middel van uitgebreide offline en grootschalige online A/B-tests op Kuaishou.

Oorspronkelijke auteurs: Wenhao Li, Zihan Lin, Zhengxiao Guo, Jie Zhou, Shukai Liu, Yongqi Liu, Chuan Luo, Chaoyi Ma, Ruiming Tang, Han Li

Gepubliceerd 2026-04-29

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Wenhao Li, Zihan Lin, Zhengxiao Guo, Jie Zhou, Shukai Liu, Yongqi Liu, Chuan Luo, Chaoyi Ma, Ruiming Tang, Han Li

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een korte video bekijkt op je telefoon. Het is een mix van verschillende dingen: misschien een grappige grap, een serieus nieuwsfragment, een pakkend liedje en dan een plotselinge advertentie.

De Oude Manier (De "Eén-oplossing-voor-alles"-Aanpak)
Traditionele aanbevelingssystemen behandelen de hele video als één enkel, massief blok kaas. Als je de video "Leuk" vindt, gaat het systeem ervan uit dat je alles erin leuk vond.

Het Probleem: Stel dat de video een interview is waarbij de gast kiest voor "Messi" in plaats van "Ronaldo". Je vindt de video "Leuk" op dat exacte moment omdat je van Messi houdt. Maar de rest van de video is gewoon hoogtepunten van Ronaldo. Het oude systeem denkt: "Oh, ze vonden de video leuk, dus ze moeten ook van Ronaldo houden!" en begint je Ronaldo-video's te tonen. Je raakt geïrriteerd omdat je alleen het Messi-gedeelte leuk vond.

Het Nieuwe Inzicht (Timing is Alles)
De auteurs van dit artikel realiseerden zich dat wanneer je op een knop klikt, net zo belangrijk is als dat je erop geklikt hebt.

De Analogie: Denk aan een video als een filmposter. Als je in je handen klapt (een "Leuk") precies op het moment dat de held de dag redt, reageer je op dat specifieke moment. Als je aan het einde klapt, ben je misschien gewoon beleefd. De timing vertelt het systeem precies welk deel van de video je blij maakte.
De Ontdekking: Door naar miljoenen video's te kijken, ontdekten ze dat "Leuk"-reacties en "Volgen"-acties vaak plaatsvinden in specifieke "pieken" (hoogtepunten). Als je een maker "Volgt" voordat je de video helemaal hebt uitgekeken, betekent dit dat je van de persoon houdt, niet noodzakelijk van de specifieke inhoud die je zojuist zag.

De Oplossing: A2Gen (Het "Verhaler"-Model)
Het artikel introduceert een nieuw model genaamd A2Gen (Action-Aware Generative Sequence Network). In plaats van te raden of je een video leuk zult vinden, probeert A2Gen de hele story te voorspellen van hoe je het zult bekijken.

Zo werkt het, opgesplitst in eenvoudige onderdelen:

De Contextbewuste Aandachtmodule (CAM) – "De Slimme Lezer"
Stel je een lezer voor die niet alleen woorden leest, maar ook de sfeer van de kamer begrijpt. CAM kijkt naar je eerdere acties en de specifieke video-inhoud samen. Het weet dat een "Leuk" op een komedievideo iets anders betekent dan een "Leuk" op een nieuwsvideo. Het besteedt aandacht aan de context van het moment.
De Hiërarchische Sequentie-encoder (HSE) – "De Geheugenbank"
Dit onderdeel onthoudt je langetermijn gewoonten. Het bekijkt je geschiedenis als een bibliothecaris die boeken ordent. Het ziet niet alleen "Gebruiker X heeft 100 video's bekeken". Het ziet patronen: "Gebruiker X slaat meestal advertenties over maar houdt van muziekvideo's, en ze hebben de neiging om makers te 'Volgen' na 15 seconden." Het bouwt een diep profiel op van je unieke stijl.
De Actie-volgorde Autoregressieve Generator (AAG) – "De Kristallen Bol"
Dit is het magische deel. In plaats van alleen "Ja/Nee" te zeggen, fungeert AAG als een kristallen bol die de hele volgorde van je toekomstige acties voorspelt.
- Het vraagt zich af: "Als we deze video tonen, zal de gebruiker dan beginnen met kijken? Zullen ze het 'Leuk' vinden op het 5-seconde punt? Zullen ze de maker 'Volgen' op het 10-seconde punt? Wanneer stoppen ze?"
- Het voorspelt de volgorde en het exacte tijdstip van elke klik, net als het voorspellen van het plot van een film voordat het gebeurt.

Waarom Dit Belangrijk Is (De Resultaten)
Het team testte dit op Kuaishou, een enorm platform voor korte video's met honderden miljoenen gebruikers. Ze vervingen hun oude systeem door A2Gen en voerden een groot experiment uit (A/B-testen).

Het Resultaat: Omdat het systeem nu begrijpt welke delen van een video je echt leuk vindt, biedt het betere content aan.
De Cijfers:
- Mensen keken 0,34% meer video-tijd (wat klein klinkt, maar met miljoenen gebruikers is dat veel tijd).
- Mensen interacteerden (leuk, volgen, commentaar) 8,1% meer.
- Belangrijker nog, meer mensen kwamen de volgende dag terug (retentie steeg met 0,162%), wat neerkomt op ongeveer een miljoen extra dagelijkse gebruikers die op het platform blijven.

Samenvattend
Het artikel betoogt dat we een video niet als één enkel "Ja/Nee"-item moeten behandelen. In plaats daarvan moeten we het behandelen als een tijdlijn van momenten. Door een model te gebruiken dat voorspelt wanneer en in welke volgorde je zult reageren, kan de app eindelijk je echte smaak begrijpen en je video's tonen die je echt wilt kijken, in plaats van alleen maar te raden op basis van één klik.

1. Probleemstelling

Traditionele multi-task aanbevelingssystemen voor korte video's behandelen een video doorgaans als een enkel holistisch geheel, waarbij ze vertrouwen op binaire classificatie (bijv. klik/geen klik, leuk/niet leuk) om gebruikersvoorkeuren te voorspellen. Deze aanpak stuit op twee kritieke beperkingen:

Verlies van Granulariteit: Korte video's bevatten vaak diverse segmenten (bijv. een medley van nummers of een interview met meerdere onderwerpen). Gebruikers kunnen specifieke segmenten waarderen terwijl ze andere niet leuk vinden. Het behandelen van de video als geheel verwaterd deze fijnmazige interesses, wat leidt tot onnauwkeurige embeddings en slechte aanbevelingen (bijv. het aanbevelen van een Ronaldo-video aan een gebruiker die alleen het Messi-segment leuk vond).
** negeren van Temporele Dynamiek:** Gebruikersconsumptie is een temporeel proces. Het tijdstip van een actie (bijv. leuk vinden op 2 seconden versus 16 seconden) en de volgorde van acties (bijv. Volgen dan Leuk vinden versus Leuk vinden dan Volgen) dragen verschillende semantische betekenissen met betrekking tot gebruikersintentie. Bestaande modellen slagen er niet in deze temporele afhankelijkheden en actievolgorde binnen één item vast te leggen.

De kernuitdaging is om gebruikersgedrag niet alleen te modelleren als een set geïsoleerde gebeurtenissen, maar als een tijdsgeordende reeks acties die op specifieke tijdstippen binnen een video plaatsvinden, waardoor echte, op segmentniveau gebaseerde interesses worden vastgelegd.

2. Methodologie: Action-Aware Generative Sequence Network (A2Gen)

De auteurs stellen A2Gen voor, een nieuw raamwerk dat gebruikersacties koppelt tot een uniforme reeks voor generatieve voorspelling. In plaats van binaire uitkomsten te voorspellen, genereert het model een volledige reeks acties $\{(A_1, T_1), \dots, (A_m, T_m)\}$ , waarbij $A$ het actietype is en $T$ het tijdstempel.

De architectuur bestaat uit drie hoofdcomponenten:

A. Context-aware Attention Module (CAM)

In tegenstelling tot standaard self-attention in NLP, integreert CAM itemspecifieke contextuele kenmerken in het attentiemechanisme.

Mechanisme: Het integreert contextuele informatie (itemkenmerken) in het query-vector. Dit zorgt ervoor dat de berekening van de gelijkenis tussen twee acties afhankelijk is van de specifieke inhoud van de bijbehorende items, en niet alleen van de actietypen.
Gating: Een gating-netwerk leert de relatieve belangrijkheid van verschillende attention-heads voor specifieke taken, wat mogelijk maakt om te optimaliseren per taak.
Functie: Het modelleert effectief de inputreeks (historische acties) door de wisselwerking tussen actietypen en itemcontexten vast te leggen.

B. Hierarchical Sequence Encoder (HSE)

Gebruikersgeschiedenis omvat twee dimensies: de reeks acties binnen één enkel item en de reeks items die over tijd zijn verbruikt. HSE adresseert dit via een tweeledige codering:

Actie-dimensie: Verwerkt de reeks acties voor elk historisch item met behulp van CAM om itemniveau-interesserepresentaties ( $Seq_j$ ) te extraheren.
Item-dimensie: Behandelt de reeks historische items (elk vertegenwoordigd door hun $Seq_j$ en itemkenmerken) als een nieuwe reeks. CAM wordt opnieuw toegepast, waarbij de kenmerken van het doelitem als context worden gebruikt om gepersonaliseerde gelijkenisgewichten te berekenen tussen historische items en de huidige kandidaat.

Output: Een uitgebreide gebruikersrepresentatie ( $Vec_{hist}$ ) die zowel fijnmazige segmentinteresses als langetermijnitemvoorkeuren vastlegt.

C. Action-seq Autoregressive Generator (AAG)

Deze module maakt gebruik van een autoregressief generatief paradigma om de toekomstige actiereeks voor een doelitem te voorspellen.

Input: Gebruikerskenmerken, doelitemkenmerken en de historische representatie ( $Vec_{hist}$ ).
Proces: Het voorspelt acties stap voor stap. Op elke stap $i$ voorspelt het het actietype ( $A_i$ ) en het tijdstip ( $T_i$ ) op basis van de eerder gegenereerde acties ( $A_{1:i-1}, T_{1:i-1}$ ).
Training: Gebruikt Teacher Forcing (ground truth van vorige stappen) om parallelle training mogelijk te maken.
Verliesfuncties:
- Classificatieverlies: Cross-entropy voor voorspelling van het actietype.
- Regressieverlies: Mean Squared Error (MSE) voor tijdsvoorspelling (genormaliseerd op videoduur).
- Volgorde-beperkingverlies ( $L_{order}$ ): Zorgt ervoor dat gegenereerde tijdstempels chronologisch zijn geordend ( $T_p < T_q$ voor $p < q$ ), waardoor logische inconsistenties worden voorkomen.

3. Belangrijkste Bijdragen

Paradigmaverschuiving: Het paper gaat voorbij aan binaire classificatie naar een generatieve sequentiemodelleer aanpak, waarbij expliciet het tijdstip en de volgorde van gebruikersacties binnen een video worden gemodelleerd.
Nieuwe Architectuur (A2Gen): Introduceert een unificerend raamwerk bestaande uit CAM, HSE en AAG om de complexe, multidimensionale aard van gebruikers-iteminteracties te hanteren (itemniveau-context + temporele actiereeksen).
Inzicht in Actietijdstip: Demonstreert via statistische analyse dat het tijdstip van acties (bijv. pieken in de Leuk vinden-verdeling) sterk correleert met echte gebruikersinteresse, en dat actiereeksen (bijv. Volgen-Leuk vinden versus Leuk vinden-Volgen) verschillende gebruikersintenties onthullen.
Industriële Schaalimplementatie: Succesvol ingezet bij Kuaishou, met meer dan 400 miljoen dagelijkse gebruikers, wat de schaalbaarheid en werkelijke effectiviteit van het model valideert.

4. Experimentele Resultaten

Offline Prestaties

Datasets: Geëvalueerd op de Tmall publieke dataset (E-commerce) en een enorme Kuaishou industriële dataset (Korte Video).
Metrieken: AUC voor actieclassificatie en MAE voor tijdsregressie.
Resultaten: A2Gen presteerde significant beter dan state-of-the-art baselines (MMoE, PLE, AdaTask, HoME, etc.).
- Actievoorspelling: Bereikte een verbetering van 58 bp (basispunten) in AUC voor Leuk vinden-voorspelling ten opzichte van het SOTA HoME-model.
- Tijdsvoorspelling: Verminderde MAE met 2,60% voor Leuk vinden-tijdstip in vergelijking met HoME.
- Ablatiestudies: Bevestigde dat het verwijderen van HSE, CAM of het volgorde-beperkingverlies ( $L_{order}$ ) leidde tot consistente prestatiedaling, wat de noodzaak van elk component bewijst.

Online A/B-testen (Kuaishou)

Het model werd ingezet in een grote online omgeving met vier optimalisatiestrategieën:

Modelvervanging: Direct vervangen van het basismodel.
Actietijdsbewustzijn: Verhogen van rangschikkingsscores voor acties die later in de video plaatsvinden (wat diepere betrokkenheid aangeeft).
Actiereeksbewustzijn: Prioriteit geven aan reeksen zoals Volgen-Leuk vinden (sterkere intentie) boven Leuk vinden-Volgen.
Actietijdsdistributiebewustzijn: Verhogen van scores voor acties die plaatsvinden in de buurt van statistische "pieken" van betrokkenheid.

Belangrijke Verbeteringen in Zakelijke Metrieken:

Gebruikerskijktijd: +0,34%
Interactieratio: +8,1%
Gebruikersbehoud (LifeTime-7): +0,162% (equivalent aan ongeveer 1 miljoen extra Dagelijks Actieve Gebruikers).

5. Betekenis

Dit werk overbrugt de kloof tussen generatieve AI en aanbevelingssystemen door gebruikersgedrag te behandelen als een generatieve reeks in plaats van een statisch classificatieprobleem. Door de temporele dimensie van gebruikersacties te benutten, lost A2Gen het probleem van "interesses op segmentniveau" op dat inherent is aan het consumeren van korte video's. De succesvolle implementatie op een platform met honderden miljoenen gebruikers toont aan dat het modelleren van fijnmazige temporele dynamiek niet alleen theoretisch onderbouwd is, maar ook een kritieke drijvende kracht voor zakelijke groei in moderne contentaanbevelingsplatforms.