LLM-Enhanced Topical Trend Detection at Snapchat

✨

Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Each language version is independently generated for its own context, not a direct translation.

Stel je Snapchat voor als een enorme, bruisende digitale stad waar miljoenen mensen voortdurend korte video's plaatsen. In deze stad zijn "trends" als plotselinge, massale straatfeesten of virale dansrage die uit het niets opduiken. De uitdaging voor Snapchat is dat deze stad te groot is en te snel beweegt voor welk menselijk team dan ook om elke hoek te bewaken en deze festivals te ontdekken zodra ze beginnen.

Dit artikel beschrijft een nieuw, geautomatiseerd "Stadswacht"-systeem dat door Snapchat-ingenieurs is gebouwd om deze trends op het moment zelf te ontdekken, met gebruikmaking van een speciaal soort kunstmatige intelligentie genaamd een Large Language Model (LLM).

Hier is hoe het systeem werkt, opgesplitst in vier eenvoudige stappen:

1. De "Ogen en Oren" (Onderwerpextractie)

Allereerst moet het systeem begrijpen wat er in de video's gebeurt. Omdat video's een mix zijn van beelden, geluid en tekst, maakt het systeem gebruik van een team van AI-"detectives".

De Visuele Detective: Kijkt naar de videoframes om te zien welke objecten of scènes er zijn (zoals een hond, een strand of een concert).
De Audio Detective: Luistert naar wat mensen zeggen (spraak-naar-tekst).
De Tekstdetective: Leest alle woorden die op het scherm staan of in de bijschrift.
De Samenvatter: Zodra deze aanwijzingen zijn verzameld, fungeert een krachtige AI (het LLM) als een ervaren journalist. Het neemt al die rommelige informatie en schrijft een korte, duidelijke kop voor de video, zoals "Mensen die dansen op een nieuw nummer" in plaats van gewoon een lijst met willekeurige woorden.

2. De "Toename-detector" (Burst Detection)

Alleen omdat een video over "honden" gaat, betekent niet dat het een trend is; mensen plaatsen dagelijks over honden. Het systeem moet weten wanneer iets plotseling populair is.

Stel je een rustige straat voor waar normaal gesproken 5 mensen per uur voorbijlopen. Plotseling verschijnen er 500 mensen in het volgende uur. Dat is een "burst".
Het systeem houdt bij hoeveel unieke mensen over een specifiek onderwerp posten. Het negeert hoeveel mensen er naar kijken (om bias te voorkomen) en richt zich op hoeveel er creëren.
Het gebruikt een wiskundige formule om de cijfers van vandaag te vergelijken met het recente verleden. Als het aantal makers significant piekt, markeert het systeem dit als een potentiële trend.

3. De "Kwaliteitscontrole" (Nabewerking)

Niet elke piek is een goede trend. Soms is een piek gewoon een glitch, spam of iets te vaags zoals "grappige video's".

De Filter: Het systeem gebruikt AI-regels om slechte onderwerpen te verwijderen. Het verwijdert alles wat te breed is (bijvoorbeeld "leven") of alles dat veiligheidsregels schendt (gevoelige of onveilige inhoud).
De Samenvoeger: Soms ziet het systeem "WK 2026", "WK" en "WK-kwalificaties" als drie aparte dingen. De AI beseft dat dit eigenlijk hetzelfde evenement is en voegt ze samen tot één enkele, schone trend genaamd "WK 2026". Dit houdt de lijst netjes en begrijpelijk.

4. De "Verhaalverteller" (Trendverrijking)

Zodra een trend is bevestigd, geeft het systeem niet alleen een naam; het bouwt een profiel voor het.

Het kiest een paar representatieve video's uit de trend en vraagt een superslimme AI om een samenvatting te schrijven, een categorie toe te wijzen (zoals "Sport" of "Nieuws") en te vermelden welke landen er het meest over praten.
Denk hierbij aan het omzetten van een ruw datapunt in een gepolijste nieuwskaart die de rest van de app kan gebruiken.

Waarom is dit belangrijk? (De Resultaten)

Het artikel meldt dat dit systeem is getest en nu wereldwijd draait op Snapchat.

Nauwkeurigheid: Toen mensen het werk van het systeem gedurende zes maanden controleerden, was het 92,8% van de tijd correct.
Wereldwijd Effect: Het systeem wordt nu gebruikt om te helpen beslissen welke video's op je scherm verschijnen (ranking) en welke suggesties verschijnen als je in de zoekbalk typt.
Het Resultaat: Omdat het systeem trends sneller opspoort, zien gebruikers versere, relevantere inhoud. De tests toonden aan dat gebruikers de inhoud meer leuk vonden (hogere "vind-ik-leuk"-percentages) en meer tijd besteedden aan het kijken van verhalen die deel uitmaakten van deze nieuwe trends.

Kortom, dit artikel beschrijft een slimme, geautomatiseerde manier voor Snapchat om naar het "gedruis" van zijn hele gebruikersbasis te luisteren, de ruis eruit te filteren en de app direct te vertellen: "Hé, iedereen praat hier nu over—laten we het aan mensen laten zien!"

Each language version is independently generated for its own context, not a direct translation.

1. Probleemstelling

Het paper adresseert de uitdaging van automatische detectie van thematische trends op schaal op sociale media-platforms met korte video's, specifiek Snapchat. In tegenstelling tot traditionele op tekst gebaseerde netwerken, vormen korte video-platforms unieke moeilijkheden:

Multimodale Complexiteit: Content bestaat uit video, audio en tekst, wat schaalbare systemen vereist om heterogene data te verwerken.
Detectie van Subtiele Signalen: Trends ontstaan vaak door zwakke signalen die verspreid zijn over gemeenschappen, wat vroege detectie moeilijk maakt.
Snelle Levenscyclus: Trends evolueren snel, wat aanpassing in bijna real-time vereist, terwijl robuustheid tegen ruis, spam en ambiguïteit behouden moet blijven.
Schaal: Het systeem moet het enorme volume aan dagelijkse contentcreatie op een globaal platform aankunnen.

Het doel is het identificeren van opkomende thema's die gekenmerkt worden door merkbare toenames in contentcreatie, om content surfacing, personalisatie en creator-participatie te verbeteren.

2. Methodologie

De auteurs stellen een schaalbaar, end-to-end systeem voor dat wordt aangedreven door Large Language Models (LLMs) en Vision-Language Models (VLMs). De pijplijn werkt in vier distincte fasen:

A. Systeemoverzicht

Het systeem draait op een regelmatige cadans om versheid te garanderen. Het verwerkt multimodale signalen van "Snaps" (gebruikersvideo's) en content van uitgevers.

B. Stap 1: Multimodale Thema-extractie

Inputverwerking: Video's worden verwerkt door lichtgewicht multimodale modellen om tekstsignalen te genereren:
- Visueel: Een VLM (bijv. BLIP2) analyseert bemonsterde frames om visuele tags te produceren vanuit een vaste taxonomie.
- Audio: Automatic Speech Recognition (ASR) genereert transcripties.
- Tekst: Optical Character Recognition (OCR) extrahert tekst op het scherm.
Unificatie: Deze signalen worden gecombineerd met door gebruikers aangeleverde bijschriften en hashtags tot een enkele tekstuele representatie.
Samenvatting: Een tekst-only LLM vat deze representatie samen tot vrije thematische zinnen of entiteiten (in plaats van te selecteren uit een vaste taxonomie), waardoor kandidaat-thema's ontstaan voor downstream-analyse.

C. Stap 2: Time-series Burst-detectie

Meting: Het systeem volgt het aantal Unieke Gebruikers (UUs) dat over een specifiek thema post in de loop van de tijd. Signaal aan de kijker-kant wordt uitgesloten om bias van rangschikkingsalgoritmen te vermijden.
Algoritme: Een multi-scale burst-detectie-algoritme wordt toegepast:
1. Pre-filtering: Thema's met minder dan $M$ UUs worden verwijderd om ruis in de lange staart te reduceren.
2. Bewegende Maxima & Gemiddelden: Een schuivend venster berekent de bewegende maximum van gebruikersaantallen, gevolgd door een bewegend gemiddelde van deze maxima om een robuuste baseline te vestigen.
3. Lift-berekening: Een "lift-score" wordt berekend als de verhouding van huidige activiteit tot de gladgestreken baseline.
4. Trend-score: Lift-waarden over meerdere tijdsvensters worden geaggregeerd met behulp van een gewogen harmonisch gemiddelde. Dit benadrukt recente activiteit terwijl het zwakke signalen bestraft, zodat alleen aanhoudende, multi-scale groei hoge scores ontvangt.

D. Stap 3: Post-processing (LLM-versterkt)

Deze fase verfijnt kandidaten om kwaliteit en naleving te garanderen:

Gevoelige Filtering: LLMs detecteren en verwijderen thema's die veiligheidsrichtlijnen schenden.
Algemeenheid Filtering: LLMs verwijderen te brede thema's (bijv. "grappige video's") die gebrek aan specificiteit hebben.
Precisiecontrole: Adaptieve drempelwaarden voor trend-scores en gebruikersniveaus filteren resultaten.
Thema-consolidatie: Een LLM clustert semantisch vergelijkbare thema's (bijv. "Wereldkampioenschap 2026" en "Wereldkampioenschap") en selecteert de meest representatieve canonieke vorm om redundantie te elimineren.

E. Stap 4: Trend-verrijking

Om trends actieerbaar te maken voor downstream-systemen:

MLLM-analyse: Een Multimodal LLM (bijv. Gemini 2.0 Flash) analyseert een representatieve set video's geassocieerd met de trend om beknopte beschrijvingen te genereren.
Synthese: Een tekst-only LM aggregeert deze beschrijvingen om een menselijk leesbare samenvatting te produceren, sleuteldetails te extraheren, een canonieke categorie toe te wijzen (bijv. Sport, Nieuws) en gestructureerde metadata te genereren (bijv. top-landen, detectietijd).

3. Belangrijkste Bijdragen

Eerste End-to-End Systeem op Productieschaal: Dit is het eerste gepubliceerde systeem voor thematische trenddetectie op korte video-platforms op productieschaal.
Hybride Architectuur: Een innovatieve integratie van multimodale thema-extractie, time-series burst-modellering en op LLM gebaseerde consolidatie/verrijking.
Efficiënt LLM-gebruik: Een strategie die semantische nauwkeurigheid afweegt tegen computationele efficiëntie door lichtgewicht modellen te gebruiken voor extractie op volle schaal en zwaardere MLLMs uitsluitend voor verrijking op een subset van data.
Uitgebreide Evaluatie: Demonstreert hoge precisie door continue offline menselijke evaluatie en meetbare verbeteringen via online A/B-testen.

4. Resultaten

Offline Evaluatie

Precisie: Over een periode van zes maanden (juli–december 2025) beoordeelden onafhankelijke annotatoren 1.278 trends. Het systeem behaalde een totale precisie van 92,8%.
Gevoeligheid: Een trend-score-drempel van 1,8 werd geselecteerd voor productie, waarbij de afweging tussen precisie en dekking werd geoptimaliseerd.

Online A/B-testen

Het systeem werd wereldwijd ingezet en geïntegreerd in content-rangschikking en zoekfuncties. Belangrijke verbeteringen waren:

Content-rangschikking:
- Spotlight Story Views (VS): +0,86%
- Content Like Rate: +11,5% (wat wijst op sterke gebruikersaffiniteit voor tijdige content).
- Content-tijdigheid (<1 dag): +1,89%
Zoeken:
- Impression-tijdigheid (<3 dagen): +2,38%
- Popular Account Open (VS): +26%
- PostType-afbrekpercentage: -1,28% (gereduceerd).

5. Betekenis

Dit werk demonstreert de praktische levensvatbaarheid van het combineren van Large Language Models met traditionele informatieretrieval en temporele modellering in een omgeving met hoge schaal en real-world toepassing.

Platform-impact: Het stelt Snapchat in staat om dynamisch verse, cultureel relevante content te tonen, wat direct de gebruikerservaring en creator-engage ment verbetert.
Onderzoeksbijdrage: Het biedt een blauwdruk voor het hanteren van de heterogeniteit en ruis van korte video-data, en toont aan dat LLMs effectief de kloof kunnen overbruggen tussen ruwe multimodale signalen en gestructureerde, actieerbare trend-intelligentie.
Schaalbaarheid: De architectuur bewijst dat LLMs kosteneffectief kunnen worden ingezet op globale schaal door taken strategisch te partitioneren tussen lichtgewicht extractie en zware verrijking.