Immagina di camminare attraverso una piazza digitale enorme e frenetica dove migliaia di persone stanno costantemente esibendosi, chiacchierando e condividendo storie. Questo è il mondo dello streaming dal vivo, un luogo dove la magia accade in tempo reale. Ma per le persone che gestiscono la piazza, c'è un puzzle complicato: come decidere quale esecutore mostrare a quale visitatore? Questo è il lavoro di un "sistema di raccomandazione", un compagno di viaggio digitale che cerca di indovinare cosa ti piacerà dopo.

In passato, questi compagni di viaggio erano come bibliotecari impazienti che si curavano solo del libro che avevi preso in mano proprio in quel momento. Ma nello streaming dal vivo, la storia è più complessa. A volte, uno spettatore può guardare uno streamer per alcuni minuti, chattare un po' e poi andarsene. Potrebbe non tornare per giorni, o potrebbe improvvisamente decidere di abbonarsi o inviare denaro settimane dopo. Queste azioni sono come semi piantati nel terreno; non germogliano immediatamente. Se il compagno di viaggio guarda solo a ciò che accade nei successivi cinque minuti, perde i semi che cresceranno più tardi. Inoltre, la piazza è piena di tipi diversi di persone: alcuni sono nuovi turisti che vogliono solo vedere uno spettacolo veloce, mentre altri sono frequentatori assidui che vogliono costruire amicizie profonde con gli esecutori. Trattare tutti esattamente allo stesso modo porta spesso a raccomandazioni scadenti. Questo articolo esplora come costruire un compagno di viaggio più intelligente che comprenda sia l'eccitazione immediata che la crescita a lungo termine di queste relazioni.

La Sfida: Il Proble il del "Aspettare e Vedere"

Gli autori di questo articolo, lavorando presso Twitch, hanno affrontato un mal di testa unico. Nello shopping online, se clicchi su un prodotto e non lo acquisti, probabilmente non lo acquisterai più tardi. Ma nello streaming dal vivo, uno spettatore può cliccare su un canale, guardarlo per un po' e poi tornare tre giorni dopo per seguire lo streamer o persino pagare un abbonamento.

Il problema è che queste azioni "grandi" (come seguire o spendere soldi) sono rare e avvengono lentamente. Se il computer prova a imparare da esse immediatamente, vede principalmente risposte "no", il che confonde il sistema. È come cercare di imparare a cucinare una torta guardando solo i primi cinque minuti del processo; non sapresti mai se la torta sia venuta bene. Inoltre, il sistema stava diventando parziale. Poiché i "super-fan" (che chattano e spendono molto) generano una grande quantità di dati, il computer stava imparando a compiacere loro così bene da dimenticarsi dei nuovi spettatori occasionali che volevano solo testare il campo.

La Soluzione: Una Strategia in Tre Parti

Per risolvere questo problema, il team ha costruito un nuovo sistema di classificazione con tre trucchi astuti, agendo come una squadra di detective specializzati.

1. La Finestra del Viaggio nel Tempo (Segnali Ritardati)
Per prima cosa, hanno capito che dovevano smettere di giudicare l'interesse di uno spettatore troppo velocemente. Invece di chiedere: "Gli è piaciuto questo proprio ora?", hanno chiesto: "Gli è piaciuto questo nei prossimi due settimane?". Hanno creato una "finestra ritardata" di 14 giorni. Se uno spettatore cliccava su un canale e poi, entro due settimane, decideva di chattare, seguire o spendere soldi, il sistema contava quello come un "sì". Questo ha trasformato eventi rari e sparsi in un quadro più chiaro, aiutando il computer a capire che una reazione lenta può comunque essere una reazione positiva.

2. L'Approccio a Due Squadre (Fresco vs. Ritardato)
In seguito, hanno capito che non tutte le azioni sono uguali. Alcune cose, come cliccare o guardare per alcuni minuti, accadono istantaneamente. Altre, come seguire o spendere, richiedono tempo. Così, hanno diviso il lavoro.

• Squadra Fresca (FSM): Questa squadra si concentra sulle reazioni immediate. Osserva ciò che lo spettatore sta facendo propamente ora per prevedere se rimarrà per qualche minuto.
• Squadra Ritardata (DSM): Questa squadra guarda al lungo termine. Utilizza quella finestra di 14 giorni per prevedere se uno spettatore alla fine seguirà o spenderà soldi.
  Avere due squadre separate evita che il sistema si confonda. Non confonde un rapido "clic" con un profondo "abbonamento".

3. Il Coach Personalizzato (Targeting Consapevole dei Segmenti)
Infine, hanno notato che i nuovi spettatori e i super-fan hanno bisogno di cose diverse. Un nuovo spettatore deve essere catturato con contenuti eccitanti e brevi per continuare a tornare. Un super-fan è pronto per connessioni più profonde e potrebbe voler supportare finanziariamente lo streamer.
Il sistema ora agisce come un coach che conosce il livello del giocatore. Per i nuovi spettatori, dà priorità al fatto di farli guardare e chattare. Per i fan dedicati, dà priorità all'aiutarli a trovare canali che vorranno supportare. Lo fa regolando il "punteggio" delle raccomandazioni in base a chi sta guardando, senza dover costruire un sistema completamente nuovo per ogni gruppo.

La Formula Segreta: L'MMoE

Per far sì che tutto questo funzioni senza rallentare il computer, hanno utilizzato un'architettura intelligente chiamata Multi-gate Mixture-of-Experts (MMoE). Immaginate un ristorante con uno chef principale e diversi chef specializzati.

• Uno chef specializzato è esperto in "antipasti veloci" (clic immediati).
• Gli altri chef sono esperti in "piatti principali complessi" (coinvolgimento profondo e spese).
  Il "gate" (il cancello/filtro) è il cameriere che decide a quale consiglio dello chef prestare attenzione per un cliente specifico. Ciò ha permesso al sistema di apprendere da tutti questi obiettivi diversi contemporaneamente, mantenendo però la matematica efficiente. Infatti, usando questo metodo, hanno ridotto il numero di parametri del computer (le "cellule cerebrali" del modello) del 41,9% rispetto all'esecuzione di modelli separati per tutto, ottenendo comunque risultati migliori.

I Risultati: Una Vittoria per Tutti

Il team ha testato questo nuovo sistema con milioni di utenti reali. I risultati sono stati promettenti:

• Più Spettatori: Il numero di spettatori attivi giornalieri (DAV) è aumentato dello 0,09%. Anche se sembra poco, in un mondo con milioni di utenti, si traduce in milioni di "giorni di visione" in più ogni anno.
• Fan Felici: Per i fan dedicati, l'ARPU (Ricavo Medio per Utente) "capped" è aumentato dello 0,56%, il che significa che gli utenti più impegnati hanno speso un po' di più per supportare i loro streamer preferiti.
• Nuovi Amici: Il sistema ha aiutato i nuovi spettatori a restare, aumentando il loro coinvolgimento dello 0,15%.
• Più Follow: Il numero di nuovi follow ai canali è aumentato dello 0,27%.

Ancora meglio, il sistema era veloce. Poteva prendere queste decisioni complesse in meno di 110 millisecondi (più veloce di un battito di ciglia), dimostrando che si può essere intelligenti e veloci allo stesso tempo. Lo hanno testato anche sull'app mobile e hanno visto un aumento del 1,12% nelle interazioni positive come clic e "mi piace".

Cosa Non Hanno Fatto

Gli autori sono stati attenti a notare cosa non ha funzionato. Hanno cercato di correggere il pregiudizio contro i nuovi spettatori dando più peso ai loro dati durante il processo di addestramento (essenzialmente gridando più forte al computer riguardo ai nuovi utenti), ma questo non ha aiutato e ha complicato le cose. Inveve, hanno scoperto che regolare i pesi dopo che il modello era stato addestrato (nel momento della raccomandazione) era la chiave. Hanno anche scoperto che cercare di inserire tutti gli obiettivi in un unico, enorme modello rendeva il sistema peggiore nel prevedere l'impegno immediato, provando che mantenere i segnali "freschi" e "ritardati" separati era fondamentale.

In breve, questo articolo dimostra che per costruire un ottimo sistema di raccomandazione per lo streaming dal vivo, bisogna essere abbastanza pazienti da aspettare che i semi germoglino, abbastanza intelligenti da trattare diversamente i nuovi e i vecchi fan, ed essere abbastanza efficienti da fare tutto nel tempo di un battito di ciglia.