PinEqualizer: Full Funnel Content Exploration and Debiasing System at Pinterest
Questo articolo presenta PinEqualizer, un sistema di esplorazione e de-biasing dei contenuti a tutto funnel implementato in Pinterest che affronta il problema del cold-start bilanciando la scoperta di contenuti freschi con l'engagement degli utenti attraverso le superfici di ricerca e raccomandazione, utilizzando al contempo un framework scalabile per validare sia gli impatti a breve che a lungo termine.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di entrare in una biblioteca enorme e infinita dove gli scaffali vengono continuamente riempiti con nuovi libri. In questa biblioteca, i bibliotecari (che sono in realtà programmi informatici super intelligenti) hanno un unico compito: consegnarti il libro perfetto da leggere proprio in questo momento. Ma c'è un problema: i bibliotecari hanno una brutta abitudine. Amano i libri che hanno già visto un milione di volte. Sanno esattamente quanto siano popolari quei vecchi preferiti, quindi continuano a infilarti tra le mani proprio quelli. Nel frattempo, i libri nuovissimi, che nessuno ha ancora letto, restano bloccati sul retro, a prendere la polvere. Questo è un problema chiamato l'problema del "cold-start" (partenza a freddo). Se un nuovo libro non ha mai la possibilità di essere letto, i bibliotecari non possono imparare se sia effettivamente buono, quindi non lo raccomanderanno mai. La biblioteca finisce in un ciclo noioso dove vengono raccontate solo le solite storie, e le nuove ed eccitanti voci non hanno mai la possibilità di brillare.
Questo articolo parla di un team di ingegneri di Pinterest che ha deciso di risolvere esattamente questo problema. Hanno costruito un nuovo sistema chiamato "PinEqualizer" per aiutare i loro bibliotecari informatici a smettere di essere così parziali verso il contenuto "famoso" e iniziare a dare una possibilità equa alle cose fresche e nuove. Non si sono limitati a perfezionare una singola parte del processo; hanno rivoluzionato l'intero sistema, dal modo in cui scelgono quali nuovi libri guardare, a come li trovano, fino a come decidono quali mostrarti. Il loro obiettivo era assicurarsi che il nuovo contenuto avesse una possibilità equa di dimostrare il proprio valore, cosa che hanno scoperto portare lettori più felici e una biblioteca molto più sana e diversificata.
Il Problema: La biblioteca del "Chi è ricco diventa più ricco"
Pinterest è come un enorme motore di scoperta visiva con centinaia di miliardi di elementi unici, chiamati "Pin". Ogni giorno vengono caricati milioni di nuovi Pin. Il compito del sistema è far corrispondere questi Pin con gli utenti che li ameranno. Ma c'è una trappola subdola: il sistema impara dalla storia. Se un Pin è stato cliccato molto in passato, il sistema pensa: "Questo è fantastico!" e lo mostra a più persone. Se un nuovo Pin non ha una storia, il sistema ha paura di mostrarlo perché non sa se sia buono.
Questo crea un effetto "chi è ricco diventa più ricco". Il contenuto vecchio e popolare diventa ancora più popolare, mentre il contenuto nuovo e fresco viene sepolto. Nel tempo, questo danneggia l'intero ecosistema. I nuovi creatori non possono crescere e gli utenti smettono di vedere cose nuove ed eccitanti. Gli ingegneri si sono resi conto che non bastava solo "esplorare" (mostrare casualmente roba nuova); dovevano correggere il pregiudizio profondamente all'interno del sistema in modo che il computer potesse prevedere quanto sarebbe stato buono il nuovo contenuto senza aver bisogno prima di una lunga storia.
La Soluzione: PinEqualizer
Il team ha costruito un nuovo sistema chiamato PinEqualizer che lavora attraverso l'intero "imbuto" (funnel) attraverso il quale il contenuto raggiunge un utente. Pensa all'imbuto come a uno scivolo acquatico per i Pin. Un Pin deve passare attraverso diverse fasi per raggiungere lo schermo di un utente:
- Selezione del Corpus (Corpus Selection): Decidere quali nuovi Pin meritano di essere mantenuti nel pool.
- Recupero (Retrieval): Trovare i Pin giusti per un utente specifico.
- Classificazione (Ranking): Decidere l'ordine esatto in cui mostrarli.
PinEqualizer aggiunge strumenti speciali in ogni singola fase di questo scivolo per garantire che il nuovo contenuto non rimanga bloccato sul fondo.
1. Scegliere i migliori nuovi arrivati (Selezione del Corpus)
Poiché ci sono troppi nuovi Pin per controllarli tutti, il sistema usa un gioco di indovinare intelligente chiamato "Thompson Sampling". Immagina di avere una borsa di scatole misteriose. Alcune scatole hanno un'alta probabilità di contenere un giocattolo all'interno, altre una bassa. Inveve di aprire ogni singola scatola, il sistema sceglie quelle che potrebbero essere le migliori, basandosi su un mix di ciò che sa sul creatore e un pizzico di fortuna. Hanno anche costruito una speciale "biblioteca di esplorazione" dedicata solo ai contenuti freschi, in modo che il sistema non debba competere subito con i Pin vecchi e famosi.
2. Trovare l'abbinamento giusto (Recupero)
Una volta che il sistema ha un pool di buoni nuovi Pin, deve trovare quelli giusti per te. Di solito, il sistema guarda a come i Pin sono connessi tra loro (come una rete di amici). Ma i nuovi Pin non hanno ancora molti amici! Così, gli ingegneri hanno insegnato al sistema a usare indizi "basati sul contenuto". Hanno usato un'IA avanzata per capire cosa l'immagine effettivamente rappresenti (usando elementi come i modelli linguistici visivi) invece di guardare solo chi l'ha salvata prima. Hanno anche creato un "canale dedicato" per garantire che un flusso costante di nuovi Pin venga inviato giù per lo scivolo, anche se non sono ancora stati popolari.
3. La decisione finale (Classificazione)
Questa è la parte più importante. Quando il sistema deve scegliere la lista finale di Pin da mostrarti, solitamente si affida pesantemente ai dati passati. Se un Pin non ha dati passati, il sistema spesso gli assegna un punteggio basso. PinEqualizer risolve questo problema:
- Insegnare all'IA a ignorare il passato: Hanno usato un trucco chiamato "dropout", dove nascondono casualmente i numeri di "popolarità" durante l'addestramento. Questo costringe l'IA a imparare come giudicare un Pin in base al suo contenuto effettivo (l'immagine e la descrizione) piuttosto che alla sua fama.
- Dare una spinta di fiducia: Hanno aggiunto un punteggio "bonus" ai nuovi elementi. È come dire: "Non sappiamo ancora se questo è buono, ma diamogli una possibilità equa di essere visto". Questo viene fatto usando un metodo chiamato UCB (Upper Confidence Bound), che aggiunge un po' di entusiasmo extra agli elementi che non sono stati visti molto.
- Calibrare i punteggi: Si sono assicurati che il sistema non penalizzi ingiustamente i nuovi contenuti solo perché sono nuovi. Hanno regolato la matematica in modo che un nuovo Pin con grande potenziale abbia la stessa possibilità di un vecchio e famoso Pin.
Come hanno misurato il successo
Potresti chiederti: "Come fai a sapere se funziona davvero?". Se mostri solo roba nuova, le persone potrebbero cliccare meno all'inizio perché non conoscono ancora la novità. Questo è il problema del "dolore a breve termine per un guadagno a lungo termine".
Per risolvere questo, il team ha costruito un framework di misurazione speciale:
- Il test "Holdout": Hanno eseguito un esperimento a lungo termine in cui un gruppo di utenti vedeva solo contenuti vecchi (niente roba nuova), mentre un altro gruppo vedeva i nuovi contenuti esplorati. Hanno scoperto che il gruppo che vedeva la roba nuova aveva un engagement a lungo termine molto migliore. Questo ha dimostrato che il nuovo contenuto era effettivamente prezioso, anche se richiedeva un po' di tempo per essere scoperto.
- La metrica di "Graduation" (Laurea): Hanno definito un punto di "graduazione". Una volta che un nuovo Pin ottiene un numero sufficiente di interazioni positive (like, salvataggi) entro un certo numero di giorni, si "diploma" da mistero a entità nota. Hanno monitorato quanti Pin si stavano graduando con successo.
- La metrica "Under-Explored" (Sotto-esplorato): Hanno misurato quanto engagement stava ottenendo il contenuto che non era stato ancora visto molto. Questo li ha aiutati a vedere se i loro cambiamenti stavano effettivamente aiutando la nuova roba a farsi notare.
I Risultati
I risultati sono stati impressionanti. Dopo aver implementato PinEqualizer, Pinterest ha visto un aumento del 350% nelle impression dei contenuti freschi. Ciò significa che gli utenti vedevano molti più nuovi Pin rispetto a prima.
- Engagement dell'utente: Il sistema ha portato a un aumento del 24% delle sessioni di successo in Nord America e a un aumento del 49% a livello internazionale.
- Shopping: L'impatto è stato enorme per lo shopping. Le sessioni di shopping sono aumentate del 63% in Nord America, suggerendo che i nuovi prodotti stavano finalmente ricevendo l'attenzione che meritavano.
- Salute dei Creator: Il sistema ha aiutato più creatori a raggiungere il successo. Il numero di "fornitori di contenuti di successo" (creatori il cui contenuto ha ricevuto una buona quantità di attenzione) è salito del 99% anno su anno.
Perché è importante
L'articolo dimostra che non devi scegliere tra mostrare agli utenti ciò che amano ora e mostrare loro ciò che potrebbero amare in futuro. Sistemando il pregiudizio nel cervello del sistema, puoi fare entrambe le cose. Gli ingegneri hanno scoperto che, rendendo piccoli e intelligenti i cambiamenti in ogni fase del processo — scegliendo meglio i candidati, trovandoli meglio e classificandoli equamente — potevano rompere il ciclo del "chi è ricco diventa più ricco".
Hanno anche imparato che non puoi semplicemente sistemare una parte del sistema. Se sistemi la classificazione ma la fase di recupero è ancora parziale, il nuovo contenuto non arriva nemmeno alla fase di classificazione. È come avere un ottimo nuovo libro ma tenerlo chiuso in una stanza dove nessuno può trovarlo. PinEqualizer ha sbloccato l'intera biblioteca.
In definitiva, il sistema non ha solo aiutato Pinterest a mostrare più nuovi Pin; ha aiutato a creare un ecosistema più sano dove i nuovi creatori potevano crescere e gli utenti potevano scoprire un mondo di contenuti più ampio ed eccitante. L'articolo suggerisce che questo approccio "full-funnel" (a tutto l'imbuto) è un modo potente per risolvere i problemi di cold-start in qualsiasi sistema di raccomandazione su larga scala, dimostrando che l'equità e l'accuratezza possono andare di pari passo.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.