TikTok Search Recommendations: Governance and Research Challenges

Immagina TikTok come una grande e vivace piazza cittadina dove le persone condividono brevi video. Per molto tempo, questa piazza è stata dedicata principalmente allo scorrimento di un feed di intrattenimento casuale. Ma recentemente, TikTok ha iniziato ad agire più come una biblioteca o un motore di ricerca, cercando di aiutare le persone a trovare esattamente ciò che stanno cercando.

Questo documento è un "position paper", che è come la nota formale di un ricercatore che dice: "Ehi, dobbiamo esaminare attentamente questa nuova funzione prima che causi problemi". La funzione in questione è la Raccomandazione di Ricerca (Search Recommendations).

Ecco una suddivisione di ciò che dice il documento, utilizzando analogie semplici:

1. La Nuova Funzione: "Domande Suggerite"

Immagina di guardare il video di una celebrità. Di solito, guardi e magari lasci un commento. Ora, TikTok mette un piccolo post-it sullo schermo (o in cima ai commenti) che dice: "Potresti voler cercare: 'Chi è il suo fidanzato?' o 'Che marca è quella camicia?'"

Queste sono domande pre-scritte che TikTok ti suggerisce di digitare nella barra di ricerca. Il documento le chiama una "nuova forma di raccomandazione". Invece di dirti solo quale video guardare dopo, ti sta dicendo cosa chiedere.

2. Il Problema della "Scatola Magica" (Mancanza di Trasparenza)

TikTok dice agli utenti e ai creatori: "Non preoccupatevi, non stiamo inventando queste suggestioni. Ci limitiamo a guardare ciò che le persone stanno già dicendo nei commenti e ciò che stanno cercando, e copiamo quelle informazioni".

Gli autori di questo documento dicono che questo è come un mago che sostiene che il suo trucco sia solo "magia naturale", quando in realtà sta usando fili nascosti.

• La Dichiarazione: TikTok dice: "Siamo solo uno specchio neutrale che riflette le conversazioni degli utenti".
• La Realtà: Il documento sostiene che è in realtà TikTok a decidere quali conversazioni debbano trasformarsi in suggerimenti di ricerca. Non spiegano come scelgono. È una "scatola nera". Non sappiamo se stiano scegliendo i commenti più popolari, quelli più recenti o se stiano segretamente scegliendo parole specifiche per spingere determinate narrazioni.

3. Il Problema dello "Scrittore Fantasma" (Suggerimenti Dannosi)

Poiché TikTok non spiega come vengono create queste suggestioni, possono accadere cose brutte che il creatore del video non ha richiesto.

• L'Analogia: Immagina di ospitare una cena (il tuo video). Stai avendo una conversazione piacevole e normale. Improvvisamente, un altoparlante sul tuo muro inizia a urlare domande come: "Il padrone di casa è davvero una spia?" o "Qual è il segreto dell'identità di genere del padrone di casa?".
• Le Scoperte del Documento: I ricercatori hanno esaminato i video di influencer olandesi e hanno scoperto che TikTok suggeriva ricerche sulla loro vita privata, sulle relazioni sentimentali e sulle identità di genere, anche quando il video non aveva nulla a che vedere con tali argomenti.
• Il Pericolo: Questo può diffondere voci, alimentare drammi o essere usato per molestare le persone (come suggerire di cercare il "deadname" di una persona trans). Il creatore del video ha quasi nessun modo per fermare questo processo o anche solo per sapere che sta accadendo.

4. Il Problema del "Burattinaio" (Manipolare il Sistema)

Il documento avverte che, poiché le regole sono segrete, attori malintenzionati possono truffare il sistema.

• L'Analogia: Immagina una città dove il sindaco (TikTok) dice: "Scriviamo solo ciò che la folla urla". Un gruppo di persone potrebbe quindi organizzarsi per una protesta in cui tutti urlano la stessa cosa falsa contemporaneamente. Il sistema del sindaco scriverebbe poi quella cosa falsa come una "ricerca popolare", facendola sembrare reale.
• Esempio Reale: Il documento menziona che durante un'elezione politica in Romania, le persone hanno coordinato i commenti per far apparire un candidato specifico come un suggerimento di ricerca principale, anche se non era realmente popolare.

5. Il Problema del "Nessuna Via d'Uscita" (Controllo dell'Utente)

Se vedi un suggerimento di ricerca che non ti piace, non puoi semplicemente disattivarlo.

• L'Analogia: È come essere in un'auto in cui il GPS continua a suggerire deviazioni pericolose. Puoi provare a dire al GPS "Non mi piace questo", ma l'auto non ascolta e non puoi spegnere il GPS.
• Il Punto del Documento: I creatori possono filtrare i commenti, ma non possono filtrare i suggerimenti di ricerca che appaiono sui loro video. Gli utenti non possono disabilitare la funzione. Questo rende difficile proteggersi dalle molestie o dalla disinformazione.

6. Perché Questo è Importante per la Legge

Il documento sottolinea che TikTok sta violando le regole del Digital Services Act (DSA), una nuova legge europea.

• La Regola: La legge stabilisce che le grandi aziende tecnologiche devono essere oneste su come funzionano i loro algoritmi e su come ti raccomandano le cose.
• La Violazione: TikTok nasconde il modo in cui vengono create questi suggerimenti di ricerca. Afferma di stare solo "aggregando" (raccogliendo) i dati degli utenti, ma il documento sostiene che li sta in realtà generando e curando, il che la rende responsabile di ciò che appare.

Il Piano di Ricerca: Cosa Facciamo Ora?

Gli autori propongono un "programma di ricerca computazionale". Poiché TikTok non fornirà loro il codice segreto del sistema, devono agire come detective. Vogliono:

1. Decifrare il Codice: Capire esattamente quali commenti si trasformano in suggerimenti di ricerca.
2. Identificare i Truffatori: Rilevare quando gruppi di persone stanno lavorando insieme per ingannare il sistema.
3. Controllo del Contesto: Costruire strumenti per capire perché un suggerimento è dannoso (ad esempio, sapere che "Nikkie come un ragazzo" è dannoso solo perché si conosce la creatrice come donna trans).
4. Classificazione degli Argomenti: Categorizzare i tipi di cose che vengono suggerite (ad esempio, si tratta principalmente di shopping, gossip o politica?).

Riassunto

In breve, TikTok sta trasformando i suoi video in un motore di ricerca suggerendo domande agli utenti. Il documento sostiene che TikTok stia nascondendo il modo in cui sceglie queste domande, il che permette a voci, molestie e manipolazioni politiche di diffondersi sotto la veste di "ciò che dicono gli utenti". Gli autori chiedono una maggiore ricerca e regole più severe per costringere TikTok a essere trasparente riguardo a questo potente nuovo strumento.