TikTok Search Recommendations: Governance and Research Challenges

Imaginez TikTok comme une place de village immense et animée où les gens partagent de courtes vidéos. Pendant longtemps, cette place consistait principalement à faire défiler un flux de divertissements aléatoires. Mais récemment, TikTok a commencé à agir davantage comme une bibliothèque ou un moteur de recherche, essayant d'aider les gens à trouver exactement ce qu'ils recherchent.

Ce document est un « papier de position », ce qui revient à la note formelle d'un chercheur disant : « Hé, nous devons examiner de près cette nouvelle fonctionnalité avant qu'elle ne cause des problèmes. » La fonctionnalité en question est les Recommandations de Recherche.

Voici une décomposition de ce que dit le document, en utilisant des analogies simples :

1. La nouvelle fonctionnalité : « Questions suggérées »

Imaginez que vous regardez une vidéo d'une célébrité. Habituellement, vous regardez simplement la vidéo et laissez peut-être un commentaire. Maintenant, TikTok place un petit post-it sur l'écran (ou en haut des commentaires) qui dit : « Vous pourriez vouloir rechercher : "Qui est son petit ami ?" ou "Quelle est la marque de cette chemise ?" »

Ce sont des questions pré-écrites que TikTok vous suggère de taper dans la barre de recherche. Le document appelle cela une « nouvelle forme de recommandation ». Au lieu de simplement vous dire quelle vidéo regarder ensuite, il vous dit ce qu'il faut demander.

2. Le problème de la « Boîte Magique » (Manque de transparence)

TikTok dit aux utilisateurs et aux créateurs : « Ne vous inquiétez pas, nous ne fabriquons pas ces suggestions. Nous regardons simplement ce que les gens disent déjà dans les commentaires et ce qu'ils recherchent, et nous les recopions. »

Les auteurs de ce document disent que c'est comme un magicien prétendant que son tour est de la « magie naturelle » alors qu'en réalité, il utilise des fils cachés.

• La revendication : TikTok affirme : « Nous ne sommes qu'un miroir neutre reflétant les conversations des utilisateurs. »
• La réalité : Le document soutient que c'est en fait TikTok qui décide quelles conversations sont transformées en suggestions de recherche. Ils n'expliquent pas comment ils les choisissent. C'est une « boîte noire ». Nous ne savons pas s'ils choisissent les commentaires les plus populaires, les plus récents, ou s'ils choisissent secrètement certains mots pour pousser certains récits.

3. Le problème du « Prête-plume » (Suggestions nuisibles)

Parce que TikTok n'explique pas comment ces suggestions sont créées, des choses négatives peuvent se produire sans que le créateur de la vidéo ne l'ait demandé.

• L'analogie : Imaginez que vous organisiez un dîner (votre vidéo). Vous avez une conversation normale et agréable. Soudain, un haut-parleur sur votre mur commence à crier des questions comme : « Est-ce que l'hôte est en fait un espion ? » ou « Quelle est l'identité de genre secrète de l'hôte ? »
• Les conclusions du document : Les chercheurs ont examiné des vidéos d'influenceurs néerlandais et ont constaté que TikTok suggérait des recherches sur leur vie privée, leurs relations amoureuses et leurs identités de genre — même lorsque la vidéo n'avait rien de tout cela à voir.
• Le danger : Cela peut propager des rumeurs, alimenter des drames ou être utilisé pour harceler (comme suggérer de rechercher une personne trans avec son ancien prénom). Le créateur de la vidéo n'a presque aucun moyen d'empêcher cela ou même de savoir que cela se produit.

4. Le problème du « Marionnettiste » (Truquer le système)

Le document avertit que, parce que les règles sont secrètes, des acteurs malveillants peuvent tromper le système.

• L'analogie : Imaginez une ville où le maire (TikTok) dit : « Nous n'écrivons que ce que la foule crie. » Un groupe de personnes pourrait alors organiser une protestation où tout le monde crie la même chose de fausse en même temps. Le système du maire noterait alors cette chose fausse comme une « recherche populaire », la faisant paraître réelle.
• Exemple réel : Le document mentionne que lors d'une élection politique en Roumanie, des gens ont coordonné des commentaires pour faire apparaître un candidat spécifique comme une suggestion de recherche de premier plan, même s'il n'était pas réellement populaire.

5. Le problème de « l'Absence de Sortie » (Contrôle de l'utilisateur)

Si vous voyez une suggestion de recherche qui ne vous plaît pas, vous ne pouvez pas simplement la désactiver.

• L'analogie : C'est comme être dans une voiture où le GPS suggère sans cesse des détours dangereux. Vous pouvez essayer de dire au GPS « Je n'aime pas ça », mais la voiture n'écoute pas et vous ne pouvez pas éteindre le GPS.
• Le point du document : Les créateurs peuvent filtrer les commentaires, mais ils ne peuvent pas filtrer les suggestions de recherche qui apparaissent sur leurs vidéos. Les utilisateurs ne peuvent pas désactiver la fonctionnalité. Cela rend difficile la protection contre le harcèlement ou la désinformation.

6. Pourquoi cela importe pour la loi

Le document souligne que TikTok enfreint les règles de la Loi sur les services numériques (DSA), une nouvelle loi européenne.

• La règle : La loi stipule que les grandes entreprises technologiques doivent être honnêtes sur le fonctionnement de leurs algorithmes et sur la manière dont elles vous recommandent des contenus.
• La violation : TikTok cache la manière dont ces suggestions de recherche sont générées. Ils prétendent qu'ils se contentent d'« agréger » (collecter) les données des utilisateurs, mais le document soutient qu'ils génèrent et sélectionnent en réalité ces suggestions, ce qui les rend responsables de ce qui apparaît.

Le plan de recherche : Que faire ensuite ?

Les auteurs proposent un « programme de recherche computationnelle ». Puisque TikTok ne leur donnera pas le code secret du système, ils doivent agir comme des détectives. Ils veulent :

1. Décoder le système : Déterminer exactement quels commentaires se transforment en suggestions de recherche.
2. Repérer les imposteurs : Détecter quand des groupes de personnes travaillent ensemble pour tromper le système.
3. Vérification du contexte : Construire des outils pour comprendre pourquoi une suggestion est nuisible (par exemple, savoir que « Nikkie en tant que garçon » est nuisible uniquement parce que l'on sait que la créatrice est une femme trans).
4. Trier les sujets : Catégoriser les types de choses qui sont suggérées (s'agit-il principalement de shopping, de potins ou de politique ?).

Résumé

En bref, TikTok transforme ses vidéos en un moteur de recherche en suggérant des questions aux utilisateurs. Le document soutient que TikTok cache la manière dont il choisit ces questions, ce qui permet aux rumeurs, au harcèlement et à la manipulation politique de se propager sous le couvert de « ce que les utilisateurs disent simplement ». Les auteurs appellent à plus de recherche et à des règles plus strictes pour forcer TikTok à être transparent sur ce nouvel outil puissant.