TikTok Search Recommendations: Governance and Research Challenges

Stellen Sie sich TikTok wie einen riesigen, belebten Marktplatz vor, auf dem Menschen kurze Videos teilen. Lange Zeit ging es in diesem Platz hauptsächlich darum, durch einen Feed mit zufälliger Unterhaltung zu scrollen. Doch in letzter Zeit hat TikTok angefangen, eher wie eine Bibliothek oder eine Suchmaschine zu agieren, um Menschen dabei zu helfen, genau das zu finden, wonach sie suchen.

Dieses Papier ist ein „Position Paper“, was so etwas wie eine formelle Notiz eines Forschers ist, die besagt: „Hey, wir müssen uns dieses neue Feature genau ansehen, bevor es Probleme verursacht.“ Bei dem betreffenden Feature handelt es sich um Suchvorschläge (Search Recommendations).

Hier ist eine Aufschlüsselung dessen, was das Papier sagt, unter Verwendung einfacher Analogien:

1. Das neue Feature: „Vorgeschlagene Fragen“

Stellen Sie sich vor, Sie schauen sich ein Video eines Prominenten an. Normalerweise schauen Sie einfach nur zu und hinterlassen vielleicht einen Kommentar. Jetzt klebt TikTok ein kleines Klebezettelchen auf den Bildschirm (oder oben in die Kommentare), das sagt: „Sie möchten vielleicht suchen nach: ‚Wer ist ihr Freund?‘ oder ‚Welche Marke ist das Shirt?‘“

Dies sind vorformulierte Fragen, die TikTok Ihnen vorschlägt, in die Suchleiste einzugeben. Das Papier bezeichnet dies als eine „neue Form der Empfehlung“. Anstatt Ihnen nur zu sagen, welches Video Sie als Nächstes schauen sollen, sagt es Ihnen, wonach Sie fragen sollten.

2. Das „Magische Box“-Problem (Mangel an Transparenz)

TikTok sagt Nutzern und Erstellern: „Keine Sorge, wir erfinden diese Vorschläge nicht. Wir schauen uns einfach an, was die Leute bereits in den Kommentaren sagen und wonach sie suchen, und kopieren das dann einfach.“

Die Autoren dieses Papiers sagen, das sei so, als würde ein Magier behaupten, sein Trick basiere nur auf „natürlicher Magie“, während er in Wirklichkeit versteckte Drähte verwendet.

• Die Behauptung: TikTok sagt: „Wir sind nur ein neutraler Spiegel, der die Gespräche der Nutzer reflektiert.“
• Die Realität: Das Papier argumentt, dass TikTok tatsächlich entscheidet, welche Gespräche in Suchvorschläge umgewandelt werden. Sie erklären nicht, wie sie diese auswählen. Es ist eine „Black Box“. Wir wissen nicht, ob sie die populärsten Kommentare wählen, die neuesten oder ob sie heimlich bestimmte Begriffe auswählen, um bestimmte Narrative voranzutreiben.

3. Das „Ghostwriter“-Problem (Schädliche Vorschläge)

Da TikTok nicht erklärt, wie diese Vorschläge zustande kommen, können schädliche Dinge passieren, die der Video-Ersteller gar nicht wollte.

• Die Analogie: Stellen Sie sich vor, Sie veranstalten eine Dinnerparty (Ihr Video). Sie führen gerade ein nettes, normales Gespräch. Plötzlich fängt ein Lautsprecher an Ihrer Wand an, Fragen zu schrechend wie: „Ist der Gastgeber eigentlich ein Spion?“ oder „Was ist die geheime geschlechtliche Identität des Gastgebers?“
• Die Ergebnisse des Papiers: Die Forscher untersuchten Videos von niederländischen Influencern und fanden heraus, dass TikTok Suchanfragen über deren Privatleben, romantische Beziehungen und geschlechtliche Identitäten vorschlug – selbst wenn das Video absolut nichts damit zu tun hatte.
• Die Gefahr: Dies kann Gerüchte verbreiten, Drama schüren oder dazu genutzt werden, Menschen zu schikanieren (wie etwa die Suche nach dem Deadname einer transgeschlechtlichen Person vorzuschlagen). Der Ersteller des Videos hat fast keine Möglichkeit, dies zu stoppen oder überhaupt zu wissen, dass es passiert.

4. Das „Puppenspieler“-Problem (Das System manipulieren)

Das Papier warnt davor, dass böswillige Akteure das System austricksen können, weil die Regeln geheim sind.

• Die Analogie: Stellen Sie sich eine Stadt vor, in der der Bürgermeister (TikTok) sagt: „Wir schreiben nur das auf, was die Menge schreit.“ Eine Gruppe von Menschen könnte sich dann organisieren, um einen Protest zu führen, bei dem alle gleichzeitig dasselbe falsche Wort schreien. Das System des Bürgermeisters würde dieses falsche Wort dann als „beliebte Suche“ aufschreiben, wodurch es echt wirkt.
• Echtes Beispiel: Das Papier erwähnt, dass während einer politischen Wahl in Rumänien Menschen die Kommentare koordinierten, um einen bestimmten Kandidaten als Top-Suchvorschlag erscheinen zu lassen, selbst wenn dieser gar nicht wirklich populär war.

5. Das „Kein Ausgang“-Problem (Nutzerkontrolle)

Wenn Sie einen Suchvorschlag sehen, den Sie hassen, können Sie ihn nicht einfach ausschalten.

• Die Analogie: Es ist wie in einem Auto, in dem das GPS ständig gefährliche Umwege vorschlägt. Sie können versuchen, dem GPS zu sagen: „Das gefällt mir nicht“, aber das Auto hört nicht zu, und Sie können das GPS nicht ausschalten.
• Der Punkt des Papiers: Ersteller können zwar Kommentare filtern, aber sie können nicht die Suchvorschläge filtern, die auf ihren Videos erscheinen. Nutzer können diese Funktion nicht deaktivieren. Dies macht es schwierig, sich vor Belästigung oder Fehlinformationen zu schützen.

6. Warum das für das Gesetz wichtig ist

Das Papier weist darauf hin, dass TikTok gegen die Regeln des Digital Services Act (DSA) verstößt, ein neues europäisches Gesetz.

• Die Regel: Das Gesetz besagt, dass große Tech-Unternehmen ehrlich darüber sein müssen, wie ihre Algorithmen funktionieren und wie sie Dinge an Sie empfehlen.
• Der Verstoß: TikTok verbirgt, wie diese Suchvorschläge erstellt werden. Sie behaupten, sie würden lediglich Nutzerdaten „aggregieren“ (sammeln), aber das Papier argumentt, dass sie diese Vorschläge tatsächlich generieren und kuratieren, was sie für das, was erscheint, verantwortlich macht.

Der Forschungsplan: Was machen wir als Nächstes?

Die Autoren schlagen eine „komputationale Forschungsagenda“ vor. Da TikTok ihnen nicht den geheimen Code des Systems geben wird, müssen sie wie Detektive vorgehen. Sie wollen:

1. Den Code knacken: Herausfinden, welche Kommentare exakt in Suchvorschläge umgewandelt werden.
2. Die Fälscher entlarven: Erkennen, wenn Gruppen von Menschen zusammenarbeiten, um das System zu täuschen.
3. Kontext prüfen: Werkzeuge entwickeln, um zu verstehen, war Warum ein Vorschlag schädlich ist (z. B. zu verstehen, dass „Nikkie als Junge“ schädlich ist, nur weil man weiß, dass die Erstellerin eine Transfrau ist).
4. Themen sortieren: Kategorisieren, welche Arten von Dingen vorgeschlagen werden (z. B. geht es hauptsächlich um Shopping, Klatsch oder Politik?).

Zusammenfassung

Kurz gesagt: TikTok verwandelt seine Videos in eine Suchmaschine, indem es Nutzern Fragen vorschlägt. Das Papier argumentiert, dass TikTok verbirgt, wie es diese Fragen auswählt, was dazu führt, dass Gerüchte, Belästigungen und politische Manipulation unter dem Deckmantel dessen verbreitet werden, „was die Nutzer eben so sagen“. Die Autoren fordern mehr Forschung und strengere Regeln, um TikTok dazu zu zwingen, transparent mit diesem mächtigen neuen Werkzeug umzugehen.