TikTok Search Recommendations: Governance and Research Challenges

Imagina a TikTok como una plaza de un pueblo gigante y bullicioso donde la gente comparte videos cortos. Durante mucho tiempo, esta plaza consistió principalmente en desplazarse por un feed de entretenimiento aleatorio. Pero recientemente, TikTok ha comenzado a actuar más como una biblioteca o un motor de búsqueda, tratando de ayudar a las personas a encontrar exactamente lo que están buscando.

Este documento es un "documento de posición", que es como la nota formal de un investigador diciendo: "Oigan, necesitamos observar de cerca esta nueva función antes de que cause problemas". La función en cuestión es las Recomendaciones de Búsqueda.

Aquí hay un desgido de lo que dice el documento, utilizando analogías sencillas:

1. La nueva función: "Preguntas sugeridas"

Imagina que estás viendo un video de una celebridad. Normalmente, solo lo ves y tal vez dejas un comentario. Ahora, TikTok pone una pequeña nota adhesiva en la pantalla (o en la parte superior de los comentarios) que dice: "Tal vez quieras buscar: '¿Quién es su novio?' o '¿Qué marca es esa camisa?'".

Estas son preguntas preescritas que TikTok te sugiere escribir en la barra de búsqueda. El documento llama a esto una "nueva forma de recomendación". En lugar de solo decirte qué video ver después, te está diciendo qué preguntar.

2. El problema de la "Caja Mágica" (Falta de transparencia)

TikTok les dice a los usuarios y creadores: "No se preocupen, no estamos inventando estas sugerencias. Solo observamos lo que la gente ya está diciendo en los comentarios y lo que están buscando, y copiamos eso".

Los autores de este documento dicen que esto es como un mago que afirma que su truco es solo "magia natural" cuando, en realidad, está usando cables ocultos.

• La afirmación: TikTok dice: "Solo somos un espejo neutral que refleja las conversaciones de los usuarios".
• La realidad: El documento argumenta que es TikTok quien decide qué conversaciones se convierten en sugerencias de búsqueda. No explican cómo las eligen. Es una "caja negra". No sabemos si están eligiendo los comentarios más populares, los más recientes, o si están seleccionando secretamente palabras específicas para impulsar ciertas narrativas.

3. El problema del "Escritor Fantasma" (Sugerencias dañinas)

Debido a que TikTok no explica cómo se hacen estas sugerencias, pueden ocurrir cosas malas que el creador del video no pidió.

• La analogía: Imagina que estás organizando una cena (tu video). Estás teniendo una conversación agradable y normal. De repente, un altavoz en tu pared comienza a gritar preguntas como: "¿Es el anfitrión realmente un espía?" o "¿Cuál es la identidad de género secreta del anfitrión?".
• Los hallazgos del documento: Los investigadores analizaron videos de influencers holandeses y encontraron que TikTok sugería búsquedas sobre sus vidas personales, relaciones románticas e identidades de género, incluso cuando el video no tenía nada que ver con esos temas.
• El peligro: Esto puede difundir rumores, alimentar dramas o ser utilizado para el acoso (como sugerir que se busque a una persona trans con su nombre de nacimiento anterior). El creador del video casi no tiene forma de detener esto o incluso de saber que está sucediendo.

4. El problema del "Titiritero" (Manipular el sistema)

El documento advierte que, debido a que las reglas son secretas, los actores malintencionados pueden engañar al sistema.

• La analogía: Imagina un pueblo donde el alcalde (TikTok) dice: "Solo escribimos lo que la multitud grita". Un grupo de personas podría entonces organizarse para una protesta donde todos griten lo mismo al mismo con el fin de que parezca real. El sistema del alcalde entonces escribiría esa cosa falsa como una "búsqueda popular", haciendo que parezca real.
• Ejemplo real: El documento menciona que durante una elección política en Rumania, la gente coordinó comentarios para hacer que un candidato específico apareciera como una sugerencia de búsqueda principal, incluso si no era realmente popular.

5. El problema de "Sin Salida" (Control del usuario)

Si ves una sugerencia de búsqueda que odias, no puedes simplemente desactivarla.

• La analogía: Es como estar en un coche donde el GPS sigue sugiriendo desvíos peligrosos. Puedes intentar decirle al GPS "no me gusta eso", pero el coche no escucha y no puedes apagar el GPS.
• El punto del documento: Los creadores pueden filtrar comentarios, pero no pueden filtrar las sugerencias de búsqueda que aparecen en sus videos. Los usuarios no pueden desactivar la función. Esto hace que sea difícil protegerse del acoso o la desinformación.

6. Por qué esto importa para la ley

El documento señala que TikTok está rompiendo las reglas de la Ley de Servicios Digitales (DSA), una nueva ley europea.

• La regla: La ley dice que las grandes empresas tecnológicas deben ser honestas sobre cómo funcionan sus algoritmos y cómo te recomiendan cosas.
• La violación: TikTok está ocultando cómo se hacen estas sugerencias de búsqueda. Afirman que solo están "agregando" (recolectando) datos de los usuarios, pero el documento argumenta que en realidad están generando y curando estas sugerencias, lo que los hace responsables de lo que aparece.

El Plan de Investigación: ¿Qué hacemos después?

Los autores proponen una "agenda de investigación computacional". Dado que TikTok no les dará el código secreto del sistema, necesitan actuar como detectives. Quieren:

1. Descifrar el código: Averiguar exactamente qué comentarios se convierten en sugerencias de búsqueda.
2. Detectar a los farsantes: Detectar cuándo grupos de personas están trabajando juntos para engañar al sistema.
3. Verificación de contexto: Construir herramientas para entender por qué una sugerencia es dañina (por ejemplo, saber que "Nikkie como un chico" es dañino solo porque sabes que la creadora es una mujer trans).
4. Clasificar los temas: Categorizar qué tipos de cosas se están sugiriendo (por ejemplo, ¿son principalmente sobre compras, chismes o política?).

Resumen

En resumen, TikTok está convirtiendo sus videos en un motor de búsqueda al sugerir preguntas a los usuarios. El documento argumenta que TikTok oculta cómo elige estas preguntas, lo que permite que los rumores, el acoso y la manipulación política se propaguen bajo la apariencia de "lo que los usuarios están diciendo". Los autores están llamando a una mayor investigación y reglas más estrictas para obligar a TikTok a ser transparente sobre esta poderosa nueva herramienta.