TikTok Search Recommendations: Governance and Research Challenges

将 TikTok 想象成一个巨大、繁忙的城镇广场，人们在其中分享短视频。长期以来，这个广场主要是在一个随机娱乐的动态流中进行滚动浏览。但最近，TikTok 开始表现得更像是一个图书馆或搜索引擎，试图帮助人们找到他们想要寻找的精确内容。

这篇论文是一篇“立场论文”（position paper），就像是研究人员的一份正式笔记，意在说明：“嘿，我们需要在这一新功能引发麻烦之前，对其进行密切观察。”这个功能就是搜索推荐（Search Recommendations）。

以下是该论文内容的拆解，使用了简单的类比：

1. 新功能：“建议问题”

想象你正在观看一段关于名人的视频。通常情况下，你只是观看并可能留下评论。现在，TikTok 会在屏幕上（或在评论顶部）贴上一张小贴纸，上面写着：“你可能想搜索：‘她的男朋友是谁？’或‘那件衬衫是什么品牌？’”

这些是预先写好的问题，TikTok 建议你将其输入搜索栏。论文称之为一种“新形式的推荐”。它不再仅仅是告诉你下一步该看什么视频，而是告诉你在问什么问题。

2. “魔术盒”问题（缺乏透明度）

TikTok 告诉用户和创作者：“别担心，我们并不是凭空捏造这些建议。我们只是观察人们已经在评论中说了什么以及他们在搜索什么，然后把这些内容记录下来。”

论文作者认为，这就像一个魔术师声称自己的戏法只是“自然的魔法”，而实际上他使用的是隐藏的钢丝。

• 说法： TikTok 声称，“我们只是反映用户对话的中立镜像。”
• 现实： 论文指出，实际上是 TikTok 在决定哪些对话会被转化为搜索建议。他们并没有解释如何挑选这些内容。这是一个“黑箱”。我们不知道他们是在挑选最热门的评论、最新的评论，还是在秘密挑选特定的词汇来推动某种叙事。

3. “影子作家”问题（有害的建议）

由于 TikTok 没有解释这些建议是如何产生的，因此可能会发生视频创作者并未要求的负面情况。

• 类比： 想象你正在举办一场晚宴（你的视频）。你正在进行一场愉快、正常的交谈。突然，你墙上的一个扩音器开始大声喊出类似这样的问题：“这位主人真的是间谍吗？”或者“这位主人的秘密性别身份是什么？”
• 论文的研究结果： 研究人员观察了荷兰网红的视频，发现 TikTok 会针对他们的个人生活、感情关系和性别身份提出搜索建议——即使这些视频本身与这些话题毫无关系。
• 危险： 这会传播谣言、煽动冲突，或被用于骚扰他人（例如建议搜索一名跨性别者的原名/曾用名）。视频创作者几乎无法阻止这种情况发生，甚至无法察觉其正在发生。

4. “傀儡师”问题（操纵系统）

论文警告说，由于规则是保密的，恶意行为者可以欺骗系统。

• 类比： 想象一个城镇，市长（TikTok）说：“我们只记录人群呐喊的内容。”那么一群人就可以组织起来进行抗议，所有人同时大喊同样的一句假话。市长的系统就会把这个假话记录为“热门搜索”，使其看起来像是真实的。
• 真实案例： 论文提到了在罗马尼亚的一次政治选举期间，人们通过协调评论，使某个特定候选人看起来像是热门搜索建议，即便该候选人实际上并不受欢迎。

5. “无处可逃”问题（用户控制权）

如果你看到一个你不喜欢的搜索建议，你无法直接关闭它。

• 类比： 这就像是在一辆汽车里，GPS 不断建议一些危险的绕行路线。你可以尝试告诉 GPS “我不喜欢这个”，但车子并不理会，你也无法关闭 GPS。
• 论文的观点： 创作者可以过滤评论，但他们无法过滤出现在其视频上的搜索建议。用户也无法禁用该功能。这使得人们很难保护自己免受骚扰或虚假信息的影响。

6. 为什么这关乎法律

论文指出，TikTok 正在违反**《数字服务法案》（DSA）**，这是一项新的欧洲法律。

• 规则： 该法律规定，大型科技公司必须诚实地说明其算法如何运作，以及它们如何向你推荐内容。
• 违规之处： TikTok 隐瞒了这些搜索建议是如何生成的。他们声称自己只是在“聚合”（收集）用户数据，但论文认为他们实际上是在“生成”和“策划”这些内容，因此应对其出现的内容负责。

研究计划：我们接下来要做什么？

作者提出了一个“计算研究议程”。由于 TikTok 不会向他们提供该系统的秘密代码，他们需要像侦探一样行动。他们想要：

1. 破解代码： 弄清楚究竟哪些评论转化成了搜索建议。
2. 识别伪装者： 检测何时有群体在协同合作以欺骗系统。
3. 语境检查： 构建工具来理解为什么一个建议是有害的（例如，知道“Nikkie 是个男孩”是有害的，是因为你知道创作者是一名跨性别女性）。
4. 话题分类： 对被建议的内容进行分类（例如，它们主要是关于购物、八卦还是政治？）。

总结

简而言而言，TikTok 正通过向用户建议问题，将其视频转变为一个搜索引擎。论文指出，TikTok 隐瞒了其挑选这些问题的机制，这使得谣言、骚扰和政治操纵可以在“仅仅是用户所言”的幌子下传播。作者呼吁进行更多研究，并制定更严格的规则，以迫使 TikTok 对这一强大的新工具保持透明。