Algorithmic Addiction by Design: Big Tech's Leverage of Dark Patterns to Maintain Market Dominance and its Challenge for Content Moderation

以下是米歇尔·尼（Michelle Nie）的论文《按设计算法成瘾》的通俗解读，辅以日常类比。

宏观图景：数字赌场

想象一下，像谷歌、Meta、亚马逊和苹果这样的科技巨头，就像是一家超大型高科技赌场的老板。他们的目标不仅仅是让你玩游戏；他们的目标是让你尽可能长时间地留在桌前，以便将你的注意力卖给广告商。

论文指出，这些公司并非仅仅靠运气；他们是在作弊。他们有意利用“花招”构建其平台（如 Instagram、TikTok 和 YouTube），让你无法抽身。这并非偶然；这是一种商业策略，旨在维持其主导地位并获取利润。

行业花招（暗黑模式）

论文将这些花招称为“暗黑模式”。你可以将其理解为那些让电子游戏对玩家来说显得“不公平”的设计选择，但这种方式却能让你继续玩下去。

1. 无限长廊（无限滚动与自动播放）：

   • 花招： 通常，当你读完一本书或看完一部电视剧时，你必须做出选择：“我想继续阅读/观看吗？”这些平台消除了这种选择。它们会自动加载下一个视频或滚动到下一篇文章，无需你触碰任何东西。
   • 类比： 这就像一条永不停歇的糖果传送带。你不必伸手去拿下一颗糖；它直接滑进你的嘴里。这剥夺了你表达“我吃饱了”或“我结束了”的能力。

2. 读心厨师（推荐算法）：

   • 花招： 应用程序利用强大的人工智能来研究你点击了什么、在什么内容上停留，甚至你的恐惧。然后，它们会提供精准击中你特定心理按钮的内容。
   • 类比： 想象一位厨师完全知道你的渴望。如果你感到悲伤，他们不会给你沙拉；他们会给你一块三重巧克力蛋糕，完美地击中你的情感痛点。论文指出，脑部扫描显示，这些个性化推送触发的脑区与药物成瘾相同。

3. 错失恐惧陷阱（利用心理学）：

   • 花招： 像"24 小时后消失”的“动态（Stories）”等功能，旨在让你感到焦虑，担心如果不时刻查看就会错过什么。
   • 类比： 这就像一场派对，主人不断低语：“最精彩的部分正在发生，但如果你离开房间一分钟，你将永远错过它。”这让你紧盯着屏幕，感到焦虑且无法断开连接。

代价：为何这伤害了我们（尤其是儿童）

论文警告说，这个“赌场”是危险的，尤其对于大脑仍在发育中的儿童和青少年。

• 精神代价： 就像输掉睡眠和金钱的赌徒一样，沉迷于这些应用程序的孩子会遭受焦虑、抑郁和睡眠不足的折磨。
• 社交代价： 论文认为，这些应用程序就像“虚假的社区”。它们可能在当下令人满足，但无法建立真实、持久的友谊。这就像吃一包薯片（令人满足但空虚）与吃一顿家常菜（营养丰富）之间的区别。依赖薯片会让你渴望真正的连接，却无法满足。

“内容审核”的问题

你可能会想：“公司不能只是监管自己的内容以使其更安全吗？”论文说不能，主要有两个原因：

1. 利润冲突： 公司知道，“更安全”的内容（例如按发布时间顺序显示帖子，而不是按人工智能认为你会点击的顺序显示）成瘾性较低。成瘾性降低意味着在应用程序上的时间减少，进而意味着利润减少。如果机器停止赚钱，他们不会去修复它。
2. 政治压力： 目前，存在巨大的政治压力（尤其是在美国），要求这些公司停止“审查”言论并放任任何内容。论文认为，在这种环境下，公司不太可能自愿自我设限。

解决方案：改变游戏规则

论文建议，我们不能仅仅依赖用户“更努力”地停止滚动。因为赛场已被操纵，我们需要彻底改变游戏规则。

1. 新法律（“安全监察员”）：

   • 论文指出欧洲的情况，那里的立法者正试图通过法律，强制公司默认关闭这些“花招”。
   • 修正方案： 想象一项法律，规定“你不能拥有无限传送带。你必须停下来询问顾客是否想要更多。”这意味着除非用户特别要求，否则必须关闭自动播放和无限滚动。

2. 打破垄断（反垄断）：

   • 论文认为，这些公司之所以如此强大，是因为它们拥有整个生态系统（手机、应用程序、互联网连接）。
   • 修正方案： 我们可能需要使用老式的“反垄断”法律来拆分这些巨头。如果它们不能拥有整个赌场，它们可能被迫在制造更好的产品上进行竞争，而不仅仅是制造更令人上瘾的产品。

3. 更新“出版商”规则（第 230 条）：

   • 在美国，有一项法律（第 230 条）规定这些平台不对人们发布的内容负责。论文认为，这项法律让它们免除了其设计所造成伤害的责任。修改这项法律可能会迫使它们为其产品的成瘾性承担责任。

核心结论

论文总结道，我们不能简单地“教育”用户停止使用这些应用程序，因为这些应用程序是由超级智能的人工智能设计得令人无法抗拒。解决这一问题的唯一方法是改变激励机制。我们需要法律和法规，阻止公司通过让我们成瘾来获利，迫使它们设计尊重我们的时间和心理健康的技术，而不是窃取它们。