Algorithmic manipulation and mental self-determination: Operationalizing freedom of thought as a neuroright
本文认为，现有的法律框架未能保护思维形成这一认知过程免受非侵入性算法操纵，并提议将“精神自我决定权”作为一项特定的神经权利进行操作化，通过四因素阈值来在法律上区分非法操纵与合法的心理影响。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
长期以来，人类的心智一直被视为一个私密的圣殿，一个思想在沉默中形成、不受外界干扰的场所。几十年来，国际法一直在保护这一被称为“内心领域”（forum internum）的内在空间，将其视为一项任何政府或技术都不得侵犯的绝对权利。这种保护最初旨在防止人们被迫改变信仰或因其思想而受到惩罚。然而，一种新的威胁已经出现，它不需要电线、植入物或直接接入大脑。相反，它来自于驱动社交媒体、新闻推送和在线购物的日常算法。这些系统并不直接读取我们的思想；它们观察我们的行为，学习我们的习惯，并微妙地安排我们周围的世界，以引导我们的选择。危险在于，即使我们的决定实际上是由计算机程序精心设计、旨在利用我们的弱点时，我们往往仍觉得自己是在做自己的决定。
来自河内法科大学的两名研究人员，阮氏龙（Thi Long Nguyen）和陈玉协（Ngoc Hiep Tran），探讨了现有的法律是否足够强大，能够阻止这种无形的干扰。他们认为，目前的规则侧重于保护个人数据或监管特定类型的人工智能，忽略了真正的问题。问题不仅在于谁看到了我们的信息，而在于我们独立思考的能力正在如何被悄然重塑。作者们提出，我们需要将“心理自我决定权”（mental self-determination）理解为对古老的思想自由权的现代应用，而非一项全新的权利。他们建议通过一套明确的条件来区分正常的说服与非法的操纵，从而在数字时代保护我们思维的完整性，即便那些最强大的工具从未触及过我们的脑部。
研究人员首先审视了现有法律保护中的空白。他们发现，像欧盟《人工智能法案》和数据隐私法规这类法律，并非旨在捕捉算法操纵所造成的特定伤害。《人工智能法案》例如，禁止使用隐藏技术来扭曲行为的系统，但它要求证明一家公司具有操纵的“意图”，并且结果造成了显著且切实的伤害。这是一个极高的门槛，许多日常算法都能轻易规避。这些系统的设计初衷通常是最大化参与度或销售额，而非明确地欺骗人们，且其影响通常是我们在看待世界方式上的缓慢、渐进的转变，而非单一、剧烈的错误。同样，数据保护法侧重于信息的收集和存储。它们询问我们是否同意将数据用于某种用途，但它们并不询问这种数据的使用方式是否在秘密地引导我们的思想。作者认为，这在法律上留下了一个结构性漏洞：一个系统可以遵循所有关于数据隐私和人工智能安全的规则，却仍然有效地劫持了个人形成判断的过程。
为了理解这一过程是如何发生的，作者描述了一个在用户看到特定的帖子或广告之前就开始的过程。系统首先建立用户的详细模型，学习他们的情绪触发点、他们的弱点时刻以及什么能吸引他们的注意力。这创造了一种巨大的知识不对称：计算机比用户自己更了解用户的脆弱性。随后，系统利用这些知识来塑造决策所处的环境。它可能会在用户疲劳时展示特定的新闻故事，或者以特定的顺序呈现选项，使其中一个选择看起来比实际情况更自然。其结果是一种感觉像是个人偏好的影响。用户仍然觉得自己是自身决定的作者，但他们到达那里的路径却是被算法秘密铺设的。这不同于强迫（强制做出选择）或说服（提供理由供权衡），而是一种绕过意识反思、对心灵进行隐形引导的行为。
论文认为，要解决这个问题，我们必须不仅将思想自由权视为抵御脑植入物的盾牌，也要将其视为抵御任何破坏思想形成的技术的盾牌。作者提出了一个具体的测试，用以判定一个算法何时跨越了可接受的影响与非法操纵之间的界限。他们建议，只有当以下四个条件同时满足时，一种做法才属于非法操纵。首先，影响的方法必须对用户是隐藏的；如果用户知道自己正受到针对，那就不是操纵。其次，必须存在深度的知识不对称，即系统以用户无法察觉的方式了解用户的弱点。第三，系统必须利用特定的脆弱性，例如情绪状态或认知盲点，而不是诉诸用户的理性能力。最后，这种影响必须改变用户达成决定的“过程”，而不仅仅是改变可供选择的“选项”。
这一框架借鉴了智利最近的一个法律案例，该国成为第一个赋予大脑活动宪法权利的国家。在该案中，法院裁定一家公司未经适当同意收集一名参议员的大脑数据，侵犯了他的权利。作者指出，虽然这是神经权利（neurorights）的一次胜利，但它仅限于直接从大脑获取数据的场景。他们的工作将这一逻辑扩展到了数字世界，认为即使没有从大脑中提取物理数据，同样的保护也应适用。如果法律的目标是保护思维的完整性，那么干扰是来自头骨内的电线还是来自屏幕上设计精巧的应用程式，其实并不重要。伤害是一样的：即对形成自身信仰能力的侵蚀。
研究人员承认，应用这些想法并非易事。证明特定的算法导致了个人思想的特定变化是非常困难的，因为这些影响通常是微妙且累积的。他们还警告说，法院在应用这一新测试时必须非常谨慎，以确保不会在无意中禁止所有形式的广告或推荐。然而，他们总结道，如果没有一个关于什么是心理自我决定的清晰标准，法律将对我们自主权最普遍的威胁保持盲目。通过这四个因素来定义操纵，作者提供了一种保护人类思想这一内在圣殿的方法，确保即使在我们周围的环境不断被优化以改变我们的情况下，我们的思想依然属于我们自己。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。