Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution
本立场论文主张，因果性提供了一个统一的框架，通过将公平性、鲁棒性、隐私性和可解释性等相互竞争的可靠人工智能目标之间的固有冲突重新诠释为可通过选择性不变性加以平衡的不相容不变性要求，从而解决这些冲突。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图教一个机器人同时成为完美的医生、公正的法官和安全的保险库。这篇论文认为，目前我们在这方面的努力之所以失败，是因为我们教机器人像侦探寻找线索（相关性）那样看待世界，而它本应像科学家寻找因果那样去观察。
以下是该论文论点的简明拆解，辅以日常类比：
1. 问题：“线索”陷阱
目前，人工智能模型非常擅长发现模式。如果它们看到“戴红帽子的人经常生病”，它们就会学会根据帽子来预测疾病。
- 问题所在：这在预测稳定环境中的下一步时非常有效。但当我们要求人工智能具备公平性、鲁棒性、隐私性或可解释性时，它就会失效。
- 冲突：论文指出，这些目标相互冲突，因为它们要求人工智能以不同且矛盾的方式保持“不可动摇”（不变性）：
- 公平性说：“如果一个人的种族或性别改变，不要改变你的回答。”
- 隐私性说：“如果我们移除某一个人的数据，不要改变你的回答。”
- 鲁棒性说：“如果医院设备改变或天气变差，不要改变你的回答。”
- 准确性说：“利用你能找到的每一个线索来获得正确答案。”
如果人工智能利用“红帽子”这一线索来提高准确性，它可能会违反公平性（如果帽子与特定群体相关）或隐私性（如果帽子是某个人独有的）。论文将这种情况称为"不变性冲突"。人工智能试图同时向太多不同的方向保持“不可动摇”，结果导致系统崩溃。
2. 解决方案：“因果地图”
论文提出，因果性是解决这一问题的万能钥匙。
想象人工智能是一位厨师。
- 当前的人工智能（相关性）：厨师看到“冰淇淋销量”和“溺水死亡人数”在七月都上升了。厨师得出结论：“冰淇淋导致溺水！”并试图通过禁止冰淇淋来阻止溺水。这是错误的，因为这只是巧合（两者都是由炎热天气引起的）。
- 因果人工智能：厨师绘制了一张地图。地图显示，炎热天气导致了冰淇淋销量和溺水。
- 如果厨师想阻止溺水，他不会禁止冰淇淋，而是会警告人们注意水域安全。
- 如果厨师想要公平，他会意识到“帽子”并不是生病的原因；根本原因在于生理机制。
这如何解决冲突：
通过理解这张地图，人工智能可以“有选择地保持不可动摇”。
- 它可以说：“我会忽略‘帽子’（这是一个糟糕的线索），因为它并不导致生病。” -> 实现了公平性。
- 它可以说：“我会关注‘生理机制’（真正的成因），因为即使医院发生变化，它依然保持不变。” -> 实现了鲁棒性。
- 它可以说：“我不需要记住特定病人的名字就能了解生理机制。” -> 实现了隐私性。
3. 构建这张地图的两种方法
论文解释，根据人工智能的规模，我们可以通过两种方式构建这张“因果地图”：
- 显式（蓝图）：对于较小、专用的 AI，我们可以 literally 绘制出地图（图），并强制 AI 遵循它。这就像给机器人一本严格的规则手册。这对于法律或医疗等高风险工作非常有益，因为我们需要确切知道决策是为什么做出的。
- 隐式（直觉）：对于像我们今天使用的大型聊天机器人这样庞大的 AI，我们无法为一切绘制地图。相反，我们在多样化数据上训练它们，并使用特殊技术让它们“感觉”到真实原因与虚假线索之间的区别。这就像训练一只狗忽略干扰，而不必确切地告诉它每一种干扰长什么样。
4. 这对未来的意义
论文得出结论，我们不能仅仅通过“微调”来让 AI 变得更好。我们必须改变思考它的方式。
- 停止将公平性、隐私性和准确性视为需要像跷跷板一样平衡的独立问题。
- 开始将它们视为同一张因果地图的不同视角。
如果我们构建出能够理解事物为何发生（因果性）而不仅仅是什么一起发生（相关性）的人工智能，我们就能同时拥有准确、公平、私密且鲁棒的人工智能。论文认为，这不仅仅是一个美好的想法；它是解决当今阻碍人工智能发展的根本冲突的唯一途径。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。