Retrofitters, pragmatists and activists: Public interest litigation for accountable automated decision-making

本文基于对澳大利亚公共利益诉讼律师、科技政策活动家及法学学者的访谈,探讨了在监管受阻背景下,如何通过“法律 retrofitting"等务实策略利用现有法律推动自动化决策系统的问责,并指出了实现有效治理所需的制度性支持。

Henry Fraser, Zahra Stardust

发布于 2026-03-16
📖 1 分钟阅读☕ 轻松阅读

Each language version is independently generated for its own context, not a direct translation.

这篇文章就像是一份**“法律界的黑客指南”**,专门教人们如何在没有专门针对人工智能(AI)的新法律的情况下,利用现有的旧法律武器,去对抗那些由算法造成的不公。

想象一下,政府或大公司使用了一套**“自动售货机”**(自动决策系统,ADM)来发放福利、批准贷款或决定谁该被逮捕。有时候,这台机器坏了,或者被设定了错误的程序,导致成千上万无辜的人被错误地扣钱、被拒绝服务,甚至被羞辱(比如澳大利亚著名的"Robodebt"事件,机器错误地给穷人发债单)。

当新的法律还没造好(就像还在画图纸的“新大楼”),而机器已经把人伤得很深时,该怎么办?这篇文章告诉我们:不要干等,要像“老木匠”一样,用旧工具去修新机器。

以下是这篇文章的核心内容,用大白话和比喻来解释:

1. 核心比喻:法律“改装”(Retrofitting)

文章把这种诉讼策略称为**“法律改装”**。

  • 现状: 现在的法律(比如几十年前的隐私法、侵权法)是设计给“人”用的,不是给“算法”用的。就像你试图用一把老式扳手去拧一颗高科技螺丝,尺寸可能不太对。
  • 策略: 聪明的律师(被称为“改装者”)不会抱怨扳手不好用,而是想办法把扳手磨一磨、改一改,让它能拧动这颗新螺丝。
    • 例子: 如果法律没有直接规定“算法歧视”是违法的,律师就会用“过失”(Negligence)或者“违反保密义务”(Breach of Confidence)这些旧罪名,把算法造成的伤害装进去,让法官不得不审理。

2. 律师们的“战术手册”

文章采访了 20 位律师、学者和活动家,他们分享了一些实用的“游击战术”:

  • 寻找“完美受害者”: 并不是所有案件都能打。律师们会挑选那些事实最清晰、最容易套用旧法律的案件。就像射箭,要选那个靶心最明显的靶子射,这样才能一箭双雕(既帮了当事人,又确立了新判例)。
  • 金钱是燃料: 打官司很贵,而且风险大。为了吸引律师和资助者(他们也要吃饭),律师们会尽量寻找那些能赔钱的案件。如果赢了能拿到赔偿金,就有更多人愿意资助这种“公益诉讼”。
  • “搭便车”策略(Bolt-ons): 在打一个普通的私人官司时,律师会顺便把**“公共利益”**的大旗也插上去。
    • 比喻: 就像你在自家后院修篱笆(解决个人问题),顺便把整个社区的围墙规则也改了(推动社会变革)。即使官司输了,只要把问题曝光了,让公众知道“这机器有问题”,也能推动政府修改法律。
  • 输掉官司也能赢: 有时候,即使法庭判你输了,但这个过程让媒体曝光了系统的黑暗面,让公众愤怒了,最终迫使政府不得不修改规则。这叫**“以退为进”**。

3. 为什么这么难?(三大拦路虎)

虽然律师们很聪明,但这条路依然布满荆棘:

  • 法律太“僵化”: 现有的法律喜欢讲“意图”(你是不是故意害人?)。但算法没有脑子,它只是按数据跑。要证明一个没有意识的机器“故意”歧视某人,就像试图给一块石头定罪一样难。
  • 受害者太“脆弱”: 被算法伤害的人,往往是穷人、少数族裔或边缘群体。让他们去花几年时间、花大钱打官司,还要面对“如果输了要赔对方律师费”的风险,这简直是让一个受伤的人去跑马拉松。很多人根本不敢站出来。
  • 信息不透明(黑箱): 算法是怎么决定的?没人知道。就像黑箱,你只看到输入和输出,中间发生了什么全是谜。如果连律师都不知道机器怎么想的,就没法在法庭上攻击它。

4. 想要成功,需要什么“基础设施”?

文章最后提出,光靠律师单打独斗不行,需要建立一个**“生态系统”**:

  • 透明化(把黑箱打开): 政府和企业必须公开算法是怎么工作的,或者至少留下“操作日志”。没有这些证据,就像在黑暗中打架,根本打不赢。
  • 建立“情报网”: 需要有人专门收集大家的投诉。如果一个人被算法坑了,另一个人也被坑了,把这些点连成线,就能看出是系统坏了,而不是运气不好。
  • 给律师和受害者“输血”: 需要更多的资金来支持公益诉讼,并且要修改规则,让打公益官司的人不用担心输了要赔钱(比如设立“保护性成本令”)。
  • 培养“懂技术的法官和律师”: 法官和律师需要学习技术知识,不能再用老眼光看新科技。

总结

这篇文章的核心思想是:在完美的法律出台之前,不要坐以待毙。

虽然法律系统像一辆老旧的卡车,跑不过像F1 赛车一样的新技术,但一群聪明的“改装师”(律师、活动家、学者)可以通过改装旧零件、寻找新路线、甚至把车开进泥潭里制造动静,来迫使社会停下来,重新思考规则。

最终,诉讼只是手段,目的是推动社会正义,让那些冷冰冰的算法重新学会“做人”,或者至少,让它们为造成的伤害付出代价。

在收件箱中获取类似论文

根据您的兴趣定制的每日或每周摘要。Gist或技术摘要,使用您的语言。

试用 Digest →