🤖 AI

Flow-by-Flow:Content-Judgment Bypass for Governing AI Output in High-Loss Domains

本文提出了“逐流式”（Flow-by-Flow）治理范式，旨在针对高损失AI领域，通过对高产量施加非线性成本并执行机构能力上限，绕过内容评估以克服人类认知极限，从而在不依赖易错的内容判断的情况下，确保监管负荷保持在可控范围内。

原作者： Hiroki Naito

发布于 2026-08-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Hiroki Naito

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一位巨轮的船长，你的职责是在风暴中驾驶它。在旧时代，风暴只是风和雨；你可以看到波浪，感受到水雾，并准确知道何时转动轮盘。但现在，想象这场风暴是由数以百万计、隐形的、能够变形且会说话、会写作、会争论的幽灵组成的。这就是人工智能（AI）在法律、医学和科学等高风险领域的现状。大问题不仅在于幽灵太多，更在于它们变得如此擅长伪装得像真人一样，以至于连最优秀的船长都开始怀疑自己的眼睛。

长期以来，专家们认为解决方案很简单：“多加几个船长！”或者“让船长变得更聪明！”他们认为，只要人类留在环节中检查 AI 的工作，一切就是安全的。但一个新的观点指出，这就像试图用一只蝴蝶网去捕捉一场飓风。AI 现在产生工作的速度已经超过了任何人类可能阅读的速度，而且 AI 变得越“完美”，人类的大脑就越容易放松警惕并过度信任它，从而忽略了细微的错误。我们正在看的这篇论文指出，我们不能仅仅增加更多的眼睛；我们必须改变游戏的规则。与其试图阅读 AI 写的每一页纸，我们不如建立一个收费站，在工作到达船长之前，先测量这份工作的“重量”。

这篇题为《逐流而行》（Flow-by-Flow）的论文提出了一种巧妙的新方法，可以在不实际阅读内容的情况下管理 AI 生成内容的洪流。作者建议，与其问“这个故事是真的吗？”（这很难且充满风险），不如问“这个故事看起来付出了多少努力？”他们引入了一个名为“认知成本得分”（Cognitive Cost Score）的系统。把它想象成一个电子游戏，你不能只是不停地狂按“攻击”键。如果你尝试攻击次数过多，或者你的攻击过于复杂，游戏会自动减慢你的速度。论文建议使用简单的、可计数的要素——比如页数、法律主张的数量或报告中的图表数量——来计算得分。如果得分过高，系统并不会拒绝该项工作；相反，它会将提交内容路由到一个特殊的“超限路径”中，在那里提交者必须承受显著的摩擦，例如排队等待或支付“时间税”，然后才能提交。

作者运行了计算机模拟（具体是通过 1,000 种不同场景的蒙特卡洛分析），发现这种“流量控制”方法在约 90.8% 的案例中比仅仅雇佣更多人来检查工作效果更好。他们认为，试图检查每一个 AI 输出是一场注定失败的战斗，因为 AI 写东西的速度比人类思考的速度快得多。相反，通过让提交庞大、复杂的批处理工作变得“昂贵”（在时间和精力方面），可以自然地减缓这场洪流。论文建议，对于最复杂的提交，唯一公平的处理方式是要求人类亲自到场并等待，将一个数字问题转化为一个物理问题。这确保了即使 AI 很快，人类监督员也不会被淹没，从而使“风暴”保持在可控的大小。

核心思想：为什么“更多的人类”不是答案

论文首先指出了我们目前看待 AI 安全方式的一个缺陷。我们通常假设，如果 AI 犯了错，人类可以随时发现。但作者说，当以下两件事同时发生时，这种假设就会崩溃：AI 变得非常擅长写作，且 AI 开始大量写作。

想象一个工厂，机器人可以在一秒钟内制造一辆玩具车。如果机器人制造 10 辆车，人类检查员可以检查所有车辆。但如果机器人在一小时内制造了 10,000 辆车，检查员就会感到疲劳、漏掉错误，或者开始想：“既然机器人这么厉害，它大概不会出错吧。”这就是所谓的“自动化偏差”。论文认为，在危险领域（如诊断疾病或编写法律），我们不能让检查员感到疲劳或过度自信。

作者引入了一种看待问题的新方式。他们说，问题不仅仅是物品的数量（容量， $V$ ），而是数量乘以检查每件物品所需的难度（负荷， $L$ ）。

容量 ( $V$ )： AI 撰写的东西的数量。
负荷 ( $L$ )： 检查单件东西所需的脑力。

即使 AI 写的件数减少了，如果这些东西极其复杂，人类大脑仍然会被压垮。论文指出，随着 AI 变得越来越聪明，它不仅写得更多，而且写出的东西也更难检查，或者它会误导我们，让我们觉得这些东西比实际更容易检查。因此，传统的“检查一切”的想法撞上了一堵硬墙，即 $C_{max}$ （人类一天内能进行的最高限度的思考量）。一旦 AI 突破了这堵墙，人类的检查就变成了一种虚假的仪式，错误会随之溜走。

解决方案：“认知成本得分”

那么，如何在不阅读每一滴水的情况下阻止洪水呢？论文提出了**“逐流而行”（Flow-by-Flow）**。

系统并不阅读文本以判断其真实性（这很难且容易出错），而是观察文本的形式。它统计诸如：

多少页？
有多少张图表或图形？
引用了多少参考文献？
列出了多少项法律主张？

这些都是不需要理解含义就可以计数的。系统将这些数字相乘，创建一个认知成本得分。

如果你提交的是一篇短小、简单的论文，得分就很低。你可以快速通过关口。
如果你提交的是一份长达 500 页、含有 1,000 张图表的巨型文档，得分就会上升呈指数级增长。这不仅仅是“稍微难一点”，而是一个巨大的跳跃。

这个得分就像一个减速带。系统并不会说“这很糟糕”，而是说“这很沉重”。正因为沉重，它会触发一条规则：机构容量上限。

“物理闸门”：将数字速度转化为物理时间

这是论文中最具创意性的部分。作者知道，如果你只是对大型提交说“不”，人们会找到绕过的方法。他们可能会把一篇大文章拆分成十篇小文章。为了阻止这一点，论文建议使用一个“物理闸门”。

如果你的认知成本得分过高（意味着你的提交过于复杂或庞大，超出了标准快速通道的范围），你不会被拒绝。相反，你会被路由到一个**“超限路径”中。在路径中，你不会获得自动接受；你必须等待**。

规则： 要提交复杂的申请，你必须前往物理办公室，出示身份证，并排队等待特定时间。
数学逻辑： 如果你的得分比限制高出 8 倍，你可能需要等待 16 小时（或由公式决定的时间）。
关键点： 你不能在一分钟内做 1,000 次这样的操作。你不能雇佣一个机器人替你去排队。你必须是一个真实的、肉身存在的、在浪费时间的真人。

这把数字复制的“近乎零成本”转化为了物理时间的“真实成本”。

对于普通人： 如果你有一个真正复杂的想法，等待几个小时虽然烦人，但很公平。
对于 AI 垃圾信息发送者： 如果他们想提交 1,000 份复杂的申请，他们就需要 1,000 个人在 1,000 个小时里排队。这根本不可能。

论文称之为“基于身份的单次申请摩擦”。它让大规模骚扰变得昂贵，但让普通人类的成本保持低廉。

论文对什么表示“拒绝”

作者非常明确地说明了哪些方法是无效的，并花费大量篇幅解释为什么我们不应该依赖这些方法：

“仅仅增加更多人类”： 他们说这是一个陷阱。你无法雇佣足够多的人来跟上每天能写一百万篇论文的 AI。成本将是无限的。
“让 AI 检查 AI”： 他们认为这是一个循环。如果一个 AI 检查另一个 AI，那么谁来检查检查者？最终，人类必须签字确认，于是又回到了人类被压垮的同一个问题上。
“只需要求人们诚实”： 论文指出，要求人们“声明是否使用了 AI”是行不通的，因为无法证明他们是否说了实话。人们只会撒谎。
“阅读内容进行检查”： 这是最大的“不”。论文认为，试图阅读并评判每一项 AI 输出的真实性，正是导致瓶颈的原因。我们需要完全绕过阅读部分，专注于流量。

他们有多确定？

论文谨慎地表示，他们并没有声称已经永远“解决”了 AI 安全问题。他们使用模拟实验来测试他们的想法。

他们运行了一次计算机模拟（一种蒙特卡洛分析），包含了 1,000 种不同的随机场景。
在 90.8% 的模拟中，他们的“逐流而行”系统比仅仅尝试雇佣更多人来检查工作的效果更好。
他们承认 AI 每年都在变得更聪明。他们暗示，最终 AI 可能会变得非常擅长“钻空子”（例如寻找让长篇论文看起来很短的方法），届时规则将需要再次改变。
他们承认，他们的“物理闸门”想法（让人排队）在现实世界中很难实现。它可能对居住较远或有残障的人不公平。他们建议，也许“远程等待”（比如视频通话，让你坐在那里等待）可以奏效，但他们承认这是一个巨大的挑战。

大局观

论文的主要信息是视角的转变。我们过去认为问题是“如何让 AI 更聪明？”或者“如何让人类更聪明？”作者说，问题实际上是“我们如何管理交通？”

想象一条高速公路。如果有一百万辆车试图进入一个只能容纳 100 辆车的隧道，你解决问题的方法不是建造一个更大的隧道（你无法建造一个足以容纳一百万辆车的隧道）。你也不是通过雇佣更多的收费员来解决。你通过设立一个闸门来解决，上面写着：“如果你拉的是重型卡车，你必须走特殊车道。”

“逐流而行”系统就是那个闸门。它不在乎你的卡车装的是黄金还是垃圾；它只在乎它有多重。通过让提交复杂的 AI 工作变得“沉重”，它迫使系统减速，降至人类大脑可以实际处理的速度。这是一种既能保留 AI 超能力，又不让它冲垮系统的办法。

作者总结道，虽然他们的“物理闸门”想法在现实中可能难以完美实施，但其原则是坚实的：我们必须停止试图检查一切，转而开始管理流量。如果不这样做，论文暗示，在涉及高风险领域时，我们最终会达到这样一个临界点：人类的监督仅仅变成了一种虚假的检查，而真正的错误将在黑暗中发生。

技术摘要：流控（Flow-by-Flow）：高损失领域中用于治理 AI 输出的内容判断规避机制

1. 问题陈述

本文探讨了在高损失领域（如专利审查、法律诉讼、临床决策支持）中，随着生成式 AI 能力的提升，人类在环（HITL）监督所面临的结构性不可持续性。核心问题由不等式 $V \times L > C_{max}$ 定义，其中：

$V$ 是 AI 输出速率（单位时间内输出的数量）。
$L$ 是进行分拣、判断和响应所需的单项认知负荷。
$C_{max}$ 是人类认知处理能力的生物学上限。

本文认为，传统的治理依赖于一个假设，即提高 AI 准确度足以降低 $L$ 以维持安全性。然而，作者指出：

分拣成本并不会随准确度的提高而下降，因为通用型 AI 的输出在语义上是不确定的（监督者必须首先确定该输出是事实、虚构、推论还是观点）。
响应成本对准确度的提升具有不变性，因为它们取决于物理性的体力劳动。
判断成本可能会下降，但通常引发的是“遗漏”而非真正的减少，或者被非线性的 $V$ （输出量）增长所抵消。

因此，随着 AI 应用导致 $V$ 非线性扩张，乘积 $V \times L$ 会超过 $C_{max}$ 。这使得实质性的监督变成了名义上的程序，创造了一个“道德碎裂区”（moral crumple zone），即人类承担了责任，却失去了控制权。现有的解决方案（AI 验证、增加人类监督员或披露制度）均无法奏效，因为它们要么将判断委托给 AI（从而继承了幻觉风险），要么以线性方式消耗人类能力，而 AI 输出却在非线性增长。

2. 方法论与框架

理论精炼：从 $V$ 到 $V \times L$

本文超越了简单的输出计数（ $V$ ），转向使用复合指标——认知负荷（ $L$ ）。 $L$ 被分解为三个组成部分：

分拣（Triage）： 确定输出的语义类别。
判断（Judgment）： 在该类别内评估正确性。
响应（Response）： 基于判断采取机构行动。

作者认为，AI 能力的提升是在重构 $L$ ，而非减少 $L$ 。

流控（Flow-by-Flow）范式

提出的解决方案——流控（Flow-by-Flow），是一种在不评估内容的情况下控制监督负荷的治理机制。其运作原理是对大规模生产施加不对称成本，同时保持简洁性（Concision）的低廉成本。该设计依赖于四个设计不变性（Design Invariants）：

无实质性内容判断： 机制不得评估真伪、虚假或质量，以避免幻觉风险和 $V \times L$ 的上限问题。
不按比例消耗审查员能力： 机制不能消耗与提交量成正比的人类时间。
基于身份的单项申请摩擦： 成本必须附着于经过验证的身份和单个申请，以防止匿名的批量清除。
禁止批量清除： 任何单一凭证或行为都不能同时清除多个申请。

实现组件

认知成本得分（ $S$ ）：
- 对形式化的、可计数的特征进行自动测量（例如：权利要求书数量、字数、引文数量、文档长度）。
- 计算为归一化特征的加权几何乘积（ $S = \prod w_i \cdot f_i$ ）。
- 该得分对高容量或高复杂度的生产施加非线性成本，且无需语义分析。
机构能力上限：
- 对年度可处理的总认知负荷设定硬性限制，计算公式为： $N_{examiners} \times C_{max} \times \text{Annual Hours}$ 。
- 在上限内的提交根据得分进行自动处理。
超限路径（参考实现）：
- 对于超过上限的申请，提出了一个“物理等待路径”。
- 申请人必须前往指定办公室，验证身份，并等待一段与得分乘数成正比的时间（ $T \times k$ ）。
- 这将近乎零边际成本的数字成本转化为具身的物理时间与协调成本。
过程时间声明：
- 用对特定过程（如文献综述、起草）持续时间的声明，取代简单的“AI 使用披露”。
- 用于针对形式化特征（例如：在 3 小时内声称有 200 篇参考文献）进行一致性检查，而非用于判定是否超限。

玩具模型分析

本文采用“玩具模型”来模拟流限制下的申请人行为。模拟表明：

第一阶段（提交数量限制）： 在没有基于内容的评分时，申请人会通过增加单项的信息密度（更长的文本、更多的权利要求）来优化，导致即使 $V$ 被限制， $L$ 也会上升。
第二阶段（复合指标）： 使用多维得分（ $S = X \times Y \times Z$ ）创造了一个约束满足问题。优化一个维度（如减少字数）会增加其他维度（如密度）的负担，使得规避行为在计算上变得昂贵，并在结构上具有鲁棒性。

3. 核心贡献

重构监督约束： 本文确立了 AI 治理的瓶颈不仅在于输出的数量（ $V$ ），还在于每项输出的认知负荷（ $L$ ），并且由于通用型 AI 的本质， $L$ 本身具有抵抗通过提高准确度来降低的特性。
内容判断的规避： 提出了一种明确避免评估内容真实性的治理架构，从而避免了 AI 验证中固有的递归幻觉风险以及人类验证的能力上限。
四个设计不变性： 为高损失领域的任何流控制机制提供了形式化的必要条件，为机构设计提供了清单（无内容判断、不按比例消耗审查员能力、基于身份的摩擦、禁止批量清除）。
“最弱环节锁定”与 $B$ 变量： 引入了通用模型受限于其最脆弱领域的概念。定义了 $B$ 变量（物理空间约束），用以预测哪些领域会首先面临流限制压力（低 $B$ 领域如软件/专利的加速速度快于高 $B$ 领域如临床试验）。
参考实现： 提供了一个具体的、虽然困难的证明概念（物理等待路径），展示了如何共同满足这四个不变性。

4. 结果与分析

蒙特卡洛分析： 在 1,000 次参数抽样的模拟显示，复合多指标流控制在 90.8% 的试验中优于单纯的监督强化。这表明，通过形式化特征控制流入，在统计上比试图改进人类检查机制更为有效。
规避优化： 分析显示，虽然 AI 可以针对单一指标进行优化（古德哈特定律），但复合得分（ $S$ ）迫使申请人面对一个多维约束满足问题。虽然规避并非不可能，但规避的计算和经济成本会随着增加的维度而显著提高。
阈值结构： 系统创建了一个非线性阈值，其中具有中等特征的申请保留在标准路径中，而具有多个维度高复杂性的申请则被路由至超限路径，从而保留了“简洁性”的激励。

5. 重要性与主张

本文声称，流控（Flow-by-Flow） 为在高损失领域中维持实质性人类监督提供了一条可行路径。其重要性在于：

转移控制重心： 从“如何更好地判断内容”转向“如何限制进入人类环节的内容量与复杂度”。
机构现实主义： 承认人类认知能力（ $C_{max}$ ）是一个硬性的生物学极限，无法通过技术或培训来扩大，因此需要的是流限制而非能力扩张。
维护准入权利： 通过区分“提交权”与“立即处理权”，该框架认为，为了防止处理质量的崩溃，流控制对于保护合法申请人的利益是必要的。

作者明确承认了其参考实现（物理等待路径）在实践中的困难，包括对远程或残障申请人的可及性问题、与现有“立即受理”法律的兼容性问题，以及防止管辖权套利的国际协调需求。作者强调，其主要贡献在于推导出了四个设计不变性，而物理等待路径仅仅是其中一种可能的实现方式。文章结论指出，如果 AI 能力持续提升且人类使用规模持续扩大，那么流速率限制不仅是一个选项，更是高损失领域的结构性必然。