AI-Augmented Inquiry and Regulation in Hybrid Systems: A Control Allocation Architecture for Preserving Epistemic Agency in Hybrid Human-AI Cognition
本文介绍了 AIRIS 框架，这是一种多层级控制分配架构，通过定义七种去稳定机制和五种调节算子来应对生成式人工智能带来的元认知风险，旨在维护混合认知系统中人类的认识主体性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代书房静谧的嗡鸣声中，一名学生在电脑程序中输入了一个问题，并收到了一个结构完美的段落。文字流畅，逻辑似乎合理，任务也已完成。然而，当被要求解释该段落背后的推理过程时，学生却语塞了。这一场景捕捉到了我们在学习和使用人工智能时日益增长的紧张关系。几十年来，心理学家一直在研究人类如何管理自己的思维，这是一个被称为“自我调节”的过程，即学习者设定目标、监测理解程度并调整投入的精力。他们还研究了大脑如何处理信息，指出我们处理新想法的心理能量是有限的。当我们把生成式人工智能加入这个过程时，动态发生了变化。这些系统不仅存储事实，还能创造新内容、起草论点并解决问题。现在的核心问题不在于这些工具是否让我们变得更快，而在于它们是否让我们思考得不再深入。如果机器承担了推理的重任，人类的心智是否会停止构建理解世界所需的心理结构？
来自德国和美国各大学的研究团队提出了一个看待这一问题的新方法。他们将其框架称为 AIRIS，这是一个旨在确保人类思维在与人工智能协作时保持活跃且处于主导地位的结构。研究人员认为，危险不在于技术本身不好，而在于它太擅长让事情看起来轻而易举。当计算机瞬间生成一段复杂的解释时，人类的大脑往往会直接接受，而不去进行构建理解本身的艰苦工作。研究人员将此描述为“表现-元认知困境”（performance-metacognition dilemma）。“表现”指的是最终输出的质量，这通常会随着帮助而提高。而“元认知”是指对自身思维的察觉能力，以及判断自己是否真正理解材料的能力。研究表明，随着 AI 输出质量的提升，人类内在的参与度和独立推理能力可能会悄然下降。
为了理解为什么会发生这种情况，研究人员确定了人类与 AI 协作可能失衡的七种具体方式。首先，人类可能直接停止进行初步的规划或猜测，而是立即将任务交给机器。其次，构建新知识结构（这对深度学习至关重要）所需的心理努力可能会消退，因为机器提供了这种结构。第三，人类可能会变得过度自信，仅仅因为 AI 的解释流畅易读，就觉得自己理解了某个主题。第四，咨询机器的习惯可能会随时间改变，导致一个人在尝试自己思考答案之前，就先向计算机寻求帮助。第五，人类可能会接受 AI 的图表或文本，而从未尝试将其转化为自己的心理模型。第六，一种危险的情况可能会出现：人类的注意力与 AI 的准确性同时下降，导致工作质量突然崩塌。最后，由于机器提供了一条通往解决方案的无摩擦路径，人类可能会失去应对困难问题的动力，使独立思考的努力显得不再必要。
研究人员并不建议禁止使用这些工具或强迫人们在没有它们的情况下工作。相反，他们提出了五种特定的行动，或称之为“算子”（operators），可以用作恢复平衡的方法。这些行动旨在当系统检测到人类变得过于被动时触发。第一种行动是“预判”：在向 AI 求助之前，人类必须首先陈述自己的假设或目标。第二种是“质询”：人类不应只接受单一答案，而应要求 AI 对比不同的可能性或解释其推理过程。第三种是“反思”：在收到答案后，人类必须停顿下来，检查自己是否真正理解了它，以及它是否符合自己的知识。第四种是“整合”：人类必须将新信息与已知内容相联系，将其编织进现有的知识网络中。第五种是“综合”：人类必须将 AI 的输出转化为新的东西，例如用自己的语言重写，或将其应用于不同的情境。
其核心思想是，这五个步骤迫使人类大脑即使在使用强大的助手时，仍保持作为创作主要引擎的角色。研究人员强调，目标不是减少对 AI 的使用，而是确保人类始终是产生知识的发起者、监督者和责任承担者。他们认为，如果我们只是让 AI 来做工作，我们最终可能会得到高质量的结果，但人类却无法解释或捍卫这些结果。这在科学、法律和医学等领域尤为重要，因为在这些领域，能够证明决策的合理性与决策本身同样关键。该框架表明，通过设计需要这五个步骤的学习环境和工具，我们可以保留研究人员所称的“认识论主体性”（epistemic agency）。这是指成为自身理解的作者、了解自己所知、并掌控推理过程的能力。
该论文将其呈现为一个由许多不同研究证据支持的理论框架，而非证明一切的单一新实验。研究人员指出，多项研究显示，当人们在没有这些保障措施的情况下使用 AI 时，他们日后独立工作的能力往往会下降。他们认为，解决方案在于我们如何构建交互过程，而非技术本身。通过确保人类总是以自己的想法开始，质疑机器的输出，并在自己的脑海中重建知识，我们可以利用这些工具来增强我们的思考，而非取代它。研究人员总结道，人类与 AI 协作的未来取决于维持这种微妙的平衡，即机器处理常规事务，而人类保持对通往真正理解的深度生成性工作的掌控。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。