💻 计算机科学

Does Human Oversight of AI-Assisted Decisions Work? A Systematic Review of the Evidence and a Framework for Meaningful Human Control

这项针对186项研究的系统性综述表明,尽管人类监督被广泛要求作为人工智能辅助决策的保障措施,但目前的证据在很大程度上是规范性和关联性的而非因果性的,这促使作者提出了一个包含可衡量组件和可测试命题的新框架,以确定此类监督是否确实提高了决策质量。

Abid Iqbal, Saiqa Ameen, Jamil Channa, Imran Maqbool Thebo2026-10-22
💻 计算机科学

GRIDGUARD-AI: Scenario-Held-Out Cyberattack Detection with Explainable Assurance and Bounded Agentic Investigation

本文介绍了 GRIDGUARD-AI,这是一个可解释的、人机协同的智能体框架,它将机器学习与确定性风险升级相结合,用于检测智能电网中未见的网络攻击,通过严格的场景留置评估展示了极高的安全性保障,同时也强调了当前在部署前进行广泛人工审查的必要性。

Stephen Kamran, Farah Saman2026-10-22
💻 计算机科学

The Reliability Gap: Repeated-Trial Consistency and the Deployable Autonomy Horizon of Frontier AI Agents

本文通过分析前沿人工智能智能体(AI agent)的性能数据,揭示了一个显著的“可靠性差距”,即智能体能够持续完成的任务时长大约仅为其平均能力水平的 2.4 倍,这主要是因为失败在特定任务内具有强相关性而非随机发生,从而表明必须将评估指标从平均成功率转向面向安全部署的可靠性调整后水平。

Alfredo Merlet2026-10-22