From Agent Labels to Accountable Deployment: Evidence Maturity and Meaningful Human Oversight for Agentic AI in Higher Education

高等教育正处于一个宁静但意义重大的转折点。多年来，教室中的人工智能一直像是一位速度极快、知识渊博的图书管理员。学生提出一个问题，系统提供一个答案。如果答案是错误的，学生只需再次提问或检查另一个来源即可。其风险仅限于一瞬间的困惑。然而，新一代软件正在兴起，它们不仅仅是在“交谈”。这些通常被称为“智能体”（agentic）人工智能的系统能够“做事”。它们可以将一个宏大的目标分解为若干个较小的步骤，选择使用哪些工具，从不同渠道收集信息，然后无需人类持续指导即可执行计划。想象一下这样一个系统：它不仅能为学生撰写论文，还能起草论文、核查来源、将其提交至评分门户网站，然后向教授发送一份关于所做工作的总结邮件。这种从“回答问题”到“采取行动”的转变，改变了风险的本质。当一个系统只能说话时，错误仅仅是一个错误的句子；当一个系统开始行动时，一个错误可能会改变学生的记录、泄露私人数据，或引发一场难以挽回的连锁反应。

当今大学面临的问题不是这些强大的工具是否有效，而是我们是否掌握了足够的知识，来允许它们自主运行。南乌拉尔州立大学的研究员阿布舍克·德伊（Abhishek Dey）的一项最新批判性综述研究了这项技术在高等教育中的现状。该研究并非孤立地看待这项技术，而是提出了一个艰难的伦理问题：在我们将这些系统的“钥匙”交给它们处理重要决策之前，我们是否有足够的证据证明它们是安全、公平且有益的？该综述通过梳理数十项现有的研究和报告，旨在查明证据究竟支持什么，以及差距仍存在于何处。研究结果表明，虽然这些系统可以改进特定的、微小的任务，但目前的证据尚不足以支撑让它们对学生的未来做出重大决策。

该综述首先明确了什么是“智能体”。并非所有的聊天机器人或自动化工具都符合这一描述。要被视为真正的智能体，系统必须能够规划一系列行动、记住对话中的上下文、使用外部工具并检查自身的工作。该领域许多研究将这些先进系统与仅生成文本的简单系统混为一谈。这种混淆导致了作者所称的“标签通胀”（label inflation）——即任何自动化工具都被描述为智能体；以及“结果通胀”（outcome inflation）——即将系统在外观或语感上的微小改进误认为是在学习效果上的实质性提升。综述发现，相关文献充斥着这些宽泛的说法，但证据往往是脆弱的。最强有力的证据在于这些系统如何产出特定的“人工制品”（artifacts），例如针对学生写作的一段反馈。然而，当观察学生是否真的学到了更多知识、系统是否公平对待每个人，或者是否能从长远来看减轻教师的工作量时，证据就会变得薄弱得多。

其中一个最引人注目的发现是，最具前景的研究往往是短期、单点实验，无法说明全貌。例如，一项研究测试了一个为初中科学学生提供反馈的系统。该系统利用两个不同的智能体互相检查对方的工作，显著减少了给出过度赞扬或捏造事实的情况。这是一个明确的技术成功。然而，该研究并未显示学生是否因为这些反馈而学到了更多的科学知识，也未显示教师在需要核实智能体工作后是否节省了时间。另一项研究观察了一个用于大学招生办公室、回答申请人问题的系统。该系统快速准确地回答了数千个问题，错误极少。但这是一个为期两周的试验。它并未展示该系统在处理整个学期的招生工作时表现如何，是否会影响录取过程的公平性，或者是否会改变管理该流程的人员的工作量。综述结论指出，尽管这些系统在技术上令人印象深刻，但我们仍处于理解其现实世界影响的早期阶段。

该综述还强调了我们在管理这些系统方面的关键差距。许多报告都在谈论“人类监督”，暗示有一位教师或管理人员在观察系统。但综述认为，仅仅有人在场并不等同于拥有有效的控制。真正的监督意味着人类能够看清系统正在做什么，能够在出错时停止它，并在其行为出错时撤销其行动。在许多现有设置中，人类只是一个“橡皮图章”，在无法理解系统达成目标所经历的复杂步骤的情况下，仅仅是批准输出结果。这是危险的，因为如果系统做出了错误的决定，负责人可能缺乏修复问题的工具。综述指出，如果没有强大的、经过测试的监督机制，我们从伦理上讲，不能让这些系统做出影响人类生活的决策，例如评定考试成绩或决定谁能进入某个项目。

为了解决系统能力与我们认知之间的这种错位，作者提出了一个名为“自主性-监督-证据”（Autonomy-Oversight-Evidence）的新框架。该框架建议，我们赋予人工智能的自由程度，绝不应超过其安全性证明的强度，也不应超过我们对其人类控制的强度。该框架将自主性分为多个等级，从一个仅能根据提示编写句子的系统，到能够对学生未来做出重大决策的系统。它还将证据分为不同等级，从简单的计算机测试到跨多所学校的长期现实世界试验。规则很简单：除非你拥有高水平的证据和高水平的人类控制，否则不能给予系统高水平的自由。如果证据是脆弱的，或者人类监督仅仅是一种形式，那么系统的权限必须保持在狭窄且可逆的范围内。

这些发现对于大学如何前进具有重要意义。该综述并不是主张禁止这些系统，而是主张采取一种谨慎、有度的方法。大学不应假设一个在实验室表现良好的系统在真实的课堂中也会表现良好。它们需要针对自己的特定环境测试这些工具，仔细观察谁从中受益，以及谁可能受到伤害。它们需要确保教师和工作人员有权停止系统，并且学生有途径对机器做出的决定提出质疑。综述强调，举证责任在于机构本身。在将任何真正的权力移交给人工智能代理之前，学校必须证明自己拥有支持此举的证据以及管理此事的手段。

最终，这篇论文是对清晰度和责任感的呼吁。技术正在快速演进，从仅仅回答问题的工具进化为能够采取行动的系统。但关于其安全性和公平性的证据却未能跟上步伐。综述发现，虽然这些智能体可以改进某些任务，但我们尚未准备好信任它们来处理关乎学生教育的大事。前进的道路不是停止创新，而是放慢脚步，建立必要的保障机制。通过将系统的力量与证据的强度以及人类控制的质量相匹配，大学可以确保这些强大的工具在服务学生的同时，不会损害公平、问责和学习的价值观。目标不是阻挡未来，而是确保当未来到来时，它是建立在真相与信任的基础之上的。