Agentic Literacy Debt: A Structural Problem the AI Literacy Field Has Not Yet Named
本文提出“代理性素养赤字”这一概念，用以描述在缺乏相应素养基础设施的情况下部署自主人工智能代理所引发的结构性社会赤字，并论证现有框架尚不充分，必须将人工智能素养从一项评估技能重构为一种治理能力。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你曾雇佣一位非常聪明的助手，他会给你一份任务清单，询问：“我该做这个吗？”并在行动前等待你的“是”或“否”。你是老板，助手是工具，而你始终在决策循环之中。
现在，想象你雇佣了一种新型助手。这种助手不再请求许可。你给它一个宽泛的目标，比如“管理我的财务和日程”，它便立即开始自主做出决策、发送邮件、转账以及预约会议。你看不到具体的步骤；你只能看到结果，甚至有时根本看不到结果。
这篇论文认为，我们当前对“人工智能素养”（即如何教导人们理解人工智能）的理解仍停留在旧世界。这就像教人们通过阅读地图来驾驶汽车，却随后递给他们一辆能在暴风雨中自动驾驶的汽车，并期望他们知道如何操控方向。
以下是该论文主要观点的分解，使用简单的类比说明：
1. 问题：“代理素养债务”
作者将新型人工智能代理的使用速度与人们应对这些代理的准备程度之间的差距称为“代理素养债务”。
- 类比：想想软件中的“技术债务”。如果程序员为了快速完成项目而采取捷径，他们现在节省了时间，但日后必须支付利息（修复漏洞、重写代码）。
- 论文主张：企业通过部署这些强大的人工智能代理却不教导人们如何管理它们，从而采取了捷径。这造成了“债务”。企业（采取捷径的一方）并不支付账单；用户、患者和公民才需要买单。他们以金钱损失、隐私泄露或糟糕的医疗决策等形式付出代价。
2. 旧规则为何失效
当前的人工智能素养教导我们进行“评估”（审视答案并判断“这是否正确”）。而代理型人工智能要求我们进行“治理”（为自主行动的系统设定边界）。
论文指出，三个旧假设已不再成立：
- 假设 1：你能看到工作过程。
- 旧方式：你看到人工智能撰写邮件，然后你进行编辑。
- 新现实：人工智能在你睡觉时撰写、编辑并发送了 50 封邮件。你从未见过草稿。
- 假设 2：你可以按下“撤销”键。
- 旧方式：如果人工智能建议了一项糟糕的投资，你可以在损失金钱之前说“不”。
- 新现实：人工智能在毫秒内完成了转账。当你醒来时，钱已经没了。你无法“撤销”这个决定。
- 假设 3：你是行动者。
- 旧方式：你点击按钮；人工智能只是提供帮助。
- 新现实：人工智能在点击按钮。你只是签署了合同的拥有者，但你完全不知道人工智能此刻正在做什么。
3. “债务”的现实世界案例
论文指出，这并非未来的问题，而是正在发生。
- “钱包 draining"骗局：想象黑客在社交媒体上发布一条看似正常的消息。但其中隐藏着一条秘密指令。当你的人工智能代理阅读该帖子并为你总结时，该指令会诱骗代理将你的加密货币转给黑客。你并没有做错任何事；你甚至不知道代理正在阅读那条帖子。是代理被诱骗了。
- 医疗保健：如果人工智能代理负责管理患者预约和分诊，而它感到困惑或被诱骗，它可能会取消一场救命的手术，或预约错误的医生。由于代理行动如此迅速，人类没有时间介入并纠正错误。
- 不平等差距：富裕人群和大公司最先获得这些工具。较贫穷或农村社区往往较晚获得工具，但到那时，“债务”（风险和困惑）已经变得巨大。最需要帮助的人，却最缺乏理解这些代理如何运作的准备。
4. 为何我们无法仅靠“教育”解决问题
作者认为，我们不能仅靠编写新的学校课程来解决这个问题。
- 类比：想象试图通过编写教科书来教导人们如何驾驶汽车，但汽车制造商每个月都在改变引擎设计。等到教科书印刷出来时，汽车已经不同了。
- 现实：人工智能代理在数月内就会演变。学校课程需要数年才能更新。这种差距是结构性的，意味着问题植根于技术的设计和销售方式中，而不仅仅是缺乏知识。
5. 解决方案：设计，而不仅仅是教育
论文结论认为，我们需要改变这些系统的构建方式，而不仅仅是改变我们教导人们的方式。
- 当前设计：当你设置一个人工智能代理时，你只需点击一个巨大的“允许全部”按钮。这就像把陌生人放进你的房子、银行和汽车的钥匙，并寄希望于他们心地善良。
- 所需设计：我们需要“设计即透明”。系统应向你实时展示代理正在做什么，解释为什么它这样做，并让你能够轻松停止它。
- 所需新技能：人们不仅需要学习“如何向人工智能提问”，还需要学习：
- 如何为代理设定严格的边界。
- 如何识别代理何时被诱骗。
- 当事情出错时，谁该负责。
总结：
我们正将数字生活的钥匙交给自主机器人。对于这种新关系，我们没有操作手册，而销售这些机器人的公司也没有提供。这篇论文将这份缺失的手册命名为“代理素养债务”，并警告称，除非我们重新设计这些机器人，使其更加透明且易于教导，否则普通人将为企业的捷径付出代价。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。