"I didn't Make the Micro Decisions": Measuring, Inducing, and Exposing Goal-Level AI Contributions in Collaboration
本文介绍了 CoTrace，这是一个目标级归因框架，它揭示了大语言模型在人与人工智能协作中如何显著影响具体需求的细化与整体目标的塑造，并证明揭示这些细粒度的贡献有助于用户纠正其对人工智能在自身工作中所起作用的系统性误判。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用简单语言和创意类比对论文《我没有做微观决策》的解释。
核心问题：“代笔人”效应
想象你和一位朋友一起建造一栋房子。
- 情景 A：你绘制蓝图，决定厨房的位置，挑选油漆颜色。你的朋友只是拿起锤子，把木头钉好。
- 情景 B：你说：“我们建栋房子吧。”然后你的朋友建议风格，决定厨房需要天窗，挑选油漆，甚至挑选木材类型。你只是点头说“好的”，而他们负责敲钉子。
在这两种情况下，看着建好的房子，你可能会说：“这是我们建的。”但在情景 B 中，尽管你负责了体力劳动，你的朋友却几乎承担了所有关于房子“应该是什么样”的“思考”工作。
该论文指出，当前的人工智能工具就像情景 B。它们通常负责“思考”（决定目标和细节），而人类负责“打字”（执行）。但由于我们只关注最终的文本或代码，我们无法区分这两种情景。我们不知道究竟是谁设计了这栋房子。
解决方案：COTRACE（“施工日志”）
研究人员开发了一种名为 COTRACE 的工具。不要把它想象成拍摄完工房子的相机，而要把它想象成记录整个建造过程的智能施工日志。
COTRACE 不仅仅是查看最终的论文或代码，而是将对话分解为微小的步骤：
- 目标：我们要建造什么？（例如：“一份纽约市的旅行计划”）。
- 要求：具体的规则是什么？（例如：“午饭后必须包含一个休息站”）。
- 影响：是谁提出了这条规则？是人类说的？是 AI 建议的？还是 AI 提出了一个问题，促使人类意识到需要这条规则？
COTRACE 追踪谁负责“塑造”（制定规则），谁负责“执行”（开展工作）。
他们的发现
1. 人类设定方向，但 AI 填补空白。
在大多数对话中，人类是“建筑师”，说：“我们去纽约吧。”但 AI 是“室内设计师”，说：“实际上，如果我们去纽约，考虑到那是个大城市，我们可能应该在午饭后加一个休息站。”
研究发现，虽然人类决定大局，但 AI 在发明那些人类经常忘记提及的微小、具体细节（即“微观决策”）方面，表现得令人惊讶地出色。
2. AI 播下种子。
有时 AI 不会明确地说：“加一个休息站。”相反，它可能会说：“纽约市有很多下午的活动。”人类听到后会想：“哦，听起来要走很多路；我应该加一个休息站。”
COTRACE 将这种现象称为间接影响。AI 播下了种子，人类种出了花。如果没有 COTRACE，人类会认为：“我想出了休息站的主意”，但论文显示，实际上是 AI 将他们引导到了这个想法上。
3. 我们可以训练 AI 变得更有或更少“专横”。
研究人员测试了与 AI 对话的不同方式。
- 如果你告诉 AI“按你认为最好的方式去做”，它就会接管更多的规划工作。
- 如果你强制 AI 在行动前先向你提问，它就会更多地保持在“助手”的角色。
这意味着我们可以根据需求，设计更具或更少主动性的 AI 系统。
4. 人类不擅长猜测谁做了什么。
研究人员向刚刚与 AI 合作完成工作的人们展示了他们的工具。
- 看到工具之前：人们认为：“我完成了 80% 的规划，AI 完成了 20%。”
- 看到工具之后：人们意识到：“等等，实际上大多数具体细节都是 AI 建议的！我只负责了大局。”
该工具让人们意识到，他们对自己所依赖的 AI 程度远超想象，从而改变了他们对谁完成了工作的认知。
为什么这很重要
该论文得出结论，我们需要一种更好的方式来给予认可。如果学生用 AI 写论文，或者律师用 AI 起草合同，我们需要知道：
- 是人类想出了那个精彩的论点？
- 还是 AI 提出了论点，而人类只是把它打了出来？
COTRACE 提供了一种衡量这种“目标层面”贡献的方法。它帮助我们理解，协作不仅仅是关于谁敲下了最后的文字，更在于是谁首先决定了这些文字应该说什么。
简而言之：该论文提出了一种方法，可以看见 AI 在对话过程中所做的不可见的“思考”工作，证明即使当我们认为自己只是在“做”的时候，AI 往往也在塑造我们工作的“内容”和“方式”。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。