How Researchers Navigate Accountability, Transparency, and Trust When Using AI Tools in Early-Stage Research: A Think-Aloud Study
这项通过出声思维法（think-aloud study）开展的研究，通过调查研究人员在早期研究阶段使用大语言模型（LLM）时的实际行为，揭示了AI工具在问责制、透明度和信任度三个维度上带来的挑战，并探讨了研究人员如何通过补偿性策略来维护学术判断。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
核心故事：当“老厨师”遇上“智能炒菜机”
在过去，厨师（研究人员）做菜需要自己选材、切菜、调味、火候控制。每一步怎么做的，厨师心里清清楚楚，如果菜咸了，厨师知道是自己盐放多了（这就是责任归属）。
现在，出现了一种神奇的“智能炒菜机”（像 ChatGPT 或 Elicit 这样的 AI）。你只要告诉它：“我要做一道川菜”，它就能自动帮你切菜、炒菜，甚至直接端出一盘看起来非常完美的菜。
研究人员通过观察 15 位“老厨师”在使用这台机器时的表现，发现了三个巨大的“坑”：
1. 责任问题（Accountability）：这菜到底是谁做的？
- 比喻： 智能炒菜机非常“自信”。即使它把盐当成糖放了，它端出来的时候依然表现得像个顶级大厨，动作优雅，摆盘精美，让你觉得这菜绝对没问题。
- 现实中的问题： AI 生成的内容语气非常肯定，哪怕它在胡说八道（幻觉），听起来也像真理。这让研究人员很头疼：如果我用了这台机器，最后论文出错了，锅得我背，但我很难一眼看出机器在哪一步“偷工减料”或者“放错了料”。
2. 透明度问题（Transparency）：这菜里到底放了什么？
- 比喻： 炒菜机是一个“黑盒子”。你看到它在动，但你不知道它从哪个农场买的肉，也不知道它为什么决定加这么多辣椒。它给你的菜里，有些味道是它自己“合成”出来的，你根本找不到原材料的来源。
- 现实中的问题： AI 在总结文献时，有时候会把 A 论文的观点安在 B 论文头上（归因错误），或者把两篇论文的内容搅在一起变成一种“假信息”。研究人员无法追踪 AI 到底是从哪本书、哪一页读到的这些结论。
3. 信任问题（Trust）：我敢把命交给它吗？
- 比喻： 厨师对这台机器的感情很复杂。刚开始觉得它很快，但只要有一次它把鱼做焦了，厨师就会立刻产生怀疑：“它到底靠不靠谱？”这种信任非常脆弱，一旦出一次错，厨师就再也不敢让它碰核心食材了。
- 现实中的问题： 研究人员发现 AI 生成的东西往往“千篇一律”，虽然没错，但缺乏深度，像是在读“百科全书的摘要”而不是“深刻的思想”。所以，研究人员不敢完全信任它，只能把它当成一个“打杂的”。
研究人员是怎么“自救”的？（应对策略）
面对这些问题，这群“老厨师”并没有把机器扔掉，而是发明了一套**“防坑指南”**：
- “只让它打杂”： 他们不会让 AI 去决定“这道菜的核心灵魂是什么”（比如提出科学假设），而是让 AI 去做些琐碎的事，比如“帮我把这些菜洗一下”、“帮我整理一下菜单”（比如整理文献格式、做简单的摘要）。
- “反复试毒”： 只要 AI 给出一个结论，研究人员就会立刻翻开原著，像“验货”一样一个字一个字地去核对。这虽然很累，但为了保证科学的严谨，他们不得不这么做。
- “小步快跑，慢慢试探”： 他们不会一开始就让 AI 处理大事，而是先让它处理一些“丢了也不心疼”的小任务，通过观察 AI 的表现，一点点建立起那份小心翼翼的信任。
总结：这篇文章想告诉我们什么？
这篇文章并不是在反对 AI，而是在提醒大家：AI 虽然能让科研“加速”，但它目前还只是一个“看起来很厉害的助手”，而不是“可以托付灵魂的导师”。
如果我们要让 AI 真正进入科学殿堂，我们不能只追求它“跑得快”，更要让它变得“透明”（告诉我们它是怎么想的）、“负责”（出错了能追溯）并且“有深度”（不只是简单的信息搬运）。
一句话总结：在科学研究中，AI 可以帮你切菜，但决定味道和承担后果的，永远应该是那个拿着锅铲的人。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。