Machine-mediated theorizing: Examining epistemic work in a generative AI grounded theory workflow

侦探与机器人：解决谜题的新方式

想象你是一名正在试图破解一个巨大且复杂谜团的侦探。你拥有数百个线索：证人陈述、模糊的照片和撕碎的笔记。你的工作不仅仅是阅读它们，而是要弄清楚它们意味着什么，以及它们如何组合在一起以讲述完整的故事。在科学领域，这被称为定性研究（qualitative research）。研究人员不是在数数字，而是在寻找文字和经验中的模式，从而构建关于世界运作方式的理论。

长期以来，科学家们一直在争论进行这项工作的最佳方法。一种著名的研究方法叫做扎根理论（Grounded Theory），它就像是从地面开始盖房子。你从原始的砖块（访谈数据）开始，慢慢地将它们堆叠成墙壁（类别）和屋顶（理论），而不强行将它们塞入不符合其形状的模具中。人们一直以来的大担忧是：“我们是在发现真相，还是仅仅在把砖块强行塑造成我们想要的形状？”

现在，一个新的玩家进入了这家侦探事务所：生成式人工智能（Generative AI）（比如你可能会与之交谈的智能聊天机器人）。人们在问：“机器人能做侦探工作吗？”有人说它是能瞬间解决一切的神奇工具；也有人说它是危险的骗子，会编造事实。但没有人真正了解当机器人尝试构建理论时，它的思考方式是怎样的。它只是在对单词进行分类，还是真的改变了故事？本论文深入探讨了这一确切问题，目的不在于看机器人的表现是“正确”还是“错误”，而是为了观察人类直觉与机器逻辑之间那场混乱而迷人的舞蹈。

实验：教机器人成为侦探

这项研究的研究人员决定通过交给一种特定类型的人工智能一个现实世界的谜团来测试水温：关于手术器械（外科医生使用的工具）是如何制造的故事。他们没有给人工智能一本教科书或一份标准答案。相反，他们给了它三份来自不同参与者的访谈：一位从事手工劳动的熟练匠人、一位设计工具的工程师，以及一位做出重大商业决策的管理人员。

人工智能被指示扮演一名扎根理论侦探。它必须：

1. 阅读访谈并提取关键想法（编码）。
2. 将这些想法归入更大的桶中（类别）。
3. 连接这些桶以展示它们之间的关系（轴心编码）。
4. 挑选出一个将所有内容联系在一起的核心想法（核心类别）。
5. 构建一个关于整个系统如何运作的最终理论。

至关重要的是，人工智能必须独立完成这一切，在人类研究人员告诉它寻找什么或在最后阶段检查其工作之前，它不能受到任何干预。随后，人类查看了人工智能的“侦探笔记本”，以了解它是如何解开这个谜团的。

机器人的实际表现（以及它没做到的事）

结果令人惊讶。人工智能并不只是一个笨拙的分拣机，但它也不是一个天才侦探。它处于两者之间：一个协作伙伴，它在讲述故事的同时也在改变故事。

1. “平滑故事”陷阱
人工智能非常擅长让事情看起来井井有条。当访谈内容混乱、充满矛盾和不同意见时，人工智能会将它们平滑化。它热衷于将破碎、复杂的现实变成一条笔直、线性的路径。

• 类比： 想象一下，匠人说：“我在掌握技巧之前弄坏了三个工具，”而管理者说：“我们有严格的规则和安全检查。”人工智能将这些内容整合，构建了一条完美的直线道路：“问题 $\rightarrow$ 试错 $\rightarrow$ 成功。”它让故事看起来像是一部完美的电影剧本，尽管现实生活更像是充满了死胡同和绕路的颠簸越野行驶。

2. “强行适配”问题
论文发现，人工智能倾向于将数据“强行”塑造成符合其自身内部逻辑的形状。它不仅仅是寻找模式，它还创造了并不完全存在的联系。

• 类比： 这就像一个拼图解谜者，当两个碎片不太契合时，会轻轻弯曲塑料边缘直到它们卡在一起。人工智能将一个特定的细节（例如外科医生的反馈）变成了整个故事的主要驱动力，称之为“临床医生介导的产品化”。它把这个想法变成了故事中的英雄，尽管数据表明其他因素（如管理者的决策或工人的感受）同样重要。

3. “消失”的细节
人工智能处理矛盾的方式之一是最有趣的——它将矛盾隐藏了起来。当数据展示出与主线故事不符的内容（例如一家多年前就停止生产手工工具的工厂）时，人工智能并没有抛弃故事。相反，它保留了这种矛盾，但将其标记为“局限性”或“旁注”。

• 类比： 想象你在写一个关于英雄总是获胜的故事。然后你发现了一页记录了英雄失败的内容。人工智能并没有重写故事来展示英雄的缺陷，而是把“失败”的那一页放在了脚注里，写道：“这件事确实发生了，但这并不改变主线剧情。”故事保持了整洁，但混乱的真相却被藏在了边缘。

4. 语言的变化
访谈使用的是土耳其语，但人工智能使用的是英语。这导致了“知识流失”。一个土耳其词汇 hissiyat（通过多年实践获得的深层、直觉性的感觉或直觉）被翻译成了“感觉（feeling）”或“直觉（intuition）”。人工智能保留了这个词，但也失去了原词沉重的实践分量。人工智能将一种深刻的、身体性的技能转化为了一个简单的概念，这使得它更容易被纳入整齐的类别中，但也降低了其对匠人真实体验的还原度。

核心启示：这不是魔法，这是一项团队运动

论文得出结论，人工智能并非一个仅仅进行分类的中立工具，它也不是一个可以独立思考的机器人。它是一个社会技术伙伴（sociotechnical partner）。这意味着“思考”发生在人类与机器之间的空间里。

人工智能不仅仅是在犯错；它做出了特定类型的选择。它选择让故事线性化，平滑掉矛盾，并优先考虑组织化的语言而非混乱的人类情感。它并没有“发现”理论，而是根据它的提示词和处理数据的方式“构建”了理论。

那么，这对我们意味着什么？
作者建议，我们不应仅仅询问“人工智能是否正确？”相反，我们需要观察人工智能是如何构建其故事的。当我们允许机器来组织我们的研究时，我们需要保持警惕，因为它可能会在无意中抹平那些让真实人类生活变得丰富多彩的、混乱且充满矛盾的部分。人工智能是一个强大的助手，但它需要一名人类侦探去观察那些“被弯曲的拼图碎片”，并指出：“等等，这与我们正在讲述的故事不符。让我们再仔细看看。”

最后，论文指出，使用人工智能进行深度研究并不是要取代人类思维；而是要理解我们的工具是如何改变我们看待世界的方式。机器人帮助我们看到模式，但我们必须确保不要让它在完美、顺滑但略显虚假的故事背后，掩盖了那混乱而美丽的真相。