Automated Coding of Communication Data Using ChatGPT: Consistency Across Subgroups

该研究通过引入三项子群一致性检验，证实了 ChatGPT 在基于性别和种族/民族群体的协作沟通数据编码中，其表现与人类评分者保持一致，从而验证了其在大规模协作评估中的应用潜力。

要点

这篇文章就像是在探讨一个**“超级智能助手”（ChatGPT）能不能公平地给不同人群“打分”**的问题。

想象一下，你正在组织一场大型的比赛，比赛内容是看大家如何团队合作。为了评判谁表现得好，你需要把大家聊天说的话（比如“我想出这个主意”、“我同意你的看法”）分类记录下来。

1. 过去的难题：人工记账太累了

以前，这项工作全靠真人评委来做。

• 比喻：就像让一群老师去读几千本学生的日记，把每一句话都贴上标签（比如“这是分享信息”、“这是吵架”）。
• 问题：这太累了，太慢了，而且花钱太多。如果要把这个比赛推广到全国，光靠老师根本忙不过来。

2. 新的尝试：请 AI 来帮忙

现在有了 ChatGPT 这样的超级 AI。

• 比喻：我们给 AI 一本“评分手册”（就像给老师发的培训教材），告诉它：“看到这句话就贴‘分享信息’的标签，看到那句话就贴‘吵架’的标签。”
• 现状：研究发现，AI 做得确实很快，而且准确率跟真人老师差不多。

3. 核心担忧：AI 会不会有“偏见”？

虽然 AI 很聪明，但大家担心它会不会**“偏心”**。

• 比喻：AI 是在互联网上“吃”了海量数据长大的。大家担心它会不会因为读到的书里，某种性别（比如男生）或某种种族（比如白人）的话更多，就更擅长理解他们，而误解了女生或少数族裔的话？
• 后果：如果 AI 对男生更“宽容”，对女生更“苛刻”，那这个比赛就不公平了。

4. 这篇文章做了什么？（三个“公平性检查”）

作者为了搞清楚这个问题，设计了三个**“体检项目”**，专门检查 AI 在不同人群面前是否“一视同仁”：

• 检查一：AI 和真人老师“步调一致”吗？

  • 比喻：让 AI 和真人老师同时给同一段聊天打分。看看他们在给男生打分时，意见是否一致？在给女生打分时，意见是否也一致？
  • 结果：大部分情况下，AI 和真人老师就像双胞胎，无论面对男生还是女生，他们的看法都很同步。

• 检查二：AI 的“发挥稳不稳”？

  • 比喻：就像看运动员的稳定性。AI 给男生打分时，是不是忽高忽低？给女生打分时，是不是也很稳定？
  • 结果：AI 的发挥很稳，不会因为对方是男生或女生，就突然变得“神神叨叨”或“乱判”。

• 检查三：AI 和“第二位老师”的关系，和“两位老师之间”的关系一样吗？

  • 比喻：如果让两个真人老师互相打分，他们的一致性是怎样的？如果让 AI 和第二个真人老师打分，这种一致性在不同人群中有变化吗？
  • 结果：AI 的表现和真人老师之间的表现差不多，没有发现明显的“区别对待”。

5. 发现了一个小插曲（关于“黑人参与者”和“谈判任务”）

在其中一个叫“谈判”的任务中，数据看起来有点奇怪：AI 和真人老师对白人的聊天内容一致性特别高，而对黑人的一致性看起来低了一些。

• 真相：作者发现，这不是因为 AI 对黑人“有偏见”或“看不懂”。
• 原因：是因为 AI 对白人的聊天内容理解得太好了（好得甚至超过了真人老师之间的默契），把基准线拉得太高，显得黑人组的数据“变低”了。这就像是一个学霸（AI）在白人组里考了 100 分，而在黑人组考了 90 分，看起来差距很大，但其实 90 分也是很高的分数，只是白人组太“卷”了。

6. 结论与提醒

• 好消息：ChatGPT 在理解不同性别和种族的聊天内容时，确实能做到公平和一致。它有能力成为大规模评估团队合作的得力助手。
• 坏消息/提醒：
  1. 它不是完美的：现在的 AI 还不能完全取代人类老师，最好还是作为**“助手”**，让人类老师做最后的把关。
  2. 任务越难越要小心：在简单的任务里它表现很好，但在特别复杂、充满“潜台词”的谈判中，可能还需要更多研究。
  3. 未来会变：AI 技术更新太快，今天的结论可能明天就需要重新验证。

一句话总结：
这项研究告诉我们，ChatGPT 这个“超级助教”在批改不同背景学生的“合作作业”时，目前看来是公平的，没有明显的歧视。这让我们更有信心在未来大规模使用 AI 来评估人们的沟通和合作能力，但同时也提醒我们要保持警惕，不能盲目完全依赖它。

技术摘要

这是一份关于《使用 ChatGPT 自动编码通信数据：跨子群体的一致性》（Automated Coding of Communication Data Using ChatGPT: Consistency Across Subgroups）的技术总结。该研究由 ETS 研究机构的 Hao 等人完成，旨在评估大语言模型（LLM）在自动化编码协作任务中的通信数据时，是否存在跨人口统计学子群体（如性别、种族/民族）的偏差。

1. 研究背景与问题 (Problem)

• 背景：大规模评估沟通与协作技能通常需要将大量的通信数据（如聊天记录）根据预定义的框架进行人工编码。传统的人工编码耗时、昂贵且难以扩展。虽然基于 NLP 的自动化编码系统有所发展，但仍需大量人工标注数据进行训练。
• 现状：ChatGPT 等生成式 AI 已被证明可以直接根据编码规则对通信数据进行编码，且准确率可与人类评分员媲美（Hao et al., 2024）。
• 核心问题：尽管准确率已得到验证，但 ChatGPT 的编码表现在不同人口统计学子群体（性别、种族/民族）之间是否具有一致性（Consistency）尚不清楚。由于 LLM 是在大规模网络语料上训练的，可能会无意中复制或放大社会偏见。
• 研究缺口：现有的自动化评分公平性框架（如 Williamson et al., 2012）主要针对连续或序数分数（如作文评分），而通信数据的编码通常是名义类别（Nominal Categories），且分析单元是**对话轮次（Turns）**而非个人，存在嵌套结构（多人多轮次）。因此，直接套用现有框架并不适用，需要新的评估方法。

2. 方法论 (Methodology)

2.1 数据集

• 来源：来自三个不同类型的协作任务（基于 Kyllonen et al., 2023 的框架）：
  1. 谈判任务 (Negotiation)：四人团队协商筹款活动，涉及利益分配。
  2. 决策任务 (Decision-Making)：四人团队根据部分信息选择最佳公寓。
  3. 字母转数字任务 (Letter-to-Number)：四人团队推理字母与数字的映射关系。
• 样本：通过 Prolific 平台收集，共 8,479 条对话轮次，431 名参与者。
• 子群体：分析限定为明确标识性别（男/女）和种族/民族（白人、黑人、西班牙裔/拉丁裔、亚裔）的参与者。

2.2 编码框架

• 使用 Kyllonen et al. (2023) 开发的协作问题解决（CPS）框架，包含 5 个类别：
  1. 维持沟通 (Maintaining communication)
  2. 专注任务 (Staying on task)
  3. 获取信息 (Eliciting information)
  4. 分享信息 (Sharing information)
  5. 确认/回应 (Acknowledging)
• 人工编码：由两名经过培训的人类评分员（其中一名为专家）独立编码，专家编码作为基准。

2.3 模型与提示工程

• 模型：OpenAI GPT-4o (2024-05-13 版本)。
• 设置：Temperature 设为 0 以最大化确定性，固定随机种子。
• 提示设计：包含任务目标、编码框架定义、每类约 10 个代表性示例、输入输出格式规范。

2.4 统计分析策略 (三个一致性检查)

研究提出了三个检查点，改编自 Williamson et al. (2012) 的框架，以适应名义数据和嵌套结构：

1. RQ1：编码一致性 (Agreement Consistency)

   • 方法：广义线性混合效应模型 (GLMM)。
   • 因变量：AI 与人类编码是否一致（0/1）。
   • 固定效应：人口统计变量（性别/种族）、任务类型、及其交互项。
   • 随机效应：个人和团队的随机截距（处理数据嵌套结构）。
   • 目的：检验 AI 与人类的一致性是否因子群体而异。

2. RQ2：信度差异 (Reliability Differences)

   • 方法：计算 Cohen's Kappa 系数。
   • 比较：分别计算“人类-AI"和“人类 - 人类”在不同子群体中的 Kappa 值，并进行比较。
   • 目的：检验 AI 编码的信度在不同子群体间是否存在显著差异。

3. RQ3：次级评分员模式 (Secondary Rater Pattern)

   • 方法：类似于 RQ1 的 GLMM 分析。
   • 因变量：AI 与第二名人类评分员的一致性，以及第一名人类评分员与第二名人类评分员的一致性。
   • 目的：检验 AI 编码与次级人类评分员的关系模式，是否与人类评分员之间的关系模式在子群体间具有可比性。

3. 关键贡献 (Key Contributions)

1. 提出了针对 LLM 通信编码的子群体一致性评估框架：将传统的自动化评分公平性框架（针对序数分数）成功转化为适用于名义类别编码和嵌套对话数据的三个具体检查指标。
2. 实证验证了 GPT-4o 的跨群体一致性：在性别和种族/民族维度上，提供了 ChatGPT 编码表现与人类评分员表现一致性的实证证据。
3. 揭示了“基准效应”而非“偏见”：在谈判任务中观察到的种族差异并非源于 AI 对少数族裔的编码偏差，而是源于白人组（参考组）的 AI-人类一致性异常高（甚至高于人类 - 人类一致性），从而在统计上造成了差异假象。
4. 任务类型的普适性：验证了该方法在三种不同认知需求和交互风格的协作任务中均有效。

4. 研究结果 (Results)

• RQ1 (一致性)：
  • 性别：在整体任务和特定任务层面，性别对 AI-人类编码一致性的影响均不显著（p > .05）。
  • 种族：在整体层面未发现种族差异。但在谈判任务中，黑人参与者的 AI-人类一致性显著低于白人参考组（β = -0.748, p = .018）。
  • 深入分析：进一步检查发现，这种差异并非因为黑人数据编码不准，而是因为白人组在谈判任务中 AI-人类一致性极高（甚至超过了人类 - 人类一致性），拉高了基准线。当对比人类 - 人类一致性时，黑人组在谈判任务中的表现与人类 - 人类的一致性水平相当。
• RQ2 (信度)：
  • 通过 Cohen's Kappa 分析，AI-人类编码的信度在不同性别和种族/民族组之间总体一致。
  • 尽管不同任务间（如谈判任务信度较低）存在波动，但这种波动在子群体间是均匀的，未发现系统性的子群体信度差异。
• RQ3 (次级评分员模式)：
  • AI 编码与次级人类评分员的一致性模式，与两名人类评分员之间的一致性模式在子群体间没有显著差异。这表明 AI 的编码逻辑在不同子群体中与人类评分员的逻辑是同步的。

5. 意义与局限性 (Significance & Limitations)

意义

• 大规模评估的可行性：研究结果表明，ChatGPT 可以作为大规模协作与沟通技能评估中人类编码的可靠替代或补充，且不会引入系统性的子群体偏差。
• 方法论创新：提出的三个检查点为未来验证和认证 LLM 编码系统提供了标准化的评估基础，有助于社区建立共识。
• 公平性视角的澄清：研究区分了“评分公平性”（Psychometric Fairness）与“编码一致性”，指出在编码层面的一致性是实现最终分数公平的必要条件，但非充分条件。

局限性与未来方向

• 模型版本依赖：结果基于 GPT-4o，随着 LLM 快速迭代，未来模型的表现和偏差情况可能变化。
• 框架复杂度：当前使用的框架相对典型但非极度复杂，更复杂的编码框架可能需要进一步基准测试。
• 样本量：虽然样本量对于初步研究足够，但某些子群体（如特定种族的特定任务）样本较小，可能影响统计效力。
• 聚合效应：单个对话轮次的编码一致性并不保证聚合后的总分（Composite Scores）也公平，未来的研究需在分数层面继续验证公平性。
• 定位：目前 AI 应被视为人类编码的补充而非完全替代，特别是在建立新的专业标准之前。

总结：该论文通过严谨的统计设计，证明了 ChatGPT 在编码协作对话数据时，在性别和种族维度上表现出与人类评分员相当的一致性，为 AI 在大规模教育评估中的应用提供了重要的公平性证据。