🤖 AI

A Framework for Using and Evaluating LLMs as Surrogate Experts in Security Surveys: Reliability, Bias, and Implications

本文提出了一个框架，证明了虽然大语言模型能够为安全调查生成一致的合成响应，但它们表现出的系统性偏差和同质化特征，使其仅适用于试点研究和假设生成，而不足以取代实际的专家访谈。

原作者： Despoina Giarimpampa, Roland Meier, Tegawendé F. Bissyandé, Vincent Lenders, Jacques Klein

发布于 2026-08-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Despoina Giarimpampa, Roland Meier, Tegawendé F. Bissyandé, Vincent Lenders, Jacques Klein

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在网络安全这个高风险的世界中，了解人类专家如何思考至关重要。当安全漏洞发生时，安全运营中心（SOC）分析师所做的决策可以决定威胁是被遏制还是在网络中蔓延。为了理解这些决策过程，研究人员通常依赖于对这些专业人士的调查和访谈。然而，寻找足够的专家来回答这些调查是出了名的困难。这些专家往往工作过度，应对着不断的警报和职业倦怠的威胁，而且许多人受限于严格的保密规则，无法分享有关其日常工作的细节。因此，研究往往面临样本量过小的问题，导致研究人员无法获得完整的行业图景。

最近，一种新的工具出现了，它有望解决这种短缺：大语言模型。这些是经过大量人类文本训练的高级计算机程序，能够生成听起来非常像真人的文本。一些研究人员开始怀疑，这些人工智能是否可以作为真实专家的替代品，通过生成数千个合成响应来填补调查数据的空白。这个想法很有吸引力：如果一台计算机可以模仿专家，它就可以让科学家测试他们的问题、探索不同的场景，并在不需要追踪忙碌的人类的情况下收集数据。但一个关键问题仍然存在：机器真的能像安全专业人员一样思考吗？还是它仅仅是在制造一个令人信服的模仿，却错失了真实人类经验中的细微差别？

一个研究小组致力于回答这个问题，他们建立了一个严谨的框架，以测试这些人工模型是否可以作为安全调查中人类专家的可靠替代品。他们不仅仅是问模型几个问题看看会发生什么；相反，他们设计了一个全面的实验，以观察这些计算机生成的答案在受到审查时是否站得住脚。研究人员从医疗保健到金融等不同领域的六名网络安全专业人员那里收集了真实的调查数据。这些专家的经验水平各异，职位也不同，包括经理、分析师和专家。随后，研究人员要求六个不同的语言模型模拟这些特定的专家，创建与真实人物背景和职称相匹配的数字人格。

该实验通过三种不同的方式进行，以从各个角度测试模型。首先，研究人员要求模型扮演个体专家，试图复制真实人类的具体观点。其次，他们要求模型生成整个群体的总体模式，模拟大规模调查的聚合结果。最后，他们测试了模型随时间的变化，要求模型预测专家观点在现实世界数据中数年间的转变情况。在整个过程中，研究人员多次运行每次模拟，以观察模型在重复提问时是否给出相同的答案，从而检查一致性和稳定性。

结果显示，人工模拟与人类现实之间存在明显的差距。虽然大语言模型在自身内部表现出极高的一致性——即在多次被问及同一问题时经常给出相同的答案——但它们未能捕捉到人类思想的真正多样性。真正的安全专家表现出广泛的观点范围；有些人对自己的选择充满信心，而另一些人则犹豫不忡，且他们的答案会根据其特定经验和工作场所的独特压力而变化。相比之下，模型倾向于收敛到一个单一的、安全的、中间地带的答案。它们抹平了人类专家之间自然的争论和不确定性，产生的响应过于统一且过于礼貌。

当研究人员将模型的答案分布与真实数据进行比较时，模型似乎掌握了数据的总体轮廓，但却丢失了细节。它们倾向于避免极端或罕见的观点，将响应聚集在平均值周围。这种“趋中倾向”意味着，虽然模型可以生成看似合理的调查结果，但它们实际上抹去了使人类专业知识具有价值的那些变异性。例如，在讨论采用新工具的挑战时，真实的专家强调了具体的、棘手的操作障碍，而模型则提供了通用的、教科书式的困难，缺乏实际实践中的质感。

研究还考察了这些模型是否能够追踪行业随时间的变化。研究人员发现，模型在很大程度上对时间是不敏感的。即使被要求模拟不同年份的响应，模型也会产生静态的模式，无法反映网络安全威胁和实践的演变本质。这表明模型并不是在以人类专家的方式学习或适应新信息；相反，它们是在回忆一套固定的概念，这些概念并不会随时代而变化。这种缺乏时间意识的特点意味着，它们无法被信任去预测专家观点可能如何变化，也无法准确反映历史趋势。

最终，研究人员得出结论：虽然这些大语言模型是强大的工具，但它们尚未准备好取代安全研究中的人类专家。模型非常适合研究的早期阶段，例如帮助研究人员起草调查问题、测试问题的清晰度，或生成用于探索假设场景的内容。它们可以作为想法的有用讨论平台。然而，它们绝不应被用来取代实际的专家意见收集。人类判断那种独特的、多变的、有时甚至是矛盾的性质，是算法无法合成的。为了了解网络安全的真实世界，研究人员仍必须依赖于那些生活并工作在其中的人类所提供的混乱、复杂且无价的洞见。这项研究提供了一个重要的指南，确保在领域拥抱新技术的同时，不会忽视作为安全基础的人类专业知识。

技术摘要：将大语言模型（LLM）作为安全调查中替代专家的使用与评估框架

1. 问题陈述

安全研究，特别是针对安全运营中心（SOC）的研究，高度依赖于通过调查和访谈进行专家启发，以了解从业者的工作流、决策过程和组织成熟度。然而，由于工作量巨大、职业倦怠、人员短缺以及保密限制，招募领域专家变得日益困难。这些挑战通常导致样本量较小、响应率较低（在线调查平均约为 44%）以及洞察力脆弱。

虽然大语言模型（LLM）为大规模生成合成响应提供了潜在的解决方案，但目前仍缺乏关于其作为替代参与者可靠性的方法论指导。现有研究表明存在风险，包括幻觉、过度认同以及对真实分歧的平滑处理。此外，现有的评估往往缺乏与领域专家的严格对比，未能评估运行间的稳定性，也未考虑时间泛化性。本文旨在解决的核心问题是：确定合成受访者能否准确代表人类在网络安全调查中的观点，或者它们是否会引入损害研究有效性的系统性偏差。

2. 方法论

作者提出了一个用于评估 LLM 作为替代参与者的通用且可复现的方法论框架。该框架通过三个不同的实验设置进行实例化，以评估不同的调查模拟模式：

评估框架

该框架由四个核心组件组成：

调查表示： 将问题编码为分类、多项选择或 Likert 量表项，并采用标准化格式。
提示词框架与角色设定： 提示词定义任务和响应格式，包括角色元数据（如角色、行业），但严格排除示例答案（零样本独立性），以揭示内在的归纳偏差。
采样策略： 为了应对随机性，每个设置在相同条件下将被查询十次。这允许对稳定性、离散度和运行间的变异性进行估计。
聚合与表示： 使用适用于调查的规则（例如，分类变量采用多数投票法，Likert 量表采用中位数）对输出进行聚合，以形成可比较的响应。

实验设置

设置 1：个体专家模拟： 作者收集了六名真实 SOC 专业人员（经理、分析师、专家）的响应，并将其与被提示模拟匹配专家画像的 LLM 进行对比。
设置 2：聚合分布复制： LLM 被要求基于之前关于 SOC 警报分拣的从业者研究的汇总统计数据，生成群体层面的响应分布。
设置 3：时间鲁棒性分析： 利用 2017–2025 年的 SANS SOC 调查报告，作者评估了 LLM 是否能够追踪从业者响应的时间演变，包括模型训练截止日期前后的数据点。

模型与指标

评估了六种 LLM（GPT-4o, GPT-4, DeepSeek, Llama 3.1-8B, Llama 3.2-3B, Gemini Flash），以及用于时间对比的 GPT-3.5-turbo。评估指标包括：

一致性度量： 精确匹配率、Jaccard/Hamming 相似度以及中位数绝对差值。
分布差异： 使用 Jensen–Shannon 散度（JSD）和 Pearson $\chi^2$ 散度将合成分布与人类基准进行比较。
稳定性： LLM 内部一致性（多次运行的可重复性）以及 LLM 间的协议性。

3. 主要贡献

本文做出了四个主要贡献：

方法论框架： 一个通用的、可用于评估 LLM 作为网络安全专家调查中替代参与者的框架。
实证对比： 在个体、聚合和时间设置下，对真实 SOC 专家与 LLM 生成的受访者进行了全面的比较。
识别失效模式： 系统地识别了 LLM 生成的调查数据中的特定偏差，包括方差降低、趋中倾向以及意见同质化。
人为因素分析： 对使用合成受访者所带来的风险进行了评估，特别是专家多样性的丧失和从业者视角的误读。

4. 结果

研究得出了关于 LLM 在此背景下可靠性的几项关键发现：

个体层面（设置 1）： 虽然 LLM 在被赋予特定画像时能产生内部一致的答案，但它们与人类专家存在系统性背离。LLM 之间的协议性较低，且与人类响应的对齐程度较弱（通常为零）。模型既无法在相似的模拟响应上收敛，也无法近似于个体的专家判断。
聚合层面（设置 2）： LLM 在重复运行中生成高度稳定的聚合分布。然而，尽管成对相似度（JSD）表明模型生成的分布形状大致相似，但绝对差异度量（ $\chi^2$ ）显示其与人类基准存在巨大偏差。模型倾向于过度分配概率质量给稀有选项，且无法忠实地还原从业者响应的具体比例。
时间层面（设置 3）： LLM 生成的分布对时间不敏感。在所有年份（2017–2025）中，其与人类调查数据的对齐程度始终保持在较低水平，且并未因处于预训练截止日期前而提高，也未因处于截止日期后而降低。模型无法追踪从业者响应的历史变化，这表明它们复制的是静态的概念性知识，而非演进中的专业判断。
系统性偏差： 定性与定量分析证实，LLM 表现出方差降低、趋中倾向（收敛于中等答案）以及意见同质化。它们倾向于反映通用的最佳实践，而非人类专家中那种细微、冲突且依赖上下文的现实情况。

5. 重要性与主张

论文对 LLM 在安全研究中的作用持有一种审慎但坚定的立场：

并非替代品： LLM 不适合作为网络安全调查中人类专家启发法的替代品。它们与人类多样性的系统性背离，以及无法捕捉从业者观点多样性的特性，限制了它们作为绘制安全运营经验结论的替代参与者的有效性。
适用于试点与假设生成： 作者认为 LLM 是有价值的增强工具。其可控性和可扩展性使其在以下方面非常有效：
- 调查工具的试点测试。
- 压力测试问卷设计。
- 探索反事实群体。
- 为进一步的人类主导调查生成假设。
方法论指导： 该工作为研究人员提供了实践指导，强调应将合成响应视为来自特定模型分布的随机样本，而非权威的专家意见。研究人员必须应用方法论保障措施，并透明地报告 LLM 增强型调查的局限性，以维护以人为本的安全研究的完整性。

作者明确指出，虽然 LLM 可以支持研究过程，但它们不能取代人类从业者细致且具备上下文感知能力的判断；将它们视为此类替代品会面临误导结论并侵蚀安全研究中专家多样性的风险。