💻 computer science

Explainable artificial intelligence in interface design influences user outcomes and cybersecurity literacy

这项研究表明，将可解释人工智能（XAI）集成到界面设计工具中，能显著提升用户在 UI 设计任务中的产出结果，包括创造信心、感知学习、信任、自主性和可用性，这表明 XAI 促进了用户对 AI 建议的批判性参与，同时也强调了未来研究需要直接衡量其对网络安全和隐私素养行为的影响。

原作者： Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

发布于 2026-09-25

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在数字世界中，我们所触碰的屏幕和所点击的按钮并非中立。它们的设计带有特定的意图，有时是为了温柔地引导我们，有时则是为了将我们引向那些如果我们深思熟虑后可能不会做出的选择。这些被称为“暗黑模式”（dark patterns）的操纵性设计，利用了我们大脑的工作方式。它们通过视觉陷阱、混乱的布局和自动默认设置，诱导我们分享个人数据、同意侵入性权限，或是在未完全意识到成本的情况下订阅定期扣费服务。问题不仅在于这些设计确实存在，更在于它们依赖于我们的快速反应和注意力不集中。当一个决策感觉轻而易举且无需付出太多努力时，我们往往会不加质疑地点击。为了保护自己，我们需要的不仅仅是知识；我们需要能够鼓励我们停顿、仔细观察并理解正在向我们索求什么的交互界面。

这正是可解释人工智能（explainable artificial intelligence）这一理念发挥作用的地方。想象一下，有一个计算机程序可以帮助你设计网站或应用程序。一个标准的此类工具可能只会提供一个建议：“将此按钮放在此处。”它给出了答案，但没有给出理由。然而，一个可解释的版本则更为出色。它提供同样的建议，但还会提供关于为何做出该建议、考虑了哪些权衡以及系统对该选择有多大把握的清晰解释。其目标是将一个被动的用户转变为一个主动的合作伙伴，使其能够评估建议，而非仅仅是接受建议。研究人员长期以来一直在探究这种额外的透明度层级是否真的有助于人们学习、增加对系统的信任，并让他们对自己的决策感到更有掌控感。

一组研究人员设定了一个想法，并在一项涉及128名参与者的受控实验中对其进行了测试。他们要求这些人执行一项特定任务：为一支健康研究团队设计一个仪表板。该仪表板需要帮助研究人员追踪多项正在进行的课题中的招募人数、截止日期和报告情况。参与者有三十分钟的时间使用一款AI辅助工具来创建该场景下的界面组件。研究人员将小组分为两组。一组使用标准的AI工具，该工具仅提供设计建议而不提供任何额外背景；另一组则使用可解释的AI工具，该工具呈现相同的建议，但包含一个解释设计原则、背景及每项建议潜在权衡的面板。

结果显示，两组人在执行任务时的体验有着明显的差异。使用可解释工具的一组报告称，他们的创造性信心得到了显著提升。在任务开始前，他们对自己创造想法的能力的信心较低，但在任务结束后，其信心增长幅度远高于使用标准工具的那一组。使用可解释工具的小组还觉得他们从这次经历中学到了更多，更加信任AI的建议，并且对自己的最终决策感到有更强的自主权。他们认为该系统更具可用性和吸引力。事实上，带有解释组与界面的交互频率远高于另一组，他们经常打开解释面板来阅读细节，而另一组点击的信息元素则较少。

然而，研究人员对这些结果的实际意义保持了谨慎。虽然参与者在设计任务期间感到更加自信且学到了更多，但这项研究并未测试这种经历是否能让他们在现实世界中更好地识别欺骗性设计。实验并未包含任何隐私素养的测试，也未衡量参与者在随后面对暗黑模式时是否能够抵御它们。该研究明确排除了“他们已经证明了可解释AI能创造一道抵御操纵的屏障”这一观点。相反，研究结果表明，在AI建议中加入理由可以改善使用工具时的即时体验，并帮助用户在设计过程中感到更有能力且信息更对称。

研究还强调，这种益处并不局限于那些本身已具备技术专长的人。即使是那些对人工智能了解较少的参与者，在获得解释后，在信心和学习方面也表现出了进步。这表明，透明度的价值不仅在于技术达人，也能支持更广泛的用户群体。然而，作者指出，该实验是一个持续约四十五分钟的单次环节。他们无法确定这些信心和信任感是否会随着时间的推移而持续，也无法确定这些感受是否会迁移到不同的情境中，例如在做出有关个人数据或安全方面的决策时。

最终，这项研究为我们如何与智能系统进行交互指明了一个充满希望的方向。通过在AI建议中加入解释，设计师可以创造出让用户感到更有掌控感、并更愿意批判性地对待技术的工具。这种方法符合日益增长的监管趋势，例如欧盟的法规，这些法规要求高风险AI系统必须具备足够的透明度，以便用户能够正确地理解并使用它们。虽然这项研究并未解决网络安全或隐私操纵的更广泛问题，但它证明了，当一个AI工具愿意解释其思考过程时，人们会感到更加自信、学到更多，并且更加信任这个过程。科学的下一步，是观察这种增加的参与度是否能转化为在威胁我们数字生活的欺骗性设计面前的现实保护。

技术摘要：界面设计中的可解释人工智能如何影响用户结果与网络安全素养

1. 问题陈述

本文探讨了界面设计、人工智能（AI）与用户安全素养之间的交集。文章指出，“暗黑模式”（Dark Patterns）——即通过操纵用户做出违背其利益的选择（例如：数据披露、侵入性权限）的界面设计——利用了人类的注意力限制和快速决策机制。尽管欧盟《数字服务法案》和《人工智能法案》等法规强制要求透明度，但仅仅依靠透明度并不能保证用户的素养或保护性行为。

研究的核心问题在于：将**可解释人工智能（XAI）**集成到界面设计工具中，是否能够培养与隐私和网络安全相关的能力。具体而言，作者质疑：在提供 AI 生成的建议的同时，提供其背后的逻辑依据和权衡方案，是否能促使用户停顿、进行批判性评估并更深入地参与系统输出，从而可能建立起抵御欺骗性界面所需的“批判性参与”。该研究指出，目前缺乏证据证明这种由解释支持的交互过程究竟是培养了这些能力，还是仅仅增加了信任而并未改善决策的校准。

2. 研究方法

本研究采用了受控组间实验，通过 Prolific 招募了 128 名参与者。参与者被随机分配到以下两个条件之一：

XAI 条件组 ( $n=64$ )： 参与者使用一种 AI 辅助的 UI 设计工具，其中每一个设计建议都附带一个解释面板。该面板包含了设计原理、上下文考量、潜在权衡以及置信度指标。
标准 AI 条件组 ( $n=64$ )： 参与者使用相同的工具，获得完全相同的设计建议，但没有专门的解释面板。

任务：
参与者完成了一项为期 30 分钟的 UI 设计任务，重点是改进一个用于健康研究管理（监控招募和截止日期）的仪表盘。该任务明确设定为非临床性质，以避免需要医学专业知识。

测量指标：

创造力信心（Creative Confidence）： 通过任务前后的 3 项李克特量表测量来计算“增益”。
任务后感知： 报告的信任度、感知自主性和感知学习程度（各采用 3 项李克特量表）。
可用性： 使用系统可用性量表（SUS）进行测量。
任务质量： 由两名盲审评分者按 0–100 分制进行评分。
日志交互（Logged Interactions）： 自动记录的用户交互计数（XAI 组中打开解释面板的次数 vs. 标准组中点击工具提示/元数据的次数）。
协变量： 在招募期间对先前的 AI 熟悉度和 UI 设计经验进行了分层处理。

分析：
数据使用独立样本 t 检验来评估组间差异，使用配对样本 t 检验来评估组内变化，并使用 Pearson 相关系数。使用层次回归模型来评估创造力信心增益的预测因子。报告了效应量 Cohen's $d$ 。

3. 关键结果

研究发现，在多个自我报告和行为指标上，XAI 条件组均表现出显著的优势：

创造力信心： XAI 组的创造力信心增益显著高于标准组（ $d=0.68$ ）。两组都有提升，但 XAI 组的提升幅度更大。
感知学习： XAI 条件下的感知学习呈现出较大的效应量（ $d=1.17$ ），表明参与者感觉从任务中学到了更多。
报告信任度： XAI 条件下对 AI 工具的信任度显著更高（ $d=0.97$ ）。
感知自主性： XAI 条件下的参与者报告了更高的感知自主性（ $d=0.42$ ）。
可用性： XAI 条件下的 SUS 得分显著较高（ $M=71.52$ ），而标准组为 $M=58.36$ （效应量 $d=1.7$ ，此处原文为 $d=1.78$ ），XAI 组的平均分超过了“高于平均水平”的阈值 (68)，而标准组则未达到。
任务质量： XAI 组产出的设计质量（ $M=82.80$ ）高于标准组（ $M=75.54$ ），具有较大的效应量（ $d=0.97$ ）。
日志交互： XAI 条件下的交互计数显著更高（ $d=2.66$ ）。然而，作者指出这些计数代表了不同的操作（打开面板 vs. 点击工具提示），因此不应将其视为等效的衡量标准。
相关性： 在全样本中，日志交互计数与感知学习、可用性、报告信任度和任务质量呈正相关。然而，在标准组中，交互计数与任何结果均不相关。

4. 核心贡献

本文提供了实证证据，证明 XAI 增强的界面设计对 AI 辅助任务中的用户结果具有积极影响。 具体而言，它证明了在 AI 建议旁提供逻辑依据和权衡方案可以：

提高创造力信心和感知学习。
增强报告信任度和感知自主性。
提升系统可用性评分和任务质量。
促进更高水平的交互。

该研究支持了以下假设：解释可以作为一种界面功能，促进用户对 AI 建议进行批判性参与，从而超越简单的透明度，实现主动的用户参与。

5. 重要性与主张

作者对研究结果的重要性保持了适度且精确的界定：

相关于素养，而非证明韧性： 论文明确指出，结果并未证明 XAI 提高了隐私素养、网络安全素养或对暗黑模式的抵抗力。本研究并未测量暗黑模式识别、规避行为或信任校准（即信任与系统准确性的一致性）。
潜力 vs. 已证实的迁移： 研究结果表明了其潜在的相关性。作者认为，通过在设计任务中培养批判性参与和感知自主性，XAI 可能为未来的隐私决策干预提供参考。然而，这种能力能否直接迁移到安全场景（例如：抵御钓鱼攻击或欺骗性的同意流程）仍是一个需要单独测试的开放性问题。
信任校准： 研究发现 XAI 组的报告信任度更高，但作者澄清这并不等同于校准后的信任。如果缺乏准确性度量，高信任度可能会导致过度依赖（如果 AI 出错的话）。
局限性： 作者承认了包括缺乏纵向数据（效应的持久性）、特定任务性质（非临床、非安全领域）以及招募来源（Prolit 平台用户，可能限制了对低数字素养人群的普适性）在内的局限性。

总之，本文确立了由解释支持的界面能够改善 AI 辅助设计任务中的用户体验和自我效能感。作者将这些结果定位为未来研究的基础，旨在探讨此类界面是否能有效建立针对欺骗性设计模式的行为韧性，而非直接声称已解决了网络安全素养问题。