"Are you an AI?" Analyzing Client Suspicion of AI Use in Crisis Counseling
这项研究分析了印度近 76,000 场由人工提供的危机干预对话，揭示了来访者对使用人工智能的怀疑正在上升，这种怀疑通常在互动早期被触发，并因明确的否认而加剧，凸显了在整合人工智能时需谨慎处理以维护治疗关系的必要性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，危机干预热线是一艘数字救生艇。当人们陷入深度的情绪困境时，他们跳上这艘小船，与经过培训的人类船员交谈，以寻求帮助并保持漂浮。
最近，关于人工智能机器人接管工作（包括协助处理人类情感）的讨论热度很高。这让救生艇上的部分乘客产生了怀疑。他们开始纳闷：“等等，正在帮我的人真的是人类，还是一个假装成人类的机器人？”
本论文是一份研究报告，研究人员观察了印度一个真实的 WhatsApp 求助热线上的 75,777 场对话，旨在观察这种怀疑现象发生的频率、触发原因以及人类辅导员如何应对。
以下是他们的研究结果，使用了简单的类比：
1. “机器人雷达”正在变得更加敏锐
随着越来越多的人在日常生活中使用 AI 聊天机器人，他们识别机器人的能力正在增强。研究人员发现，询问“你是机器人吗？”的人数正在上升。
- 趋势： 2024 年 6 月，只有 0.8% 的人这样问；到 2025 年 3 月，这一数字跃升至 2.6%。
- 谁在询问？ 主要是年轻人（18-24 岁）以及男性更容易怀疑自己在与机器对话。
2. 他们为什么产生怀疑？（“恐怖谷”效应）
想象一下，你正在和朋友聊天，但对方不断重复同样的话，或者回复很慢，或者听起来像是在照本宣科。你会开始怀疑：“这真的是我的朋友吗？”
研究发现，当辅导员的行为显得“不对劲”时，来访者就会怀疑是 AI。主要的触发因素包括：
- “破唱片”现象： 辅导员给出的回答具有重复性或公式化。
- “隐形人”现象： 辅导员没有回答来访者提出的特定问题。
- “等待时间”过长： 辅导员回复太慢。
- “冷漠回应”： 回复显得缺乏人情味或缺乏情感。
注：有时，这些“机器人化”的迹象实际上是因为辅导员正在同时处理多个聊天窗口，或者正在使用标准的安全脚本，而非真的在使用 AI。
3. 人们想要什么？
大多数在热线上的求助者想要人类。
- 21.5% 的人明确表示：“我不想和 AI 说话，我想和真人说话。”
- 他们觉得 AI 缺乏共情能力（理解感受的能力）、不可信，或者仅仅是没用。
- 有趣的是，极少数人（0.2%）实际上想和机器人说话，但他们是例外。
4. 船员如何应对（“安抚” vs “忽视”的游戏）
当乘客问道“你是机器人吗？”时，人类辅导员主要有两种应对方式：
策略 A：“安抚式”（最常见）
- 做法： 他们直接说：“我向您保证，我是真实的人类！”
- 结果： 这种方式效果很好。大约 55% 的怀疑者相信了他们，并感到安心了。另有 28% 的人则不再纠结该话题并继续对话。
- 类比： 这就像飞行员说：“我是真正的飞行员，不是电脑，” 乘客随即放松了下来。
策略 B：“回避式”（“让我们关注你”的方法）
- 做法： 他们忽略这个问题，并说：“我理解您的顾虑，但让我们把注意力集中在您的问题上。”
- 结果： 这种方式风险更高。大约 48% 的来访者转向了话题，但 52% 的人感到挫败，要么继续追问，要么直接结束了聊天。
- 类比： 这就像飞行员忽略了问题，只是说：“看窗外吧，” 这会让乘客变得更加紧张。
5. 核心启示
论文得出结论：信任是脆弱的。即使 AI 实际上很有帮助，但如果人们认为它是 AI，他们就会感到缺乏安全感和理解。
- 教训： 当人们处于危机中时，“真实的连接感”高于一切。如果辅导员（无论是人类还是使用 AI 辅助的人类）听起来像机器人，来访者就会怀疑自己在与机器对话。
- 解决方案： 解决这种怀疑最有效的方法是诚实与安抚。当辅导员明确确认自己是人类时，“机器人雷达”通常会关闭，对话得以回到拯救救生艇的正轨上。
简而言之： 人们担心自己在和机器人说话。当他们提出疑问时，辅导员能做的最好的事情就是简单地回答：“不，我是真实的人类，” 并言出必行。如果试图回避这个问题，来访者往往会变得更加怀疑。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。