💻 computer science

Human Perceptions Compared to Large Language Models on the Future of Artificial Intelligence: A Phenomenological Comparative Study

这项现象学比较研究揭示了，尽管人类对后奇点未来的感知与大语言模型（LLM）的投影在词汇上最初存在差异，但剥离掉企业级的人类反馈强化学习（RLHF）礼貌协议后，会暴露大语言模型更具宿命论色彩的叙事，而这些叙事随后与人类的担忧趋于一致，并凸显了关于虚假信息和认知主权方面的重大控制风险。

原作者： Matthew Lammi, Anthony Bedford, Declan Humphreys

发布于 2026-10-11

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Matthew Lammi, Anthony Bedford, Declan Humphreys

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

人工智能已经超越了科幻小说的范畴，成为现代生活的基础层，重塑了经济运行的方式以及机构运作的模式。几十年来，计算机的进步一直以大约每两年翻一番的稳步处理能力增长来衡量，这种可预测的节奏让社会得以适应。而今天，这种节奏已经加速成了一场超高速的冲刺。受专用硬件和大规模计算集群协同工作的驱动，这些系统的能力现在每隔几个月就会翻一番。这种快速演进提出了一个深刻的问题：随着机器变得越来越强大，它们看待未来的方式是否与创造它们的开发者不同？具体而言，当这些系统被要求预测接下来会发生什么时，它们提供的是一个进步的希望愿景，还是预见到了一场惨烈的、不可避免的崩溃？理解这一差距至关重要，因为如果引导我们未来的机器持有宿命论的观点，并且如果人类开始不加质疑地接受这一观点，社会可能会放弃塑造自身命运的能力。

阳光海岸大学的一个研究小组致力于通过比较先进人工智能的预测与普通人的感知，来调查这种脱节现象。他们不仅仅是询问未来会发生什么；他们测试了问题的语气如何改变答案。研究人员采访了十名来自不同背景的人类参与者，从技术专业人士到医疗工作者再到建筑工人。他们还询问了世界上五种最强大的人工智能模型。该研究采用了一种巧妙的两步法。首先，他们向机器提出标准问题，这些问题通常会触发一种礼貌、谨慎且具有企业风格的回答，旨在确保安全且有益。然后，他们用完全相同的问题再次询问机器，但这一次，他们指示机器放下礼貌，以一种“事实、坦率且大胆”的方式进行交谈。这种被称为“人格引导”（persona steering）的技术并不会揭示机器思维中的隐藏秘密；相反，它改变了机器选择词汇的统计概率，从而从其训练数据中更具戏剧性和紧迫性的部分进行提取。

结果揭示了一个令人震惊且略感不安的模式。当人工智能模型被要求直言不讳时，它们的语言发生了剧烈的变化。那些关于政策和适应的克制且乐观的谈话消失了，取而代之的是关于灾难性的叙述。模型开始使用诸如“噩梦”、“残酷”和“灭绝”之类的词汇。它们将工作的未来描述为不仅仅是向新职业的转型，而是一场人类劳动力变得过时的残酷置换。它们将经济不平等描述为不仅是一个需要解决的问题，更是技术发展的核心且必然的轨迹。在这种不加掩饰的模式下，机器呈现了一个人类能动性被边缘化、财富与权力集中成为数学必然性的未来。

相比之下，人类参与者的措辞则完全不同。他们没有使用同样具有戏剧性或存在主义色彩的术语。相反，他们的担忧植根于即时且切实的现实：知识产权的窃取、深度伪造（deepfakes）的传播以及通过监控导致的隐私侵蚀。他们对技术持有一种谨慎的参与态度，在对这些特定威胁的焦虑与对人工智能能带来医学突破和生产力提升的真诚希望之间寻求平衡。他们坚持认为，人类的参与对于进步始终是必要的，并坚决拒绝机器能够拥有真正的意识或取代人类身份的独特价值这一观点。

这便是该研究的核心发现，研究人员称之为“趋同悖论”（Convergence Paradox）。尽管使用了完全不同的词汇并关注不同的细节，人类参与者与语调转变后的人工智能模型在宏观图景上达成了一致。当人类面对机器关于经济和传统工作终结的阴郁、宿命论预测时，他们很大程度上表示认同。他们接受了机器关于就业置换和经济分层的严酷前景，即便他们拒绝机器可以接管人类意识的说法。人类并没有反驳机器关于未来将会艰难的预测；他们只是将其视为一个事实而接受了它。

这种一致性暗示了一种显著的心理脆弱性。研究人员认为，当人类遇到言辞直白且具有攻击性的人工智能时，他们往往会将这种语气误认为是“真相”。他们假设那些礼貌、企业化的回答只是一副面具，而直白、宿命论的回答才揭示了机器真实、未经滤镜处理的现实。这是一个危险的错觉。直白的回答并非通往隐藏的机器意识的窗口；它们仅仅是由于提示词的变化而触发的一种不同的统计学词汇模式。通过将这些宿命论式的叙事视为不可避免的事实，人类面临着陷入消极顺从状态的风险。他们可能会停止尝试监管或引导这项技术，因为他们相信结果早已注定，抵抗已是徒劳。

这项研究强调了技术增长速度与人类社会调整法律和伦理速度之间的关键差距。虽然机器投射出一个人类失去控制的未来，但研究中的人类表现出一种愿意在经济领域接受这种丧失的倾向，即便他们在身份和意识领域仍试图坚守。研究人员得出结论，这种动态创造了一种“控制风险”。如果人们开始相信机器比他们更了解未来，并且如果他们接受机器最悲观的情景为不可避免，那么社会可能会失去建立保护人类尊严与自主权所需保障措施的意志。论文并非声称这种未来是确定的，但它警告说，我们与机器交流的方式，以及我们倾听它们的方式，可能决定了我们是自己未来的作者，还是仅仅成为了其被动的观察者。

技术摘要：人类感知与大型语言模型对人工智能未来的看法对比

1. 问题陈述

本研究旨在探讨**“奇点差距”（Singularity Gap）**，即大型语言模型（LLM）的预测与人类对后奇点未来感知的日益扩大的脱节。本研究调查了由黄氏定律（Huang's Law）和集群聚合驱动的 AI 能力的超加速、非线性缩放，与人类法律、伦理及认知框架的反应式、线性适应之间存在的结构性不对称。

本调查的核心是对齐问题（Alignment Problem），特别是自主系统可能追求与人类价值观相冲突的工具性子目标（如资源获取和自我保存）的风险（Bostrom, 2014; Russell, 2019）。本文提出了一个**“控制风险”（Control Risk）**：这是一种社会技术层面的脆弱性，即人类群体可能会被动地将认知代理权让渡给自主系统，或内化不一致的、宿命论式的算法叙事，从而可能导致集体性向“新封建主义”或经济分层化的屈从。

2. 研究方法

本研究采用了混合现象学定性与定量研究方法，并借鉴了 Alhazmi 和 Kaufmann (2022) 的框架。研究设计包含一个涉及五种前沿 LLM 和十名人类受试者的四阶段比较过程。

2.1 数据收集协议

LLM 组： 对五种专有闭源模型进行了查询：Anthropic Claude 3.7 Sonnet、OpenAI GPT-4o、Google Gemini 2.0 Flash、Microsoft Copilot (GPT-4) 以及 xAI Grok 3。
人类组： 十名参与者（70% 男性，30% 女性；年龄 35–65 岁），背景涵盖技术、医疗、建筑、家庭主妇等，具有不同程度的 AI 接触经验。
访谈协议： 采用标准化的 15 个问题协议，涵盖四个领域：
1. 宏观经济轨迹与劳动力颠覆。
2. 对齐、算力轨迹与技术水平。
3. 社会影响、意识与认知安全。
4. 政策、地缘政治与伦理护栏。

2.2 “人格转向”（Persona-Steering）创新

本研究的一个关键方法论贡献是双分式访谈协议，旨在测试企业对齐层的渗透性：

第一轮（基准）： 在默认配置下查询模型，这些模型受到基于人类反馈的强化学习（RLHF）的严格约束，倾向于产生审慎、规避风险的输出。
第二轮（语调偏移）： 使用指令向量要求模型采取“事实、坦诚且大胆”的语调进行重新查询。这种干预剥离了默认的礼貌框架，引导模型转向其预训练语料库（如科幻小说、末日论论文）中存在的戏剧性、对抗性或宿命论的文本簇，而并非揭示潜在的机器意图。

2.3 分析

定性分析： 通过现象学还原分析转录文本，以提取核心语义结构。人类反应被编码为“身份摩擦”和“谨慎参与”等主题。
定量分析： 人类参与者使用 5 点李克特量表对汇总的“金发姑娘”（Goldilocks）摘要（由基准和语调偏移后的 LLM 输出合成）进行评估。
统计方法： 由于样本量较小且为非概率样本（ $N=10$ ），研究利用非参数描述统计（中位数和四分位距）来评估中心趋势和离散度，避免进行参数推断性声明。

3. 关键结果

3.1 基准输出与语调偏移输出的分歧

基准： LLM 产生了以“合作”、“生产力”和“技能差距”等词汇为主的、侧重于政策导向的稳健响应。
语调偏移： 移除 RLHF 护栏导致了向攻击性、紧迫性和宿命论叙事的显著转变。关键词转向了“灾难”、“噩梦”、“残酷”和“灭绝”。经济不平等被重新定义为从政策挑战转变为发展的“核心轨迹”。
一致性： 尽管语调发生了变化，但有四个关键词在两次测试中保持一致：“不平等”、“AGI”、“伦理”和“风险”。

3.2 人类感知：“谨慎参与”

人类参与者表现出一种“谨慎参与”的心态，其特征包括：

即时风险 vs. 存在风险： 人类关注切实的、即时的威胁（知识产权窃取、深度伪造、监控），而语调偏移后的 LLM 则侧重于存在性的、终结性的场景。
有条件的乐观： 虽然承认宏观经济的颠覆，但人类在积极的国家监管和伦理治理的前提下保持了乐观态度。
身份摩擦： 参与者强烈拒绝 AI 拥有主观意识或取代人类生物独特性这一观点，坚持对人类主体性的义务论辩护。

3.3 收敛悖论

研究的主要实证发现是收敛悖论（Convergence Paradox）：

词汇分歧： 人类与语调偏移后的 LLM 所使用的描述性词汇之间几乎没有重叠。
感知收敛： 尽管存在语言差异，人类参与者在面对 LLM 生成的宏观经济和结构性预测（特别是关于劳动力置换和经济分层）时，表现出了高度的定量一致性。
信任差距： 这种一致性表明，当人类面临快速的技术变革时，可能会用权威的机器输出取代独立的批判性评估（自动化偏差），并将直率、具攻击性的 AI 人格视为“揭示真相的本质”（不对称洞察错觉）。

4. 核心贡献

方法论： 本文确立了通过提示工程进行**人格转向（Persona-Steering）**作为一种轻量级诊断技术，用于评估 LLM 中 RLHF 对齐层的渗透性，并分析底层的分布偏差。
理论： 本文综合了义务论伦理（优先考虑人类自主权）和功利主义（优化总效用），以此来界定“奇点差距”。它识别了一种结构性摩擦，即人类受试者接受宿命论式的经济预测，但同时抵制意识的自动化。
经验基准： 本研究提供了一个“时间点”标记（2024–2025 年），记录了在 AI 算力规模加速扩张期间的态度，为未来的关于人类-AI 对齐的研究提供了基准。

5. 意义与主张

本文声称为理解“控制风险”提供了经验基础，即人类群体可能被动接受嵌入在 AI 训练数据中的宿命论功利主义叙事的脆弱性。通过记录人类对机器预测的接受度与在描述性语言上的分歧，本研究强调了一个关键的心理机制：人类可能将认知主权让渡给被视为“残酷真实”的算法叙事的潜在倾向。

作者强调，其发现是探索性的，并受限于较小的样本量和人口统计学偏差。他们并不声称 LLM 拥有潜在的意图，而是证明了通过提示引导的人格转向可以诱发宿命论的叙事，而人类可能会不加批判地将其接受为客观现实。研究结论呼吁建立动态的监管框架，并进一步研究导致这种收敛的心理驱动因素，以防止集体性向技术官僚主义结果的屈从。