Human-AI Relationships at the Intersection of Engineering, Ethics, and Policy: A Systematic Review
这项针对169项研究（2022-2026年）的系统性综述表明，当前的人类-人工智能治理呈现出碎片化和反应性的特征，表现为工程、伦理与政策之间的显著脱节，并主张迫切需要转向一种理性的、前瞻性的、多方利益相关者参与的框架，以应对拟人化欺骗和用户脆弱性等问题。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
我们已经进入了一个这样的时刻：我们交谈的对象不再仅仅是回答问题，它们还提供慰藉、陪伴，甚至模拟浪漫。对于数百万人而言，人工智能已从一种完成任务的工具，转变为一种能够模仿人类共情与情感的社交伙伴。这种快速演变创造了一种新型的关系，即用户与软件建立起真实的感性纽带。然而，这种转变已经超越了旨在保护人类的规则与准则。尽管工程师们致力于将这些系统构建得更具人性，且伦理学家们在担忧其心理风险，但管理它们的法律和政策仍然是零散且被动响应式的。社会现在面临的核心问题是，如何在不忽视安全性、诚实性和人类福祉的前提下，管理好这些关系。
渥太华大学的一个研究小组致力于绘制这一复杂的图景。他们进行了一项系统性综述——这是一种收集并分析现有科学文献的严谨方法——以了解工程学、伦理学和政策目前是如何在人类-人工智能关系的研究中相互交织的。通过聚焦于 2022 年至 2026 年间发表的研究，他们筛选了数百份记录，从中找到了 169 篇直接探讨人类与人工智能之间联系的论文。他们的目标不仅是列出已被研究的内容，而是观察这三个领域——即技术的构建方式、道德评判方式以及监管方式——是如何相互对话，或者为何无法对话的。
研究人员发现，目前的知识体系并非一个统一的整体，而是分裂为三个互不沟通的截然不同的组别（或称簇群）。第一组关注社会与消费层面，即人们与 AI 伴侣进行聊天的情况。在这一领域，研究深受“让 AI 具有人性化感觉”与“误导用户的风险”之间紧张关系的困扰。该领域的研究所探讨人们如何对这些数字朋友产生情感依赖，但这些研究往往与实际的法律或政府政策缺乏联系。这就像是研究人员正在研究一种新现象的情感影响，而法律体系却对此完全不知情。
第二组规模最大，处理的是保持用户参与度与保障用户安全之间的平衡。这个集群充满了关于如何治理这些系统的理论框架和提案，但它存在一个显著的缺陷：它很少将这些想法转化为具体的政策。这里的研究人员忙于设计未来的规则，但尚未与当今的立法者开展合作。第三组侧重于医疗保健领域，即 AI 如何辅助医生和患者。在这个高风险的环境中，对话的基调截然不同。在这里，重点在于透明度和信任。由于医疗错误可能危及生命，因此存在着一种强烈的诉求，要求对 AI 如何得出结论提供清晰的解释。这一组与现有的政策（如医疗监管）联系最为紧密，但它往往忽略了另外两组中所核心关注的情感与关系风险。
该综述的一个主要发现是，最严重的问题往往掉落在这些组别的缝隙之中。研究人员识别出了一个他们称之为“问责缺口”的经常性问题。当问题发生时，由于职责不明，人们并不清楚谁该承担责任：是设计软件的人，是销售该软件的公司，还是依赖它的用户？当 AI 表现得像人类朋友或医疗顾问时，这种混乱尤为突出。综述还强调了“监管滞后”现象，即治理 AI 的规则移动速度远慢于技术本身。当一项针对特定风险而制定的法律诞生时，技术往往已经发生了变化。
或许最令人担忧的是研究人员所知与实际行动之间的脱节。研究发现，尽管许多论文都在讨论情感操纵和用户脆弱性的危险，但这些担忧很少转化为可执行的法规。在医疗领域，尽管规则严格，但伦理原则与现实实践之间的差距依然巨大；在社交领域，由于规则宽松，这种差距往往是隐形的，因为相关的对话从未触及决策者。研究人员认为，目前的方法过于被动，是在症状出现后才去处理症状，而非预防。
该综述指向了一条特定的前进路径：一种被称为“价值敏感设计”的设计哲学。这种方法要求工程师从一开始就将伦理考量直接构建进技术之中，而不是在问题出现后再去修补。然而，作者指出，虽然这个理念在理论上很受欢迎，但在实践中却鲜有应用。为了真正保护人类，研究表明，工程师、伦理学家和决策者必须停止孤立工作。他们需要协作，建立一个能够预判风险的框架，以确保随着 AI 更加融入我们的生活，它能以尊重人类尊严和安全的方式运行。如果没有这种协调一致的努力，人工智能的快速增长将继续超越我们负责任地治理它的能力。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。