Military and Public Attitudes Toward Autonomous Weapons: Stage-Specific Drivers and Value-Based Moderation
这项针对韩国军方人员及公众的研究表明,对自主武器的接受度具有阶段性特征,其中对研发的支持受兴趣和正义战争观的驱动,而对使用的支持则受到人工智能知识水平的阻碍,并受价值取向(尤其是后物质主义关切)的调节。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
战争的形态始终由时代的工具所塑造,从最初的石制投射物到二十世纪复杂的机械装置。今天,一种新型工具正在兴起:能够自主选择目标并决定何时打击的武器,其引导力量是人工智能而非人类扣动扳机的手指。这些通常被称为自主武器的系统,提出了一个超越工程学层面的深刻问题:机器在何种程度上会变得过于独立,以至于无法被信任去掌控生死?这场辩论不仅关乎这些机器是否有效,更关乎人们是否愿意让它们发挥作用。这取决于两个截然不同的观点。首先,是关于开发这项技术,这对许多人来说感觉是一种战略上的必然;其次,是关于在真正的战斗中实际使用它,在那里的后果是即时且不可逆转的。理解支持一项新发明与支持其在战斗中使用之间的区别至关重要,因为那些可能必须承担后果的人——地面上的士兵以及资助战争的公民——对这两个阶段的看法往往大相径庭。
韩国的一个研究小组试图通过询问两组截然不同的群体对自主武器的看法,来绘制这些差异的图谱。他们调查了1,222名普通公众和155名现役军人。目标是观察那些可能实际使用这些武器的人,其感受是否与大众一致,并了解哪些因素(从个人价值观到技术知识)驱动了这些感受。研究人员并没有仅仅询问一个简单的“是”或“否”。相反,他们将问题进行了拆解,分别针对技术的开发与在战斗中的部署进行提问。他们还观察了人们对人工智能的了解程度、他们对战争伦理的看法,以及他们最看重什么样的社会价值,例如经济稳定与个人自由。
结果揭示了视角上的显著分歧。比起公众,军事人员对开发自主武器的想法更为热衷。这可以理解,因为士兵通常将新技术视为获得战术优势或保护自身生命的一种方式。然而,当话题转向在真实战斗中实际使用这些武器时,军事人员群体表现出了比公众显著更高的谨慎感。虽然公众对于机器做出致命决策的想法相对更加开放,但由于理解“战争迷雾”和责任之重,士兵们则远不愿交出这种权力。这仿佛是在说,军方认为这种武器是一种值得制造的有用工具,但在让该工具在没有人类紧随其后的情况下扣动扳机这一问题上,划定了一条明确的界限。
这种谨慎并非随机产生的,它与他们的伦理责任感有着深刻的联系。研究发现,影响一个人是否接受这些武器投入战斗的最强因素,是他们是否相信机器能够遵循古老的战争规则。这些规则要求武器必须能够区分士兵与平民,要求使用的武力与威胁程度相称,并且要尽一切努力避免不必要的伤害。当人们确信自主系统能够达到这些严格的伦理标准时,他们就更有可能支持其使用。但当他们怀疑机器能否做出这些道德抉择时,支持率便急剧下降。对于军方而言,这种怀疑感更为显著,这表明最接近战斗现实的人敏锐地意识到,要编写程序让机器在瞬息万变的时刻做出道德判断是多么困难。
关于人们了解技术程度的影响,研究还有一个或许最为令人惊讶的发现。一个普遍的假设是,如果人们了解人工智能的工作原理,他们会对它感到更加放心。研究人员发现,关于使用这些武器,事实恰恰相反。随着人们对人工智能知识的增加,他们对在战斗中使用自主武器的支持度实际上降低了。这表明,深入的理解并不一定会带来盲目的乐观。相反,它会导致一种更具洞察力的怀疑。那些了解这些系统如何运作、如何从数据中学习以及可能在哪里出错的人,更有可能看到让这些系统做出生死决策所涉及的风险与不确定性。在这种语境下,知识扮演的是刹车而非加速器的角色。
研究还显示,一个人的核心价值观在面对这些新知识时的反应中起到了重要作用。那些优先考虑物质层面需求(如经济稳定和国家安全)的人,即使在了解更多信息后,仍倾向于维持对这些武器的支持。他们对安全和力量的关注似乎超过了伦理忧虑。相比之下,那些优先考虑后物质主义价值观(如人权、言论自由和环境保护)的人,反应则完全不同。随着他们对人工智能知识的增长,他们对使用自主武器的支持度骤降。对于这类人群而言,随着对技术理解的加深,将致命权力交给机器所带来的伦理影响变得更加凸显。他们的价值观使他们对自动化可能导致的错误及道德代价更加敏感。
研究人员还观察了这些武器可能执行的具体任务。对自主武器的支持并非一概而论,而是高度依赖于任务性质。公众和军方对于将这些系统用于监视、侦察和信息收集等任务都持有较高的接受度。然而,当任务涉及直接攻击、打击高价值目标或进行侵略性战斗时,支持度显著下降。这表明人们并非完全拒绝这项技术,而是对它的使用范围和方式有着高度的选择性。他们可以接受机器进行观察和倾听,但对于机器进行打击则远不那么放心。
最终,这项研究描绘了一幅图景:社会并非简单地支持或反对自主武器,而是在应对一个涉及信任、风险与伦理的复杂景观。部署这些系统的路径不仅仅是让它们运行得更好,更在于如何说服人们它们可以被负责任地使用。军方对开发技术的渴望与其对使用的犹豫之间的差距表明,最大的障碍不在于技术能力,而在于伦理合法性。如果那些必须承受战争后果的人无法被说服这些机器会尊重人类冲突的规则,那么无论技术变得多么先进,它都可能只能停留在实验室阶段。研究结果表明,这些武器的未来较少取决于工程师编写的代码,而更多取决于那些必须面对其结果的人们所划定的道德边界。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。