What We Know about Responsible AI Practices in Industry: A Half Decade of Empirical Research
本文综合了六年间 161 项实证研究的发现，旨在全面概述技术行业内负责任人工智能实践在进展、专业化以及持续挑战方面的概况。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在建造一个巨大的、隐形的机器人大脑，它能写故事、诊断疾病，或者推荐你下一首最喜欢的歌。这个领域被称为人工智能（AI）。但就像一个真实的大脑一样，这个机器人大脑有时也会感到困惑、做出不公平的选择，或者无意中伤害到人类。为了阻止这种情况发生，科学家和公司制定了一套规则，称为“负责任的人工智能”（Responsible AI，简称 RAI）。把 RAI 想象成机器人的道德指南针和安全手册。这不仅仅是为了让机器人变得聪明，更是为了确保它对每个人都既善良、公平又安全。长期以来，人们一直在思考：“那些建造这些机器人的人真的知道如何使用这个道德指南针吗？他们是在遵循规则，还是仅仅在忽视它们？”这就是一个研究团队决定调查的大问题。
为了找到答案，研究人员并没有仅仅靠猜测或查看计算机代码。相反，他们扮演了数字侦探的角色，挖掘了过去六年中发表的 161 项不同科学研究中的海量资料。这些研究都是对在科技公司工作的真实人员进行的访谈、调查和观察，旨在弄清楚他们在日常工作中究竟是如何处理这些道德规则的。他们想看看“负责任的人工智能”运动究竟只是墙上一个华丽的口号，还是真的改变了机器人的构建方式。
侦探报告：他们的发现
研究人员的报告题为《我们所了解的工业界负责任人工智能实践》，它讲述了一个关于一家公司正在缓慢、笨拙但确实在努力成长的故事。
好消息：灯火正在点亮
几年前，许多构建 AI 的工作人员甚至不知道道德指南针的存在。他们当时太专注于让机器人变得快速且聪明，以至于忘记了检查它是否表现得刻薄。但论文表明，情况正在发生变化。越来越多的从业者意识到“负责任的人工智能”是一件真实存在且至关重要的事。这就像一个教室，起初没有人知道有关于分享的规则，但现在大家都知道规则的存在。
公司也变得更加有组织了。不再是某个人在私下担心公平性，公司开始聘请专门的“RAI 专家”，并为负责检查机器人行为的人员设立正式的职位名称。他们也开始使用清单和软件工具，帮助他们在机器人进入世界之前发现错误。这有点像厨师终于买了一个温度计来检查蛋糕是否烤熟，而不是仅仅靠凭感觉猜测。
坏消息：指南针仍然损坏
然而，报告明确指出，仅仅知道规则并不意味着能够遵循规则。研究人员发现许多从业者感到迷茫。他们知道自己应该追求公平，但却没有得到正确的培训或合适的工具。这就像告诉某人去开赛车，却没给他们驾照或地图。
其中最大的问题之一是公司使用的工具往往过于模糊。想象一下一本食谱，上面写着“加入一些香料”。如果你正试图烘焙一种特定的蛋糕，这并没什么帮助。同样，许多 AI 工具提供的建议很笼统，却没能告诉从业者在构建某个特定产品或特定功能时具体该怎么做。从业者只能尝试将抽象的概念转化为真实的编码，而且往往没有足够的时间或资金来正确完成。
老板问题：“以后再说”
论文还强调了一个主要障碍：老板。在许多公司中，负责人更关心如何快速发布新产品，而不是产品有多安全。研究人员发现，员工经常被告知要在项目最后阶段才去“勾选安全选项框”，而那时已经没有时间去修复问题了。这使得“负责任的人工智能”变成了一种枯燥的文书工作，就像为了盖个章而填表，而不是真正为了让机器人变得更安全。论文指出，如果不对这些安全检查投入足够的人员、时间和资金，世界上最好的工具也无济于事。
缺失的环节
最后，研究人员注意到，公司在倾听那些并非在建造机器人的人群方面仍处于挣扎状态。这包括那些标注数据的人（即教机器人识别什么是“猫”的人）、使用机器人的人，以及来自医生或律师等其他领域的专家。报告表明，虽然公司开始寻求帮助，但他们往往不知道如何正确地倾听，或者没有建立起正确的系统，让这些外部人士在发现问题时能够发声。
底线
那么，这一切意味着什么？论文表明，AI 行业正处于“成长的烦恼”阶段。大家都同意具备责任感很重要，实现这一目标的工具也开始出现了。但“知道该做什么”与“真正做好”之间存在着巨大的鸿沟。研究人员得出结论：要让“负责任的人工智能”真正发挥作用，公司需要停止将其视为一个副项目或是一个检查清单。他们需要将其构建在工作的最基础之上，为员工提供真正的培训，并倾听那些受机器人影响的人群。在此之前，机器人的道德指南针仍然有些摇晃，我们需要继续努力来稳固它。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。