AI Governance Capability as a Multidimensional Organizational Construct: Implications for Decision-Making Quality and Organizational Resilience
本文将人工智能治理能力（AIGC）概念化为一个基于动态能力理论的多维、高阶组织构念，并指出治理结构、流程、胜任力、战略对齐以及持续监测的协同整合，对于提升决策质量和组织韧性至关重要，尤其是在高度受监管的行业领域。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
人工智能已从科幻小说的领域进入了银行、医院和政府的日常运营之中。它帮助医生识别疾病，指导投资策略，并标记欺诈交易。然而，随着这些系统做出更具影响力的选择，一个关键问题随之而来：我们如何确保它们保持安全、公平并与人类目标一致？挑战不仅在于编写规则或为了合规而勾选清单，而在于整个组织如何学习管理这些不断变化和演进的强大工具。要理解这一点，必须观察两个既定的概念。首先，组织需要清晰的结构来决定谁对什么负责，就像公司需要层级制度来管理其财务一样。其次，由于技术和法律在不断变化，组织必须具备随着时间推移调整其方法的能力，这在管理科学中被称为“动态能力”。如果没有这种转变和学习的能力，即使是最好的规则也会在新的技术出现时立即过时。
独立研究员伊伦妮丝·约瑟芬娜·特塞克·罗德里格斯（Irlenys Josefina Tersek Rodríguez）最近的一项研究针对这一问题提出了看法，并提出了一种思考公司如何治理人工智能的新方法。该论文认为，拥有政策文件或委员会是不够的。相反，成功的治理是一种活生生的、具有生命力的组织能力，它结合了五个截然不同但相互关联的部分。研究人员指出，一个组织做出正确决策和应对中断的能力，取决于它如何将正式规则、人员技能、战略目标以及从错误中学习的能力编织在一起。这种方法超越了将治理仅仅视为静态控制清单的概念。它假定，真正的安全性和有效性来自于这些要素的协调，使公司能够在危机发生前感知到异常并重新配置其方法。
该研究确定了构成这一能力的五个特定支柱。第一个是决策结构：谁有权批准人工智能系统，如果系统失败谁来承担责任，以及法律、技术和业务等不同部门之间如何进行沟通。第二个支柱涉及实际流程：引导人工智能系统从创建到退役的逐步工作流、风险检查和文档记录。第三个支柱关注人员本身，特别是理解人工智能行为并在必要时对其输出提出质疑所需的集体知识和技能。第四个支柱是战略对齐，确保人工智能的使用服务于组织的更广泛目标，而非仅仅跟随技术趋势。最后一个支柱是持续监测，即观察系统随时间变化的表现，并利用这些信息更新规则和改进系统。
研究人员提出，这五个部分并非孤立运作。一家公司可能拥有完美的规则和优秀的团队，但如果这些规则与公司的主要战略脱节，努力就会失败。反之，一家公司可能拥有伟大的战略，但缺乏安全执行战略的熟练人员。论文指出，治理的价值来自于这五个维度的平衡与互动。这并不是一个只要拥有更多项目就能保证更好结果的简单清单。相反，系统的强度取决于这些部分如何契合。例如，拥有过多僵化规则而缺乏适应的灵活性会减缓公司的发展；而拥有过多自由度却缺乏明确监管则会导致危险的错误。研究强调，这种能力在金融和医疗等高风险环境中最为关键，因为在这些领域，错误的后果是严重的。
该框架还挑战了将治理视为一次性项目的观念。由于人工智能系统会随着从新数据中学习而发生变化，且由于法律在不断演变，公司治理它们的方式也必须随之改变。研究人员认为，静态的一套政策无法应对动态的环境。相反，组织必须将治理视为一个持续学习和调整的循环。当系统出错或出现新法规时，组织必须能够检测到问题，理解其原因，并相应地更新其结构、流程和培训。这种适应性特征是将韧性组织与仅仅是合规组织区分开来的关键。
论文最后概述了如何测试并应用这一新概念。它建议未来的研究应该衡量这五个维度，以观察它们如何实际影响决策质量以及组织从冲击中恢复的能力。对于商业领导者而言，启示是明确的：构建负责任的人工智能未来不仅仅是购买软件或聘请一名合规官。它需要建立一种文化，让权威、流程、技能、战略和学习作为一个单一的、可适应的系统共同发挥作用。通过将治理视为一种能力而非负担，组织可以从仅仅试图避免麻烦转向充满信心地积极创造价值。这项研究并不声称已经解决了人工智能安全的难题，但它为理解组织如何应对前方复杂地形提供了一份结构化的地图。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。