An integrated sociotechnical reference model for aligning artificial intelligence implementation in organizations
本研究采用设计科学研究方法，通过分析现有程序模型来构建集成社会技术人工智能参考模型（ISAR-M），旨在解决人工智能实施与组织转型之间的失调问题，通过使技术能力与组织准备度同步，以消除学科孤岛并确保人工智能的成功采用。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
现代企业正竞相采用人工智能，希望这些智能系统能彻底改变其工作方式。然而，尽管人们对此充满热情并将其视为具有战略意义的技术，大多数组织却未能将雄心转化为真正的成果。问题很少在于计算机代码出现了故障或算法过于脆弱。相反，失败通常源于技术与必须使用该技术的员工之间的脱节。当一家公司安装一套新系统时，它不仅仅是一次技术升级；它是对整个组织运作方式的变革，涉及新的规则、新的角色和新的思维方式。如果技术的发展速度超过了人类适应的速度，或者如果人们没有为新工具做好准备，系统就会停滞。这种机器能力与组织准备程度之间的差距，正是研究人员试图解决的核心挑战。
慕尼黑应用科学大学的一个研究小组致力于解决这一脱节问题。他们注意到，虽然有很多关于如何构建人工智能的指南，也有很多关于如何管理业务战略的指南，但目前还没有一条能够连接两者的统一路径。现有的指南通常将技术层面和人类层面视为两个独立的问题。有些完全侧重于工程步骤，如数据清洗和编码，却忽略了员工会对技术做出何种反应；另一些则侧止于高层业务目标，却无法提供具体的实施步骤。这种分离造成了一种危险的情况：公司可能会构建出一个完美的解决方案，但没有人知道如何使用它，或者公司根本没有能力支持它。为了解决这个问题，研究人员分析了四十五个不同的现有人工智能引入模型。他们不仅是阅读这些模型，还对其进行了拆解，以观察它们包含了哪些步骤以及遗漏了什么。
分析显示，当前的方法存在两个主要的盲点。首先，许多模型过于关注内部，仅关注技术是否有效，而没有询问其是否符合市场或更广泛的业务需求。其次，它们往往过于“技术至上主义”，这意味着它们优先考虑机器的表现，而非人类的体验。它们可能会确保软件运行快速且准确，却未能设计出让用户易于理解或信任的系统。研究人员发现，虽然几乎所有模型都认同数据质量和业务价值的重要性，但极少有模型能针对如何管理“人类因素”提供具体的、循序渐进的指令，例如员工培训或设计用户友好的界面。
为了解决这个问题，该团队构建了一个名为“集成社会技术人工智能参考模型”（Integrated Sociotechnical AI Reference Model）的新框架。他们并非凭空创造，而是像高级建筑师一样，整合了所研究的四十五个模型中的精华部分。他们选择了两个最全面的现有指南作为基础，然后用其他模型中具体的、高质量的步骤填补了缺失的部分。其结果是一个连贯的路线图，强制要求公司在两条轨道上同时前进：技术轨道和人类轨道。
这个新模型将过程分为四个主要阶段：评估（Evaluate）、设计（Design）、实现（Realize）和运营（Operate）。在第一个阶段——评估阶段，公司必须在投入资金之前检查其准备情况。这不仅仅是技术检查，它还需要考察数据、法律规则和人员。该模型在此处引入了一个严格的“关卡”。如果数据质量差或法律许可不明，项目将立即停止。这防止了公司将资源浪费在技术上不可能实现或法律风险较高的想法上。它确保了业务战略确实得到了公司实际情况的支持。
一旦项目通过了第一个关卡，就会进入设计阶段。在这里，模型坚持要求那些将使用该系统的人员必须参与到创建过程中。与其让工程师在实验室里构建一个工具然后稍后移交给员工，不如让公司举办研讨会，让员工协助设计系统的外观和感觉。这确保了工具符合实际工作需求。与此同时，技术团队设计系统架构。模型要求这两个流向并行开展。在继续推进之前，另一个关卡会检查设计是否安全、符合伦理且能获得使用者的信任。如果员工尚未准备好或不信任该系统，无论代码多么优秀，项目都不能继续。
第三阶段是实现阶段，即系统被构建和测试的阶段。该模型认识到，软件可以更新得非常快，但人类的学习和适应需要更长的时间。为了防止技术走在员工前面，公司会创建实验性的安全空间。员工可以在低风险的环境中尝试系统，然后再将其用于正式工作。这有助于他们在没有犯错恐惧感的情况下，逐渐熟悉新工具。模型还要求系统不仅要测试速度，还要测试公平性和安全性。最后一个关卡会检查系统是否已准备好发布。它提出了一个简单的问题：该系统提供的价值是否足以抵消其部署成本？如果答案是否定的，项目将被暂停。
最后一个阶段是运营阶段，旨在保持系统的长期运行。人工智能系统可能会随着时间的推移而产生“漂移”，这意味着随着世界的变化，它们会变得不再那么准确。该模型要求进行持续监控，以捕捉这些变化。但它同时也要求对人员进行持续关怀。公司必须保持与员工的沟通，解决他们的担忧，并更新他们的技能。模型包含一个专门的监督小组，以确保系统保持符合伦理，并确保人类员工不会被技术压垮。这一阶段确保了机器与组织之间的关系在两者共同演进的过程中保持健康。
研究人员通过几个假设场景测试了他们的新模型。在一种情况下，他们设想一家公司试图在未检查数据准备情况的情况下推出客服机器人。模型的第一个关卡阻止了该项目，从而避免了公司的昂贵失败。在另一种场景中，他们设想一个团队构建了一个高度精准的系统，但跳过了对员工的培训。模型的最后一个关卡阻止了发布，迫使团队先回去进行员工培训。这些测试表明，该模型起到了安全机制的作用，能在灾难发生前捕捉到问题。
为了观察该模型在现实世界中是否可行，研究人员采访了三位在不同类型公司中管理人工智能项目的专家。这些专家证实，同时运行技术轨道和人类轨道的想法是必要的。他们指出，在许多当前的项目中，管理人员和文化的环节往往是隐形的，并且会被从预算中削减。该模型使这项工作变得可见且具有强制性。然而，专家们也指出，该模型需要具备灵活性。在快速发展的初创公司中，流程可能需要比标准步骤所建议的更频繁地进行前后循环。研究人员调整了模型，加入了这些反馈循环，以确保它既能被大型、稳定的企业使用，也能被规模较小、灵活的团队使用。
研究结论认为，人工智能最大的障碍不是技术本身，而是管理技术的流程。成功取决于一家公司能否使其工程进度与人类适应速度保持同步。新模型提供了一种结构化的方式来实现这一点，将关于伦理和文化的抽象概念转化为可以检查和验证的具体步骤。它表明，未来商业领域人工智能的发展，将不取决于算法有多聪明，而取决于组织如何将其技术与人类劳动力对齐。通过遵循这条集成路径，公司可以避免陷入构建了强大工具却无人准备好使用的常见陷阱，从而确保其对人工智能的投资真正产生价值。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。