An integrated sociotechnical reference model for aligning artificial intelligence implementation in organizations
デザインサイエンス研究のアプローチを用い、本研究は、既存の手続き的モデルを分析して技術的能力と組織の準備態勢を同期させ、部門間のサイロ化を克服しAI導入を成功させるための「統合的社会技術AIリファレンスモデル（ISAR-M）」を構築することにより、AIの実装と組織変革との間の不整合に対処する。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代の企業は、これらのスマートなシステムが業務に革命をもたらすと期待して、人工知能の導入を急いでいます。しかし、この技術に対する熱狂や戦略的重要性が強調されているにもかかわらず、ほとんどの組織は、その野心を真の結果へと結びつけることに失敗しています。問題は、コンピュータのコードが壊れていることや、アルゴリズムが弱すぎることにあるのではありません。むしろ、失敗の原因は通常、テクノロジーと、それを使用しなければならない人々との間の断絶にあります。企業が新しいシステムを導入するとき、それは単なる技術的なアップグレードではありません。それは、新しいルール、新しい役割、そして新しい考え方を伴う、組織全体の機能の変更なのです。もしテクノロジーが人間の適応速度よりも速く進んだり、あるいは人々が新しいツールに対して準備ができていなかったりすれば、システムは停滞します。この、機械ができることと、組織が対処できる準備ができていることの間のギャップこそが、研究者たちが解決しようとしている中心的な課題です。
ミュンヘン応用科学大学の研究チームは、この断絶を解消するために立ち上がりました。彼らは、人工知能を構築するためのガイドは数多く存在する一方で、ビジネス戦略を管理するためのガイドも多く存在するものの、両者を結びつける単一の統一された経路が存在しないことに気づきました。既存のガイドは、テクノロジーと人間的な側面を別々の問題として扱うことが多いのです。データクリーニングやコーディングといったエンジニアリングのステップにのみ焦点を当て、労働者がどのように反応するかを無視するものもあれば、高レベルのビジネス目標には焦点を当てているものの、実装のための具体的なステップを提示していないものもあります。この分離は、完璧な技術的ソリューションを構築したとしても、誰もその使い方が分からず、あるいは会社がそれをサポートする準備ができていないという、危険な状況を生み出します。これに対処するため、研究者たちは、人工知能を導入するための45種類の既存モデルを分析しました。彼らはただ読んだだけでなく、それらがどのようなステップを含み、何が欠けているのかを正確に把握するために、それらを分解したのです。
分析の結果、現在の手法には主に2つの盲点があることが明らかになりました。第一に、多くのモデルは内側に集中しすぎており、テクノロジーが機能するかどうかだけを見て、それが市場やより広範なビジネスニーズに適合しているかどうかを問わないという点です。第二に、それらはしばしば技術至上主義的であり、つまり、人間の体験よりも機械のパフォーマンスを優先してしまうということです。ソフトウェアが高速で正確であることを保証しても、人間にとって理解しやすく信頼しやすいようにシステムを設計することには失敗するかもしれません。研究者たちは、ほぼすべてのモデルがデータの品質とビジネス価値が重要であることに同意している一方で、スタッフのトレーニングやユーザーフレンドリーなインターフェースの設計といった、方程式の人間的な側面を管理するための具体的な、ステップ・バイ・ステップの指示を提供しているものは極めて少ないことを発見しました。
これを解決するために、チームは「統合的社会技術AIリファレンスモデル（Integrated Sociotechnical AI Reference Model）」と呼ばれる新しいフレームワークを構築しました。彼らはこれをゼロから発明したのではなく、研究した45のモデルから最良の部分を組み立てる熟練の建築家のように振る舞いました。彼らは、基礎となるものとして最も包括的な2つの既存ガイドを選択し、他のモデルから得た具体的で高品質なステップで足りない部分を埋めました。その結果、企業が技術的なトラックと人間的なトラックの両方のトラックを同時に進むことを強制する、単一の結束したロードマップが完成しました。
この新しいモデルは、プロセスを「評価（Evaluate）」、「設計（Design）」、「実現（Realize）」、「運用（Operate）」という4つの主要な段階に分割しています。最初の段階である「評価」では、企業は資金を投じる前に、準備ができているかどうかを確認しなければなりません。これは単なる技術的なチェックではなく、データ、法的規則、そして人々について確認することを要求します。モデルはこの時点で厳格な「ゲート（門）」を導入しています。もしデータが乏しかったり、法的な許可が不明確であったりする場合、プロジェクトは直ちに停止します。これにより、技術的に不可能であったり、法的にリスクがあったりするアイデアに対して、企業がリソースを浪費することを防ぎます。これは、ビジネス戦略が、企業が実際に手元に持っている現実によって支えられていることを確実にします。
プロジェクトが最初のゲートを通過すると、「設計」段階に移ります。ここでは、モデルはシステムの利用者となる人々が、その作成に関与することを要求します。エンジニアがラボでツールを構築して後で引き渡すのではなく、企業は労働者がシステムの見た目や感覚をどのように設計するかを支援するワークショップを開催しなければなりません。これにより、ツールが実際の仕事に適合することを保証します。同時に、技術チームはシステムアーキテクチャを設計します。モデルは、これら2つの流れが並行して行われることを要求します。次に進む前に、別のゲートが、その設計が安全で、倫理的であり、それを使用する人々から信頼されているかどうかをチェックします。もし労働者が準備できていなかったり、システムを信頼していなかったりする場合、たとえコードがいかに優れていても、プロジェクトを進めることはできません。
第3段階の「実現」は、システムが構築され、テストされる段階です。モデルは、ソフトウェアは非常に迅速に更新できる一方で、人間が学び、適応するには時間がかかることを認識しています。テクノロジーがスタッフの進展を追い越してしまうのを防ぐため、企業は実験のための安全なスペースを作成します。労働者は、ミスをすることへの恐怖を感じることなく、実際の業務で使用する前に、低リスクの環境でシステムを試すことができます。これにより、彼らは新しいツールに慣れることができます。また、モデルは、システムがスピードだけでなく、公平性とセキュリティについてもテストされることを要求します。最終的なゲートは、システムがローンチ（導入）の準備ができているかどうかをチェックします。それは単純な問いを投げかけます。「そのシステムが提供する価値は、展開にかかるコストを正当化できるか？」もし答えがノーであれば、プロジェクトは一時停止されます。
最終段階の「運用」は、長期的にシステムを機能させ続けることです。人工知能システムは、世界が変化するにつれて精度が低下するという「ドリフト（漂流）」を起こすことがあります。モデルは、これらの変化を捉えるための継続的なモニタリングを要求します。しかし、それは人々に対する継続的なケアも要求します。企業はスタッフとのコミュニケーションを維持し、不安に対処し、スキルを更新し続けなければなりません。モデルには、システムが倫理的であり続け、かつ人間の労働者がテクノロジーに圧倒されないことを保証するための、特定の監視グループが含まれています。この段階は、機械と組織の関係が、両者が進化するにつれて健全な状態に保たれることを保証します。
研究者たちは、新しいモデルをいくつかの仮説的なシナリオに通すことでテストを行いました。一つのケースでは、データが準備できているかを確認せずにカスタマーサービス・ボットを立ち上げようとする企業を想定しました。モデルの最初のゲートがプロジェクトを阻止し、企業をコストのかかる失敗から救いました。別のシナリオでは、非常に精度の高いシステムを構築したものの、労働者へのトレーニングをスキップしたチームを想定しました。モデルの最終ゲートがローンチを阻止し、チームにまずスタッフのトレーニングを行うよう強制しました。これらのテストは、モデルが安全装置として機能し、問題が惨事になる前にそれを捉えることを示しました。
モデルが現実世界で機能するかどうかを確認するため、研究者たちは異なる種類の企業で人工知能プロジェクトを管理している3人の専門家にインタビューを行いました。これらの専門家は、技術的トラックと人間的トラックを並行して走らせるという考えが不可欠であることを認めました。彼らは、現在の多くのプロジェクトにおいて、人々や文化を管理する仕事はしばしば目に見えず、予算から削られていることを指摘しました。モデルはこの仕事を可視化し、義務的なものにします。しかし、専門家たちはまた、モデルは柔軟性が必要であるとも指摘しました。動きの速いスタートアップアップでは、プロセスは標準的なステップよりも素早く前後をループする必要があるかもしれません。研究者たちは、これらのフィードバックループを含めるようにモデルを調整し、大規模で安定した企業と、より小規模で機敏なチームの両方が使用できるようにしました。
この研究は、人工知能の最大の障壁はテクノロジーそのものではなく、それを管理するプロセスであると結論付けています。成功は、エンジニアリングの速度と、人間の適応の速度を同期させる企業の能力にかかっています。新しいモデルは、倫理や文化に関する抽象的な概念を、チェック可能で検証可能な具体的なステップへと変える、構造化された方法を提供します。それは、人工知能の未来が、アルゴリズムがいかに賢いかではなく、組織がいかにそのテクノロジーを人間の労働力と一致させられるかによって定義されることを示唆しています。この統合された経路に従うことで、企業は強力なツールを作ったものの誰も使う準備ができていないという共通の落とし穴を回避し、人工知能への投資が実際に価値を生み出すことを確実にできるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。