An integrated sociotechnical reference model for aligning artificial intelligence implementation in organizations
본 연구는 디자인 사이언스 연구(Design Science Research) 접근 방식을 사용하여, 기존의 절차적 모델들을 분석함으로써 기술적 역량과 조직적 준비도를 동기화하여 부서 간 사일로 현상을 극복하고 성공적인 AI 도입을 보장하는 통합 사회기술적 AI 참조 모델(ISAR-M)을 구축함으로써, AI 구현과 조직 변화 사이의 불일치 문제를 다룬다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
현대 기업들은 인공지능이 업무 방식을 혁신하기를 기대하며 이 스마트한 시스템을 도입하기 위해 경쟁하고 있습니다. 그러나 이러한 기술에 대한 기대와 전략적 중요성에도 불구하고, 대부분의 조직은 자신들의 야망을 실질적인 결과로 바꾸는 데 실패하고 있습니다. 문제는 대개 컴퓨터 코드가 고장 났거나 알고리즘이 너무 약해서 발생하는 것이 아닙니다. 대신, 그 실패는 대개 기술과 그것을 사용해야 하는 사람들 사이의 단절에서 비롯됩니다. 기업이 새로운 시스템을 설치할 때, 그것은 단순한 기술적 업그레이드가 아니라 새로운 규칙, 새로운 역할, 그리고 새로운 사고방식을 포함하는 조직이 기능하는 방식 전체의 변화입니다. 만약 기술이 사람들이 적응하는 속도보다 빠르게 움직이거나, 사람들이 새로운 도구에 대비되어 있지 않다면 시스템은 멈추게 됩니다. 기계가 할 수 있는 일과 조직이 감당할 준비가 된 것 사이의 이 간극이 바로 연구자들이 해결하려고 노력하는 핵심 과제입니다.
뮌헨 응용과학대학교의 한 연구팀은 이 단절을 해결하기 위해 나섰습니다. 그들은 인공지능을 구축하는 방법에 대한 가이드는 많고 비즈니스 전략을 관리하는 방법에 대한 가이드도 많지만, 이 둘을 연결하는 단일하고 통합된 경로는 없다는 점에 주목했습니다. 기존의 가이드들은 종나 기술과 인간 측면을 별개의 문제로 취급하는 경우가 많습니다. 어떤 것들은 데이터 정제나 코딩 같은 엔지니어링 단계에만 전적으로 집중하여 노동자들이 어떻게 반응할지를 무시합니다. 또 다른 것들은 높은 수준의 비즈니스 목표에 집중하지만 실행을 위한 구체적인 단계는 제시하지 않습니다. 이러한 분리는 기업이 완벽한 기술적 솔루션을 구축하더라도 아무도 그것을 어떻게 사용하는지 모르거나 회사가 그것을 지원할 준비가 되어 있지 않은 위험한 상황을 초래합니다. 이를 해결하기 위해 연구진은 인공지능을 도입하는 45개의 서로 다른 기존 모델들을 분석했습니다. 그들은 단순히 읽기만 한 것이 아니라, 정확히 어떤 단계들이 포함되어 있고 무엇이 빠져 있는지 확인하기 위해 그것들을 해체했습니다.
분석 결과, 현재의 접근 방식들은 두 가지 주요한 사각지대를 가지고 있음이 드러났습니다. 첫째, 많은 모델이 내부 지향적이어서, 기술이 제대로 작동하는지는 보면서 그것이 시장이나 더 넓은 비즈니스 요구에 부합하는지는 묻지 않습니다. 둘째, 그들은 종종 지나치게 기술 관료적입니다. 즉, 인간의 경험보다 기계의 성능을 우선시한다는 의미입니다. 그들은 소프트웨어가 빠르고 정확하도록 보장할 수는 있지만, 인간이 이해하거나 신뢰하기 쉽게 시스템을 설계하는 데는 실패할 수 있습니다. 연구진은 거의 모든 모델이 데이터 품질과 비즈니스 가치가 중요하다는 점에는 동의하지만, 직원 교육이나 사용자 친화적인 인터페이스 설계와 같이 인간 측면을 관리하는 방법에 대한 구체적이고 단계적인 지침을 제공하는 모델은 매우 드물다는 것을 발견했습니다.
이를 해결하기 위해 연구팀은 '통합 사회기술적 AI 참조 모델(Integrated Sociotechnical AI Reference Model)'이라는 새로운 프레임워크를 구축했습니다. 그들은 이것을 맨바닥에서 발명한 것이 아니라, 연구한 45개 모델의 가장 좋은 부분들을 모아 만든 숙련된 건축가처럼 행동했습니다. 그들은 가장 포괄적인 두 개의 기존 가이드를 토대로 삼았고, 다른 모델들로부터 얻은 구체적이고 고품질인 단계들을 사용하여 빠진 부분을 채웠습니다. 그 결과, 기술적 트랙과 인간적 트랙이라는 두 가지 경로를 동시에 전진하도록 강제하는 하나의 응집력 있는 로드맵이 탄생했습니다.
이 새로운 모델은 과정을 평가(Evaluate), 설계(Design), 실현(Realize), 운영(Operate)의 네 가지 주요 단계로 나눕니다. 첫 번째 단계인 평가(Evaluate)에서 기업은 돈을 쓰기 전에 준비가 되었는지 확인해야 합니다. 이것은 단순한 기술적 점검이 아닙니다. 데이터, 법적 규칙, 그리고 사람을 살펴봐야 합니다. 모델은 이 시점에 엄격한 '게이트(gate)'를 도입합니다. 만약 데이터가 형편없거나 법적 허가가 불분명하다면 프로젝트는 즉시 중단됩니다. 이는 기업이 기술적으로 불가능하거나 법적으로 위험한 아이디어에 자원을 낭비하는 것을 방지합니다. 이는 비즈니스 전략이 실제로 회사가 가진 현실에 의해 뒷받침되는지를 보장합니다.
프로젝트가 첫 번째 게이트를 통과하면 설계(Design) 단계로 이동합니다. 여기서 모델은 시스템을 사용할 사람들이 만드는 과정에 참여해야 한다고 주장합니다. 엔지니어가 실험실에서 도구를 만들어 나중에 전달하는 대신, 회사는 노동자들이 시스템의 모습과 느낌을 설계하도록 돕는 워크숍을 열어야 합니다. 이는 도구가 실제 직무에 적합하도록 보장합니다. 동시에 기술 팀은 시스템 아키텍처를 설계합니다. 모델은 이 두 흐름이 병렬로 발생할 것을 요구합니다. 앞으로 나아가기 전, 설계가 안전하고 윤리적이며 그것을 사용할 사람들에게 신뢰를 받는지 확인하는 또 다른 게이트가 존재합니다. 만약 노동자들이 준비되지 않았거나 시스템을 신뢰하지 않는다면, 코드가 아무리 좋아도 프로젝트는 진행될 수 없습니다.
세 번째 단계인 실현(Realize)은 시스템이 구축되고 테스트되는 단계입니다. 모델은 소프트웨어는 매우 빠르게 업데이트될 수 있지만, 사람은 배우고 적응하는 데 더 오랜 시간이 걸린다는 점을 인식합니다. 기술이 직원들보다 너무 앞서 나가는 것을 방지하기 위해, 기업은 실험을 위한 안전한 공간을 만듭니다. 노동자들은 실제 업무에 사용하기 전에 저위험 환경에서 시스템을 시도해 볼 수 있습니다. 이는 그들이 실수에 대한 두려움 없이 새로운 도구에 익숙해지도록 돕습니다. 또한 모델은 시스템이 속도뿐만 아니라 공정성과 보안 측면에서도 테스트될 것을 요구합니다. 마지막 게이트는 시스템이 출시될 준비가 되었는지 확인합니다. 이 게이트는 간단한 질문을 던집니다: 시스템이 제공하는 가치가 이를 배포하는 비용을 정당화하는가? 만약 답이 '아니오'라면, 프로젝트는 일시 중단됩니다.
마지막 단계인 운영(Operate)은 시스템을 장기적으로 작동시키는 것에 관한 것입니다. 인공지능 시스템은 시간이 지남에 따라 표류할 수 있습니다. 즉, 세상이 변함에 따라 정확도가 떨어질 수 있다는 뜻입니다. 모델은 이러한 변화를 포착하기 위해 지속적인 모니터링을 요구합니다. 하지만 동시에 사람들에 대한 지속적인 케어도 요구합니다. 회사는 직원들과 계속 소통하고, 두려움을 다루며, 기술을 업데이트해야 합니다. 모델은 시스템이 윤리적으로 유지되고 인간 노동자가 기술에 의해 압도되지 않도록 보장하는 특정 감독 그룹을 포함합니다. 이 단계는 기술과 조직 사이의 관계가 둘 다 진화함에 따라 건강하게 유지되도록 보장합니다.
연구진은 새로운 모델을 몇 가지 가상의 시나리오를 통해 테스트했습니다. 한 사례에서는 데이터가 준비되었는지 확인하지 않고 고객 서비스 봇을 출시하려는 회사를 가정했습니다. 모델의 첫 번째 게이트가 프로젝트를 중단시켜 회사가 비용이 많이 드는 실패를 피하게 했습니다. 또 다른 시나리오에서는 매우 정확한 시스템을 구축했지만 노동자 교육을 건너뛴 팀을 가정했습니다. 모델의 마지막 게이트가 출시를 막아, 팀이 먼저 직원들을 교육하도록 강제했습니다. 이러한 테스트는 모델이 안전 장치로서 작동하며, 문제가 재앙이 되기 전에 잡아낸다는 것을 보여주었습니다.
모델이 실제 세계에서 작동할지 확인하기 위해, 연구진은 다양한 유형의 기업에서 인공지능 프로젝트를 관리하는 세 명의 전문가를 인터뷰했습니다. 이 전문가들은 기술적 트랙과 인간적 트랙을 나란히 실행한다는 아이디어가 필수적임을 확인해주었습니다. 그들은 많은 현재 프로젝트에서 사람과 문화를 관리하는 작업이 종종 보이지 않으며 예산에서 삭감된다는 점을 언급했습니다. 모델은 이 작업을 가시화하고 의무화합니다. 그러나 전문가들은 모델이 유연해야 한다고 지적했습니다. 빠르게 움직이는 스타트업의 경우, 프로세스가 표준 단계보다 더 빠르게 앞뒤로 순환해야 할 수도 있습니다. 연구진은 이러한 피드백 루프를 포함하도록 모델을 조정하여, 대규모의 안정적인 기업과 작고 민첩한 팀 모두가 사용할 수 있도록 보장했습니다.
연구는 인공지능의 가장 큰 장벽은 기술 그 자체가 아니라 그것을 관리하는 프로세스라고 결론짓습니다. 성공은 엔지니어링의 속도와 사람의 적응 속도를 동기화하는 기업의 능력에 달려 있습니다. 새로운 모델은 이를 위한 구조화된 방법을 제공하여, 윤리와 문화에 대한 추상적인 아이디어를 검증하고 확인할 수 있는 구체적인 단계로 바꿉니다. 이는 비즈니스에서의 인공지능의 미래가 알고리즘이 얼마나 똑똑한가가 아니라, 조직이 기술을 인간 인력과 얼마나 잘 정렬할 수 있느냐에 의해 정의될 것임을 시사합니다. 이 통합된 경로를 따름으로써, 기업은 강력한 도구를 만들었으나 아무도 사용할 준비가 되지 않은 상태가 되는 흔한 함정을 피하고, 인공지능에 대한 투자가 실제로 가치를 창출하도록 보장할 수 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.