The partial adoption trap: Coordination failure, trust, and cultural lock-in in health AI adoption

아리 에르콜레 (Ari Ercole) 의 논문 "부분적 도입의 함정 (The Partial Adoption Trap)"에 대한 설명을 일상적인 언어와 비유를 사용하여 번역한 것입니다.

큰 그림: "반쪽짜리" 문제

한 병원이 의사들의 업무를 돕기 위해 새로운 초지능 AI 시스템을 도입하기로 결정했다고 상상해 보세요. 목표는 단순히 한 명의 의사 업무를 편하게 만드는 것이 아니라, 환자 진료 속도를 높이고 비용을 절감하기 위해 병원 전체의 운영 방식을 완전히 재편성하는 것입니다.

이 논문은 의사들이 메모 입력과 같은 작고 쉬운 작업에는 AI 를 기꺼이 사용하지만, 시스템이 의도한 대로 작동하도록 전체 업무 흐름을 바꾸는 것은 종종 거부한다고 주장합니다. 그 결과는 무엇일까요? AI 는 어디에나 "설치"되었지만, 병원은 약속했던 큰 혜택을 전혀 얻지 못합니다. 이것이 바로 부분적 도입의 함정입니다.

저자는 이것이 왜 발생하는지, 그리고 의사들에게 보너스를 주는 것과 같은 표준적인 해결책이 오히려 상황을 악화시키는 이유를 보여주기 위해 수학적 모델 (게임 이론 시뮬레이션과 유사) 을 사용합니다.

---

의사들이 게임을 플레이하는 세 가지 방식

이 모델은 새로운 시스템이 도착했을 때 의사들이 세 가지 선택지를 가진다고 제안합니다.

1. 진정한 도입 (전부 걸기 플레이어): 의사는 새로운 AI 에 맞춰 일정을 완전히 바꿉니다. 환자를 보는 방식, 예약을 잡는 방식, 직원들과 대화하는 방식을 모두 변경합니다.
   • 주의할 점: 이는 처음에는 힘들고 혼란을 초래합니다.
2. 부분적 도입 (현명한 절약자): 의사는 서류 작업 시간을 단축하는 것과 같은 쉬운 일에만 AI 를 사용하지만, 그 외의 모든 것은 기존 방식을 유지합니다.
   • 주의할 점: 시스템 전체를 바꾸는 번거로움 없이 시간을 절약할 수 있어 즉각적으로 만족스럽습니다.
3. 거부 (루다이트): 의사는 도구를 완전히 무시합니다.

함정: "부분적 도입"이 단기적으로 더 쉽고 보상적으로 느껴지기 때문에 대부분의 의사가 이를 선택합니다. 하지만 시스템이 작동하려면 충분한 수의 사람들이 "진정한 도입"을 선택해야 합니다. 모두가 "부분적 도입"을 한다면, 시스템은 엔진은 돌아가지만 바퀴는 중립에 있는 차와 같습니다. 소음은 나지만 어디로도 이동하지 않는 것입니다.

---

함정이 발생하는 네 가지 이유

이 논문은 병원이 왜 이런 "반쪽짜리" 상태에 갇히게 되는지 네 가지 구체적인 이유를 지적합니다.

1. "너무 작아 의미 없음" 문제 (임계점 실패)

비유: 캠프파이어를 피우는 상황을 상상해 보세요. 텐트 전체를 데울 수 있는 불꽃을 만들려면 동시에 타오르는 막대기가 일정 수 이상 필요합니다. 막대기를 몇 개만 태우면 연기만 피어오르다 꺼집니다.
현실: AI 가 환자 흐름 개선과 같은 시스템 전체의 혜택을 창출하려면 의사들의 업무 흐름을 변경하는 임계 질량 (critical mass) 이 필요합니다. 만약 당신이 유일하게 변화를 시도한다면, 당신은 그저 흐름에 맞서 싸우는 이단아일 뿐입니다. 혜택은 "터닝 포인트"를 넘어서야 발동됩니다. 단일 의사는 혼자서 그 지점을 넘을 수 없으므로 다른 사람들을 기다리게 되고, 아무 일도 일어나지 않습니다.

2. "약속 파기" 문제 (신뢰 실패)

비유: 상사가 팀에게 "더 열심히 일해서 회사 돈을 아끼면 보너스를 주겠다"고 말합니다. 팀은 열심히 일해 돈을 아꼈지만, 상사는 "사실 그 절약금은 회사에 남겨두겠습니다. 보너스는 없습니다"라고 말합니다.
현실: 의사들은 자신이 진정으로 업무를 재편성하면 병원이 막대한 돈을 절약할 수 있음을 알고 있습니다. 하지만 의사들은 병원이 그 절약금을 자신들과 공유할 것이라고 신뢰하지 않습니다. 힘든 일을 해놓으면 병원이 그 공과 돈을 독차지할까 봐 두려워합니다. 그래서 약속이 깨질 수 있는 "진정한" 길을 위험하게 여기기보다, 자신의 시간 절약분을 유지하는 "부분적" 경로를 선택합니다.

3. "옛 습관은 죽기 힘들다" 문제 (문화적 락인)

비유: "우리는 저 새로운 춤은 추지 않는다"는 데 모두 동의한 친구 그룹을 상상해 보세요. 한 사람이 춤을 추려고 하면 다른 사람들이 그를 비웃거나 무시합니다. 결국 그 사람은 어울리기 위해 춤추는 것을 멈춥니다.
현실: 대부분의 의사가 "부분적 도입"을 한다면, 팀의 문화는 "도구를 사용하지만 업무 방식을 실제로 바꾸지는 않는다"는 것이 됩니다. 만약 한 의사가 "진정한" 도입을 시도하면, 동의하지 않는 동료들로부터 사회적 압력과 마찰을 겪게 됩니다. 그룹 문화는 모두를 평범한 "부분적" 상태에 가둡니다.

4. "가치의 역설"

비유: 보물이 가치 있을수록 사람들이 함께 그것을 파내려 하기 더 어려워집니다.
현실: 논문은 잔혹한 아이러니를 발견합니다. 생명을 구하고 돈을 절약할 가장 큰 잠재력을 가진 기술 (시스템 변화형 AI) 일수록 도입하기가 가장 어렵습니다. 반면, 도입이 쉬운 기술 (간단한 맞춤법 검사기 같은 포인트 솔루션 AI) 은 쉽게 확산됩니다. 변화의 가치가 클수록 함정에 갇힐 가능성이 더 높습니다.

---

"비용 래칫": 희망의 빛

모델에는 **비용 래칫 (Cost Ratchet)**이라는 흥미로운 반전이 하나 있습니다.

비유: 무거운 바위를 언덕 위로 밀어 올리려고 상상해 보세요. 처음에는 엄청나게 힘듭니다. 하지만 특정 지점을 조금만 넘기면 지형이 변하여 바위를 영원히 더 쉽게 밀 수 있게 됩니다. 당신이 밀기를 멈추고 바위가 다시 굴러내려가더라도, 지형은 변한 채로 남습니다. 다음에 시도할 때는 처음보다 더 쉽습니다.

현실: 병원이 AI 도입을 시도했다가 실패했다면 (임계점에 도달하지 못했다면), 시간을 낭비했다고 생각할 수 있습니다. 하지만 논문은 실패한 시도조차도 "비용을 감소시킨다"고 주장합니다. 의사들은 조금 배웠고, 시스템은 조금 익숙해졌습니다. 진입 장벽은 영구적으로 낮아집니다.

• 하지만: 이는 의사들이 너무 빨리 신뢰를 잃지 않을 때만 도움이 됩니다. 병원이 약속을 너무 빨리 깨면, "학습"이 일어나기 전에 의사들의 신뢰가 더 빠르게 무너져 함정이 더 깊어집니다.

---

함정에서 벗어나는 방법 (해결책)

논문은 모든 의사에게 도구 사용을 위한 작은 보너스를 주는 것과 같은 표준적인 정책이 오히려 함정을 악화시킨다고 주장합니다. 왜냐하면 근본적인 신뢰나 문화 문제를 해결하지 않은 채 "부분적 도입"을 장려하기 때문입니다.

함정에서 벗어나기 위해서는 병원이 다음과 같은 특정 순서의 행동을 취해야 합니다.

1. 먼저 신뢰를 구축하라: 의사들에게 변화를 요구하기 전에, 시스템이 돈을 절약하면 의사들이 반드시 그 일부를 공유받게 될 것이라는 계약을 병원이 체결해야 합니다. 신뢰가 없으면 변화도 없습니다.
2. 문화를 준비하라: 기술을 도입하기 전에 팀을 준비시켜야 합니다. 첫 번째 도입자들이 기존 질서에 의해 괴롭힘을 당하지 않도록 "집단 규범"이 변화를 지지하도록 해야 합니다.
3. 개인에게가 아니라 팀을 심어라: 변화를 병원 전체에 얇게 퍼뜨리지 마십시오. 하나의 특정 팀 (씨앗) 을 선택하여 그 팀의 모든 구성원이 동시에 "진정한" 도입을 하도록 하십시오. 이는 지역적으로 임계점을 넘어서게 하여, 결국 확산될 수 있는 작은 불꽃을 만드는 데 도움이 됩니다.
4. "내재화" 단계를 지원하라: 팀이 마침내 임계점을 넘었을 때, 새로운 업무 방식이 정착되도록 모든 지원 자원을 그 순간에 쏟아부어야 합니다.

결론

이 논문은 "시스템 변화형 AI"를 단순한 소프트웨어 업데이트처럼 취급해서는 안 된다고 결론 내립니다. 신뢰 없이 개별적인 인센티브로 의사들에게 이를 강요한다면, 우리는 메모 입력을 더 빠르게 하기 위해 도구를 사용하는 의사들로 가득 찬 병원을 얻게 될 것입니다. 하지만 병원은 여전히 이전처럼 느리고 비쌉니다. 우리는 "변한 것처럼 보이지만 실제로는 변하지 않은" 함정에 갇히게 됩니다.