Responsible Adoption of Generative AI in Health Care Work Systems: A Sociotechnical Document Analysis

디지털 부조종사: 진료실의 새로운 조력자

당신이 거대한 레고 성을 만들려고 노력 중이라고 상상해 보세요. 그런데 누군가가 끊임없이 질문을 던지고, 새로운 부품을 건네주고, 그 성에 살 사람들에 대한 이야기를 들려줍니다. 의사나 간호사가 느끼는 기분이 바로 이와 같습니다. 그들은 놀라운 의료 서비스를 제공하는 동시에, 일어나는 모든 일을 기록하는 복잡한 디지털 기록을 구축해야 합니다. 수년 동안 컴퓨터는 이 구축 작업을 돕기 위해 노력해 왔지만, 때로는 설명서가 너무 혼란스럽거나 부품들을 끼워 맞추기가 너무 어려워서, 제작자들이 이전보다 더 지쳐버리는 결과가 나타나기도 했습니다.

이제 새로운 종류의 조력자가 도착했습니다. 바로 생성형 인공지능(Generative AI)입니다. 이것을 당신의 업무를 대신할 로봇이 아니라, 대화를 듣고 즉시 완벽한 이야기 초안을 작성할 수 있는 매우 빠르고 재능 있는 서기라고 생각하세요. 이 기술은 '거대 언어 모델(Large Language Models)'을 사용하는데, 이는 기본적으로 거의 모든 기록된 글을 읽었으며 문장이 자연스럽게 들리도록 다음에 올 단어를 예측할 수 있는 거대한 디지털 두뇌와 같습니다. 하지만 과학자와 의사들이 던지는 핵심적인 질문이 있습니다. 만약 이 서기가 이야기를 쓴다면, 의사는 정말로 쉴 수 있을까요? 아니면 의사가 그저 서기의 초안과 실제 사이의 '틀린 그림 찾기'를 하는 데 모든 시간을 보내게 될까요? 이 논문은 이러한 새로운 도구들을 위한 규칙과 가이드라인이 어떻게 의료 업무의 미래를 형성하고 있는지 살펴보며, 바로 이 미스터리를 파헤칩니다.

---

논문의 핵심 발견: "거버넌스 기반 증강(Governed Augmentation)" 모델

Responsible Adoption of Generative AI in Health Care Work Systems라는 제목의 이 연구 논문은 특정 로봇을 테스트하는 실험실 실험이 아닙니다. 대신, 저자인 원드웬 슈메 베켈레(Wodwesen Shume Bekele)는 세계 최대 규모의 보건 당국(세계보건기구 및 국가 보건 서비스 등)이 작성한 "규칙집"과 "설명서"를 조사하는 탐정 역할을 수행했습니다. 저자는 이 조직들이 실제로 현실 세계에서 AI가 어떻게 작동해야 한다고 생각하는지 파악하기 위해 2024년에서 2026년 사이에 발행된 10개의 문서를 검토했습니다.

이 논문은 병원에서 AI를 생각하는 방식에 대대적인 업그레이드가 필요하다고 제안합니다. 우리는 단순히 멋진 AI 도구를 구매한다고 해서 그것이 마법처럼 우리의 업무량을 해결해 줄 것이라고 기대해서는 안 된다고 주장합니다. 대신, 이 논문은 **"거버넌스 기반 증강(Governed Augmentation)"**이라는 개념을 제안합니다. 저자가 발견한 내용을 몇 가지 재미있는 비유를 통해 자세히 살펴보겠습니다.

1. "조건부 업그레이드" (마법 지팡이가 아님)

당신이 고성능 레이싱 카를 샀다고 상상해 보세요. 당신은 "좋아, 그럼 난 더 빨라지겠지!"라고 생각할지도 모릅니다. 하지만 만약 당신이 진흙투성이 길에서 그 차를 운전하려고 하거나, 면허증이 없거나, 혹은 도로에 구멍이 가득하다면, 그 차는 도움이 되지 않을 것입니다. 오히려 차가 갇혀버릴 수도 있습니다.

논문에 따르면 AI의 이점은 조건부입니다. 검토된 문서들은 AI가 특정 직무, 특정 환자, 그리고 특정 의사에게 완벽하게 맞춤화되었을 때만 도움이 된다고 시사합니다. AI는 업무를 자동으로 사라지게 만드는 마법 지팡이가 아닙니다. 가치는 AI가 로컬 상황에 얼마나 잘 "구성(configured)"되었느냐에 달려 있습니다. 만약 의사가 바쁜 응급실용으로 설계된 AI 도구를 차분하고 장기적인 상담 세션을 기록하는 데 사용한다면, 상황을 오히려 악화시킬 수 있습니다. 논문은 "이점"이 AI 자체에 있는 것이 아니라, 전체 시스템의 세심한 설정에 있다고 제안합니다.

2. "검증 작업의 역설" (편집자의 함정)

여기서 까다로운 문제가 발생합니다. 아주 똑똑한 친구에게 에세이를 써달라고 부탁한 학생을 상상해 보세요. 친구는 완벽해 보이는 초안을 건넵니다. 하지만 학생은 친구가 실수로 사실을 지어냈거나 날짜를 틀리게 적지는 않았는지 확인하기 위해 모든 단어를 하나하나 읽어야 합니다.

논문은 하나의 역설을 식별합니다. AI는 노트를 작성함으로써 시간을 절약해 주어야 하지만, 의사는 그 노트가 안전한지 확인하기 위해 여전히 시간을 들여 검토해야 합니다. 만약 AI가 95% 완벽해 보이는 노트를 작성했다면, 의사는 나머지 5%의 오류를 수정하는 데 10분을 쓸 수도 있습니다. 하지만 의사가 피곤하거나 서두르고 있다면, 그 작은 오류를 놓칠 수도 있습니다. 논문은 "업무"가 사라진 것이 아니라, 그 형태가 변했을 뿐이라고 지적합니다. 처음부터 타이핑하는 대신, 의사는 이제 "검증 작업(verification work)"—즉, AI의 결과물을 확인하고, 수정하고, 설명하는 일을 하게 된 것입니다. 만약 시스템이 이러한 확인 과정을 지원하도록 설계되지 않았다면, AI는 스트레스를 줄이는 대신 오히려 더 많은 스트레스를 유발할 수 있습니다.

3. "책임의 압착" (누가 책임을 지는가?)

공장에서 만들어지고, 트럭 운송 회사를 통해 배송되며, 집주인이 콘센트에 꽂는 거대한 토스터기 같은 복잡한 기계를 생각해 보세요. 만약 토스터기에 불이 난다면, 누구의 책임일까요? 공장인가요? 트럭 운송 회사인가요? 아니면 그것을 콘센트에 꽂은 집주인인가요?

논문은 **책임 압착(accountability compression)**이라는 문제를 발견했습니다. 의료 분야에서 AI는 기술 기업이 만들고, 병원이 구매하며, 의사가 사용합니다. 기술 기업은 AI의 "두뇌"를 통제하고, 병원은 규칙을 통제합니다. 하지만 AI가 환자의 기록에서 실수를 했을 때, 가이드라인은 종종 의사가 최종 기록에 대한 책임을 져야 한다고 규정합니다. 논문은 이것이 불일치라고 제안합니다. 의사는 자신이 통제할 수 없는 AI의 코드나 데이터를 근거로, 스스로 보고도 고칠 수 없는 오류에 대해 책임을 져야 하는 상황으로 "압착"됩니다. 논문은 이것이 공정하게 작동하려면 AI를 사용하는 사람뿐만 아니라 AI를 통제하는 사람들(기업과 병원)도 더 많은 책임을 져야 한다고 주장합니다.

4. "라이프사이클" (단거리 경주가 아닌 마라톤)

많은 사람이 AI를 사는 것을 토스터기를 사는 것과 같다고 생각합니다. 콘센트에 꽂기만 하면 영원히 작동할 것이라고 말이죠. 하지만 논문은 AI를 구매하는 것이 마치 살아있는 정원을 가꾸는 것과 같다고 주장합니다. 씨를 뿌리고, 물을 주고, 잡초를 뽑고, 자라는 모습을 계속 지켜봐야 합니다.

검토된 문서들은 책임 있는 도입을 위해 **조직적 라이프사이클 역량(organizational lifecycle capability)**이 필요함을 시사합니다. 이는 병원이 단순히 도구를 구매하고 떠나서는 안 된다는 뜻입니다. 병원은 AI를 지속적으로 관찰하고, AI가 여전히 제대로 작동하는지 확인하며, 직원들을 교육하고, AI가 이상하게 작동하기 시작하면 끌 수 있는 팀을 보유해야 합니다. 논문은 안전이란 한 번 "구매"하는 것이 아니라, 매일 계속해서 구축하고 유지 관리해야 하는 것이라고 제안합니다.

5. "환자의 선택" (거부권 버튼)

마지막으로, 논문은 환자가 단순히 수동적인 관찰자가 아님을 강조합니다. 요리사가 로봇을 사용하여 음식을 만드는 식당에 갔다고 상상해 보세요. 당신은 그 사실을 알 권리가 있으며, "아니요, 저는 사람이 만든 음식을 먹고 싶습니다"라고 말할 권리가 있어야 합니다.

논문은 환자의 주체성(patient agency)(환자의 선택권)이 단순한 좋은 아이디어가 아니라 실질적인 요구 사항임을 밝힙니다. 가이드라인은 환자에게 AI가 사용되고 있음을 알려야 하며, 만약 사용을 원하지 않을 경우 실질적인 대안을 가질 수 있어야 한다고 제안합니다. 만약 빠른 예약을 받는 유일한 방법이 AI를 사용하는 것이라면, 환자는 진정한 선택권을 가진 것이 아닙니다. 논문은 AI가 공정하기 위해서는 환자가 양질의 진료를 받지 못하는 불이익 없이도 "아니오"라고 말할 수 있도록 시스템이 설계되어야 한다고 제안합니다.

이것이 미래에 의미하는 바

이 논문은 AI가 재앙이라거나 기적이라고 주장하지 않습니다. 대신, **거버넌스 기반 증강(Governed Augmentation)**이라는 중간 경로를 제시합니다. 이는 AI를 사용하여 의사와 간호사가 업무를 더 잘 수행하도록 돕되, 오직 전체 시스템이 새로운 형태의 업무를 처리할 수 있도록 설정되었을 때만 가능하다는 것을 의미합니다.

저자는 우리가 AI를 진정으로 돕게 만들고 싶다면, AI를 우리가 구매하는 "제품"으로 보는 것을 멈추고 우리가 관리해야 하는 "서비스"로 보기 시작해야 한다고 제안합니다. 우리는 의사들이 AI의 결과물을 확인할 시간과 도구를 갖추도록 해야 하며, 기업들이 자신들의 실수에 책임을 지게 하고, 환자들이 자신의 진료 기록 방식에 대해 실질적인 목소리를 낼 수 있도록 해야 합니다.

요약하자면, 이 논문은 AI가 훌륭한 조력자가 될 수 있지만, 오직 우리가 그 주변에 규칙, 교육, 그리고 안전망을 먼저 구축했을 때만 가능하다는 결론을 내립니다. 그렇지 않다면, AI의 "마법"은 관련된 모든 사람에게 새로운 종류의 골칫거리가 될 뿐입니다.