Strategic Patient Involvement in Medical AI Co-Design: A Pilot Study in Heart Failure

전 세계 병원의 응급실에서 의사들은 매일 어렵고 긴박한 질문에 직면합니다. 심부전 환자가 도착했을 때, 이 환자가 안전하게 집으로 돌아갈 수 있을지, 아니면 입원해야 할지 말입니다. 이 결정은 매우 중대한 사안입니다. 아픈 사람을 너무 빨리 집으로 돌려보내는 것은 재방문이나 더 나쁜 상황을 초래할 수 있는 반면, 상태가 안정적인 사람을 병원에 계속 머물게 하는 것은 자원을 낭비하고 다른 환자들의 치료를 지연시킵니다. 이러한 선택을 돕기 위해 과학자들은 인공지능을 사용하여 환자의 위험도를 예측하는 컴퓨터 프로그램을 구축하고 있습니다. 이 도구들은 의료 데이터를 살펴보고 누가 더 악화될지를 추측합니다. 그러나 오랫동안 이러한 도구들은 무엇이 중요한 정보인지, 그리고 결과가 어떻게 보여야 하는지를 결정하는 의사와 엔지니어들에 의해 설계되어 왔습니다. 실제로 그 심장 질환을 앓으며 그 결정의 결과를 감내하며 살아가야 하는 사람들은 그 도구를 형성하는 데 도움을 줄 기회를 거의 얻지 못했습니다.

스페인과 네덜란드의 연구진이 진행한 새로운 파일럿 연구는 그 순서를 뒤집었을 때 어떤 일이 일어나는지 묻습니다. 연구진은 환자들에게 완성된 제품을 단순히 보고 마음에 드는지 묻는 대신, 심부전 환자들을 불러 기초부터 도구를 설계하도록 초대했습니다. 목표는 환자들이 기술이 작동하는 방식에 대해 실질적인 결정권을 가졌을 때, 전문가들이 상상했던 것과는 다른 것을 만들어낼 것인지를 확인하는 것이었습니다. 연구 결과, 환자들이 단순한 테스터가 아니라 전략적 파트너로 대우받았을 때, 그들은 도구를 완전히 재구상했습니다. 그들은 이 도구를 의사를 위한 계산기에서 환자를 위한 지원 가이드로 변화시켰으며, 평이한 언어로 말하고, 정서적 요구를 존중하며, 확신이 없을 때는 답을 내놓기를 거부하는 도구로 만들었습니다.

연구진은 심부전 경험이 있는 11명의 사람을 바르셀로나에서 열린 이틀간의 워크숍에 모았습니다. 직접 만나기 전, 참가자들은 인공지능이 어떻게 작동하는지에 대한 기초를 배우기 위해 온라인 과정을 이수하여 모두가 같은 출발선에서 시작할 수 있도록 했습니다. 현장에 도착했을 때, 그들은 프로토타입을 비평하라는 요청을 받지 않았습니다. 대신, 도구가 무엇이어야 하는지, 누구를 위해 존재해야 하는지, 그리고 어떻게 행동해야 하는지를 결정할 자유를 부여받았습니다. 워크숍은 신뢰할 수 있는 기술이라는 원칙을 중심으로 구성되었으며, 환자의 여정 지도 그리기, 다양한 유형의 사람들을 위한 페르소나 만들기, 도구가 실제 진료 상황에 어떻게 녹아들지 역할극 하기 등의 활동을 통해 그룹을 안내했습니다. 참가자들은 두 개의 별도 그룹으로 나누어 작업했는데, 놀랍게도 두 그룹은 서로 대화하지 않고도 거의 동일한 설계를 도출해 냈습니다.

참가자들이 만든 가장 눈에 띄는 변화는 도구의 목적 자체였습니다. 프로젝트는 응급실에서 의사가 퇴원 결정을 내리는 데 도움을 주는 화면을 만드는 것으로 시작되었습니다. 하지만 환자들은 이 사고방식의 결함을 즉각 지적했습니다. 만약 도구가 오직 의사만을 위한 것이라면, 환자 자신은 이를 보지 못할 것이며, 자신의 위험도나 계획을 이해할 수도 없다는 것이었습니다. 그들은 도구가 환자를 위한 모바일 애플리케이션이어야 한다고 주장했습니다. 그들은 기계에 의해 데이터가 수집되는 것이 아니라, 스스로 정보를 입력하는 주체가 되고 싶어 했습니다. 또한 도구가 위기의 순간에 포착한 심장 기능의 단면만을 보는 것이 아니라, 그들을 온전한 사람으로서 이해해야 한다고 주장했습니다. 이는 식단, 종교적 관습, 주거 환경, 이동 능력과 같이 개인의 삶에 영향을 미치는 세부 사항들을 포함해야 함을 의미했습니다. 이러한 요소들은 그들에게 위험 예측이 어떻게 적용되는지를 변화시키기 때문입니다.

도구가 결과를 보여주는 방식에 있어서도, 참가자들은 의료 통계에서 흔히 볼 수 있는 차갑고 딱딱한 숫자들을 거부했습니다. 그들은 "6.4 퍼센트"와 같은 구체적인 사망 확률을 보는 것이 공포스럽고 도움이 되지 않는다고 설명했습니다. 대신, 그들은 위험도를 낮음, 중간, 높음과 같이 넓고 이해하기 쉬운 범주로 보여주기를 원했습니다. 더 중요한 것은, 도구가 그들에게 다음에 무엇을 해야 할지 알려주어야 한다는 점이었습니다. 위험 점수만으로는 그저 숫자에 불과하지만, "오늘 의사에게 전화하세요" 또는 "체중을 체크하세요"와 같은 명확하고 실행 가능한 단계가 결합된 위험 점수는 사람이 활용할 수 있는 것이 됩니다. 또한 그들은 도구가 자신의 한계에 대해 정직하기를 원했습니다. 만약 컴퓨터가 특정 개인에 대해 신뢰할 만한 추측을 내릴 만큼 충분한 데이터를 가지고 있지 않다면, 참가자들은 도구가 잘못되거나 오해를 불러일으킬 수 있는 숫자를 제시하기보다 단순히 "지금은 말씀드릴 수 없습니다"라고 말해야 한다고 했습니다. 그들은 이러한 침묵을 기술의 실패가 아닌, 정직함의 한 형태이자 신뢰를 쌓는 방법으로 보았습니다.

설계에는 환자가 얼마나 많은 정보를 알고 싶어 하는지를 제어할 수 있는 방법도 포함되었습니다. 참가자들은 급성 질환의 순간에 복잡한 설명을 읽을 에너지가 없을 수도 있다는 점을 인식했습니다. 그들은 간단한 요약본을 보거나, 원한다면 예측이 어떻게 이루어졌는지에 대한 더 기술적인 정보를 클릭하여 볼 수 있는 시스템을 설계했습니다. 이를 통해 그들은 자신이 원하는 순간에 어느 정도의 정보를 감당할 수 있을지 결정할 수 있는 권한을 갖게 되었습니다. 또한 그들은 도구가 자신과 의사 사이의 가교 역할을 하여, 개인 데이터를 의료진과 공유하고 그 대가로 업데이트를 받을 수 있게 함으로써, 일방적인 정보 흐름이 아닌 파트너십을 형성해야 한다고 강조했습니다.

워크숍의 성공에도 불구하고, 참가자들은 남아있는 과제들에 대해 현실적이었습니다. 그들은 이러한 아이디어들을 실제 작동하는 제품으로 만드는 것이 어렵다는 점을 지적했습니다. 데이터 프라이버시에 관한 법률, 소프트웨어 구축 및 유지 관리 비용, 그리고 병원 자금 조달 방식 등이 좋은 아이디어가 최종 제품에 도달하는 것을 막는 장벽이 될 수 있다고 언급했습니다. 한 참가자는 단 한 번의 워크숍으로는 이러한 깊은 구조적 문제를 해결할 수 없으며, 환자를 참여시키는 과정이 표준화되고 적절한 자금과 시간으로 뒷받침되어야 한다고 말했습니다. 연구진 또한 환자들이 명확하고 일관된 비전을 제시했지만, 그 비전이 의사의 손에 들린 도구로 이어지는 경로는 여전히 불확실하다는 점에 동의했습니다.

이 연구는 삶의 경험을 가진 사람들이 자신들의 삶에 영향을 미치는 기술을 설계할 공간을 갖게 될 때, 그들이 단순히 인터페이스를 수정하는 것이 아니라 문제를 재정의한다는 것을 시사합니다. 그들은 초점을 '의사가 병상 관리를 돕는 도구'에서 '사람이 자신의 삶을 관리하도록 돕는 도구'로 옮겼습니다. 그들은 고도의 결정이 필요한 기술, 특히 죽음의 위험이 연관된 경우, 알고리즘의 수학적 정확도만큼이나 사용자의 정서적, 실질적 요구가 중요하다는 것을 보여주었습니다. 이 연구는 환자들이 단순한 피실험자가 아닌 파트너로서 대우받을 때, 복잡한 시스템에 대해 전략적 사고를 할 수 있음을 입증했습니다. 이 연구에서 기술된 도구는 아직 사용 중은 아니지만, 이 그룹이 만든 설계 명세는 의료 인공지능이 단순히 그것을 사용하는 시스템이 아니라, 도움을 주고자 하는 대상인 사람들을 위해 어떻게 구축될 수 있는지에 대한 새로운 청사진을 제공합니다.