Generated Context versus Governed State: Functional Conditions for Accountable Longitudinal Clinical Reasoning

수십 년 동안 우리의 건강에 대한 디지털 기록은 그저 디지털 서류 보관함에 불과했습니다. 의사가 환자의 혈압에 대해 노트를 작성하거나 간호사가 투약 변경 사항을 기록할 때, 그 정보는 마치 서랍 속의 편지처럼 하나의 문서로 저장됩니다. 환자의 현재 상태를 이해하기 위해 인간은 이 편지들을 읽고, 이야기를 짜 맞추며, 전체적인 그림을 머릿속에 담아두어야 합니다. 이것은 항상 임상의의 몫이었습니다. 즉, 흩어진 종이들의 모음으로부터 한 사람의 건강에 대한 진실을 재구성하는 작업입니다. 최근 몇 년 사이, 거대 언어 모델이라 불리는 강력한 컴퓨터 시스템들이 등장하여 놀라운 속도와 유창함으로 이 문서들을 읽을 수 있게 되었습니다. 이 시스템들은 환자의 병력을 단 몇 초 만에 요약하고, 인간이 조사하는 데 몇 시간이 걸렸던 질문들에 답할 수 있습니다. 하지만 이러한 시스템들은 텍ext을 읽는 데는 뛰어나지만, 특정 시점에 환자에 대해 실제로 무엇이 사실인지에 대한 별도의 조직된 기록을 본질적으로 유지하지는 못합니다. 이들은 환자의 병력을 처리해야 할 단어의 흐름으로 취급할 뿐, 추적해야 할 살아있는 상태로 취급하지 않습니다.

유창하게 읽는 것과 정확하게 아는 것 사이의 이 간극은 MyndwareMed의 연구진이 발표한 새로운 논문이 다루는 핵심 문제입니다. 저자들은 환자의 병력을 단순한 텍스트의 집합으로 취급하는 것이 장기적인 케어를 신뢰할 수 있는 인공지능을 구축하려 할 때 발생하는 근본적인 결함이라고 주장합니다. 그들은 임상적 추론이 독해력 테스트가 아니라, 변화하는 현실을 추적하는 문제라고 제안합니다. 로봇이 방을 항해할 때 벽과 문의 위치를 나타내는 지도를 끊임없이 업데이트해야 하는 것처럼, 의료 시스템도 환자의 상태에 대한 지속적이고 통제된 기록을 유지해야 합니다. 연구진은 정보를 처리하는 매우 다른 두 가지 방식을 구분합니다. 첫 번째는 '생성된 컨텍스트(generated context)'로, 컴퓨터가 단일 질문을 위해 관련 문서를 수집한 다음 답변을 준 뒤에는 그것들을 잊어버리는 방식입니다. 두 번째는 '통제된 상태(governed state)'로, 시스템이 자신이 진실이라고 믿는 바에 대해 지속적이고 버전이 관리되며 감사가 가능한 기록을 유지하며, 관찰된 것과 추론된 것을 분리하는 엄격한 규칙에 의해서만 업데이트되는 방식입니다.

이 논문은 새로운 컴퓨터 모델들이 글을 읽는 데 서투르다고 주장하는 것이 아닙니다. 사실, 이들은 텍스트에서 패턴을 찾는 데 있어 종종 인간보다 더 뛰어납니다. 문제는 기록을 읽는 것이 환자를 아는 것과 같지는 않다는 점입니다. 연구진은 현재의 시스템들이 종종 작성된 노트와 의학적 사실을 혼동하거나, 누락된 문서와 누락된 질환을 혼동한다는 것을 보여줍니다. 예를 들어, 환자가 10년 전에 신장 문제를 겪었지만 지난 1년 동안 아무런 검사를 받지 않았다면, 표준적인 시스템은 가장 최근의 노트에 아무런 문제가 없다고 적혀 있다는 이유로 환자의 신장이 건강하다고 자신 있게 말할 수 있습니다. 그러나 통제된 상태를 가진 시스템은 마지막 측정값이 오래되었으며 현재 상태는 알 수 없다는 점을 인식할 것입니다. 이 시스템은 정보를 공백으로 채워 넣는 대신, 정보의 공백을 명시적으로 표시할 것입니다. 이러한 구별은 의학에서 '우리가 이것이 사실임을 알고 있다'와 '우리는 이것에 대한 증거를 보지 못했다'의 차이가 치료의 안전 여부를 결정할 수 있기 때문에 매우 중요합니다.

이를 해결하기 위해, 저자들은 의료적 추론의 복잡한 과정을 절대 혼동해서는 안 될 다섯 가지 별개의 객체로 나눕니다. 첫째, 환자의 실제 상태(true state)는 신체의 실제 물리적 조건이며, 어떤 시스템도 이를 직접 소유할 수 없고 오직 추정할 수 있을 뿐입니다. 둘째, 관찰(observations)은 케어 팀이 수행한 구체적인 측정값이나 기록입니다. 셋째, 증거(evidence)는 시스템에 입력된 가공되지 않은 데이터로, 그것이 언제 작성되었고, 언제 수신되었으며, 누가 작성했는지에 대한 기록을 포함합니다. 넷th, 믿음(belief)은 지금까지의 모든 증거를 바탕으로 환자의 상태에 대해 시스템이 가진 최선의 추측입니다. 마지막으로, 시뮬레이션(simulation)은 "만약 ~한다면"과 같은 질문, 예를 들어 환자가 다른 약을 복용한다면 어떤 일이 일어날지에 대한 가설적 시나리오입니다. 논문은 대부분의 현재 인공지능 시스템이 이 다섯 가지 별개의 개념을 하나로 붕괴시켜, 축적된 노트들을 현재의 진실인 것처럼 취급한다고 주장합니다. 이는 오래된 정보를 새로운 것으로 취급하거나, 추측을 사실로 오인하는 오류로 이어집니다.

연구진은 이러한 시스템이 어떻게 구축되어야 하는지에 대한 새로운 표준을 제안하며, 시스템이 환자의 상태를 얼마나 잘 통제하는지를 측정하는 계층적 프레임워크로 구성합니다. 가장 낮은 단계에서 시스템은 단순히 텍스트를 저장할 수 있습니다. 더 높은 단계에서는 그 텍스트를 명확한 출처와 타임스탬프를 가진 구조화된 사실로 조직하기 시작합니다. 가장 발전된 단계는 시스템이 원본 증거와 구별되는 별도의 '믿음' 객체를 유지할 것을 요구합니다. 이 믿음 객체는 측정값이 누락되었거나 서로 다른 두 의사의 보고가 상충하는 것과 같은 불확실성을 나타낼 수 있어야 합니다. 결정적으로, 이 시스템은 자신의 이력을 재생할 수 있어야 합니다. 만약 의사가 "이 환자의 심장 상태에 대해 3개월 전에 당신은 무엇을 믿었습니까?"라고 묻는다면, 시스템은 오늘 사용 가능한 증거가 아니라 당시 가용했던 증거를 바탕으로 당시의 지식 상태를 정확히 재구성할 수 있어야 합니다. 시스템의 이해가 시간이 지남에 따라 어떻게 변했는지를 되돌아볼 수 있는 이 능력을 저자들은 '책임성(accountability)'이라고 부릅니다.

또한, 이 논문은 누락된 정보를 처리하는 구체적인 방법을 소개합니다. 표준적인 시스템에서는 기록에 알레르기에 대한 언급이 없으면 시스템은 환자에게 알레르기가 없다고 가정할 수 있습니다. 통제된 시스템에서 정보의 부재는 특정한 유형의 데이터 포인트로 취扱됩니다. 시스템은 '알레르기 기록 없음'(질문 자체가 이루어지지 않음), '환자가 알레르기가 없다고 보고함'(보고된 부정), '알레르기 검사 결과 음성'(관찰된 부정)을 구분하는 법을 배웁니다. 각각은 서로 다른 수준의 확실성을 가지며 서로 다른 임상적 대응을 요구합니다. 이러한 부재를 올바르게 유형화함으로써, 시스템은 침묵이 곧 안전을 의미한다고 가정하는 위험한 습관을 피하게 됩니다. 저자들은 6년간의 신장 문제를 앓은 환자에 대한 상세한 사례를 통해 이를 입증합니다. 가장 최근의 노트만을 보는 표준 시스템은 위험한 의료 절차를 권장할 수 있습니다. 반면, 측정값의 타임라인과 그 사이의 간격을 추적하는 통제된 시스템은 환자의 현재 신장 기능이 알려지지 않았음을 정확히 식별하고, 절차를 진행하기 전 새로운 검사를 권고할 것입니다.

이 연구는 완성된 제품이라기보다 개념적인 청사진으로 제시되었습니다. 저자들은 이 새로운 아키텍처가 실제 임상 시험에서 더 나은 환자 결과를 이끌어낸다는 것을 아직 증명하지 못했음을 분명히 하고 있습니다. 대신, 그들은 그러한 시스템이 존재하기 위한 필요 조건을 정의하고, 어떤 시스템이 그 조건을 충족하는지 감사할 수 있는 방법을 제공했습니다. 그들은 현재의 초점이 언어 모델을 더 똑똑하고 빠르게 만드는 데 집중되어 있다면, 그것은 핵심을 놓치고 있는 것이라고 주장합니다. 진짜 과제는 독자의 지능이 아니라, 그 독자가 읽는 '상태'의 통제에 있습니다. 그들은 인공지능이 병원 환경에서 진정으로 책임을 지기 위해서는, 단순히 텍스트를 생성하는 것을 넘어 자신이 무엇을 알고 무엇을 모르는지에 대한 지속적이고 버전이 관리되며 감사가 가능한 기록을 유지하기 시작해야 한다고 제안합니다. 논문은 증거를 추적하는 기본 인프라를 구축하는 것부터 시작하여 환자가 시간에 따라 어떻게 변화하는지에 대한 완전한 모델로 나아가는 연구 프로그램을 개략적으로 설명하며 마무리됩니다. 목표는 모호한 '책임 있는 AI'라는 약속을 체크 가능하고, 테스트 가능하며, 신뢰할 수 있는 구체적인 엔지니어링 요구 사항으로 바꾸는 것입니다.