Eliminating False-Negative Discharges in Tuberculosis Screening: Multi-Cohort Development and Independent External Stress-Testing of an Auditable Conformal AI Safety Architecture

결핵은 여전히 세계에서 가장 치명적인 감염병 중 하나로, 매년 백만 명 이상의 생명을 앗아갑니다. 결핵이 가장 흔한 많은 지역에서 이를 찾아내는 주요 도구는 폐의 건강 상태를 보여주는 빠른 이미지인 흉부 X선 촬영입니다. 그러나 이 이미지를 판독하도록 가장 잘 훈련된 사람들인 흉부 영상의학 전문의는 흔히 부족한 실정입니다. 이러한 인력 부족은 환자들이 진단을 받기 위해 몇 주를 기다리게 하거나, 더 나쁜 경우에는 진단 없이 집으로 돌아가게 하여 감염을 계속 확산시키는 병목 현상을 만듭니다. 이를 해결하기 위해 과학자들은 인공지능을 활용하여, X선을 스캔하고 의심스러운 사례를 표시하여 인간의 검토를 요청할 수 있는 컴퓨터 프로그램을 구축하고자 노력해 왔습니다. 문제는 이러한 컴퓨터 프로그램들이 종종 과도하게 확신을 갖는다는 점이었습니다. 특이한 이미지나 다른 장비로 촬영된 이미지를 접했을 때, 컴퓨터는 환자가 병에 걸렸음에도 불구하고 절대적인 확신을 가지고 건강하다고 선언할 수 있습니다. 이러한 "침묵하는 위음성(silent false negative)"은 위험합니다. 왜냐하면 감염된 사람이 의료적 확인 없이 즉시 퇴원하게 만들기 때문입니다.

한 연구자는 이 문제에 대한 새로운 접근 방식을 개발하여, 컴퓨터가 이러한 위험한 실수를 저지르는 것을 방지하는 안전 시스템을 만들었습니다. 단일 알고리즘에 최종 판단을 맡기는 대신, 그들은 엄격한 문지기 역할을 하는 프레임워크를 구축했습니다. 이 시스템은 X선 이미지를 분석하기 전에 이미지의 품질을 먼저 확인하여, 사진이 깨끗한지, 그리고 열악한 스캐닝이나 심한 압축으로 인해 왜곡되지 않았는지 확인합니다. 만약 이미지가 너무 흐릿하거나 손상되었다면, 시스템은 진단을 거부하고 대신 해당 사례를 인간 의사에게 보냅니다. 또한, 이 시스템은 자신이 불확실할 때를 인식하도록 설계되었습니다. 추측하는 대신, 불확실성을 인정하고 환자를 임상의에게 넘깁니다. 연구자는 인도와 파키스탄의 병원에서 가져온 수천 장의 X선을 대상으로 이 시스템을 테스트했습니다. 여기에는 오래된 장비를 사용한 농촌 클리닉의 이미지와 웹용으로 압축된 이미지들이 포함되었습니다. 그들은 이 시스템이 단독으로 작동했을 때는 아픈 환자들을 실수로 정상이라고 판정했을 수 있지만, 이러한 안전 장치를 추가함으로써 그 오류들을 완전히 제거했다는 것을 발견했습니다. 그 결과, 이 도구는 원격지의 단순한 오프라인 컴퓨터에서도 실행될 수 있으며, 가장 시급한 사례를 즉시 검사할 수 있도록 표시하는 동시에, 어떤 사람도 인간 전문가의 재검토 없이 집으로 보내지지 않도록 보장합니다.

이 연구의 핵심은 인공지능이 사물을 보는 방식의 특정 약점을 다루고 있습니다. 현대 이미지 인식의 두뇌 역할을 하는 딥러닝 모델은 방대한 의료 이미지 라이브러리를 통해 훈련됩니다. 통제된 환경에서 이 모델들은 완벽에 가까운 정확도를 달al 수 있습니다. 그러나 이 모델들이 훈련 중에 사용된 것과 약간 다른 X선 기계나, 공간을 절약하기 위해 파일 크기를 줄인 이미지와 같은 실제 상황에 직면하면, 그 성능은 무너질 수 있습니다. 연구자는 한 테스트 세트에서 표준 컴퓨터 모델이 웹용으로 심하게 압축된 파키스탄 병원의 이미지를 보여주었을 때 완전히 실패했다는 것을 발견했습니다. 모델은 디지털 아티팩트(artifacts)로 인해 너무 혼란스러워진 나머지, 모든 환자를 건강한 상태든 아픈 상태든 상관없이 모두 감염된 것으로 선언했습니다. 이는 결정적인 결함을 드러냈습니다. 즉, 너무 경직된 모델은 장비가 다양하고 데이터 품질이 일관되지 않은 글로벌 헬스케어의 복잡한 현실에 적응할 수 없다는 것입니다.

이를 해결하기 위해 연구자는 컴퓨터가 가능한 모든 종류의 나쁜 이미지를 학습하도록 강요하는 전략을 사용하지 않았습니다. 그러한 전략은 종ер 모델이 깨끗하고 고품질인 이미지를 보는 능력을 오히려 악화시키기 때문입니다. 대신, 그들은 컴퓨터의 의사 결정 과정 주변에 일련의 필터를 구축했습니다. 첫 번째 필터는 이미지의 손상 징후, 예를 들어 심한 파일 압축으로 인한 블록 형태의 왜곡이나 이미지가 뒤집혀 있는 경우 등을 조사하는 사전 점검입니다. 만약 이미지가 이 점검을 통과하지 못하면, 시스템은 중단하고 진단을 시도하지 않습니다. 두 번째 계층은 컴퓨터의 확신도를 측정하는 방법을 포함합니다. 만약 컴퓨터가 환자가 건강하다는 것에 대해 절대적으로 확신하지 못한다면, 시스템은 일시 정지하고 해당 사례를 인간에게 참조하도록 프로그래밍되어 있습니다. 이는 시스템이 통계적으로 확실하지 않는 한 환자를 퇴원시키겠다는 최종 결정을 내리지 않도록 보장하며, 설령 확신하더라도 이미지의 품질이 완벽할 때만 그렇게 하도록 합니다.

연구자는 이 다층적 시스템을 중국, 미국, 벨라루스, 인도 등 전 세계 8개 지역의 16,000장이 넘는 흉부 X선 이미지를 대상으로 테스트했습니다. 그들은 먼저 방대한 다양성을 가진 이미지 세트로 컴퓨터를 훈련시킨 다음, 전혀 본 적 없는 새로운 데이터로 테스트를 진행했습니다. 내부 테스트에서 이 시스템은 매우 높은 정확도로 작동하여, 거의 모든 결핵 사례를 올바르게 식별하고 대부분의 건강한 환자를 올바르게 정상으로 판정했습니다. 그러나 진정한 시험은 인도와 파키스탄의 독립적인 환자 그룹에 시스템을 적용했을 때 찾아왔습니다. 인도의 농촌 지역 병원에서 가져온 고품질 이미지의 경우, 시스템은 스스로 약 70%의 환자를 올바르게 식별했는데, 이는 내부 성능에 비하면 유의미한 하락이지만 여전히 유용한 수준이었습니다. 더 중요한 것은, 안전 규칙을 적용했을 때 시스템이 아픈 환자가 검토 없이 집으로 잘못 보내지는 것을 성공적으로 방지했다는 점입니다. 인도 코호트에서 안전 인터록(interlock)은 활성 결핵 사례가 의료진의 확인 없이 퇴원하는 경우가 단 한 건도 발생하지 않도록 보장했습니다.

파키스키스탄의 이미지들에서는 상황이 훨씬 더 극적이었습니다. 이 이미지들은 너무 심하게 압축되어 표준 컴퓨터 모델이 완전히 실패했고, 데이터셋의 모든 사람을 환자로 예측했습니다. 연구자는 이러한 나쁜 이미지들을 처리하도록 컴퓨터를 재훈련하는 것이 오히려 좋은 이미지를 읽는 능력을 악화시킨다는 것을 보여주었습니다. 컴퓨터를 적응하도록 강요하는 대신, 연구자의 안전 시스템은 파키스탄의 이미지들이 신뢰하기에는 너무 손상되었다는 것을 단순히 인식했습니다. 시스템은 압축 아티팩트를 감지하고 해당 사례를 인간 의사에게 전달함으로써, 컴퓨터의 혼란으로부터 보호막 역할을 수행했습니다. 이는 품질이 낮은 데이터를 처리하는 최선의 방법이 노이즈에 강한 모델을 만드는 것이 아니라, "모르겠다"라고 말하고 도움을 요청할 줄 아는 시스템을 갖추는 것임을 입증했습니다.

연구는 또한 컴퓨터가 때때로 지름길(shortcuts)을 학습한다는 사실을 밝혀냈습니다. 어떤 경우에 모델은 이미지의 특정 부분을 보고 해당 X선이 어느 병원에서 왔는지 추측할 수 있었고, 그 단서를 이용해 진단을 내렸습니다. 예를 들어, 모델은 벨라루스의 특정 병원에서 온 이미지는 거의 항상 환자이고, 미국의 특정 데이터베이스에서 온 이미지는 거의 항상 건강하다는 것을 학습했습니다. 이는 컴퓨터가 새로운 병원의 이미지를 볼 때 진단을 틀릴 수 있는 위험한 지름길입니다. 연구자는 컴퓨터가 정확히 무엇을 보고 있는지 시각화하는 기술을 사용했으며, 그 결과 컴퓨터가 이러한 병원별 단서들을 인지하고 있음에도 불구하고, 주된 초점은 여전히 실제 폐 조직에 있다는 것을 발견했습니다. 이미지에서 폐 부분을 가렸을 때 컴퓨터의 질병 진단 능력이 사라졌다는 것은, 비록 컴퓨터가 몇 가지 부차적인 습관을 익혔을지라도 여전히 올 만큼의 올바른 곳을 보고 있었다는 것을 증명합니다.

최종 결과물은 자원이 부족하고 조건이 예측 불가능한 실제 세상을 위해 설계된 시스템입니다. 전체 소프트웨어 패키지는 강력한 그래픽 카드나 인터넷 연결 없이도 표준 컴퓨터에 들어갈 수 있을 만큼 작습니다. 이 시스템은 전기나 인터넷이 없는 클리닉에서도 실행될 수 있으며, 1초 미만의 시간 내에 결정을 내릴 수 있습니다. 연구자는 이 시스템을 일반적인 클리닉에서 사용할 경우 불필요한 실험 검사 횟수를 거의 80%까지 줄일 수 있어 비용과 시간을 절약하면서도, 대다수의 환자를 잡아낼 수 있다고 계산했습니다. 가장 중요한 것은, 이 시스템이 "만약을 대비해 안전하게 행동하는 것(better to be safe than sorry)"이라는 원칙 위에 구축되었다는 점입니다. 불확실하거나 품질이 낮은 이미지에 대해 최종 판단을 거부함으로써, 이 시스템은 어떤 환자도 잘못된 안도감을 안고 집으로 보내지지 않도록 보장합니다. 이 접근 방식은 인공지능을 의사를 대체하려는 도구가 아니라, 일상적인 업무를 처리하면서 가장 취약한 환자들이 누락되는 것을 방지하며 의사를 지원하는 도구로 변화시킵니다.