Evidence-Grounded Large Language Model Reasoning for Patient Safety Using Knowledge Graphs and Retrieval-Augmented Generation: Development and Evaluation Study

병원들은 끊임없이 쏟아지는 압도적인 양의 정보를 생성합니다. 매일 의사와 간호사들은 진료 기록을 작성하고, 검사를 처방하며, 약물을 기록하고, 활력 징후를 기록합니다. 이 중 많은 중요한 데이터는 컴퓨터가 읽고 연결하기 어려운 서술형 문장 속의 비정형 텍스트 형태로 존재합니다. 수년 동안 연구자들은 이러한 기록을 훑어보며 위험한 약물 상호작용이나 상태 악화의 징후와 같은 환자 안전 문제를 포착할 수 있는 인공지능을 구축하기 위해 노력해 왔습니다. 기계가 바쁜 인간이 놓칠 수 있는 오류를 잡아내는 '제2의 눈' 역할을 할 수 있다는 희망 때문입니다. 그러나 단순히 컴퓨터에게 텍ست을 읽는 법을 가르치는 것만으로는 충분하지 않습니다. 만약 기계가 명확한 이유 없이 문제를 추측하거나, 존재하지 않는 연결 고리를 만들어낸다면, 이는 오히려 해를 끼칠 수 있습니다. 과제는 단순히 정보를 찾는 것이 아니라, 그 결론이 실제 의학적 근거에 의해 뒷받침되는지, 그리고 그 추론 과정을 의사가 신뢰할 수 있는 출처로 추적할 수 있는지 증명하는 것입니다.

새로운 연구에서 연구자들은 세 가지 별개의 도구, 즉 대규모 언어 모델, 구조화된 의학 지식 지도, 그리고 외부 소스로부터 신선한 증거를 끌어오는 방법을 결합하여 이 문제를 해결하는 시스템을 구축하고자 했습니다. 그들은 기계가 단순히 추측하는 것이 아니라, 확고한 사실에 기반하여 자신의 생각을 설명할 수 있는 추론 엔진을 만들 수 있는지 확인하고 싶었습니다. 연구팀은 성인 중환자실 환자 수천 명의 데이터를 가져왔으며, 여기에는 환자의 진료 기록과 검사 결과가 포함되었습니다. 목표는 기계가 안전 개념을 식별하고, 이를 논리적으로 연결하며, 관련 의학 문헌을 통해 자신의 발견을 뒷받지할 수 있는지, 그러면서도 모든 정보의 출처를 명확히 기록할 수 있는지 확인하는 것이었습니다.

연구진은 단계별로 시스템을 구축했습니다. 먼저, 환자 기록의 무질서하고 비정형적인 노트들을 정리하여, 동일한 것을 표현하는 다양한 방식들을 하나의 표준 용어로 변환했습니다. 그런 다음 이 용어들을 '지식 그래프'라고 불리는 구조화된 지도로 조직했습니다. 이 지도를 의학적 개념들의 상세한 가계도라고 생각하면 되는데, 여기에는 특정 약물이 특정 부작용과 어떻게 연결되는지, 혹은 특정 검사 결과가 환자의 상태와 어떻게 연관되는지가 명시적으로 나타나 있습니다. 이 지도는 일종의 단단한 골격 역할을 하여, 컴퓨터가 무언가를 쓰기 전에 서로 다른 의학적 사실들 사이의 관계를 이해하도록 보장합니다. 다음으로, 시스템에는 검색 도구가 장착되었습니다. 컴퓨터가 이미 학습한 내용에만 의존하는 대신, 이 도구는 방대한 의학 저널과 안전 보고서 라이브러리에 접근했습니다. 시스템이 환자 사례에 직면하면, 이 도구는 뒷받침할 증거로서 가장 관련성이 높은 논문과 가이드라인을 가져옵 왔습니다. 마지막으로, 방대한 양의 텍스트로 학습된 인공지능의 일종인 대규모 언어 모델이 이 모든 정보(구조화된 지도, 환자 데이터, 검색된 논문)를 사용하여 잠재적인 안전 문제에 대한 추론된 설명을 생성했습니다.

이 접근 방식이 실제로 작동하는지 테스트하기 위해, 연구진은 시스템의 구성 요소를 하나씩 제거하며 각 부분이 얼마나 중요한지 확인하는 일련의 실험을 수행했습니다. 연구 결과, 시스템은 안전 개념을 식별하는 데 매우 효과적이었으며 높은 수준의 정확도를 달야했습니다. 그러나 가장 중요한 발견은 구조화된 지도를 제거했을 때 어떤 일이 일어나는지 살펴보았을 때 나왔습니다. 지식 그래프가 없으면 시스템의 성능이 크게 떨어졌습니다. 정확도가 낮아졌고, 실제 안전 신호와 가짜 알람을 구별하는 능력이 약화되었습니다. 이는 엄격하고 구조화된 의학적 관계의 지도가 다른 도구들이 스스로 대체할 수 없는 필수적인 토대를 제공하는 가장 핵심적인 구성 요소임을 입증했습니다.

검색 도구의 역할은 더 미묘했습니다. 연구진이 외부 의학 논문을 가져오는 부분을 제거했을 때, 시스템의 성능이 약간 하락하기는 했으나, 그 하락이 통계적으로 유의미할 정도는 아니었습니다. 이는 신선한 외부 증거를 갖추는 것이 도움이 되고 시스템의 추론을 더 근거 있게 만들기는 하지만, 이 특정 테스트에서 시스템 성공의 주요 동력은 아니었음을 시사합니다. 또한 연구는 시스템이 의료 분야에 얼마나 잘 적응하는지도 살펴보았습니다. 연구진은 대규모 언od 모델을 환자 안전에 더 특화되도록 미세 조정(fine-tuning)하는 기술을 사용했습니다. 이 미세 조정을 제거했을 때 시스템의 성능은 거의 변하지 않았는데, 이는 이 설정에서 구조화된 지식과 증거 검색이 언어 모델 자체에 가해진 특정 조정보다 더 큰 역할을 하고 있었음을 나타냅니다.

인간 전문가들이 시스템의 출력물을 검토하여 실제 현장에서 의미가 있는지 확인했습니다. 그들은 시스템이 검색한 문서들이 질문에 대해 실제로 관련성이 있다는 것을 발견했습니다. 더 중요한 것은, 시스템이 생성한 설명이 임상적으로 유용하고 타당하다는 평가를 받았다는 점입니다. 전문가들은 시스템이 단순히 무작위적인 추측을 내뱉는 것이 아니라, 시스템이 수집한 특정 논문과 데이터 포인트를 바탕으로 의사가 따라갈 수 있는 추론 경로를 제공한다고 느꼈습니다. 사용자 인터페이스에 대한 예비 점검 결과, 임상의들이 큰 어려움 없이 결과를 탐색할 수 있었으나, 가장 중요한 정보를 먼저 강조할 수 있도록 디스플레이를 단순화해야 한다는 의견을 제시했습니다.

이 연구는 구조화된 의학 지식 지도와 언어 모델, 그리고 외부 증거 검색을 결합하는 것이 환자 안전을 위한 강력한 도구를 만든다는 결론을 내립니다. 결과는 구조화된 지도가 논리적 뼈대를 제공하여 시스템이 올바르게 추론할 수 있게 하는 가장 필수적인 부분임을 보여줍니다. 외부 증거를 끌어오는 능력은 투명성을 더해주어, 시스템이 자신의 작업 과정을 보여주고 출처를 인용할 수 있게 합니다. 이 시스템이 아직 인간 의사를 대체하거나 자율적인 결정을 내릴 준비가 된 것은 아니지만, 신뢰할 수 있고 설명 가능하며 실제 의학적 사실에 기반한 인공지능을 구축하기 위한 명확한 경로를 보여줍니다. 연구진은 이러한 시스템이 일상적인 병원 진료에 사용되기 전, 다양한 환자군에 걸쳐 안전하게 작동하는지 확인하기 위해 여러 병원에서 테스트되고 실시간 워크플로우에서 평가되어야 한다고 강조합니다. 현재로서는, 이 연구가 기계가 단순히 의학 노트를 읽는 것을 넘어, 정확하고 책임감 있는 방식으로 이를 이해할 수 있음을 입증했습니다.