Agentic AI in Healthcare & Medicine: A Seven-Dimensional Taxonomy for Empirical Evaluation of LLM-based Agents

기술 요약: 의료 및 의학 분야의 에이전틱 AI(Agentic AI): LLM 기반 에이전트의 경험적 평가를 위한 7차원 분류 체계

문제 정의
의료 및 의학 분야에서 대규모 언어 모델(LLM) 기반 에이전트의 급격한 등장은 전자 건강 기록(EHR) 분석부터 감별 진단, 치료 계획에 이르기까지 다양한 작업에서 역량을 입증해 왔다. 그러나 기존 문헌에는 이러한 시스템을 평가하기 위한 통일된 프레임워크가 부족하다. 현재의 연구들은 광범위한 조사에 그쳐 깊이가 부족하거나, 특정 능력(예: 메모리 또는 추론)에만 국한된 좁은 탐구에 머물러 있으며 공통된 운영 프레임이 결여되어 있다. 이러한 구조화된 분류 체계의 부재는 방법론을 비교하고, 역량의 보편성을 평가하며, 초기 단계의 프로토타입과 신뢰할 수 있는 임상 시스템 사이의 간극을 식별하는 데 걸림가 된다.

연구 방법론
이러한 격차를 해소하기 위해 저자들은 2023년 10월부터 2025년 6월 사이에 발표된 49편의 연구 논문을 대상으로 체계적 문헌 고찰을 수행하였다. 선정 과정은 Google Scholar, PubMed, DBLP, Scopus, ArXiv 등의 리소스를 사용하여 PRISMA 스타일의 가이드라인을 준수하는 3단계 필터링 프로토콜을 따랐다. 포함 기준은 LLM이 에이전트의 계획 및 의사결정의 핵심 컨트롤러여야 하며, 연구가 의료 또는 의학 과업을 명시적으로 다루어야 한다는 것이었다.

저자들은 선택된 연구들을 평가하기 위해 29개의 운영 하위 차원으로 구성된 새로운 7차원 분류 체계를 개발하였다. 차원은 다음과 같다:

1. 인지 능력 (계획, 지각, 행동, 메타 역량, 일관성 및 충돌 해결)
2. 지식 관리 (외부 지식 통합, 메모리 모듈, 동적 업데이트 및 망각)
3. 상호작용 패턴 (대화 모드, 이벤트 트리거 활성화, 인간 참여형(Human-in-the-Loop), 오류 복구)
4. 적응 및 학습 (드리프트 탐지 및 완화, 강화 기반 적응, 메타 학습 및 퓨샷 학습)
5. 안전 및 윤리 (안전 가드레일 및 적대적 강건성, 편향 및 공정성, 개인정보 보호 메커니즘, 규제 및 컴플라이언스 제약)
6. 프레임워크 유형 (멀티 에이전트 설계, 중앙 집중식 오케스트레이션)
7. 핵심 과업 및 하위 과업 (임상 문서화, 의료 질의응답, 트리아지(Triage), 진단 추론, 치료 계획, 신약 개발, 환자 상호작용, 벤치마킹)

각 연구는 완전 구현(✓), 부분 구현(∆), 또는 **미구현(✗)**의 라벨링 루브릭을 사용하여 이 분류 체계에 매핑되었다. 저자들은 암묵적인 주장에는 "부분 구현"을, 구체적인 절차나 평가가 결여된 단언에는 "미구현"을 기본값으로 설정하는 보수적인 할당 전략을 채택하였다.

주요 기여

• 구조화된 분류 체계: 주요 기여는 의료 분야의 LLM 기반 에이전트 경험적 평가를 위해 특별히 설계된 29개 하위 차원의 7차원 분류 체계를 정의한 것이다.
• 경험적 베이스라인: 본 논문은 단순한 질적 개요를 넘어, 49개 연구에 대한 역량의 보편성 및 공존 패턴에 대한 최초의 대규모 정량적 분석을 제공한다.
• 시각화 및 매핑: 저자들은 특정 논문을 분류 체계에 매핑한 상세한 표와 다이어그램을 제공하여 해당 분야의 내비게이션 인덱스 역할을 수행한다.
• 비대칭성 식별: 분석 결과, 잘 발달된 역량(예: 정보 검색)과 안전, 적응 및 행동 중심 과업 사이의 명확한 격차가 드러났다.

주요 결과 및 발견
경험적 분석은 의료 분야의 에이전틱 AI의 현재 상태에서 나타나는 유의미한 비대칭성을 드러낸다:

• 인지 능력: 장기적 과업 분해 및 자기 모니터링을 위한 견고한 메커니즘이 현저히 부족하다. 계획은 약 45%의 연구에서 부재하며, 메타 역량은 약 53%, 일관성 및 충돌 해결은 약 61%에서 부재하다. 지각과 행동은 더 높은 구현율을 보이지만, 종종 엔드 투 엔드(end-to-end) 신뢰성이 결여된다.
• 지식 관리: 외부 지식 통합은 주로 RAG(Retrieval-Augmented Generation)를 통해 널리 실현되어 있다(76% 완전 구현). 그러나 동적 업데이트 및 망각은 대부분 부재하며(98% 미구현), 이는 에이전트가 지식 위생을 유지하거나 진화하는 가이드라인에 적응하는 데 어려움을 겪고 있음을 나타낸다.
• 상호작용 패턴: 대화 모드는 비교적 흔하지만(43% 완전 구현), 이벤트 트리거 활성화는 드물다(92% 미구현). 이는 외부 신호의 자율적 모니터링보다는 수동 프롬프팅에 크게 의존하고 있음을 시사한다. 인간 참여형(Human-in-the-Loop) 및 오류 복구 메커니즘 또한 희소하다.
• 적응 및 학습: 이 차원은 가장 낮은 채택률을 보인다. 드리프트 탐지 및 완화는 사실상 부재하며(0% 완전 구현, ~98% 미구현), 강화 기반 적응 및 메타 학습 또한 유사하게 미발달된 상태로, 대부분의 시스템이 정적인 프롬프트에 의존하고 있다.
• 안전 및 윤리: 구현 성숙도가 제한적이다. 안전 가드레일과 편향 및 공정성이 완전 구현된 연구는 각각 약 6%와 10%에 불과하다. 규제 및 컴플라이언스 제약은 가장 미비한 부분이며(86% 미구현), 검증 가능한 런타임 준수를 보여주는 연구는 거의 없다.
• 프레임워크 유형: 멀티 에이전트 설계가 지배적인 패턴이다(82% 완전 구현). 이는 역할 기반 전문화로의 전환을 반영한다. 그러나 중앙 집중식 오케스트레이션은 여전히 부분적으로만 구현되어 있어(57%), 에이전트들이 모듈화되어 있음에도 불구하고 이들을 관리하는 제어 계층은 아직 완전히 견고하지 않음을 나타낸다.
• 핵심 과업: 정보 중심 과업인 의료 질의응답(57% 완전 구현)과 벤치마킹(80% 완전 구현)이 성숙도 면에서 앞선다. 반면, 행동 중심 및 발견 과업은 크게 뒤처진다. 치료 계획 및 처방은 약 20%의 연구에서만 완전 구현되었으며, 신약 개발은 약 18%에 불과하다.

의의 및 주장
본 논문은 그 결과가 현재의 LLM 기반 에이전트가 검색 기반 조언(retrieval-grounded advising) 및 정보 합성에는 뛰어나다는 경험적 베이스라인을 제공한다고 주장한다. 그러나 이 분야가 초기 단계의 연구 프로토타입에서 신뢰할 수 있는 임상 시스템으로 전환되기 위해서는 강력한 적응성, 컴플라이언스 플랫폼, 그리고 안전 메커니즘이 필요하다.

저자들은 이 분야가 모듈형 설계와 정보 검색 측면에서 상당한 진전을 이루었지만, 드리프트 탐지, 동적 지식 업데이트, 오류 복구, 그리고 규제 정렬에서의 결정적인 격차가 지속되고 있다고 강조한다. 이들은 이러한 특정 비대칭성을 해결하지 않는 한, 고위험 임상 환경에 이러한 에이전트를 배치하는 것은 위험한 일이라고 주장한다. 본 논문은 미래 연구가 견고하고 안전하며 윤리적으로 책임 있는 에이전트 개발로 나아갈 수 있도록 안내하는 기초 자료로서 자리매김하며, 확장성 및 생산 규모의 엔지니어링 과제는 본 연구의 범위를 벗어남을 명시적으로 밝히고 있다.