Potential Role of Agentic Artificial Intelligence in Toxicologic Pathology
이 백서는 2025 년 STP 연례회의 라운드테이블 및 후속 논의를 바탕으로, 비임상 독성학 보고의 복잡성과 데이터 단편화 문제를 해결하기 위해 에이전트형 인공지능의 역할, 도입 장벽, 그리고 책임 있는 배포를 위한 로드맵을 제시합니다.
원저자:Nasir Rajpoot, Richard Haworth, Xavier Palazzi, Alok Sharma, Manu Sebastian, Stephen Cahalan, Dinesh S. Bangari, Radhakrishna Sura, James Hartke, Marco Tecilla, Krishna Yekkala, Simon Graham, Dang VuNasir Rajpoot, Richard Haworth, Xavier Palazzi, Alok Sharma, Manu Sebastian, Stephen Cahalan, Dinesh S. Bangari, Radhakrishna Sura, James Hartke, Marco Tecilla, Krishna Yekkala, Simon Graham, Dang Vu, David Snead, Mostafa Jahanifar, Adnan Khan, Erio Barale-Thomas
원저자: Nasir Rajpoot, Richard Haworth, Xavier Palazzi, Alok Sharma, Manu Sebastian, Stephen Cahalan, Dinesh S. Bangari, Radhakrishna Sura, James Hartke, Marco Tecilla, Krishna Yekkala, Simon Graham, Dang Vu, David Snead, Mostafa Jahanifar, Adnan Khan, Erio Barale-Thomas
지금까지 독성 병리학자들은 약물의 안전성을 검증하기 위해 엄청난 양의 데이터를 처리해야 했습니다. 하지만 현재 시스템은 혼자서 모든 재료를 찾아서 손질해야 하는 요리사와 비슷합니다.
문제점:
산발된 재료: 조직 검사 사진은 한 곳, 혈액 검사 데이터는 다른 곳, 과거 연구 자료는 또 다른 곳에 흩어져 있습니다. (데이터가 '방'마다 따로 떨어져 있는 셈입니다.)
지친 요리사: 병리학자들은 중요한 '맛보기 (판단)'를 하기보다, 재료를 찾고 정리하는 데 에너지를 다 쏟습니다.
시간 부족: 마감 시간이 임박했는데도 재료를 찾는 데만 시간이 걸려, 중요한 결론을 내릴 시간이 부족해집니다.
🤖 2. 새로운 해결책: "스마트 비서 (에이전트 AI)"
이 논문에서 제안하는 **'에이전트 AI (Agentic AI)'**는 단순히 질문에 답하는 챗봇이 아닙니다. 이는 **여러 명의 전문 비서들이 팀을 이루어 일하는 '스마트 비서단'**입니다.
비서단 구성 (에이전트들):
수집 비서: 흩어진 모든 데이터 (사진, 숫자, 논문) 를 한곳으로 모읍니다.
분석 비서: "이 숫자가 이상하네요?"라고 찾아냅니다.
참고 비서: 과거에 비슷한 사례가 있었는지, 다른 논문에는 뭐라고 썼는지 찾아옵니다.
초안 작성 비서: 모든 정보를 바탕으로 보고서 초안을 써냅니다.
검수 비서: 실수가 없는지, 논리가 맞는지 다시 한번 확인합니다.
이 비서단들은 **팀장인 병리학자 (요리사)**의 지시를 받아 함께 일합니다.
🎯 3. 핵심 원칙: "비서는 요리사를 대체하지 않는다"
가장 중요한 점은 AI 가 병리학자를 대체하는 것이 아니라, 도와주는 것이라는 것입니다.
요리사의 역할: 비서단이 준비한 초안을 받아, "이건 맞지만 저건 좀 다듬어야 해"라고 최종 수정하고, **최종 책임 (맛) 을 지는 것은 여전히 인간 (병리학자)**입니다.
비서의 역할: 반복적인 일 (자료 찾기, 숫자 계산, 초안 작성) 을 대신해서, 병리학자가 진짜 중요한 과학적 판단에만 집중할 수 있게 합니다.
🚧 4. 넘어야 할 장벽: "신뢰와 검증"
이런 스마트 비서 시스템을 도입하려면 몇 가지 걸림돌이 있습니다.
할루시네이션 (거짓말): AI 가 없는 사실을 있는 것처럼 꾸며낼 수 있습니다. (예: 존재하지 않는 논문을 인용하는 경우)
검증 필요: 약을 만드는 과정은 매우 엄격합니다. AI 가 한 일이 정확하고, 그 근거가 명확해야 합니다. (마치 새로운 주방 도구를 쓰기 전에 안전 검사를 통과해야 하는 것과 같습니다.)
데이터 보안: 회사의 비밀 레시피 (연구 데이터) 가 외부로 새나가지 않도록 철저히 보호해야 합니다.
🗺️ 5. 도입 로드맵: "작은 시범 요리부터 시작하기"
한번에 모든 것을 바꾸는 것은 위험합니다. 그래서 다음과 같은 단계로 진행하자는 제안이 있습니다.
1 단계 (준비): 현재 일하는 방식을 자세히 분석합니다.
2 단계 (시범): 규제 (법) 가 덜 엄격한 '실험실 단계' 연구부터 AI 비서를 써봅니다. (실수해도 큰 문제 없는 환경)
3 단계 (수정): 병리학자들이 "여기는 좀 불편해"라고 피드백을 주고, AI 를 다듬습니다.
4 단계 (본격 도입): 검증이 끝나면, 실제 약을 승인받는 중요한 연구 (GLP) 에서도 사용합니다.
5 단계 (공유): 전 세계 회사들이 서로 경험을 나누고 기준을 만듭니다.
💡 6. 결론: "함께 더 맛있는 요리를"
이 논문은 인간과 AI 가 손잡으면, 더 빠르고 정확하며 안전한 약을 개발할 수 있다고 말합니다.
비유하자면: AI 는 최고의 '식재료 정리 도구'이자 '레시피 추천 비서'입니다. 하지만 **최종 요리를 완성하고 맛을 결정하는 것은 여전히 숙련된 요리사 (병리학자)**입니다.
이 기술을 통해 병리학자들은 지루한 자료 정리를 줄이고, 인간만이 할 수 있는 깊은 과학적 통찰에 더 많은 시간을 투자할 수 있게 될 것입니다.
논문 요약: 독성병리학에서의 Agentic AI 의 잠재적 역할
1. 문제 정의 (Problem)
현재 독성병리학 (Toxicologic Pathology) 분야는 신약 개발의 전임상 안전성 평가에서 핵심적인 역할을 수행하고 있으나, 다음과 같은 심각한 비효율성과 도전에 직면해 있습니다.
데이터의 파편화 (Fragmented Data): 연구 데이터가 LIMS(실험실 정보 관리 시스템), SEND(비임상 데이터 교환 표준) 데이터셋, 디지털 슬라이드 이미지, 임상 병리 데이터, 기존 연구 보고서, 그리고 외부 학술지/규제 데이터베이스 등 여러 개의 실리 (Silo) 에 흩어져 있어 통합이 어렵습니다.
수동적 업무 프로세스: 디지털 pathology 와 AI 가 이미지 분석에 도입되었음에도 불구하고, 최종 보고서 작성 과정은 여전히 대부분 수동으로 이루어집니다. 데이터 수집, 통합, 해석, 보고서 초안 작성에 많은 시간이 소요됩니다.
시간적 압박과 인지적 부하: 연구 일정이 단축되는 추세 속에서 병리학자들은 복잡한 데이터를 종합하고 일관된 결론을 도출해야 하는 막대한 인지적 부담을 겪고 있으며, 이는 보고 지연과 oversight(소홀함) 의 위험을 증가시킵니다.
지식 재사용의 부재: 유사한 병변이나 연구 맥락에 대한 과거의 조직 내 지식 (Institutional Memory) 을 체계적으로 검색하고 재사용할 수 있는 시스템이 부족하여 동일한 추론이 반복되거나 일관성이 떨어집니다.
2. 방법론 및 제안된 솔루션 (Methodology & Proposed Solution)
이 논문은 2025 년 6 월, Society of Toxicologic Pathology (STP) 연차 회의에서 개최된 라운드테이블 토론을 기반으로 Agentic AI(에이전트 AI) 를 독성병리학 워크플로우에 적용하는 프레임워크를 제시합니다.
Agentic AI 의 정의: 기존 단일 작업 자동화 AI 와 달리, Agentic AI 는 여러 전문 에이전트 (Agents) 가 협력하여 종단 간 (End-to-End) 워크플로우를 조율하는 시스템입니다.
작동 메커니즘 (워크플로우):
데이터 수집 에이전트: SEND 파일, LIMS, 이미지 아카이브 등 다양한 소스의 데이터를 통합 및 정제합니다.
데이터 분석 에이전트: 통계적 유의성을 분석하고, 전장 슬라이드 이미지 (WSI) 를 스캔하여 병변을 식별 및 등급화합니다.
증거 통합 에이전트: 과학 문헌, 규제 데이터베이스, 과거 연구 데이터를 검색하여 발견된 병변의 기전을 연결합니다.
보고서 생성 에이전트: 수집된 정보를 바탕으로 인용구가 포함된 구조화된 보고서 초안을 작성합니다.
품질 관리 (QA) 에이전트: 보고서의 일관성, 완전성, 데이터 간 정합성을 검증합니다.
플래너 에이전트: 위 에이전트들을 조율하고 병리학자와의 대화형 인터페이스를 관리합니다.
핵심 철학: AI 가 병리학자를 대체하는 것이 아니라, Human-in-the-loop(인간-고리) 방식 하에서 병리학자의 판단을 보조하고 반복적 업무를 줄여 고부가가치 해석에 집중할 수 있도록 돕는 것입니다.
3. 주요 기여 (Key Contributions)
이 논문은 독성병리학 분야에서 Agentic AI 의 도입을 위한 구체적인 로드맵과 가이드라인을 제시합니다.
도입 로드맵 (5 단계):
워크플로우 매핑 및 이해관계자 참여: 기존 프로세스 분석 및 병리학자, QA, IT 팀과의 협력.
표적 파일럿 연구: GLP(우수실험실관리기준) 가 적용되지 않는 탐색적 단계 (Discovery) 또는 비 GLP 연구에서 저위험으로 시범 운영.
피드백 및 벤치마킹: 사용자 피드백을 통한 에이전트 행동 수정 및 성능 평가.
규제 환경에서의 광범위한 배포: 검증 (Validation) 완료 후 GLP 환경으로 확장 및 SOP(표준운영절차) 개정.
산업 협력 및 표준화: 공유 데이터셋, 벤치마크, 규제 기관과의 협력을 통한 표준 정립.
신뢰 구축을 위한 원칙:
투명성 및 설명 가능성 (Explainability): AI 의 결론 도출 과정, 사용된 데이터, 인용 출처를 명확히 제시 (ALCOA++ 원칙 준수).
책임 소재 명확화: 최종 보고서와 해석에 대한 책임은 여전히 인간 병리학자에게 있음.
데이터 보안: 방화벽 내 배포, 가상 사설 클라우드 (VPC) 활용, 연방 학습 (Federated Learning) 등을 통한 기밀 데이터 보호.
파일럿 설계 가이드: 성공 지표 (시간 단축, 수정 없이 수용된 텍스트 비율, 사용자 신뢰도 등) 와 역할 분담 (연구 감독자, 병리학자, QA, AI 개발팀 등) 을 구체화했습니다.
4. 결과 및 기대 효과 (Results & Expected Outcomes)
라운드테이블 토론을 통해 도출된 주요 기대 효과는 다음과 같습니다.
보고서 작성 시간 단축: 데이터 수집, 초안 작성, QA 검토 시간을 획기적으로 줄여 연구 보고 속도를 가속화합니다.
일관성 및 품질 향상: 용어 사용의 일관성을 유지하고, 데이터 불일치나 누락을 조기에 발견하여 보고서의 과학적 엄밀성을 높입니다.
의사결정 지원: 다양한 데이터 소스 (조직병리, 임상병리, 약동학/약력학 등) 를 통합하여 인간 병리학자가 더 포괄적이고 근거 기반의 판단을 내릴 수 있도록 지원합니다.
규제 준수 용이성: 추적 가능성 (Traceability) 과 감사 추적 (Audit Trail) 을 자동화하여 규제 기관 (FDA, EMA 등) 의 요구사항을 충족하는 데 기여합니다.
5. 의의 및 중요성 (Significance)
이 논문은 독성병리학 분야에서 AI 기술의 전환점을 제시한다는 점에서 중요한 의의를 가집니다.
패러다임의 전환: 단순한 '작업 자동화 (Task Automation)'에서 '워크플로우 조율 및 의사결정 지원 (Workflow Orchestration & Decision Support)'으로의 AI 활용 패러다임을 전환합니다.
규제적 장벽 해소: AI 도입의 가장 큰 걸림돌인 '검증 (Validation)', '투명성', '규제 수용성'에 대한 구체적인 해결책과 로드맵을 제시하여 산업계와 규제 기관 간의 신뢰를 구축합니다.
협력적 생태계 조성: 제약사, CRO, 학계, 규제 기관이 공동으로 표준, 벤치마크, 가이드라인을 개발해야 함을 강조하며, 산업 전반의 AI 성숙도를 높이는 협력 모델을 제안합니다.
미래 비전: 단순한 보고 도구를 넘어, 기전 가설 생성, 이상반응 경로 (AOP) 탐색, 연구 설계 지원 등 포괄적인 과학적 조수 (Scientific Assistant) 로 진화할 가능성을 제시합니다.
결론적으로, 이 논문은 Agentic AI 가 독성병리학의 효율성과 과학적 엄밀성을 동시에 향상시킬 수 있는 핵심 기술임을 입증하고, 이를 안전하고 책임 있게 도입하기 위한 실질적인 전략을 제공합니다.