ChatIBD: design, safeguards, and early international use of a guideline-grounded generative AI tool for inflammatory bowel disease (IBD) professionals

인터넷을 모든 책이 서로 다른 저자에 의해 쓰였고, 그중 일부 저자는 이야기를 지어내는 데 아주 능숙한 거대하고 혼란스러운 도서관이라고 상상해 보세요. 이것이 바로 범용 인공지능(AI)의 세계입니다. 이 디지털 두뇌들은 놀라울 정도로 똑똑해서 거의 모든 주제에 대해 대화할 수 있지만, "환각(hallucination)"이라는 까다로운 습관을 가지고 있습니다. 이는 마치 어떤 학생이 역사적 사건에 대한 구체적인 질문을 받았을 때, 실제로 일어나지 않은 일을 마치 사실인 것처럼 자신 있게 지어내어 이야기하는 것과 같습니다. 잘못된 사실이 위험을 초래할 수 있는 의료 세계에서 이는 큰 문제입니다. 의사들에게는 단순히 영리한 답변이 아니라, 엄격하게 진실하며 신뢰할 수 있는 실제 근거에 기반한 답변이 필요합니다.

이를 해결하기 위해 과학자들은 "전문화된 사서"를 만들고 있습니다. AI가 도서관 전체를 돌아다니게 하는 대신, 가장 신뢰할 수 있는 의학 교과서와 규칙들만 담긴 작고 엄선된 방 안에 가두는 것입니다. 이 기술을 '검색 증강 생성(Retrieval-Augmented Generation, RAG)'이라고 부릅니다. 이것은 AI에게 승인된 책의 페이지들만 볼 수 있는 안경을 씌워주는 것과 같습니다. 질문을 하면, AI는 반드시 그 페이지들 안에서 답을 찾아야 하며, 자신이 찾은 답이 어느 페이지에서 나왔는지 정확히 보여주어야 합니다. 만약 책 안에 답이 없다면, AI는 무언가를 지어내는 대신 "모릅로ทราบ니다"라고 말하도록 프로그래밍되어 있습니다. 이 논문은 장에 통증을 유발하는 염증을 일으키는 질환인 염증성 장질환(IBD)을 치료하는 의사들을 위해 특별히 설계된 새로운 전문 사서에 관한 것입니다.

논문: ChatIBD의 첫 6개월

ChatIBD라는 도구를 만든 의사들로 구성된 연구진은 자신들의 새로운 AI 사서가 실제 환경에서 어떻게 작동하는지 확인하고자 했습니다. 그들은 단순히 실험실에서 테스트하는 것에 그치지 않고, 의사들이 실제로 이 도구를 어떻게 사용하는지 보기 위해 6개월 동안 인터넷에 공개했습니다.

설정: 보호된 챗봇
ChatIBD는 의사들이 IBD에 대해 질문할 수 있는 웹사이트입니다. 하지만 추측을 할 수도 있는 일반적인 챗봇과 달리, 이 시스템은 엄격한 안전 규칙을 갖추고 있습니다. 이 시스템은 "큐레이션된 코퍼스(curated corpus)", 즉 최고 기관들의 공식 가이드라인 32~35개를 모아놓은 특정 컬렉션에 기반을 두고 있습니다. 의사가 질문을 하면, 시스템은 단순히 답변을 "생각해 내는" 것이 아니라, 관련 텍스트를 찾기 위해 해당 가이드라인들을 먼저 샅샅이 뒤집니다. 그런 다음 AI를 사용하여 그 텍스트를 요약하며, 결정적으로, 답이 나온 정확한 페이지로 연결되는 클릭 가능한 링크를 제공해야 합니다.

더욱 안전하게 만들기 위해, 시스템에는 특별한 "용량 카드(dosing card)" 기능이 있습니다. 만약 의사가 환자에게 약을 얼마나 투여해야 하는지에 대해 묻는다면, AI는 숫자를 추측하지 않습니다. 대신, 공식적인 유럽 규정에 따라 수동으로 검증된 별도의 데이터베이스에서 용량을 가져와 명확한 카드로 표시합니다. AI는 오직 질문이 된 약물이 무엇인지 식별하는 것만 허용되며, 숫자 자체는 고정되고 변하지 않는 목록에서 옵션됩니다.

실험: 누가 어떻게 사용했는가?
연구는 2025년 10월 1일부터 2026년 4월 1일 사이에 수집된 데이터를 조사했습니다. 이 기간 동안 913명이 도구에 등록했습니다. 이들 중 684명(약 75%)이 실제로 최소 한 번의 메시지를 보냈으며, 349명(약 38%)은 세 번 이상의 메시지를 보낸 "활성 사용자"였습니다.

도구는 69개국, 28개 언어의 의사들에 의해 사용되었습니다. 가장 활발하게 사용한 사용자들은 영국과 스페인이었습니다. 흥ingly도, 이 도구는 주로 평일에(85.1%의 시간) 사용되었는데, 이는 의사들이 밤늦게 공부하는 친구로서가 아니라 업무 중에 빠른 참조용으로 사용했음을 시사합니다.

무엇을 발견했는가?
가장 흔한 질문은 약물 치료에 관한 것이었습니다. 전체 메시지의 거의 절반(46.6%)이 약물 치료에 관한 것이었습니다. 시스템은 특별한 "용량 카드"를 1,332번 성공적으로 실행했으며, 이는 의사들이 빠르고 안전한 용량 확인을 위해 이 도구에 의존했음을 보여줍니다.

연구진은 또한 의사들이 무엇을 하려고 했는지도 살펴보았습니다. 가장 흔한 목표는 "가이드라인 합성(guideline synthesis)"으로, 의사가 특정 주제에 대해 규칙이 무엇이라고 말하는지 AI에게 요약을 요청하는 것이었습니다. 다른 흔한 요청으로는 정의를 묻거나, 안전 경고를 확인하거나, 치료 순서를 파악하는 것 등이 있었습니다.

안전 점검: 실수가 있었는가?
팀은 도구의 성능을 면밀히 관찰했습니다. 사용자가 명시적인 피드백을 준 사례를 16회 기록했습니다. 그 중 15건은 긍정적인 평가였습니다. 그러나 하나의 부정적인 평가가 안전 검토를 촉발했습니다. 한 의사가 리산키주맙(Risankizumab)이라는 약물에 대한 답변을 문제 삼았습니다. AI의 문장이 약간 모호하여, 해당 약물이 특정 환자들에게 실제보다 더 나쁘다는 식으로 오해를 불러일올 수 있었습니다. 팀은 이를 검토하여 문구가 위험하다는 것을 깨달았고, 향후 그러한 종류의 혼란을 방지하기 위해 시스템을 수정했습니다.

이것이 의미하는 바 (그리고 의미하지 않는 것)
이 연구는 ChatIBD가 국제적으로 사용되고 있으며, 복잡한 의학 규칙을 탐색하는 데 유용하다고 느끼는 의사들에 의해 반복적으로 사용되고 있음을 보여줍니다. 이는 가이드라인에 기반한 특화된 AI가 전문가들에게 실용적인 도구가 될 수 있음을 시사합니다.

하지만 저자들은 결과에 대해 과장하지 않도록 매우 주의를 기울이고 있습니다. 그들은 이 연구가 이 도구의 의학적 정확성, 안전성 또는 환자 치료에 대한 효과를 입증하는 것은 아님을 명시적으로 밝히고 있습니다. 그들은 환자가 호전되었는지 또는 의사가 실수를 줄였는지를 측정한 것이 아니라, 얼마나 많은 사람이 도구를 사용했는지와 어떻게 사용했는지만을 측정했습니다. 단 한 건의 문제가 된 오류는 엄격한 안전장치가 있더라도 인간의 검토가 여전히 필요하다는 점을 상기시켜 줍니다.

요약하자면, ChatIBD는 나타나고, 사용되고, 지적되었을 때 스스로의 실수를 잡아냄으로써 첫 번째 실전 테스트를 통과했습니다. 그러나 연구진은 이것이 시작일 뿐이라고 강조합니다. 이 도구는 유망한 "전문화된 사서"이지만, 생사가 오가는 환자 케어의 세계에서 완전히 신뢰받을 수 있는지 증명하기 위해서는 여로 더 엄격한 테스트가 필요합니다.