🤖 AI

Discrete Diffusion Language Models for Interactive Radiology Report Drafting

이 논문은 의료 벤치마크에서 자기회귀 모델의 성능을 대등하게 유지하거나 능가하면서도 더 빠른 디코딩을 구현할 뿐만 아니라, 임상의가 보고서 파편을 양방향으로 원활하게 편집하고 완성할 수 있도록 하는 임의 순서 텍스트 인필(any-order text infill)을 독특하게 가능하게 하는, 방사선 보고서 초안 작성을 위해 조정된 이산 확산 언어 모델을 소개한다.

원저자: Max Van Puyvelde, Halil Ibrahim Gulluk, Wim Van Criekinge, Olivier Gevaert

게시일 2026-07-03

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Max Van Puyvelde, Halil Ibrahim Gulluk, Wim Van Criekinge, Olivier Gevaert

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 X-ray를 바탕으로 의료 보고서를 작성하려고 한다고 상상해 보세요. 보통 컴퓨터는 사람이 왼쪽에서 오른쪽으로 글을 쓰는 것처럼 보고서를 작성합니다. 즉, 첫 번째 단어를 쓰고, 그다음 두 번째 단어를 쓰고, 세 번째 단어를 쓰며, 이미 쓴 내용은 절대 돌아보거나 수정하지 않습니다. 이것을 자기회귀(Autoregressive, AR) 생성이라고 합니다. 이는 마치 단일 선로 위의 기차와 같아서, 한 번 바퀴가 지나가면 다시 뒤로 돌아갈 수 없습니다.

이 논문은 **이산 확산(Discrete Diffusion)**을 사용하여 컴퓨터가 보고서를 작성하는 새로운 방법을 소개합니다. 단어를 하나씩 써 내려가는 대신, 컴퓨터가 "노이즈"(무작위한 횡설수설)로 가득 찬 빈 페이지에서 시작한다고 상상해 보세요. 그런 다음 컴퓨터는 페이지 전체를 한꺼번에 보면서 노이즈를 제거하고, 텍스트가 의미를 갖출 때까지 점진적으로 정교하게 다듬어 나갑니다. 이를 통해 문장의 시작, 중간, 끝을 동시에 고려하여 무엇이 가장 적절할지 판단할 수 있습니다.

다음은 연구진이 발견한 내용을 쉬운 비유를 사용하여 정리한 내용입니다.

1. 경주: 한 목표를 가진 두 형제

연구진은 동일한 AI 모델 가문(둘 다 Gemma 모델 기반)에서 나온 두 명의 "형제"를 데려왔습니다.

형제 A (AR): 왼쪽에서 오른쪽으로 글을 쓰는 전통적인 작가입니다.
형제 B (Diffusion): 페이지 전체를 한꺼번에 정리하는 새로운 작가입니다.

두 형제에게 동일한 훈련 데이터(의료 이미지와 질문)와 동일한 "학습 계획"(LoRA라는 기술을 사용하여 가르치는 방식)을 주었습니다. 그들은 이 새로운 확산(Diffusion) 방식이 의료 분야에서도 기존의 AR 방식만큼 잘 해낼 수 있는지 확인하고자 했습니다.

결과: Diffusion 형제는 단순히 따라가는 수준을 넘어, 의료 퀴즈에서 AR 형제와 대등하거나 종종 더 뛰어난 성능을 보였습니다. 더욱 인상적인 것은, 이 모델이 3.5배에서 4.4배 더 빨랐다는 점입니다.

비유: 만약 AR 모델이 한 번에 한 획씩 신중하게 붓질을 하는 화가라면, Diffusion 모델은 돌덩어리에서 불필요한 부분을 한꺼번에 깎아내어 형태를 드러내는 조각가와 같습니다. 조각가가 훨씬 더 빠르게 작업을 마쳤습니다.

2. 초능력: "임의 순서 채우기(Any-Order Infill)"

이것이 이 논문의 가장 큰 주장입니다. Diffusion 모델은 AR 모델에는 없는 특별한 능력인 **"임의 순서 채우기"**를 가지고 있습니다.

AR의 한계: 당신이 보고서를 쓰다가 중간에 문장을 수정하기 위해 멈췄다고 상상해 보세요. 만약 AR 모델을 사용한다면, 모델은 당신이 수정한 부분 이후의 내용만 쓸 수 있습니다. 모델은 공백 앞의 내용을 고치기 위해 공백 뒤에 쓴 내용을 참고할 수 없습니다. 이는 마치 손의 왼쪽에 있는 조각들만 보면서 퍼즐을 맞추려는 것과 같습니다.
Diffusion의 초능력: Diffusion 모델은 페이지 전체를 한꺼번에 보기 때문에, 방사선 전문의가 초안 중간에 빈 공간을 남겨두고, 그 앞에 몇 단어를 쓰고, 뒤에 몇 단어를 써 놓을 수 있습니다. 그러면 모델은 양쪽 모두의 맥락을 사용하여 빈 공간을 채울 수 있습니다.
비유: 당신이 문단을 편집하다가 중간의 문장을 삭제했을 때, AR 모델은 커서 앞의 텍스트만 읽고 다음에 올 내용을 추측하는 작가와 같습니다. Diffusion 모델은 공백 앞의 문장과 공백 뒤의 문장을 모두 읽고 중간의 빠진 부분을 완벽하게 재구성하는 작가와 같습니다.

연구진은 실제 의료 보고서에서 문장을 숨긴 뒤 모델에게 이를 다시 채워 넣도록 하여 이 능력을 테스트했습니다.

Diffusion 모델은 공백 양쪽의 단서들을 사용하여 문장을 정확히 맞혔습니다.
AR 모델은 오른쪽 내용을 "알려주었음에도" 불구하고, 그 정보를 사용하여 왼쪽 부분을 고치는 데 여전히 어려움을 겪었습니다. 모델이 효과적으로 "뒤를 돌아보는" 것이 불가능했기 때문입니다.

3. 이것이 의사들에게 왜 중요한가?

이 논문은 의료 보고서가 종종 무질서할 수 있음을 시사합니다. 의사마다 쓰는 방식이 다를 수도 있고, 나중에 채우기 위해 특정 섹션을 비워둘 수도 있습니다.

AR 모델은 경직되어 있습니다. 엄격한 순서를 기대합니다.
Diffusion 모델은 유연합니다. 의사가 결론을 먼저 쓰고, 그다음 소견을 쓰고, 마지막으로 중간 부분을 채우는 식의 "비선형적"인 방식으로 초안을 작성하는 것을 허용합니다. 모델은 주변 맥락을 바탕으로 빈칸을 채울 수 있어, 초안 작성 과정이 딱딱한 양식 채우기가 아닌 마치 대화를 나누는 것처럼 느껴지게 합니다.

요약된 주장

정확도: 새로운 Diffusion 모델은 전통적인 모델만큼 혹은 그보다 더 잘 의료 질문에 답합니다.
속도: 훨씬 더 빠릅니다 (최대 4배).
유연성: 왼쪽과 오른쪽 양쪽의 맥락을 사용하여 보고서 중간의 빈칸을 성공적으로 채울 수 있는 최초의 모델이며, 이는 전통적인 모델이 실패하는 작업입니다.
가용성: 연구진은 다른 사람들이 사용할 수 있도록 코드와 훈련된 모델을 공개했습니다.

이 논문은 이 기술이 현재 병원에서 환자를 진단하는 데 사용되고 있다고 주장하는 것이 아니라, 기존 표준보다 더 빠르고 유연한 보고서 작성을 위한 강력한 새로운 도구임을 강조하고 있습니다.

기술 요약: 대화형 방사선 보고서 작성을 위한 이산 확산 언어 모델 (Discrete Diffusion Language Models)

문제 정의

현재 의료 분야, 특히 방사선 보고서 생성(RRG)을 포함한 거의 모든 대규모 언어 모델(LLM) 및 시각-언어 모델(VLM)의 기반이 되는 것은 텍부터 토큰 단위로 왼쪽에서 오른쪽으로 생성하는 자기회귀(Autoregressive, AR) 방식입니다. AR 모델은 순차적 생성에는 효과적이지만, 임의 순서 인필(any-order infill)—즉, 고정된 좌측 및 우측 콘텐츠에 조건화되어 시퀀스 중간의 텍스트를 생성하는 능력—이 결여되어 있습니다. 이러한 한계는 방사선사가 특정 보고서 파편을 고정하고 그 사이의 간극을 모델이 채우도록 요구하는 대화형 초안 작성 워크플로우를 저해합니다. 또한, 기존의 의료 파운데이션 모델은 거의 예외 없이 AR 방식이며, 임상 환경에서 이산 확산 모델(discrete diffusion models)의 생존 가능성은 아직 충분히 검증되지 않았습니다.

방법론

저자들은 생성 패러다임을 유일한 변수로 격리하기 위해 매칭된 백본(matched backbones)을 사용하여 이산 확산과 자기회귀 패러다임 간의 통제된 비교를 수행합니다.

1. 매칭된 백본 및 적응(Adaptation)

모델: 본 연구는 DiffusionGemma-26B(이산 확산 언어 모델)를 그 자기회귀 형제 모델인 Gemma-4-26B와 비교합니다. 두 모델 모두 25.2B 파라미터 규모에 3.8B 활성 파라미터(Mixture-of-Experts)를 가지며, SigLIP 계열의 비전 인코더를 공유합니다.
적응: 두 모델은 동일한 저계수 적응(Low-Rank Adaptation, LoRA) 레시피를 사용하여 미세 조정되었습니다. 적응 대상은 어텐션(attention)과 공유 MLP 프로젝션(rank-64, $\alpha=128$ )이며, 엑스퍼트(experts), 라우터(router), 비전 타워는 동결(freeze)됩니다.
최적화: 의도적인 차이점은 생성 목적 함수와 옵티마이저 설정뿐입니다:
- 확산(Diffusion): 타겟 토큰의 무작위 비율이 균등 분포의 보카블러리(uniform vocabulary) 추출값으로 대체되는 uniform-state dLLM 목적 함수를 사용하며, 모델은 이를 복구하는 법을 학습합니다.
- 자기회귀(Autoregressive): 표준 차기 토큰 교차 엔트로피(next-token cross-entropy)를 사용합니다.
- 옵티마이저는 각 목적 함수에 확립된 설정에 맞추기 위해 서로 다른 $\beta$ 값을 가진 AdamW를 사용합니다.

2. 훈련 및 평가 작업

의료 시각적 질의응답(Medical VQA): 모델은 세 가지 데이터셋(VQA-RAD, SLAKE, VQA-Med-2019)에서 정확한 일치보다는 의미적 동등성을 점수화하는 언어 모델 심판(Claude Sonnet 4.6)을 통해 평가됩니다.
추론 속도: 단일 H100 GPU에서 약 256개 토큰 생성을 기준으로 지연 시간(latency)과 처리량(throughput)을 측정합니다.
임의 순서 인필(Any-Order Infill): 저자들은 인필을 조건부 분포 $p_\theta(x_{\bar{F}} | x_F = a, c)$ $p_{θ} (x_{\overset{ˉ}{F}} ∣ x_{F} = a, c)$ 를 샘플링하는 것으로 정의합니다. 여기서 $F$ $F$ 는 고정된 위치를, $\bar{F}$ $\overset{ˉ}{F}$ 는 자유로운 위치를 나타냅니다.
- 확산: 전체 캔버스를 양방향으로 디노이징함으로써 이를 자연스럽게 지원합니다. 고정된 토큰은 매 디노이징 단계마다 다시 부과됩니다.
- 자기회귀: 이를 네이티브하게 샘플링할 수 없습니다. 양방향 컨텍스트를 시뮬레이션하기 위해 우측 텍스트를 프롬프트에 제공하지만, 모델은 여전히 왼쪽에서 오른쪽으로 생성합니다.

주요 기여

경쟁력 있는 의료 파운데이션 모델: 본 연구는 이산 확산 모델(DiffusionGemma-26B)이 의료 VQA 벤치마크에서 자기회귀 형제 모델과 대등하거나 이를 능가하며, 최첨단 VLM들과 견줄 만한 성능을 보이면서도 3.5–4.4 $\times$ 더 빠르게 디코딩함을 입증했습니다.
임의 순서 인필 능력: 본 논문은 AR에는 없는 고유한 조건화 능력인 인필을 확립했습니다: 즉, 양방향 컨텍스트를 동시에 사용하여 간극을 채우는 능력입니다. 이는 양방향 디노이징 과정에 내재되어 있습니다.
오픈 릴리스: 저자들은 확산 모델과 AR 모델에 대한 코드 및 미세 조정된 체크포인트를 공개합니다.

결과

의료 VQA 성능

정확도: 미세 조정된 확산 모델은 세 가지 데이터셋 모두에서 미세 조정된 AR 모델과 대등하거나 이를 능가했습니다. SLAKE 데이터셋에서 미세 조정된 확산 모델은 0.863의 정확도를 달성하여 AR의 0.817을 앞질렀습니다.
유의성: SLAKE(미세 조정됨)와 VQA-RAD(베이스)에서 차이가 통계적으로 유의미했습니다. 확산 모델은 특히 폐쇄형(yes/no) 질문에서 뛰어난 성능을 보였습니다.
최첨단 모델과의 비교: 26B 모델(3.8B 활성)은 추론 기능이 없는 최첨단 VLM(Gemini-3.5-Flash, GPT-4.1-mini, Claude-Sonnet-4.6)과 경쟁할 만하며, 모든 데이터셋에서 GPT-4.1-mini를 능가했습니다.

추론 속도

DiffusionGemma는 H100 GPU에서 AR 형제 모델(Gemma-4)보다 3.5–4.x 배 빠르게 보고서를 작성합니다.
확산 모델의 처리량은 139.4 ~ 175.3 tokens/second 범위인 반-면, AR은 24.6 tokens/second입니다.
이러한 속도 이점은 확산의 비용이 고정된 캔버스 크기에 대한 디노이징 단계 예산에 의해 결정되는 반면, AR 지연 시간은 보고서 길이에 따라 선형적으로 증가하기 때문에 발생합니다.

임의 순서 인필 성능

컨텍스트 활용: 문장이 마스킹된 MIMIC-CXR 보고서에 대해, 확산 모델은 간극의 양측으로부터 컨텍스트를 제공받았을 때 성능이 크게 향상되었습니다:
- Token-F1: +0.109 증가 ( $p < 10^{-10}$ ).
- LLM-Judge 정확도: +0.129 증가 ( $p = 2 \times 10^{-5}$ ).
AR의 한계: 자기회귀 모델은 우측 컨텍스트를 프롬프트에 제공하더라도 유의미한 개선을 보이지 못했습니다 (+0.031 Token-F1, 유의하지 않음). 모델 유형과 컨텍스트 방향 사이의 상호작용이 유의미했으며, 이는 확산 모델이 양방향 컨텍스트로부터 약 3.5배 더 많은 이득을 얻음을 나타냅니다.

의의 및 주장

본 논문은 이산 확산이 의료 파운데이션 모델을 위한 실행 가능한 기질(substrate)임을 주장하며, 자기회귀 모델과 대등한 정확도를 제공하면서도 훨씬 빠른 추론 속도와 독특한 대화형 초안 작성 능력을 갖추고 있다고 주장합니다.

특히, 저자들은 임의 순서 인필 능력이 임상 워크플로우에서 핵심적인 차별화 요소라고 주장합니다. 실제 방사선 보고서는 종종 간결하거나, 일관성이 없거나, 파편화되어 작성됩니다. 확산 기반 도구는 방사선사가 특정 보고서 섹션을 고정하고 모델이 양방향 컨텍스트를 활용하여 그 사이의 간극을 채우도록 허용합니다. 이 능력은 "확산에는 내재되어 있지만 자기회귀에는 없는 것"으로 설명되며, 단순한 순차적 생성을 넘어 인터랙티브하고 협업적인 보고서 작성에 더 적합한 패러다임으로서 확산을 포지셔닝합니다.

결론적으로, AR이 여전히 지배적이지만, 확산 모델은 정확할 뿐만 아니라 더 효율적이며 방사선학의 비순차적, 대화형 편집 작업에 더 적합한 경쟁력 있는 대안임을 보여줍니다.