당신에게 수년 동안 완벽한 인체 흉부 X선 사진을 그리는 법을 배운 초일류 화가가 있다고 상상해 보십시오. 이 화가는 뼈가 어떻게 생겼는지, 그림자가 어떻게 떨어지는지, 그리고 의사를 속일 수 있을 만큼 실감 나는 그림을 만드는 법을 정확히 알고 있습니다. 하지만 한 가지 문제가 있습니다. 이 화가는 지나치게 직설적입니다. 만약 당신이 "흉부 X선을 그려줘, 하지만 환자의 폐가 지난주와 똑같았다는 점도 언급하고, 아마도 액체가 있는 것 같지만 100% 확신할 수는 없다는 내용도 포함해서"라고 말한다면, 화가는 혼란에 빠집니다. 그들은 "지난주"나 "아마도"를 그리려고 시도할 것이고, 결과적으로 당신이 실제로 원했던 것과는 맞지 않는 엉망이고 흐릿한 이미지를 만들어낼 것입니다.

이것이 바로 **텍스트 조건부 흉부 X선 생성(Text-Conditioned Chest X-Ray Generation)**의 세계입니다. 이는 컴퓨터가 서술된 설명을 바탕으로 의료 영상을 생성하려고 시도하는 인공지능의 한 분야입니다. 큰 과제는 항상 어떻게 하면 컴퓨터가 의사의 보고서에 담긴 "군더더기"(예: 이전 스캔과의 비교나 불확실한 추측 등)를 무시하고, 단 하나의 사진에 실제로 그려낼 수 있는 요소들에만 집중하게 만들 것인가 하는 점이었습니다. 오랫동안 과학자들은 이미지를 개선하는 유일한 방법은 이미지 생성기(화가)를 더 똑똑하게 만들기 위해 재학습시키는 것이라고 생각했습니다. 하지만 만약 화가는 이미 완벽한데, 문제는 우리가 잘못된 지시를 내리고 있는 것이라면 어떨까요?

"JustLLMGRPO" 솔루션: 화가를 고치는 것이 아니라 프롬프트를 고치기

이 논문은 JustLLMGRPO라는 영리한 새로운 아이디어를 소개합니다. 연구진은 이미지 생성기(화가)를 재학습시키는 대신, 이미지를 전달하기 전에 지시 사항을 다시 작성할 "프롬프트 편집자"(대규모 언어 모델, 즉 LLM)를 고용하기로 결정했습니다.

이렇게 생각해 보십시오. 당신에게는 매우 엄격하고 시간이 멈춘 듯 고정된 조각가가 있는데, 그는 오직 매우 구체적인 형태의 목록이 주어졌을 때만 돌을 깎을 수 있습니다. 만약 당신이 그에게 동굴이 있을지도 모르는 산에 대한 길고 장황한 이야기를 건넨다면, 조각가는 혼란을 느껴서 이상하고 비뚤어진 바위를 깎을 것입니다. 연구진은 만약 스마트한 AI 편집자가 그 이야기를 명확하고 간결한 형태의 목록("산을 깎아라. 왼쪽에 동굴을 깎아라.")으로 다시 써준다면, 조각가가 변하지 않았음에도 불구하고 그의 작업물이 놀라울 정도로 훌륭해진다는 것을 발견했습니다.

위대한 발견
연구팀은 이 방법을 흉부 X선을 만들도록 이미 학습된 Sana라는 생성기에 테스트했습니다. 그들은 생성기가 새로운 것을 배울 수 없도록 동결(frozen) 상태로 두었습니다.

• 문제점: 연구진이 의사의 가공되지 않은 보고서를 생성기에 입력했을 때, 결과 이미지는 종종 흐릿하거나 잘못되었습니다. 이미지의 사실성을 측정하는 척도인 "RadDINO-FID" 점수는 54.225였습니다.
• 첫 번째 해결책 (편집자): 그들은 수정되지 않은 AI(Qwen3-4B)에게 의사의 보고서를 더 짧고 명확한 지시 사항으로 다시 쓰도록 요청하여, "지난주", "아마도", "변함없음"과 같은 표현들을 제거했습니다. 단순히 이 작업만 수행했을 뿐인데도 이미지 품질이 급상승했습니다! 점수는 27.572로 떨어졌으며, 이는 오류를 거의 절반 가까이 줄인 수치입니다.
• 함정: 그러나 이 단순한 재작성에는 부작용이 있었습니다. 새로운 지시 사항이 원래의 보고서와 너무 달라져서, AI가 원래의 의미를 놓치게 된 것입니다. "정렬(alignment)" 점수(이미지가 원래 의도의 의도와 얼마나 잘 일치하는지 나타내는 척도)가 0.695에서 0.609로 떨어졌습니다. 이는 마치 편집자가 이야기를 너무 많이 바꿔서 더 이상 같은 이야기가 아니게 된 것과 같았습니다.

최종 다듬기: JustLLMGRPO
이를 해결하기 위해 연구진은 JustLLMGRPO를 도입했습니다. 그들은 **그룹 상대 정책 최적화(Group Relative Policy Optimization, GRPO)**라고 불리는 특별한 학습 방법을 사용했습니다.

• 작동 방식: 프롬프트 편집자가 지시 사항의 다섯 가지 다른 버전을 작성한다고 상상해 보십시오. 동결된 화가는 그 다섯 가지를 모두 그립니다. "판사"(영상의학적 지식을 갖춘 점수 산정 시스템)가 다섯 개의 이미지를 살펴보고 이렇게 말합니다. "이것이 가장 좋아 보이지만, 여전히 핵심을 놓쳤다. 이것은 괜찮지만 이상하게 보인다. 이것은 완벽하다!"
• 그러면 시스템은 프롬프트 편집자에게 다음과 같이 알려줍니다. "그 버전은 잘했지만, 원래의 의미를 유지하면서도 명확하게 만들어야 한다."
• 결과는 어떠했을까요? 프롬프트 편집자는 원래의 의도를 완벽하게 유지하면서도 짧고 명확하게 지시 사항을 쓰는 법을 배웠습니다.

결과
JustLLMGRPO를 통해 연구팀은 두 마리 토끼를 모두 잡았습니다.

• 이미지 품질: RadDINO-FID 점수가 26.780까지 더 낮아졌습니다 (단순히 가공되지 않은 프롬프트를 사용했을 때보다 50.6% 개선됨).
• 정확도: 원래 보고서와의 정렬도는 0.696으로 높게 유지되었습니다 (단순 재작성 시 발생했던 하락을 해결하여 원래 수준과 거의 동일함).
• 유용성: 생성된 이미지는 매우 훌륭하여, 이 이미지들로 질병을 진단하도록 별도의 AI를 학습시켰을 때 다른 최고 수준의 방법들보다 더 나은 성능을 보였습니다.

이것이 의미하는 바
이 논문은 더 나은 결과를 얻기 위해 반드시 이미지 생성기를 계속 재학습시켜야 한다는 생각에 명시적으로 반박합니다. 그들은 우리가 이미지를 요청하는 방식에 엄청난 잠재력이 숨겨져 있다는 것을 보여주었습니다. 생성기를 고정하고 "프롬프트 정책(Prompt Policy)"(지시 사항)만을 최적화함으로써, 그들은 최첨단(state-of-the-art) 결과를 얻어냈습니다.

또한 그들은 단순히 지시 사항을 짧게 만드는 것만으로는 충분하지 않다는 점을 입증했습니다. GRPO를 통한 특정 학습 없이는 의미가 퇴색됩니다. 그리고 생성기 자체를 재학습시키려는 시도(Sana-GRPO 대조군)가 정렬 점수는 높아 보일지라도 실제로는 이미지의 사실성 측면에서 오히려 결과물을 악화시킨다는 점도 보여주었습니다.

요약하자면, 연구진은 때때로 더 좋은 그림을 얻는 최선의 방법은 더 나은 화가를 고용하는 것이 아니라, 화가에게 더 나은 지시를 내리는 법을 배우는 것임을 발견했습니다. 이 새로운 방법의 코드는 공개되어 있어, 다른 이들이 자신들의 AI 예술 프로젝트에 이 "프롬프트 우선(prompt-first)" 접근 방식을 시도해 볼 수 있도록 초대하고 있습니다.