Asymmetric Idiosyncrasies in Multimodal Models

이 논문은 캡션 생성 모델이 뚜렷한 스타일적 특징을 보이지만, 이를 기반으로 생성된 이미지에서는 이러한 특징이 사라지는 비대칭적 현상을 체계적으로 분석하고, 이를 통해 캡션 모델의 스타일적 특성과 텍스트 - 이미지 생성 모델의 프롬프트 준수 능력을 정량화하는 새로운 방법론을 제시합니다.

핵심

이 논문은 **"AI 가 그림을 그릴 때, 글로 쓴 설명서 (캡션) 의 '필체'나 '스타일'이 그림으로까지 전달될까?"**라는 아주 흥미로운 질문을 던집니다.

결론부터 말씀드리면, **"글에서는 AI 의 특징이 뚜렷하게 드러나지만, 그림으로 바뀌면 그 특징이 거의 사라져 버린다"**는 것입니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

🎨 비유: "세 명의 요리사와 한 명의 셰프"

이 연구를 이해하기 위해 다음과 같은 상황을 상상해 보세요.

1. 세 명의 요리사 (MLLMs):

   • 요리사 A (Claude): 요리에 대한 설명을 할 때 "조명이 어두운 분위기"라고 강조하고, 감성적인 표현을 많이 씁니다.
   • 요리사 B (Gemini): "카메라 각도가 약간 낮다", "해결사가 보인다"처럼 카메라 각도나 구도에 집착하며 매우 상세하게 설명합니다.
   • 요리사 C (GPT): "이것은 파란색 신발이다"처럼 핵심만 간결하게, 사실적으로 설명합니다.

   이 세 요리사가 같은 재료를 보고 **레시피 설명서 (캡션)**를 작성하면, 글만 봐도 누가 썼는지 99% 확률로 맞힐 수 있습니다. 마치 사람의 필체나 말투를 구별하는 것처럼, 각 요리사의 '글쓰기 스타일'이 너무 뚜렷하기 때문입니다.

2. 한 명의 셰프 (T2I 모델):

   • 이제 이 세 요리사가 쓴 레시피 설명서를 **셰프 (이미지 생성 AI)**에게 줍니다. 셰프는 이 설명을 보고 실제 **요리 (그림)**를 만들어냅니다.

🔍 연구의 핵심 발견: "글의 맛은 사라진다"

연구자들은 이 세 요리사의 레시피로 만든 요리를 가지고 다시 한 번 "이 요리는 누가 쓴 레시피로 만든 거야?"라고 맞춰보게 했습니다.

• 결과: 글에서는 99% 맞췄지만, 그림으로 바뀌면 50% 정도밖에 못 맞췄습니다. (무작위 추측과 거의 비슷함)
• 왜 그럴까?
  • 요리사 A 는 "어두운 분위기"라고 썼지만, 셰프는 그냥 "보통 조명"으로 그렸습니다.
  • 요리사 B 는 "위에서 내려다보는 각도"라고 썼지만, 셰프는 "정면"으로 그렸습니다.
  • 요리사 C 는 "부드러운 벨벳 질감"이라고 썼지만, 셰프는 그냥 "평범한 천"으로 그렸습니다.

즉, 글에 담긴 '세부적인 뉘앙스'나 '스타일'이 그림을 그리는 AI 에게는 잘 전달되지 않는 것입니다.

🧐 왜 이런 일이 일어날까요? (3 가지 이유)

논문을 통해 발견한 구체적인 이유는 다음과 같습니다.

1. 상세함의 차이 (Detail Gap):
   • 어떤 AI 는 "오렌지색 소스"라고 아주 구체적으로 썼지만, 그림 AI 는 그냥 "노란색 소스"로 그렸습니다. 글의 정교함이 그림에서는 평범한 수준으로 낮아집니다.
2. 색감과 질감의 무력함 (Color & Texture Gap):
   • "회갈색의 거친 질감"이라고 썼는데, 그림 AI 는 그냥 "갈색"으로만 그립니다. 글에서 강조한 미세한 색조나 질감은 그림에서는 사라집니다.
3. 구도의 무시 (Composition Gap):
   • "왼쪽에서 오른쪽으로 이어지는 선"이라고 썼는데, 그림 AI 는 그냥 일반적인 구도로 그립니다. 글의 구성적 지시를 그림 AI 가 잘 따르지 않습니다.

💡 이 연구가 우리에게 주는 교훈

이 연구는 **"AI 가 글을 쓰고 그림을 그릴 때, 두 과정이 완전히 다른 세계"**임을 보여줍니다.

• 현재의 문제: 우리는 AI 가 쓴 글 (캡션) 을 모아 그림을 만드는 훈련을 시키는데, 사실 그 글에 담긴 '스타일'이나 '세부 정보'는 그림으로 오지 않습니다. 마치 정교한 지도를 보고 길을 찾는데, 실제 길은 지도와 전혀 다르게 나 있는 상황과 같습니다.
• 미래의 방향: 앞으로는 AI 가 "글에 쓴 대로 그림에 정확히 반영하는 능력 (지시 따르기)"을 더 키우는 것이 중요합니다. 그래야만 AI 가 쓴 글의 특징이 그림에서도 살아날 수 있습니다.

📝 한 줄 요약

"AI 들은 글을 쓸 때는 각자 독특한 '필체'를 가지고 있지만, 그 글을 바탕으로 그림을 그릴 때는 그 필체가 사라지고 모두 비슷비슷한 그림을 그려냅니다. 글과 그림 사이의 '통역'이 아직 완벽하지 않다는 뜻입니다."

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

최근 텍스트 - 이미지 (Text-to-Image, T2I) 생성 파이프라인은 훈련 데이터 확장과 텍스트 - 이미지 정렬 (alignment) 을 개선하기 위해 모델이 생성한 캡션 (Caption) 을 합성 데이터로 광범위하게 활용하고 있습니다. 이러한 접근법은 두 가지 중요한 가정을 전제로 합니다:

1. 다양한 캡션 생성 모델 (MLLM) 에서 생성된 캡션은 스타일적으로 중립적이거나 상호 교환 가능하다.
2. 이러한 캡션은 T2I 모델에 의해 시각적 콘텐츠로 정확하게 변환된다.

그러나 이 논문은 이러한 가정이 검증되지 않았으며, 실제로는 심각한 문제가 존재함을 지적합니다. 언어 모델은 생성된 텍스트에 모델 고유의 '지문 (Fingerprint)'을 남기는 것으로 알려져 있지만, 이러한 캡션 수준의 고유성 (Idiosyncrasies) 이 하위 T2I 시스템에 의해 생성된 이미지로 전이되는지 여부는 불명확합니다. 만약 전이가 약하다면, 텍스트 단계에서 편향이 발생하더라도 시각적으로 나타나지 않아, 캡션을 신뢰할 수 있는 감독 신호 (Supervisory Signal) 로 사용하는 데 어려움이 생길 수 있습니다.

2. 연구 방법론 (Methodology)

저자들은 "Name-that-model" 분류 작업을 기반으로 한 체계적인 분석 프레임워크를 제안했습니다. 이 프레임워크는 캡션과 이미지 양쪽에서 모델의 출처를 식별하는 능력을 측정합니다.

• 데이터셋 구성: CC3M, COCO, ImageNet, MNIST 등 다양한 데이터셋에서 1 만 장의 이미지를 샘플링했습니다.
• 캡션 생성: 4 가지 MLLM (Claude-3.5-Sonnet, Gemini-1.5-Pro, GPT-4o, Qwen3-VL) 을 사용하여 동일한 이미지와 프롬프트에 대해 캡션을 생성했습니다.
• 이미지 생성: 생성된 캡션들을 고정된 T2I 모델 (Stable Diffusion v1.5/2.1/XL, FLUX.1-schnell 등) 에 입력하여 새로운 이미지를 합성했습니다.
• 분류 실험:
  1. 텍스트 분류: 생성된 캡션을 입력으로 받아 해당 캡션을 생성한 MLLM 을 분류하는 BERT 기반 분류기를 훈련했습니다.
  2. 이미지 분류: 생성된 이미지를 입력으로 받아 해당 이미지의 캡션 출처 (어떤 MLLM 이 생성했는지) 를 분류하는 ResNet 기반 분류기를 훈련했습니다.
• 추가 분석: TF-IDF, 어휘 통계 (색상/질감), 구성적 용어 분석, 그리고 캡션의 재문장 (Paraphrasing) 실험을 통해 고유성이 표면적 표현인지 심층적 선택인지 규명했습니다.

3. 주요 결과 (Key Results)

A. 텍스트 vs 이미지의 비대칭적 정확도

• 텍스트 영역: 캡션 분류기는 **99.70%**의 정확도로 모델 출처를 식별했습니다. 이는 모델마다 매우 뚜렷한 스타일적 지문이 존재함을 의미합니다.
• 이미지 영역: 동일한 캡션으로 생성된 이미지를 분류했을 때, 최신 모델인 FLUX.1-schnell 을 사용하더라도 정확도는 **약 50%**에 불과했습니다 (3 클래스 임의 추측 확률 33.3% 보다는 약간 높지만, 텍스트 영역에 비해 현저히 낮음).
• 비교: 자연 이미지 (Natural Images) 를 구분하는 동일한 분류기는 76.7% 의 정확도를 보였으나, 생성된 이미지는 그렇지 못했습니다. 이는 분류기 자체의 문제가 아니라 생성 모델이 캡션의 고유성을 시각화하지 못함을 시사합니다.

B. 고유성의 소실 원인 분석

• 재문장 (Paraphrasing) 실험: 캡션을 재문장하더라도 텍스트 분류 정확도는 95% 이상 유지되었습니다. 이는 고유성이 단순한 단어 선택이 아니라, 무엇을 묘사할지 (내용 선택) 와 어떻게 구조화할지 (관점/구도) 에 대한 심층적인 모델 고유의 선택임을 보여줍니다.
• T2I 인코더 분석: 텍스트 인코더 (CLIP, T5) 는 캡션의 고유 신호를 대부분 보존하는 것으로 확인되었습니다. 따라서 신호 소실은 생성 과정 (Generator) 에서 발생합니다.
• 구체적 손실 요소:
  • 세부 정보 (Detail Level): Gemini 가 가장 상세한 캡션을 생성했으나, 생성된 이미지는 모델 간 세부 정보 수준이 비슷해졌습니다.
  • 색상 및 질감 (Color & Texture): 캡션에서 모델별로 색상과 질감 표현의 빈도와 정교함이 크게 달랐으나, 생성된 이미지에서는 이러한 미묘한 차이가 시각적으로 구현되지 않았습니다.
  • 구도 (Composition): 캡션에서 명시된 시점 (고각/저각) 이나 구도 지시가 생성 이미지에서 일관되게 반영되지 않았습니다.

4. 주요 기여 (Contributions)

1. 새로운 평가 프레임워크 제안: 캡션과 이를 기반으로 생성된 이미지 양쪽에서 모델 고유의 특성을 정량화하는 '소스 어트리뷰션 (Source Attribution)' 기반의 새로운 평가 방법론을 제시했습니다.
2. 교차 모달 격차 (Cross-modal Gap) 발견: 텍스트 영역에서는 거의 완벽한 모델 식별이 가능하지만, 이미지 영역에서는 그 고유성이 거의 소실된다는 비대칭적 격차를 실증적으로 증명했습니다.
3. 고유성의 본질 규명: MLLM 의 고유성은 단순한 문체 (Surface phrasing) 가 아니라, 내용 선택과 관점 설정에 대한 심층적 패턴임을 분석을 통해 입증했습니다.
4. T2I 모델의 한계 지적: 현재 T2I 모델이 캡션의 세부적인 스타일적 지시사항 (색상 뉘앙스, 질감, 구도 등) 을 따르는 능력 (Instruction Following) 이 여전히 주요 병목 현상임을 보여주었습니다.

5. 의의 및 시사점 (Significance)

• 합성 데이터의 위험성: 다양한 캡션 생성 모델에서 캡션을 수집하여 T2I 훈련에 사용할 경우, 텍스트 도메인에는 편향이 존재하지만 시각적 도메인에는 반영되지 않아 데이터 불일치 (Distributional Mismatch) 를 초래할 수 있음을 경고합니다.
• T2I 모델 개선 방향: 향후 T2I 모델 개발 시, 단순한 객체 키워드 인식뿐만 아니라 캡션에 담긴 스타일적 뉘앙스, 세부 묘사, 구도 지시 등을 정확하게 시각화하는 능력이 핵심 과제로 부각되어야 함을 시사합니다.
• 평가 지표로서의 어트리뷰션: "Instruction Following" 능력을 평가하는 새로운 보조 지표로 '모델 어트리뷰션 정확도'를 제안했습니다. 캡션의 고유성이 이미지로 잘 전이될수록 모델의 지시 수행 능력이 뛰어나다고 평가할 수 있습니다.

결론적으로, 이 논문은 텍스트와 이미지 간의 모달리티 변환 과정에서 모델 고유의 '지문'이 어떻게 소실되는지를 체계적으로 분석함으로써, 현재 멀티모달 시스템의 한계를 드러내고 향후 연구 방향을 제시했습니다.