Multi-modal Data Spectrum: Multi-modal Datasets are Multi-dimensional

이 논문은 23 개의 시각 질문 응답 벤치마크에 대한 대규모 실증 연구를 통해 현재 멀티모달 평가가 모달리티 간 상호작용보다 개별 모달리티 의존성에 과도하게 의존하고 있음을 규명하고, 이를 바탕으로 보다 원칙적인 벤치마크 설계 방향을 제시합니다.

핵심

🎓 핵심 이야기: "시험지를 보고 답을 외운 아이들"

이 논문은 AI 연구자들이 만든 수많은 '다중 모달 벤치마크 (시험지)'들을 분석했습니다. 이 시험지들은 AI 가 그림을 보고 질문에 답하는 능력을 측정한다고 주장합니다. 하지만 연구 결과, 대부분의 AI 는 그림과 질문을 함께 생각하지 않고, '한 가지 단서'만 보고 정답을 맞히는 요령 (Shortcuts) 을 터득하고 있었습니다.

이를 이해하기 위해 세 가지 개념을 비유해 보겠습니다.

1. 세 가지 의존성 (Dependencies)

AI 가 문제를 풀 때 어떤 단서에 의존하는지 세 가지로 나눕니다.

• 텍스트 의존성 (Text-only): "그림은 안 봐도 돼, 질문만 읽으면 답이 나오네!"
  • 비유: 시험지 문제를 읽다가, "아, 이 질문은 보통 '사과'라고 답하는구나"라고 외워서 답하는 경우입니다.
• 이미지 의존성 (Image-only): "질문은 안 읽어도 돼, 그림만 보면 답이 나오네!"
  • 비유: 질문을 무시하고 그림에 있는 '초록색 잎사귀'만 보고 "정답은 잎사귀야!"라고 외치는 경우입니다.
• 상호 의존성 (Inter-modality): "질문과 그림을 모두 봐야 진짜 답을 알 수 있어!"
  • 비유: "이 그림은 초록색 잎사귀인데, 질문은 '이게 무슨 맛일까?'라고 물어보네. 잎사귀는 씁쓸하니까 답은 '쓴맛'이겠구나!"라고 두 정보를 연결해서 생각하는 진정한 다중 모달 능력입니다.

2. 연구의 발견: "요령 부리는 AI 들"

연구진은 23 개의 유명한 시험지 (벤치마크) 를 분석했습니다. 결과는 충격적이었습니다.

• 의도치 않은 함정: 연구자들은 AI 가 그림만 보고 답하지 못하게 하려고 질문을 복잡하게 만들었습니다. 하지만 AI 는 그걸 피해서 **"그림만 보고 답하는 새로운 요령"**을 찾아냈습니다.
  • 비유: "질문만 보고 답하지 마!"라고 선생님이 경고하자, 아이들은 "그럼 그림만 보고 답하면 되겠네!"라고 생각한 것입니다.
• 크기가 커져도 똑같아: AI 모델이 더 커지고 똑똑해졌을수록, 오히려 이 '요령'을 더 잘 사용했습니다. 진짜 다중 모달 능력 (질문과 그림을 연결하는 능력) 이 늘어난 게 아니라, 단서 하나를 더 잘 찾아내는 능력만 늘어난 것입니다.

3. 실험 방법: "혼란스러운 시험지"

연구진은 AI 의 능력을 정확히 측정하기 위해 입력을 섞어주는 실험을 했습니다.

• 정상: 그림 + 질문 (원래대로)
• 텍스트만: 질문은 원래대로, 그림은 엉뚱한 다른 그림 (예: 질문은 '지구의 층수는?'인데 그림은 '뇌' 그림)
• 이미지만: 그림은 원래대로, 질문은 엉뚱한 다른 질문 (예: 그림은 '기린'인데 질문은 '지구의 층수는?')

결과:

• 많은 AI 가 그림이 '뇌'로 바뀌어도 질문만 보고 "지구는 3 층이야!"라고 정답을 맞췄습니다. (텍스트 의존성)
• 또 다른 AI 는 질문이 '기린'에 대한 게 아니라면 그림만 보고 "정답은 기린이야!"라고 맞췄습니다. (이미지 의존성)
• 즉, 그림과 질문이 서로 연결되어 있어야만 풀리는 문제는 생각보다 훨씬 드물었습니다.

---

💡 이 논문이 우리에게 주는 교훈

이 논문은 우리에게 다음과 같은 중요한 메시지를 전합니다.

1. 현재의 점수는 속임수일 수 있습니다: AI 가 시험에서 100 점만 받았다고 해서 진짜로 그림과 언어를 이해하는 건 아닙니다. 그냥 시험지의 '단서'를 잘 찾아낸 것일 뿐일 수 있습니다.
2. 새로운 시험지를 만드는 것만으로는 부족합니다: "텍스트 의존성"을 없애려고 새로운 시험지를 만들면, AI 는 금방 "이미지 의존성"을 찾아냅니다. 이 '고양이와 쥐' 게임은 계속 반복됩니다.
3. 진정한 능력을 측정해야 합니다:
   • AI 가 답을 못 할 때 **"모르겠습니다 (Abstain)"**라고 말하는 능력을 평가해야 합니다.
   • 단순히 객관식 정답만 고르는 게 아니라, 왜 그 답을 선택했는지 설명할 수 있어야 합니다.
   • 점수만 보고 AI 를 평가하지 말고, 어떤 단서 (텍스트/이미지) 에 의존해서 답을 냈는지까지 분석해야 합니다.

🚀 결론

이 논문은 **"AI 가 진짜로 똑똑해졌는지, 아니면 시험지를 잘 분석하는 '요령'만 늘었는지"**를 구분해 내야 한다고 경고합니다.

우리는 AI 가 그림과 말을 서로 연결하여 진짜로 이해하는 능력을 키우기 위해, 더 정교하고 속임수가 없는 새로운 평가 방식을 만들어야 할 때입니다. 마치 단순히 정답만 외우는 학생이 아니라, 문제를 읽고 논리적으로 생각하는 학생을 길러내야 하는 것과 같습니다.

기술 요약

논문 개요: Multi-modal Data Spectrum

이 논문은 다중 모달 (Multi-modal) 학습, 특히 시각 - 언어 모델 (MLLMs) 의 평가 벤치마크가 실제로 무엇을 측정하는지에 대한 체계적인 분석을 제시합니다. 저자들은 현재 벤치마크들이 단일 모달 (텍스트 또는 이미지) 에 대한 의존성 (Intra-modality dependency) 과 모달 간의 상호작용 (Inter-modality dependency) 을 명확히 구분하지 못하고 있으며, 이로 인해 모델의 진정한 다중 모달 추론 능력이 과대평가되고 있음을 지적합니다.

1. 문제 제기 (Problem)

• 평가의 불명확성: 최근 200 개 이상의 다중 모달 벤치마크가 등장했지만, 각 데이터셋이 어떤 능력 (단일 모달 의존성 vs. 모달 간 시너지) 을 측정하는지에 대한 체계적인 조사가 부족합니다.
• 벤치마크 설계의 악순환 (Cat-and-Mouse Game): 기존 벤치마크의 텍스트 편향 (Text-only bias) 을 해결하기 위해 새로운 데이터셋이 만들어지지만, 이는 종종 의도치 않게 **이미지 편향 (Image-only bias)**을 강화하는 결과를 낳습니다.
• 모델의 '게으름' (Model Laziness): 많은 MLLM 이 이미지와 텍스트를 통합하여 추론하는 대신, 하나의 모달 (주로 텍스트 또는 이미지) 만을 사용하여 정답을 유추하는 '단일 모달 편향'을 이용합니다. 이는 모델의 실제 다중 모달 능력 향상이 아니라, 벤치마크의 결함을 이용한 결과일 수 있습니다.

2. 방법론 (Methodology)

저자들은 23 개의 주요 시각 질문 답변 (VQA) 벤치마크를 대상으로 대규모 실증 연구를 수행했습니다.

• 의존성 정의:
  • Intra-modality dependency (단일 모달 의존성): 하나의 모달 (이미지 또는 텍스트) 만으로도 태스크를 해결할 수 있는 정도.
  • Inter-modality dependency (모달 간 의존성): 이미지와 텍스트의 상호작용이 필수적인 정도 (시너지).
• 측정 기법 (Permutation-based Analysis):
  • 기존 연구 (Perceptual Score 등) 를 확장하여, 입력 데이터의 한 모달을 무작위로 섞거나 (Shuffling) 다른 샘플의 모달로 교체하는 실험을 수행했습니다.
  • 4 가지 평가 조건:
    1. Normal: 원본 이미지 + 원본 텍스트.
    2. Image Only: 원본 이미지 + 무작위 텍스트 (텍스트 의존성 제거).
    3. Text Only: 무작위 이미지 + 원본 텍스트 (이미지 의존성 제거).
    4. Random: 무작위 이미지 + 무작위 텍스트 (랜덤 베이스라인).
• 모델 및 데이터셋:
  • 모델: Cambrian-1 시리즈 (8B, 13B, 34B) 및 다양한 최신 MLLM 을 사용하며, 모델 편향을 줄이기 위해 다수결 투표 (Majority-vote ensemble) 방식을 적용했습니다.
  • 데이터셋: 일반 VQA, 전문가 지식 (ScienceQA, MMMU), 공간 이해, OCR, 문서/차트 이해 등 23 개 벤치마크를 포괄했습니다.

3. 주요 결과 (Key Results)

• 다차원적 의존성: 대부분의 벤치마크는 단일 모달 의존성과 모달 간 의존성이 혼합되어 있으며, 벤치마크 내에서도 하위 카테고리별로 의존성 패턴이 크게 다릅니다.
• 의도치 않은 이미지 편향: 텍스트 편향을 제거하기 위해 설계된 많은 최신 벤치마크 (예: MMBench, SEED-Bench 등) 는 오히려 이미지-only 의존성을 강화했습니다. 모델은 질문을 무시하고 이미지만으로 정답을 맞출 수 있었습니다.
• 모델 스케일링의 한계: 모델의 파라미터 수를 늘리는 것 (8B → 34B) 은 단일 모달 편향을 해결하지 못했습니다. 오히려 더 큰 모델은 단일 모달 의존성을 더 효과적으로 활용하여 성능을 높이는 경향이 있었습니다.
• 하위 카테고리별 편향:
  • ADE, COCO: 전체적으로는 다중 모달처럼 보이지만, '상대적 위치 (Relative location)'와 같은 하위 카테고리에서는 텍스트만으로 높은 정확도를 보입니다.
  • ScienceQA, MMMU: 고학년 문제나 특정 학문 분야에서는 텍스트 의존성이 지배적입니다.
• 모달 간 의존성 데이터의 부재: 순수하게 모달 간 상호작용 (시너지) 만을 요구하는 데이터셋은 매우 드뭅니다 (POPE, MME 등 소수 제외).

4. 주요 기여 (Contributions)

1. 대규모 실증 분석: 23 개의 인기 있는 VQA 벤치마크에 대한 최초의 대규모 다중 모달 의존성 분석을 수행했습니다.
2. 정량적 스펙트럼 제시: 벤치마크를 '텍스트 의존성', '이미지 의존성', '모달 간 의존성'의 강도에 따라 정량적으로 분류하고 시각화했습니다.
3. 평가 프레임워크 제안: 단순한 전체 점수 (Aggregate Score) 가 아닌, 이미지-only, 텍스트-only, 랜덤 베이스라인을 함께 보고하는 새로운 평가 프로토콜을 제안합니다.
4. 벤치마크 설계 가이드: 향후 벤치마크 설계 시 단일 모달 편향을 최소화하고 진정한 다중 모달 추론을 요구하는 방향으로 개선해야 함을 강조합니다.

5. 의의 및 시사점 (Significance)

• 평가의 재정의: 현재 리더보드 순위가 모델의 진정한 다중 모달 능력 향상을 반영하지 못할 수 있음을 경고합니다. 모델이 벤치마크의 '단서 (Shortcut)'를 이용하는 것일 뿐일 수 있습니다.
• 미래 방향성:
  • Open-ended Generation: 객관식 (Multiple-choice) 형식을 넘어 자유 형식 답변 생성으로 평가 방식을 전환해야 합니다.
  • 거부 (Abstention) 능력: 모델이 정보가 부족하거나 모호할 때 정답을 강제로 추측하지 않고 "모르겠다"고 답할 수 있어야 합니다.
  • 투명한 보고: 향후 연구에서는 전체 점수뿐만 아니라 각 모달별 기여도와 랜덤 베이스라인을 함께 공개하여 모델의 실제 능력을 투명하게 평가해야 합니다.

이 논문은 다중 모달 AI 연구가 단순한 벤치마크 점수 경쟁을 넘어, 데이터와 모델이 실제로 어떤 능력을 측정하고 있는지 비판적으로 성찰해야 할 시점임을 강력하게 주장합니다.