VLM-RobustBench: A Comprehensive Benchmark for Robustness of Vision-Language Models

이 논문은 다양한 왜곡 유형과 심각도 수준을 포괄하는 벤치마크 'VLM-RobustBench'를 제안하여, 현재 시각 - 언어 모델이 시각적 심각도보다 공간적 왜곡 (예: 리샘플링, 기하학적 변환) 에 훨씬 더 취약함을 규명했습니다.

핵심

📸 "눈이 멀지 않아도 실수할 수 있다": VLM-RobustBench 논문 쉽게 풀이

이 논문은 최신 **시각 - 언어 모델 **(VLM)이 얼마나 똑똑한지, 그리고 얼마나 약한지를 테스트한 '시험지'에 대한 이야기입니다.

마치 고급 자동차를 생각해보세요. 이 차는 평탄한 도로 (깨끗한 데이터) 에서는 스포츠카처럼 빠르고 정확하게 달립니다. 하지만 비가 오거나 (날씨), 도로가 울퉁불퉁하거나 (기하학적 왜곡), 유리창에 흠집이 생기면 (노이즈) 어떻게 될까요? 이 논문은 바로 그 '비상 상황'에서 차가 얼마나 잘 견디는지를 조사했습니다.

---

1. 연구의 핵심: "VLM-RobustBench"란 무엇인가요?

저자들은 **49 가지의 다양한 '시각적 방해'**를 만들어냈습니다.

• 비유: 사진에 안개, 비, 눈, 흔들림, 픽셀 깨짐, 회전, 확대/축소 등을 섞은 것입니다.
• 시험 방식: 이 방해들을 **약함 **(Low)의 3 단계와 **단순 켜기/끄기 **(Binary)로 나누어 총 133 가지 상황을 만들었습니다.
• 대상: Qwen, InternVL, Molmo, Gemma 등 최신 AI 모델 11 개를 이 시험에 통과시켰습니다.

2. 놀라운 발견 1: "시각적 심각도"는 거짓말쟁이다! 🤥

가장 충격적인 결과는 "눈에 보이는 정도"와 "AI 가 어려워하는 정도"가 일치하지 않는다는 것입니다.

• 일반적인 생각: "사진이 너무 흐리거나 (고강도 노이즈), 색이 다 까맣게 변하면 (고강도 밝기 감소) AI 가 망할 거야."
• 실제 결과:
  • **고강도 밝기 감소 **(사진이 아주 어두워짐) AI 는 거의 실수하지 않았습니다. (오류 1.6% 감소)
  • **저강도 유리 블러 **(유리창에 살짝 묻은 물기) AI 는 완전히 망가졌습니다. (오류 8.1% 감소!)
  • 해석: AI 는 "이미지가 얼마나 추한지"보다 **"이미지의 구조 **(모양, 위치)에 훨씬 더 민감합니다. 마치 사람이 글자를 읽을 때, 글씨체가 조금 흐릿해도 (노이즈) 읽히지만, 글자 순서가 뒤바뀌거나 (기하학적 왜곡) 읽을 수 없는 것과 비슷합니다.

3. 놀라운 발견 2: "단순한 반전"이 치명타다! 🔄

가장 간단한 조작이 AI 를 가장 혼란스럽게 했습니다.

• **수직 뒤집기 **(Vertical Flip) 사진을 위아래로 뒤집는 것만으로도 AI 는 10% 이상의 실수를 했습니다. 이는 고강도 노이즈보다 더 치명적이었습니다.
• **색상 반전 **(Invert) 사진을 네거티브처럼 만드는 것만으로도 AI 는 "이게 무슨 차야?"라고 혼란스러워했습니다.
• 비유: AI 는 사진의 '방향성'과 '색상 관계'를 절대적인 진리로 믿고 있습니다. 그래서 방향이 바뀌거나 색이 뒤집히면, 마치 "내 머리가 뒤집혔다"고 착각하며 완전히 길을 잃습니다.

4. 왜 이런 일이 일어날까요? (AI 의 약점)

논문은 이 현상을 **"공간적 취약성 **(Spatial Fragility)이라고 부릅니다.

• 원인: 최신 AI 는 이미지를 작은 조각 (패치) 으로 잘게 나누어 분석합니다.
• 비유: 레고 블록으로 성을 지었다고 상상해보세요.
  • 노이즈/날씨: 레고 위에 먼지를 뿌리거나 비를 뿌리는 것 (표면만 더러워짐). 레고 구조는 그대로라 AI 는 잘 알아봅니다.
  • 확대/축소/왜곡: 레고 블록을 늘이거나, 모양을 비틀거나, 위치를 살짝 옮기는 것 (구조가 무너짐). AI 는 "이 블록이 원래 여기 있어야 하는데?"라고 혼란을 겪으며 정답을 못 맞춥니다.
  • 결론: AI 는 **내용 **(의미)는 반면, **구조 **(위치, 모양)는 매우 약합니다.

5. 이 연구가 우리에게 주는 교훈

이 논문은 AI 개발자와 사용자에게 중요한 메시지를 줍니다.

1. 단순한 테스트는 부족하다: "깨끗한 사진"으로만 성능을 평가하면 AI 는 천재처럼 보입니다. 하지만 실제 세상 (비, 흔들림, 확대/축소) 에서는 바보가 될 수 있습니다.
2. 새로운 훈련이 필요하다: AI 를 훈련할 때 단순히 "사진을 흐리게" 하는 것뿐만 아니라, 사진을 늘리고, 비틀고, 뒤집는 훈련을 더 많이 해야 합니다.
3. 안전한 AI 를 위해: 자율주행이나 의료 진단처럼 실수하면 안 되는 분야에서는, AI 가 이런 '작은 왜곡'에도 흔들리지 않도록 만들어야 합니다.

📝 한 줄 요약

"최신 AI 는 사진이 얼마나 추한지는 상관없지만, 사진의 모양이 조금만 비틀려도 (확대, 축소, 뒤집기) 완전히 망가집니다. 우리는 AI 가 '구조'를 견딜 수 있도록 더 단단하게 훈련시켜야 합니다."

이 연구는 AI 가 단순히 "지식"만 있는 것이 아니라, "눈"이 얼마나 튼튼한지도 함께 점검해야 함을 보여줍니다.

기술 요약

1. 문제 정의 (Problem)

시각 - 언어 모델 (VLM) 은 표준적이고 고품질의 데이터셋에서 뛰어난 성능을 보이지만, 실제 배포 환경에서 발생하는 다양한 이미지 왜곡 (노이즈, 흐림, 날씨 변화, 기하학적 변형 등) 하에서는 어떻게 동작하는지에 대한 이해가 부족합니다.

• 기존 한계: 컴퓨터 비전 분야에는 ImageNet-C 와 같은 강건성 벤치마크가 존재하지만, 최신 대규모 시각 - 언어 모델 (LVLM) 의 경우 다양한 작업과 현실적인 왜곡 유형에 대한 체계적인 평가가 부족합니다.
• 핵심 가설의 의문: 기존 연구는 시각적 왜곡의 심각도 (severity) 가 증가할수록 모델의 성능이 선형적으로 저하된다고 가정합니다. 그러나 VLM 은 언어 추론과 시각 지각이 밀접하게 결합되어 있어, 이 가정이 성립하는지 여부가 불분명합니다.
• 필요성: 안전이 중요한 분야 (자율주행, 의료 진단 등) 에 VLM 을 적용하기 위해서는 고정된 데이터셋의 정확도뿐만 아니라, 일상적인 왜곡과 분포 변화에 대한 강건성을 평가할 수 있는 새로운 벤치마크가 필요합니다.

2. 방법론 (Methodology)

2.1. VLM-RobustBench 벤치마크 구축

저자들은 49 가지의 증강 유형을 포함하는 포괄적인 벤치마크를 제안했습니다.

• 왜곡 유형: 42 가지 심각도 기반 왜곡 (Noise, Blur, Weather, Digital, Geometric, Occlusion, Color/Tone, Resolution, VLM-specific) 과 7 가지 이진 변환 (Binary transforms) 으로 구성됩니다.
• 심각도 (Severity): 42 가지 왜곡은 Low, Mid, High 의 3 단계 심각도로 평가되며, 7 가지 이진 변환은 심각도 파라미터 없이 적용됩니다. 총 133 가지의 왜곡 설정을 생성합니다.
• 평가 데이터셋:
  • MMBench: 시각적 근거 (visual grounding) 가 중요한 다중 모달 벤치마크.
  • MMMU-Pro: 추론 (reasoning) 중심의 전문 지식 벤치마크.
• 평가 모델: Qwen, InternVL, Molmo, Gemma 등 4 개 계열의 11 가지 오픈 가중치 모델 (4B~30B 파라미터) 을 평가했습니다.

2.2. 평가 지표

• 정확도 감소 (Accuracy Drop, $\Delta$): 깨끗한 이미지 대비 왜곡된 이미지에서의 정확도 감소량.
• 시각적 이득 (Visual Gain, VG): 이미지 제거 시의 성능과 깨끗한 이미지의 성능 차이. 시각 정보에 의존하는 정도를 측정.
• 상대적 왜곡 오차 (Relative Corruption Error, RCE): 모델의 시각적 의존도 (VG) 로 정규화된 왜곡 영향력. $RCE = (\Delta / VG) \times 100\%$.
• 최악의 경우 감소 (Worst-Case Drop) 및 심각한 실패율 (Severe-Failure Rate): 전체 왜곡 설정 중 성능이 급격히 떨어지는 경우의 빈도.

3. 주요 기여 및 발견 (Key Contributions & Findings)

논문의 가장 중요한 발견은 **"시각적 심각도는 모델의 난이도를 예측하는 약한 지표"**라는 점이며, VLM 이 **"의미론적으로는 강력하지만 공간적으로는 취약 (Semantically strong but spatially fragile)"**하다는 것입니다.

3.1. 공간적 취약성 (Spatial Fragility)

• 재샘플링 및 기하학적 왜곡의 치명적 영향: 'Upsample(업샘플링)', 'Elastic Transform(탄성 변형)', 'Zoom Blur'와 같은 재샘플링 또는 기하학적 왜곡이 모델 성능을 가장 크게 저하시켰습니다. 특히 Upsample은 최대 34%p까지 정확도를 떨어뜨렸습니다.
• 시각적 심각도와의 역설: 시각적으로 심각해 보이는 왜곡 (예: 고심도 노이즈, JPEG 압축) 보다 Low severity 의 Glass Blur가 성능을 더 크게 저하시켰습니다 (MMBench 에서 약 8%p 감소). 이는 모델이 국소적인 패치 구조와 공간적 일관성에 과도하게 의존하고 있음을 시사합니다.

3.2. 심각도 불일치 (Severity Mismatch)

• 단조성 위반: 왜곡의 시각적 심각도가 높아질수록 성능이 반드시 나빠지는 것은 아닙니다. Low severity 의 Glass Blur 가 High severity 의 Brightness 감소보다 더 큰 성능 저하를 일으키는 등, 심각도와 난이도 간의 상관관계가 약합니다.
• 데이터셋별 차이: 시각적 근거가 중요한 MMBench 에서의 취약성이 추론 중심인 MMMU-Pro 에서보다 더 두드러졌습니다.

3.3. 이진 변환의 치명성 (Catastrophic Binary Transforms)

• 수직 뒤집기 (Vertical Flip) 와 색상 반전 (Color Invert): 학습된 파라미터가 필요 없는 단순한 변환임에도 불구하고 MMBench 에서 10%p 이상의 치명적인 성능 저하를 유발했습니다. 이는 모델이 강한 방향성 사전 지식 (orientation priors) 을 가지고 있음을 의미합니다.

3.4. 모델 계열별 취약성 (Family-Specific Vulnerabilities)

• 강건성은 파라미터 수와 직접적인 상관관계가 없었습니다. 각 모델 계열 (Qwen, InternVL 등) 은 고유한 취약성 지문 (fingerprint) 을 보였으며, 이는 아키텍처 선택이 실패 모드를 결정하는 데 중요한 역할을 함을 시사합니다.

4. 결과 분석 (Results)

• MMBench (시각 중심): 재샘플링 (Upsample) 과 기하학적 왜곡이 주요 실패 원인. Low severity Glass Blur 가 High severity Photometric 왜곡보다 더 큰 타격을 입힘.
• MMMU-Pro (추론 중심): 전반적으로 MMBench 보다 왜곡에 덜 민감하지만, 여전히 Zoom Blur 와 Elastic Transform 에 취약함. 일부 모델 (Qwen3-VL-4B) 은 왜곡이 오히려 성능을 향상시키는 경우 (Negative RCE) 도 있어, 언어 사전 지식에 과도하게 의존하고 있음을 보여줌.
• Tail Risk (꼬리 위험): 대부분의 왜곡은 무해하지만, 소수의 특정 왜곡 (재샘플링, 기하학적 변형) 이 전체적인 강건성 리스크를 지배함.

5. 의의 및 제언 (Significance & Recommendations)

이 연구는 VLM 의 실제 배포 가능성에 대한 중요한 통찰을 제공합니다.

1. 새로운 평가 프로토콜 필요: 단순한 정확도 평가가 아닌, 공간적 왜곡과 재샘플링에 대한 강건성을 평가하는 것이 필수적입니다.
2. 학습 전략 개선: 기존 데이터 증강 (Color Jitter 등) 을 넘어, 재샘플링, 탄성 변형, 기하학적 변형을 포함한 학습 커리큘럼이 필요합니다.
3. 모델별 맞춤형 접근: 아키텍처마다 취약점이 다르므로, 일반적인 노이즈 증강 대신 모델 계열별 취약 패턴을 타겟팅한 학습이 필요합니다.
4. 실제 적용: 로봇 공학, 자율주행, 의료 등 물리적 환경과 밀접한 분야에서 VLM 을 사용할 때, 센서 노이즈나 시점 변화와 같은 ' benign( benign)'한 왜곡이 치명적인 실패를 초래할 수 있음을 경고합니다.

결론적으로, VLM-RobustBench 는 현재 VLM 이 언어적 추론 능력은 뛰어나지만, 시각적 공간 구조에 대한 이해가 취약함을 드러냈으며, 이를 해결하기 위한 강건한 모델 개발의 방향성을 제시했습니다.