Seeing Clearly without Training: Mitigating Hallucinations in Multimodal LLMs for Remote Sensing

이 논문은 원격 탐사 시각 질문 답변 (RS-VQA) 에서 발생하는 환각 현상을 해결하기 위해 사실적 오류를 진단하는 벤치마크 'RSHBench'를 제안하고, 학습 없이 주의를 기반으로 한 단계적 국소 추론을 수행하는 'RADAR'라는 추론 방법을 개발하여 다양한 멀티모달 대규모 언어 모델의 성능을 향상시켰음을 보여줍니다.

핵심

🌍 1. 문제: "눈이 멀다"는 AI 의 실수

우리가 AI 에게 위성 사진을 보여주고 "이 사진 오른쪽 구석에 비행기가 몇 대 있나요?"라고 물으면, AI 는 종종 엉뚱한 대답을 합니다.

• 실수 1 (찾지 못함): 사진이 너무 넓고 복잡해서 AI 가 정답이 있는 곳을 못 찾습니다. 마치 거대한 도서관에서 책 한 권을 찾으려는데, 책장 전체를 훑어보느라 정작 책이 있는 책장을 놓쳐버리는 것과 같습니다.
• 실수 2 (잘 안 보임): 찾기는 했지만, 대상이 너무 작거나 흐릿해서 "흰색"이라고 해야 할 것을 "검은색"이라고 잘못 봅니다. 마치 안경을 쓰지 않고 멀리 있는 작은 글자를 읽으려다 틀리는 것과 비슷합니다.

이런 실수를 **"할루시네이션 (Hallucination, 환각)"**이라고 합니다. AI 가 본 적이 없는 것을 있는 것처럼 말하거나, 본 것을 잘못 해석하는 것이죠.

🔍 2. 해결책 1: "RSHBench" - AI 의 실수를 진단하는 체력검사

연구진은 먼저 AI 가 왜 실수를 하는지 정확히 파악하기 위해 **'RSHBench'**라는 새로운 테스트 도구를 만들었습니다.

• 비유: 기존에는 AI 가 "정답을 맞췄는지"만 확인했다면, 이 도구는 **"AI 가 왜 틀렸는지"**를 분석합니다.
• 마치 의사가 환자를 볼 때 "병이 낫았나?"만 묻는 게 아니라, "어떤 세포가 잘못되었는지, 어떤 혈관이 막혔는지"를 자세히 진단하는 것과 같습니다. 이 테스트를 통해 AI 가 주로 '위치 찾기'와 '세부 묘사'에서 실수한다는 것을 발견했습니다.

🚀 3. 해결책 2: "RADAR" - 훈련 없이도 눈이 밝아지는 방법

가장 흥미로운 부분은 이 문제를 해결하기 위해 AI 를 다시 가르치지 (훈련시키지) 않고도 성능을 높인다는 점입니다. 연구진이 제안한 방법은 **'RADAR(레이더)'**라는 기법입니다.

RADAR 의 작동 원리 (창문 비유):

1. 첫 번째 단계 (어디를 봐야 할까?):

   • AI 가 처음에 전체 사진을 볼 때, 질문과 관련된 중요한 부분을 놓치거나 산만해집니다.
   • RADAR 는 AI 에게 **"이 질문에 답하려면 사진의 어디를 봐야 할까?"**라고 먼저 물어봅니다.
   • AI 는 자신의 내부 시선 (어텐션) 을 이용해 정답이 있을 만한 **'초점 영역'**을 찾아냅니다. 마치 카메라가 피사체를 찾기 위해 줌인 (Zoom-in) 을 시도하는 것과 같습니다.

2. 두 번째 단계 (무엇을 자세히 볼까?):

   • 찾은 영역을 다시 확대해서 봅니다. 이제 AI 는 **"그곳에 정확히 무엇이 있고, 어떤 색일까?"**라고 세부적으로 관찰합니다.
   • 이 과정은 마치 현미경을 통해 작은 세포를 자세히 보는 것과 같습니다. 전체를 보다가는 놓치던 작은 비행기나 차량의 색상을 이제 명확하게 볼 수 있게 됩니다.

3. 최종 답변:

   • 전체적인 맥락 (사진의 배경) 과 확대해서 본 세부 정보 (확대된 부분) 를 합쳐서 최종 답을 냅니다.

핵심: RADAR 는 AI 를 새로 교육하는 게 아니라, **"질문에 맞춰서 스스로 초점을 맞추고 확대해 보는 습관"**을 들이는 것입니다. 그래서 추가 학습 비용 없이도 성능이 크게 향상됩니다.

📊 4. 결과: 더 똑똑해진 AI

실험 결과, RADAR 를 적용한 AI 는:

• 할루시네이션 (환각) 이 약 10% 감소했습니다. (엉뚱한 말을 줄임)
• 정답률이 2~4% 향상되었습니다.
• 특히 "몇 대인가?", "무슨 색인가?" 같은 세부적인 질문에서 실수가 크게 줄었습니다.

💡 요약

이 논문은 **"위성 사진을 보는 AI 가 너무 넓은 화면 때문에 작은 것을 놓치거나 잘못 보는 문제를, '훈련' 대신 '스스로 초점을 맞추는 전략 (RADAR)'으로 해결했다"**는 내용입니다.

마치 안경을 쓰지 않고 멀리 있는 글자를 읽으려다 실수하는 사람에게, **"일단 어디에 글자가 있는지 먼저 찾고 (Where), 그다음 그 부분을 확대해서 자세히 보라 (What)"**고 가르쳐주니, 안경 없이도 글자를 정확하게 읽게 된 것과 같습니다.

이 기술은 앞으로 재난 감시, 도시 계획, 환경 보호 등 위성 사진을 분석해야 하는 모든 분야에서 AI 가 더 신뢰할 수 있는 도구가 되게 해줄 것입니다.

기술 요약

1. 문제 정의 (Problem)

멀티모달 대규모 언어 모델 (MLLMs) 은 일반적인 시각적 추론 능력은 뛰어나지만, 원격 탐사 (Remote Sensing, RS) 분야, 특히 원격 탐사 시각적 질문 응답 (RS-VQA) 작업에서는 심각한 할루시네이션 (Hallucination, 환각) 현상을 보입니다.

• 주요 원인:
  1. 시각적 Grounding 실패 (Visual Grounding Failure): 대규모 원격 탐사 이미지 내에서 질문과 관련된 정확한 영역을 찾지 못함 (Type 1: Cannot find).
  2. 세밀한 인식 실패 (Fine-grained Recognition Failure): 목표 영역을 찾았더라도, 작은 타겟이나 모호한 시각적 증거로 인해 세부 사항을 잘못 인식함 (Type 2: Cannot see clearly).
• 결과: 모델은 시각적 증거가 부족할 때 언어적 선입견 (Language Priors) 에 의존하여 사실과 다른 답변을 생성하거나, 초기 인식 오류가 추론 과정으로 전파되어 논리적 오류를 유발합니다.
• 현황의 한계: 기존 벤치마크는 주로 정답의 정확도 (Accuracy) 만 평가하여 할루시네이션의 유형과 원인을 체계적으로 진단하지 못했습니다.

2. 제안된 방법론 (Methodology)

이 논문은 두 가지 핵심 기여를 통해 문제를 해결합니다: RSHBench (진단용 벤치마크) 와 RADAR (학습 없는 추론 프레임워크).

A. RSHBench: 프로토콜 기반 할루시네이션 진단 벤치마크

할루시네이션을 체계적으로 분석하기 위해 제안된 벤치마크입니다.

• 구조: 371 개의 이미지 - 질문 쌍으로 구성되며, LRS-VQA, MME-RealWorld-RS 등 기존 데이터셋에서 선별되었습니다.
• 프로토콜: 모델이 최종 답변뿐만 아니라 명시적인 추론 과정 (Reasoning Trace) 을 생성하도록 강제합니다.
• 진단 체계: 3 개의 전문가 모델 (Gemini-3-pro, GPT-5.2, Qwen3-max) 을 사용하여 할루시네이션을 다음과 같이 세분화하여 평가합니다.
  • 사실적 할루시네이션 (Factual): 객체/카테고리 (OBJ), 속성 (ATT), 공간/위치 (SPA) 와 관련된 시각적 증거 부재.
  • 논리적 할루시네이션 (Logical): 유효하지 않은 추론 (IR), 근거 없는 인과관계 (CI), 내부 불일치 (INC), 의미 과부여 (SO).

B. RADAR (Relative Attention-Driven Actively Reasoning)

모델의 학습 없이 (Training-free) 추론 시에 적용되는 적응형 줌인 (Zoom-in) 프레임워크입니다.

• 핵심 아이디어: MLLM 내부의 주의 메커니즘 (Attention) 을 활용하여 질문 관련 시각적 증거를 점진적으로 확보합니다.
• 작동 원리:
  1. Query-Conditioned Relative Attention (QCRA):
     • 질문 (Task Query) 에 대한 주의 맵과 전체 장면을 이해하는 글로벌 쿼리 (Global Query) 에 대한 주의 맵을 비교합니다.
     • 두 맵의 비율을 계산하여 질문과 무관한 배경 잡음을 제거하고, 질문과 관련된 영역의 상대적 중요도를 강조합니다.
  2. 점진적 증거 확보 (Progressive Evidence Acquisition):
     • Stage 1 (Where-oriented): "어디를 봐야 하는가?"라는 질문으로 관심 영역을 대략적으로 위치시킵니다.
     • Stage 2 (What-oriented): 위치된 영역을 잘라낸 후, "무엇을 볼 것인가?"라는 질문으로 세부 사항을 인식합니다.
  3. Focus Test: 주의 맵이 너무 희미할 경우 (불확실성이 높을 때) 임의의 자르기를 방지하고 전체 이미지를 기반으로 답변하거나, 신뢰도가 낮으면 단계를 중단합니다.
  4. Multi-view Grounding: 전체 이미지 (전체 맥락) 와 잘라낸 고해상도 이미지 (세부 정보) 를 결합하여 최종 답변을 생성합니다.

3. 주요 기여 (Key Contributions)

1. RSHBench 도입: 원격 탐사 분야에서 할루시네이션을 미세하게 정량화하고 진단할 수 있는 표준화된 프로토콜과 벤치마크를 최초로 제시했습니다.
2. RADAR 프레임워크 제안: 추가 학습 없이 MLLM 의 내재적 주의 메커니즘을 활용하여, 대규모 장면에서의 위치 파악과 미세한 객체 인식을 동시에 개선하는 적응형 추론 방법을 제안했습니다.
3. 실증적 발견:
   • 최첨단 MLLM 들조차 원격 탐사 환경에서 사실적 및 논리적 할루시네이션에 취약함을 규명했습니다.
   • 초기 시각적 Grounding 실패가 추론 오류로 이어지는 '눈덩이 효과 (Snowballing effect)'가 존재함을 확인했습니다.

4. 실험 결과 (Results)

다양한 MLLM (GPT-4o, Qwen-VL, GeoZero 등) 을 대상으로 한 실험에서 RADAR 의 효과가 입증되었습니다.

• 할루시네이션 감소:
  • GeoZero 모델을 기준으로 RADAR 를 적용했을 때, 전체 할루시네이션율 (HR) 이 49.87% 에서 38.81% 로 약 11% 포인트 감소했습니다.
  • 사실적 할루시네이션 (특히 객체 인식 및 속성 오류) 이 크게 개선되었습니다.
• 정확도 향상:
  • LRS-VQA, MME-RealWorld-RS, LHRS-Bench 등 3 가지 주요 벤치마크에서 평균 정확도가 2%~4% 향상되었습니다.
  • 특히 색상 (Color) 인식 (+6.22%) 과 개수 세기 (Counting, +4.73%) 와 같은 세밀한 시각적 태스크에서 큰 개선을 보였습니다.
• 비교 분석:
  • 단순한 영역 자르기 (ViCrop) 기법과 비교했을 때, RADAR 는 질문 조건부 위치 파악을 통해 더 일관되고 안정적인 성능 향상을 보였습니다.
  • 추론 단계별 제거 실험 (Ablation Study) 을 통해 '위치 파악 (Stage 1)'과 '세부 인식 (Stage 2)'이 모두 필수적임을 확인했습니다.

5. 의의 및 결론 (Significance)

이 논문은 원격 탐사 분야에서 MLLM 의 신뢰성을 높이기 위한 중요한 이정표입니다.

• 학습 비용 절감: 대규모 모델을 재학습시키지 않고도, 추론 시의 주의 메커니즘을 조정함으로써 성능을 획기적으로 개선할 수 있음을 보여줍니다.
• 해석 가능성: 할루시네이션의 원인을 '찾지 못함 (Cannot find)'과 '잘못 봄 (Cannot see clearly)'으로 명확히 구분하고, 이를 해결하는 구체적인 메커니즘을 제시했습니다.
• 응용 가능성: 원격 탐사 데이터의 특성 (광활한 영역, 작은 객체, 복잡한 배경) 을 고려한 전용 해결책은 지구 과학, 도시 계획, 재난 모니터링 등 다양한 분야에서 MLLM 의 실용성을 높이는 데 기여할 것입니다.

결론적으로, 이 연구는 "학습 없이 (Without Training)" MLLM 이 원격 탐사 이미지를 더 명확하게 보고 (Seeing Clearly), 할루시네이션을 줄일 수 있음을 입증했습니다.