FilterRAG: Zero-Shot Informed Retrieval-Augmented Generation to Mitigate Hallucinations in VQA

기술 요약: FilterRAG

문제 정의
시각적 질의응전(Visual Question Answering, VQA) 시스템은 모델이 정확한 응답을 생성하기 위해 시각적 지각과 텍스트 이해를 통합해야 합니다. 그러나 BLIP 및 CLIP과 같은 기존 시각-언어 모델(Vision-Language Models, VLMs)은 특히 지식 집약적인 질문이나 분포 외(Out-of-Distribution, OOD) 입력에 직면했을 때, 그럴듯하지만 틀린 답을 내놓는 "환각(hallucinations)" 현상을 빈번하게 겪습니다. 이러한 오류는 종계된 편향에 대한 과도한 의존이나 외부 지식에 대한 접근성 부족에서 기인하며, 이는 학습 과정에서 보지 못한 개념이 등장할 수 있는 실제의 역동적인 환경에서 VQA 시스템의 견고함을 제한합니다.

방법론: FilterRAG
이러한 한계를 해결하기 위해, 저자들은 환각을 완화하기 위해 외부 지식 소스(구체적으로 Wikipedia 및 DBpedia)에 VQA 응답을 근거하도록 설계된 검색 증강 프레임워크인 FilterRAG를 소개합니다. 이 시스템은 그림 2에 설명된 다음과 같은 다단계 과정을 통해 작동합니다:

1. 시각적 전처리(Visual Preprocessing): 입력 이미지는 시각적 세부 사항과 일관성 사이의 균형을 맞추기 위해 (절제 연구를 통해 최적임을 결정된) 2x2 그리드로 나뉩니다.
2. 멀티모달 인코딩(Multimodal Encoding): BLIP-VQA 모델(멀티모달 혼합 인코더-디코더 아키텍처 활용)이 이미지와 관련 질문으로부터 시각 및 텍ext 임베딩을 생성합니다.
3. 지식 검색(Knowledge Retrieval): 시스템은 외부 데이터베이스로부터 관련 컨텍스트를 동적으로 검색합니다:
   • Wikipedia: 검색 기반 검색 및 요약 기반 추출을 통해 접근합니다.
   • DBpedia: SPARQL 쿼리를 통해 접근합니다.
4. 증강 및 생성(Augmentation and Generation): 검색된 지식은 이미지-질문 쌍과 결합되어 컨텍스트를 풍부하게 합니다. 그 후 동결된 GPT-Neo 1.3B(디코더 전용) 모델이 이 증강된 정보를 활용하여 최종 답변을 생성합니다.
5. 제로샷 학습(Zero-Shot Learning): 이 프레임워크는 제로샷 설정에서 작동하며, 이는 대상 데이터셋에 대한 작업별 미세 조정(fine-tuning)을 요구하지 않음을 의미합니다. 이는 BLIP-VQA와 GPT-Neo의 사전 학습된 능력을 활용하여 보지 못한 도메인으로 일반화합니다.

또한, 이 방법론은 분포 내(in-distribution) 입력과 분포 외(out-of-distribution) 입력을 구별하기 위해 점수 함수 $S(I, Q)$와 임계값 $\lambda$를 사용하는 OOD 탐지 메커니즘을 포함합니다. 환각은 예측된 답변 임베딩과 정답(ground truth) 임베딩 간의 코사인 유사도(Sentence Transformers 사용)를 통해 계산되는 "그라운딩 점수(grounding score)"를 통해 정량화되며, 점수가 임계값 $\tau$ 미만인 경우 환각이 발생한 것으로 간주합니다.

주요 기여
본 논문은 세 가지 주요 기여를 명시합니다:

• FilterRAG 프레임워크: 환각을 줄이기 위해 외부 지식 소스에 VQA 응답을 근거하도록 하는 새로운 검색 증강 접근 방식입니다.
• 제로샷 학습 적용: 제로샷 학습이 미세 조정을 요구하지 않고도 OOD 시나리오에서 어떻게 검색을 강화하고 환각을 줄일 수 있는지 입증합니다.
• 포괄적 평가: OK-VQA 데이터셋에 대해 엄격한 평가를 수행하여, 지식 집약적인 작업 전반에 걸친 분포 내(in-domain) 및 OOD 설정 모두에서의 견고성과 신뢰성을 평가했습니다.

실험 결과
저자들은 외부 지식을 필요로 하는 벤치마크인 OK-VQA 데이터셋에서 FilterRAG를 평가했습니다. 주요 결과는 다음과 같습니다:

• 정확도: FilterRAG는 OK-VQA 데이터셋에서 36.5%의 정확도를 달 기록했습니다. 특정 설정에서 분포 내(ID) 데이터에 대해 37.0%, 분포 외(OOD) 데이터에 대해 36.0%의 정확도를 달성했습니다.
• 비교: 본 프레임워크는 일부 최첨단 앙상블 방법(예: KAT의 54.41% 또는 REVIVE의 58.0%)에 비해 절대적인 정확도는 낮지만, 저자들은 해당 방법들이 종종 훨씬 더 큰 모델(예: Frozen GPT-3 175B)과 더 많은 컴퓨팅 자원에 의존한다는 점을 언급합니다. FilterRAG는 동결된 작은 모델(BLIP-VQA 및 GPT-Neo 1.3B)을 사용하여 성능과 효율성의 균형을 맞추는 것을 목표로 합니다.
• 환각 완화: FilterRAG의 그라운딩 점수는 ID(70.06%), OOD(70.68%) 및 결합 설정(70.37%)에서 일관되게 나타났습니다. 이러한 일관성은 모델이 검색된 지식에 답변을 효과적으로 근거하여, 일반 VQA에서 지식 기반 VQA로 이동할 때 그라운딩 점수가 급격히 떨어지는 베이스라인 모델들에 비해 환각 가능성을 줄여준다는 것을 시사합니다.
• 절제 연구(Ablation Study): 다양한 이미지 그리드 크기(2x2, 3x3, 4x4)에 대한 실험 결과, 2x2 그리드가 정확도와 그라운딩 점수 사이에서 최적의 절충안을 제공하는 것으로 나타났습니다. 더 큰 그리드(3x3, 4x4)는 과도한 파편화를 초래하여 모델이 일관된 시각적 특징을 추출하고 이를 검색된 지식과 정렬하는 능력을 저해했습니다.

의의 및 주장
본 논문은 FilterRAG가 특히 OOD 입력을 포함하는 실제 환경에서 VQA 시스템을 개선하기 위한 검색 증강 프레임워크의 잠재력을 보여준다고 주장합니다. 외부 지식 소스를 통합함으로써, 이 프레임워크는 학습된 편향에만 의존하는 대신 응답이 사실에 근거하도록 하여 VQA 시스템의 견고성과 신뢰성을 향상시킵니다. 저자들은 FilterRAG를 학습된 지식 베이스를 넘어 일반화 능력을 높이는 솔루션으로 배치하며, 이는 보지 못한 개념이 흔한 역동적인 환경에 적합하게 만듭니다. 향 향후 연구 과제로는 지식 검색 품질의 추가적인 개선과 환각을 더욱 줄이기 위한 멀티모달 정렬의 정교화가 식별되었습니다.