💻 computer science

HKVLM: Faithful Reasoning Grounding by Binding Language Queries to a Frozen Detector

HKVLM은 동결된 검출기의 제안(proposals)과 동결된 언어 모델의 추론 쿼리(reasoning queries)를 연결하는 학습 가능한 정렬 훅(alignment hook)을 통해 로컬라이제이션(localization)과 언어 생성을 분리함으로써 시각-언어 모델의 "결합 실패(binding failure)" 문제를 해결하며, 이를 통해 소규모 데이터 환경에서 그라운딩 정확도를 크게 향상시키고 환각 현상을 줄입니다.

원저자: Bo Ma

게시일 2026-06-30

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bo Ma

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신에게 아주 똑똑하고 박학다식한 사서(언어 모델)와, 매우 예리하지만 청력이 약간 부족한 보안 요원 한 쌍(시각 탐지기)이 있다고 상상해 보십시오.

목표는 *"헬멧을 쓰지 않은 사람을 보여줘"*와 같은 질문에 답하는 것입니다.

기존 방식: "말실수" 문제

많은 현재 시스템에서는 사서가 모든 것을 하려고 합니다. 사서는 사진을 보고, 답을 생각하고, 그 후 "좌측 상단, 우측 하단"과 같은 단어를 사용하여 위치를 설명하려고 시도합니다.

이 논문은 이것이 마치 사서에게 시를 쓰면서 동시에 지도를 그리라고 요구하는 것과 같다고 주장합니다. 그들은 정답(누가 그 사람인지)은 알지만, 좌표(그리는 상자 위치)는 틀리게 됩니다. 또는, 올바른 사람을 자신 있게 가리키면서도 이미지와 단어 사이에서 혼동을 일으켜 실수로 "저것은 고양이입니다"라고 말하기도 합니다.

저자들은 이를 "보고도 잘못 말하는(See-but-mis-speak)" 격차라고 부릅니다. 시스템은 올바른 것을 보았지만, 잘못된 라벨을 말하거나 잘못된 상자를 그립니다.

새로운 솔루션: HKVLM

이 논문은 서로의 발을 밟지 않도록 팀을 조직하는 새로운 방법인 HKVLM을 소개합니다. 이 방식이 어떻게 작동하는지는 다음과 같은 간단한 비유를 통해 알 수 있습니다.

1. 보안 요원 (고정된 탐지기)

사서에게 지도를 그리라고 요청하는 대신, 우리는 전문화된 보안 요원(고정된 탐지기)을 고용합니다. 이 요원의 유일한 임무는 방을 스캔하여 무엇이든 물체처럼 보이는 것을 찾아내는 것입니다.

제약 사항: 이 요원은 그 물체들이 무엇인지 이름은 모릅니다. 그들은 단지 "여기에 덩어리가 하나 있다", "여기에 또 다른 덩어리가 있다", "여기에 세 번째 덩어가 있다"라고 말할 뿐입니다. 그들은 무언가를 찾는 데는 매우 뛰어나지만, 요청받은 특정 언어는 구사하지 못합니다.
왜 "고정(Frozen)"인가? 우리는 이 요원을 다시 훈련시키지 않습니다. 그들은 이미 자신의 일에 완벽하므로 그대로 둡니다.

2. 사서 (고정된 언어 모델)

사서는 질문("헬멧을 쓰지 않은 사람")과 사진을 읽습니다. 사서는 상자를 그리려고 노력하는 대신, 자신이 찾고 있는 것에 대한 정신적 "검색 쿼리"—즉, 특정한 추상적 묘사—를 생성합니다.

이것은 사서가 그림은 없지만 묘사가 적힌 "현상 수배" 포스터를 들고 있는 것과 같습니다.

3. 매치메이커 (정렬 훅)

이 부분은 우리가 실제로 훈련시키는 유일한 부분으로, 가볍고 작은 모듈인 매치메이커(중매쟁이) 역할을 합니다.

매치메이커는 사서의 "현상 수배" 포스터(쿼리)를 가져와 보안 요원의 "덩어리" 목록(영역 제안)과 비교합니다.
이 모듈은 특별한 매칭 게임을 사용하여 "아, 보안 요원이 찾은 이 특정 '덩어리'가 사서가 찾고 있는 '헬멧을 쓰지 않은 사람'과 일치한다"라고 말합니다.
일단 매칭되면, 시스템은 그 덩어리 주변에 상자를 그립니다.

4. "사실 확인" 거부권 (충실성)

이것은 환각(Hallucination, 사실이 아닌 것을 지어내는 것)에 대항하는 이 논문의 비밀 병기입니다.

때때로 사서는 흥분하여 사진에 용이 없는데도 "용이 보인다!"라고 말할 수도 있습니다.
거부권은 엄격한 사실 확인자입니다. 시스템이 "용"이라고 말하기 전에, 사실 확인자는 보안 요에게 묻습니다: "당신은 정말로 용과 닮은 덩어리를 보았습니까?"
만약 요원이 "아니요, 그런 것을 보지 못했습니다"라고 답하면, 시스템은 "용"이라고 말하는 것이 금지됩니다. 시스템은 침묵을 지켜야 합니다. 이것이 시스템이 사진 속에 있는 것에 대해 거짓말을 하는 것을 막아줍니다.

이것이 왜 중요한가 (결과)

이 논문은 "콜드 스타트(Cold Start)" 시나리오, 즉 매치메이커에게 아주 적은 양의 훈련 데이터(수백 개의 예시)만 제공했을 때를 테스트했습니다.

엄청난 개선: 매치메이커가 없다면 시스템은 거의 쓸모가 없었습니다(무작위로 추측함). 하지만 매치메이커와 함께라면, 시스템은 올바른 물체를 찾는 데 있어 50배에서 90배 더 나은 성능을 보였습니다.
거짓말 방지: "사실 확인 거부권"은 시스템이 지어내는 현상을 획기적으로 줄였습니다. 확신이 없을 때 거의 100%의 확률로 거짓말을 하던 시스템이, 정답을 맞히면서도 거짓말을 하는 비율을 23~43%로 낮추었습니다.
데이터 효율성: 시스템은 이 과정을 매우 빠르게 학습했습니다. 전체 사서나 전체 보안 요원을 다시 훈련시킬 필요 없이, 단지 매치메이커가 둘을 연결하는 방법을 배우기만 하면 되었습니다.

핵심 요약

이 논문은 "보는 것"(물체 찾기)과 "말하는 것"(추론 및 명명)을 분리하고, 이 둘을 연결하는 작고 스마트한 "매치메이커"를 사용함으로써, 훨씬 더 정확하고 환각 현상이 적은 AI를 구축할 수 있음을 주장합니다.

또한, 보안 요원이 더 많은 "덩어리"(제안)를 찾아낼수록 시스템이 더욱 좋아진다는 것을 증명함으로써, 주요 문제가 매치메이커의 실패가 아니라 보안 요원이 물체를 놓친 데 있었음을 확인했습니다.

기술 요약: HKVLM – 고정된 검출기(Detector)에 언어 쿼리를 결합하여 충실한 추론 접지(Reasoning Grounding) 구현

1. 문제 정의

본 논문은 시각-언어 모델(VLM)에서 발생하는 "보고도 잘못 말하는(see-but-mis-speak)" 간극, 특히 추론 접지(reasoning grounding) 시나리오에서의 문제를 다룹니다. 단순한 카테고리 매칭과 달리, 추론 접지는 복잡하고 의도 기반인 요청(예: "헬멧을 쓰지 않은 사람" 또는 "종이를 자를 수 있는 것")을 해석해야 합니다.

현재의 접근 방식들은 크게 두 가지 주요 실패 모드에 직면해 있습니다:

텍스트로서의 좌표 기반 VLM (Coordinate-as-Text VLMs): 바운딩 박스 좌표를 자기회귀적(autoregressive) 텍스트 토큰으로 생성하는 모델들(예: Kosmos-2, Shikra, Rex-Omni)은 로컬라이제이션(localization)과 언어 생성을 뒤섞어 버립니다. 단 하나의 잘못된 토큰이 올바른 지각(percept)을 덮어쓸 수 있으며, 기하학적 신호가 취약한 언어 채널을 통해 강제로 전달됩니다.
2단계 파이프라인 (Two-Stage Pipelines): LLM을 사용하여 객체의 이름을 명명하고 외부 검출기를 사용하여 이를 로컬라이제이션하는 모델들(예: DetGPT, LISA)은 모델의 의도를 단일 클래스 문자열로 압축합니다. 이러한 "정보 손실이 발생하는(lossy)" 인터페이스는 인스턴스 특이적 및 관계적 단서들을 버리게 되어, 올바른 영역이 존재함에도 불구하고 잘못 레이블링되거나 누락되는 결합 실패(binding failure)를 초래합니다.

저자들은 충실한 접지(faithful grounding)를 위해서는 세 가지 분리 가능한 역량이 필요하다고 주장합니다: 로컬라이제이션 역량(객체를 찾는 것), 참조적 충실성(존재하는 것만을 이름 붙이는 것), 그리고 결합(사용자의 의도를 올바른 영역에 연결하는 것). 기존 아키텍처들은 종종 이들을 혼용하며, 이는 환각(hallucination)과 낮은 추론 성능으로 이어집니다.

2. 방법론: HKVLM

HKVLM(Hypothetical Knowledge-Visual Language Model)은 언어 생성 경로에서 로컬라이제이션을 완전히 제거한 디커플링(decoupled) 아키텍처를 제안합니다. 시스템은 네 가지 구성 요소로 이루어집니다:

고정된 지각 모듈 (Frozen Perception Module): 사전 학습된 언어 정렬 오픈 보카불러리 검출기(예: Grounding DINO)가 고정된 상태로 작동합니다. 이 모듈은 높은 재현율(high-recall)을 가진 클래스 불가지론적(class-agnostic) 영역 제안 세트 $R = \{(b_j, e_j)\}_{j=1}^M$ 을 생성합니다. 여기서 $b_j$ 는 박스이고 $e_j$ 는 시각-언어 융합 영역 임베딩입니다. 이 모듈이 모든 로컬라이제이션 역량을 소유합니다.
참조적 쿼리 임베딩 (Referential Query Embeddings): 고정된(또는 가볍게 적응된) 언어 모델(예: Qwen2.5-VL)이 이미지와 사용자 요청을 처리합니다. 이 모델은 좌표나 클래스 이름을 출력하는 대신, 모델의 추론과 세계 지식을 인코딩하는 연속적인 참조적 쿼리 임베딩( $u_k$ )을 방출합니다.
정렬 훅 (Alignment Hook - 학습되는 구성 요소): 두 개의 프로젝션 레이어( $f_\theta, g_\phi$ $f_{θ}, g_{ϕ}$ )로 구성된 경량 모듈이 영역 임베딩과 쿼리 임베딩을 공유 공간으로 매핑합니다. 결합은 다음을 통해 이루어집니다:
- 대조적 검색 (Contrastive Retrieval): 일치하는 쿼리-영역 쌍은 가깝게 끌어당기고, 그렇지 않은 쌍은 서로 밀어냅니다.
- 이분 할당 (Bipartite Assignment): 친화도(affinity)와 박스 중첩도를 기반으로 비용 함수를 최소화하며 특정 제안에 쿼리를 할당하기 위해 헝가리안 매칭(DETR과 유사)을 사용합니다.
지각 기반 충실성 거부 (Perception-Grounded Faithfulness Veto): 검증 헤드가 결합된 쿼리-영역 쌍이 실제로 이미지에 의해 지원되는지 여부를 예측합니다. 추론 과정에서, 결합된 영역이 이 검증기를 통과하고 친화도가 임계값을 초 exceed할 때만 카테고리가 출력됩니다. 이는 언어 모델이 검출기에 의해 뒷받침되지 않는 객체의 존재를 주장하는 것을 방지하는 "거부(veto)" 역할을 하여 환각을 막습니다.

학습 전략: 정렬 훅(프로젝션, 박스 잔차, 검증기)만을 학습합니다. 무거운 지각 및 언어 스택은 고정된 상태를 유지하므로, 이 방식은 매우 데이터 효율적이며 제한된 데이터가 있는 "콜드 스타트(cold-start)" 설정에 적합합니다.

3. 주요 기여

진단 프레임워크: 본 논문은 말하기 대 보기(Say-vs-See) 분해를 도입하여 **로컬라이제이션 에러(SeeErr)**와 **결합 에러(SayErr)**를 분리합니다. 이를 통해 실패가 검출기가 객체를 놓친 것인지, 아니면 모델이 가용한 영역에 올바른 의도를 결합하는 데 실패한 것인지를 독립적으로 측정할 수 있습니다.
HKVLM 아키텍처: 로컬라이제이션을 고정된 검출기가 엄격히 소유하고, 결합은 자기회귀적 좌표 생성이나 정보 손실이 발생하는 텍스트 인터페이스 대신 명시적인 공유 공간 정렬을 통해 수행되는 접지 프레임워크입니다.
충실성 목적 함수: 지원하는 영역 없이 객체의 이름을 부르는 것을 명시적으로 처벌하는 지각 기반 제약을 도입하여, 객체 환각 문제를 직접적으로 겨냥합니다.
콜드 스타트 학습 레시피: 작은 정렬 모듈만을 학습함으로써, 거대한 단일 VLM을 미세 조정(fine-tuning)하는 어려움을 피하면서도 강력한 접지 성능을 달ante하는 방법을 제시합니다.

4. 실험 결과

저자들은 고정된 Grounding DINO와 고정된 Qwen2.5-VL을 사용하여 RefCOCO/RefCOCO+/RefCOCOg(참조 접지) 및 POPE(환각 평가)에서 HKVLM을 평가했습니다.

결합 성능 (H1): RefCOCO 분할 데이터셋에서, 학습된 정렬 훅은 학습되지 않은 교차 공간 매칭(나이브 코사인 유사도)에 비해 접지 정확도를 50~90배 향상시켰습니다. 결합 정확도는 거의 0( $\le 0.005$ )에서 $0.123–0.148$ 로 상승했습니다.
충실성 및 환각 (H2): 충실성 거부 메커즘은 객체 환각을 현저히 줄였습니다. POPE 벤치마크에서 환각률은 약 $0.99$(우연 확률인 0.50에 근접)에서 0.23–0.43으로 떨어졌으며, POPE 정확도는 0.66–0.76으로 높아졌습니다. 결정적으로, 이러한 개선은 접지 정확도의 손실( $\le 0.01$ 차이) 없이 이루어졌습니다.
데이터 효율성 (H3): 훅은 단 **200개의 학습 표현(expressions)**만으로도 효과적인 결합을 학습했으며, 나이브 매칭보다 46배 높은 성능을 보였습니다. 정확도는 24k개의 표현까지 단조 증가하며 개선되었습니다.
오류 분석: 제안(proposal)의 개수( $M$ )를 50개에서 300개로 늘리면 훅을 다시 학습시키지 않고도 접지 정확도가 19–24% 향상되었습니다. 이는 남은 오류가 주로 SeeErr(검출기가 객체를 놓침으로써 발생하는 지각적 오류)이지 SayErr(결합 오류)가 아님을 확인시켜 주며, 이 분해 모델의 타당성을 입증합니다.

5. 의의 및 주장

본 논문은 "보고도 잘못 말하는" 간극이 근본적으로 로컬라이제이션과 언어 생성을 뒤섞음으로써 발생하는 **결합 실패(binding failure)**라고 주장합니다. 이 두 작업을 분리하고 지각 기반의 거부 기능을 강제함으로써, HKVLM은 다음을 달성합니다:

메커니즘 검증: 좌표를 생성하지 않고도 공유 임베딩 공간에서 결합이 효과적으로 학습될 수 있음을 보여줍니다. 이는 무거운 구성 요소들이 고정된 상태에서도 가능합니다.
환각 저항성: 접지만으로는 환각을 방지할 수 없으며, 언어적 단언(assertion)을 지각적 증거와 일치시키기 위한 명시적인 충실성 제약이 필요함을 증명합니다.
실용적 적응: 전체 VLM 미세 조정이 어려운 데이터 희소(콜드 스타트) 환경에서 추론 접지 작업에 VLM을 적응시키는 유망한 경로를 제공합니다.

저자들은 자신들의 결과가 고정된 검출기 하에서의 메커니즘 및 절제(ablation) 주장임을 명시합니다. 이들은 절대적인 로컬라이제이션 성능의 최고치(SOTA)를 주장하는 것이 아니라(이는 고정된 검출기의 제안 재현율에 의해 제한됨), 언어적 의도를 시각적 지각에 결합하는 우수한 방법을 제시하는 것입니다. 향-후 연구로는 표현 조건부 제안(expression-conditioned proposing)을 통해 잔여 지각 오류(SeeErr)를 해결하고, 미세한 요청을 위한 멀티 쿼리 확장을 탐구하는 것이 제안되었습니다.