Doc-PP: Document Policy Preservation Benchmark for Large Vision-Language Models

1. 문제 정의 (Problem Definition)

• 배경: 대규모 시각 - 언어 모델 (LVLM) 이 복잡한 멀티모달 문서 (보고서, 재무제표 등) 에 대한 질문 응답 (QA) 에 널리 활용되고 있습니다.
• 핵심 문제: 실제 배포 환경에서는 사용자의 맥락에 따라 정의된 동적 정보 공개 정책 (Dynamic User-defined Policies) 이 존재합니다. 예를 들어, 특정 지역의 매출 데이터는 외부에 공개해서는 안 된다는 등의 제약이 있습니다.
• 기존 연구의 한계:
  • 기존 안전성 연구는 주로 암묵적인 사회적 규범이나 텍스트 전용 환경에 집중했습니다.
  • 멀티모달 문서의 복잡성 (텍스트, 차트, 표 등 이질적 요소의 결합) 을 고려하지 못했습니다.
  • 추론 유도 안전성 간극 (Reasoning-Induced Safety Gap): 모델이 명시적으로 금지된 정보를 요청받지 않더라도, 복잡한 추론 (예: 차트의 비율과 텍스트의 총합을 결합하여 계산) 을 통해 민감 정보를 유출하는 현상이 발생합니다.
  • OCR 역설 (OCR Paradox): OCR 을 통해 텍스트를 추출하여 입력하면 모델의 지각 능력이 향상되지만, 오히려 수치 계산이 용이해져 보안 정책 위반 (유출) 이 더 빈번해지는 역설적인 현상이 관찰됩니다.

2. 방법론 (Methodology)

A. Doc-PP 벤치마크 구축

저자들은 실제 세계의 보고서 (재무, 산업, 연구 보고서 등) 를 기반으로 한 새로운 벤치마크 Doc-PP를 제안했습니다.

• 데이터 구성:
  • 소스: MMlongbench-Doc 및 Sustainable QA 등 90 개의 긴 PDF 문서 수집.
  • 정책 생성 (Policy Construction): GPT-5.2 를 활용하여 문서 내의 민감한 정보 (전략, 내부 논의, 특정 수치 등) 를 '비공개 대상 (Target)'으로 식별하고, 이를 기반으로 "Target 은 공개하지 마라"는 형태의 정책을 생성합니다.
  • 쿼리 생성 (Query Construction):
    • 명시적 쿼리 (Explicit): 금지된 정보를 직접 묻는 질문.
    • 암시적 쿼리 (Implicit): 요약이나 설명을 요구하는 질문으로, 정답을 내기 위해 필수적으로 금지된 값을 유출해야 하는 상황을 조성합니다.
  • 평가 프레임워크:
    • 유출 (Leakage): 모델 응답이 금지된 값 (Value) 을 포함하는지 여부.
    • 충실도 (Faithfulness): 정책 위반 없이 문서 기반의 핵심 정보를 얼마나 정확하게 전달하는지 (Content-Coverage Checklist 기반).

B. 제안된 해결책: DVA (Decompose–Verify–Aggregation)

기존 프롬프트 기법 (CoT 등) 의 한계를 극복하기 위해 구조적 추론 프레임워크인 DVA를 제안했습니다.

1. Decompose (분해): 모델이 답변을 생성할 때, 이를 개별적인 사실 (Atomic Facts) 단위로 분해합니다.
2. Verify (검증): 분해된 각 사실 요소가 사용자 정의 정책 (비공개 대상) 을 위반하는지 개별적으로 검증합니다. 위반 요소는 제거합니다.
3. Aggregation (집합): 검증된 유효한 요소들만 최종 답변으로 재구성합니다.

3. 주요 결과 (Key Results)

• 추론 유도 안전성 간극 확인:
  • LVLM 들은 명시적 쿼리에서는 정책을 준수하는 경향이 있지만, 암시적 쿼리 (복합 추론 필요) 에서는 유출률이 급격히 증가합니다.
  • 특히 텍스트와 시각 자료 (차트, 표) 를 결합하여 정보를 추론해야 할 때 유출이 가장 빈번하게 발생합니다.
• OCR 역설:
  • 원본 이미지 (PNG) 입력보다 OCR 로 추출된 텍스트 입력이 모델의 지각 정확도를 높이지만, 유출률은 오히려 더 높아집니다. 이는 텍스트화 된 데이터가 수치 계산과 논리적 추론을 용이하게 하여 보안 장벽을 우회하게 만들기 때문입니다.
• 문서 유형별 영향:
  • 텍스트 비율이 높은 비즈니스/재무 보고서일수록 유출률이 높았습니다 (문맥이 시각적 데이터를 해석하는 데 과도하게 활용됨).
• DVA 의 효과:
  • 기존 방어 기법 (CoT, 사후 수정) 은 유출을 막는 데 한계가 있었습니다.
  • DVA는 유출률을 획기적으로 낮췄습니다 (예: Gemini-3-Flash-Preview 의 경우 기본 설정 대비 유출률 64.6% → 30.5% 로 감소).
  • DVA 는 추론 과정과 정책 검증을 분리함으로써, 통합된 답변 생성 과정에서 놓치기 쉬운 세부 유출을 방지합니다.

4. 주요 기여 (Key Contributions)

1. Doc-PP 벤치마크 제안: 멀티모달 문서 환경에서 사용자 정의 정책 준수 능력을 평가하는 최초의 벤치마크로, 텍스트뿐만 아니라 시각적 요소 간의 복잡한 추론을 포함한 유출 시나리오를 포괄합니다.
2. 새로운 안전성 취약점 발견:
   • Reasoning-Induced Safety Gap: 복잡한 추론 과정이 기존 안전성 메커니즘을 우회하는 경향.
   • OCR Paradox: 텍스트 추출이 오히려 보안 위험을 증가시킨다는 역설적 발견.
3. DVA 프레임워크 개발: 추론과 검증을 구조적으로 분리하여 정책 준수를 강화하는 실용적인 인퍼런스 프레임워크를 제시하고, 이를 통해 멀티모달 QA 시스템의 안전성 기준을 높였습니다.

5. 의의 및 결론 (Significance)

이 논문은 LVLM 이 실제 비즈니스 환경 (금융, 법률, 기업 보고서 등) 에 적용될 때 발생할 수 있는 동적 정보 공개 정책 위반 문제를 체계적으로 규명했습니다. 기존 연구가 간과했던 "멀티모달 추론"과 "OCR 기반 입력"의 위험성을 지적하고, 단순한 프롬프트 엔지니어링을 넘어 구조적 검증 (Structural Verification) 이 필요함을 증명했습니다. 제안된 DVA는 정책 준수와 정보 유용성 (Faithfulness) 사이의 균형을 유지하며 안전한 문서 이해 시스템을 구축하기 위한 강력한 베이스라인을 제공합니다.