기술 요약: Yuvion VL – 적대적 콘텐츠 및 AI 안전을 위한 멀티모달 파운데이션 모델

1. 문제 정의

범용 멀티모달 대규모 언어 모델(MLLM)은 현실 세계의 멀티모달 리스크를 안정적으로 식별하고 이해하는 데 어려움을 겪고 있습니다. 이러한 한계는 콘텐츠 및 AI 안전의 본질적인 적대적(adversarial) 및 멀티모달적 특성에서 기인합니다. 표준 컴퓨터 비전 작업이 안정적인 데이터 분포를 갖는 것과 달리, 안전 관련 작업은 다음과 같은 회피 전략을 사용하는 악의적인 행위자들 사이의 지속적인 "군비 경쟁"을 포함합니다:

• 시맨틱 수준의 위장(Semantic-level disguise): 금지된 텍스트를 작은 워터마크로 삽입하거나, 난독화된 기호를 사용하거나, 위반 사항을 "교육적" 또는 "뉴스" 맥락 내에 배치하는 방식.
• 미세한 차별적 식별(Fine-grained discrimination): 근본적으로 다른 안전 의미를 지닌 시각적으로 유사한 이미지들을 구별하는 능력 (예: 정당한 브랜드 로고와 위조된 변종의 구분, 또는 건전한 제품과 은닉된 금지 품목이 포함된 제품의 구분).
• 지식 집약성(Knowledge intensity): 결정을 정당화하기 위해 법률, 문화적 맥락, 조직의 상징, 진화하는 플랫폼 정책에 대한 깊은 이해를 요구함.

기존 모델들은 이러한 리스크를 추론할 수 있는 전문 지식이 부족한 경우가 많으며, 적대적 섭동(adversarial perturbations)에 취약합니다. 또한, 일반 모델의 안전 정렬(safety alignment)은 민감한 지식에 대한 참여를 억제하는 경향이 있어, 모델이 탐지해야 할 바로 그 리스크를 정확하게 식별하지 못하는 역설을 초래합니다.

2. 방법론

저자들은 적대적 콘텐츠 및 AI 안전을 위해 특수 설계된 멀티모달 파운데이션 모델 제품군인 Yuvion VL(8B 및 32B 파라미터)을 제시합니다. 개발 파이프라인은 데이터 구축, 학습 아키텍처, 평가라는 세 가지 핵심 축을 중심으로 **적대적 강건성(adversarial robustness)**을 위해 설계되었습니다.

2.1 적대적 인지 데이터 시스템

데이터 시스템은 역량 지향적이며, 특정 차원의 안전 역량을 지원하도록 데이터를 분류합니다:

• 일반 멀티모달 데이터: 도메인 적응 과정에서 발생하는 치명적인 망각(catastrophic forgetting)을 방지하기 위해 광범위한 시각-언어 역량을 유지합니다.
• 도메인 지식 데이터: 시각적 인지 작업(민감한 얼굴 인식, 깃발/심볼 탐지)과 지식 정렬(심볼을 지정학적 맥모 및 규제적 민감성과 결합)을 포함합니다.
• 도메인 안전 데이터: 주요 리스크 카테로리(정치적 민감성, 음란물, 폭력, 사기)를 계층적 라벨, 증거 속성 부여 및 정책 참조와 함께 다룹니다.
• 적대적 데이터: 작은 텍스트/워터마크 회피, 로고 변형, 폐쇄(occlusion), AI 생성 적대적 콘텐츠, 맥락적 시맨틱 위장 등 현실적인 회피 전술을 명시적으로 모델링합니다. 이 서브셋은 운영 환경의 실패 사례를 채굴하는 **데이터 플라이휠(data flywheel)**을 통해 지속적으로 확장됩니다.
• 사고 체인(Chain-of-Thought, CoT) 구축: 비즈니스 데이터로부터 추론 과정을 역도출하는 자동화된 파이프라인을 사용합니다. 이는 3단계 검증 프로세스를 거칩니다: (1) 추론 단계를 역도출하기 위한 프롬프트 엔지니어링, (2) 추론 일관성 검증(CoT가 정답으로 이어지는지 확인), (3) 품질 검사(효율성, 형식 및 사실적 정확도).

2.2 3단계 학습 파이프라인

모델 학습은 구조화된 진행 과정을 따릅니다:

1. 지속적 사전 학습 (리스크-개념 교차 모달 정렬): 모델이 시각적 리스크 신호를 시맨틱 개념과 정렬하도록 합니다 (예: 깃발을 규제 범주와 매핑). 이 단계에서는 비전 인코더는 고정(frozen)된 상태에서 커넥터와 LLM만 업데이트됩니다.
2. 지시 미세 조정 (Instruct Post-Training):
   • 지도 미세 조정 (SFT): 프로덕션 수준의 작업(이진 분류, 리스크 라벨링, 구조화된 JSON 출력)을 위해 도메인 안전 데이터로 학습합니다.
   • 혼동 후 대비 미세 조정 (Confuse-then-Contrast Fine-Tuning, C2FT): 미세한 차별적 식별 문제를 해결하는 새로운 프레임워크입니다.
     • 혼동 단계 (Confuse Phase): 모델이 현재 오분류하거나 시맨틱하게 혼란스러워하는 샘플을 식별하여 모델 특유의 "어려운" 케이스를 동적으로 채굴합니다. 시각적으로는 유사하지만 시맨틱하게는 다른 샘플들(예: 앵커 vs 하드 네거티브)로 구성된 대비 그룹을 구축합니다.
     • 대비 단계 (Contrast Phase): 다중 이미지 공동 감독을 사용하여 명시적인 교차 이미지 차별을 강제함으로써, 시각적으로는 유사하지만 안전 측면에서는 구별되는 샘생들의 표현형을 서로 밀어내도록 합니다.
3. 추론 사후 학습 (Reasoning Post-Training):
   • 추론 SFT: 망각을 방지하기 위해 지식 재생(knowledge replay)을 포함하며, 복잡한 구조화된 출력과 미세한 CoT에 집중합니다.
   • 추론 강화 학습 (RL): **거부 샘류 추출(Rejection Sampling)**을 사용하여 "고가치 정준 샘플"(보상 불일치가 높은 경계 사례)을 큐레이션하고, 커리큘럼 학습(Curriculum Learning)(쉬운 것에서 어려운 것으로의 진행)을 사용합니다. 다목적 보상 시스템은 형식 유효성, 결정 정확도, 그라운딩을 위한 IoU, CoT-결론 일관성을 평가합니다.

2.3 평가 프레임워크: Yuvion VL RiskEval (YVRE)

3단계의 점진적 평가 시스템이 도입되었습니다:

• 레벨 1 (일반 멀티모달): 안전 전문화가 일반적인 VLM 역량(VQA, OCR, 추론)을 저하시키지 않는지 확인합니다.
• 레벨 2 (오픈 안전 벤치마크): 공개 데이터셋(예: Hateful Memes, MM-SafetyBench) 및 자체 구축한 이커머스 거버넌스 벤치마크(로고, 브랜드, 제품 카테고리, 가격 인식)에서의 성능을 평가합니다.
• 레벨 3 (내부 및 비즈니스): 도메인 지식, 적대적 강건성(은유, 위장), AI 생성 이미지 탐지, 엔드 투 엔드 모더레이션 작업 등 실제 운영 시나리오에서 모델을 스트레스 테스트합니다.

3. 주요 기여

1. Yuvion VL 모델 제품군: 실제 적대적 안전을 위해 특수 설계된 8B 및 32B 밀집(dense) 변체(Instruct 및 Reasoning 버전)를 오픈 소스로 제공합니다.
2. C2FT 프레임워크: 모델 특유의 혼동을 채굴하고 미세한 시각-시맨틱 차별을 강제하여 적대적 예시에 대한 성능을 크게 향의시키는 새로운 대비 학습 방법론입니다.
3. 적대적 데이터 파이프라인: 데이터 플라이휠을 통해 실제 회피 전략(예: 작은 텍스트 회피, AI 생성 콘텐츠)을 포착하는 고품질 대규모 멀티모달 학습 데이터를 생성하는 체계적인 접근 방식을 제공합니다.
4. Yuvion VL RiskEval (YVRE): 오픈 소스, 안전 특화, 산업 현장 배포 시나리오를 아우르는 58개의 벤치마크를 포함하는 종합적인 평가 체계입니다.

4. 실험 결과

실험 결과, Yuvion VL은 일반적인 역량을 유지하면서도 최첨단(SOTA) 안전 성능을 달성함을 입증했습니다:

• 안전 성능: Yuvion VL-32B는 유사한 크기의 오픈 소스 모델보다 평균 9.9 포인트 더 높은 성능을 보였으며, 선도적인 폐쇄형 상용 모델(GPT-5.4, Qwen3.5-Plus)보다 안전 관련 작업에서 평균 6.7 포인트 앞섰습니다.
• 효율성: Yuvion VL-8B는 훨씬 더 큰 파라미터 수를 가진 모델들(GPT-5.4, Qwen3.5-Plus 포함)을 포함한 대부분의 최첨단 베이스라인보다 여러 안전 작업에서 우수한 성능을 보이면서도, 이들 모델 파라미터의 2% 미만을 사용합니다.
• 구체적 성과:
  • **HOD (유해 물체 탐지)**에서 Yuvion VL-32B-Instruct는 베이스 모델 대비 52포인트 향상되었으며, 최고의 초거대 모델보다 42포인트 앞섰습니다.
  • AI 생성 이미지 탐지에서 Yuvion VL-32B는 74.1의 Macro F1을 달성하여 GPT-5.4(75.1)에 근접했으며, Qwen3.5-Plus(69.6)를 능가했습니다.
  • 일반 역량: 일반 멀티모달 벤치마크에서 베이스 모델 대비 완만한 저하(2~3 퍼센트 포인트)만을 보여, 안전 전문화가 일반적인 유용성을 심각하게 저해하지 않음을 확인했습니다.
• 절제 연구 (Ablation Studies): C2FT 구성 요소(Confuse-then-Contrast Mining 및 Progressive Anti-Shortcut Training)가 미세한 인지를 위해 필수적임을 확인했습니다. RL 학습에서의 거부 샘플 추출과 커리큘럼 학습의 결 조합은 효율성을 높여, 단 6%의 데이터만으로도 대등한 결과를 달est했습니다.

5. 의의 및 주장

본 논문은 Yuvion VL이 범용 MLLM과 콘텐츠 안전의 적대적 역학 사이의 "근본적인 불일치"를 해결하는 데 있어 중요한 진전임을 주장합니다. 안전을 본질적으로 적대적인 문제로 취급하고, 데이터 합성부터 대비 미세 조정에 이르는 전체 파이프라인을 적대적 강건성을 중심으로 설계함으로써, 전문화된 모델이 거대한 범용 모델을 특정 안전 영역에서 능가할 수 있음을 입증했습니다.

그 의의는 다음과 같습니다:

• 실제 배포 가능성: 모델은 프로덕션 수준의 안전 작업을 위해 설계되었으며, CoT를 통한 해석 가능성과 회피 전략에 대한 강건성을 제공합니다.
• 확장성: 더 작은 규모의 전문화된 모델(8B)이 특정 안전 작업에서 훨씬 더 큰 규모의 독점 모델과 대등하거나 이를 능가할 수 있음을 증명했습니다.
• 방법론적 혁 innovation: C2FT의 도입은 단순한 단일 샘플 지도 학습을 넘어 대비적이고 다중 이미지 기반의 추론으로 나아감으로써, 안전 맥락에서의 미세한 시각적 차별을 처리하는 새로운 패러다임을 제공합니다.
• 포괄적 평가: YVRE 프레임워크는 단순한 정확도를 넘어 적대적 강건성, AI 생성 콘텐츠 탐지, 실제 비즈니스 적용 가능성을 평가함으로써 안전 모델 평가의 새로운 기준을 세웁니다.

저자들은 Yuvion VL이 내재적인 민감성과 리스크를 수반하고 있음을 언급하며, 엄격한 법적 및 컴플라이언스 검토를 거쳐 선택된 체크포인트와 벤치마크를 공개할 계획이라고 밝혔습니다.