CompAgent: 시각적 규정 준수 검증을 위한 에이전트 기반 프레임워크 기술 요약

본 논문은 미디어, 엔터테인먼트, 광고 등 복잡한 정책 규칙을 준수해야 하는 분야에서 필수적이지만 아직 충분히 탐구되지 않은 시각적 규정 준수 검증 (Visual Compliance Verification) 문제를 해결하기 위해 제안된 CompAgent라는 새로운 에이전트 기반 프레임워크에 대해 설명합니다.

1. 문제 정의 (Problem)

기존의 시각적 규정 준수 검증 방법은 주로 두 가지 접근 방식을 취해 왔으나, 각각 한계가 존재합니다.

• 전용 딥러닝 분류기: 특정 위반 유형 (예: 노출, 폭력, 혐오 표현) 을 식별하기 위해 수동으로 레이블이 지정된 데이터셋으로 학습된 전용 모델입니다. 그러나 이는 데이터 구축 비용이 높고, 정책이 빠르게 진화함에 따라 정적 모델이 금방 구식화되는 일반화 능력의 부재라는 문제가 있습니다.
• 멀티모달 대규모 언어 모델 (MLLM) 직접 활용: 최근 MLLM 은 광범위한 세계 지식과 정책 이해도를 제공하지만, 미세한 시각적 세부 사항을 추론하거나 구조화된 규정 준수 규칙을 효과적으로 적용하는 데 어려움을 겪습니다. 또한, 복잡한 정책 규칙을 전체적으로 해석하는 데 한계가 있습니다.

이러한 한계로 인해 기존 방법론은 높은 레이블링 비용이나 낮은 정확도로 인해 확장 가능한 실용적인 솔루션이 되지 못했습니다.

2. 방법론 (Methodology)

CompAgent 는 단일 거대 모델이나 단순 프롬프트 엔지니어링을 지양하고, 도구 증강 (Tool-augmented) 및 에이전트 기반 아키텍처를 도입하여 규정 준수 검증 작업을 모듈화된 단계로 분해합니다.

2.1. 아키텍처 구성

CompAgent 는 크게 세 가지 핵심 요소로 구성됩니다 (그림 2 참조):

1. 플래닝 에이전트 (Planning Agent):

   • 역할: 입력된 규정 준수 정책 (Policy) 을 해석하고, 어떤 시각적 도구를 동적으로 선택하여 증거를 수집할지 계획합니다.
   • 작동 방식: ReAct (Reasoning and Acting) 루프를 사용하여 자연어 추론과 도구 호출을 교차합니다. 정책의 어떤 조항이 아직 검증되지 않았는지, 각 도구의 능력과 한계는 무엇인지, 그리고 현재까지 축적된 증거를 바탕으로 다음 행동을 결정합니다.
   • 특징: 고정된 라우팅 테이블이나 학습된 정책이 아닌, 컨텍스트 내 추론 (In-context reasoning) 을 통해 도구를 선택하므로 새로운 정책에 대한 적응이 용이합니다.

2. 도구 세트 (Tool Suite):

   • 구성: 오프더셸 (Off-the-shelf) 형태의 모듈화된 시각 도구들의 집합입니다.
   • 주요 도구:
     • 요약 도구: 장면 설명 생성.
     • 감지 도구: 얼굴 감지 (나이, 표정), 객체 감지, 텍스트 감지 (OCR).
     • 규정 준수 특화 도구: LlavaGuard(안전 등급 및 카테고리), Safe-CLIP(유해 콘텐츠 탐지), ICM Assistant(구조화된 검증) 등.
   • 장점: 도구를 추가, 제거, 교체할 수 있어 재학습 없이도 확장 가능합니다.

3. 규정 준수 검증 에이전트 (Compliance Verification Agent - CVAgent):

   • 역할: 플래닝 에이전트가 수집한 모든 증거 (이미지, 정책, 도구 출력) 를 통합하여 최종 판단을 내립니다.
   • 작동 방식: MLLM 을 기반으로 하며, 직접 이미지를 분석하고 도구들의 출력 (신뢰도 점수, 교차 검증 등) 을 검토하여 정책 조항과 매핑합니다. 최종적으로 'Safe/Unsafe' 등급, 위반 카테고리, 그리고 근거 (Rationale) 를 생성합니다.

2.2. 프로세스

1. 플래닝 에이전트가 정책을 분석하고 필요한 도구 (예: 나이 제한 정책 시 얼굴 감지, 텍스트 위반 시 OCR 등) 를 순차적으로 호출합니다.
2. 수집된 메타데이터와 증거가 축적됩니다.
3. CVAgent 가 전체 컨텍스트를 종합하여 최종 규정 준수 여부를 판단하고 설명 가능한 보고서를 생성합니다.

3. 주요 기여 (Key Contributions)

• 최초의 에이전트 기반 프레임워크: 시각적 규정 준수 검증을 위해 정책 규칙에 따라 전문적인 시각 도구를 동적으로 조율하는 최초의 에이전트 시스템입니다.
• 정책 인식 에이전트 (Policy-Aware Agents): 정책을 파싱하여 적용 가능한 규칙을 식별하고, 가장 관련성 높은 도구를 계획 및 선택하며, 이미지와 도구 출력을 결합하여 정밀도와 해석 가능성을 동시에 향상시킵니다.
• 학습 불필요 및 비용 효율성: 레이블이 지정된 데이터나 미세 조정 (Fine-tuning) 이 필요하지 않아, 진화하는 규정 준수 정책에 대해 높은 적응력과 실용성을 제공합니다.

4. 실험 결과 (Results)

저자들은 LlavaGuard와 UnsafeBench라는 두 가지 공개 벤치마크 데이터셋을 사용하여 CompAgent 를 평가했습니다.

• 성능 비교: CompAgent 는 전용 분류기, 직접적인 MLLM 프롬핑 (Zero-shot), 그리고 큐레이팅된 라우팅 베이스라인을 모두 능가했습니다.
  • UnsafeBench: 76% 의 F1 점수를 기록하며 기존 최첨단 (SOTA) 모델 대비 10% 향상된 성능을 보였습니다.
  • LlavaGuard: Unsafe F1 점수 0.93을 기록하여 LlavaGuard 모델 (0.91) 보다 높은 성능을 보였습니다.
• 정책 반응성 (Policy Responsiveness): 정책 버전이 변경되거나 예외 사항 (Policy Exceptions) 이 포함된 경우, CompAgent 는 LlavaGuard 보다 더 높은 정확도로 정책의 뉘앙스를 파악하고 분류했습니다. 특히 '자해 (Self-Harm)', '동물 학대 (Animal Cruelty)', '폭력 (Violence)'과 같은 맥락적 추론이 필요한 카테고리에서 우위를 보였습니다.
• 도구 사용 분석: 안전하지 않은 콘텐츠의 경우, 안전 특화 도구 (ICM Assistant, Safe-CLIP 등) 로의 전환 빈도가 유의미하게 높았으며, 이는 고정된 파이프라인이 아닌 동적이고 콘텐츠 인식형 라우팅이 작동함을 입증했습니다.

5. 의의 및 결론 (Significance)

CompAgent 는 시각적 규정 준수 검증 분야에서 다음과 같은 중요한 의의를 가집니다:

1. 확장성과 적응성: 레이블링 데이터 없이도 새로운 정책이나 도구에 쉽게 적응할 수 있어, 빠르게 변화하는 미디어 환경에 적합합니다.
2. 해석 가능성 (Explainability): 단순히 '안전/위험'만 판단하는 것이 아니라, 어떤 도구 결과가 어떤 정책 조항에 근거하여 최종 판단에 도달했는지 상세한 근거 (Rationale) 를 제공하여 인간의 검토 및 신뢰를 돕습니다.
3. 미래 지향성: 현재 단일 이미지 검증에 초점을 맞추고 있지만, 모듈형 에이전트 설계는 향후 비디오 규정 준수 검증으로의 확장에 강력한 기반을 제공합니다.

결론적으로 CompAgent 는 컴퓨터 비전 연구의 수십 년간 축적된 기술 (객체 감지, 텍스트 인식 등) 을 에이전트 프레임워크를 통해 규정 준수 검증에 효과적으로 접목하여, 정확하고 확장 가능하며 적응력 있는 차세대 콘텐츠 필터링 솔루션을 제시합니다.