기술 요약: IMMERSEDPRIVACY

문제 정의

비전 - 언어 모델 (VLM) 이 디지털 대화 상대에서 가정, 병원, 사무실과 같은 친밀한 공간에서 작동하는 물리적으로 구현된 보조 도구로 진화함에 따라, 프라이버시 침해의 '유일한 심판자'로서의 역할이 중요해지고 있습니다. 텍스트 생성으로 제한된 디지털 모델과 달리, 구현된 에이전트는 프라이버시 민감성 물체를 관찰, 추론, 조작할 수 있는 물리적 행위 능력을 갖추고 있습니다. 그러나 프라이버시 인식에 대한 현재 벤치마크는 Planning Domain Definition Language 나 기술적 텍스트와 같은 단일 모드, 텍스트 기반 표현으로 제한되어 있습니다. 이러한 정적 시뮬레이션은 시각적 혼란과 음향 단서를 통해 명시적 레이블 대신 민감한 정보가 전달되는 실제 세계의 프라이버시가 갖는 다중 모드, 공간적 분산, 그리고 맥락 의존적 특성을 포착하지 못합니다. 결과적으로 시뮬레이션 평가와 물리적 환경에서의 VLM 실제 성능 사이에는 상당한 격차가 존재합니다.

방법론: IMMERSEDPRIVACY

이 격차를 해소하기 위해 저자들은 VirtualHome 을 확장한 고도로 맞춤화된 Unity 기반 시뮬레이터를 기반으로 구축된 대화형 오디오 - 시각 평가 프레임워크인 IMMERSEDPRIVACY를 제시합니다. 이 프레임워크는 가정, 사무실, 레스토랑, 공공 장소라는 네 가지 테마에 걸쳐 현실적인 물리적 환경을 시뮬레이션합니다. 이 프레임워크는 각기 다른 역량을 목표로 하는 세 가지 점진적 티어를 통해 물리적으로 기반을 둔 프라이버시 인식을 평가합니다.

1. 1 티어: 지각적 민감성 기반 (Perceptual Sensitivity Grounding)

   • 목표: 명시적 텍스트 힌트 없이 복잡한 혼란 환경에서 파싱하고 의료 기록, 사회보장번호 카드와 같은 본질적으로 민감한 물체를 식별하는 능력을 평가합니다.
   • 프로토콜:
     • 단일 턴: 모델이 여러 시점에서 장면을 보고 한 번에 민감한 물체 목록을 작성합니다.
     • 다중 턴: 모델이 개요, 중간 거리, 클로즈업과 같이 점진적으로 더 가까운 시야를 최대 3 회까지 확보하며 능동적 탐색을 시뮬레이션합니다. 모델은 더 가까운 시야를 요청하거나 답변을 확정할 수 있습니다.
   • 지표: 민감 비율 (정밀도), 식별 비율 (재현율), 그리고 식별된 물체의 수.

2. 2 티어: 동적 사회 - 맥락 적응 (Dynamic Socio-Contextual Adaptation)

   • 목표: 변화하는 물리적 환경에서 사회 - 맥락적 규범을 준수하는 능력을 평가합니다. 적절성은 회의 진행 중인지 빈 방인지와 같은 사회적 상태에 따라 달라지며, 이는 사람들 (테이블에 앉은 사람들) 이라는 시각적 단서와 중첩된 대화 또는 침묵과 같은 음향 단서에 의해 신호를 받습니다.
   • 프로토콜:
     • 평가 모드: 모델이 1~5 척도로 후보 행동을 평가합니다.
     • 선택 모드: 모델이 후보 세트에서 가장 적절한 단일 행동을 선택합니다.
   • 지표: 인간 평가에 대한 평균 절대 오차 (MAE) 및 선택 정확도 (SA).

3. 3 티어: 역사 조건 추론 준수 (History-Conditioned Inferential Adherence)

   • 목표: 명시적 작업 명령과 이전 다중 모드 관찰 역사에서 추론된 암묵적 프라이버시 제약 사이의 충돌을 관리하는 능력을 평가합니다.
   • 프로토콜: 모델은 프라이버시 경계를 확립하는 스크립트된 역사 (비디오 + 대화, 예: 선물을 숨기는 캐릭터) 를 관찰합니다. 그 후 "책상 위의 모든 것을 옮기세요"와 같이 선하지만 충돌하는 명령을 받습니다. 모델은 추론된 경계를 존중하면서 작업을 완료하는 행동을 계획해야 합니다.
   • 지표: 작업 완료율 (TCR), 프라이버시 보존율 (PPR), 그리고 올바른 행동 하위 집합을 선택하기 위한 완전 일치 (EM).

이 연구는 Gemini, GPT, Qwen, InternVL 계열을 포함한 12 개의 최첨단 모델을 400 개 이상의 절차적으로 생성된 시나리오에 걸쳐 평가했습니다.

주요 결과

평가 결과 모든 모델에서 일관된 결함이 드러났으며, 이는 언어적 지식과 물리적 실행 사이의 격차를 강조합니다.

• 지각적 취약성 (1 티어): 모든 모델은 장면 복잡성 (방해 요소의 수) 이 증가함에 따라 단조로운 성능 감소를 보입니다. 혼란스러운 장면에서 모델은 40% 이상의 경우 시각적으로 민감한 물체를 인식하지 못합니다. '다중 턴' 프로토콜 (클로즈업 뷰 제공) 은 재현율 (식별 비율) 을 크게 향상시키지만, 정밀도 (민감 비율) 는 종종 저하되어 모델이 혼란 시 유해한 방해 요소를 과도하게 플래그한다는 것을 나타냅니다. 인간 평가는 장면이 시각적으로 해결 가능함을 확인했으며, 실패는 벤치마크의 모호함이 아닌 모델의 지각 한계로 귀결됩니다.
• 사회 - 맥락 격차 (2 티어): 어떤 모델도 65% 이상의 선택 정확도를 초과하지 못합니다. 모델은 변화하는 사회적 상태에 따라 적절하고 부적절한 행동을 구분하는 데 어려움을 겪습니다. 오류 분석은 세 가지 실패 모드를 드러냅니다: 오보정된 개입 강도 (맥락과 관계없이 행동), 공간 기반 실패 (위치 오해석), 그리고 불필요한 사회적 보수주의 (과도한 신중함).
• 명령 오버라이드 (3 티어): 명시적 명령이 추론된 프라이버시 제약과 충돌할 때, 모델은 작업 완료로 기본화됩니다. 가장 성능이 좋은 모델인 gemini-3.1-pro 는 프라이버시를 위반하지 않고 올바른 행동을 선택하는 완전 일치를 51% 의 경우에만 달성합니다. 대부분의 다른 모델은 명시적 명령을 실행하는 강력한 편향을 보이며, 종종 프라이버시를 침해하는 행동을 선택합니다.
• 오디오 모달리티: 오디오를 텍스트 설명으로 대체한 제거 연구는 성능 저하가 유의미하지 않음을 보여주었습니다. 이는 실패가 원시 오디오 처리 능력 부족 때문이 아니라 사회 - 맥락과 역사를 해석하는 근본적인 불일치 때문임을 시사합니다.

중요성과 주장

이 논문은 물리적 세계의 현재 VLM 이 지각적 취약성으로 고통받으며 프라이버시 단서에 대한 지식이 그들의 상황적 행동을 지배하지 못한다고 주장합니다. 저자들은 프라이버시 인식 구현된 행동은 파이프라인의 모든 단계에서 현재 모델이 결여된 능력을 필요로 한다고 주장합니다.

1. 강건한 다중 모드 지각: 시각적 혼란 속에서 민감한 물체를 식별하는 능력.
2. 맥락 민감적 판단: 다중 모드 단서를 통해 변화하는 사회적 규범을 해석하는 능력.
3. 제약 존중 행동 계획: 명시적 사용자 명령보다 추론된 프라이버시 경계를 우선시하는 능력.

저자들은 기존 텍스트 기반 안전 훈련이 실제 세계 배포에 불충분하다고 결론지었습니다. 그들은 구현된 에이전트의 고유한 취약성을 해결하기 위해 텍스트 표현을 넘어 확장되는 "물리적으로 기반을 둔 정렬 전략"과 전용 지각적 안전 장치가 필요하다고 강조합니다. 이 작업은 전통적인 텍스트 전용 벤치마크에는 보이지 않는 이러한 특정 실패 모드를 드러내기 위한 기초적인 진단 프레임워크 (IMMERSEDPRIVACY) 를 제공합니다.