ContactGuard: Pre-Contact Execution Monitoring with Action-Conditioned Latent World Models

=== 기술 요약: ContactGuard

문제 정의

접촉이 빈번한 로봇 조작(contact-rich robotic manipulation)에서, 접촉 직전의 미세한 오류(예: 중심에서 벗어난 접근, 물체를 밀침, 또는 성급한 그리퍼 폐쇄)로 인해 실패가 자주 발생합니다. 이러한 오류는 시각적 가려짐, 혼잡함, 또는 분포 변화(distribution shift) 상황에서 시각-운동 정책(visuomotor policies)이 피하기 매우 어렵습니다. 결정적으로, 기존의 탐지기들이 실패를 식별했을 때는 이미 로봇이 접촉을 실행해 버린 후인 경우가 많아, 수정을 시도하기 어렵거나 불가능해집니다. 이는 특히 손목 카메라 설정에서 제한적인데, 근거리 뷰가 관찰에는 도움이 되지만 부적절한 접근 궤적이 탐지 전 이미 장면을 방해할 수 있기 때문입니다.

현재의 실행 모니터링 방법들은 종종 실패가 발생한 후에 이를 감지하거나, 정책과 공동 학습(joint training)을 요구합니다. 따라서 물리적 접촉이 일어나기 전에 예정된 액션 청크(action chunk)의 예상되는 결과를 평가할 수 있는 **접촉 전 실행 모니터(pre-contact execution monitor)**가 필요합니다. 이를 통해 하위 정책을 수정하지 않고도 부적절한 상호작용을 중단할 수 있어야 합니다.

방법론: ContactGuard

ContactGuard는 청크형 시각-운동 정책을 위해 설계된 접촉 전 실행 모니터입니다. 이는 기존의 "블랙박스" 정책과 병행하여 작동하는, 정책과 분리된 예측 검증기(policy-decoupled predictive verifier)로서 기능합니다. 시스템은 세 가지 주요 구성 요소로 이루어져 있습니다.

1. 액션 조건부 잠재 세계 모델 (Action-Conditioned Latent World Model)

실제 사진과 같은 미래 프레임을 생성하는 대신(이는 계산 비용이 많이 들고 모호함), ContactGuard는 미래 결과의 압축된 표현을 학습합니다.

• 아키텍처: JEPA(Joint-Embedding Predictive Architecture) 원리에 기반하며, 구체적으로 LeWorldModel(LeWM) 프레임워크를 변형하여 사용합니다. 동기화된 다중 뷰 카메라 관측치를 잠재 공간으로 매핑하기 위해 공유된 멀티 뷰 비주얼 인코더(ViT-Tiny)를 사용합니다.
• 예측: 계획된 액션 청크에 조건화된 인과적 트랜스포머 예측기(causal Transformer predictor)를 사용하여 잠재 임베딩의 진화를 예측합니다. 이는 정책이 제안하는 특정 액션 하에서 시각적 상태 임베딩이 어떻게 변화할지를 예측합니다.
• 학습: 세계 모델은 레이블이 없는(unlabelled) 로봇 궤적을 사용하여 SIGReg 안티-콜랩스 정규화 기법과 함께 차세대 잠재 회귀(next-latent regression) 방식으로 학습됩니다. 이를 통해 모델은 성공/실패 레이블 없이도 태스크 불가지론적인(task-agnostic) 시각적 역학을 학습할 수 있습니다.

2. 경량 실패 프로브 (Lightweight Failure Probe)

세계 모델이 학습되어 고정(frozen)되면, 예측된 미래 잠재 상태를 해석하기 위한 경량 분류기가 학습됩니다.

• 입력: 프로브는 모델을 $K$ 스텝 동안 롤아웃(rollout)하여 얻은 예측된 미래 잠재 임베딩($\hat{z}_{t+K}$)을 입력으로 받습니다.
• 학습: 단순한 로지스틱 회귀 프로브가 소수의 레이블이 있는(labelled) 접촉 전 클립(이진 성공/실패)을 통해 학습됩니다. 이는 예측된 미래 잠재 상태를 실패 확률 $P(\text{fail})$로 매핑합니다.
• 분리(Decoupling): 이는 시각적 역학 학습(레이블 없는 대규모 데이터)과 결과 감독(레이벨 있는 소규모 데이터)을 분리합니다.

3. 온라인 접촉 전 모니터링 루프 (Online Pre-Contact Monitoring Loop)

배포 중 ContactGuard는 시각-운동 정책(예: ACT)과 함께 실시간으로 작동합니다.

1. 트리거: 시스템은 다가오는 접촉 이벤트(예: 그리퍼 폐쇄)를 감지하기 위해 예정된 액션 청크를 스캔합니다.
2. 앵커(Anchor): 접촉 이벤트가 사전 정의된 호라이즌($k_{pre}$) 내에 들어오면 모니터가 활성화됩니다.
3. 롤아웃: 고정된 세계 모델을 정책의 계획된 액션들을 사용하여 $K$ 스텝 동안 앞으로 전개시켜 예측된 접촉 후 잠재 상태를 생성합니다.
4. 검증: 고정된 프로브가 이 잠재 상태를 점수화합니다. 만약 $P(\text{fail}) > \tau$(태스크별 임계값)라면, 시스템은 그리퍼가 닫히기 전에 실행을 **중단(abort)**합니다. 그렇지 않으면 정책은 변경 없이 계속 진행됩니다.

주요 기여

1. 접촉 전 모니터링의 정식화: 청크형 시각-운동 정책을 위해, 접촉 액션의 결과를 물리적 확신(commitment) 이전에 평가하는 문제를 정식화했습니다.
2. 액션 조건부 잠재 모니터: 픽셀 수준의 비디오 예측을 피하면서, 계획된 액션 하에서 압축된 멀티 뷰 시각 임베딩을 롤아웃하는 ContactGuard를 도입했습니다.
3. 미래 잠재 상태의 유용성 입증: 절제 연구(ablation studies)를 통해, 저자들은 예측된 미래 잠재 상태가 현재의 관측치나 가공되지 않은 계획된 액션만으로는 얻을 수 없는 실패 정보를 포함하고 있음을 보여주었습니다.
4. 정책 분리형 배포: 이 시스템은 하위 정책을 수정하거나, 후보 액션을 탐색하거나, 픽셀 수준의 비디오를 생성할 필요 없이 실시간 로봇 실제 환경에서의 접촉 전 중단을 가능하게 합니다.

실험 결과

저자들은 14-DoF 듀얼 암 로봇을 사용하여 네 가지 실제 접촉 빈번 조작 작업(컵/상자를 이용한 집기 및 놓기, 연필과 공책, 수건 접기)에 대해 ContactGuard를 평가했습니다.

• 베이스라인 대비 성능: ContactGuard는 다음 모델들을 크게 앞질렀습니다:
  • Direct-linear: 상상(imagination) 없이 현재 상태와 액션으로부터 직접 실패를 예측하는 베이스라인.
  • LeWM: 단일 뷰 세계 모델 베이스라인.
  • Current Latent: 프로브가 예측된 미래 잠재 상태 대신 현재 잠재 상태를 사용하는 절제 모델.
  • 외부 탐지기: FAIL-Detect, RND, SAFE와 같이 확립된 런타임 실패 탐지기들.
• 주요 지표: ContactGuard는 모든 작업에서 가장 높은 균형 정확도(Balanced Accuracy)와 ROC AUC를 달고했습니다. 예를 들어, "Cup" 작업에서 0.940의 균형 정확도를 기록했는데, 이는 LeWM의 0.780과 Direct-linear의 0.580보다 높은 수치입니다.
• 정보원: 절제 연구를 통해, 신호가 특정 제안된 액션의 상상된 결과로부터 발생함을 확인했습니다. 액션 청크를 섞거나 오염된 액션을 사용했을 때 성능이 무작위 수준(near-chance)으로 떨어졌으며, 이는 모니터가 단순히 시각적 상태뿐만 아니라 특정 액션 계획에 민감하게 반응함을 증명합니다.
• 실행 시간: 시스템은 NVIDIA RTX 5090에서 효율적으로 실행되며, 1초 호라이즌에 대한 전체 추론(인코딩 + 롤아웃 + 프로브)은 약 19ms가 소요되어 접촉 전 시간 예산 내에 충분히 들어옵니다.
• 고유 수용 감각(Proprioception): 흥미롭게도, 단일 뷰 모델에 고유 수용 감각 상태(관절 위치/노력)를 추가했을 때 소규모 데이터 환경에서 성능이 감소했습니다. 이는 단순한 상태 융합이 잡기(grasp)와 관련된 시각적 역학을 대체하는 도메인 특화된 지름길 역할을 할 수 있음을 시사합니다.

의의 및 주장

본 논문은 **액션 조건부 잠재 상상(action-conditioned latent imagination)**이 물리적 접촉 전에 발생할 가능성이 높은 실패를 방지하기 위한 실용적인 토대가 된다고 주장합니다.

• 선제적 vs 반응적: 장면을 방해하는 접촉이 일어난 후에 실패를 감지하는 방법들과 달리, ContactGuard는 접촉 전 단계에서 개입합니다.
• 모듈성: 시각-운동 정책을 블랙박스로 취급하므로, 정책의 내부 구조에 접근하거나 공동 학습을 할 필요가 없습니다. 이는 기존 시스템에 부착 가능한 안전 계층이 될 수 있습니다.
• 효율성: 픽셀 공간이 아닌 잠재 공간에서 작동함으로써, 실시간 제어에 적합한 낮은 계산 오버헤드와 높은 정확도를 달 모두 달성합니다.
• 한계점: 저자들은 ContactGuard가 중단(abort)을 통해 실패를 방지하지만, 본질적으로 실패로부터 회복하거나 작업을 완수하는 기능은 없다고 솔직하게 언급했습니다. 향후 연구에서는 모니터를 회복 모듈이나 다중 샘플 정책과 결합하여 대안적인 액션을 선택하는 작업이 필요할 것입니다.

요약하자면, ContactGuard는 압축된 잠재 공간에서 계획된 액션의 단기적 결과를 예측하는 것이 접촉이 빈번한 로봇 조작에서 안전성을 보장하기 위한 강력하고 정책 불가지론적인 메커니즘임을 입증합니다.