Failure Identification in Imitation Learning Via Statistical and Semantic Filtering

1. 문제 정의 (Problem Definition)

• 배경: 로봇 공학의 모방 학습 (Imitation Learning, IL) 은 제어된 환경에서는 뛰어난 성능을 보이지만, 실제 배포 환경에서는 훈련 데이터에 포함되지 않은 희귀 사건 (하드웨어 고장, 결함 부품, 예상치 못한 인간 행동 등) 에 취약합니다.
• 핵심 문제:
  • 기존 이상 탐지 (Anomaly Detection, AD) 방법은 훈련 분포에서 벗어난 상태를 탐지할 수 있지만, **부드러운 편차 (benign deviations, 예: 배경의 파리, 사물의 미세한 이동)**와 **진정한 실패 (genuine failures, 예: 작업 실패, 장비 고장)**를 구분하지 못합니다.
  • 이로 인해 불필요한 중단이나 개입이 발생하여 생산성이 저하됩니다.
  • 기존 방법들은 실패 데이터를 많이 필요로 하거나 (지도 학습), 불확실성 정량화가 어렵거나, 실행 중 실시간으로 실패를 식별하는 데 한계가 있습니다.
• 목표: 정책 (Policy) 에 독립적인 모니터링 모듈을 개발하여, 이상 탐지 (AD) 를 수행한 후 의미론적 필터링을 통해 진정한 실패만 식별하고 부유한 편차는 무시하는 시스템을 구축하는 것입니다.

2. 제안 방법: FIDeL (Failure Identification in Demonstration Learning)

저자들은 FIDeL이라는 새로운 프레임워크를 제안하며, 이는 세 가지 주요 단계로 구성됩니다.

A. 오프라인 단계: 메모리 표현 및 이상 점수 계산

1. 메모리 구축 (Memory Representation):
   • 전문가의 정상적인 데모 (Demonstration) 데이터만 사용하여 비전 인코더 (ResNet18 또는 DinoV2) 로 특징을 추출합니다.
   • 추출된 패치 (patch) 단위 특징을 시간 (timestep) 과 공간 (patch) 축에서 가우시안 통계 (평균 $\mu$, 표준 편차 $\sigma$) 로 집계하여 **통계적 메모리 (M)**를 생성합니다. 이는 '정상' 분포를 정의합니다.
2. 이상 점수 계산 (Anomaly Score Computation):
   • 실시간 관측치 (Query) 와 메모리 (Key) 간의 **최적 운송 (Optimal Transport, OT)**을 수행합니다.
   • 패치 단위로 일대일 비교를 하는 대신, 두 특징 집합 간의 전역적 정렬 (Global Alignment) 을 통해 '특징 질량'을 이동시키는 최소 비용을 계산합니다. 이는 실행 속도의 변이 (variable execution speeds) 에 강인하게 대응합니다.
   • 최소 운송 비용을 이상 점수 (Anomaly Score) 로 사용합니다.

B. 임계값 설정: 공간 인식 컨포멀 예측 (Spatially-Aware Conformal Prediction)

• 기존 방식의 한계: 단순한 통계적 임계값은 시간적, 공간적 변이를 고려하지 못해 오검출 (False Positive) 이나 미검출 (False Negative) 이 발생할 수 있습니다.
• FIDeL 의 접근:
  • **컨포멀 예측 (Conformal Prediction, CP)**을 확장하여 동적 임계값을 설정합니다.
  • 시간적 (Temporal) 및 공간적 (Spatial, 패치 단위) 변이를 모두 고려하여 임계값을 계산합니다.
  • 특정 시간 단계에서 관측된 이상 점수가 계산된 임계값을 초과하는 패치의 비율이 사용자 정의 임계치를 넘을 때 '이상'으로 판정합니다.

C. 의미론적 필터링 (Semantic Filtering)

• 문제 해결: 이상 탐지 모듈이 탐지한 '이상' 중 실제 실패가 아닌 '부드러운 편차'를 제거합니다.
• 방법:
  • **비전 - 언어 모델 (VLM, 예: Qwen 2.5-7b)**을 활용합니다.
  • 입력: 작업 설명 (Task description), 정상 데모 프레임 (Reference), 현재 관측치 (Current observation), 이상 히트맵 (Anomaly heatmap).
  • 작동: VLM 은 히트맵이 표시된 영역을 중심으로 이미지와 맥락을 분석하여, 해당 이상이 '부드러운 편차 (Benign)'인지 '진정한 실패 (Failure)'인지 이진 분류 (0 또는 1) 를 수행합니다.
  • 이를 통해 불필요한 개입을 줄이고 신뢰성을 높입니다.

3. 주요 기여 (Key Contributions)

1. FIDeL 프레임워크: 모방 학습 로봇을 위한 정책 독립형 실패 탐지 모듈을 제안했습니다.
2. 확장된 컨포멀 예측: 시간적 변이와 공간적 (패치 단위) 변이를 모두 처리할 수 있도록 CP 를 확장하여, 가변적인 실행 속도에 강인한 임계값을 제공합니다.
3. 의미론적 필터링 메커니즘: VLM 과 이상 히트맵을 결합하여 '부드러운 편차'와 '작업 치명적 실패'를 구분하는 새로운 방식을 도입했습니다.
4. 해석 가능성 (Interpretability): 국소화된 히트맵과 VLM 기반의 설명을 제공하여 인간이 실패 탐지 이유를 이해할 수 있게 합니다.
5. BotFails 데이터셋: 로봇 실패 탐지를 위한 멀티모달 (비전, 프로프리오셉션, 언어) 데이터셋을 구축하여 공개했습니다. (가정용 6 가지, 산업용 4 가지 작업 포함)
6. 성능 향상: 기존 SOTA 방법 대비 이상 탐지 (AUROC +5.30%) 및 실패 탐지 정확도 (+17.38%) 에서 큰 개선을 달성했습니다.

4. 실험 결과 (Results)

• 데이터셋: 제안된 BotFails와 실제 로봇 작업 데이터인 **Real-π (솔더링 작업)**에서 평가 수행.
• 비교 대상: FAIL-Detect (CNF 기반), AutoEncoder (재구성 기반), STAC (시간적 일관성), VLM 만 사용하는 방법 등.
• 주요 성과:
  • 이상 탐지 (Anomaly Detection): FIDeL 은 모든 베이스라인을 압도하며 BotFails 에서 AUROC 70.50%, Real-π 에서 86.72% 를 기록했습니다 (두 번째로 좋은 방법 대비 각각 +5.3%, +4.1% 향상).
  • 실패 탐지 (Failure Detection): 의미론적 필터링을 적용한 결과, 진정한 실패는 탐지하면서 부드러운 편차는 무시하는 능력이 크게 향상되었습니다. 특히 실패 탐지 정확도가 +17.38% 증가했습니다.
  • 오검출 감소: 기존 AD 방법들은 부드러운 편차까지 실패로 잘못 분류하여 TNR(진음성률) 이 낮았으나, FIDeL 은 VLM 필터링을 통해 TNR 을 크게 개선하면서도 TPR(진양성률) 을 유지했습니다.

5. 의의 및 결론 (Significance)

• 실용성: 로봇이 실제 환경에서 안전하게 작동할 수 있도록, 정책의 품질뿐만 아니라 실행 중 발생하는 실패를 실시간으로 식별하고 해석할 수 있는 실용적인 인터페이스를 제공합니다.
• 신뢰성: 불필요한 중단 (False Positive) 을 줄여 생산성을 유지하면서도, 실제 위험 상황 (True Failure) 에는 적절히 대응할 수 있어 인간 - 로봇 상호작용의 신뢰도를 높입니다.
• 한계: 데모 데이터의 다양성에 의존적이며, VLM 사용으로 인한 계산 비용 증가와 비마르코프적 (비순차적) 실패 (예: 순서 의존적 작업) 탐지의 어려움 등이 남아있습니다.

이 논문은 로봇 모방 학습의 배포 단계에서 발생하는 '실패'를 통계적 이상 탐지와 최신 생성형 AI(VLM) 의 의미론적 이해 능력을 결합하여 해결한 선구적인 연구로 평가받습니다.