TRIAGE: Type-Routed Interventions via Aleatoric-Epistemic Gated Estimation in Robotic Manipulation and Adaptive Perception -- Don't Treat All Uncertainty the Same

이 논문은 로봇 조작 및 적응적 인식에서 불확실성을 우연적 (aleatoric) 과 인식적 (epistemic) 요소로 분리하여 관측 복구와 제어 동작 조절 등 유형별 맞춤형 대응을 가능하게 함으로써, 기존 단일 불확실성 기반 접근법보다 성능을 획기적으로 향상시키는 경량 사후 프레임워크 'TRIAGE'를 제안합니다.

핵심

로봇의 '불안감'을 구별하는 새로운 방법: TRIAGE

이 논문은 로봇이 실수를 할 때, **"왜 실수했는지"**를 정확히 파악해서 다른 방식으로 대응하는 새로운 방법을 소개합니다.

기존의 로봇들은 "뭔가 잘못됐다!"라고만 느끼면, 모든 상황에서 똑같은 방식으로 조심스럽게 행동했습니다. 하지만 이 논문은 **"불안감의 종류를 구분해야 한다"**고 말합니다. 마치 병원에서 환자를 분류 (Triage) 하듯이, 로봇의 불안감도 두 가지로 나누어 치료해야 더 효과적이라는 거죠.

---

1. 두 가지 다른 '불안감' (우려의 원인)

로봇이 헷갈려 할 때, 그 이유는 크게 두 가지입니다.

1. 눈이 흐려진 경우 (Aleatoric Uncertainty - 알레아토릭 불확실성)

   • 비유: 안경을 쓴 사람이 안경이 더러워지거나, 안개가 끼어서 사물이 흐릿하게 보이는 상황입니다.
   • 원인: 센서 오류, 카메라 노이즈, 빛 반사 등 관측 데이터가 망가진 경우입니다.
   • 로봇의 상태: 로봇이 세상을 보는 '눈'이 문제일 뿐, 로봇이 움직이는 '원리'나 '법칙'은 여전히 정상입니다.
   • 해결책: "눈을 닦아라!" (데이터를 다시 측정하거나 정제하라). 로봇이 움직이는 방식을 바꾸지 않아도 됩니다.

2. 상황이 변한 경우 (Epistemic Uncertainty - 에피스틱 불확실성)

   • 비유: 평소에는 가볍게 들 수 있는 상자를 들어 올리려는데, 상자가 갑자기 무거운 납덩이로 변해버린 경우입니다. 안경은 깨끗한데, 상자의 무게가 달라진 거죠.
   • 원인: 마찰력 변화, 물체 무게 증가, 바닥이 미끄러워짐 등 로봇이 움직이는 물리 법칙이 학습한 내용과 달라진 경우입니다.
   • 로봇의 상태: 로봇이 세상을 보는 '눈'은 정상인데, 로봇이 움직이는 '원리'가 깨진 것입니다.
   • 해결책: "힘을 조절하라!" (조심스럽게 움직여라). 로봇이 보는 데이터를 다시 측정해도 소용없고, 힘을 조절하거나 행동을 수정해야 합니다.

---

2. 기존 방식의 문제점: "모든 불안감을 하나로 합치면 안 돼!"

기존 로봇들은 이 두 가지 불안감을 섞어서 **"불안 지수 100 점!"**이라고만 표시했습니다.

• 문제: 눈이 흐려졌을 때 (1 번) 로봇이 "힘을 조절해서 조심스럽게 움직인다"고 하면, 오히려 더 못하게 됩니다.
• 결과: 로봇이 혼란스러워하고, 실수를 더 많이 하게 됩니다. 마치 안경 닦는다고 해서 안경을 벗고 힘껏 주먹을 휘두르는 것과 비슷합니다.

---

3. 이 논문의 해결책: TRIAGE (분류 및 대응)

이 연구는 로봇에게 **"불안감의 원인을 진단하는 도구"**를 달아주었습니다.

• 시각 (Aleatoric) 이 흐릴 때: 로봇은 "아, 내 눈이 흐리구나"라고 판단하고, 데이터를 다시 측정하거나 정제합니다. (관측 복구)
• 상황 (Epistemic) 이 변했을 때: 로봇은 "아, 상자가 무거워졌구나"라고 판단하고, 행동을 부드럽게 조절합니다. (행동 감쇠)

이 두 가지 신호는 서로 거의 영향을 주지 않아서 (직교함), 로봇은 정확한 원인을 찾아 정확한 치료를 할 수 있습니다.

---

4. 실제 효과: 로봇은 더 똑똑해지고, 카메라는 더 저렴해졌다

이 방법은 로봇 팔을 조종하는 일뿐만 아니라, 영상에서 사람을 추적하는 일에도 적용되었습니다.

• 로봇 팔 실험 (물건 들어 올리기):

  • 물건이 무거워지거나 센서에 노이즈가 섞여도, 로봇이 원인을 정확히 파악해서 대처했습니다.
  • 결과: 기존 방식보다 성공률이 59% 에서 80% 로 크게 향상되었습니다. 특히 두 가지 문제가 동시에 생겼을 때 가장 큰 차이를 보였습니다.

• 영상 추적 실험 (사람 찾기):

  • 영상에서 사람을 찾을 때, 항상 가장 무겁고 비싼 고성능 카메라 (모델) 를 쓸 필요가 없습니다.
  • 원리: "화질이 흐릿해서 (눈 문제)"라면 가벼운 모델로 충분하고, "사람이 이상하게 움직여서 (상황 문제)"라면 무거운 모델을 씁니다.
  • 결과: 컴퓨터 계산량을 58% 줄이면서도, 정확도는 거의 떨어지지 않았습니다. 마치 "비가 올 때만 우산을 쓰고, 맑은 날엔 가볍게 걷는" 것과 같습니다.

---

요약: 왜 이 연구가 중요할까요?

이 논문은 **"모든 불확실성은 똑같지 않다"**는 아주 중요한 통찰을 줍니다.

• 과거: "뭔가 잘못됐어? 다 조심하자!" (일괄 처리)
• 현재 (이 논문): "눈이 흐려졌으면 닦고, 상황이 변했으면 힘을 조절하자!" (맞춤형 처리)

이처럼 로봇이 자신의 실수 원인을 정확히 이해하고 대처할 수 있게 되면, 로봇은 더 안전하고, 더 빠르며, 더 똑똑하게 일할 수 있게 됩니다. 마치 숙련된 의사가 환자의 증상을 정확히 진단해서 약을 처방하는 것과 같습니다.

기술 요약

1. 문제 정의 (Problem)

기존의 불확실성 인식 (uncertainty-aware) 로봇 제어 시스템은 예측 불확실성을 단일 스칼라 값으로 축소하여 통합된 보수적인 대응 (예: 행동 속도 저하, 정책 변경) 을 취하는 경향이 있습니다. 그러나 이러한 접근 방식은 불확실성의 근본 원인을 구분하지 못한다는 치명적인 결함이 있습니다.

• 관측 노이즈 (Sensor Perturbation): 엔코더 노이즈, 보정 오차 등으로 인한 관측 데이터의 왜곡. 이 경우 제어 입력은 그대로 유지하고 관측값을 정제해야 합니다.
• 동역학 변화 (Dynamics Shift): 마찰력 변화, 하중 변경, 액추에이터 특성 변화 등으로 인한 시스템 물리 법칙의 변화. 이 경우 관측값은 정확하므로 제어 입력을 조정해야 합니다.

이 두 가지 불확실성 원인을 구분하지 않고 단일 신호로 처리할 경우, 잘못된 구성 요소에 보정 조치를 취하게 되어 오히려 시스템 성능이 저하될 수 있습니다.

2. 제안 방법론 (Methodology)

저자들은 TRIAGE 프레임워크를 제안하여, 추론 시 (inference time) 불확실성을 **알레토릭 (Aleatoric)**과 에피스틱 (Epistemic) 구성 요소로 분해하고, 각각의 신호에 따라 다른 시스템 대응을 유도합니다.

A. 불확실성 분해 (Uncertainty Decomposition)

1. 알레토릭 불확실성 (Aleatoric Uncertainty) 추정:
   • 원인: 관측 데이터의 노이즈 또는 왜곡.
   • 방법: 칼리브레이션 (calibration) 단계에서 수집된 정상 상태의 관측 데이터 분포를 기반으로 **마할라노비스 거리 (Mahalanobis distance)**를 계산합니다.
   • 동작: 관측값이 정상 분포에서 벗어날 경우 알레토릭 점수가 상승합니다.
2. 에피스틱 불확실성 (Epistemic Uncertainty) 추정:
   • 원인: 학습된 모델과 실제 시스템 동역학 간의 불일치 (모델 오차).
   • 방법: **노이즈 내성 동역학 앙상블 (Noise-robust dynamics ensemble)**을 사용합니다.
     • 학습 시 깨끗한 데이터뿐만 아니라 노이즈가 추가된 관측 데이터 (noise-augmented) 를 입력으로 사용하고, 깨끗한 상태 전이 (transition) 를 타겟으로 학습합니다.
     • 이를 통해 센서 노이즈에는 둔감하지만, 실제 동역학 변화에는 민감하게 반응하도록 설계합니다.
   • 동작: 예측된 상태 전이와 실제 관측된 상태 전이의 오차가 클 경우 에피스틱 점수가 상승합니다.

B. 유형별 개입 (Type-Specific Interventions)

분해된 두 신호는 서로 직교 (orthogonal, 상관관계 $r \approx 0.048$) 하므로, 각각 다른 조치를 트리거합니다.

• 높은 알레토릭 불확실성 ($\sigma_{alea} > \tau_{alea}$): 관측 복구 (Observation Recovery) 수행.
  • 시뮬레이터나 물리 엔진을 활용해 노이즈가 제거된 깨끗한 관측값을 재샘플링하여 평균화합니다. (제어 입력은 변경하지 않음)
• 높은 에피스틱 불확실성 ($\sigma_{epis} > \tau_{epis}$): 행동 감쇠 (Action Dampening) 수행.
  • 학습된 정책이 실제 동역학과 불일치할 수 있으므로 제어 입력의 크기를 줄입니다 ($a'_t = (1-\alpha)a_t$). (관측값은 변경하지 않음)

C. 적응형 지각 (Adaptive Perception)

동일한 불확실성 신호를 시각 추적 (Visual Tracking) 작업에 적용하여 적응형 모델 선택을 수행합니다.

• 에피스틱 불확실성이 높을 때 (모델 표현력 부족)만 더 큰 용량의 검출기 (Large/XLarge) 로 전환합니다.
• 알레토릭 불확실성 (노이즈) 이 높을 때는 모델 크기를 변경하지 않습니다.

3. 주요 기여 (Key Contributions)

1. 원칙적인 불확실성 분해: 폐루프 로봇 제어에서 알레토릭과 에피스틱 불확실성을 분리하고, 이를 각각의 시스템 응답 (관측 복구 vs 제어 적응) 에 매핑하는 포스트 호크 (post-hoc) 프레임워크를 제안했습니다.
2. 동역학 불일치 탐지: 노이즈 증강 학습 (noise-augmented training) 을 통해 센서 노이즈와 동역학 변화를 명확히 구분하는 노이즈 내성 동역학 앙상블을 개발했습니다.
3. 제어 및 지각의 통합 활용: 동일한 불확실성 분해 기법이 로봇 조작 (제어 보정) 과 시각 추적 (계산 자원 할당) 두 가지 다른 작업에서 모두 유효함을 입증했습니다.
4. 단일 스칼라 불확실성의 한계 규명: 불확실성을 단일 값으로 통합하면 동역학 변화 시 오히려 베이스라인 (Vanilla) 정책보다 성능이 저하될 수 있음을 실험적으로 증명했습니다.

4. 실험 결과 (Results)

A. 로봇 조작 (Robotic Manipulation - Isaac Lab)

• 환경: Franka Panda 암을 이용한 큐브 들기 작업.
• 조건: 센서 노이즈, 동역학 변화 (질량/마찰력), 복합扰动 (Compound Perturbation).
• 성능:
  • 복합扰动 조건: 제안 방법 (Decomposed) 은 성공률 **80.4%**를 기록하여, 단일 스칼라 기반의 통합 불확실성 방법 (Total-U, 59.4%) 보다 21.0%p 향상되었습니다.
  • 단일扰动 조건: 센서 노이즈 시에는 관측 복구만, 동역학 변화 시에는 행동 감쇠만 적용되어 각각 최적의 성능을 발휘했습니다.
  • 안정성: 감쇠 강도 ($\alpha$) 를 변화시켜도 성능이 안정적이었으나, 통합 방법은 감쇠 강도 증가에 따라 성능이 급격히 저하되었습니다.

B. 적응형 추적 (Adaptive Tracking - MOT17)

• 작업: YOLOv8 모델군 (Nano ~ XLarge) 간의 적응적 선택.
• 성능:
  • 계산 효율: 고정된 최대 용량 모델 (XLarge) 대비 평균 58.2% 의 계산량 감소를 달성했습니다.
  • 정확도: 탐지 품질 (IoU) 은 XLarge 기준 대비 0.4% 이내로 유지되었습니다.
  • 비교: 단일 불확실성 점수를 사용하는 기준 방법은 44.6% 의 계산 절감에 그쳤으며, 노이즈가 높을 때 불필요하게 큰 모델을 선택하는 경향을 보였습니다.

5. 의의 및 결론 (Significance)

이 논문은 **"모든 불확실성을 동일하게 취급하지 말라 (Don't Treat All Uncertainty the Same)"**는 핵심 통찰을 제공합니다.

• 구조적 불확실성 신호의 중요성: 불확실성의 출처 (관측 노이즈 vs 모델 오차) 를 구조적으로 분리함으로써, 시스템이 물리적으로 타당한 보정 조치를 취할 수 있게 합니다.
• 효율성과 견고성: 로봇 조작의 성공률을 획기적으로 높이는 동시에, 시각 지각 작업에서는 불필요한 계산 자원을 절감하여 엣지 디바이스 배포에 유리한 환경을 조성합니다.
• 확장성: 이 프레임워크는 재학습 없이 기존 정책 (frozen policy) 에 적용 가능한 포스트 호크 방식이며, 자율 주행, 위험 평가 등 다양한 로봇 및 에이전트 시스템으로 확장 가능합니다.

결론적으로, TRIAGE 는 불확실성 관리의 패러다임을 '보수적인 단일 대응'에서 '원인 기반의 정밀 대응'으로 전환하여 로봇 시스템의 신뢰성과 효율성을 동시에 향상시켰습니다.