Vision-Based End-to-End Learning for UAV Traversal of Irregular Gaps via Differentiable Simulation

1. 문제 정의 (Problem Statement)

• 배경: 재난 구조, 산업 점검 등 실제 임무에서 드론은 좁고 불규칙한 틈 (Gap) 을 통과해야 하는 경우가 많습니다.
• 기존 방법의 한계:
  • 전통적 계획/제어: 명시적인 간격 추출 및 측정에 의존하며, 환경에 대한 정확한 사전 지식이 필요합니다.
  • 기존 학습 기반 방법: 대부분 규칙적인 모양 (직사각형 등) 의 간격을 가정하거나, 이미지에서 간격의 포즈 (Pose) 나 기하학적 특징을 추출하는 추가 모듈이 필요합니다.
  • SE(3) 상태 공간의 부재: 대부분의 비전 기반 방법은 위치 (Position) 와 자세 (Attitude) 의 결합을 고려하지 않아, 좁고 기울어진 틈을 통과할 때 정밀한 자세 제어가 어렵습니다.
• 목표: 명시적인 계획이나 기하학적 특징 추출 없이, 깊이 이미지 (Depth Image) 를 직접 제어 명령으로 매핑하여 훈련 시 보지 못한 불규칙한 형태의 틈에서도 드론이 통과할 수 있는 강력한 일반화 능력을 갖는 프레임워크 개발.

2. 제안 방법론 (Methodology)

제안된 프레임워크는 **미분 가능한 시뮬레이션 (Differentiable Simulation)**을 기반으로 하며, 다음과 같은 핵심 기술들을 통합합니다.

A. 미분 가능한 시뮬레이션 및 엔드 - 투 - 엔드 학습

• CTBR 역학 모델: 질점 (Point-mass) 모델 대신 집단 추력 및 몸체 회전율 (Collective Thrust and Body Rate, CTBR) 모델을 사용하여 정밀한 SE(3) 제어 (위치와 자세의 결합) 를 가능하게 합니다.
• 메쉬 기반 깊이 렌더링: 3D 메쉬 환경에서 CUDA 기반의 고속 렌더러를 사용하여 깊이 이미지를 생성합니다. 도메인 랜덤화 (Domain Randomization) 를 통해 틈의 모양, 크기, 기울기를 다양하게 변형하여 훈련합니다.
• Backpropagation Through Time (BPTT): 작업 손실 (Task Loss) 이 시뮬레이션 역학을 통해 네트워크로 역전파되어, 시각 인지와 제어가 동시에 최적화됩니다.

B. 핵심 최적화 기법

1. Stop-Gradient (SG) 연산자:
   • 위치 및 회전 손실 함수에서 거리 항에 SG 를 적용하여, 틈 통과 시점 이후의 불필요한 기울기 (Gradient) 전파를 차단합니다.
   • 이는 드론이 틈 앞에서 멈추거나 (hesitation), 국소 최적해에 갇히는 것을 방지하고 부드러운 통과를 유도합니다.
2. 이중 모드 초기화 분포 (Bimodal Initialization Distribution):
   • 훈련 시 드론의 초기 상태를 두 가지 모드 (안정적인 상태 vs. 높은 가속도/속도 상태) 로 분포시켜 초기화합니다.
   • 이를 통해 드론이 급격한 통과 후에도 빠르게 안정화되도록 학습되며, 연속된 틈 통과 시에도 상태가 불안정해지는 것을 방지합니다.

C. 보조 예측 모듈 (Auxiliary Prediction Modules)

• 간격 통과 성공 분류기 (Gap-Crossing Success Classifier):
  • 정책의 은닉 상태 (Hidden State) 를 기반으로 통과 성공을 감지하고, 성공 시 은닉 상태를 초기화하여 다음 틈 통과를 위한 새로운 시작 조건을 제공합니다.
• 통과 가능성 예측기 (Traversability Predictor):
  • 드론이 좁은 틈을 안전하게 통과할 수 있는지 여부를 0~1 사이의 점수로 예측합니다.
  • 통과가 위험하다고 판단되면 비상 정지 (Emergency Stop) 를 트리거하여 안전성을 확보합니다.

3. 주요 기여 (Key Contributions)

1. 실용적인 비전 기반 SE(3) 정책: 명시적인 전처리 없이 깊이 이미지에서 직접 제어 명령을 생성하며, 훈련 데이터 (규칙적인 틈) 와는 완전히 다른 불규칙한 실제 환경에서도 높은 일반화 성능을 보입니다.
2. 보조 예측 모듈 도입: 통과 감지 및 통과 가능성 평가를 통해 연속적인 항해의 신뢰성과 안전성을 크게 향상시켰습니다.
3. 광범위한 검증: 시뮬레이션 및 실제 드론 실험을 통해 제안된 접근법의 유효성, 견고성 (Robustness), 그리고 실제 적용 가능성을 입증했습니다.

4. 실험 결과 (Results)

A. 시뮬레이션 실험 (AirSim)

• 베이스라인 비교:
  • 기존 PPO 기반 RL 방법 (전처리 필요) 및 최신 비전 항해 방법과 비교했습니다.
  • 노이즈 강인성: 실제와 유사한 노이즈가 있는 깊이 이미지 (SGM) 입력 시, 기존 RL 방법은 성능이 급격히 저하되었으나 (성공률 80% → 3%), 제안된 방법은 **98% → 93%**로 거의 성능 저하가 없었습니다.
  • 불규칙한 틈 통과: 장애물이 있는 벽면 틈 등 복잡한 환경에서 기존 방법은 충돌이 빈번했으나, 제안된 방법은 높은 성공률을 보였습니다.
• Ablation Study:
  • SG 연산자 제거: 틈이 기울어질 때 드론이 멈추거나 불안정해지며 오류가 크게 증가했습니다.
  • BIO (이중 모드 초기화) 제거: 연속된 틈 통과 시 3 번째 틈에서 위치/자세 오류가 급증하여 추락하는 경우가 발생했습니다. BIO 와 은닉 상태 초기화를 적용해야만 연속 통과가 안정적으로 이루어졌습니다.

B. 실제 환경 실험 (Sim-to-Real)

• 하드웨어: Radxa Zero3W (NPU 가속기) 와 Intel RealSense D435i 카메라가 탑재된 462g 경량 드론.
• 성능: 훈련은 규칙적인 직사각형 틈으로만 수행되었으나, 실제 실험에서는 반가림된 링, 불규칙한 구멍, 타일 나무, 부분 가려진 문 등 훈련 시 보지 못한 다양한 불규칙한 틈을 성공적으로 통과했습니다.
• 안전성: 통과 불가능한 불규칙한 틈이 감지되면 예측 모듈이 점수를 낮춰 비상 정지를 수행하는 등 안전 장치가 정상 작동함을 확인했습니다.

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 미분 가능한 시뮬레이션과 SE(3) 제어를 결합하여, 드론이 복잡한 3D 환경에서 인간의 개입 없이도 불규칙하고 좁은 틈을 통과할 수 있는 새로운 패러다임을 제시했습니다.

• 기술적 의의: 명시적인 기하학적 특징 추출 없이 raw 깊이 이미지만으로 복잡한 SE(3) 제어를 학습할 수 있음을 증명했습니다.
• 실용적 가치: 훈련 데이터와 다른 실제 환경 (Zero-shot transfer) 에서도 높은 성공률을 보이며, 재난 구조나 산업 점검과 같은 실제 임무에 바로 적용 가능한 강력한 솔루션을 제공합니다.
• 향후 과제: 장애물 회피와 틈 통과 정책을 통합하거나, 오직 장애물 회피 손실만으로 완전히 적응형 통과를 연구하는 방향으로 확장할 수 있습니다.

요약하자면, 이 연구는 시뮬레이션과 현실의 격차 (Sim-to-Real Gap) 를 줄이고, 불규칙한 환경에서도 드론이 스스로 판단하여 안전하게 통과할 수 있는 지능형 제어 시스템을 성공적으로 구현한 획기적인 작업입니다.