기술 요약: Tabero – 폐루프 힘 피드백을 통한 온화한 조작 학습

1. 문제 제기

현재의 비전 - 언어 - 행동 (VLA) 기반 모델들은 로봇 조작 분야에서 놀라운 진전을 보여주었으나, 주로 시각 및 언어 데이터에 의존하여 인간과 같은 온화한 상호작용에 필수적인 촉각 모달리티가 부족합니다. 이러한 한계로 인해 VLA 모델들은 파손 없이 취약한 물체를 다루는 것과 같은 힘에 민감한 작업을 수행하지 못합니다. 이 분야는 두 가지 주요 과제를 직면하고 있습니다:

1. 데이터 부족: 대규모 정렬된 비전 - 촉각 - 언어 데이터셋이 부족합니다. 기존 촉각 데이터 수집은 맞춤형 하드웨어의 높은 비용과 복잡성으로 인해 방해받으며, 시뮬레이션 파이프라인은 종종 고품질의 동기화된 촉각 신호를 생성하지 못합니다.
2. 평가 격차: 표준 평가 프로토콜은 작업 성공률 (결과 지향) 에만 초점을 맞추어 물리적 상호작용의 질 (과정 지향) 을 간과합니다. 이러한 프로토콜은 조작 중 물체가 손상되었는지 또는 과도한 힘이 가해졌는지를 정량화하지 못합니다.

2. 방법론

2.1 Tabero 벤치마크 및 데이터 파이프라인

데이터 부족 문제를 해결하기 위해 저자들은 효율적으로 다양한 비전 - 촉각 - 언어 데이터를 생성하도록 설계된 벤치마크 및 모델 세트인 Tabero를 소개합니다.

• 크로스 플랫폼 데이터 재사용: Tabero 는 처음부터 데이터를 수집하는 대신, MuJoCo 나 기타 플랫폼에서 유래한 오픈소스 로봇 조작 궤적을 고충실도 Isaac Sim 환경에서 재생함으로써 재사용합니다.
• 하드웨어 적응: 파이프라인은 비전 - 촉각 그리퍼 (시뮬레이션 GelSight 센서 통합) 가 장착된 로봇에 맞춰 궤적을 적응시킵니다. 엔드 이펙터 기하학과 제어 역학의 차이 (예: 작업 공간 제어에서 관절 제어로의 전환) 를 처리하기 위해 시스템은 로봇의 베이스 포즈를 조정하고 추적 오차를 최소화하기 위해 고이득 PD 관절 제어기를 사용합니다.
• 멀티모달 획득: 시스템은 다음을 포함하여 20Hz 로 동기화된 스트림을 캡처합니다:
  • 비전: 손목 장착 및 제 3 자 카메라의 RGB-D 데이터.
  • 촉각: Taxim 프레임워크를 통해 생성된 고해상도 촉각 이미지 (320×240) 및 마커 변위장.
  • 힘: 시뮬레이션된 손가락 끝에서 얻은 6D 접촉 힘의 실제 값.
• 힘 다양성 생성: 표준 그리퍼 명령의 이진적 성격을 극복하기 위해 파이프라인은 저수준 임피던스 제어기 매개변수 ($K_p$ 및 $K_d$) 를 변조합니다. 이를 통해 동일한 고수준 작업 논리를 유지하면서 다양한 힘 크기 (예: "온화한" 대 "단단한") 를 가진 궤적을 생성할 수 있습니다. 언어 지시는 측정된 힘과 의미론을 정렬하기 위해 부사 (예: "온화하게", "단단하게") 로 보강됩니다.

2.2 Tabero-VTLA 아키텍처

저자들은 흐름 매칭을 기반으로 한 Pi0 인프라 위에 구축된 힘 인식 모델 세트인 Tabero-VTLA를 제안합니다.

• 촉각 토큰화: 모델은 전문 토크나이저를 통해 촉각 데이터를 통합합니다:
  • 힘 - 필드 토크나이저: Temporal Convolutional Network (TCN) 를 사용하여 시공간 마커 변위장을 인코딩합니다.
  • 촉각 - 이미지 어댑터: 시각 인코더를 통해 복합 촉각 이미지를 처리합니다.
  • 힘 토크나이저: MLP 를 통해 원시 6D 힘 벡터를 인코딩합니다.
• 분해된 힘 - 위치 제어: 정책은 그리퍼 포즈와 목표 힘에 대한 조정된 명령을 모두 출력합니다. 이러한 명령은 순응도를 학습하지 않고 정책의 명령을 추적하는 고정 하이브리드 저수준 제어기에 의해 실행됩니다.
  • 적용 힘 제어: 목표 접촉 힘과 측정된 접촉 힘의 차이에 기반하여 엔드 이펙터 포즈를 조정하기 위해 어미던스 기반 위치 보정을 사용합니다.
  • 그립 힘 제어: 작동기 불명확성을 처리하기 위해 데드존을 사용하여 피드포워드 이득을 갖춘 피드백 루프를 구현하여 그립 힘을 정밀하게 조절합니다.

2.3 평가 프로토콜

이 논문은 이진 성공률을 넘어 상호작용의 질을 정량화하는 다차원 평가 프로토콜을 소개합니다:

• 최대 과도 그립 힘 (MG): 상위 5% 그립 힘 값의 평균 (공격적인 스파이크를 포착).
• 평균 그립 힘 (AG): 접촉 중 평균 그립 힘.
• 최대 과도 적용 힘 (MA): 상위 5% 적용 힘 크기의 평균.
• 평균 적용 힘 (AA): 평균 적용 힘 크기.

3. 주요 결과

3.1 데이터 검증 및 다양성

• 충실도: Isaac Lab 에서 재생된 궤적은 동일한 운동학을 사용할 때 원래 MuJoCo 데이터셋과 비교 가능한 성공률을 달성했습니다. 그러나 촉각이 장착된 그리퍼를 도입하면 섬세한 작업에서 성공률이 측정 가능한 수준으로 하락하여, 접촉이 풍부한 작업이 힘 조절에 얼마나 민감한지 강조했습니다.
• 힘 분포: 데이터 생성 파이프라인은 서로 다른 힘 수준 (명목 힘의 100%, 25%, 10%) 에 대한 명확한 멀티모달 분포를 성공적으로 생성했으며, "단단하게" 대 "온화하게"와 같은 언어 지시에 해당하는 촉각 이미지와 힘 필드에서 명확한 변이가 관찰되었습니다.

3.2 모델 성능

• 촉각 피드백의 필요성: 제거 실험 (Ablation studies) 은 촉각 입력을 제거하면 힘 조절이 완전히 실패함을 보여주었습니다. 촉각 피드백이 없는 모델들은 언어 지시에 맞춰 그립 힘을 적응시킬 수 없었습니다.
• 힘 지도 학습: 명시적인 힘 지도 학습을 추가하면 성능이 크게 향상되었습니다. 가장 우수한 성능을 보인 구성은 풍부한 촉각 표현 (마커 필드) 과 힘 지도 학습을 결합하여, "단단한" 조건에서 0.86 의 성공률과 "온화한" 조건에서 0.52 의 성공률 (데이터셋 B) 을 달성했으며, 단단한 그립에 비해 평균 그립 힘을 70% 이상 감소시켰습니다.
• 제어기 유효성: 저수준 제어기에 대한 제거 실험은 정확한 힘 추적을 위해 피드포워드 및 어미던스 항 모두 필수적임을 보여주었습니다. 어느 항이든 제거하면 힘 조절이 부실해지거나 물체가 떨어지는 결과가 초래되었습니다.

3.3 의미 일반화

모델은 보이지 않는 언어 부사 (예: "가볍게", "강하게") 에 일반화하는 능력을 보여주었습니다. 도메인 밖 지시에 대해서는 성공률이 감소했지만, 모델은 부사의 의미론적 의미와 일치하는 중간 수준의 힘을 생성하여 힘 관련 언어에 대한 제로샷 구성적 이해의 일부를 나타냈습니다.

4. 중요성 및 주장

이 논문은 Tabero 가 접촉이 풍부한 환경에서 더 안전하고 숙련된 로봇 상호작용을 위한 실용적인 경로를 제공한다고 주장합니다. 주요 기여점은 다음과 같습니다:

1. 확장 가능한 데이터 생성: 기존 오픈소스 궤적을 재사용하여 대규모 동기화된 비전 - 촉각 - 언어 데이터셋을 생성하는 최초의 파이프라인을 구축함으로써 데이터 부족 병목 현상을 해결합니다.
2. 표준화된 평가: 작업 성공과 함께 상호작용의 "온화함"을 명시적으로 정량화하는 최초의 표준 프로토콜을 도입하여, 순수한 결과 기반 지표에서 과정 인식 물리적 상호작용의 질로 초점을 이동시킵니다.
3. 힘 인식 제어: 분해된 힘 - 위치 인터페이스를 통해 촉각 피드백을 VLA 아키텍처에 통합함으로써 로봇이 높은 작업 성공률을 유지하면서 상호작용 힘을 크게 (70% 이상) 감소시킬 수 있음을 입증했습니다. 이는 기존 표준 VLA 모델로는 달성할 수 없었던 능력입니다.

5. 한계

저자들은 현재 프레임워크가 작업 성공과 최소 상호작용 힘을 동시에 최적화하지는 못하며, 초온화 영역에서는 온화함과 신뢰성 사이에 내재된 트레이드오프가 있음을 인정합니다. 그들은 향후 연구가 이러한 목표를 균형 있게 맞추기 위해 강화 학습을 탐구할 수 있으며, 물리적 배포를 위한 실제 세계 데이터 수집 시스템을 개발 중이라고 제안합니다.