기술 요약: AT-VLA

문제 정의

비전 - 언어 - 행동 (VLA) 모델은 다양한 작업에서 로봇의 능력을 향상시켰으나, 정밀한 물리적 상호작용이 필요한 접촉이 풍부한 조작 시나리오에서는 어려움을 겪습니다. 현재 한계점은 다음과 같습니다:

1. 사전 학습 지식의 교란: 하류 파인튜닝 동안 새로운 모달리티 (예: 촉각 신호) 를 도입하면 모델의 기존 사전 학습된 비전 및 언어 표현이 교란되어, 객체 위치 파악 및 파지와 같은 기본 작업에서 성능이 저하됩니다.
2. 피드백 루프의 지연: VLA 모델의 본질적으로 느린 추론 속도가 실시간 대응력을 저해합니다. 이러한 지연은 안전하고 성공적인 폐쇄 루프 조작에 필수적인 고주파수 촉각 피드백을 신속한 행동 조정에 효과적으로 활용하는 것을 방해합니다.

방법론: AT-VLA

저자들은 사전 학습된 능력의 보존과 촉각 피드백의 통합 사이의 균형을 맞추도록 설계된 적응형 촉각 비전 - 언어 - 행동 (AT-VLA) 프레임워크를 제안합니다. 이 시스템은 사전 학습된 VLA(구체적으로 GO-1) 를 기반으로 구축되었으며, 두 가지 핵심 메커니즘을 도입합니다:

1. 적응형 촉각 주입

이 메커니즘은 사전 학습된 표현과의 간섭을 최소화하기 위해 촉각 신호 통합의 시기와 위치를 동적으로 결정합니다.

• 촉각 게이트: 학습 가능한 게이팅 네트워크가 촉각 토큰을 기반으로 로봇이 "접촉" 상태인지 "비접촉" 상태인지 분류합니다.
  • 비접촉: 게이트가 비활성화됩니다. 모델은 사전 학습된 비전 기반 및 위치 파악 능력을 보존하기 위해 비전과 언어에만 의존하여 일반 VLA 와 동일하게 작동합니다.
  • 접촉: 게이트가 활성화되어 촉각 신호가 행동 생성에 영향을 미치도록 합니다.
• 적응형 교차 어텐션: 게이트의 상태를 모델 아키텍처나 특징 차원을 변경하지 않고 수용하기 위해:
  • 게이트가 비활성화된 경우, 상태 토큰이 행동 전문가 (Action Expert) 의 교차 어텐션 모듈에서 쿼리로 사용됩니다 (일반 VLA 와 일치).
  • 게이트가 활성화된 경우, 쿼리 소스가 촉각 토큰으로 전환됩니다. 이를 통해 모델은 비접촉 단계에서는 사전 학습된 구조를 보존하면서, 필요할 때만 촉각 피드백에 기반하여 행동 생성을 조건부로 수행할 수 있습니다.

2. 촉각 반응 듀얼 스트림

지연 문제를 해결하고 고주파수 촉각 피드백에 대한 신속한 대응을 가능하게 하기 위해, 감각 처리를 두 개의 비동기 스트림으로 분리합니다:

• 느린 스트림 (저주파수): 대규모 비전 - 언어 모델 (VLM) 을 통해 비전 및 언어 입력을 처리합니다. 고수준 작업 이해와 지각적 추론을 담당하며, 행동 전문가를 위한 잠재적 컨텍스트 (Key/Value) 를 제공합니다.
• 빠른 스트림 (고주파수): 촉각 피드백을 지속적으로 처리합니다. 느린 스트림 대비 더 높은 추론 비율 (예: 3:1 비율) 로 작동하여 즉각적인 행동 조정을 생성합니다.
• 통합: 행동 전문가는 동일한 행동 청크 구간 내에서 최신 촉각 피드백 (빠른 스트림 쿼리) 에 기반하여 각 행동 예측을 조건부로 수행하면서, 최신 비전 - 언어 추론 출력 (느린 스트림 Key/Value) 을 활용합니다. 이를 통해 0.04 초의 폐쇄 루프 응답 시간을 달성합니다.

주요 기여

1. 적응형 촉각 주입: 사전 학습된 VLA 지식과 새로 도입된 촉각 표현 사이의 균형을 맞추는 최초의 접근 방식으로, 비전 기반 및 객체 위치 파악의 교란을 방지합니다.
2. 촉각 반응 듀얼 스트림: 감각 처리 주파수를 분리하여 접촉 중 정확한 실시간 행동 조정을 가능하게 하면서 고수준 추론의 안정성을 유지하는 새로운 메커니즘입니다.
3. 모달리티 무관한 견고성: 모델은 촉각 피드백으로 훈련되었음에도 추론 중 촉각 신호가 부재할 때에도 일반 VLA 와 비교할 만한 성능을 유지하며 강력한 일반화 능력을 보여줍니다.
4. 실증적 검증: 광범위한 실세계 실험을 통해 접촉이 풍부한 작업에서 최첨단 (SOTA) VLA 및 촉각 기반 정책보다 우수한 성능을 입증했습니다.

실험 결과

저자들은 촉각 센서가 장착된 듀얼 암 로봇 (AgiBot Genie1) 을 대상으로 여섯 가지 작업 (접촉이 풍부한 네 가지: 지퍼 열기, 도장 찍기, 화분 닦기, 뚜껑 풀기; 비접촉 두 가지: 들어 옮기기, 서랍 열기) 에서 AT-VLA 를 평가했습니다.

• 접촉이 풍부한 작업: AT-VLA 는 베이스라인 (GO-1, $\pi_0.5$, VTLA, RDP) 을 크게 능가했습니다.
  • 지퍼 열기 작업에서 AT-VLA 는 33% 성공률을 기록한 반면, GO-1 은 20%, $\pi_0.5$는 0% 였습니다.
  • 도장 찍기 작업에서 AT-VLA 는 전체 성공률 46% 를 달성한 반면, GO-1 은 13%, $\pi_0.5$는 20% 였습니다.
  • 이 모델은 지퍼 고임이나 과도한 힘 충돌과 같은 베이스라인의 일반적인 실패 모드를 성공적으로 피했습니다.
• 모달리티 무관 평가: 추론 중 촉각 입력 없이 테스트했을 때, AT-VLA 는 비접촉 작업에서 일반 VLA 와 비교할 만한 성능을 유지했으며, "도장 찍기" 작업에서는 오히려 약간 향상된 성능을 보여 훈련 데이터에서 접촉 역학을 암묵적으로 학습했음을 시사합니다.
• 어블레이션 연구:
  • 직접 통합: 게이팅 없이 단순히 촉각 토큰을 추가하면 일반 VLA 대비 성능이 9% 저하되어 사전 학습된 지식을 교란할 위험을 확인했습니다.
  • 듀얼 스트림: 듀얼 스트림 메커니즘을 제거하고 (동기식 주파수 유지) 성능이 11% 하락하여 신속한 촉각 대응의 필요성을 강조했습니다.
  • 촉각 포맷: 이 프레임워크는 다양한 촉각 포맷 (6 차원 힘, 2 차원 마커, 비전 - 촉각 이미지) 에서 견고함을 입증했으며, 6 차원 힘이 가장 좋은 결과를 낳았습니다.

의의

본 논문은 AT-VLA 가 보다 반응적이고 일반화 가능한 다중 모달 로봇 시스템으로 나아가는 중요한 단계라고 주장합니다. 사전 학습된 비전 - 언어 능력의 견고성을 훼손하지 않고 촉각 피드백을 성공적으로 통합함으로써, AT-VLA 는 로봇 조작의 중요한 병목 현상인 접촉이 풍부한 환경에서 정밀하고 안전하며 신속한 물리적 상호작용을 수행하는 능력을 해결합니다. 촉각 센서가 사용 불가능할 때도 효과적으로 작동할 수 있는 프레임워크의 능력은 실세계 배포에 대한 실용적 타당성을 더욱 높입니다.