CABTO: Context-Aware Behavior Tree Grounding for Robot Manipulation

이 논문은 로봇 조작을 위한 행동 트리 (BT) 시스템의 자동 구축 문제를 정의하고, 사전 훈련된 대규모 언어 모델을 활용해 행동 모델과 제어 정책을 탐색하는 최초의 프레임워크인 CABTO 를 제안하여 다양한 시나리오에서 효과적이고 효율적인 BT 시스템 생성을 실현함을 보여줍니다.

핵심

이 논문은 로봇이 복잡한 일을 스스로 계획하고 실행할 수 있도록 돕는 **'CABTO'**라는 새로운 시스템을 소개합니다.

이걸 이해하기 쉽게 요리사와 레시피에 비유해서 설명해 드릴게요.

🍳 비유: 로봇 요리사와 완벽한 레시피

상상해 보세요. 아주 똑똑한 로봇 요리사가 있습니다. 이 로봇에게 "사과를 꺼내서 서랍에 넣어라"라고 명령하면, 로봇은 다음과 같은 두 가지 능력이 필요합니다.

1. 고급 계획 (High-level Planning): "먼저 서랍을 열고, 사과를 잡고, 서랍에 넣어야지"라고 논리적으로 단계를 짜는 능력. (이걸 행동 모델이라고 합니다.)
2. 실제 실행 (Low-level Control): "손을 움직여 서랍 손잡이를 잡고, 힘껏 당겨서 열고, 사과를 집어서 넣는" 실제 물리적인 동작을 수행하는 능력. (이걸 제어 정책이라고 합니다.)

지금까지 로봇 연구자들은 이 두 가지 중 **계획 (레시피)**만 자동으로 만들어내는 기술은 개발했지만, **실제 실행 (손기술)**까지 완벽하게 연결하는 데는 큰 문제가 있었습니다.

• 문제점: 로봇이 "서랍을 여는 레시피"를 만들었는데, 실제 로봇은 서랍을 여는 법을 몰라요. 혹은 "서랍이 열려 있어야 한다"는 조건을 레시피에 넣지 않아서, 닫힌 서랍을 열려고 시도하다가 실패하는 거죠.
• 기존 방식: 이 문제를 해결하려면 인간 전문가가 수천 번의 시행착오를 겪으며 로봇에게 "서랍을 여는 법"을 일일이 가르쳐야 했습니다.

✨ 해결책: CABTO (Context-Aware Behavior Tree Grounding)

이 논문에서 제안한 CABTO는 바로 이 '레시피'와 '손기술'을 자동으로 맞춰주는 마법 같은 시스템입니다.

1. CABTO 가 어떻게 작동할까요? (세 단계 과정)

CABTO 는 거대한 두뇌 (대규모 언어 모델, LLM) 를 활용해서 다음과 같이 일합니다.

• 1 단계: 레시피 초안 만들기 (고급 모델 제안)

  • AI 는 "사과를 서랍에 넣어라"라는 목표를 보고, "서랍을 열고, 사과를 잡고, 넣는다"는 식의 **레시피 (행동 모델)**를 먼저 만들어냅니다.
  • 이때, 로봇이 이 레시피대로 일을 할 수 있는지 계획 도구로 시뮬레이션해 봅니다. "아, 이 레시피엔 '서랍이 열려 있어야 한다'는 조건이 빠졌네!"라고 발견하면, AI 는 다시 레시피를 고칩니다.

• 2 단계: 손기술 연습하기 (저급 정책 샘플링)

  • 레시피가 완성되면, 이제 로봇이 실제로 그 동작을 할 수 있는지 확인합니다.
  • AI 는 로봇의 눈 (비전) 과 손 (모터) 을 연결하는 실제 제어 코드를 만들어냅니다. "서랍을 여는 동작"을 시뮬레이션해 보니, 실제로 서랍이 열리나요?
  • 만약 실패하면, AI 는 "아, 내가 서랍 손잡이를 잡는 위치를 잘못 계산했구나"라고 환경 피드백을 받아서 코드를 수정합니다.

• 3 단계: 레시피와 손기술의 조화 (교차 수준 정제)

  • 만약 레시피는 완벽해 보였는데, 로봇이 실행하면 계속 실패한다면?
  • 이때 CABTO 는 양쪽의 정보를 합칩니다. "레시피는 '서랍을 여는 것'을 요구하는데, 로봇은 '서랍이 잠겨 있다'는 사실을 못 느꼈어. 그럼 레시피에 '서랍이 잠겨 있는지 확인'하는 조건을 추가하자!"라고 레시피를 다시 수정합니다.
  • 이 과정을 반복해서, 이론상 완벽하고 실제로도 작동하는 완벽한 시스템이 될 때까지 다듬습니다.

🚀 왜 이 기술이 중요한가요?

• 자동화: 예전에는 로봇마다 일일이 전문가가 수작업으로 레시피와 손기술을 매칭해야 했지만, 이제는 AI 가 스스로 찾아서 맞춰줍니다.
• 신뢰성: 로봇이 "할 수 있다"고 생각한 일이 실제로도 성공할 확률이 매우 높아집니다.
• 다양성: 실험 결과, 단순한 물건 쌓기부터 복잡한 요리하기, 두 손으로 물건을 주고받기까지 다양한 작업에서 성공적으로 작동했습니다.

💡 요약

이 논문은 **"로봇에게 일을 시킬 때, 머릿속의 계획 (레시피) 과 실제 손기술 (손짓) 이 서로 맞지 않아 실패하는 문제를 해결했다"**는 이야기입니다.

CABTO 는 AI 가 레시피를 쓰고, 로봇이 연습해보고, 실패하면 다시 레시피를 고치는 과정을 반복하며, 결국 어떤 상황에서도 로봇이 스스로 완벽하게 일을 해낼 수 있는 '완벽한 행동 지도'를 자동으로 만들어냅니다.

이 기술이 발전하면, 앞으로 우리 집 로봇이 "냉장고에서 우유 꺼내서 컵에 따르고, 식탁에 가져다줘"라고 말만 하면, 복잡한 과정을 스스로 계획하고 실행해 줄 날이 머지않았다는 뜻입니다! 🤖🥛

기술 요약

1. 문제 정의 (Problem Definition)

로봇 조작 (Robot Manipulation) 은 고수준의 신뢰할 수 있는 계획 (Planning) 과 강건한 저수준의 제어 정책 (Control Policy) 이 모두 필요합니다. 행동 트리 (Behavior Tree, BT) 는 이러한 요구사항을 충족하는 모듈형 및 반응형 제어 아키텍처로 주목받고 있으며, 최근 BT 계획 (BT Planning) 을 통해 자동으로 BT 를 생성하는 연구가 진행되고 있습니다.

그러나 기존 BT 계획 방법은 이미 잘 설계된 'Grounded' BT 시스템이 존재한다고 가정합니다. 즉, 고수준의 행동 모델 (Action Models) 과 이에 대응하는 저수준의 제어 정책이 매핑되어 있어야 합니다. 이러한 시스템을 구축하는 데는 막대한 전문가 지식과 수작업이 필요합니다.

이 논문은 BT Grounding 문제를 다음과 같이 공식화합니다:

• 목표: 주어진 작업 집합 (Task Set) 에 대해 **완전성 (Completeness)**과 **일관성 (Consistency)**을 갖춘 BT 시스템을 자동으로 구축하는 것.
• 완전성 (Completeness): 주어진 행동 모델을 기반으로 고수준 BT 계획 알고리즘이 모든 작업에 대한 해결책 BT 를 생성할 수 있어야 함.
• 일관성 (Consistency): 저수준 제어 정책이 행동 모델에서 정의된 상태 전이 (State Transition) 를 정확하게 수행할 수 있어야 함 (예: 행동 모델이 '상자 열기'를 정의했다면, 실제 제어 정책이 상자를 성공적으로 열어야 함).

기존의 단순한 탐색 알고리즘 (Exhaustive Search) 은 이론적으로는 가능하지만, 행동 모델과 정책의 조합 공간이 지수적으로 증가하여 실제 적용이 불가능합니다.

2. 방법론 (Methodology)

저자들은 효율적인 BT Grounding 문제를 해결하기 위해 **CABTO (Context-Aware Behavior Tree grOunding)**라는 프레임워크를 제안합니다. CABTO 는 사전 훈련된 대규모 언어 모델 (LLM) 과 비전 - 언어 모델 (VLM) 을 활용하여, BT 계획 및 환경 피드백이라는 **맥락 (Context)**을 기반으로 행동 모델과 제어 정책을 탐색합니다.

CABTO 는 크게 세 가지 단계로 구성됩니다:

가. 고수준 모델 제안 (High-level Model Proposal)

• 목적: 주어진 작업 집합을 해결할 수 있는 행동 모델 (Action Models) 의 후보 집합을 생성.
• 과정:
  1. LLM 에게 작업 집합 (목표 상태, 초기 조건, 객체 의미 등) 을 프롬프트로 입력.
  2. LLM 이 상징적 전제 조건 (Preconditions) 과 효과 (Effects) 를 가진 행동 모델 후보를 생성.
  3. BT 계획 알고리즘을 사용하여 생성된 모델이 모든 작업을 해결할 수 있는지 검증.
  4. 계획 실패 시, 실패 원인 (토폴로지 스케치, 확장된 조건 수 등) 을 **계획 맥락 (Planning Context)**으로 LLM 에게 피드백하여 더 나은 모델을 제안하도록 반복.

나. 저수준 정책 샘플링 (Low-level Policy Sampling)

• 목적: 제안된 행동 모델에 대응하는 실행 가능한 저수준 제어 정책을 찾음.
• 과정:
  1. VLM (Vision-Language Model) 을 사용하여 행동 모델의 의미에 맞는 정책 유형과 하이퍼파라미터를 샘플링.
  2. Molmo(시각 인식) 및 cuRobo(운동 제어) 와 같은 도구를 활용하여 실제 실행 가능한 Python 코드를 생성.
  3. 시뮬레이션 환경에서 정책을 실행하고, 최종 상태가 행동 모델이 정의한 효과와 일치하는지 확인.
  4. 실행 결과 (시각적 관찰, 성공/실패 신호 등) 를 **실행 맥락 (Execution Context)**으로 VLM 에게 피드백하여 정책 수정 또는 재샘플링.

다. 크로스 레벨 정제 (Cross-level Refinement)

• 목적: 행동 모델과 제어 정책 간의 불일치를 해결.
• 과정:
  1. 특정 행동 모델에 대해 유효한 정책을 찾을 수 없으면, 해당 모델이 물리적으로 일관성이 없다고 판단.
  2. **계획 맥락 (고수준 필요성)**과 **실행 맥락 (저수준 실패 원인)**을 결합하여 VLM 에게 전달.
  3. VLM 이 누락된 전제 조건 (예: "상자가 열려 있어야 함") 이나 잘못된 효과 등을 식별하여 행동 모델을 수정 (Refine) 함.
  4. 수정된 모델은 다시 검증 과정을 거침.

3. 주요 기여 (Key Contributions)

1. BT Grounding 문제의 공식화: 주어진 작업 집합에 대해 완전하고 일관된 BT 시스템을 자동 구축하는 문제를 정의하고, 이를 해결하기 위한 기초적인 알고리즘과 이론적 분석을 제시.
2. CABTO 프레임워크 제안: LLM 과 VLM 을 활용하여 계획 및 환경 피드백 맥락을 기반으로 행동 모델과 제어 정책을 효율적으로 탐색하는 최초의 프레임워크 개발.
3. 실험적 검증: 3 가지 다른 로봇 조작 시나리오 (단일 팔, 이중 팔, 이동 로봇) 에 걸쳐 7 개의 다양한 작업 집합에서 CABTO 의 효과성과 효율성을 입증.

4. 실험 결과 (Results)

실험은 Franka (단일/이중 팔) 및 Fetch (이동 로봇) 를 사용하여 OmniGibson 및 Isaac Sim 환경에서 수행되었습니다.

• 고수준 모델 제안 성능:
  • 계획 맥락 (Planning Context) 을 피드백으로 사용할 때 성능이 크게 향상됨.
  • 특히 GPT-4o 의 경우, 맥락 피드백을 통해 완전한 계획 성공률 (CSR) 이 약 50% 에서 90% 이상으로 급격히 증가.
  • 복잡한 이중 팔 및 이동 조작 작업에서 맥락 피드백의 효과가 가장 두드러짐.
• 저수준 정책 샘플링 성능:
  • VLM 기반 정책 샘플링은 실행 맥락 (Execution Context) 을 사용할 때 성공률이 향상됨.
  • 다양한 작업 (Pick, Place, Open/Close, Toggle 등) 에서 ReKep(규칙 기반) 및 Molmo+cuRobo(계층적) 방식이 각기 다른 강점을 보였으며, VLM 은 이를 유연하게 선택하여 성능을 극대화함.
• 크로스 레벨 정제 효과:
  • 환경 피드백을 통한 정제 과정은 불일치하는 행동 모델을 성공적으로 수정함.
  • 예: "용기 열기" 작업에서 뚜껑이 닫혀 있다는 전제 조건 누락을 VLM 이 시각적 피드백을 통해 인지하고 수정하여 성공률 향상.
• 종합: CABTO 는 7 개 작업 세트 모두에서 완전하고 일관된 BT 시스템을 성공적으로 생성하여 로봇이 작업을 완수하도록 함.

5. 의의 및 결론 (Significance)

• 자동화 및 접근성: 로봇 조작을 위한 BT 시스템 구축에 필요한 막대한 수작업과 전문가 지식을 LLM 기반 자동화 프레임워크로 대체하여 접근성을 높임.
• 신뢰성 보장: 단순히 BT 구조만 생성하는 것이 아니라, 실제 물리적 환경에서 실행 가능한 제어 정책까지 매칭하여 시스템의 **신뢰성 (Reliability)**과 **일관성 (Consistency)**을 보장함.
• 맥락 기반 학습: 고수준의 논리적 추론과 저수준의 물리적 실행 사이의 간극을 계획 및 실행 피드백이라는 맥락을 통해 효과적으로 연결함.

이 연구는 로봇이 복잡한 작업을 수행하기 위해 필요한 행동 트리 시스템을 자동으로 설계하고 검증할 수 있는 새로운 패러다임을 제시하며, 향후 실제 물리 시스템으로의 전환 및 모델 미세 조정을 통해 더욱 발전할 것으로 기대됩니다.