💻 computer science

Embodied Active Learning under Limited Annotation and Navigation Budget for Object Detection

본 논문은 엄격한 탐사 및 주석 예산 하에서 공간적 일관성을 활용하여 재학습을 위한 불일치 레이블을 식별하고 우선순위를 지정함으로써 미지의 환경에 객체 탐지기를 적응시키는 체화된 능동 학습 프레임워크를 제안하며, 이를 통해 시뮬레이션 및 실제 환경 모두에서 베이스라인 대비 우수한 탐지 정확도를 달성한다.

원저자: Hadrien Crassous, Mohamed Yassine Kabouri, Minahil Raza, Joni Pajarinen, Riad Akrour

게시일 2026-07-20

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Hadrien Crassous, Mohamed Yassine Kabouri, Minahil Raza, Joni Pajarinen, Riad Akrour

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

세상을 볼 수는 있지만, 아주 혼란스러운 안경을 쓰고 있는 로봇을 상상해 보세요. 이것이 바로 컴퓨터 비전(computer vision)의 세계입니다. 컴퓨터 비전은 기계에게 사진 속의 컵, 책, 또는 고양이와 같은 물체를 인식하도록 가르치는 과학의 한 분야입니다. 보통 우리는 학생의 숙제를 채점하는 선생님처럼, 수백만 개의 라벨이 붙은 사진을 보여줌으로써 로봇을 가르칩니다. 하지만 현실 세계에서 로bots는 종종 어지러운 거실이나 낯선 사무실처럼 자신의 '안경'이 제대로 작동하지 않는 새로운 장소로 보내지곤 합니다. 그 과정에서 로봇은 의자를 보고 테이블이라고 부르거나, 고양이를 아예 놓쳐버릴 수도 있습니다.

이를 해결하기 위해 우리는 **능동 학습(active learning)**이라는 과정을 필요로 합니다. 이것은 단순히 교과서를 암기하는 것이 아니라, 자신이 아직 이해하지 못하는 구체적인 것들을 찾기 위해 세상 밖으로 나가, 선생님에게 도움을 요청하고, 그 특정 사례들을 공부하는 학생과 같습니다. 하지만 여기에는 제약이 있습니다. 로봇은 돌아다니며 물건을 찾기 위한 제한된 배터리(탐사 예산, navigation budget)를 가지고 있고, 자신이 찾은 사진들에 대해 올바른 라벨을 받기 위한 제한된 "선생님의 시간"(주석 예산, annotation budget)을 가지고 있습니다. 핵심적인 질문은 이것입니다: 로봇은 어떻게 가장 적은 시간 안에 가장 많이 배울 수 있도록 이동할 위치와 선생님에게 보여줄 사진을 결정할 것인가?

"Embodied Active Learning under Limited Annotation and Navigation Budget for Object Detection"이라는 제목의 이 논문은 바로 이 퍼즐을 다룹니다. 연구진은 로봇이 모든 단계를 인간의 감독 없이도 새로운 환경에 스스로 적응할 수 있는 영리한 전략을 제안합니다. 로봇이 무작정 돌아다니거나 단순히 무작위로 사진을 고르는 대신, 이들은 **예측 불일치(Prediction Discrepancy)**라는 기술을 사용합니다.

이 로봇의 새로운 '초능력'이 작동하는 방식은 다음과 같습니다. 당신이 책장을 바라보고 있다고 상상해 보세요. 사진을 한 장 찍고, 옆으로 한 걸음 움직여서 또 다른 사진을 찍습니다. 만약 당신의 뇌(로봇의 AI)가 완벽하게 작동한다면, 두 사진 모두에서 동일한 책들을 보게 될 것입니다. 하지만 로봇이 혼란스러워한다면, 첫 번째 사진에서는 "저것은 책이다!"라고 말했을지라도, 두 번째 사진에서는 "저것은 램프다!"라고 하거나 "보이지 않는다!"라고 말할 수도 있습니다. 첫 번째 프레임에서 본 것과 두 번째 프레임 사이의 이러한 차이를 **불일치(discrepency)**라고 합니다. 저자들은 이러한 혼란의 순간들이 사실 가장 가치 있는 단서라는 것을 발견했습니다. 로봇이 움직임에 따라 자신의 예측이 서로 일치하지 않을 때, 그것은 로봇이 자신이 잘 이해하지 못하는 무언가를 보고 있다는 신호입니다.

연구진은 이 "혼란 신호"를 사용하여 탐사를 유도하는 시스템을 구축했습니다. 이는 마치 지도의 흐릿하고 혼란스러운 부분에 이끌리는 호기심 많은 탐험가처럼 행동하는 것입니다. 로봇은 자신의 예측이 불일치할 것으로 예상되는 구역으로 가는 경로를 계획하고, 그곳에서 이미지를 수집한 뒤, 가장 혼란스러운 몇 개의 이미지에 대해서만 인간(또는 강력한 AI 조수 역할을 하는 선생님)에게 라벨을 요청합니다. 그런 다음 그 특정 사례들을 바탕으로 스스로를 재학습시킵니다.

이 아이디어를 테스트하기 위해 연구팀은 두 가지 유형의 실험을 수행했습니다. 첫째, 가상의 집들로 가득 찬 비디오 게임 세계인 AI2-THOR라는 컴퓨터 시뮬레이션을 사용했습니다. 그들은 90개의 서로 다른 집 구조를 대상으로 로봇을 주행하게 하여, '혼란 유도형' 방식과 무작위 배회 또는 단순히 복잡한 이미지만 선택하는 방식 등의 다른 전략들을 비교했습니다. 결과는 그들의 방식이 동일한 양의 배터리와 선생님의 시간을 사용하면서도, 다른 방법들보다 로봇이 더 빠르게 배우고 물체를 더 정확하게 인식하도록 돕는다는 것을 일관되게 보여주었습니다.

그들은 비디오 게임에서 멈추지 않았습니다. 그들은 실생활의 실내 공간을 돌아다니는 실제 네 발 달린 로봇인 **보스턴 다이내믹스 스팟(Boston Dynamics Spot)**을 사용하여 자신들의 방식을 실제 세계에 적용했습니다. 실제 사진을 일일이 손으로 라벨링하는 것은 느리고 비용이 많이 들기 때문에, 그들은 초기 라벨링을 위해 스마트한 AI 도구를 사용했고, 이후 인간이 이를 빠르게 검토하도록 했습니다. 이 어지럽고 복잡한 실제 환경에서도, 자신의 혼란을 포착하는 로봇의 능력은 시각 능력을 크게 향상시키는 데 도움을 주었습니다.

이 논문은 로봇이 자신의 실수, 즉 움직임에 따라 스스로의 예측이 일치하지 않는 순간들에 귀를 기울임으로써, 인간의 도움을 훨씬 적게 받고도 훨씬 더 똑똑해질 수 있다는 점을 시사합니다. 이는 마치 "내가 이 주제에 대해 혼란스러워"라고 깨닫고, 책 전체를 다시 읽는 대신 그 특정 지점에 대해 즉시 도움을 요청하는 학생과 같습니다. 저자들은 이 접근 방식이 로봇이 새로운 환경에 효율적으로 적응하게 하여, 잃어버린 물건을 찾거나 가본 적 없는 곳에서 지시를 따르는 것과 같은 작업에서 더 신뢰할 수 있게 만든다는 것을 발견했습니다. 결과는 유망하지만, 저자들은 이것이 특정 시뮬레이션과 통제된 실제 설정에서 테스트되었음을 언급하며, 이 방식이 효과적이지만 로봇이 더욱 복잡하고 예측 불가능한 세상을 마주하게 됨에 따라 여전히 탐구할 부분이 많음을 시사했습니다.

기술 요약: 제한된 주석 및 탐사 예산 하에서의 체화된 능동 학습(Embodied Active Learning) 기반 객체 탐지

문제 정의

로봇 객체 탐지(OD) 시스템은 도메인 변화, 조명 변화, 또는 미표집된 객체 클래스로 인해 새로운 환경에 배치될 때 어려움을 겪는 경우가 많습니다. 파운데이션 모델이 강력한 사전 지식을 제공하긴 하지만, 실시간 로봇 배포를 위한 계산 비용이 높고 특정적이거나 희귀하거나 도메인 특화된 객체에 대해서는 불완전합니다. 더욱이, 탐지기를 미세 조정(fine-tuning)하는 것은 인간의 주석(annotation)에 대한 의존성 때문에 비용이 매우 많이 듭니다.

본 논문은 다음의 이중 제약 조건 하에서 미지의 환경에 컴퓨터 비전 객체 탐지기를 적응시키는 문제를 다룹니다:

제한된 탐사 예산(Navigation Budget): 로봇은 환경을 탐사하고 후보 이미지를 수집하기 위해 이동할 수 있는 단계(step) 수가 제한되어 있습니다.
제한된 주석 예산(Annotation Budget): 로봇은 수집된 이미지 중 아주 적은 부분에 대해서만 인간(또는 오라클)의 레이블을 요청할 수 있습니다.

핵 핵심 연구 질문은 다음과 같습니다: 로봇은 이러한 제약 조건 하에서 어떻게 비전 모델을 적응시킬 수 있는가? 외부 감독 없이 가장 정보 가치가 높은 이미지를 식별하는 스코어링 방법은 무엇인가? 그리고 탐색 전략은 탐지하기 어려운 객체를 어떻게 찾아내는가?

방법론

저자들은 배치 능동 학습(batch active learning)의 변형으로 정식화된 체화된 능동 학습(Embodied Active Learning) 프레임워크를 제안합니다. 이 과정은 수집(collection), 선택(selection), 재학습(retraining), 그리고 선택적 평가(optional evaluation)의 네 가지 단계로 구성된 반복적인 라운드로 작동합니다.

1. 예측 불일치 ( $\Delta$ )

핵심 혁신은 **예측 불일치(Prediction Discrepancy)**라고 불리는 휴리스틱 스코어링 메트릭입니다. 엔트로피나 정답(ground-truth) 가용성에 의존하는 대신, 이 메트릭은 연속적인 예측 간의 불일치를 측정함으로써 모델의 불확실성을 추정합니다.

메커니즘: 에이전트가 상태 $s$ 에서 $s'$ 로 이동할 때, 이 방법은 두 프레임의 중첩 영역 내에서 예측된 객체 클래스 집합 사이의 대칭 차이를 계산합니다.
계산: $\Delta = |C_s \cup C_{s'}| - |C_s \cap C_{s'}|$ 이며, 여기서 $C$ 는 중첩 영역으로 제한된 클래스 목록을 나타냅니다.
의미: 높은 $\Delta$ 값은 관점에 따라 모델의 예측이 크게 변함(예: 한 프레임에서는 객체를 탐지하지만 다음 프레임에서는 놓치는 경우)을 나타내며, 이는 정답 레이블 없이도 잠재적인 실패 사례를 알리는 신호가 됩니다.

2. 적응형 탐사 에이전트(Adaptive Navigation Agent)

제한된 탐사 예산 내에서 정보 가치가 높은 샘플의 수집을 극대화하기 위해, 저자들은 경로 인식 베이지안 최적화(path-aware Bayesian Optimization, BO)를 사용하는 온라인 최적화 알고리즘을 채택합니다.

대리 모델(Surrogate Model): Random Forest 회귀 모델은 수집 버퍼를 기반으로 방문하지 않은 상태에 대한 예측 불일치를 추정합니다.
획득 함수(Acquisition Function): 에이전트는 탐색(exploration)과 활용(exploitation)의 균형을 맞추기 위해 상한 신뢰 구간(Upper Confidence Bound, UCB) 전략을 사용합니다. 에이전트는 최단 경로(weighted A*를 통해 계산됨)를 따라 평균적인 낙관적 $\Delta$ 추정치를 최대화하는 목적지를 선택합니다.
경로 가중치: 계획 그래프의 엣지 가중치는 이미 탐사된 위치를 재방문하는 것에 페널티를 주는 동시에, 불확실성이 높은 영역으로의 이동을 장려하도록 설계되었습니다.

3. 데이터 선택 전략

선택 과정은 PPAL [36]에서 변형된 2단계 접근 방식을 따릅나다:

난이도 샘플링(Difficulty Sampling): 수집된 버퍼에서 예측 불일치가 가장 높은 상위 $3 \times A$ 개의 샘플을 선택합니다.
다양성 샘플링(Diversity Sampling): 이 후보들을 클래스 조건부 매칭 유사도(Class Conditioned Matching Similarity, CCMS)를 사용하여 클러스터링합니다. $A$ 개 클러스터의 중심점(centroid)이 주석 처리를 위해 선택됩니다.

제약 조건 처리: 이 선택 과정은 다양성을 보장하며, 이전에 주석 처리된 데이터와 너무 유사한 샘플을 재선택하는 것을 명시적으로 방지합니다.

4. 오라클 및 재학습

선택된 이미지는 "오라클"에 의해 주석 처리됩니다. 시뮬레이션에서는 이것이 정답(ground truth)이며, 실제 환경 실험에서는 비전-언어 파운데이션 모델(OWLv2)을 사용한 후 인간이 수정하는 반자동 파이프라인을 사용합니다. 탐지기는 누적된 주석 버퍼를 통해 재학습되며, 수집 버퍼 내의 예측값은 새로운 모델 상태를 반영하도록 업데이트됩니다.

주요 기여

문제 정식화: 저자들은 비전 모델 적응을 엄격한 탐사 및 주석 자원 제한이 있는 체화된 배치 능동 학습 문제로 정의합니다.
예측 불일치 점수: 공간적 일관성(또는 결여)을 활용하여 모델의 실패 사례를 식별하고 탐사와 이미지 샘플링을 모두 가이드하는 새로운 비감독 스코어링 방법을 도입합니다.
적응형 탐사 정책: 예측 불일치에 의해 유도되는 경로 인식 베이지안 최적화 전략을 개발하여, 효과적인 내재적 호기심 신호(intrinsic curiosity signal) 역할을 수행하게 합니다.
실증적 검증: 제안된 방식은 두 가지 설정에서 평가되었습니다:
- 시뮬레이션: 다양한 크기의 YOLOv5 모델과 함께 AI2-THOR/ProcTHOR 데이터셋을 사용하였습니다.
- 실제 환경: 비자동 레이블링 파이프라인을 갖춘 실내 환경에서 Boston Dynamics의 Spot 로봇을 사용하였습니다.

실험 결과

시뮬레이션 (AI2-THOR)

스코어링 방법: 예측 불일치 방법은 모든 모델 크기(S, M, L)에 대해 평균 정밀도(mAP50) 측면에서 베이스라인(Entropy, Count, Random)보다 일관되게 우수한 성능을 보였습니다. 이 방법은 "Oracle" 베이스라인(선택 단계에서 정답을 사용하여 어려운 클래스를 선택하는 방식)의 성능에 근접했으나, 선택 단계에서 정답을 요구하지 않았습니다.
데이터 특성: 예측 불일치에 의해 선택된 샘플은 모델에게 더 까다로웠으며(주석된 샘플에 대한 낮은 F1 점수), 클래스 분포 엔트로피가 더 높았습니다. 이는 다른 방법들에 비해 더 다양한 객체 클래스를 더 잘 커버하고 있음을 나타냅니다.
탐사: 예측 불치에 의해 유도되는 적응형 탐사 에이전트는 Frontier-Based Exploration (FBE), Sweep, 그리고 Random walk 베이스라인에 비해 시간에 따라 현저히 나은 학습 진척도를 달 나타냈습니다.

실제 환경 (Boston Dynamics Spot)

성능: 실제 실내 환경에서도 예측 불일치는 Entropy, Count, Random 베이스라인보다 우수한 성능을 보였습니다.
효율성: 이 방법은 어려운 샘플을 우선시하면서도 Count 및 Entropy 기반 방법보다 더 적은 총 객체 주석을 필요로 했습니다.
격차 분석: 제안된 방법과 Random 선택 간의 성능 격차는 시뮬레이션보다 실제 환경에서 더 작았는데, 이는 단일 방 구조와 작은 예산 때문인 것으로 분석되었으나, 이점은 여전히 일관되게 유지되었습니다.

의의 및 주장

본 논문은 공간적 불일치가 체화된 에이전트를 가이드하는 강력한 비감독 신호 역할을 한다고 주장합니다. 예측 불일치를 활용함으로써, 시스템은 스스로의 실패 사례를 자율적으로 식별하고 타겟팅할 수 있으며, 동일한 자원 제약 하에서 다른 방법들보다 가장 높은 탐지 정확도를 달성할 수 있습니다.

저자들은 이 접근 방식이 비상호작적 능동 학습과 체화된 능동 학습 사이의 간극을 메운다는 점을 강조합니다. 이는 로봇이 상호작용을 통해 새로운 환경에 자신의 비전 모델을 자율적으로 적응시킬 수 있음을 보여주며, 값비싼 사전 수집 데이터셋이나 광범한 수동 주석에 대한 의존도를 줄여줍니다. 이 연구는 에이전트가 자신의 예측에 대한 시간적 및 공간적 일관성을 이용할 수 있다면, 정보 가치가 높은 샘플을 식별하기 위해 명시적인 감독이 반드시 필요하지는 않다는 것을 시사합니다.

저자들은 향- 연구에 대해 겸허한 태도를 유지하며, 클래스 난이도와 학습 진척도를 명시적으로 추정하는 것이 우선순위 지정 기능을 더욱 개선할 수 있을 것이며, 향후 버전에서는 오라클 주석자에 대한 의존도를 더욱 줄이기 위해 도메인 불가지론적 사전 학습(domain-agnostic pretraining) 및 자기 지도 적응(self-supervised adaptation)을 탐구할 수 있다고 언급했습니다.