기술 요약: RF-DETR: 실시간 탐지 트랜스포머를 위한 신경 구조 탐색(Neural Architecture Search)

문제 정의

GroundingDINO, YOLO-World와 같은 오픈 보카블러리(open-vocabulary) 탐지기들은 COCO와 같은 표준 벤치마크에서 인상적인 제로샷 성능을 달enc하지만, 사전 학습에 포함되지 않은 외부 분포(out-of-distribution) 클래스나 이미지 모달리티를 포함하는 실제 환경 데이터셋에서는 종종 일반화에 실패합니다. 반대로, 특정 도메인을 위해 무거운 비전-언어 모델(VLM)을 미세 조정(fine-tuning)하는 것은 도메인 내 성능은 향상시키지만, 거대한 텍스트 인코더로 인해 실행 효율성을 희생하게 됩니다.

동시에, D-FINE 및 RT-DETR과 같은 전문화된(closed-vocabulary) 실시간 탐지기들은 빠른 추론을 제공하지만, 미세 조정된 VLM에 비해 성능이 떨어지는 경우가 많습니다. 저자들은 최근의 전문화된 탐지기들이 맞춤형 모델 아키텍처, 학습률 스케줄러, 증강 전략을 통해 COCO 벤치마크에 암묵적으로 과최적화되어 있으며, 이로 인해 실제 데이터 분포(예: 다양한 객체 수, 클래스 수, 데이터셋 크기)에 대한 일반화 능력이 떨어진다는 점을 관찰했습니다. 또한, 분야 전반에 걸친 표준 지연 시간(latency) 벤치마킹은 GPU 전력 스로틀링(power throttling)과 일관되지 않은 평가 프로토콜(예: NMS 누락 또는 정확도와 지연 시간 측정 시 서로 다른 양자화 수준 사용)로 인해 높은 변동성과 재현성 부족 문제를 겪고 있습니다.

방법론

본 논문은 RF-DETR을 소개합니다. 이는 타겟 데이터셋에 대해 재학습 없이도 정확도-지연 시간 파레토 곡선(accuracy-latency Pareto curves)을 발견할 수 있도록 **가중치 공유 신경 구조 탐색(Weight-Sharing Neural Architecture Search, NAS)**을 활용하는 스케줄러 프리(scheduler-free) 실시간 탐지 및 세그멘테이션 트랜스포머 제품군입니다.

1. 아키텍처 및 기반

RF-DETR은 다음과 같은 방식으로 LW-DETR 아키텍처를 현대화합니다:

• 백본 교체: CAEv2 백본을 DINOv2로 교체하여, 인터넷 규모의 사전 학습된 가중치를 활용함으로써 소규모 데이터셋에서의 일반화 성능을 높였습니다.
• 스케줄러 프리 학습: 특정 데이터셋 특성에 편향될 수 있는 복잡한 학습률 및 증강 스케줄러를 피합니다(예: 안전이 중요한 도메인에서 오탐지를 유발할 수 있는 공격적인 수직 뒤집기 방지).
• 인스턴스 세그멘테이션: 엔코더 출력을 쌍선형 보간(bilinear interpolation)하여 픽셀 임베딩 맵을 생성하는 경량 세그멘테이션 헤드를 추가함으로써, 엔드 투 엔드 실시간 세그멘테이션(RF-DETR-Seg)을 가능하게 합니다.

2. 가중치 공유 NAS 및 "조절 가능한 노브(Tunable Knobs)"

OFA에서 영감을 받은 RF-DETR은 단일 베이스 모델이 수천 개의 서브 네트워크 구성을 지원하도록 하는 가중치 공유 NAS 방식을 채택합니다. 학습 중에는 모델이 무작위 구성을 균등하게 샘플링합니다. 추론 시에는 원하는 지연 시간 지점을 목표로 특정 구성을 선택합니다. 탐색 공간에는 다음과 같은 "조절 가능한 노브"가 포함됩니다:

• 패치 크기(Patch Size): FlexiVIT 스타일의 변환을 사용하여 크기 간(예: 8에서 32까지) 보간합니다.
• 디코더 레이어(Decoder Layers): 모든 디코더 레이어에 회귀 손실(regression loss)을 적용하여, 추론 시 임의의 수의 레이어를 제거할 수 있도록 합니다.
• 쿼리 토큰(Query Tokens): 신뢰도 점수에 따라 테스트 시점에 쿼리를 제거하여 최대 탐지 수를 조와합니다.
• 이미지 해상도: 위치 임베딩(positional embeddings)을 최대 해상도에 맞춰 사전 할당하고, 더 작은 입력에 대해 보간합니다.
• 윈도우 어텐션(Windowed Attention): 글로벌 정보 혼합과 계산 효율성 사이의 균형을 맞추기 위해 어텐션 블록당 윈도우 수를 조절합니다.

이 접근 방식은 "아키텍처 증강(architecture augmentation)" 역할을 하여, 모델이 명시적으로 학습되지 않은 미지의 아키텍처와 구성에도 일반화될 수 있도록 합니다.

3. 표준화된 지연 시간 벤치마킹

저자들은 추론 중 GPU 전력 스로틀링이 보고된 지연 시간에 상당한 변동을 일으킨다는 점을 확인했습니다. 이를 해결하기 위해 다음과 같은 표준화된 평가 프로토콜을 제안합니다:

• 버퍼링(Buffering): 전력 스로틀링을 방지하고 안정적인 측정을 보장하기 위해 포워드 패스(forward pass) 사이에 200ms의 휴지기를 삽입합니다.
• 아티팩트 일관성(Artifact Consistency): 단순한 양자화로 인한 불일치를 피하기 위해, 정확도와 지연 시간을 동일한 모델 아티팩트(예: FP32 또는 FP16)로 평가합니다.
• NMS 포함: 엔드 투 엔드 탐지기와의 공정한 비교를 위해 지연 시간 측정에 비최대 억제(Non-Maximum Suppression, NMS)를 포함합니다.

주요 기여

1. RF-DETR 모델 제품군: COCO와 다양한 RF100-VL 벤치마크 모두에서 이전의 최첨단(SOTA) 방법들을 능가하는 새로운 실시간 탐지 및 세그멘테이션 제품군입니다. 특히, RF-DETR (2x-large)은 COCO에서 60 AP를 돌파한 최초의 실시간 탐지기입니다.
2. DETR을 위한 가중치 공유 NAS: 엔드 투 엔드 가중치 공유 NAS를 객체 탐지 및 세그멘테이션에 적용한 첫 사례로, 단 한 번의 학습 실행만으로 다양한 하드웨어와 데이터셋에 대한 파레토 최적 아키텍처를 발견할 수 있게 합니다.
3. 재현 가능한 벤치마킹: 현재의 지연 시간 평가 관행에 대한 비판과 함께, 모델 간의 공정한 비교를 가능하게 하기 위한 표준화된 절차(버퍼링, 일관된 아티팩트 사용)를 제안합니다.

실험 결과

COCO 벤치마크

• RF-DETR (Nano): COCO에서 48.0 AP를 달성하여, 유사한 지연 시간(~2.3ms)에서 D-FINE (Nano)보다 5.3 AP 더 높은 성능을 보였습니다.
• RF-DETR (2x-large): COCO에서 60.1 AP를 달성하며 실시간 탐지기 중 새로운 기록을 세웠습니다.
• 세그멘테이션: RF-DETR-Seg (Nano)는 YOLOv11-Seg (X-Large)보다 성능이 뛰어나면서도 4배 더 빠르며, FastInst보다 5.4% 높은 AP를 기록하면서 거의 10배의 속도 향상을 달성했습니다.

RF100-VL 벤치마크 (실제 환경 일반화)

• RF-DETR (2x-large): GroundingDINO (Tiny) 및 LLMDet (Tiny)보다 1.2 AP 높은 성능을 보이면서도 20배 더 빠르게 동작합니다.
• 일반화: YOLO 변형 모델들이 규모가 커짐에 따라 정체되거나 성능이 저하되는 것과 달리, RF-DETR은 더 큰 백본 크기(DINOv2-B)와 함께 일관된 개선을 보여주며 100개의 다양한 RF100-VL 데이터셋 전반에서 강력한 성능을 유지합니다.
• 미세 조정: COCO에서 RF-DETR을 미세 조정하는 것은 (NAS의 강력한 규제 효과로 인해) 제한적인 이득을 주지만, RF100-VL에서 미세 조정할 경우 완만한 성능 향상을 보입니다. 이는 NAS "아키텍처 증강"이 더 작고 다양한 데이터셋에서 수렴하기 위해 더 많은 에포크(epoch)가 필요함을 시사합니다.

절제 연구 (Ablation Studies)

• 백본: CAEv2를 DINOv2로 교체하면 성능이 약 2% 향상됩니다.
• 하이퍼파라미터: DINOv2의 사전 학습된 지식을 보존하고 소비자용 하드웨어에서 학습을 가능하게 하기 위해서는 "완만한(gentler)" 하이퍼파라미터(낮은 학습률, BatchNorm 대신 LayerNorm 사용)를 사용하는 것이 필수적입니다.
• 고정된 아키텍처: COCO에 최적화된 RF-DETR 아키텍처를 재검색 없이 RF100-VL로 전이했을 때도 LW-DETR보다 우수한 성능을 보였으나, 데이터셋 특화 NAS를 적용했을 때 추가적인 유의미한 이득이 있었습니다.

의의 및 주장

본 논문은 RF-DETR이 특정 벤치마크를 위해 수동으로 아키텍처를 설계하는 것에서 벗어나, 다양한 실제 분포에 걸쳐 일반화될 수 있는 아키텍처를 발견하는 방향으로의 전환을 나타낸다고 주장합니다. 인터넷 규모의 사전 학습(DINOv2)과 가중치 공유 NAS를 결មាន함으로써, RF-DETR은 매번 새로운 하드웨어 타겟이나 데이터셋 크기에 맞춰 재학습하는 계산 비용 없이 최첨단 성능을 달성합니다.

저자들은 현재의 전문화된 탐지기들이 COCO에 과최적화되어 있을 수 있음을 강조하며, 암묵적인 과적합을 방지하기 위해 RF100-VL과 같은 다양한 데이터셋에서 벤치마킹을 수행해야 한다고 주장합니다. 또한, 지연 시간 벤치마킹의 재현성 부족이 심각한 문제임을 지적하며, 실시간 모델의 공정한 비교를 위해 표준화된 프로토콜(버퍼링, 일관된 아티팩트 사용)이 반드시 도입되어야 한다고 역설합니다.

저자들의 지식 범위 내에서, RF-DETR은 COCO에서 60 AP를 초과한 최초의 실시간 탐지기이며, 이는 적절히 NAS를 통해 최적화될 경우 엔드 투 엔드 트랜스포머가 높은 정확도와 실시간 추론을 모두 달성할 수 있음을 입증합니다.