Evaluation of Winning Solutions of 2025 Low Power Computer Vision Challenge
본 논문은 에지 디바이스를 위한 효율적인 비전 모델 개발을 촉진하기 위해 개최된 2025 년 저전력 컴퓨터 비전 챌린지 (LPCVC) 의 대회 구조, Qualcomm AI Hub 를 활용한 평가 프레임워크, 각 트랙의 최상위 솔루션 및 주요 트렌드를 종합적으로 평가하고 향후 경쟁에 대한 제언을 제시합니다.
원저자:Zihao Ye, Yung Hsiang Lu, Xiao Hu, Shuai Zhang, Taotao Jing, Xin Li, Zhen Yao, Bo Lang, Zhihao Zheng, Seungmin Oh, Hankyul Kang, Seunghun Kang, Jongbin Ryu, Kexin Chen, Yuan Qi, George K ThiruvathukalZihao Ye, Yung Hsiang Lu, Xiao Hu, Shuai Zhang, Taotao Jing, Xin Li, Zhen Yao, Bo Lang, Zhihao Zheng, Seungmin Oh, Hankyul Kang, Seunghun Kang, Jongbin Ryu, Kexin Chen, Yuan Qi, George K Thiruvathukal, Mooi Choo Chuah
이 논문은 **'2025 IEEE 저전력 컴퓨터 비전 챌린지 (LPCVC)'**라는 거대한 대회에 대한 회고록이자 분석 보고서입니다. 쉽게 말해, **"휴대폰이나 드론처럼 배터리와 성능이 제한된 작은 기기에서도 똑똑하게 작동하는 AI 를 어떻게 만들까?"**를 두고 전 세계 연구자들이 치열하게 경쟁한 이야기를 담고 있습니다.
이 대회는 마치 **"무거운 짐을 싣고도 가볍게 달리는 마라톤"**과 같습니다. 보통 AI 는 거대한 데이터센터처럼 무겁고 전기를 많이 먹지만, 이 대회는 작은 스마트폰 같은 기기에서도 빠르고 정확하게 작동하는 '가벼운 AI'를 찾는 것이 목표였습니다.
🏁 대회의 3 가지 주요 미션 (트랙)
대회는 세 가지 다른 난이도의 미션으로 나뉘어 진행되었습니다.
미션 1: 어떤 빛에서도 눈을 크게 뜨기 (이미지 분류)
상황: 어두운 밤, 역광, 혹은 인공적으로 만든 그림 같은 다양한 환경에서 사물을 구별하는 것.
과제: "이게 비행기야, 아니면 책이야?"를 빛 조건과 상관없이 100% 정확히 맞히는 것.
비유: 눈이 나쁜 사람이 안경을 쓰지 않고도 어둠속에서도 물건을 알아보는 훈련입니다.
미션 2: 말로 지시하면 그림을 그리는 마법 (오픈 보카뷸러리 분할)
상황: AI 가 미리 배운 사물 (예: '개', '고양이') 이 아닌, 새로운 말을 듣고 그 사물을 찾아내야 합니다.
과제: "파란색 자전거"라고 말하면, AI 가 그 자전거만 딱 잘라내서 표시해야 합니다.
비유: 요리사가 레시피를 처음 보는 재료에 맞춰 즉석에서 요리를 해내는 능력입니다.
미션 3: 한 장의 사진으로 깊이를 느끼기 (단안 깊이 추정)
상황: 카메라가 하나뿐인데도 사물이 얼마나 멀리 있는지 (깊이) 를 계산해야 합니다.
과제: 평면 사진만 보고 3D 공간감을 만들어내는 것.
비유: 눈을 한 번 감고도 손이 코에 얼마나 가까운지 감으로 아는 능력입니다.
🏆 우승자들의 비밀 무기 (해결책)
전 세계의 영리한 팀들이 이 미션들을 해결하기 위해 다양한 전략을 썼습니다.
1. 미션 1 우승팀 (LabLVM): "두꺼운 책을 얇게 펴기"
전략: 원래 AI 는 두꺼운 책 (깊은 신경망) 을 읽어야 정확했지만, 시간이 너무 걸렸습니다. 이 팀은 책의 장을 몇 장씩 합쳐서 (Layer Merging) 두께를 줄였습니다.
비유: 1000 페이지짜리 두꺼운 소설책을 100 페이지짜리 요약본으로 줄이되, 핵심 내용 (정확도) 은 그대로 유지하는 기술입니다. "층을 합치고, 원래의 지식을 흉내 내는 (Imitation)" 방식으로 속도를 높였습니다.
2. 미션 2 우승팀 (SICer): "효율적인 요리사"
전략: 텍스트와 이미지를 동시에 이해하는 복잡한 AI 를 사용했지만, 너무 느렸습니다. 이 팀은 **주의 집중 방식 (Attention)**을 바꿔서 불필요한 계산을 줄였습니다.
비유: 모든 재료를 다 섞어서 요리하는 대신, 필요한 재료만 골라 빠르게 섞는 (선형 주의 메커니즘) 방식으로 전기를 아끼면서도 맛 (정확도) 을 유지했습니다. 또한, 작은 사물이나 드문 사물을 놓치지 않도록 특별히 신경을 썼습니다.
3. 미션 3 우승팀 (Sailor Moon): "불필요한 짐 버리기"
전략: AI 가 계산하는 과정에서 불필요한 수학적 연산 (상수 연산) 이 많았습니다. 이 팀은 연산 그래프를 최적화해서 불필요한 단계를 없애고, 입력 사진의 크기를 딱 맞는 크기로 조절했습니다.
비유: 여행 가방에 쓸모없는 돌멩이를 다 빼내고, 가장 적합한 크기의 가방만 챙겨서 가장 빠르게 목적지에 도달한 것입니다.
💡 대회가 우리에게 알려준 교훈
이 대회를 통해 연구자들은 몇 가지 중요한 사실을 깨달았습니다.
정확도만 좋으면 안 됩니다: 배터리가 금방 닳거나, 처리 속도가 느리면 실제 기기에 쓸 수 없습니다. "빠르고, 가볍고, 똑똑한" 균형이 핵심입니다.
준비된 도구 (스타터 키트) 가 중요합니다: 대회 주최측이 제공한 기초 템플릿 덕분에 팀들은 처음부터 다시 시작하지 않고, 더 창의적인 부분에 집중할 수 있었습니다.
미래를 위한 제안: 앞으로는 배터리 소모량, 메모리 사용량 등 더 다양한 지표를 평가해야 하며, 특정 하드웨어에만 최적화되지 않는 범용적인 AI를 만드는 것이 중요해졌습니다.
🚀 결론
이 논문은 단순히 "누가 이겼나"를 알려주는 것을 넘어, 작은 기기에서도 강력한 AI 를 구현하기 위한 지혜를 보여줍니다. 마치 "작은 엔진으로 거대한 배를 끄는 방법"을 연구하는 것과 같습니다.
이러한 기술이 발전하면, 우리 손안의 스마트폰이 더 똑똑해지고, 배터리가 오래 가는 드론이 재난 현장에 투입되며, 안경처럼 가벼운 AR 기기가 일상생활을 바꿔놓을 것입니다. 이것이 바로 이 대회가 추구하는 미래입니다.
1. 문제 정의 (Problem Definition)
LPCVC 2025 는 에지 컴퓨팅 환경 (모바일, 임베디드 시스템 등) 에서 **정확도 (Accuracy)**와 자원 제약 (Latency, Memory, Energy) 사이의 균형을 맞추는 효율적인 컴퓨터 비전 모델의 개발을 촉진하기 위해 설계되었습니다. 기존 대규모 벤치마크 (ImageNet, COCO 등) 가 주로 성능 극대화에 초점을 맞춘 반면, 본 챌린지는 실제 하드웨어 (Qualcomm Snapdragon 칩셋) 에서의 실행 시간과 메모리 사용량을 엄격하게 제한하는 것이 핵심 문제입니다.
2025 년 챌린지는 다음 세 가지 트랙으로 구성되었습니다:
트랙 1 (이미지 분류): 다양한 조명 조건 (저조도, 역광 등) 과 스타일 (실내, 실외, 합성 이미지) 에 대한 모델의 강건성 (Robustness) 평가.
트랙 2 (오픈 보카불러리 분할): 텍스트 프롬프트를 기반으로 사전 학습된 클래스에 포함되지 않은 객체를 분할하는 자연어 기반 시맨틱 분할.
트랙 3 (단안 상대 깊이 추정): 멀티뷰 또는 능동 센서 없이 단일 RGB 이미지로부터 깊이 맵을 생성하는 경량화 모델 설계.
2. 방법론 및 평가 프레임워크 (Methodology & Evaluation Framework)
A. 평가 인프라: Qualcomm AI Hub
모든 모델 평가는 Qualcomm AI Hub를 통해 수행되어 일관성과 재현성을 보장했습니다.
하드웨어: Snapdragon 8 Elite (트랙 1, 3) 및 Snapdragon X Elite (트랙 2) 기반의 QRD(Custom Reference Design) 및 CRD(Consumer Reference Design) 에서 실행.
프로세스: 참가자는 AI Hub 를 통해 모델을 컴파일하고, 고유한 Compile Job ID 를 제출. Purdue University 의 평가 서버가 AI Hub 를 통해 원격 추론을 수행하고 지연 시간 (Latency) 과 정확도를 측정.
제약 조건: 각 트랙마다 엄격한 지연 시간 임계값이 설정됨 (예: 트랙 1 은 10ms, 트랙 2 는 1 초, 트랙 3 은 34ms).
B. 평가 지표 (Evaluation Metrics)
각 트랙은 지연 시간 필터링을 통과한 모델에 대해 최종 점수를 산출합니다.
트랙 1 (분류): 최종 점수 = Accuracy/max(ExecutionTime/2,1). 지연 시간이 2ms 이상일 경우 가중치가 적용되어 정확도와 효율성의 균형을 유도.
트랙 2 (분할): 평균 교집합 비율 (mIoU) 을 사용. 1 초 이내의 추론 시간 조건 하에서 mIoU 가 높은 순서로 랭킹.
트랙 3 (깊이 추정): 3D 포인트 클라우드 변환을 기반으로 한 정밀도 (Precision), 재현율 (Recall), 그리고 이를 결합한 F-score를 주요 지표로 사용.
3. 주요 기여 및 우승 솔루션 분석 (Key Contributions & Winners' Solutions)
본 논문은 각 트랙의 우승 팀이 제시한 혁신적인 최적화 기법을 상세히 분석합니다.
트랙 1: 이미지 분류 (우승: LabLVM, Ajou University)
성과: 베이스라인 (MobileNetV2, 정확도 0.692) 대비 0.974의 높은 정확도 달성.
핵심 기법:
Layer Merging (레이어 병합): Vision-Language Model (MobileCLIP) 의 깊은 인코더를 얕게 만들기 위해 인접한 레이어들을 가중치 합산하여 병합.
Layer Imitation (레이어 모방): 병합된 레이어가 원래 레이어의 출력 특징 벡터를 모방하도록 MSE 손실 함수로 학습시킴. 전체 모델을 파인튜닝하지 않고도 성능 저하를 최소화하면서 모델 경량화를 달성.
Calibration Data: COCO 데이터셋을 사용하여 레이어 병합 범위를 결정하는 안정성 분석 수행.
트랙 2: 오픈 보카불러리 분할 (우승: SICer, Southeast University)
성과: 베이스라인 (X-Decoder, mIoU 0.461) 대비 0.532의 mIoU 달성.
핵심 기법:
데이터 증강: Visual Genome 및 AI 생성 텍스트 프롬프트를 활용하여 미시적 (Unseen) 클래스의 일반화 능력 향상.
아키텍처 최적화: 전통적인 Multi-head Attention 을 **Multi-scale Linear Attention (MLA)**으로 대체하여 연산량 (FLOPs) 감소 및 지연 시간 단축.
하이브리드 파인튜닝: COCO 데이터 전체 파인튜닝 후, LoRA 및 Visual Prompt Tuning (VPT) 을 적용하여 증강된 데이터셋에 맞춰 효율적으로 학습.
손실 함수: IoU 기반 손실과 글로벌 mIoU 손실을 결합하여 드문 클래스와 작은 객체의 분할 성능 향상.
트랙 3: 단안 깊이 추정 (우승: Sailor Moon, University of Minnesota)
성과: 베이스라인 (Depth-Anything-V2, F-score 62.37) 대비 83.14의 F-score 달성.
핵심 기법:
모델 그래프 최적화 (Model Graph Optimization): Qualcomm AI Hub 의 분석 도구를 활용하여 상수 연산 (Normalization, Class Embedding 등) 을 식별하고, 이를 단일 합성곱 레이어나 FC 레이어로 **대수적 융합 (Algebraic Fusion)**하여 불필요한 연산 제거.
입력 해상도 튜닝: 지연 시간 제약 (34ms) 내에서 F-score 를 최대화하는 최적의 입력 해상도 (434x322) 를 탐색.
4. 결과 (Results)
전체적 성과: 모든 트랙에서 우승 팀들은 베이스라인 대비 상당한 성능 향상을 보였습니다. 특히 트랙 1 의 경우 정확도가 28% 이상 향상되었고, 트랙 3 의 F-score 는 20 포인트 이상 증가했습니다.
효율성: 모든 우승 솔루션은 하드웨어 제약 조건 (지연 시간 임계값) 을 만족하면서도 높은 정확도를 달성하여, 에지 디바이스 배포 가능성을 입증했습니다.
추세: 참가자들은 기존 모델 (MobileNet, EfficientNet, CLIP, Depth-Anything-V2 등) 을 기반으로 가지치기 (Pruning), 양자화 (Quantization), 경량 파인튜닝, 해상도 조정 등을 통해 최적화하는 경향을 보였습니다.
5. 의의 및 향후 방향 (Significance & Future Directions)
실용적 가치: 본 챌린지는 이론적 성능뿐만 아니라 실제 하드웨어에서의 실행 가능성 (Deployment Feasibility) 을 검증함으로써, 에지 AI 기술의 성숙도를 높이는 데 기여했습니다.
도구와 생태계: Qualcomm AI Hub 와 같은 표준화된 평가 플랫폼의 중요성을 재확인시켰으며, 이는 재현 가능한 벤치마킹을 가능하게 합니다.
향후 제안:
다양한 베이스라인 제공: 단일 모델이 아닌 다양한 복잡도와 효율성을 가진 모델 군을 제공하여 혁신을 장려.
종합적 평가 지표 확장: 지연 시간 외에도 에너지 소비량, **메모리 사용량 (Peak Runtime Memory)**을 평가 지표에 포함.
하드웨어 중립성: 단일 플랫폼 최적화를 방지하기 위해 여러 에지 디바이스에서의 평가 도입.
창의성 장려: 기존 모델 최적화뿐만 아니라 새로운 아키텍처 설계에 대한 별도 부문 또는 상 신설.
결론적으로, 2025 LPCVC 는 제한된 자원 환경에서 고성능 컴퓨터 비전 시스템을 구축하기 위한 다양한 전략 (레이어 병합, MLA, 그래프 최적화 등) 을 제시했으며, 에지 AI 의 미래 발전 방향에 대한 중요한 통찰을 제공했습니다.