🤖 machine learning

What changes after deployment? A survey on On-device Learning in TinyML

이 논문은 TinyML을 위한 온디바이스 학습(ODL)에 관한 약 70개의 연구를 조사하여, 이를 분포 변화 체제(distribution change regimes)별로 분류함으로써 서로 다른 변화 유형이 적용 가능한 시나리오, 하드웨어 선택 및 솔루션 구조에 어떻게 영향을 미치는지 분석하는 한편, 방법론적 벤치마크와 실제 배포 사이의 지속적인 격차를 강조한다.

원저자: Massimo Pavan, Luca Pezzarossa, Fabrizio Pittorino, Manuel Roveri, Xenofon Fafoutis

게시일 2026-06-01

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Massimo Pavan, Luca Pezzarossa, Fabrizio Pittorino, Manuel Roveri, Xenofon Fafoutis

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 스마트워치나 공장 센서와 같은 작은 기기 안에 살고 있는, 아주 작고 똑똑한 로봇 비서 한 마리를 가지고 있다고 상상해 보세요. 이 로봇은 당신의 목소리, 특정 소리, 또는 특정한 움직임 같은 것들을 인식하도록 큰, 멋진 학교(강력한 컴퓨터)에서 훈련을 받았습니다. 훈련이 끝나면, 이 로봇은 새로운 집(작은 기기)으로 배송되어 자신의 일을 수행하게 됩니다.

문제점: "새로운 동네"에서의 충격
이 논문은 이 설정에 큰 문제가 있다고 주장합니다. 로봇이 배웠던 학교는 완벽하고 깨끗했습니다. 하지만 현실 세계는 무질서합니다. 환경은 변하기 마련입니다. 배경 소음이 더 커질 수도 있고, 당신의 목소리가 피곤할 때 다르게 들릴 수도 있으며, 기계가 새로운 방식으로 진동을 시작할 수도 있습니다.

옛날 방식대로라면, 로봇은 설령 그것이 틀렸더라도 배운 대로만 계속 수행했을 것입니다. 이것은 마치 정답지를 외운 학생이 선생님이 약간 다른 질문을 던졌을 때 혼란스러워하는 것과 같습니다. 논문에서는 이를 **"분포 변화(distribution change)"**라고 부릅니다. 기본적으로, 로бо트가 배치된 후 보게 되는 데이터가 학교에서 보았던 데이터와 다르다는 뜻입니다.

해결책: 현장에서 배우는 로봇
이를 해결하기 위해, 저자들은 이 작은 로봇들이 현장에서 배우는 법을 배우는 약 70개의 서로 다른 프로젝트를 조사했습니다. 이것을 "온디바이스 학습(On-Device Learning)"이라고 합니다. 정지해 있는 것이 아니라, 로봇은 실시간으로 자신의 새로운 동네에 적응합니다.

하지만 논문은 모든 "새로운 동네"가 같지는 않다는 점을 지적합니다. 저자들은 이러한 변화를 세 가지 뚜렷한 시나리오, 즉 세 가지 다른 종류의 이동 경험으로 분류했습니다.

"단 한 번의 이사" (단일 변화 체제 - Single-Change Regime):
가구 배치는 달라졌지만, 그 상태로 영원히 유지되는 새 집으로 이사하는 상황을 상상해 보세요. 로봇은 이 새로운 구조를 단 한 번, 빠르게 배워야 하며, 그 후에는 끝입니다. 계속해서 배울 필요는 없습니다.

예시: 스마트 스피커에게 당신의 특정 목소리나 방금 말한 새로운 키워드를 가르치는 것.

"끊임없는 날씨 변화" (개념 드리프트 체제 - Concept Drift Regime):
몇 분마다 도로 상황이 변하는(비, 햇빛, 안개, 얼음 등) 도로를 운전하는 자동차를 상상해 보세요. 로봇은 끊임없이 운전 스타일을 조정해야 하며, 기존의 규칙(예: "마른 도로에서는 빠르게 운전한다")을 잊고 즉시 새로운 규칙을 배워야 합니다. 이것은 끊임없는 적응의 순환입니다.

예시: 열이나 노후화로 인해 서서히 변하는 공장 내 압력 센서와 그에 따른 지속적인 재교정.

"계속 확장되는 도서관" (연속 학습 체제 - Continual Learning Regime):
매주 새로운 책이 들어오지만 선반은 아주 작은 사서가 있다고 상상해 보세요. 당신은 이미 알고 있는 기존의 책들을 버리지 않으면서 새로운 책들에 대해 배워야 합니다. 만약 새 책을 위한 공간을 만들기 위해 기존의 책들을 잊어버린다면, 그것을 "파괴적 망각(catastrophic forgetting)"이라고 합니다. 로봇은 기존의 지식을 잃지 않으면서 새로운 지식을 계속 추가해야 합니다.

예시: 사용자의 새로운 명령을 시간이 지남에 따라 학습하면서도 기존 명령을 기억하는 뇌-컴퓨터 인터페이스.

하드웨어의 현실 점검
논문은 또한 이 로봇들이 살고 있는 "두뇌"(하드웨어)를 살펴봅니다. 이것들은 강력한 노트북이 아닙니다. 메모리와 배터리가 매우 제한적인 작은 마이크로칩들입니다.

초소형 칩 (극도로 제한된 환경 - Ultra-Constrained): 이것들은 주머니 속의 계산기와 같습니다. 이들은 "단 한 번의 이사" 시나리오만 처리할 수 있습니다. 지속적으로 학습하기에는 너무 약합니다.
표준 칩 (표준 MCU - Standard MCUs): 이것들은 기본적인 스마트폰과 같습니다. 세 가지 시나리오를 모두 처리할 수 있지만, 모든 것을 기억하려고 노력하다 보면 "계속 확장되는 도서관" 상황에서 어려움을 겪습니다.
슈퍼 칩 (PULP 플랫폼 - Super Chips): 이것들은 미니 슈퍼컴퓨터와 같습니다. "계속 확장되는 도서관" 시나리오를 효과적으로 처리할 수 있는 유일한 칩이지만, 비싸고 프로그래밍하기 어렵습니다.

거대한 괴리
저자들은 연구 세계에서 이상한 격차를 발견했습니다.

**"실험실 과학자들"**은 주로 실제 작은 기기에는 너무 무거운 (고양이와 강아지 사진 같은) 완벽하고 복잡한 이미지 데이터셋을 테스트합니다. 이들은 진공 상태에서 완벽한 학습 알고리즘을 만드는 데 집중합니다.
**"현장 구축자들"**은 센서 수정이나 제스처 인식 같은 실제 문제를 다루고 있지만, 자신의 성과를 비교할 표준화된 테스트가 없는 경우가 많습니다.

이 때문에 "실험실 과학자들"은 "현장 구축자들의" 자동차에 맞지 않는 화려한 엔진을 만들고 있습니다. 논문은 우리가 로봇의 한 부분만이 아니라 전체 시스템(두뇌, 메모리, 학습 방법)을 고려하여 이들을 함께 테스트할 수 있는 더 나은 방법을 마련해야 한다고 제안합니다.

요약
이 논문은 "학습하는 로봇"의 현재 지형을 보여주는 지도입니다. 이 로봇들을 현실 세계에서 유용하게 만들기 위해서는, 이들을 정지된 기계로 취급하는 것을 멈춰야 한다고 말합니다. 우리는 이들이 세 가지 특정 유형의 변화(단일, 지속, 혹은 성장)를 처리할 수 있도록 설계해야 하며, 적절한 크기의 "두뇌"(하드웨어)와 일치시켜야 하고, 고립된 상태에서 테스트하는 것을 멈춰야 합니다. 우리는 엔지니어들이 전체 로봇을 조각조각 따로 만드는 것이 아니라, 한꺼번에 설계할 수 있도록 돕는 더 나은 도구를 구축해야 합니다.

기술 요약: 배포 후에는 무엇이 변하는가? TinyML에서의 온디바이스 학습(On-device Learning)에 관한 조사

1. 문제 정의

마이크로컨트롤러급 장치(TinyML)에 배포된 머신러닝 모델은 근본적인 과제인 **배포 후 분포 변화(post-deployment distribution change)**에 직면한다. 오프라인에서 정제된 데이터셋을 통해 학습된 모델은 배포 후 데이터 분포가 변하는 실제 환경에 노출될 때 성능이 저하되는 경우가 많다. **온디바이스 학습(On-Device Learning, ODL)**은 장치에서 직접 학습 과정을 실행함으로써 이 문제를 해결하지만, 기존 문헌에는 분포 변화가 어떻게 발생하는지에 대한 통일된 특성화가 부족하다. 이전의 조사들은 서로 근본적으로 다른 제약 조건과 가정을 바탕으로 작동하는 솔루션들을 명확히 구분하지 못하여 해결책들을 혼재시켜 왔다. 또한, 방법론적 벤치마크(주로 이미지 중심)와 실제 배포 시나리오(주로 센서 중심) 사이의 지속적인 간극은 알고리즘의 발전을 실질적인 응용 분야로 전이하는 데 걸림돌이 되고 있다.

2. 방법론

본 논문은 TinyML 영역의 약 70개 ODL 연구에 대한 포괄적인 조사를 제시한다. 본 조사는 **분포 변화 레짐(distribution change regime)**이라는 주요 조직 원칙을 중심으로 구조화되어 있다. 저자들은 배포 시점 $T$ 이후의 데이터 생성 과정( $P$ )의 성격에 따라 문헌을 세 가지 뚜의 구별되는 레짐으로 분류한다:

단일 변화 레짐 (Single-Change Regime): 분포가 배포 시점에 정확히 한 번 변화하며( $p_{T-1} \neq p_T$ ), 그 이후에는 안정적으로 유지된다. 과제는 장치의 남은 수명 동안 새로운 조건에 신속하고 효율적으로 적응하는 것이다.
컨셉 드리프트 레짐 (Concept Drift Regime): 분포가 여러 번 불규칙하고 연속적으로 변화한다( $p_{t-1} \neq p_t$ ). 초점은 새로운 조건에 빠르게 적응하면서 동시에 무의미해진 과거의 지식을 폐기하거나 가중치를 낮추는 데 있다.
지속 학습 레짐 (Continual Learning Regime): 새로운 개념이 시간이 지남에 따라 점진적으로 도입된다. 솔루션은 이전에 학습된 정보를 잊어버리지 않고(파괴적 망각(catastrophic forgetting) 문제 해결) 새로운 지식을 축적해야 한다. 형식적으로는 컨셉 드리프트와 분포 변화 측면에서 유사하지만, 과거 지식의 관련성과 평가 기준에 대한 가정이 크게 다르다.

각 레짐에 대해, 본 조사는 세 가지 상호 보완적인 관점을 통해 문헌을 분석한다:

응용 관점 (Application Lens): 다루는 실제 맥락과 작업 (예: 키워드 스포팅, 센서 교정, 뇌-기계 인터페이스).
하드웨어 관점 (Hardware Lens): 초저전력 프로세서(예: Cortex-M0, ISPU)부터 표준 MCU(Cortex-M4/M7), 그리고 병렬 초저전력(PULP) 플랫폼에 이르는 대상 장치.
솔루션 관점 (Solution Lens): 네 가지 구성 요소로 분해된 ODL 솔루션의 기술적 구성:
- $R(\cdot)$ : 차원 축소 (예: 고정된 CNN, 통계적 특징 추출기).
- $B$ : 데이터 관리 (버퍼링 전략, 승인/트리거 조건).
- $f_t(\cdot)$ : ML 알고리즘 (예: DNN, SVM, KNN).
- $L$ : 학습 메커니즘 (예: 역전파, 순방향 전용 업데이트, 프로토타입 생성).

또한 본 조사는 ODL 문제를 공식화하여 메모리( $M_D$ ), 클록 주파수( $F_D$ ), 전력, 실행 시간( $E$ )에 대한 제약을 정의하고, 각 레짐에 특화된 평가 프로토콜(예: 컨셉 드리프트를 위한 prequential 평가, 지속 학습을 위한 종단적 평가)을 수립한다.

3. 주요 기여

레짐 중심의 분류 체계 (Regime-Centric Taxonomy): ODL 문헌 전체를 분포 변화 레짐(단일 변화, 컨셉 드리프트, 지속 학습)을 중심으로 정리한 첫 번째 조사이다. 이는 과거 지식과 적응 목표에 대한 가정이 다르기 때문에 한 레짐을 위해 설계된 솔루션이 다른 레짐의 솔루션과 직접 비교될 수 없음을 주장한다.
포괄적인 범위: 본 조사는 약 70개의 연구를 다루며, 기존의 노력(약 10개의 연구를 조사함)을 크게 확장하고 2023년 이후 발표된 상당한 양의 연구를 포착한다.
다각적 분석: 응용, 하드웨어, 솔루션 관점을 동시에 분석함으로써, 하드웨어 능력과 레짐 복잡도 사이의 상관관계, 그리고 방법론 중심 연구와 응용 중심 연구 사이의 불일치와 같은 교차 패턴을 밝혀낸다.
구조적 간극 식별: 방법론적 기여(주로 표준 벤치마크에서의 역전파 최적화에 집중)와 응용 중심의 작업(레이블 효율성과 실제 제약 조건을 우선시함) 사이의 단절을 식별한다. 또한 방법론적 연구들이 레이블 데이터의 희소성이나 전체 파이프라인 제약(메모리, 지연 시간, 전력)을 동시에 다루는 경우가 드물다는 점을 강조한다.

4. 주요 결과 및 발견

응용 분야 결과

작업의 불일치: 방법론 중심의 연구들은 주로 이미지 분류 벤치마크(CIFAR, MNIST)를 사용하는데, 이는 실제 TinyML 환경에서는 계산 집약도가 너무 높을 수 있다. 반면, 응용 중심의 연구는 키워드 스포팅(KWS), 인간 활동 인식(HAR), 센서 교정과 같은 작업을 다루지만, 표준화된 벤치마크가 부족하다.
레이블 획득 전략: 성공적인 응용 중심 연구들은 레이블 획득을 일급 설계 요구사항으로 취급한다. 전략으로는 퓨샷 학습(few-shot learning), 자기 지도 학습(보조 센서 활용), 비지도 학습(이상 탐지용), 그리고 구조화된 자극을 통한 암묵적 레이블링 등이 포함된다.
레짐 분포: 응용 중심 연구는 단일 변화 레짐(예: KWS 개인화, 센서 교정)에 집중되어 있다. 컨셉 드리프트와 지속 학습 레짐은 방법론 중심 연구가 주도하고 있으며, 실제 응용 사례 보고는 매우 적다.

하드웨어 결과

하드웨어-레짐 상관관계: 하드웨어 능력과 레임 복잡도 사이에는 단조 관계가 존재한다.
- 초제약 프로세서 (Cortex-M0, ISPU)는 엄격한 메모리/연산 제한으로 인해 거의 독점적으로 단일 변화 레짐에서 나타난다.
- 표준 MCU (Cortex-M4/M7)는 세 가지 레짐 모두에 걸쳐 있으나, 리플레이 버퍼를 위한 메모리 제약으로 인해 지속 학습 분야에서는 과소 대표된다.
- PULP 플랫폼 (멀티 코어, 예: GAP9)은 지속 학습 알고리즘의 높은 메모리 및 연산 요구를 지원할 수 있는 유일한 클래스이므로 지속 학습 레짐을 주도한다.
보고의 공백: 하드웨어 보고 방식이 일관되지 않다. Peak RAM 및 에너지와 같은 지표가 인스턴스당, 배치당 또는 에포크당 기준으로 보고되어 표준화되지 않았으며, 이로 인해 연구 간 비교가 어렵다.

솔루션 결과

구성 요소 패턴:
- 차원 축소 ( $R$ ): 이미지/오디오 입력의 경우 사전 학습된 CNN이 지배적이며, 저차원 센서 데이터의 경우 항등 함수(identity function)나 통계적 추출기가 사용된다.
- 데이터 관리 ( $B$ ): 단일 변화 및 컨셉 드리프트 레짐에서는 완전 온라인 운영( $|\Delta|=1$ )이 지배적이다. 지속 학습에서는 파괴적 망각을 방지하기 위해 명시적인 버퍼링이 구조적으로 필수적이다.
- 학습 메커니즘 ( $L$ ): 지속 학습에서는 전체 역전파가 표준이다(리플레이 버퍼에 의해 지원됨). 단일 변화 및 컨셉 드리프트에서는 더 가벼운 대안(순방향 전용 업데이트, 프로토타입 기반 분류기, KNN)이 널리 사용된다.
최적화 격차: 방법론적 연구는 역전파(희소화, 양자화)를 집중적으로 최적화하지만, 이러한 최적화가 응용 중심의 배포에는 거의 채택되지 않는다. 이는 알고리즘 개선이 전체 파이프라인 제약(예: 레이블링 전략, 데이터 버퍼링 비용)에 대해 검증되지 않은 채 진행되고 있음을 시사한다.

5. 의의 및 주장

본 논문은 분포 변화 레짐이 ODL 솔루션의 타당성과 설계를 결정하는 핵심적이면서도 이전에 간과되었던 요소라고 주장한다. 단일 변화, 컨셉 드리프트, 지속 학습을 명확히 구분함으로써, 본 조사는 이전 문헌이 결여했던 의미 있는 비교를 위한 프레임워크를 제공한다.

저자들은 자신의 연구가 이 분야의 구조적 간극을 강조한다고 완곡하게 주장한다. 즉, 알고리즘 발전과 응용 개발이 상호 교류 없이 평행하게 진행되고 있다는 것이다. 저자들은 다음을 요구한다:

표준화된 평가 프레임워크: 공정한 비교를 위해 하드웨어 예산, 솔루션 구성 요소, 배포 제약(레이블 희소성 포함)을 고정하는 벤치마크.
엔드 투 엔드 설계 도구: 전체 ODL 파이프라인( $R, B, f, L$ )을 개별적인 최적화 대상이 아닌, 공동으로 최적화 가능한 객체로 취급하는 소프트웨어 프레임워크.
ODL을 위한 하드웨어: 클라우드 학습 아키텍처를 적응시키는 것에서 벗어나, ODL 제약(희소한 레이블, 온디바이스 검증 불가, 엄격한 전력 예산)에 특화된 하드웨어를 설계하는 방향으로의 전환.

본 조사는 ODL이 TinyML 응용 범위를 넓히고 있지만, 이를 실현하기 위해서는 방법론적 벤치마크와 실제 배포 시나리오(특히 레이블 효율성과 비정상 학습 레짐의 특정 요구사항) 사이의 불일치를 해결해야 한다고 결론짓는다.