Searching on a Budget: HW-NAS with 10 Latency Probes

기술 요약: 예산 내에서 검색하기: 10 개의 지연 시간 프로브를 활용한 HW-NAS

문제 제기
하드웨어 인식 신경 아키텍처 검색 (HW-NAS) 은 리소스가 제한된 장치를 위해 작업 성능 (예: 정확도) 과 하드웨어 제약 조건 (예: 지연 시간) 을 균형 있게 맞추는 딥 신경망 (DNN) 의 설계를 자동화하는 것을 목표로 합니다. 기존 접근 방식은 다음과 같은 중요한 트레이드오프에 직면해 있습니다:

1. 실제 측정: 타겟 장치에서 후보 네트워크를 직접 컴파일하고 벤치마크하는 것은 정확한 지연 시간 데이터를 제공하지만, 특히 타겟 장치가 변경될 경우 계산 비용이 많이 들고 시간이 많이 소요됩니다.
2. 근사치: 분석적 룩업 테이블 (LUT) 이나 학습된 지연 시간 예측기는 검색 비용을 줄이지만 추정 오차를 도입합니다. 로봇공학과 같은 위험 민감형 애플리케이션에서는 이러한 오차가 지연 시간 한계를 위반하게 만들어 설계를 신뢰할 수 없게 만들 수 있습니다.

또한, 대부분의 HW-NAS 방법은 단일 타겟 장치에 맞춰져 있어 배포 하드웨어가 변경될 때마다 완전한 재검색이 필요합니다. 예측 모델의 부정확성을 피하면서 고비용의 실제 지연 시간 프로브 수를 최소화하는 다중 장치 HW-NAS 전략이 필요합니다.

방법론
저자들은 복잡성을 배포 단계에서 사전 훈련 단계로 이동시켜 최소한의 상호작용으로 보이지 않는 하드웨어에 적응할 수 있는 2 단계 프레임워크를 제안합니다.

1. 합성 장치에 대한 메타 훈련 (1 단계):

   • 목표: 특정 타겟 장치에 접근하지 않고도 다양한 하드웨어 프로필에 걸쳐 일반화할 수 있도록 강화 학습 (RL) 컨트롤러를 훈련합니다.
   • 도메인 무작위화: 단일 장치에서 훈련하는 대신, 컨트롤러는 HW-NAS-Bench 의 18 개 다른 장치에서 얻은 데이터를 기반으로 각 연산에 대해 가우시안 지연 시간 모델을 샘플링하여 생성된 "합성" 장치들의 분포에 노출됩니다.
   • 훈련 없는 프록시: RL 동안 전체 네트워크를 훈련하는 막대한 비용을 피하기 위해, 컨트롤러는 훈련 없는 정확도 프록시 (특히 NASWOT, LogSynflow, SkipScore 를 결합한 $p_{FreeREA}$) 를 사용하여 지도 학습됩니다.
   • 보상 함수: 에이전트는 훈련 없는 정확도 프록시와 정규화된 지연 시간 항을 결합한 보상을 최대화하여, 다양한 지연 시간 지형에서 성능과 효율성 사이의 트레이드오프를 학습합니다.

2. 직접 프로브를 통한 제로 샷 배포 (2 단계):

   • 적응: 사전 훈련된 컨트롤러는 고정되어 새로운, 보이지 않는 타겟 장치에 배포됩니다.
   • 직접 측정: 컨트롤러는 매우 적은 수의 후보 아키텍처 (예: 10 개의 프로브) 를 쿼리하여 타겟 장치와 상호작용합니다. 각 쿼리에 대해 네트워크를 컴파일하고 실제 컴파일 후 지연 시간을 측정합니다.
   • 상태 히스토리: 측정된 지연 시간은 정규화되어 상태 히스토리에 추가됩니다. 컨트롤러는 이 피드백을 사용하여 다음 행동 (아키텍처 수정) 을 조건 짓고, 예측이 아닌 직접 관찰을 통해 타겟 장치의 특정 지연 시간 프로필을 학습합니다.
   • 선택: 최종 아키텍처는 측정된 후보들 중 가장 좋은 관찰된 트레이드오프를 기준으로 선택되며, 추가 훈련이나 예측 적합이 필요하지 않습니다.

주요 기여

• 무작위화된 RL 훈련: 합성 지연 시간 프로필의 분포에서 훈련함으로써 테스트 시 다양한 장치와 직접 상호작용할 수 있는 컨트롤러를 생성하는 절차.
• 예측기 제거: 이 방법은 분석적 근사치와 학습된 지연 시간 예측기를 완전히 배제합니다. 대신, 합성 훈련 단계에서 전달된 사전 지식으로 인해 가능해진 최소 10 개의 후보 네트워크에 대한 직접 장치 내 측정에 의존합니다.
• 훈련 없는 평가: RL 기반 NAS 를 위한 훈련 없는 지표의 통합으로, 전체 네트워크 훈련 비용 없이 빠른 후보 점수 매기가 가능해집니다.

실험 결과
이 방법은 CIFAR-10 에 대한 NATS-Bench 검색 공간에서 평가되었으며, 18 개 장치의 데이터를 사용했고 실제 iPhone 13 mini 에서 검증되었습니다.

• 예측기 대비 성능: 10 개의 타겟 장치 측정이라는 엄격한 예산 하에서, 제안된 방법은 중앙값 지연 시간 백분위수 1.65를 달성하여 무작위 검색 (30.16) 과 HELP 스타일 지연 시간 예측기 기준 (4.51) 을 크게 능가했습니다.
• 실제 검증: iPhone 13 mini 에서 정규화와 검색 사이에 나뉜 총 20 회의 측정 예산으로, 제안된 컨트롤러는 중앙값 지연 시간 0.2261ms를 달성하여 HELP-EA 기준의 0.2477ms보다 우수했습니다. 이는 측정된 중앙값 지연 시간의 8.7% 감소를 의미합니다.
• 예측기 실패 분석: 이 연구는 HELP 와 같은 예측기 기반 방법들이 실제로 예측된 것보다 느린 아키텍처를 선택하는 경우가 많았음을 (9/10 시드에서 측정된 지연 시간이 예측보다 느림) 강조했으며, 제안된 방법은 직접 측정에 의존함으로써 선택된 아키텍처의 지연 시간이 알려져 검증되었음을 보장했습니다.
• 이식성: 컨트롤러는 한 장치를 제외하고 다른 장치를 사용하는 leave-one-device-out 프로토콜을 사용하여 edgegpu, fpga, pixel3, raspi4 와 같은 홀드아웃 장치에 성공적으로 적응하여 재훈련 없이 효과적인 전이를 입증했습니다.

의의 및 주장
이 논문은 타겟 하드웨어에 대한 접근이 희소하지만 측정이 신뢰할 수 있어야 하는 (위험 회피형 배포) 시나리오에서는 예측된 많은 수의 측정되지 않은 아키텍처보다 신중하게 선택된 몇 개의 아키텍처를 직접 측정하는 것이 바람직하다고 주장합니다.

• 신뢰성: 지연 시간 예측기를 피함으로써, 추정 오차가 지연 시간 보장을 무효화할 위험을 제거합니다.
• 효율성: 이 접근법은 근사치를 통해 프로브당 비용 ($c$) 을 줄이는 대신, 지상 진실 프로브 수 ($|N|$) 를 제한하여 총 배포 비용 ($C$) 을 줄입니다.
• 실용성: 결과는 사전 훈련된 RL 컨트롤러가 소수의 직접 프로브를 통해 새로운 장치의 지연 시간 특성을 효과적으로 "학습"할 수 있음을 시사하며, 저예산이고 고위험인 HW-NAS 시나리오에서 근사치에 대한 직접 측정을 실행 가능하고 우월한 대안으로 만듭니다.

한계점
저자들은 현재 연구가 NATS-Bench 토폴로지 검색 공간으로 제한되어 있으며, 최적의 전이를 보장하기 위해 합성 장치 분포 ($\Xi$) 의 설계에 대한 추가 탐구가 필요하다고 인정합니다. 또한, 현재 초점은 주로 지연 시간에 맞춰져 있으며, 향후 작업은 메모리 및 에너지를 포함한 다목적 제약 조건으로 프레임워크를 확장해야 합니다.