🤖 machine learning

Generative Models on Analog Hardware with Dynamics

이 논문은 시변 파라미터와 은닉 상태를 채택함으로써 고정된 물리 결정론적 아날로그 하드웨어와 유연한 생성 모델링 사이의 간극을 메우는 통합 프레임워크인 아날로그 상호작용 시스템(AIS)을 소개하며, 이를 통해 기존의 하드웨어 기반 방식 대비 MNIST 데이터셋에서 2자릿수 규모의 에너지 절감과 현저히 향상된 FID 점수를 달성하였다.

원저자: Yu-Neng Wang, Sara Achour

게시일 2026-06-26

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yu-Neng Wang, Sara Achour

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇에게 그림 그리는 법을 가르치려 한다고 상상해 보세요.

과거의 방식 (디지털 컴퓨터):
현재 우리는 이를 위해 강력한 디지털 컴퓨터(당신의 게이밍 PC나 데이터 센터에 있는 GPU 같은 것들)를 사용합니다. 이 컴퓨터들은 매우 빠르고 정밀한 회계사와 같습니다. 그림을 그리기 위해, 이들은 작업을 수백만 개의 아주 작고 불연속적인 수학적 단계로 나눕니다. 계산하고, 멈추고, 다시 계산하고, 또 멈춥니다. 이 과정은 믿을 수 없을 정도로 정확하지만, 마치 고성능 에어컨을 켜놓고 스케치를 하는 것처럼 엄청난 양의 전기를 사용합니다.

새로운 아이디어 (아날로그 하드웨어):
이 논문의 저자들은 대신 "아날로그 하드웨어"를 사용하는 방안을 제안합니다. 이것을 회계사가 아니라, 그네와 스프링이 서로 연결된 거대한 놀이터라고 생각해 보세요.

이 놀이터에서 "계산"은 자연스럽게 일어납니다. 만약 당신이 그네 하나를 밀면, 줄과 체인의 물리 법칙이 자동으로 옆에 있는 그네들을 끌어당깁니다.
이 시스템은 단계를 세지 않습니다. 그저 흐를 뿐입니다. 이들은 물리 법칙(중력이나 자기력 같은)이 직접 일을 하게 함으로써 문제를 해결합니다. 이는 연료를 태우는 대신 바람을 이용해 돛단배를 움직이는 것처럼 믿을 수 없을 정도로 에너지 효율적입니다.

큰 문제:
여기에는 불일치가 존재합니다. 현대의 AI 모델은 어떤 형태나 패턴도 배울 수 있는 유연한 소프트웨어와 같습니다. 하지만 우리의 아날로그 놀이터는 경직되어 있습니다. 그네들은 물리 법칙에 의해 특정 방식으로 연결되어 있으며, 오직 특정한 패턴으로만 움직일 수 있습니다. 이는 마치 그네 세트를 설계할 때 오직 앞뒤로 흔들리도록 만들었는데, 그 그네에게 완벽한 원을 그리라고 가르치려는 것과 같습니다. 즉, "놀이터"가 스스로 복잡한 이미지를 학습할 만큼 자연적으로 충분히 유연하지 않습니다.

해결책: "아날로그 상호작용 시스템" (AIS)
저자들은 이 간극을 메우기 위해 **아날로그 상호작용 시스템(Analog Interaction Systems, AIS)**이라는 새로운 프레임워크를 만들었습니다. 그들은 아날로그 하드웨어를 디지털 컴퓨터처럼 작동하도록 강요하는 대신, 물리 법칙을 깨뜨리지 않으면서도 놀이터를 더 표현력이 풍부하게 만들 수 있는 영리한 방법들을 찾아냈습니다.

그들은 경직된 그네가 복잡한 그림을 그릴 수 있도록 세 가지 주요 "기술"을 도입했습니다:

시간 단위 제어 (The "Conductor" - 지휘자):
그네 사이의 연결이 영원히 고정되어 있는 것이 아니라, 몇 초마다 규칙을 바꾸는 지휘자가 있다고 상상해 보세요. 첫 1초 동안 그네들은 팽팽하게 연결되어 있고, 다음 1초 동안은 느슨하게 연결됩니다. 이처럼 시간에 따라 "게임의 규칙"을 바꿈으로써, 시스템은 규칙이 일정할 때보다 훨씬 더 복잡한 움직임을 만들어낼 수 있습니다.
숨겨진 그네 (The "Ghost Dancers" - 유령 무용수):
저자들은 최종 그림에는 보이지 않지만 눈에 보이는 그네들과 연결된 "숨겨진" 그네들을 추가했습니다. 이 숨겨진 그네들은 비밀 지원팀 역할을 합니다. 이들은 눈에 보이지 않는 곳에서 춤을 추며, 눈에 보이는 그네들이 그림을 형성하기 위한 올바른 경로를 찾도록 도와줍니다. 이는 더 많은 가시적인 부품을 필요로 하지 않으면서도 시스템에 훨씬 더 많은 "두뇌 능력"을 부여합니다.
경로를 놓아주기 (The "Destination-Only" Goal - 목적지만을 향한 목표):
보통 AI를 훈련할 때, 우리는 매 단계마다 어떻게 움직여야 하는지 정확하게 알려줍니다(마치 GPS가 턴 바이 턴 방향을 알려주는 것처럼). 하지만 아날로그 하드웨어는 경직되어 있기 때문에 특정 경로를 따르도록 강요하는 것은 불가능합니다.
대신, 저자들은 GAN (Generative Adversarial Network, 생성적 적대 신경망) 접근 방식을 사용했습니다. 그들은 시스템에 이렇게 말했습니다: "어떻게 가든 상관없으니, 최종 목적지에만 제대로 도착해라."

생성자 (The Generator): 아날로그 놀이터는 무작위 노이즈를 이미지로 변환하려고 시도합니다.
판별자 (The Critic): 디지털 컴퓨터가 최종 이미지를 보고 "이것은 고양이 같다" 혹은 "이것은 쓰레기 같다"라고 말합니다.
놀이터는 시행착오를 통해 학습하며, 직선 경로를 따르도록 강요받는 대신 노이즈로부터 이미지로 가는 자신만의 독특하고 구불구불한 경로를 찾아냅니다.

결과:
연구팀은 이를 간단한 이미지 데이터셋(손글씨 숫자나 패션 아이템 등)에 테스트했습니다.

성능: 그들의 아날로그 시스템은 이전의 아날로그 이미지 생성 시도들보다 3~4배 더 나은 이미지를 만들어냈습니다.
효율성: 이것이 핵심적인 승리입니다. 그들은 이 시스템이 이미지 하나를 생성하는 데 약 **23 마이크로줄(microjoules)**의 에너지를 사용한다고 추정했습니다.
- 이를 비교해 보자면, 표준 디지털 컴퓨터는 동일한 작업에 **7~79 밀리줄(millijoules)**을 사용할 수 있습니다.
- 즉, 아날로그 시스템은 디지털 베이스라인보다 100배 더 에너지 효율적(2 자릿수 차이)입니다.

요약하자면:
이 논문은 우리가 단순히 디지털 칩이 아니라 물리적 하드웨어(오실레이터나 스프링 같은 것들)에서 실행되는 새로운 종류의 AI를 구축할 수 있음을 보여줍니다. 하드웨어의 한계를 받아들이고, 시간을 통한 규칙 변화, 숨겨진 조력자 추가, 그리고 결과에만 집중하는 영리한 훈련 방법을 사용함으로써, 그들은 오늘날의 컴퓨터보다 훨씬 적은 에너지로 이미지를 그려내는 시스템을 만들어냈습니다. 이는 자연의 물리 법칙이 복잡한 AI 작업을 효율적으로 수행하기 위해 활용될 수 있다는 증거입니다.

기술 요약: 역학을 갖춘 아날로그 하드웨어 기반의 생성 모델

문제 정의
디퓨전(diffusion) 및 플로우 매칭(flow matching)에 기반한 현대적 생성 모델은 신경망을 통해 구현되는 유연한 소프트웨어 정의 역학(software-defined dynamics)에 의존한다. 이러한 모델은 디지털 하드웨어 상에서 반복적인 수치 적분을 수행하기 때문에 상당한 에너지 비용을 발생시킨다. 반면, 아날로그 하드웨어 플랫폼(예: 결합된 진동자, 아날로그 이싱 머신)은 물리 법칙을 활용하여 미분 방정식을 매우 효율적으로 해결한다. 그러나 근본적인 불일치가 존재한다: 아날로그 하드웨어는 고정된 물리적 결정론에 따른 미분 방정식과 제한된 근사 능력을 강제하는 반면, 현대적 생성 모델은 유연한 벡터장을 필요로 한다. 본 논문은 아날로그 하드웨어에 적합한 생성 모델 아키텍처를 설계하면서도, 고정된 역학, 비표준 상호작용 커널, 그리고 노이즈 및 제한된 정밀도와 같은 하드웨어 제약을 극복하는 과제를 다룬다.

방법론
저자들은 하드웨어 구현이 가능한 역학계에 대한 통합 프레임워크인 **아날로그 상호작용 시스템(Analog Interaction Systems, AIS)**을 소개한다. 핵심 접근 방식은 세 가지 주요 방법론적 기둥으로 구성된다:

아키텍처 및 역학:
- AIS 모델은 물리적 상호작용(예: 진동자의 사인파 결합, 이싱 머신의 다항식 또는 시그모이드 비선형성)에 의해 상태 진화가 제어되는 상미분 방정식(ODE)으로 정의된다.
- 고정된 물리 법칙과 유연한 신경망 사이의 표현력 격차를 메우기 위해, 저자들은 두 가지 하드웨어 호환 메커니즘을 제안한다:
  - 시간 구간별 파라미터(Time-piecewise parameters): 적분 구간을 독립적인 파라미터 세트를 가진 세그먼트로 나누어 벡터장의 복잡성을 높인다.
  - 숨겨진 물리적 상태(Hidden physical states): 가시적인 노드와 상호작용하는 숨겨진 물리적 요소들로 가시적 상태 공간을 확장하여, 직접 관찰되지 않는 숨겨진 궤적을 통해 효과적인 파라미터 공간을 넓힌다.
- 하드웨어 아키텍처는 라우팅 오버헤드를 최소 최소화하기 위해 국소적이고 제한된 장거리 연결을 가진 물리적 요소(PE)의 희소 그리드(sparse grid)로 설계된다. 파라미터는 DAC 면적과 전력을 줄이기 위해 낮은 비트 너비로 양자화된다.
학습 패러다임:
- 저자들은 특정 경로를 모든 타임 스텝에서 따르도록 강제하는 정밀한 궤적 감독(예: 최적 운송 조건부 플로우 매칭)이 구조적 제약으로 인해 AIS에는 부적합하다고 주장한다.
- 대신, 저자들은 와서스테인 생성적 적대 신경망(WGAN) 학습 절차를 채택한다. 이 방법은 중간 궤적이 아닌 종단 가시적 상태( $v(T)$ )만을 처벌하는 종단 감독(endpoint supervision)을 사용하여, 물리적 시스템이 노이즈로부터 데이터로 가는 자체 경로를 스스로 발견하고, 정답 궤적이 없는 숨겨진 상태에 대해 최적화를 수행하도록 한다.
하드웨어 구현 전략:
- 제안된 아키텍처는 세 가지 전략을 통해 시간 가변 가중치를 지원한다: "저장 및 재프로그래밍(Save-and-reprogram)"(중간 상태의 디지털화), "가중치 정체형(Weight stationary)"(여러 코어에 걸친 공간적 언롤링), "상태 정체형(State stationary)"(단일 코어 내의 동적 가중치 업데이트).
- 전력 추정치는 기존 28nm 결합 진동자 이싱 머신 실리콘 측정값으로부터 노드 수, 결합 밀도, 가중치 정밀도에 따라 스케일링하여 외삽되었다.

주요 기여

통합 프레임워크: 디지털로 에뮬레이션된 신경 ODE와 구별되는, 장치의 물리학으로부터 계산이 발생하는 역학계 클래스로서의 아날로그 상호작용 시스템(AIS) 정의.
표현력 메커니즘: 물리적으로 제약된 시스템과 신경망 베이스라인 사이의 표현력 격차를 좁히는 효과적인 방법으로서 시간 구간별 파라미터와 숨겨진 물리적 상태의 경험적 식별 및 검증.
학습 혁신: 고정된 상호작용 커널을 가진 시스템의 최적화를 가능하게 하기 위해, 궤적 형태와 목표 품질을 분리하는 WGAN 기반의 학습 절차 개발.
하드웨어 인지 설계: 실제적인 에너지 효율을 위해 희소 연결성과 양자화가 필수적임을 보여주는 스케일링 법칙을 포함한 희소하고 낮은 비트 너비의 아키텍처 제안.

결과

표현력 연구: 저차원 합성 분포 작업(예: 가우시안 분포를 다중 모드 혼합 분포로 변환)에서, SWD(Sliced Wasserstein Distance) 종단 감독, 시간 구간별 가중치, 숨겨진 상태의 결합은 고정 파라미터 또는 궤적 감독 베이스라인에 비해 와서스테인 거리( $W_2^2$ )를 유의미하게 감소시켰다. KuraSHIL(주입 잠금 기능이 있는 Kuramoto)이 가장 강력한 성능을 보였다.
생성 품질: MNIST 및 Fashion-MNIST 데이터셋에 대해, 진동자 기반 AIS는 각각 27.6 및 80.8의 FID 점수를 달성했다. 이는 기존의 하드웨어 구현 가능 아날로그 생성 모델(DTM 및 NLM)보다 3~4배 더 우수한 성능이다.
강건성: 모델은 4비트 양자화 가중치(FID 27.2/81.9)에서도 높은 성능을 유지했으며, 과도한 노이즈 수준( $\delta=0.025$ )에 대해서도 탄력성을 입증했다.
에너지 효율: 저자들은 100MHz에서 작동하는 56×56 AIS 코어 기준, 이미지 한 장당 23 $\mu$ J의 에너지 비용을 추정했다. 이는 디지털 베이스라인(이미지당 7~79 mJ로 추정) 대비 두 자릿수 이상의 개선을 나타낸다. 스케일링 분석은 전결합(all-to-all) 연결성이나 더 높은 비트 너비로 이동하는 것이 에너지 소비를 급격히 증가시킨다는 것을 보여주며, 희소하고 저정밀한 설계의 필요성을 입증한다.

의의
본 논문은 아날로그 하드웨어에 의한 제약(특히 고정된 역학 및 물리적 제약)을 극복하여 표현력이 풍부하고 에너지 효율적인 생성 모델을 얻을 수 있다고 주장한다. 궤적 매칭에서 WGAN을 통한 종단 분포 매칭으로 학습 목표를 전환하고, 숨겨진 상태와 시간 가변 파라미터를 활용함으로써, 저자들은 아날로그 하드웨어가 미분 방정식 기반의 생성 모델링을 네이티브하게 구현할 수 있음을 입증했다. 이 연구는 적절한 아키텍처 및 학습 적응을 통해 아날로그 시스템이 디지털 알고리즘을 에뮬레이션하는 대신 기질(substrate)의 고유한 물리학을 활용하여 경쟁력 있는 생성 품질과 상당한 에너지 절감을 동시에 달달성할 수 있는 경로를 제시한다. 결과는 아날고 시스템이 적절한 설계를 통해 디지털 GPU 기반 대안에 비해 실질적인 에너지 절감을 제공하면서도 경쟁력 있는 생성 품질을 달성할 수 있음을 시사한다.

유사한 논문