🤖 AI

MADAR: An Address-Free Processor

MADAR는 전통적인 메모리 계층 구조와 피연산자 페칭을 순환하는 슬롯 링과 컴파일 타임 스케줄링으로 대체함으로써, AI 가속과 같은 예측 가능한 워크로드에 대한 에너지 및 면적 오버헤드를 크게 줄이는 새로운 주소 불필요(address-free) 프로세서 아키텍처를 도입한다.

원저자: Mohamed Amine Bergach

게시일 2026-06-16

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Mohamed Amine Bergach

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

현대적인 컴퓨터 프로세서를 분주하고 혼란스러운 공항이라고 상상해 보십시오.

표준 컴퓨터(휴대전화나 노트북에 들어있는 것과 같은)에서 "데이터"(승객)와 "명령어"(비행 계획)는 거대하고 정적인 터미널에 저장됩니다. 무언가를 수행하기 위해 컴퓨터는 다음의 과정을 거쳐야 합니다:

터미널에서 승객을 찾습니다 (주소 지정).
목록과 대조하여 신분증을 확인합니다 (태그).
어떤 게이트로 보낼지 결정합니다 (중재).
보안 검사를 거쳐 비행기까지 승객을 이동시킵니다 (바이패스 네트워크).

이 논문은 현대 컴퓨터 에너지와 공간의 90%가 이 "찾고 옮기는" 과정에 낭비된다고 주장합니다. 실제 수학 연산(비행 자체)은 비용도 저렴하고 공간도 아주 적게 차지합니다.

MADAR는 이 "공항 터미널"을 통째로 없애버린 새로운 설계입니다. 고정된 건물이 있는 대신, MADAR는 거대하게 움직이는 회전목마와 같습니다.

이것이 어떻게 작동하는지 쉬운 비유를 통해 설명하겠습니다:

1. 움직이는 회전목마 (순환 저장)

데이터를 고정된 위치에 저장하는 대신, MADAR는 모든 것을 한 바퀴 돌며 한 번의 클록 틱마다 한 단계씩 회전하는 거대한 고리에 담습니다.

주소 없음: "42번 좌석으로 가라"고 말하지 않습니다. 대신 "내 위치에서 3단계 앞의 좌석으로 가라"고 말합니다.
가져오기(Fetching) 없음: 데이터가 호출되기를 기다리지 않습니다. 데이터는 그저 계속 회전합니다. 데이터가 작업자를 지나갈 때, 작업자가 그것을 낚아챕니다.

2. 기차 칸 (공동 순환)

일반적인 컴퓨터에서는 "명령어"(무엇을 할 것인가)와 "데이터"(무엇을 대상으로 할 것인가)가 서로 다른 곳에 있습니다. MADAR에서 이들은 같은 기차 칸에 실려 있습니다.

기차를 상상해 보십시오. 각 칸은 승객과 티켓을 함께 운반합니다. 기차가 선로를 따라 회전함에 따라, 승객과 티켓은 역에 함께 도착합니다. 이 둘은 서로 구별되지 않으며, 그저 함께 이동할 뿐입니다.

3. 고정된 작업자 (충돌 실행)

컨베이어 벨트(링)가 지나가는 공장 바닥을 상상해 보십시오.

고정 스테이션: 작업자들(ALU, 곱셈기 등)이 특정 지점에 서 있습니다. 그들은 절대 움직이지 않습니다.
충돌(Collision): 명령어와 데이터를 포함한 기차 칸이 작업자를 지나갈 때, 작업자는 즉시 수학 연산을 수행합니다.
대기 없음: 작업자는 "준비되었다"는 신호를 기다리지 않습니다. 카트가 지나가는 순간 즉시 수학 연산을 수행합니다. 만약 카트가 없다면 작업자는 아무것도 하지 않습니다. 카트가 있다면, 수학 연산이 일어납니다. 이것을 "충돌 실행(collision execution)"이라고 부릅니다.

4. 속도 차선 (메모리 계층 구조)

이 부분이 가장 영리한 부분입니다. MADAR는 경주 트랙의 차선처럼 서로 다른 크기의 링을 가지고 있습니다.

안쪽 링 (빠름): 작고 빠른 링(예: 16단계 루프)입니다. 지금 당장 필요한 데이터를 위한 것입니다. 매우 빠르게 회전합니다.
바깥쪽 링 (느림): 크고 느린 링(예: 64,000단계 루프)입니다. 나중에 필요한 데이터를 위한 것입니다. 천천히 회전합니다.
전송: "캐시 미스"(컴퓨터가 당황하여 데이터를 찾아 헤매는 상황) 대신, 컴파일러(코드를 작성하는 사람)가 승객을 느린 바깥쪽 링에서 빠른 안쪽 링으로 언제 옮길지 정확히 계획합니다. 이는 마치 예정된 엘리베이터 탑승과 같습니다. 갑작스러운 일은 없으며, 기계가 시작되기도 전에 모든 것이 계획되어 있습니다.

이것이 왜 중요한가요?

논문은 "주소 지정 시스템"(공항 터미널)을 제거함으로써 MADAR가 엄청난 양의 에너지를 절약한다고 주장합니다.

비용: 유일한 비용은 회전목마를 계속 돌리는 데 드는 에너지입니다.
보상: 움직임이 예측 가능한 작업(AI 계산이나 비디오 처리 등)의 경우, 데이터를 "찾기 위해" 소비되는 에너지를 아끼는 것이 링을 돌리는 데 드는 에너지보다 훨씬 큽니다.

"스위트 스팟 (최적의 지점)"

논문은 구체적인 예로 AI 추론(AI Inference)(신경망 실행)을 사용합니다.

AI에서는 동일한 수학 연산(숫자를 곱하고 더하는 과정)을 반복해서 수행합니다.
일반적인 컴퓨터에서는 이 숫자들을 메모리에서 끊임없이 가져와야 하므로 느리고 에너지를 많이 소모합니다.
MADAR에서는 숫자를 링 위에 한 번 올려둡니다. 그러면 숫자들은 그저 회전합니다. 숫자들이 수학 작업자를 지나칠 때마다, 작업자는 계산을 수행합니다. 숫자를 처리해야 할 숫자가 아무리 많아지더라도, 데이터를 "찾기 위해" 멈출 필요가 없기 때문에 에너지 비용은 일정하게 유지됩니다.

MADAR가 아닌 것

논문은 한계점을 명확히 밝히고 있습니다:

모든 것에 적합하지는 않음: 만약 예측 불가능한 일을 하고 있다면(예: 웹사이트의 랜덤 링크를 따라가거나 플레이어가 무작위로 움직이는 비디오 게임을 하는 경우), MADAR는 어려움을 겪습니다. MADAR는 시작하기 전에 경로를 알고 있어야 합니다.
마법이 아님: 만약 링이 맡은 작업에 비해 너무 크다면, 빈 공간을 돌리는 데 드는 에너지 비용이 너무 높아져서 일반 컴퓨터에 밀리게 됩니다.

요약

MADAR는 "검색 및 가져오기" 모델을 "회전 및 충돌" 모델로 대체하는 프로세서입니다. 컴퓨터를 명령어와 데이터가 함께 타고 흐르며, 고정된 작업자 곁을 지날 때 자동으로 수학 연산이 일어나는 회전목마처럼 취급합니다. 이는 찾는 데 드는 복잡성을 회전의 단순함과 맞바꿈으로써, AI와 같이 예측 가능하고 반복적인 작업에서 엄청난 효율성을 만들어냅니다.

기술 요약: MADAR – 주소 없는 프로세서

문제 정의

현대적인 프로세서는 산술 연산보다는 **주소 지정(addressing)**에 대부분의 면적과 에너지를 할애합니다. 레지스터 파일과 캐시로부터 피연산자를 이동시키기 위해 필요한 메커니즘—태그 배열, 미스 큐(miss queues), 바이패스 네트워크, 멀티 포트 레지스터 파일을 포함하여—은 특정 워크로드에서 코어 에너지 오버헤드의 90% 이상을 차지하는 반면, 기능 유닛(functional units)이 소비하는 에너지는 6% 미만입니다. 이러한 오버헤드는 폰 노이만 아키텍처의 근본적인 긴장에서 비롯됩니다. 즉, 데이터패스는 피연산자를 스트리밍하지만, 메모리 시스템은 온디맨드 검색을 위해 값을 고정된 위치에 멈춰 세워야 합니다.

방법론 및 아키텍처

본 논문은 MADAR(아랍어로 '궤도'를 의미)라는 프로세서 아키텍처를 제안하며, 이는 주소라는 개념을 완전히 폐지합니다. 정적인 저장 공간 대신, MADAR는 **회전(rotation)**에 의존합니다. 이 아키텍처는 네 가지 결합된 속성으로 정의됩니다:

순환형 저장(Circulating Storage): 모든 상태는 한 클록 사이클마다 한 칸씩 전진하는 슬롯의 링( $R_0 \dots R_n$ )에 존재합니다. 값은 주소가 아니라 $(ring, phase)$ 좌표에 의해 식별됩니다. 물리적 구현은 작은 규모의 빠르고 빠른 링을 위한 리터럴 시프트 레지스터와, 큰 규모의 느린 링을 위해 회전하는 포인터로 스윕(sweep)되는 싱글 포트 SRAM 뱅크를 사용합니다.
공동 순환(Co-circulation): 명령과 데이터는 동일한 슬롯을 점유하며 함께 순환합니다. 이들은 패킷 헤더의 "종류(kind)" 필드에 의해서만 구별됩니다.
충돌 실행(Collision Execution): 컴퓨트 스테이션(ALU, 곱셈기 등)은 링의 특정 위치에 고정되어 있습니다. 명령은 자신의 스테이션을 지나갈 때 실행됩니다. 피연산자는 주소가 아닌 회전 오프셋(예: $W=8$ 슬롯 앞의 고정된 윈도우 내의 위치)에 의해 명명됩니다. 실행은 정적이며 컴파일 시점에 스케줄링됩니다. 동적인 매칭, 스코어보드 또는 웨이크업 로직은 존재하지 않습니다.
주기 계층 구조로서의 메모리 계층(Period Hierarchy as Memory Hierarchy): 기하급수적으로 증가하는 주기를 가진 링(예: 16, 256, 4K, 64K 슬롯)이 전통적인 캐시 계층을 대체합니다. 링 간의 데이터 이동은 캐시 미스에 의해 트리거되는 것이 아니라 컴파일 시점에 스케줄링됩니다. 짧은 링으로의 승격(promotion)은 캐시 채우기(fill) 역할을 하며, 긴 링으로의 강등(demotion)은 축출(eviction) 역할을 합니다.

제어 흐름 및 데이터 이동:

스티어링(Steering): 제어 흐름은 술어(predicate)를 평가하는 스티어 스테이션에 의해 관리됩니다. 조건이 충족되면, 해당 스테이션은 링에서 특정 명령 패킷을 제거(kill)하여 해당 슬롯을 버블(bubble)로 만듭니다.
전송(Transfer): 링 간 데이터 이동은 스케줄된 페이즈(phase)에 있는 전송 스테이션에 의해 처리됩니다.
릴레이(Relays): 프로듀서와 컨슈머가 오퍼랜드 윈도우( $W$ )보다 멀리 떨어져 있는 경우, 컴파일러는 그 간격을 메우기 위해 명시적인 "복사 릴레이(copy relay)" 명령을 삽입하며, 이는 링 용량을 소비합니다.
랑데부(Rendezvous): 컴파일 타임에 타겟 페이즈를 알 수 없는 데이터 종속적 액세스의 경우, 랑데부 스테이션은 자유 실행 페이즈 카운터가 요청된 값과 일치할 때 값을 캡처하며, 이때 약 절반 번의 회전에 해당하는 레이턴시 페널티가 발생합니다.

주요 기여

본 논문은 여섯 가지 구체적인 기여를 합니다:

실행 모델 정의: MADAR 모델의 정확한 정의와 올바른 실행을 보장하는 주소 불변량(addressing invariant)을 포함합니다.
맥락화(Contextualization): 기존의 순환 저장, 시간적 주소 지정 및 데이터플로우 아키텍처(예: Pilot ACE, Mill, Groq)와 상세히 비교하여, MADAR가 네 가지 정의된 속성을 모두 결 Kombination한 첫 번째 모델임을 입증합니다.
검증: 실행 의미론을 검증하기 위해 SystemVerilog로 작성된 정밀한 사이클 단위 레지스터 전송 레벨(RTL) 구현(Verilator로 시뮬레이션됨)을 제공합니다.
구성적 스케줄러(Constructive Scheduler): 수동 개입 없이 커널(직선 코드 및 카운티드 루프)에 대한 좌석 배치(seating arrangements)와 전송 스케줄을 자동으로 생성하는 컴파일러를 제공합니다. 생성된 모든 프로그램은 RTL 모델과 교차 검증됩니다.
에너지 비용 모델: 회전 비용과 주소 지정 메커니즘 삭제에 따른 절감액 사이의 트레이드오프를 정량화하는 1차 에너지 모델을 제시합니다.
사례 연구: 스트리밍 AI 추론 분석을 통해 이 아키텍처가 밀집 선형 대수를 어떻게 처리하는지 보여줍니다.

결과

정확성: RTL 구현을 통해 회전이 저장을 수행하고, 충돌이 실행을 수행하며, 스티어링이 분기를 대체함을 확인했습니다. 수동으로 배치된 프로그램과 컴파일러가 생성한 프로그램 모두 정확한 결과(예: $0+1+\dots+(R-1)$ 을 누적하는 카운티드 합 루프)를 생성했습니다.
에너지 교차점(Energy Crossover): 에너지 모델은 MADAR가 단순 인오더(in-order) 베이스라인(70 pJ/instruction 가정)보다 더 효율적이 되는 "교차점"을 식별합니다.
- 승리 영역(Winning Regime): 릴레이가 거의 없거나 없는 적은 수의 링(예: 16-슬롯 링) 내에 적합한 커널(예: 곱셈-누적 루프 및 FIR 탭)의 경우, 교차점은 26–63 pJ/instruction 사이에서 나타나 베이스라인을 크게 능가합니다.
- 패배 영역(Losing Regime): 큰 링이나 많은 릴레이를 필요로 하는 커널(예: 깊은 누적 체인 또는 5차 다항식)은 많은 활성 패킷을 시프트하는 에너지 비용으로 인해 어려움을 겪습니다. 이들은 126–205 pJ/instruction 사이의 교차점을 보이며 베이스라인보다 효율성이 떨어집니다.
AI 추론 사례 연구:
- 플랫 리덕션(Flat Reductions): 플랫 도트 곱 트리(flat dot product tree)는 리덕션 길이에 따라 링 크기가 커져야 하므로 과도한 회전 에너지를 유발하여 비효효율적입니다.
- 스트리밍 내적(Streaming Inner Product): 긴 링에서 고정 크기 컴퓨트 링으로 스케줄된 전송을 통해 피연산자를 스트리밍함으로써, 곱셈-누적당 에너지는 리덕션 길이에 관계없이 일정하게 유지됩니다.
- 피연산자 재사용(Operand Reuse): 행렬 곱셈을 위한 가장 효율적인 데이터플로우는 공유 피연산자를 주기 계층을 통해 승격시켜, 대형 SRAM 기반 링에서 소형 시프트 레지스터 링으로 이동시키는 것입니다. 이 접근 방식은 8x8 행렬-벡터 곱에 대해 86 pJ/multiply-accumulate를 달 기록하며, 퓨즈드 타일(fused-tile) 및 싱글 스트림(single-stream) 방식 모두를 능가했습니다.

의의 및 주장

본 논문은 MADAR가 실행 전 데이터 이동이 정적으로 알려진 계산을 위한 새로운 설계 지점이라고 주장합니다. 그 의의는 다음과 같습니다:

주소 지정 오버헤드 제거: 태그, 무작위 액세스 디코더, 미스 상태 레지스터(miss-status registers)의 필요성을 제거함으로써, 현대적인 코어의 주요 에너지 낭비 원인을 타겟팅합니다.
결정론적 타이밍(Deterministic Timing): 스케줄이 컴파일 시점에 고정되어 있으므로, 반응형 스톨(reactive stall)이나 캐시 미스가 발생하지 않아 하드 실시간 및 상수 시간 암호학에 적합합니다.
스트리밍 워크로드에서의 효율성: 본 논문은 AI 추론 및 스트리밍 DSP를 위해 "메모리 계층"이 사실상 "주기 계층"으로 대체되며, 데이터의 회전이 캐싱의 역할을 수행한다고 주장합니다.

한계 및 범위:
저자들은 범위에 대해 겸허한 태도를 취합니다. MADAR는 범용적인 랜덤 액세스 머신의 대체제가 아닙니다. 포인터 추적(pointer-chasing), 불규칙한 그래프 순회, 또는 예측 불가능한 데이터 종속성을 가진 워크로드에는 적합하지 않으며, 이러한 경우 상당한 레이턴시 페널티가 발생합니다. 또한, 현재 스케줄러는 직선형 체인과 루프를 처리하지만, 임의의 리덕션 트리나 복잡한 재정렬은 처리하지 못합니다. 에너지 클레임은 1차 모델에 기반하고 있으며, 저자들은 Groq와 같은 최첨단 정적 스케줄러와 확정적인 에너지 우위를 증명하기 위해서는 풀 합성 기반 비교가 필요함을 인정합니다.

결론적으로, MADAR는 정적으로 스케줄링 가능한 특정 클래스의 스트리밍 워크로드에 대해, 데이터를 회전시키는 비용이 정적 데이터를 주소 지정하는 비용보다 낮을 수 있음을 보여줌으로써, 프로세서 설계에서 운동(motion)과 정지(stillness) 사이의 근본적으로 다른 트레이드오프를 제시합니다.