🤖 AI

COREY: A Prototype Study of Entropy-Guided Operator Fusion with Hadamard Reparameterization for Selective State Space Models

이 논문은 선택적 상태 공간 모델 (SSM) 의 메모리 대역폭 병목 현상을 해결하기 위해 활성화 엔트로피 기반의 연산 융합과 하다마르 재파라미터화를 결합한 프로토타입 프레임워크 'COREY'를 제안하며, 이를 통해 지연 시간 감소와 처리량 및 DRAM 트래픽 개선을 입증합니다.

원저자: Bo Ma, Jinsong Wu, Hongjiang Wei, Weiqi Yan

게시일 2026-04-14

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bo Ma, Jinsong Wu, Hongjiang Wei, Weiqi Yan

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🏭 비유: 거대한 공장과 혼란스러운 창고

AI 가 긴 문서를 처리하는 과정은 거대한 공장에서 물건을 만드는 과정과 비슷합니다.

작업자 (연산자): 데이터를 처리하는 작은 작업들입니다.
창고 (메모리): 중간 결과물을 잠시 보관하는 곳입니다.
운반 트럭 (데이터 이동): 작업자 사이를 오가며 물건을 나르는 트럭입니다.

기존의 AI 공장 (Mamba 같은 모델) 은 문제가 있었습니다. 작업자가 하나 일을 끝내면, 그 결과를 창고에 내려놓고, 다음 작업자가 와서 다시 창고에서 가져와서 일을 시작했습니다. 이 **'창고 오가기 (데이터 이동)'**가 너무 많아서, 실제 일을 하는 시간보다 물건을 나르는 시간에 에너지를 다 써버리는 꼴이었습니다.

🚀 COREY 가 해결하는 두 가지 문제

COREY 는 이 공장을 더 똑똑하게 운영하기 위해 두 가지 혁신을 제안합니다.

1. "혼란도 측정하기" (엔트로피 기반 fusion)

상황: 공장 관리자가 "어떤 작업들을 묶어서 한 번에 처리할까?"를 고민할 때, 보통은 "무조건 3 개씩 묶자"라고 정해둡니다. 하지만 상황에 따라 3 개를 묶으면 오히려 병목이 생길 수도 있습니다.
COREY 의 해결책: COREY 는 **작업장의 '혼란도 (엔트로피)'**를 실시간으로 측정합니다.
- 비유: 작업장 안이 정리되어 있고 (혼란도 낮음) 물건을 잘 나눌 수 있으면, 작업자들을 대규모로 묶어서 한 번에 처리합니다. (트럭을 크게 타고 한 번에 나감)
- 비유: 작업장이 너무 복잡하고 혼란스러우면 (혼란도 높음), 무리하게 묶으면 실수가 나옵니다. 그래서 작은 그룹으로 나누어 신중하게 처리합니다.
- 결과: 상황에 맞춰 작업 방식을 유연하게 바꾼 덕분에, 불필요한 창고 오가기가 사라지고 공장이 훨씬 빨라집니다.

2. "무거운 짐을 가볍게 만들기" (하마르드 재구성)

상황: AI 가 문서를 읽을 때, 가끔 **엄청나게 무거운 짐 (아웃라이어, Outlier)**이 하나씩 섞여 나옵니다. 이 무거운 짐 때문에 저전력 모드 (정밀도를 낮춘 상태) 로 일할 때 공장이 멈추거나 오류가 나기 쉽습니다.
COREY 의 해결책: COREY 는 이 무거운 짐을 **하마르드 변환 (Hadamard Transform)**이라는 마법 같은 도구로 잘게 부수는 동시에 골고루 분산시킵니다.
- 비유: 한 사람이 100kg 의 무거운 돌을 들고 있으면 넘어집니다. COREY 는 그 돌을 100 개의 작은 자갈로 갈아서, 100 명의 작업자에게 골고루 나눠줍니다.
- 결과: 각 작업자가 들고 있는 짐이 가벼워지니, 더 많은 작업자를 동시에 투입할 수 있고, 공장이 멈추지 않고 빠르게 돌아갑니다.

📊 COREY 가 가져온 변화

이 논문은 COREY 를 실제 GPU(그래픽카드) 에 바로 심어 테스트한 것이 아니라, **정교한 시뮬레이션 (프로토타입)**으로 검증했습니다. 결과는 다음과 같습니다.

더 빠른 속도: 긴 문서를 처리할 때, 기존 방식보다 훨씬 빠르게 결과를 냈습니다. (트럭이 덜 다니니까요)
더 적은 에너지: 메모리 (창고) 를 덜 쓰니, 전기도 덜 먹습니다.
안정성: 무거운 짐 (아웃라이어) 을 분산시켰기 때문에, 정밀도를 낮춰서 (저전력 모드) 일해도 시스템이 덜 흔들렸습니다.

💡 결론: 왜 이것이 중요한가요?

지금까지 AI 는 긴 문서를 처리할 때 "메모리 이동"이라는 병목 현상으로 인해 속도가 느렸습니다. COREY 는 "데이터가 얼마나 혼란스러운지 측정해서 작업 방식을 바꾸고, 무거운 짐을 골고루 나누는" 두 가지 아이디어로 이 문제를 해결했습니다.

이 기술이 실제 AI 칩에 적용된다면, 긴 소설을 한 번에 읽거나, 긴 회의록을 분석하는 AI 가 훨씬 저렴하고 빠르게 작동하게 될 것입니다. 마치 공장의 물류 시스템을 완전히 재설계한 것과 같습니다.

한 줄 요약:

COREY 는 AI 가 긴 문서를 읽을 때, 작업장의 혼란도를 재서 작업 방식을 유연하게 바꾸고, 무거운 짐을 골고루 나누어 공장의 속도를 획기적으로 높여주는 똑똑한 관리자입니다.

1. 연구 배경 및 문제 정의 (Problem)

선택적 상태 공간 모델 (Selective SSMs, 예: Mamba) 은 긴 문맥 (Long-context) 추론에 있어 선형 시간 복잡도 ( $O(L)$ ) 를 제공하여 트랜스포머의 이차 복잡도 ( $O(L^2)$ ) 문제를 해결하는 유망한 아키텍처입니다. 그러나 실제 하드웨어 (GPU) 배포 시 다음과 같은 병목 현상이 발생합니다.

메모리 대역폭 제한 (Memory-Bound): 선택적 상태 업데이트 (Selective Scan) 파이프라인이 여러 개의 포인트와 감소 (Reduction) 커널로 분해되어 실행되면서, 중간 텐서 (Intermediate Tensors) 의 반복적인 메모리 재료화 (Materialization) 가 발생합니다. 이로 인해 연산량 (FLOPs) 보다 메모리 접근이 병목이 되어 하드웨어 효율성이 떨어집니다.
활성화 아웃라이어 (Activation Outliers): SSM 내부, 특히 출력 채널에서 두꺼운 꼬리 (Heavy-tailed) 를 가진 통계적 특성을 보이는 활성화 값들이 존재합니다. 이러한 아웃라이어는 저비트 양자화 (Low-bit Quantization) 를 불안정하게 만들고, 수치적 민감도를 증폭시켜 연산자 융합 (Operator Fusion) 의 안전한 깊이를 제한합니다.

기존의 융합 연구들은 주로 정적 커널 그래프나 휴리스틱에 의존하며, 활성화 분포의 특성을 실시간으로 반영하지 못한다는 한계가 있었습니다.

2. 제안 방법론 (Methodology)

저자들은 COREY라는 프로토타입 프레임워크를 제안하며, 메모리 인지형 연산자 융합과 하마다르 (Hadamard) 기반 특징 재파라미터화를 결합합니다.

A. 엔트로피 기반 동적 융합 전략 (Entropy-Driven Fusion Strategy)

엔트로피 추정: 활성화 텐서의 Shannon 엔트로피를 고정 폭 히스토그램을 사용하여 실시간으로 추정합니다.
동적 경계 결정: 융합 영역 (Fusion Region) 의 점수 $S(R)$ 을 계산하여 융합 여부를 결정합니다.
$S(R) = \alpha \tilde{H}(R) + \beta \widetilde{AI}(R) - \gamma \tilde{M}(R)$
여기서 $\tilde{H}$ 는 정규화된 엔트로피, $\widetilde{AI}$ 는 산술 강도, $\tilde{M}$ 은 메모리 트래픽 추정치입니다.
작동 원리: 높은 엔트로피 영역은 활성화 분포가 고르게 퍼져 있어 더 큰 타일 (Tile) 크기와 깊은 융합을 허용하며, 낮은 엔트로피 영역은 작은 타일을 사용하여 레지스터 압력과 불안정성을 방지합니다.

B. 융합된 하마다르 재파라미터화 (Fused Hadamard Reparameterization)

아웃라이어 억제: 선형 투영 (Linear Projection) 블록에 정규화된 하마다르 행렬 ( $H$ ) 을 삽입하여 활성화 분포를 회전시킵니다.
$y = W H^\top H x = W' \hat{x}$
기능적 동등성: $H^\top H = I$ 이므로 함수적 동등성은 유지되지만, 하마다르 변환을 통해 두꺼운 꼬리 분포가 채널 간에 재분배되어 아웃라이어의 집중도가 낮아집니다.
엔트로피 증가: 이 회전은 활성화 분포의 엔트로피를 증가시키며, 이는 저비트 실행 시 클리핑 (Clipping) 한계를 완화하고 더 공격적인 융합을 가능하게 하는 시스템 신호로 작용합니다.
커널 융합: $Hx$, 투영, 그리고 인접한 요소별 연산자를 단일 커널로 융합하여 추가적인 메모리 패스를 제거합니다.

C. 엔트로피 - 타일링 공동 설계 (Entropy-Tiling Co-Design)

엔트로피 수준에 따라 타일 크기를 동적으로 조절합니다. 고엔트로피 영역은 데이터 재사용을 극대화하기 위해 큰 타일을, 저엔트로피 영역은 레지스터 압력을 줄이기 위해 작은 타일을 사용합니다.

3. 주요 기여 (Key Contributions)

엔트로피 기반 동적 융합 기준: SSM 커널 내에서 융합 경계와 타일 세분화를 결정하기 위한 엔트로피 구동 기준을 도입했습니다.
융합 하마다르 레이어: 기능적 동등성을 유지하면서 투영 블록에 순방향/역방향 변환을 내장하는 레이어를 설계하여 아웃라이어 분포를 평탄화했습니다.
엔트로피 증가와 아웃라이어 억제의 연결: 하마다르 혼합이 피크 좌표의 크기를 축소하여 저비트 실행의 안정성을 높이고, 이로 인해 엔트로피가 증가하여 더 깊은 융합이 가능해짐을 이론적으로 증명하고 정량화했습니다.
재현 가능한 프로토타입 검증: 체크포인트 수준의 퍼플렉시티 (Perplexity) 주장보다는 프로토타입 메커니즘의 유효성을 검증하는 통제된 실험을 수행하고, 하드웨어 및 품질 주장은 미래 작업으로 남겼습니다.

4. 실험 결과 (Results)

이 연구는 완전한 배포급 Triton 커널 벤치마크가 아닌, 제어된 프로토타입 연구 (Synthetic activations 및 Mamba 체크포인트의 제한적 검증) 에 기반합니다.

성능 향상: 모든 시퀀스 길이 구간에서 COREY 는 비융합 (No Fusion) 및 정적 융합 (Static Fusion) 베이스라인 대비 처리량 (Throughput) 을 향상시키고 DRAM 트래픽을 감소시켰습니다.
- 특히 긴 문맥 (Ultra-long, 64k) 에서 메모리 병목이 지배적이므로 성능 향상이 두드러졌습니다 (예: 64k 구간에서 처리량 840.5k tok/s 달성).
지연 시간 (Latency): 메모리 트래픽 감소로 인해 지연 시간이 단축되었습니다.
양자화 안정성: W8A8 및 W4A8 설정에서 하마다르 재파라미터화를 적용한 COREY 는 정적 융합 대비 진단용 저비트 저하 지표 (Diagnostic Proxy) 가 낮아 안정성이 개선되었음을 보였습니다. 이는 엔트로피 기반 경계 제어가 저엔트로피 영역에서의 과도한 융합을 방지했음을 시사합니다.
하드웨어 검증: RTX 3070 및 3090 GPU 환경에서 Mamba-370M, Mamba-1.4B 모델에 대한 체크포인트 검증 (LongBench, WikiText-103 등) 을 수행하여, COREY 메커니즘이 모델 품질을 저하시키지 않고 시스템 메트릭을 개선할 수 있음을 확인했습니다.

5. 의의 및 결론 (Significance)

시스템 최적화와 분포 제어의 통합: 기존에는 분리되어 논의되던 '아웃라이어 억제 (양자화 관점)'와 '심층 연산자 융합 (시스템 관점)'을 엔트로피라는 하나의 신호로 연결했습니다.
하드웨어 효율성 증대: 메모리 대역폭 제한을 완화하여 긴 문맥 SSM 추론의 에너지 효율성과 처리량을 개선할 잠재력을 제시합니다.
미래 방향: COREY 는 현재 프로토타입 단계이나, 실제 하드웨어 (Triton 커널) 에 적용될 경우 긴 문맥 애플리케이션의 배포 비용을 낮추고 환경적 발자국을 줄이는 데 기여할 수 있습니다. 향후 연구에서는 실제 체크포인트에 대한 방법론 대 베이스라인 비교 및 더 넓은 벤치마크 커버리지가 필요합니다.

요약: COREY 는 SSM 의 메모리 병목과 양자화 불안정성을 해결하기 위해, 활성화 엔트로피를 실시간 스케줄링 신호로 활용하고 하마다르 변환으로 분포를 평탄화하여 연산자 융합의 깊이와 타일 크기를 동적으로 최적화하는 새로운 프레임워크입니다.