💻 컴퓨터 과학

Attention with a Calibrated Off Switch: Causal FIR Key Smoothing, the Score-Shift Pathology, and Selective Silence in Rectified Attention (pn_fir_tau)

이 논문은 rectified attention에서의 "Score-Shift 병리 현상"을 해결하여 완벽한 연상 회상(associative recall)을 달성하고, 어텐션 싱크(attention sinks)를 제거하며, 모델이 최첨단 퍼플렉시티를 유지하면서도 답변 불가능한 쿼리를 효과적으로 억제할 수 있게 하는, 학습 가능한 레이어별 임계값이 결합된 파라미터 프리 인과적 FIR 키 평활화 기법인 **pn_fir_tau**를 소개한다.

원저자: Maxim Zhukov

게시일 2026-10-21

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Maxim Zhukov

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

텍스트를 생성하거나, 언어를 번역하거나, 질문에 답하는 현대의 인공지능 시스템은 '어텐션(attention)'이라 불리는 핵심 메커니즘에 의존합니다. 독자가 긴 문서를 훑어보는 모습을 상상해 보십시오. 어텐션은 어떤 단어가 충분히 중요하여 집중해야 할지, 그리고 어떤 단어를 무시해도 될지를 결정하는 정신적 과정입니다. 가장 흔한 유형의 AI 아키텍처에서 이 과정은 모든 가용 단어에 걸쳐 주의력을 분산시키도록 강제하는 수학적 규칙에 의해 제어되는데, 이는 관련 있는 단어가 하나도 없는 경우에도 마찬가지입니다. 이 규칙은 마치 예산 100퍼센트를 반드시 다 써야 한다고 주장하는 엄격한 회계사와 같습니다. 살 만한 것이 아무것도 없을 때조차 말입니다. 결과적으로, 시스템은 무관한 정보에 일정 수준의 가중치를 할당하도록 강요받으며, 이는 AI가 사실을 지어내거나 노이즈로 인해 혼란을 겪는 오류로 이어질 수 있습니다. 더욱이, 이러한 강제된 분산은 이 거대한 모델들을 더 작고 효율적인 하드웨어에서 실행하기 어렵게 만드는 수치적 불균형을 초래합니다.

맥심 주코프(Maxim Zhukov)라는 연구자는 이러한 시스템에 '조절 가능한 오프 스위치(calibrated off-switch)'를 부여하는 방법을 조사했습니다. AI가 모든 것에 주의력 예산을 쓰도록 강요하는 대신, 새로운 방법은 적절한 정보가 발견되지 않았을 때 "찾은 것 없음"이라고 말하며 완전히 침묵할 수 있게 해줍니다. 통제된 시뮬레이션과 소규모 언어 모델에서 테스트된 이 접근 방식은 두 가지 뚜렷한 문제를 해결합니다. 첫째, 이 방식은 이전에는 두 단계가 필요했던 복잡한 메모리 작업을 단 한 단계로 수행할 수 있게 합니다. 둘째, 맥락에 필요한 정보가 없을 때 AI가 답변을 환각(hallucination)하는 것을 방지합니다. 연구는 시스템이 자신의 메모리를 읽는 방식을 매끄럽게 만들고 학습 가능한 임계값(threshold)을 추가함으로써, 특정 메모리 테스트에서 완벽한 정확도를 달성하는 동시에 정보가 없을 때는 완전히 침묵할 수 있음을 보여줍니다.

문제의 핵심은 이러한 모델들이 질문과 답변을 어떻게 연결하느냐에 있습니다. 표준적인 설정에서는, 만약 모델이 "사과(apple)"와 같은 키워드를 보고 "빨간색(red)"과 같은 연관된 값을 검색해야 한다면, 먼저 "사과"라는 단어를 식별한 다음 바로 다음 위치를 살펴서 색상을 찾아야 합니다. 전통적인 설계에서는 이를 위해 두 개의 별도 처리 계층이 필요합니다. 하나는 정보를 앞으로 이동시키는 층이고, 다른 하나는 그것을 매칭하는 층입니다. 이는 매우 귀중한 자원인 계산적 깊이를 낭비하게 만듭니다. 주코프의 해결책은 메모리 스트림에만 적용되는 단순하고 고정된 필터를 사용하는 것입니다. 이 필터는 현재의 단어를 바로 앞의 단어와 부드럽게 혼합하여, 키워드의 정체성을 답변이 존재하는 슬롯까지 효과적으로 전달합니다. 이 단 한 번의 조정을 통해 모델은 한 단계 만에 답을 찾을 수 있으며, 특정 메모리 테스트에서의 성공률을 약 45퍼센트에서 100퍼센트로 끌어올립니다.

하지만 이 매끄러운 과정(smoothing process)은 새로운 과제를 만들어냅니다. 데이터를 혼합함으로써 모델이 주의를 기울이게 만드는 수학적 점수들이 하향 조정됩니다. 모든 주의력을 분산시키도록 강제하는 표준 규칙의 경우, 이 규칙은 절대적인 값보다는 상대적인 차이에만 관심을 갖도록 설계되었기 때문에 이러한 변화가 문제가 되지 않습니다. 그러나 시스템이 꺼질 수 있게 허용하는 새로운 방법의 경우, 이러한 변화는 치명적입니다. 만약 점수가 너무 낮아지면 시스템은 이를 0으로 잘라버려(clip) 학습 능력을 상실하고, 사실상 스스로를 굶기게 됩니다. 연구자는 단순히 점수가 낮을 때 시스템을 끄는 방식은 데이터가 완벽할 때만 작동한다는 것을 발견했습니다. 데이터가 지저분하거나 답이 없는 질문이 포함되어 있을 때, 시스템은 스스로 침묵하지 못하고 메모리에 노이즈를 유출하게 됩니다.

이를 해결하기 위해, 이 연구는 모델의 각 계층마다 하나의 조절 가능한 임계값을 도입합니다. 이 임계값을 스스로 설정하는 법을 배우는 볼륨 조절 노브(volume knob)라고 생각하십시오. 만약 점수가 이 수준 아래라면 시스템은 이를 침묵으로 취급합니다. 만약 그 위라면 주의를 기울입니다. 이 간단한 보정(calibration)은 매끄러운 필터에 의해 발생하는 하향 이동을 모델이 처리할 수 있게 해줍니다. 모델에게 텍스트에서 사실을 추출하도록 요청하는 실험에서, 모델은 사실이 존재할 때 완벽한 회상(recall)을 달성했습니다. 더 중요한 것은, 사실이 누락되었을 때 모델이 완전히 침묵하는 법을 배웠으며, 무관한 맥락에 대해 0의 주의 가중치를 할당했다는 점입니다. 이는 무관한 상황에서도 주의력을 분산시켜 답변을 지어내는 오류를 범했던 기존 방식보다 크게 개선된 결과입니다.

연구는 또한 효율성과 안정성 문제도 다루었습니다. 새로운 방법은 느리고 메모리 집약적인 복잡한 수학적 연산을 피하고, 현대의 컴퓨터 칩에서 더 빠르게 실행되는 더 단순한 계산으로 대체합니다. 소규모 언어 모델에 대한 테스트에서, 이 새로운 접근 방식은 문장의 다음 단어를 예측하는 모델의 능력을 유지하거나 약간 향elle 개선하면서도 더 적은 메모리를 사용했습니다. 또한, 모델을 압축하여 모바일 기기에서 사용하기 어렵게 만드는 극단적인 수치적 급증 현상인 아웃라이어(outliers)를 제거했습니다. 연구는 시스템이 이러한 급증 없이도 실행될 수 있음을 확인하며, 이를 통해 실세계 응용 분야에서 더 견고해질 수 있음을 입증했습니다.

이 결과는 테스트된 규모와 조건에 국한됩니다. 실험은 오늘날 산업계에서 사용되는 거대 시스템에 비하면 작은 수백만 개의 파라미터를 가진 모델들을 대상으로 수행되었습니다. 결과가 합성 메모리 작업에서 완벽한 성능을 보이고 표준 텍스트 데이터셋에서 강력한 성능을 보여주지만, 저자는 이를 더 큰 모델로 확장하는 데는 추가적인 작업이 필요할 것이라고 언급했습니다. 이 방법은 특정 유형의 매끄러운 필터와 학습된 임계값에 의존하며, 연구는 이러한 구성 요소가 포함되지 않은 다른 변형들은 배제한다고 명시하고 있습니다. 예를 들어, 단순히 임계값을 제거하거나 다른 유형의 필터를 사용하는 것은 성능의 급격한 저하나 모델을 침묵시키지 못하는 실패로 이어집니다.

궁극적으로, 이 작업은 정보를 정밀하게 검색하는 동시에 정보가 없을 때 추측을 삼가는 주의 메커니즘을 설계하기 위한 실질적인 청사진을 제공합니다. 고정된 매끄러운 필터와 학습 가능한 침묵 임계값을 결in함으로써, 시스템은 복잡한 메모리 작업을 단일 계층으로 압축하고, 답을 알 수 없는 질문에 직면했을 때 내부 상태를 보존할 수 있는 능력을 얻습니다. 이 연구는 이러한 접근 방식이 특히 대규모 데이터베이스로부터의 검색이나 메모리 증강 추론(memory-augmented reasoning)이 포함된 작업에서, 언제 답하지 말아야 하는지를 아는 것이 답을 아는 것만큼 중요하다는 점에서, 더 효율적이고 신뢰할 수 있는 AI 시스템을 만드는 데 기여할 수 있음을 시사합니다. 저자는 다른 이들이 이 결과를 검증하고 차세대 언어 모델을 위한 이 조절 가능한 오프 스위치를 구축할 수 있도록 코드와 상세한 측정치를 공개했습니다.

기술 요약: 보정된 오프 스위치를 가진 어텐션 (pn_fir_tau)

1. 문제 정의

본 논문은 표준 트랜스포머 어텐션 메커니즘의 두 가지 근본적인 한계, 즉 **연상 회상(associative recall)**과 **잔차 스트림 보존(residual stream preservation)**에 관한 문제를 다룹니다.

2-레이어 유도 병목 현상 (The Two-Layer Induction Bottleneck): 표준 스케일드 닷 프로덕트 어텐션(Softmax)은 단일 레이어에서 콘텐츠 주소 지정 방식의 키-값 유도(content-addressable key-value induction)를 수행할 수 없습니다. 위치 $j^*$ 에 있는 키 $k^*$ 를 기반으로 위치 $j^*+1$ 에 저장된 값 $v^*$ 를 검색하려면, 표준 트랜스포머는 토큰 표현을 이동시키는 한 레이어와 이를 매칭하는 또 다른 레이어, 즉 총 두 개의 레이어가 필요합니다. 이는 컴팩트한 모델(4~12 레이어)에서 귀중한 깊이와 잔차 대역폭을 소모하게 만듭니다.
"오프 스위치" 결핍 및 어텐션 싱크 (The "Off-Switch" Deficit and Attention Sinks): 표준 Softmax는 심플렉스 제약 조건( $\sum W_{t,j} = 1$ $\sum W_{t, j} = 1$ )을 강제하므로, 쿼리에 부합하는 관련 키가 없더라도 헤드가 가중치를 분배하도록 만듭니다. 이는 다음과 같은 결과를 초환합니다:
- RAG 환각 (RAG Hallucinations): 정답이 존재하지 않을 때 헤드가 무관한 컨텍스트 값으로 잔차 상태를 덮어씁니다.
- 어텐션 싱크 (Attention Sinks): 사전 훈련된 모델들은 합계 1 제약 조건을 충족하기 위해 초기 토큰(BOS)을 거대한 수치적 이상치("쓰레기통")로 부풀립니다. 이는 저비트 양자화를 저해하고 스트리밍 KV 캐시에서 퍼플렉시티 붕괴를 일으킵니다.

ReLA, Softpick과 같은 기존 연구들이 정류된(sub-simplex) 정규화 도구가 헤드가 "아무것도 참조하지 않도록" 허용할 수 있음을 입증했지만, 본 논문은 결정적인 실패 모드인 **스코어 시프트 병리 현상(Score-Shift Pathology)**을 식별했습니다. 유도 문제를 해결하기 위해 키에 인과적 평활화(causal smoothing)를 적용하면 전체 스코어 분포가 아래로 이동합니다. 이때 보정되지 않은 정류 정규화기(예: 고정된 $\tau=0$ 인 Power-Norm)는 이 이동에 의해 굶주리게 되어, 유효한 스코어까지 0으로 클리핑하고 "죽은 행(dead rows)"을 발생시킵니다.

2. 방법론

제안된 솔루션인 pn_fir_tau는 인과적 유한 임펄스 응답(FIR) 필터와 보정된 서브-심플렉스 정규화기를 결합합니다.

2.1 인과적 FIR 키 평활화 (Causal FIR Key Smoothing)

단일 레이어 유도를 가능하게 하기 위해, 저자는 키 스트림( $K$ )에 대해 파라미터가 없는 인과적 7-탭 저역 통과 FIR 필터를 적용합니다.

메커니즘: 이 필터는 고정된 반 가우시안(half-Gaussian) 가중치( $\sigma=2.0$ )를 사용하여 현재 키 $K_{j}$ 를 이전 키들과 혼합합니다.
효리: 이 필터는 매칭된 키 $k^*$ 의 표현을 물리적으로 인접한 값 슬롯 $j^*+1$ 에 결합합니다. 결과적으로 쿼리는 별도의 이동 레이어 없이 단일 레이어에서 값 슬롯에 직접 어텐션을 수행할 수 있습니다.
인과성: 필터는 엄격히 인과적이며(미래 누수 없음), 제로 패딩과 7-탭 컨볼루션을 통해 구현됩니다.

2.2 스코어 시프트 병리 현상 (The Score-Shift Pathology)

본 논문은 Softmax는 이동 불변성(translation-invariant)을 가져 스코어 시프트에 면역이 있는 반면, 정류된 정규화기는 그렇지 않음을 증명합니다(Proposition 1).

문제점: FIR 필터는 닷 프로덕트 스코어의 평균을 낮춥니다. 정류 정규화기 $S^+ = \max(S, 0)$ 의 경우, 음의 방향으로의 시프트는 유효한 스코어를 0 미만으로 떨어뜨려, 어텐션 가중치와 그래디언트를 모두 0으로 만드는 스타베이션(starvation) 현상을 초래합니다.
대안의 실패: 행 평균 중심화( $pn\_fir\_c$ )는 평균을 빼줌으로써 이를 해결하려 하지만, 이는 전체 어텐션 질량을 절대적인 스코어 레벨이 아닌 행 내 분산에 의존하게 만들어, 답변 불가능한 쿼리에 상당한 노이즈 누출을 야기합니다.

2.3 보정된 오프 스위치 ( $pn\_fir\_tau$ )

헤드를 침묵시킬 수 있는 능력을 유지하면서 스타베이션을 해결하기 위해, 저자는 레이어당 학습 가능한 스칼라 임계값 $\tau$ 를 도입합니다.

공식: 스코어는 정류되기 전에 $\tau$ 만큼 이동됩니다: $S'_{t,j} = S_{t,j} - \tau$ .
서브-심플렉스 정규화: 가중치는 정류된 스코어에 대한 파워 정규화( $p=10$ )를 사용하여 계산된 후, 최대 양수 스코어에 따라 전체 행 질량을 스케일링하는 "피크-사일런스 게이트(peak-silence gate)" $g_t$ 를 거칩니다.
결과: 학습 가능한 $\tau$ 는 FIR로 인한 음의 시프트를 상쇄하도록 글로벌 스코어 분포를 보정합니다. 이를 통해 모델은 매칭된 쿼리에 대해 100% 회상 성능을 달면서도, 답변 불가능한 쿼리의 어텐션 질량을 거의 0으로 몰아넣어 헤드를 효과적으로 "끄는(off)" 것이 가능해집니다.

2.4 구현: 퓨즈드 트리톤 커널 (Fused Triton Kernals)

새로운 메커니즘의 계산 오버헤드를 해결하기 위해, 저자는 퓨즈드 트리톤 커널을 공개합니다.

Zero-Transcendental: 파워 정규화 $(S')^p$ 는 레지스터 곱셈을 사용하여 계산되므로 비용이 많이 드는 exp() 호출을 제거합니다.
메모리 효율성: 이 커널들은 FlashAttention-2 스타일의 $O(N)$ VRAM 사용량을 달성하며, 사이런트 타일 스키핑(silent-tile skipping)을 지원합니다(단, 표준 스택에서는 런칭 제한이 있다고 명시함).

3. 주요 결과

본 논문은 합성 연상 회상 작업과 6-레이어 WikiText-2 언어 모델링 작업(1.8M 파라미터)에서 방법을 평가합니다.

3.1 합성 회상 작업

단일 레이어 유도: Softmax에 7-탭 FIR를 적용한 $sm\_fir$ 은 깨끗한 연상 회상 성능을 **44.5%**에서 **100.0%**로 끌어올립니다.
노이즈 강건성: $pn\_fir\_tau$ 는 주입된 디스트랙터 데코이( $\epsilon \in \{0.05, 0.2, 0.5, 1.0\}$ ) 환경에서도 **100.0%**의 회상 성능을 유지하는 반면, 보정되지 않은 정류 변형 모델들은 크게 실패합니다.
답변 불가능한 쿼리에 대한 침묵: 키가 없을 때 헤드가 침묵해야 하는 작업에서:
- Softmax/Sparsemax/Entmax: 답변 불가능한 쿼리에 대해 **27.2%~34.4%**의 확률로 환각을 일으켜 잔차 스트림을 보존하는 데 실패합니다.
- $pn\_fir\_tau$ : **0.0%**의 환각율을 달성하며, 답변 불가능한 행의 질량은 0.002로 떨어집니다(가상 싱크 Softmax보다 50배 낮은 누출).

3.2 언어 모델링 (WikiText-2)

퍼플렉시티: $pn\_fir\_tau$ 모델은 Softmax 베이스라인과 대등하거나 약간 개선된 성능을 보입니다. 매칭된 50k-step 프로토콜에서, $pn\_fir\_tau$ 는 테스트 퍼플렉시티 114.80을 달성하여 Softmax의 117.13보다 우수한 성능을 보였습니다.
양자화 위생 (Quantization Hygiene): 이 방법은 "어텐션 싱크" 질량(BOS 토큰에서의 활성화 이상치)을 크게 줄입니다. 폭 $D=64$ 에서, 싱크 질량은 Softmax의 0.0177에 비해 $pn\_fir\_tau$ 가 0.0031로 나타났습니다.
지연 시간 및 VRAM:
- 퓨즈드 트리톤 커널은 BF16에서 표준 Softmax에 비해 스텝 시간을 22.5%~31.6% 단축합니다.
- Eager PyTorch 구현 대비 21.70배의 속도 향상을 보이며, 시퀀스 길이 1024인 6-레이어 MHA 스택에서 중간 텐서 메모리를 1886.9MB에서 109.3MB로 66.5배 감소시켰습니다.

4. 주장 및 의의

본 논문은 자신의 기여를 거대 규모에서의 보편적 우월성에 대한 주장이라기보다, 보정된 진단 및 도구로 프레임합니다.

메커니즘적 통찰: 인과적 키 평활화가 정류된 어텐션을 망가뜨리는 "스코어 시프트 병리 현상"을 생성하며, 이를 복구하기 위해 학습 가능한 임계값( $\tau$ )이 필수적임을 확립했습니다.
실용적 유용성:
1. 제로 파라미터 유도: $sm\_fir$ 변형은 최소한의 지연 시간 증가(+1.5%)만으로 표준 트랜스포머가 두 레이어의 유도 헤드를 한 레이어로 압축할 수 있게 합니다.
2. 환각 없는 아키텍처: $pn\_fir\_tau$ 는 복잡한 보조 손실 함수 없이도 어텐션 헤드가 진정으로 절제(abstain)할 수 있는 메커니즘을 제공하여, RAG 컨텍스트 환각과 어텐션 싱크 이상치 문제를 해결합니다.
3. 하드웨어 효율성: 초월 함수(exp)의 제거와 퓨즈드 커널의 사용은 배포 시 상당한 속도 및 메모리 이점을 제공합니다.

저자가 인정한 한계점:

규모 (Scale): 결과는 주로 $D=64$ (1.8M 파라미터)에 집중되어 있습니다. $D=256$ 에서의 단일 시드 실행은 붕괴가 없음을 보여주었으나, 대규모(GPT-2 124M)로의 역적용은 가중치와의 공적응(co-adaptation) 문제로 인해 실패했습니다.
타일 스키핑 (Tile Skipping): 커널이 타일 스키핑을 지원하지만, 저자는 표준 6-레이어 스택에서 성능 이득이 CUDA 커널 런칭 직렬화에 의해 제한된다는 것을 발견했습니다. 전체 속도 향상은 런칭 오버헤드가 상쇄될 때(예: CUDA Graphs 사용 시) 실현됩니다.
하이퍼파라미터: 파워 $p=10$ 과 필터 폭 $\sigma=2.0$ 은 고정되어 있으며, 이에 대한 민감도 분석은 향후 과제로 남겨두었습니다.

요약하자면, 본 논문은 키에 대한 인과적 FIR 평활화와 보정된 서브-심플렉스 임계값을 결합함으로써 단일 레이어 연상 회상과 견고하고 침묵 가능한 어텐션을 가능하게 하며, 더 효율적이고 환각에 강한 트랜스포머 아키텍처를 위한 경로를 제시합니다.