💻 computer science

SinkTrack: Attention Sink based Context Anchoring for Large Language Models

SinkTrack 는 LLM 의 초기 토큰에 집중되는 '어텐션 싱크' 특성을 활용하여 훈련 없이 컨텍스트 정보를 주입함으로써 할루시네이션과 컨텍스트 망각을 효과적으로 완화하는 플러그 앤 플레이 방법론을 제안합니다.

원저자: Xu Liu, Guikun Chen, Wenguan Wang

게시일 2026-04-15

📖 3 분 읽기☕ 가벼운 읽기

원저자: Xu Liu, Guikun Chen, Wenguan Wang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🚢 SINKTRACK: 거대 언어 모델의 '기억력'을 되살리는 마법의 닻

이 논문은 인공지능 (LLM) 이 가진 두 가지 큰 약점, **'환각 (거짓말)'**과 **'기억 상실 (맥락 잊음)'**을 해결하는 획기적인 방법인 SINKTRACK을 소개합니다.

이 복잡한 기술을 일상적인 비유로 쉽게 설명해 드릴게요.

🤔 문제: 왜 AI 는 말을 바꾸고 잊어버릴까요?

거대 언어 모델 (LLM) 이 긴 이야기를 하거나 복잡한 문제를 풀 때, 두 가지 문제가 자주 발생합니다.

환각 (Hallucination): 없는 것을 있는 것처럼 말해요.
- 예: "버스와 나무가 있는 도로"를 보여줬는데, AI 가 "하늘을 나는 비행기가 있다"고 거짓말을 합니다.
맥락 잊음 (Context Forgetting): 긴 대화나 긴 글을 읽다가 처음에 들은 지시를 까맣게 잊어버립니다.
- 예: "68 개의 사과와 74 개의 오렌지가 있다"고 시작했는데, 중간에 "펜이 68 개 있다"고 헷갈려서 엉뚱한 답을 내놓습니다.

왜 그럴까요?
AI 가 글을 하나씩 써갈수록, **주의 (Attention)**가 새로 나온 단어들에게로 쏠리고, 처음에 입력된 중요한 정보는 점점 희미해지기 때문입니다. 마치 긴 여행을 하다 보면 출발지의 지도를 잊어버리는 것과 비슷합니다.

💡 해결책: SINKTRACK (싱크트랙) 의 아이디어

연구진은 AI 의 숨겨진 특징 하나를 발견했습니다. 바로 **'Attention Sink(주의의 싱크/구멍)'**입니다.

비유: AI 가 글을 쓸 때, 문장의 **맨 처음에 있는 특수 기호 (⟨BOS⟩)**는 다른 단어들이 잊혀도 끝까지 가장 높은 주의를 기울이는 '고정된 닻' 역할을 합니다. 이 기호는 내용이 비어있지만, AI 가 항상 붙잡고 있는 '안전판' 같은 존재입니다.

SINKTRACK 의 핵심 전략:
이 **'고정된 닻 (⟨BOS⟩)'**을 단순히 비어있는 기호로 두지 않고, **중요한 정보 (이미지, 질문, 지시사항) 를 담아내는 '정보의 저장고'**로 변신시키는 것입니다.

일상 비유:
배가 바다 (긴 대화) 를 항해할 때, 파도 (새로운 단어) 에 흔들려 방향을 잃지 않도록 가장 튼튼한 닻을 내립니다.
기존에는 이 닻에 아무것도 없었는데, SINKTRACK 은 이 닻에 **항해 지도와 나침반 (중요한 정보)**을 단단히 묶어둡니다. 그래서 배가 아무리 멀리 가도, 닻을 통해 항상 출발점과 목적지를 기억하게 됩니다.

⚙️ 어떻게 작동할까요? (3 단계 실험)

연구진은 이 아이디어를 구현하기 위해 세 가지 시도를 했습니다.

강제 교체 (Hard Injection): 닻을 아예 정보로 바꿔버리는 시도.
- 결과: AI 가 완전히 망가졌습니다. (기존의 사고방식을 너무 급격히 바꿔서 혼란스러워함)
부드러운 혼합 (Soft Injection): 정보와 원래 닻을 섞는 시도.
- 결과: 나아졌지만, 정보를 무작위로 섞다 보니 '소음'이 생기고 긴 대화에서는 효과가 떨어졌습니다.
SINKTRACK (최종 해결책): 이중 트랙 (Dual-Track) 방식을 도입했습니다.
- 트랙 1 (적응형): 닻이 필요한 정보를 스스로 찾아서 가져옵니다. (질문이나 상황에 맞춰 필요한 정보만 골라냄)
- 트랙 2 (원래 흐름): AI 가 원래 하던 사고 과정은 방해받지 않고 그대로 유지합니다.
- 결과: AI 는 원래의 사고력을 잃지 않으면서, 중요한 정보를 잊지 않게 됩니다.

🚀 SINKTRACK 의 장점

학습 불필요 (Training-free): AI 를 다시 가르칠 필요가 없습니다. 그냥 끼워만 넣으면 됩니다. (Plug-and-play)
빠르고 가볍음: 정보를 넣는 작업은 한 번만 하면 되고, 그 이후에는 AI 가 원래 속도로 글을 씁니다.
강력한 효과:
- 텍스트 작업: 긴 독해 문제나 수학 문제에서 정답률이 20% 이상 크게 향상되었습니다.
- 멀티모달 작업: 그림을 보고 설명할 때, 없는 물체를 invented 하지 않고 정확한 설명을 합니다.

📝 결론

SINKTRACK은 AI 가 긴 글을 쓰거나 복잡한 문제를 풀 때, 처음에 들은 중요한 말을 잊지 않도록 '정보의 닻'을 내려주는 기술입니다.

AI 가 "아, 내가 처음에 이걸 들었었지!"라고 기억하게 만들어, 거짓말을 줄이고 논리를 잃지 않게 도와줍니다. 이 기술은 AI 를 더 똑똑하고 신뢰할 수 있는 친구로 만들어주는 마법의 열쇠라고 할 수 있습니다.

1. 문제 정의 (Problem)

대형 언어 모델 (LLM) 과 멀티모달 LLM(MLLM) 은 방대한 능력을 보여주지만, 두 가지 주요한 한계에 직면해 있습니다.

할루시네이션 (Hallucination): 제공된 입력 (이미지나 텍스트) 과 사실적으로 일치하지 않는 내용을 생성하는 현상입니다.
맥락 망각 (Context Forgetting): 긴 생성 과정에서 초기 입력 (지시사항, 이미지 특징 등) 을 잊어버리고, 새로 생성된 토큰에 집중하게 되어 초기 지시를 위반하거나 논리적 오류를 범하는 현상입니다.

이러한 문제들의 근본 원인으로 **주의력 편향 (Attention Drift)**이 지목됩니다. 모델이 시퀀스를 생성해 나갈수록 초기 토큰에 대한 주의력이 급격히 감소하고, 새로 생성된 토큰으로 주의력이 이동하기 때문입니다.

2. 방법론 (Methodology)

저자들은 LLM 의 내재적 특성인 주의력 싱크 (Attention Sink) 현상을 역이용하여 문제를 해결합니다.

핵심 통찰: 주의력 싱크 (Attention Sink)

대부분의 초기 토큰에 대한 주의력은 시간이 지남에 따라 사라지지만, 시퀀스의 첫 번째 토큰인 **<BOS> (Beginning of Sequence)**는 생성 과정 전반에 걸쳐 지속적으로 높은 주의력을 받는다는 현상입니다.
이 <BOS> 토큰은 의미적으로 희소하지만, 모델이 가장 안정적으로 주의를 기울이는 '고정점' 역할을 합니다.

SINKTRACK 의 제안

저자들은 이 수동적인 <BOS> 토큰을 **능동적인 정보 앵커 (Information Anchor)**로 전환하는 방법을 제안합니다.

탐색 과정 (Exploration):
- 하드 인젝션 (Hard Injection): KV 캐시 내의 <BOS> Value 벡터를 외부 정보 (이미지/지시 특징) 로 직접 대체 시도. → 모델 붕괴 발생. (모델의 계산 흐름을 교란시킴)
- 소프트 인젝션 (Soft Injection): 평균 풀링된 정보 벡터를 <BOS>의 은닉 상태와 가중 합으로 융합. → 성능 향상되나, 하이퍼파라미터 (강도 $\alpha$ ) 에 의존적이고 노이즈가 발생할 수 있음.
최종 솔루션: SINKTRACK (듀얼 트랙 어텐션 메커니즘)
- 트랙 1 (적응형 주입): <BOS> 토큰만을 위해 **크로스 어텐션 (Cross-Attention)**을 수행합니다. <BOS>의 은닉 상태를 Query 로, 외부 맥락 정보 (평균 풀링된 특징 또는 압축되지 않은 전체 시퀀스) 를 Key/Value 로 사용하여 적응적으로 정보를 추출하고 주입합니다.
- 트랙 2 (원본 계산 흐름 보존): 나머지 모든 토큰은 모델의 원래 자기 어텐션 (Self-Attention) 계산 흐름을 그대로 유지합니다.
- 결과: 두 트랙을 병렬로 실행하여 <BOS>를 통해 맥락을 유지하면서도 모델의 원본 구조를 훼손하지 않습니다.
- 최적화: 정보 손실을 줄이기 위해 긴 컨텍스트에서는 평균 풀링을 제거하고 압축되지 않은 전체 특징 시퀀스를 소스로 사용합니다.

3. 주요 기여 (Key Contributions)

새로운 패러다임: 주의력 드리프트 (Drift) 와 주의력 싱크 (Sink) 의 상호작용을 활용하여, 수동적인 싱크를 능동적인 맥락 앵커로 재설계한 최초의 연구입니다.
훈련 불필요 (Training-free) 및 플러그 앤 플레이: 모델을 재학습시키지 않고 추론 시 (Inference-time) 에만 적용 가능합니다.
효율성: 주입 작업은 생성 전 한 번만 수행되며, KV 캐시에 저장되어 이후 자동 회귀 (Auto-regressive) 단계에서의 계산 오버헤드는 무시할 수준입니다.
범용성: 텍스트 기반 LLM 과 멀티모달 LLM(MLLM) 모두에서, 다양한 아키텍처와 규모 (3B~12B) 에서 효과적입니다.

4. 실험 결과 (Results)

SINKTRACK 은 Direct Prompting 과 Chain-of-Thought (CoT) 기법을 기반으로 한 여러 벤치마크에서 일관된 성능 향상을 보였습니다.

멀티모달 태스크 (M3CoT, POPE 등):
- Qwen2.5-VL-7B 모델에서 CoT 대비 M3CoT 벤치마크 정확도가 22.8% 향상되었습니다.
- 객체 할루시네이션을 측정하는 POPE 벤치마크에서도 정확도와 Macro-F1 점수가 크게 개선되었습니다.
텍스트 기반 태스크 (SQuAD2.0, QuAC):
- Llama3.1-8B 모델에서 SQuAD2.0 정확도가 21.6% 향상되었습니다.
- 긴 대화 맥락 (QuAC) 에서 초기 지시를 잊어버리는 현상이 현저히 줄어들었으며, CoT 대비 긴 컨텍스트일수록 성능 격차가 벌어졌습니다.
안정성: SINKTRACK 은 다양한 랜덤 시드에서 낮은 분산을 보이며, 모델의 추론 과정 안정성을 높이는 것으로 확인되었습니다.

5. 의의 및 결론 (Significance)

할루시네이션 및 맥락 망각 해결: 모델의 내부 계산 흐름을 변경하지 않으면서, <BOS> 토큰을 고정보준 (Anchor) 으로 활용하여 정보 소실을 방지합니다.
정보 전달 메커니즘 분석: SINKTRACK 이 <BOS>의 Value 벡터에 정보를 성공적으로 인코딩하고, 생성 과정에서 이 앵커에 대한 주의력이 지속적으로 유지됨을 정보 흐름 분석을 통해 입증했습니다.
실용성: 추가 학습 비용 없이 기존 모델의 신뢰성을 높일 수 있는 경량화된 솔루션을 제공하여, LLM 의 실제 배포 (Critical Applications) 에 기여할 수 있습니다.

이 논문은 LLM 의 구조적 특성을 역이용하여 (Attention Sink) 모델의 가장 큰 약점 (Attention Drift) 을 보완하는 혁신적인 접근법을 제시했습니다.