💻 computer science

Context Attribution with Multi-Armed Bandit Optimization

이 논문은 토큰 로그 확률을 보상으로 활용하는 선형 톰슨 샘플링 기반의 다중 암 밴딧 프레임워크를 제안하여, 검색된 문맥 중 생성 답변에 가장 중요한 부분을 효율적으로 식별하고 기존 방법 대비 최대 30% 의 모델 쿼리 비용을 절감하는 새로운 컨텍스트 속성 기법을 소개합니다.

원저자: Deng Pan, Keerthiram Murugesan, Ting Hua, Nuno Moniz, Nitesh Chawla

게시일 2026-04-23

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Deng Pan, Keerthiram Murugesan, Ting Hua, Nuno Moniz, Nitesh Chawla

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"대형 언어 모델 (LLM) 이 답변을 할 때, 정확히 어떤 정보에 의존했는지 찾아내는 방법"**을 연구한 것입니다.

기존 방법들은 너무 비싸고 느려서 실용적이지 않았는데, 이 논문은 "복권 당첨 번호를 찾는 게임" 같은 아이디어로 이 문제를 해결했습니다.

이해하기 쉽게 세 가지 핵심 비유로 설명해 드릴게요.

1. 문제 상황: "수천 장의 문서 속에서 정답 찾기"

생각해 보세요. AI 가 "누가 2024 년 노벨상 수상자야?"라고 물었을 때, AI 는 인터넷에서 가져온 **수천 개의 문서 (문장)**를 읽습니다. 그리고 정답을 말하죠.

하지만 여기서 의문이 듭니다.

"AI 가 정말 그 문서를 보고 답을 한 걸까? 아니면 그냥 AI 가 원래 알고 있던 지식을 말한 걸까?"

이걸 확인하려면, 어떤 문장이 없으면 AI 가 답을 못 하게 되는지 하나씩 지워가며 확인해야 합니다. 하지만 문장이 1,000 개라면, 모든 조합을 다 지워보려면 수천 번이나 AI 에게 질문을 해야 합니다. 이는 돈도 많이 들고 시간도 너무 오래 걸리는 일입니다.

2. 기존 방법의 한계: "모든 주사위를 다 굴려보기"

기존의 방법 (SHAP 같은 것들) 은 마치 복권 번호를 맞추기 위해 모든 번호 조합을 다 시도해 보는 것과 비슷합니다.

"1 번 번호가 중요할까? 2 번은? 1 번과 2 번을 같이 지웠을 때는?"
이렇게 무작위로 혹은 모든 경우의 수를 다 확인하려다 보니, 비용이 너무 비싸고 결과가 나오기까지 시간이 너무 오래 걸립니다.

3. 이 논문의 해결책: "CAMAB (현명한 탐험가)"

이 논문은 **"CAMAB"**라는 새로운 방법을 제안합니다. 이 방법은 **다중 팔 밴딧 (Multi-Armed Bandit)**이라는 게임 이론을 사용합니다.

🎰 비유: "슬롯머신과 현명한 도박사"

상황: 슬롯머신이 100 개 있습니다 (100 개의 문장). 그중 몇 개만 뽑으면 큰 상금 (정확한 답변) 을 줍니다.
기존 방법: 100 개 슬롯머신을 모두 무작위로 당겨보며 상금이 나오는지를 확인합니다. (비효율적)
CAMAB 의 방법:
1. 현명한 추측: 처음엔 무작위로 몇 개를 당겨봅니다.
2. 학습: "아, 5 번과 12 번을 당겼을 때 상금이 많이 나왔네? 저 두 개는 중요한 문장이겠군."
3. 적응: 다음엔 5 번과 12 번을 더 자주 당기면서, 혹시 다른 문장 (예: 3 번) 이랑 같이 당겼을 때 더 잘 나올지 확인합니다.
4. 결과: 전체 시도 횟수를 30% 이상 줄이면서도, 가장 중요한 문장 (상금 주는 문장) 을 정확히 찾아냅니다.

이 논문은 **"선 (Linear) Thompson Sampling"**이라는 수학적 도구를 써서, "어떤 문장 조합이 가장 유망한지"를 지능적으로 예측하며 찾아냅니다.

4. 왜 이 방법이 특별한가?

돈과 시간을 아낍니다:
기존 방법보다 질문 횟수 (비용) 를 30% 이상 줄이면서도 같은 정확도를 냅니다. 마치 100 번 시도할 일을 70 번으로 줄여서 같은 결과를 얻는 것과 같습니다.
상호작용을 알아챕니다:
어떤 문장 하나만 떼어내면 안 중요해 보일지라도, 다른 문장과 짝을 이루면 아주 중요해질 수 있습니다. (예: "사과"와 "빨간색"이 따로는 중요하지 않지만, 함께 있으면 "사과"를 설명하는 데 필수적임)
CAMAB 는 문장들 사이의 미묘한 연결고리까지 파악해서, "이 두 문장은 같이 있어야 해!"라고 알아냅니다.
블랙박스도 가능합니다:
AI 의 내부 작동 원리 (코드) 를 몰라도, 입력과 출력만 보고도 중요한 정보를 찾아낼 수 있습니다. (구글이나 오픈AI 같은 대형 모델에도 적용 가능)

5. 결론: "핵심만 쏙쏙 뽑아내는 스마트한 비서"

이 논문의 CAMAB 는 방대한 정보 속에서 AI 가 실제로 믿고 있는 '진짜 근거'를 빠르고 정확하게 찾아내는 스마트한 비서입니다.

기존: "모든 문장을 다 확인해 봐야겠어." (시간 걸림, 비용 폭탄)
CAMAB: "이 문장들이 핵심일 것 같아. 이걸 먼저 확인하고, 필요하면 다른 것도 살짝만 더 확인하자." (빠름, 효율적)

이 기술을 사용하면, AI 가 왜 그런 답을 했는지 신뢰할 수 있게 설명해 줄 수 있고, 개발자들은 훨씬 적은 비용으로 AI 의 오류 (할루시네이션) 를 찾아낼 수 있게 됩니다.

한 줄 요약:

"수천 개의 문서 중에서 AI 가 진짜로 참고한 문장을, 모두 다 확인하지 않고도 '지능적인 추측'으로 빠르고 정확하게 찾아내는 새로운 방법입니다."

1. 연구 배경 및 문제 정의 (Problem)

배경: 검색 증강 생성 (RAG) 은 외부 컨텍스트를 활용하여 대형 언어 모델 (LLM) 의 사실적 정확도를 높이는 핵심 기술입니다. 그러나 LLM 은 할루시네이션 (환각) 을 일으키거나 컨텍스트와 무관한 정보를 생성할 수 있어, 어떤 컨텍스트 조각 (segment) 이 실제 답변 생성에 기여했는지 정확히 규명 (Attribution) 하는 것이 신뢰할 수 있는 RAG 시스템 구축에 필수적입니다.
기존 방법의 한계:
- 생성 중 인용 (Training-based): 모델이 직접 인용을 생성하도록 학습시키지만, 실제 추론 과정에서 의존한 컨텍스트를 반영하는지 검증이 어렵습니다.
- 사후 분석 (Post-hoc, 예: SHAP, ContextCite): 컨텍스트 조각을 무작위로 마스킹하거나 교란 (perturbation) 하여 출력 변화를 측정합니다.
- 문제점: 이러한 기존 방법들은 모든 가능한 부분집합을 균일하게 샘플링하거나 무작위로 탐색하기 때문에, 긴 컨텍스트 (Long-context) 환경에서 엄청난 계산 비용과 LLM 쿼리 횟수가 요구되어 실용성이 떨어집니다.

2. 제안 방법: CAMAB (Methodology)

저자들은 컨텍스트 속성 (Attribution) 문제를 결합 다중 팔 밴딧 (Combinatorial Multi-Armed Bandit, CMAB) 문제로 재정의하고, 이를 해결하기 위해 선형 톰슨 샘플링 (Linear Thompson Sampling, LinTS) 을 활용한 프레임워크 CAMAB를 제안했습니다.

핵심 구성 요소:

문제 공식화 (Problem Formulation):
- 각 컨텍스트 조각 (문장 등) 을 '팔 (Arm)'로 간주합니다.
- 여러 조각을 선택하는 행동을 '슈퍼-암 (Super-arm)'으로 정의합니다.
- 보상 함수 (Reward): 특정 컨텍스트 하집합 $S$ 를 입력했을 때, LLM 이 원래 답변 $R$ 을 생성할 확률 (토큰 로그-확률) 의 평균을 보상으로 정의합니다.
  $V(S) = \frac{1}{T} \sum_{t=1}^{T} \log P_M(r_t | Q, S, r_{<t})$
- 이 보상 함수는 오픈소스 모델과 블랙박스 API 기반 모델 모두에 적용 가능합니다.
선형 톰슨 샘플링 (Linear Thompson Sampling):
- 선형 가정: 보상은 개별 조각의 기여도 (가중치 $w$ ) 의 선형 합으로 근사된다고 가정합니다.
- 베이지안 업데이트: 각 라운드에서 불확실성을 고려하여 가중치 벡터 $w$ 를 샘플링하고, 이를 기반으로 가장 유망한 컨텍스트 하집합을 선택하여 LLM 에 쿼리합니다.
- 상호작용 포착: 선형 모델을 사용하지만, 정밀 행렬 (Precision Matrix, $B_t$ ) 을 통해 조각 간의 공선성 (co-selection) 통계를 누적함으로써, 조각 간의 상호작용 (synergy) 을 암묵적으로 포착합니다.
알고리즘 흐름:
- 초기 사전 분포 설정 $\rightarrow$ 가중치 샘플링 $\rightarrow$ 양 (+) 인 가중치를 가진 조각들로 하집합 구성 $\rightarrow$ LLM 쿼리 및 보상 관측 $\rightarrow$ 베이지안 업데이트 (정밀 행렬 및 정보 벡터 갱신) $\rightarrow$ 최종 가중치 (속성 점수) 산출.

3. 주요 기여 (Key Contributions)

새로운 문제 정의: 세그먼트 수준의 컨텍스트 속성 문제를 결합 다중 팔 밴딧 (CMAB) 문제로 공식화했습니다.
효율적인 탐색 알고리즘: 선형 톰슨 샘플링 (LinTS) 을 적용하여 제한된 쿼리 예산 하에서 적응적으로 컨텍스트 하집합을 탐색함으로써, 기존 방법 대비 쿼리 효율성을 극대화했습니다.
검증: HotpotQA, CNN/DailyMail, TyDi QA 등 3 개의 다양한 벤치마크와 LLaMA-3.1, Qwen2.5 등 2 개의 최신 LLM 을 사용하여 블랙박스 환경에서의 효과성을 입증했습니다.

4. 실험 결과 (Results)

쿼리 효율성: CAMAB 는 기존 방법 (SHAP, ContextCite) 보다 최대 30% 적은 모델 쿼리로 동등하거나 더 나은 속성 품질을 달성했습니다.
- 예: HotpotQA 에서 CAMAB 는 40 쿼리로 SHAP 의 60 쿼리 성능을 능가했습니다.
정확도 (Attribution Quality):
- Log-Probability Drop: 중요한 정보를 제거했을 때 모델의 확률 하락폭이 커야 정확합니다. CAMAB 는 모든 데이터셋과 $k$ 값 (Top-k) 에서 SHAP 및 ContextCite 보다 높은 점수를 기록했습니다.
- BERTScore: 제거된 조각으로 인한 의미적 변화가 클수록 (점수가 낮을수록) 좋습니다. CAMAB 는 SHAP 와 유사하거나 더 낮은 점수 (더 높은 정확도) 를 보였습니다.
Gold Fact 정합성: HotpotQA 의 인간이 작성한 정답 (Gold Supporting Facts) 과의 정합성을 평가한 결과, CAMAB 는 SHAP 보다 Precision@1(0.780 vs 0.680) 및 F1 등 모든 지표에서 우월한 성능을 보였습니다.
계산 오버헤드: CAMAB 의 $O(N^3)$ 행렬 업데이트 오버헤드는 LLM 추론 비용에 비해 무시할 수준이며, 오히려 더 짧은 컨텍스트 하집합을 선택하여 전체 실행 시간을 단축했습니다.

5. 의의 및 결론 (Significance)

저비용 고효율 솔루션: LLM 쿼리 비용과 지연 시간이 중요한 현실적인 환경 (블랙박스 API 등) 에서, 제한된 예산으로 가장 영향력 있는 컨텍스트 조각을 신속하게 식별할 수 있는 확장 가능한 솔루션을 제공합니다.
신뢰할 수 있는 RAG: 생성된 답변이 어떤 근거에 기반했는지 투명하게 설명 (Explainability) 할 수 있게 하여, RAG 시스템의 신뢰성과 해석 가능성을 크게 향상시킵니다.
적응형 탐색: 무작위 또는 균일 샘플링의 비효율성을 극복하고, 베이지안 추정을 통해 정보량이 많은 하집합을 지능적으로 탐색하는 새로운 패러다임을 제시했습니다.

요약하자면, CAMAB 는 LLM 의 컨텍스트 의존성을 분석할 때 발생하는 막대한 계산 비용을 다중 팔 밴딧 알고리즘을 통해 획기적으로 줄이면서도, 기존 방법보다 더 정확하고 빠른 속성 분석을 가능하게 한 획기적인 프레임워크입니다.