기술적 요약: MULTIHALUDET

문제 정의

대규모 언어 모델 (LLM) 의 환각 현상은, 특히 비영어권 및 자원이 제한된 환경에서 모델의 신뢰할 수 있는 배포를 위한 주요 장벽이 됩니다. 기존 탐지 방법들은 다음과 같은 중대한 한계에 직면해 있습니다:

• 증거 기반 방법은 외부 검색에 의존하여 계산 지연을 초래하고 검색 품질에 대한 의존성을 야기합니다.
• 신뢰도 기반 휴리스틱(예: 로그 확률, 엔트로피)은 모델이 높은 출력 신뢰도를 보일 때조차 환각이 의미 수준의 허구적 생성으로 나타날 수 있으므로, 심층적인 사실적 불일치를 포착하는 데 종종 실패합니다.
• 내부 상태 프로빙 방법은 종종 단일 토큰이나 특정 레이어에 초점을 맞추어, 비사실적 토큰이 시퀀스 전체에 분포되거나 모델의 깊이가 다를 때 어려움을 겪습니다. 또한 이러한 방법들은 언어별 미세 조정 없이는 유형학적으로 다양한 언어 간에 견고성이 부족한 경우가 많습니다.

방법론: MULTIHALUDET

저자들은 고정된 LLM 의 전체 숨겨진 상태 궤적을 프로빙하여 다국어 환각을 탐지하도록 설계된 4 단계 감독 프레임워크인 MULTIHALUDET을 제안합니다. 이 프레임워크는 언어별 미세 조정이 필요 없이 작동합니다.

1. LLM 기반 특징 추출

이 과정은 고정된 양자화된 LLM 을 통해 구조화된 프롬프트를 전달하여 숨겨진 상태 텐서 $\{H^{(l)}\}_{l=0}^L$를 추출하는 것으로 시작합니다.

• 동적 레이어 샘플링: 다양한 깊이 ($L$) 의 모델 간 호환성을 보장하기 위해, 동적 샘플링 전략이 레이어를 고정된 목표 개수 ($K=32$) 로 매핑합니다. 이는 얕은 모델의 경우 항등 매핑, 패딩을 위한 반복, 깊은 모델의 경우 균일 보간을 포함합니다.
• 순차적 레이어별 특징: 각 샘플링된 레이어에 대해 프레임워크는 마지막 토큰 표현과 시퀀스 평균으로부터 모두 압축된 기술자를 추출합니다. 이러한 기술자는 내부 역학의 진화를 포착하기 위해 분포 통계 (예: $\ell_2$ 노름, 평균, 표준 편차, 희소성, 첨도, 중앙값 절대 편차) 를 포함합니다.
• 앵커 기반 깊이 프로빙: 아키텍처 간 비교를 가능하게 하기 위해, 특징은 비례 깊이 분수 (초기, 중간, 후기 단계) 에 해당하는 네 개의 "앵커"레이어에서 추출되어 총 모델 깊이에 관계없이 일관된 의미 표현을 보장합니다.
• 전역 특징 벡터: 전역 벡터는 다음 토큰 확률, 로그 통계, 레이어별 노름 궤적, 그리고 출력 신뢰도와 내부 기하학 간의 교차 특징 상호작용 항을 집계합니다.

2. MultiHaluDet 아키텍처

추출된 특징은 딥러닝 아키텍처를 통해 처리됩니다:

• 멀티스케일 어텐션: 순차 입력은 여러 시간 해상도로 투영 및 처리됩니다. 학습된 위치별 게이트가 서로 다른 스케일로부터의 기여를 결합하여 미세한 레이어 정보를 멀티스케일 컨텍스트로 풍부하게 합니다.
• 레이어 가중 트랜스포머 인코더: 학습 가능한 중요도 벡터가 Pre-LN 트랜스포머 레이어 스택에 의해 인코딩되기 전에 융합된 시퀀스를 조절합니다. 이를 통해 모델은 특정 LLM 깊이에 주의를 기울이고 장거리 레이어 간 종속성을 포착할 수 있습니다.
• 자기 어텐션 풀링: 평균 풀링 대신 학습된 어텐션 메커니즘이 각 위치에 관련성 점수를 부여하여, 가장 정보량이 많은 레이어에 초점을 맞추기 위한 입력 적응형 깊이 선택을 가능하게 합니다.
• 게이트 퓨전: 순차적 표현은 전역 특징 벡터와 연결됩니다. 시그모이드 게이트는 분류기로 전달하기 전에 결과에 전달되기 전에 무의미한 차원을 억제하기 위해 요소별 재가중치를 수행합니다.

3. 아웃 - 오브 - 폴드 (OOF) 스태킹

데이터 누출을 방지하고 편향되지 않은 심층 표현을 얻기 위해, 프레임워크는 K-폴드 OOF 스태킹을 사용합니다. 모델의 새로운 인스턴스가 $K-1$폴드에서 훈련되어 홀드아웃 폴드에 대한 게이트 퓨전 표현을 생성합니다. 이러한 OOF 특징은 메타 러너를 위한 강력한 훈련 행렬을 형성합니다.

4. 앙상블 메타 러너

OOF 심층 특징은 다양한 분류기 (그래디언트 부스팅 트리, 랜덤 포레스트, SVM, MLP, 로지스틱 회귀) 의 앙상블로 입력됩니다. 로지스틱 메타 회귀기는 이러한 기본 학습자의 확률 추정치를 스태킹하여 각 구성 요소의 판별력에 따라 앙상블 구성을 적응시킵니다.

5. 다국어 적응

교차 언어 일반화를 평가하기 위해, 영어 데이터셋 (HaluEval 및 TriviaQA) 은 Gemini 2.5 Flash 를 사용하여 프랑스어 (고자원), 방글라어 (중자원), 암하라어 (저자원) 로 번역되었습니다. 엄격한 인간 평가와 역번역이 의미 무결성을 보장했습니다. 고정된 LLM 은 각자의 토큰 공간에서 이러한 입력을 원생적으로 처리하여, 탐지기가 언어 중립적인 환각 신호를 프로빙할 수 있도록 합니다.

주요 기여

1. 프레임워크 설계: 미세 조정 없이 사실적 불일치의 미세 및 거시 패턴을 포착하기 위해 동적 특징 추출, 멀티스케일 어텐션, OOF 심층 특징 생성, 학습된 앙상블 메타 러닝을 결합한 4 단계 프레임워크인 MULTIHALUDET 의 도입.
2. 성능 향상: Mistral-7B 및 LLaMA2-7B 를 사용하여 HaluEval 및 TriviaQA 벤치마크에서 최첨단 탐지 성능을 입증하여 최대 98.55% AUROC를 달성했습니다.
3. 교차 언어 일반화: 프랑스어, 방글라어, 암하라어와 같이 유형학적으로 다양한 언어 계층 전반에 걸쳐 언어별 미세 조정 없이 강력한 탐지 신호를 유지함을 보여주는 종합 평가.

결과

• 벤치마크 성능: MULTIHALUDET 은 신뢰도 기반 방법 (P(True), AvgProb), 일관성 기반 방법 (INSIDE, Unigram), 기타 프로빙 접근법 (SAPLMA, MIND, Neural ODEs/CDEs/SDEs) 을 포함한 13 개의 베이스라인을 크게 능가합니다.
  • HaluEval에서 LLaMA2-7B 를 사용할 때, 다음으로 가장 좋은 베이스라인 (Neural CDEs) 인 92.8% 대비 98.55% AUROC를 달성했습니다.
  • TriviaQA에서 LLaMA2-7B 를 사용할 때, 다음으로 가장 좋은 83.7% 대비 98.26% AUROC를 달성했습니다.
• 교차 아키텍처 견고성: Mistral-7B 에서 LLaMA2-7B 로 전환할 때 성능 저하를 겪는 베이스라인과 달리, MULTIHALUDET 은 아키텍처 전반에 걸쳐 거의 동일한 효과를 유지했습니다.
• 교차 언어 견고성:
  • 프랑스어: 성능이 높게 유지되었으며 (HaluEval 에서 96.2%), 영어 베이스라인을 약간만 뒤처졌습니다.
  • 방글라어: 통제된 저하를 보였으나 (HaluEval 에서 89.1%), 베이스라인 (78.4%) 을 크게 능가했습니다.
  • 암하라어: 기본 모델이 사실적 회상에서 어려움을 겪는 저자원 언어임에도 불구하고, MULTIHALUDET 은 HaluEval 에서 78.5% 를 달성하여 무작위 추측 및 표준 신뢰도 베이스라인을 넘어선 견고한 우위를 유지했습니다.
• 애블레이션 연구: OOF 스태킹 메커니즘을 제거하면 가장 심각한 성능 저하 (10%) 가 발생했으며, 이어 멀티스케일 어텐션 제거 (7%) 가 뒤따랐습니다. 궤적 프로빙을 정적 최종 레이어 표현으로 대체하면 약 5% 의 저하가 발생하여 전체 숨겨진 상태 진화를 분석하는 것의 필요성을 확인시켜 주었습니다.

의의 및 한계

본 논문은 MULTIHALUDET 이 미세 조정 없이 다양한 언어와 모델 아키텍처에 걸쳐 환각을 효과적으로 탐지할 수 있음을 내부 상태 프로빙을 통해 입증한다고 주장합니다. 이는 비영어권 컨텍스트에서 의미 수준의 허구적 생성을 포착하지 못하는 기존 방법들의 한계를 해결합니다.

그러나 저자들은 다음과 같은 구체적인 한계를 인정합니다:

• 화이트박스 요구 사항: 이 프레임워크는 내부 숨겨진 상태와 로그에 대한 접근이 필요하므로, GPT-4, Claude 와 같은 독점적 블랙박스 모델에는 적용할 수 없습니다.
• 계산 오버헤드: 미세 조정을 피하지만, 전체 깊이의 숨겨진 상태를 추출하고 처리하는 것은 상당한 메모리 오버헤드를 초래하며 완전한 순방향 통과를 필요로 합니다.
• 번역 아티팩트: 다국어 평가는 번역된 데이터셋에 의존합니다. 품질 보증이 엄격했음에도 불구하고, 저자원 언어의 원생적이고 자연스럽게 발생하는 프롬프트는 번역된 벤치마크에서 완전히 포착되지 않은 뉘앙스를 드러낼 수 있습니다.