1. 연구 배경 및 문제 제기 (Problem)

대형 언어 모델 (LLM) 은 자연어 처리를 혁신했지만, 사실과 다른 내용을 생성하는 할루시네이션 (Hallucination) 문제는 금융, 법률 등 고위험 분야에서 여전히 심각한 과제입니다. 기존 연구들은 할루시네이션을 모델 자체의 결함이나 디코딩 전략의 문제로 간주하고, 생성 후 (post-generation) 검증이나 RAG(검색 증강 생성) 와 같은 사전 입력 전략에 집중해 왔습니다.

하지만 이 논문은 사용자 쿼리의 형태 (Form) 자체가 모델의 응답을 어떻게 형성하는지에 주목합니다. 고전 언어학의 통찰을 바탕으로, 인간이 이해하기 어려운 특정 언어적 특징 (예: 복잡한 구문, 모호성, 부정문 등) 이 LLM 의 할루시네이션 발생 확률을 높이는지, 그리고 어떤 쿼리 특성이 위험을 증가시키거나 감소시키는지 실증적으로 규명하는 것을 목표로 합니다.

2. 방법론 (Methodology)

2.1 데이터 및 실험 설정

• 데이터셋: 13 개의 QA(질문 응답) 데이터셋 (SQuADv2, TruthfulQA, MMLU 등) 에서 수집된 369,837 개의 실제 세계 쿼리를 분석했습니다.
• 모델: 실험에는 gpt-4o-2024-08-06 모델을 사용했으며, 답변 생성과 문장 병렬화 (paraphrasing) 모두 동일한 프롬프트와 온도 (Temperature=1.0) 설정을 적용했습니다.
• 할루시네이션 측정 (Observed Risk):
  • 원본 쿼리에 대해 의미는 유지하되 어휘를 변경한 6 개의 병렬 문장 (paraphrases) 을 생성했습니다.
  • 각 병렬 문장에 대한 모델 응답의 정확도를 LLM 판정자 (LLM-judge), 퍼지 문자열 유사도, BLEU 점수를 가중치 (0.6, 0.3, 0.1) 로 결합한 합성 지수 ($\hat{h}$) 로 평가했습니다.
  • 리스크 분류: 6 개 중 0 개가 할루시네이션이면 'Safe', 13 개면 'Borderline', 46 개면 'Risky'로 분류했습니다.

2.2 언어적 특징 추출 (Feature Extraction)

인간의 이해를 방해하는 것으로 알려진 17 가지 차원의 이진 (Binary) 쿼리 특징을 정의하고 추출했습니다. 주요 범주는 다음과 같습니다:

• 모호성 및 복잡성: 구체성 부족 (Lack of Specificity), 다의어 (Polysemous Words), 화용론적 특징 (Pragmatic Features), 대명사 사용 (Anaphora Usage), 절의 복잡성 (Clause Complexity).
• 기반 (Grounding): 의도 기반 (Intention Grounding), 답변 가능성 (Answerability), 문맥적 제약 (Contextual Constraints).
• 기타: 부정문 사용 (Negation), 과도한 세부 사항 (Excessive Details), 주관성 (Subjectivity), 희귀 단어 사용 (Rare Word Usage), 최상급 사용 (Superlative Usage), 도메인 특이성 (Domain Specificity) 등.

2.3 통계 모델링

• 순서 로지스틱 회귀 (Ordinal Logistic Regression): 쿼리의 특징 ($x_i$) 과 관찰된 리스크 ($y_i \in \{Safe, Borderline, Risky\}$) 간의 관계를 모델링했습니다.
• 고정 효과 (Fixed Effects): 데이터셋 ($\alpha$) 과 시나리오 ($\gamma$, 추출/다지선다/추상적) 의 영향을 통제하기 위해 고정 효과를 포함했습니다.
• 교란 변수 통제: 각 특징에 대한 성향 점수 (Propensity Score) 를 추정하여 특징 간 중첩 (Overlap) 을 분석하고, 인과적 해석이 가능한지 확인했습니다.

3. 주요 기여 (Key Contributions)

1. 언어학 기반 특징 분류 체계: 인간의 언어 이해에 영향을 미치는 17 가지 특징을 체계적으로 정의하고 LLM 할루시네이션과의 연관성을 분석하는 프레임워크를 제시했습니다.
2. 대규모 실증적 '리스크 지도 (Risk Landscape)': 36 만 개 이상의 쿼리를 분석하여 특정 언어적 특징과 할루시네이션 발생률 간의 일관된 상관관계를 규명했습니다.
3. 실용적 가이드라인: 생성 전 (Pre-generation) 단계에서 쿼리를 최적화하여 할루시네이션을 사전에 예방할 수 있는 구체적인 재작성 (Rewrite) 전략을 제안했습니다.

4. 주요 결과 (Results)

4.1 리스크를 증가시키는 특징 (Risk-Increasing Features)

다음 특징들은 할루시네이션 확률과 강한 정적 상관관계를 보였습니다:

• 구체성 부족 (Lack of Specificity): 가장 큰 영향력을 미쳤습니다 (오즈비 OR=2.38). 맥락이나 제약 조건이 없는 광범위한 질문일수록 위험도가 높습니다.
• 절의 복잡성 (Clause Complexity): 중첩된 문장 구조는 모델의 해석을 불안정하게 만들어 위험을 증가시킵니다.
• 부정문 (Negation) 및 대명사 (Anaphora): 부정적 표현과 문맥 의존적 대명사는 해석의 모호성을 유발하여 리스크를 높입니다.
• 시나리오 불일치 (Query-Scenario Mismatch): 추출형 작업에 추상적 답변을 요구하는 등 쿼리와 주어진 컨텍스트가 맞지 않을 때 위험이 급증합니다.

4.2 리스크를 감소시키는 특징 (Protective Features)

다음 특징들은 할루시네이션 확률을 감소시키는 보호 요인으로 작용했습니다:

• 답변 가능성 (Answerability): 명확한 정답이 존재하거나 검증 가능한 질문은 할루시네이션을 크게 줄입니다 (가장 큰 보호 효과, OR=0.33).
• 의도 기반 (Intention Grounding): "요약하라", "비교하라"와 같이 사용자의 의도가 명확한 질문은 리스크가 낮습니다.
• 구체적 제약: 시간, 장소, 형식 등에 대한 명확한 제약 조건이 포함될수록 모델의 추론 범위가 좁혀져 정확도가 향상됩니다.

4.3 흥미로운 발견 (Surprising Findings)

• 인간과 모델의 실패 모드 불일치: 인간이 혼란스러워하는 것으로 알려진 희귀 단어 (Rare Words), 최상급 (Superlatives), 복잡한 부정문 등은 LLM 의 할루시네이션과 유의미한 상관관계를 보이지 않았습니다. 즉, 인간에게 어려운 언어가 반드시 LLM 에게도 위험한 것은 아닙니다.
• 도메인 특이성: 도메인 특이성 (Domain Specificity) 의 효과는 데이터셋과 모델의 사전 지식에 따라 일관되지 않았습니다.

4.4 시나리오별 차이

• 추상적 (Abstractive) 쿼리: 길이가 길어질수록 할루시네이션 위험이 급격히 증가합니다.
• 추출형 (Extractive) 쿼리: 길이에 관계없이 상대적으로 낮은 위험을 보입니다.
• 다지선다 (Multiple Choice): 중간 수준의 위험을 보입니다.

5. 의의 및 결론 (Significance & Conclusion)

이 연구는 할루시네이션이 단순히 모델의 결함이 아니라, 입력 쿼리의 언어적 구조에 기인한 부분이 크다는 것을 입증했습니다.

• 실용적 적용 (Practical Applications):
  1. 리스크 트라이어 (Risk Triage): inference 시 쿼리의 언어적 특징을 분석하여 고위험 쿼리를 식별하고, 이를 명확화 단계나 검색 도구 (RAG) 로 우회시킬 수 있습니다.
  2. 저비용 재작성 (Low-effort Rewrites):
     • 모호성을 제거하기 위해 시간, 장소, 개체 등의 구체적 제약을 추가합니다.
     • 사용자의 의도를 명시적으로 표현합니다 (예: "요약해 줘").
     • 다의어를 해소합니다 (예: "Java"가 언어인지 섬인지 명시).
• 미래 연구 방향: 생성 후 검증에 의존하기보다, 생성 전 입력을 최적화하는 적극적 (Proactive) 방어 전략의 중요성을 강조하며, 자동화된 쿼리 필터링 및 리라이팅 시스템 개발의 기초를 마련했습니다.

결론적으로, "좋은 쿼리"는 모델이 탐색해야 할 가설 공간을 제한하고 명확한 의도와 답변 가능성을 제공하는 쿼리이며, 이를 통해 LLM 의 신뢰성을 크게 향상시킬 수 있음을 시사합니다.