논문 요약: 인간과 대규모 언어 모델 (LLM) 의 암시적 정보 해석 비교

이 논문은 인간과 대규모 언어 모델 (LLM) 이 텍스트의 **암시적 정보 (Implicit Information)**를 어떻게 해석하고 추출하는지 비교 분석한 연구입니다. 저자들은 인간 간 소통과 인간-LLM 상호작용 간의 해석 프레임워크 차이를 규명하기 위해 **암시적 정보 추출 (Implicit Information Extraction, IIE)**이라는 새로운 작업을 제안하고, 이를 위한 파이프라인을 개발하여 실험했습니다.

1. 연구 배경 및 문제 정의

• 문제점: 인간은 텍스트의 명시적 의미뿐만 아니라 문맥, 상식, 화자의 의도 등을 바탕으로 암시적 의미를 능동적으로 추론하며 소통합니다. 하지만 LLM 이 생성한 텍스트를 인간이 해석하거나, LLM 이 암시적 의미를 추출할 때 이러한 협력적 해석 프레임워크가 동일하게 적용되는지 여부는 불분명합니다.
• 연구 목적: LLM 과 인간이 암시적 정보를 추출하고 해석하는 방식의 차이 (특히 추론의 엄격성, 커버리지, 시간적 관계 파악 능력) 를 정량적, 정성적으로 비교 분석하는 것입니다.
• 핵심 연구 질문 (RQ):
  1. LLM 과 인간의 추론 주요 동인은 무엇인가?
  2. 잠재적 추론을 평가할 때 LLM 과 인간 중 누가 더 엄격한가?
  3. LLM 은 사건 간의 시간적 관계를 효과적으로 파악할 수 있는가?
  4. 인간 간 합의 (Consensus) 는 얼마나 강력한가?

2. 방법론: 암시적 정보 추출 (IIE) 파이프라인

저자들은 LLM 의 파라미터 접근이나 파인튜닝 없이도 적용 가능한 Few-shot Prompting 기반의 자동화된 파이프라인을 제안했습니다. 이 파이프라인은 입력 문맥 문장에서 구조화된 지식 그래프 (Knowledge Graph, KG) 를 생성하며, 크게 세 단계로 구성됩니다.

1. 정보 추출 (Information Extraction):
   • 명시적 추출: 텍스트에 명시된 엔티티와 관계를 (주어, 관계, 목적어) 형태의 삼중항 (Triplet) 으로 추출합니다.
   • 암시적 추출: 텍스트에 명시되지 않았지만 문맥과 상식 (ATOMIC taxonomy 기반) 을 통해 추론 가능한 삼중항을 추출합니다. 이 단계에서는 중첩된 삼중항 (Nested Triplets) 을 처리하기 위해 RDF 재실체화 (Reification) 기법을 차용하여 복잡한 문법 구조를 표현합니다.
2. 추론 검증 (Inference Validation):
   • 추출된 암시적 삼중항의 타당성을 검증합니다. LLM 이 스스로 비판자 (Critic) 역할을 수행하여 근거가 부족하거나 비현실적인 추론을 폐기하거나 수정합니다.
   • 폐기된 삼중항에 대한 이유와 수정안을 생성하며, 무한 루프를 방지하기 위해 최대 3 회까지 검증/수정 과정을 거칩니다.
3. 시간적 분석 (Temporal Analysis):
   • 추출된 삼중항들을 사건 (Event) 또는 상태 (State) 로 분류하고, 절대적 시간 참조를 추출합니다.
   • 삼중항 쌍 간의 시간적 관계 (이전, 이후, 동시, 없음) 를 분석하여 타임라인을 구성합니다.

3. 실험 설정

• 데이터셋: 사회적 상호작용이 풍부한 SocialIQA와 사실 중심의 짧은 문맥을 가진 COPA 데이터셋에서 각각 15 개씩 총 30 개의 문장을 사용했습니다.
• 모델: Mistral Large 2 와 GPT-4o mini 두 가지 LLM 을 평가 대상으로 선정했습니다.
• 인간 평가: SocialIQA 는 206 명의 대학생, COPA 는 75 명의 MTurk 작업자가 참여하여 각 문맥에 대한 삼중항의 사실성, 추론 가능성, 오류 수정, 시간 관계 등을 평가했습니다.
• 평가 지표: 모델 - 인간 합의율 (Model-Human Agreement, MHA), 코헨의 카파 (Cohen's $\kappa$), 인간이 추가한 삼중항의 수, 모델이 폐기한 삼중항 중 인간이 사실로 간주한 비율 등.

4. 주요 결과 및 발견

4.1 모델 - 인간 합의도 (MHA)

• 전반적으로 모델과 인간의 합의도는 중간 수준이었습니다.
• Mistral이 GPT보다 대부분의 태스크에서 더 높은 합의도를 보였습니다.
• 가장 높은 합의: 모델 오류 수정 (Model Error Correction) 및 사건/상태 분류.
• 가장 낮은 합의: 시간적 관계 비교 (Timing Comparison). 인간은 명시적이지 않은 시간 관계도 추론하는 반면, 모델은 매우 보수적으로 "관계 없음"을 선택하는 경향이 있었습니다.

4.2 추론의 엄격성 (Strictness)

• SocialIQA (사회적 맥락): LLM 이 인간보다 훨씬 더 엄격했습니다. 모델이 '오류 (Wrong)'로 폐기한 많은 삼중항을 인간은 '사실 (Factual)' 또는 '추론 가능 (Deducible)'으로 간주했습니다. 이는 모델이 사회적 맥락에서의 암시적 추론을 과소평가하거나 과도하게 폐기 (Over-pruning) 하는 경향이 있음을 시사합니다.
• COPA (사실 중심 맥락): LLM 과 인간의 엄격성 차이가 줄어들었습니다. 오히려 COPA 의 짧은 사실 중심 문맥에서는 인간이 모델보다 더 엄격하게 추론을 폐기하는 경향을 보였습니다. 이는 문맥이 짧고 사실적일수록 인간도 추측성 추론을 경계하기 때문입니다.

4.3 커버리지 및 추론 유형

• 커버리지 부족: 인간 평가자들은 모델이 추출하지 못한 많은 추가 삼중항을 제안했습니다. 특히 전제 조건 (Pre-conditions), 결과 조건 (Post-conditions), 감정/의도와 같은 추론 유형에서 모델의 생성량이 인간보다 현저히 적었습니다.
• 할루시네이션: 검증 (Validation) 단계 이후에는 할루시네이션이 거의 사라졌으며, 모델이 생성한 삼중항의 정확성은 높았습니다.

4.4 인간 간 합의

• 모든 태스크에서 인간 평가자들 간의 합의는 무작위 추측보다 유의미하게 높았습니다.
• 그러나 추론 검증 (Inference Correction) 및 시간적 관계 태스크에서는 인간 간 합의가 상대적으로 낮았으며, 이는 이러한 영역이 본질적으로 주관적이고 해석의 여지가 많음을 보여줍니다.

5. 결론 및 의의

• 핵심 기여: 암시적 정보 추출을 위한 체계적인 파이프라인을 제안하고, LLM 과 인간의 암시적 해석 방식을 정량적으로 비교한 최초의 연구 중 하나입니다.
• 주요 시사점:
  1. 맥락 의존성: LLM 의 추론 엄격성은 텍스트의 성격 (사회적 vs 사실적) 에 따라 역전될 수 있습니다.
  2. 보수적 추론: LLM 은 특히 사회적 맥락에서 인간보다 암시적 추론을 꺼리는 경향이 있어, 커버리지 측면에서 한계가 있음을 확인했습니다.
  3. 시간적 추론의 한계: LLM 은 명시적이지 않은 시간적 관계를 파악하는 데 어려움을 겪고 있습니다.
• 의의: 이 연구는 LLM 이 인간과 동일한 방식으로 텍스트를 '이해'하지 않을 수 있음을 보여주며, LLM 기반 애플리케이션 (법률, 저널리즘, 연구 등) 에서 암시적 정보 처리 시 인간의 개입이나 추가 검증이 필요함을 시사합니다. 또한, LLM 의 해석 능력을 향상시키기 위해 도메인별 및 태스크별 튜닝이 필요함을 강조합니다.

이 논문은 LLM 의 내부 지식과 추론 능력을 투명하게 분석하고, 인간과의 상호작용에서 발생할 수 있는 해석적 괴리를 이해하는 데 중요한 기초를 제공합니다.