기술 요약: 지식 없는 언어 모델 (Knowledgeless Language Models, KLLMs)

문제 정의

대규모 언어 모델(LLM)은 사전 학습 과정에서 방대한 사실적 지식을 습득하며, 이는 파라미터에 인코딩된다. 이러한 특성은 광범위한 능력을 가능하게 하지만, 내부의 파라미터 지식이 오래되었거나, 불완전하거나, 제공된 문맥과 일치하지 않을 때 발생하는 신뢰할 수 없는 동작, 즉 환각(hallucination) 현상을 초래한다. 검색 증강 생성(RAG)과 같은 표준 완화 전략은 모델이 여전히 사실을 암기하고 재현하도록 사전 학습되어 있기 때문에 종종 실패한다. 이는 모델이 외부 증거가 존재함에도 불구하고 증거 기반 추론 대신 파라미터 회상(parametric recall)에 의존하게 만드는 미스매치를 생성한다. 본 연구가 다루는 핵심 질문은, 추론 능력을 희생하지 않으면서도 사전 학습 신호를 수정하여 모델을 파라미터 회상으로부터 체계적으로 멀어지게 하고 증거에 기반한 추론으로 전환할 수 있는가 하는 점이다.

방법론

저자들은 학습 코퍼스의 명명된 개체(named entities)를 체계적으로 익명화함으로써 사전 학습 신호를 수정하는 학습 패러다임인 **지식 없는 언어 모델(KLLMs)**을 소개한다.

• 코퍼스 익명화: 사전 학습 데이터는 최첨단 개체명 인식(NER) 모델(XLM-R 임베딩을 사용하는 Flair 프레임워크)을 사용하여 처리된다. 식별된 모든 명명된 개체(예: 인물, 조직, 위치)는 고유한 플레이스홀더 토큰(예: PERSON184, ORG42)으로 대체된다. 의미론적 일관성과 가독성을 유지하기 위해 수치 및 시간 값은 그대로 유지한다.
• 학습 절차: KLLM은 이 익명화된 코퍼스 상에서 표준적인 자기회귀 다음 토큰 예측 목적 함수를 사용하여 처음부터 학습된다. 아키텍처 상의 변경은 없으며, KLLM은 익명화되지 않은 원본 데이터로 학습된 표준 언어 모델(SLM)과 동일한 아키텍처, 토크나이저 및 최적화 설정을 공유한다.
• 추론 파이프라인: 추론 시에는 동일한 익명화 절차가 쿼리 및 동반되는 문맥에 적용된다. 모델은 익명화된 입력을 바탕으로 응답을 생성하며, 이후 개체 이름을 표준 자연어로 다시 매핑하기 위한 후처리 단계가 수행된다.
• 실험 설정: 본 연구는 다양한 규모(135M에서 3B 파라미터까지)와 데이터 크기(2.5B, 10B, 20B 토큰)에 걸쳐 모델을 평가한다. 비교 대상은 매칭된 SLM 베이스라인 및 원본 사전 학습된 체크포인트이다.

주요 기여

1. 인식론적 학습 패러즘: 본 논문은 LLM이 지식을 습득하는 방식에 대한 근본적인 변화를 제안하며, 개체 연결 감독(entity-linked supervision)을 억제하는 것이 파라미터 메모리가 아닌 외부 증거에 대한 의존을 유도함을 입증한다.
2. 통제된 경험적 연구: 엄격한 절제 연구(ablation studies)와 매칭된 베이스라인을 통해, 저자들은 개체 익명화가 일반적인 데이터 손상이나 정규화로부터 분리된 효과임을 격리하여 보여줌으로써, 개체 제거의 특정 구조가 핵심 동력임을 증로한다.
3. 포괄적 평가: 본 연구는 네 가지 별도 차원에서 KLLM을 평가한다:
   • 폐쇄형(closed-book) 사실 회상 (파라미터 지식 억제 측정).
   • 문맥 기반 질의응답 및 추론.
   • 검색 기반 추론 (희소, 밀집 및 도구 증강 설정 포함).
   • 교정(calibration) 및 선택적 예측 (기권 행동).

결과

경험적 결과는 모델 규모 전반에 걸쳐 일관된 패턴을 보여준다:

• 파라미터 회상의 억제: KLLM은 폐쇄형 사실 회상에서 거의 완전한 붕괴를 보인다. LAMA 및 문맥 없는 SQuAD와 같은 벤치마크에서 KLLM의 정확도는 무작위 수준(~3-4%)으로 떨어졌다 (SLM의 ~35-40% 대비). 이는 개체 연결된 사실 기억의 성공적인 제거를 확인시켜 준다.
• 문맥 추론 능력 향상: 관련 정보가 문맥으로 제공될 때, KLLM은 표준 LLM과 대등하거나 이를 능가한다. 이들은 사실적 QA, 사실 검증(FEVER), 환각 탐지(HaluBench)에서 일관된 이득을 보였으며, 환각 탐지에서의 정확도는 최대 +10.4%까지 향상되었다.
• 검색 기반 환경에서의 견고성: 불완전하거나 노이즈가 있는 증거가 있는 환경에서 KLLM은 우수한 견고성을 보여준다. 이들은 검색 증강 QA에서 SLM 대비 20~25%의 상대적 이득을 달성했다. 특히, KLLM은 증거가 불충분할 때 더 높은 기권율(abstention rates)을 보이는데, 이는 증거 품질에 대한 정렬이 더 잘 되어 있음을 나타낸다.
• 향상된 교정(Calibration): KLLM은 낮은 기대 교정 오차(ECE) 및 Brier 점수, 높은 AUROC를 포함한 여러 지표에서 개선된 교정 성능을 보인다. 이들은 더 신뢰할 수 있는 확신 신호와 정답 및 오답 예측 간의 더 나은 분리 능력을 제공한다.
• 상식 추론: 개체를 제거하는 것이 일반적인 추론을 해칠 것이라는 가설과 달리, KLLM은 상식 벤치마크(CommonsenseQA, StrategyQA, PIQA)에서 베이스라인을 지속적으로 능가하였다. 이는 익명화가 암기된 연상보다는 구조적 및 관계적 패턴에 대한 의존을 장려함을 시사한다.
• 학습 역학: KLLM은 SLM보다 높은 사전 학습 손실(loss)을 보이는데, 이는 익명화된 목적 함수가 더 어렵다는 것을 의미하며, 이것이 용이한 최적화나 학습 부족의 결과가 아님을 나타낸다.

의의 및 주장

본 논문은 사전 학습 목적 함수가 언어 모델의 인식론적 행동을 근본적으로 형성한다고 주장한다. 개체 연결된 감독을 억제함으로써, KLLM은 파라미터 지식에 덜 의존하고 외부 증거에 더 많이 의존하도록 유도된다. 이는 사전 학습 단계에서의 지식 습득 제어가 검색 증강 및 도구 기반 시스템을 보완할 수 있는, 증거 품질에 본질적으로 더 민감하고 환각에 덜 취약한 베이스 모델을 제공할 수 있음을 시사한다.

저자들은 KLLM을 모든 맥락에서 표준 모델을 대체하는 것이 아니라, 신뢰성, 근거 기반(groundedness), 그리고 뒷받침되지 않는 답변에 대해 기권할 수 있는 능력이 중요한 시나리오를 위한 특화된 솔루션으로 포지셔닝한다. 본 연구는 추론 능력과 사실적 암기를 분리하는 것이 가능하다는 것을 보여주며, 더욱 제어 가능하고 신뢰할 수 있는 언어 모델로 가는 경로를 제시한다. 관찰된 효과는 스케일링 법칙과 절제 분석 전반에 걸쳐 지속되며, 이는 익명화 메커니즘이 이러한 인식론적 변화의 핵심 동력이라는 결론을 뒷받ic한다.