💬 NLP

Exploring the Reversal Curse and Other Deductive Logical Reasoning in BERT and GPT-Based Large Language Models

이 연구는 양방향 BERT 모델이 대칭적 논리 연산에서 자기회귀적 GPT 모델을 저해하는 "역전의 저주(Reversal Curse)"로부터 자유로운 반면, 두 아키텍처 모두 복잡한 다중 집합 연역 추론에는 어려움을 겪는다는 점을 밝혀내며, 이는 모델 선택이 생물 의학 지식 그래프 구축과 같은 작업의 구체적인 논리적 요구 사항에 맞추어 조정되어야 함을 시사한다.

원저자: Da Wu, Jingye Yang, Kai Wang

게시일 2026-07-15

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Da Wu, Jingye Yang, Kai Wang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

브레니 봇(The Brainy Bots)과 거울 미로

당신이 로봇에게 세상을 이해하는 법을 가르치고 있다고 상상해 보세요. 당신은 로봇에게 고양이 사진을 보여주며 "이것은 고양이다"라고 말합니다. 나중에 당신은 "고양이"라는 단어를 보여주며 "이 단어에 어울리는 그림은 무엇인가?"라고 묻습니다. 인간의 뇌는 이 전환을 아주 자연스럽게 처리합니다. 우리는 만약 "고양이"가 "그림"과 같다면, "그림"도 "고양이"라는 것을 알고 있습니다. 하지만 오랫동안 가장 발전된 컴퓨터 뇌인 대규모 언어 모델(LLM)들은 이 간단한 뒤집기 작업에서 어려움을 겪었습니다. 그들은 정답 목록은 암기했지만, 질문이 거꾸로 나오면 답을 찾지 못하는 학생들과 같았습니다. 이 특정한 결함을 "역전 저주(Reversal Curse)"라고 부릅니다.

이것이 왜 중요한지 이해하기 위해, 이 AI 모델들을 두 가지 유형의 독자로 생각해 보세요. 한 유형인 디코더(Decoder)(유명한 GPT 시리즈와 같은 모델)는 이야기를 왼쪽에서 오른쪽으로 읽으며, 오직 이전에 나온 단어만을 바탕으로 다음 단어를 예측합니다. 이야기를 쓰거나 문장을 완성하는 데는 뛰어나지만, 전체 그림을 보기 위해 앞을 내다볼 수는 없습니다. 다른 유형인 인코더(Encoder)(BERT와 같은 모델)는 문장을 한꺼번에 읽으며, 모든 단어를 다른 모든 단어와의 관계 속에서 동시에 살펴봅니다. 이것은 마치 돋보기를 들고 문장을 읽으며 모든 단어의 맥락을 동시에 파악하는 것과 같습니다. 과학자들은 궁금해해 왔습니다. 만약 우리가 이 로봇들에게 사물의 집합을 다루는 기초적인 수학(예를 들어, 친구 목록을 합치거나 공통된 친구를 찾는 것)을 가르친다면, 이들이 정말로 논리를 통해 '생각'할 수 있을까요, 아니면 그저 이전에 본 패턴을 바탕으로 추측하는 것일까요? 이 질문은 매우 중요합니다. 왜냐로 이 로봇들을 의학이나 과학을 위한 복잡한 지식 지도를 구축하는 데 사용하고 싶다면, 그들은 단순히 반복하는 것이 아니라 추론할 수 있어야 하기 때문입니다.

논문의 이야기: 누가 판을 뒤집을 수 있는가?

이 연구에서 연구자 다 우(Da Wu), 징예 양(Jingye Yang), 카이 왕(Kai Wang)은 이 서로 다른 로봇 뇌들을 테스트하기로 했습니다. 그들은 "역전 저주"가 영구적인 버그인지, 아니면 특정 모델의 구조적 특징인지, 그리고 이 모델들이 아이템들의 집합을 다루는 더 복잡한 논리 퍼즐을 실제로 처리할 수 있는지 확인하고 싶었습니다.

거울 테스트: 역전 저주
먼저, 그들은 "역전 저주"를 다루었습니다. 로봇에게 "지미 카터는 제39대 대통령이다"라고 가르친다고 상상해 보세요. 만약 로봇에게 "제39대 대통령은 누구인가?"라고 묻는다면, 일반적인 로봇(GPT-3 같은 모델)은 종종 멈춰버립니다. 로봇은 한 방향의 사실은 알고 있지만, 질문을 반대로 뒤집어 답하는 데는 어려움을 겪습니다. 연구진은 디코더 모델(GPT나 Llama 같은 모델)이 실제로 이 저주를 겪고 있다는 것을 발견했습니다. 즉, "A는 B이다"로부터 "B는 A이다"를 도출하는 데 어려움을 겪는다는 것입니다.

하지만 인코더 모델(BERT)은 달랐습니다. BERT는 양방향으로 동시에 읽기 때문에 혼란을 느끼지 않았습니다. 연구진이 BERT에게 역방로 질문을 던졌을 때, BERT는 약 99%의 확률로 정확하게 답변했습니다. 결국, 만약 당신이 로봇이 어떤 관계가 양방향으로 작동한다는 것을 이해하기를 원한다면, 과거만을 보는 것이 아니라 전체 그림을 볼 수 있는 뇌가 필요하다는 결론이 나옵니다.

논리 퍼즐: 그룹 섞기와 매칭하기
다음으로, 팀은 더 어려운 과제인 집합 연산으로 넘어갔습니다. 그들은 로봇들에게 "합집합"(두 명의 친구 목록을 하나의 큰 목록으로 합치는 것)과 "교집합"(두 목록 모두에 등장하는 친구를 찾는 것)을 가르쳤습니다.

쉬운 단계 (두 집합): 로봇들에게 단 두 개의 그룹(예: "슈퍼히어로"와 "공룡")을 합치거나 비교하도록 했을 때, 디코더 모델(Llama 2와 3)과 인코더 모델(BERT) 모두 훌륭한 성과를 냈습니다. 그들은 거의 매번 정답을 맞혔습니다. 마치 논리를 마스터한 것처럼 보였습니다.
어려운 단계 (세 집합): 그다음, 연구진은 퍼즐을 더 어렵게 만들었습니다. 세 그룹을 한꺼번에 섞거나, "그룹 A와 그룹 B에 공통된 친구를 찾은 다음, 그룹 C를 추가하라"와 같은 혼합 연산을 수행하도록 했습니다.

여기서 마술 같은 기술이 무너졌습니다. 로봇들은 단순한 두 그룹 작업에는 뛰어났지만, 세 그룹이 개입되자 심하게 비틀거렸습니다.

BERT의 문제: BERT 모델은 일종의 '속임수'를 쓰는 것처럼 보였습니다. 모델은 실제로 수학을 하는 것이 아니라, 자신이 인식하는 단어를 찾고 있었습니다. 만약 문장에 본 적 없는 새로운 이름이 등장하면 즉시 "아니오, 틀렸습니다"라고 답했습니다. 하지만 틀린 답에 자신이 아는 이름이 포함되어 있으면 혼란을 느끼며 "네, 맞습니다"라고 답했습니다. 이는 논리가 아니라 어휘를 암기하고 있었던 것입니다.
Llama의 문제: 디코더 모델인 Llama 모델들 역시 고전했습니다. 세 그룹의 공통 친구를 찾아달라는 요청을 받았을 때, 그들은 퍼즐의 특정 규칙을 무시하고 자신이 아는 모든 사람을 나열하곤 했습니다. 그들은 정확한 교집합을 계산하기보다는 훈련 과정에서 본 이름 목록을 회상하고 있는 것처럼 보였습니다.

GPT-4라는 와일드카드
연구진은 최신 폐쇄형 모델인 GPT-4도 테스트했습니다. 이 로봇은 다른 모델들보다 훨씬 뛰어났습니다. GPT-4는 대부분의 세 집합 논리 퍼즐을 올바르게 처리할 수 있었으며, 종종 문제를 작은 단계로 나누어 해결했습니다. 하지만 GPT-4조차도 그룹의 수가 너무 많아지면(예를 들어 7개 또는 8개 세트) 실수를 하기 시작했습니다. 이는 가장 똑똑한 현재의 모델들조차 복잡한 다단계 추론에 있어서는 한계가 있음을 시사합니다.

핵심 요약

이 논문의 주요 교훈은 모든 AI 뇌가 동일하게 만들어진 것은 아니며, 모든 작업에 완벽한 단 하나의 로봇은 없다는 것입니다. 만약 당신이 관계를 역방향으로 이해해야 한다면(사실을 뒤집는 것과 같이), 양방향 모델인 BERT가 확실한 승자입니다. 하지만 만약 당신이 이야기를 쓰거나 문장의 다음 단어를 예측해야 한다면, 단방향 모델인 GPT가 여전히 왕의 자리를 지키고 있습니다.

가장 중요한 점은, 이 연구가 이 모델들이 놀라운 패턴 포착 능력과 인간 언어 모사 능력을 갖추고 있음에도 불구하고, 반드시 인간처럼 '생각'하는 것은 아니라는 점을 시사한다는 것입니다. 논리가 너무 복잡해지면, 그들은 규칙을 이해하기보다 단어를 암기하는 방식으로 되돌아갑니다. 따라서 의료 지식 그래프를 구축하거나 어려운 수학 증명을 풀기 위해 시스템을 구축한다면, 로봇이 스스로 알아서 해결할 것이라고 믿어서는 안 됩니다. 질문을 어떻게 던질지, 그리고 어떤 종류의 로봇을 작업에 투입할지에 대해 매우 신중해야 합니다. 로봇들은 점점 똑똑해지고 있지만, 진정한 논리적 추론에 대해서는 여전히 배울 것이 많습니다.

기술 요약: BERT 및 GPT 기반 LLM의 역전 저주(Reversal Curse)와 연역적 논리 추론 탐구

문제 정의

본 연구는 자기회귀적 디코더 기반 대규모 언어 모델(LLM)에서 관찰되는 "역전 저주(Reversal Curse)" 현상을 다룹니다. 이는 모델이 "A는 B이다"라는 순방향 관계에 대해 학습했을 때, 그 역관계인 "B는 A이다"를 추론하지 못하는 현상을 의미합니다. 이러한 한계는 지식 그래프 구축과 같이 양방향 논리 추론을 요구하는 작업에서 GPT-3나 Llama-1과 같은 모델의 신뢰성을 저해합니다. 나아가, 본 논문은 이러한 모델들이 BERT와 같은 양방향 인코더 모델과 더불어, 특정 조합에 대한 명시적 학습 없이도 여러 집합에 대한 집합 교집합( $\cap$ ) 및 합집합( $\cup$ ) 연산과 같은 더 복잡한 연역적 추론 능력을 갖추고 있는지 조사합니다.

방법론

저자들은 양방향 인코더 모델(BERT)과 자기회귀적 디코더 모델(GPT-4, Llama 2, Llama 3) 간의 비교 분석을 두 가지 주요 실험 영역에 걸쳐 수행하였습니다:

역전 저주 평가:
- 데이터셋: 원래의 역전 저주 논문의 데이터셋을 텍스트 분류용으로 변형하여 사용했습니다. 여기에는 이름과 설명의 합성 쌍(예: "Jimmy Carter"와 "39th president")이 포함되었습니다.
- 모델: BERT(이진 분류를 위해 파인튜닝됨)를 GPT-3(175B) 및 Llama 3와 비교했습니다.
- 태스크: 모델이 "A는 B이다"(이름 $\to$ 설명) 방향으로 학습한 후, 역방향(설명 $\to$ 이름)을 추론할 수 있는지 테스트했습니다.
집합 연산 추론 (교집합 및 합집합):
- 데이터 생성: 네 가지 범주의 엔티티(슈퍼히어로, 공룡, 포유류, 조류)를 사용하여 합성 데이터셋을 생성했습니다.
- 학습: 모델들을 두 집합( $A \cap B$ $A \cap B$ 및 $A \cup B$ $A \cup B$ )의 교집합과 합집합을 다루는 "단순" 작업에 대해 파인튜닝했습니다.
  - BERT: 이진 분류를 위한 양성 및 음성 예시에 대해 학습되었습니다.
  - Llama 2/3: 다음 토큰 예측(자기회귀적 생성)을 위해 양성 예시에 대해서만 학습되었습니다.
- 테스트: 모델들을 다음 항목에 대해 평가했습니다:
  - 단순 사례: 학습되지 않은 두 집합의 쌍.
  - 복잡한 사례: 세 집합을 포함하는 연산, 즉 삼중 교집합( $A \cap B \cap C$ ), 삼중 합집합( $A \cup B \cup C$ ), 그리고 혼합 연산( $(A \cap B) \cup C$ 및 $(A \cup B) \cap C$ )을 포함합니다.
- 지표: BERT는 재현율(Recall), 정밀도(Precision), F1 점수로 평가되었습니다. Llama 모델은 일치도(Exact Match) 및 80% 일치율로 평가되었습니다. GPT-4는 독점 모델로서 휴리스틱하게 평가되었습니다.

주요 결과

1. 역전 저주에 대한 면역성

BERT: "A는 B이다"로부터 "B는 A이다"를 추론하는 데 높은 숙련도(약 99% 정확도)를 보였으며, 이는 양방향 인코더 모델이 역전 저주를 겪지 않음을 확인시켜 줍니다.
디코더 모델 (GPT-3, Llama 3): 선행 문헌과 일치하게, 이 모델들은 순방향 데이터에만 의존하거나 파인튜닝했을 때 역방향에 대해 거의 0에 가까운 정확도를 보였습니다.

2. 두 집합 연산 성능

BERT와 Llama 모델 모두 두 집합의 단순 교집합 및 합집합 작업에서 견고한 성능을 보였으며, 높은 정확도(BERT ~99%, Llama는 약간 낮지만 여전히 높음)를 달려 성취했습니다.
저자들은 성능은 높았으나, 모델이 실제로 논리를 이해한 것인지 아니면 단순히 프롬프트 키워드의 패턴을 인식한 것인지는 불분명하다고 언급했습니다.

3. 복잡한 세 집합 연산에서의 실패

일반적 어려움: 특정 조합에 대한 사전 학습 없이 세 집합을 포함하는 연산을 테스트했을 때, 두 모델 유형 모두 상당한 한계를 보였습니다.
BERT의 편향: BERT는 양성 사례에 대해서는 높은 정확도를 유지했으나, 어휘에 대한 강한 편향을 보였습니다. 즉, 새로운 이름(학습 세트 외의 이름)이 포함된 음성 샘사는 올바르게 식별했으나, 알려진 이름이 잘못 배열된 경우(예: 부분 집합 또는 상위 집합)에는 어려움을 겪었습니다. 이는 BERT가 논리적 구조보다는 용어의 재출현에 의존함을 시사합니다.
Llama의 패턴 매칭: Llama 2와 3는 삼중 합집합( $A \cup B \cup C$ ) 작업에서만 잘 작동하여, 대상 집합의 최소 80%를 예측하는 데 최대 92%의 정확도를 달성했습니다. 그러나 교집합 및 혼합 연산에서는 크게 실패했으며, 논리 연산자를 적용하기보다 종종 환각을 일으키거나 이전에 보았던 모든 엔티티를 회상하는 모습을 보였습니다.
GPT-4: Llama 2/3보다 세 집합 연산을 처리하는 능력이 우수했으며, 문제를 단계별로 분해하는 경향을 보였습니다. 그러나 집합의 개수가 늘어남에 따라(예: 7개 또는 8개) 오류율이 증가하였으며, 완벽한 성능을 보여주지는 못했습니다.

주요 기여

역전 저주의 실증적 검증: 역전 저주가 자기회귀적 디코더의 구조적 한계임을 확인하는 동시에, 양방향 인코더(BERT)는 이에 면역이 있음을 입증했습니다.
논리 추론 벤치마크: 단순 집합 연산(두 집합)에 대한 파인튜닝이 복잡한 논리적 구성(세 집합)으로 일반화되지 않음을 보여주었습니다.
구조적 비교: 디코더가 시퀀스 예측에는 뛰어나지만, 양방향 문맥과 논리적 관계의 분류를 요구하는 작업에는 인코더가 더 우수할 수 있음을 직접 비교를 통해 제시했습니다.
편향 분석: LLM이 새로운 엔티티의 조합에 직면했을 때 추상적 논리 연역보다는 표면적인 패턴 매칭(본 적 있는 토큰의 회상)에 의존한다는 점을 식별했습니다.

의의 및 주장

본 논문은 LLM 아키텍처(인코더 vs 디코더)의 선택이 작업의 구체적인 논리적 요구 사항에 의해 결정되어야 한다고 결론짓습니다.

지식 그래프를 위하여: 저자들은 의료 지식 그래프를 구축하거나 엄격한 논리적 연산(예: 온톨로리 용어의 집합 교집합/합집합)을 수행할 때, 자기회귀적 디코더 모델에만 의존하는 것에 대해 경고합니다. 역방향 관계를 신뢰성 있게 추론하거나 복잡한 집합 연산을 일반화하지 못하는 능력은, 이 모델들이 논리적 기계라기보다는 학습된 패턴을 복제하는 "글쓰기 보조 도구"에 가깝다는 것을 시사합니다.
논리적 작업을 위하여: 역방향 연역이나 양방향 관계의 분류를 요구하는 작업에는 BERT와 같은 양방향 인코더가 더 적합합니다.
한계점: 본 연구는 현재의 LLM이 비록 파인튜닝을 거치더라도, 유사한 구조에 대한 명시적 노출 없이는 복잡한 논리적 시퀀스(예: $A \cap (B \cup C)$ )를 자율적으로 추론하는 능력이 부족함을 강조합니다. 저자들은 고도의 신뢰성이 요구되는 환경(예: 의료 진단, 수학적 증명)에서 신뢰할 수 있는 논리적 추론을 달성하기 위해서는 단순히 데이터를 확장하는 것 이상의 것, 즉 논리적 구조 이해를 강화하기 위해 설계된 고급 알고리즘이 필요할 수 있다고 제안합니다.