CRAwDAD: Causal Reasoning Augmentation with Dual-Agent Debate

이 논문은 인과 추론 과정에서 서로 다른 가설 간의 내적 대화를 외부화하기 위해 구조적 추론과 비판적 검토를 수행하는 두 에이전트가 논쟁을 통해 결론을 도출하는 'CRAwDAD' 프레임워크를 제안하며, CLadder 벤치마크에서 강력한 추론 모델들의 인과 추론 정확도를 크게 향상시키는 효과를 입증합니다.

핵심

이 논문은 **"CRAwDAD"**라는 이름의 새로운 인공지능 연구 방법을 소개합니다. 쉽게 말해, **"두 개의 AI 가 서로 토론하며 더 똑똑한 답을 찾아내는 방법"**입니다.

기존의 인공지능 (AI) 은 혼자서 문제를 풀 때 실수를 하거나, "왜 그런지"에 대한 깊은 생각 없이 무작정 답을 내뱉는 경우가 많았습니다. 이 연구는 인간이 복잡한 문제를 풀 때처럼, 서로 다른 두 AI 가 "내 생각은 이래"라고 주장하고, 상대방이 "아니야, 그건 논리가 틀렸어"라고 반박하는 과정을 통해 정답에 도달하게 만들었습니다.

이 내용을 일상적인 비유로 설명해 드릴게요.

---

1. 배경: 왜 토론이 필요할까요? (인과 추론의 어려움)

우리가 "왜 비가 오면 땅이 젖을까?" 같은 단순한 질문은 쉽게 답하지만, "만약 비가 오지 않았다면 땅은 젖지 않았을까?" 같은 가상의 상황 (반사실적 추론) 을 생각하면 머리가 복잡해집니다.

기존 AI 는 이런 복잡한 상황을 풀 때, 마치 외운 공식을 그대로 외워서 답하는 학생처럼 행동하곤 했습니다. 하지만 진짜 논리적인 사고를 하려면, 여러 가지 시나리오를 머릿속으로 돌려보며 "만약 A 라면 B 가 될 텐데, 그런데 C 라면 어떨까?"라고 끊임없이 의심하고 검증해야 합니다.

2. CRAwDAD 의 핵심: "두 명의 변호사"와 "법정"

이 연구는 AI 두 마리를 courtroom(법정) 에 앉혔습니다.

• 주변인 (첫 번째 AI): 먼저 문제를 보고 자신의 결론과 이유를 말합니다.
• 검찰 (두 번째 AI): 첫 번째 AI 의 말을 꼼꼼히 살피며 "여기서 논리가 틀렸어", "이 계산이 잘못됐어"라고 반박합니다.

비유:
마치 한 친구가 "내일 비가 올 거야"라고 주장하고, 다른 친구가 "아니야, 구름도 없고 습도도 낮아. 비가 오지 않을 거야"라고 반박하는 상황과 같습니다.

• 만약 두 친구가 서로의 주장을 듣고 **"아, 네 말이 맞네. 내가 실수했어"**라고 합의하면, 그 답이 정답이 됩니다.
• 만약 서로의 논리가 너무 강력해서 합의가 안 되면, 더 깊이 생각하게 됩니다.

이 과정에서 AI 는 혼자 생각할 때보다 실수를 더 잘 찾아내고, 더 정확한 답을 내놓게 됩니다.

3. 실험 결과: 약한 AI 가 강한 AI 를 도와주기도?

연구진은 **Qwen3(더 똑똑한 AI)**와 **DeepSeek-R1(조금 덜 똑똑한 AI)**를 이 토론에 참여시켰습니다. 결과는 놀라웠습니다.

• 혼자 풀 때: 두 AI 모두 실수를 꽤 많이 했습니다. 특히 "만약 ~했다면?" 같은 어려운 가상의 질문 (3 단계 난이도) 에서는 많이 틀렸습니다.
• 토론 후: 두 AI 가 서로 토론을 벌이자, 정답률이 크게 올라갔습니다.
  • 특히 **약한 AI(DeepSeek)**가 강한 AI(Qwen3) 의 논리를 듣고 자신의 실수를 깨닫고 답을 고쳤을 때, 정답률이 67% 에서 80% 로 급상승했습니다.
  • **강한 AI(Qwen3)**도 약한 AI 와 토론하며 자신의 실수를 수정하고, 더 확신 있게 답할 수 있었습니다.

비유:
수학 경시대회에서, 한 학생이 문제를 풀다가 실수를 했을 때, 옆 친구가 "이 부분 계산이 틀렸어"라고 지적해주면, 두 학생 모두 더 높은 점수를 받는 것과 같습니다. 심지어 더 똑똑한 학생도, 옆 친구의 지적 덕분에 놓친 실수를 찾아내어 더 완벽해집니다.

4. 흥미로운 발견들

• 자신감의 함정: AI 들은 틀린 답을 할 때도 "100% 확신"이라고 말하는 경우가 많았습니다. 하지만 토론을 통해 상대방의 논리를 듣고 나면, 자신감 있는 태도로 정답을 찾아냈습니다.
• 말의 길이: 토론할 때, 한 AI 는 길고 상세하게 설명하는 반면, 다른 AI 는 "예/아니요" 정도로 짧게만 답하는 경우가 있었습니다. 이때 자세하게 설명하는 AI 가 상대방을 설득하는 데 더 효과적이었습니다. (논리보다 말의 양이 중요할 수도 있다는 뜻입니다!)

5. 결론: 왜 이 연구가 중요한가요?

이 연구는 **"혼자서 고민하는 것보다, 서로 토론하며 고민하는 것이 AI 를 더 똑똑하게 만든다"**는 것을 증명했습니다.

앞으로 AI 가 의료 진단, 과학 실험 설계, 혹은 복잡한 사회 문제 해결을 할 때, 단일 AI 가 일방적으로 답을 내는 방식보다는, 여러 AI 가 서로의 주장을 검증하며 합의하는 방식을 사용하면 훨씬 더 신뢰할 수 있는 결과를 얻을 수 있을 것입니다.

한 줄 요약:

"혼자서 고민하면 실수할 수 있지만, 서로 토론하며 논리를 검증하면 AI 도 인간처럼 더 똑똑하고 정확한 답을 찾아낼 수 있다!"

기술 요약

논문 개요: CRAwDAD (Dual-Agent Debate 를 통한 인과 추론 증강)

이 논문은 언어 모델이 인과 관계 (인과 추론) 를 추론할 때 발생하는 한계를 극복하기 위해, 두 개의 추론 언어 모델 (Reasoning Language Models, RLMs) 이 서로 논쟁 (Debate) 을 통해 상호 검증하고 결론을 도출하는 이중 에이전트 논쟁 프레임워크를 제안합니다.

1. 문제 정의 (Problem)

• 인과 추론의 어려움: 인간은 "만약 ~ 했다면?"과 같은 반사실적 (counterfactual) 사고를 통해 인과 관계를 추론하지만, 기존의 대규모 언어 모델 (LLMs) 은 통계적 상관관계에 의존하여 인과적 추론을 수행하는 데 어려움을 겪습니다.
• 기존 데이터셋의 한계: 이전의 상식적 인과 추론 데이터셋은 공식적인 규칙이 부재하여 모델이 실제 추론을 하는지 아니면 훈련 데이터 패턴을 암기하는지 ("Amortized Causal Reasoning") 구분하기 어렵습니다.
• 단일 에이전트의 한계: 최근 등장한 추론 언어 모델 (RLMs, 예: DeepSeek-R1, Qwen3) 은 단계별 추론 능력이 뛰어나지만, 단일 에이전트만으로는 복잡한 인과 문제 (특히 Pearl 의 인과 사다리 3 단계인 반사실적 추론) 에서 여전히 실수를 범합니다.
• 연구 격차: 기존 연구는 LLM 의 단일 에이전트 성능 평가에 집중했거나, 인과 발견 (Causal Discovery) 에만 다중 에이전트 논쟁을 적용했을 뿐, 형식적 인과 추론 (Formal Causal Inference) 에 다중 에이전트 논쟁을 적용한 연구는 부재했습니다.

2. 방법론 (Methodology)

저자들은 CRAwDAD라는 새로운 프레임워크를 제안하며, 다음과 같은 핵심 요소를 포함합니다.

• 데이터셋: 공식적으로 정의된 인과 그래프와 정답이 존재하는 CLadder 데이터셋 (총 10,112 개 질문) 을 사용합니다. 이 데이터셋은 Pearl 의 인과 사다리 3 단계 (관측, 개입, 반사실) 로 구성되어 있으며, 상식과 일치하거나 모순되거나 무의미한 변수로 구성된 질문들을 포함합니다.
• 이중 에이전트 논쟁 구조:
  • 에이전트: 오픈소스 추론 모델인 Qwen3와 DeepSeek-R1을 사용합니다. (모델 다양성이 편향을 줄이고 경쟁적 가설을 생성하는 데 중요함)
  • 프로세스:
    1. 1 라운드: 무작위로 선택된 첫 번째 에이전트가 인과 추론 (CausalCoT) 을 수행하고 답변과 신뢰도 (Confidence) 를 제시합니다.
    2. 2 라운드: 두 번째 에이전트는 첫 번째 에이전트의 답변을 비판적으로 검토하여 논리적 결함을 찾거나 반박합니다.
    3. 수렴 또는 논쟁: 두 에이전트가 동의하면 해당 답변을 최종 답으로 채택합니다. 이견이 있을 경우, 첫 번째 에이전트가 비판을 수용하거나 방어하며 3~4 라운드까지 논쟁을 이어갑니다.
  • 중재자 (Judge) 부재: 중재자 에이전트를 두지 않고 두 모델이 직접 논쟁하도록 하여, 편향된 중재 판단을 피하고 모델 간의 직접적인 설득력을 평가합니다.
  • 조기 종료 전략: 초기 답변이 일치하거나 논쟁이 일정 수준 (4 라운드) 에 도달하면 종료하여 계산 비용을 절감합니다.
• 보조 도구: 추론 모델들이 구조화된 출력 (Yes/No, 신뢰도) 을 잘 따르지 않는 문제를 해결하기 위해, Granite3.3-2B 모델을 사용하여 최종 답변과 신뢰도를 추출합니다.

3. 주요 기여 (Key Contributions)

1. RLM 의 인과 추론 능력 심층 분석: 전체 CLadder 데이터셋 (10,112 개) 에 대해 Qwen3 와 DeepSeek-R1 의 단일 에이전트 성능을 인과 사다리 (Rung) 단계별로 정밀하게 평가했습니다.
2. 새로운 이중 에이전트 논쟁 프레임워크 구현: 신뢰도 추정, 조기 종료 전략, 그리고 모델 간 직접적인 설득을 유도하는 프롬프트 설계를 통해 RLM 간의 논쟁을 최적화했습니다.
3. 다중 에이전트 논쟁의 효과 입증: 단일 에이전트 대비 논쟁을 통한 정확도 향상, 설득 역학 (Persuasion Dynamics), 그리고 신뢰도 보정 (Confidence Calibration) 에 대한 체계적인 분석을 수행했습니다.

4. 실험 결과 (Results)

CLadder 데이터셋 전체에 대한 실험 결과는 다음과 같습니다.

• 정확도 향상:
  • DeepSeek-R1: 단일 에이전트 정확도 78.03% → 논쟁 후 87.45% (약 9.42%p 향상). 특히 가장 어려운 반사실 (Rung 3) 질문에서 67.94% 에서 80.04% 로 크게 향상되었습니다.
  • Qwen3: 단일 에이전트 정확도 84.16% → 논쟁 후 89.41% (약 5.25%p 향상). 반사실 질문은 71.53% 에서 80.35% 로 향상되었습니다.
  • 비교: 기존 GPT-4 (70.40%) 보다 오픈소스 RLM 들의 성능이 월등히 높으며, 논쟁을 통해 더 높은 수준에 도달했습니다.
• 설득 역학 (Persuasion Dynamics):
  • 논쟁은 잘못된 답변을 올바른 답변으로 수정하는 데 매우 효과적이었습니다.
  • DeepSeek-R1 이 Qwen3 에게 설득되어 답변을 수정하는 경우가 많았으나, Qwen3 또한 초기에 틀렸던 답변을 수정하며 전체적인 정확도를 높였습니다.
  • Qwen3 는 논리적으로 더 설득력 있는 답변을 제시하는 경향이 있었으며, DeepSeek-R1 은 논쟁 중 답변 길이가 매우 짧아 (중립적 태도) 설득력이 떨어지는 경향이 있었습니다.
• 신뢰도 보정 (Confidence Calibration):
  • 모델들은 초기 답변에서 높은 신뢰도를 보였으나, 논쟁을 통해 상대방의 답변을 수용할 때 신뢰도가 더욱 증가하는 경향을 보였습니다.
  • 상대방이 높은 신뢰도를 가질 때 답변을 변경할 확률이 높았습니다.
• 효율성: 전체 질문의 93% 에서 1~2 라운드 내에 합의가 이루어졌으며, 합의에 실패한 경우는 전체의 1.5% (148 건) 에 불과했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 다양한 관점의 중요성: 인과 추론 문제 해결에 있어 단일 모델의 추론보다 이질적인 모델 간의 논쟁 (Dual-Agent Debate) 이 훨씬 더 정확한 결론을 도출함을 입증했습니다.
• RLM 의 잠재력: 오픈소스 기반의 비교적 경량 모델 (32B 파라미터) 이도 논쟁 프레임워크를 통해 GPT-4 를 능가하는 성능을 발휘할 수 있음을 보여주었습니다.
• 한계 및 향후 과제:
  • 반사실적 추론 (Rung 3) 에서는 여전히 인간 수준의 추론 (약 94.8%) 에 미치지 못합니다. 이는 모델이 상관관계 기반 훈련의 한계를 완전히 극복하지 못했음을 시사합니다.
  • 추론 모델의 긴 응답 시간과 다중 에이전트 호출로 인한 계산 비용이 높다는 한계가 있습니다.
  • 향후 더 큰 규모의 모델 (Scaling Law) 과 다양한 에이전트 구성 (3 명 이상, 중재자 포함 등) 에 대한 연구가 필요합니다.

결론적으로, CRAwDAD 는 인과 추론 분야에서 다중 에이전트 협업 시스템의 강력한 잠재력을 보여주며, 추론 모델 (RLMs) 을 구성 요소로 활용하여 복잡한 논리적 문제를 해결하는 새로운 패러다임을 제시합니다.