💬 NLP

MafiaScope: Non-Invasive, Time-Resolved Belief Probing for LLM Agents in Social Deduction Games

MafiaScope는 사회적 추론 게임 중 LLM 에이전트의 사적인 신념을 비침습적이고 시계열적으로 탐사할 수 있게 해주는 개방형 테스트베드로, 상당한 캘리브레이션 오류를 드러내며 에이전트의 추론 궤적을 시각화하고 반사실적으로 재현할 수 있는 도구를 제공한다.

원저자: Ilia Karpov

게시일 2026-07-14

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Ilia Karpov

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

상상해 보세요. 한 무리의 AI 에이전트들이 고도의 심리전이 오가는 마피아 게임을 하고 있습니다. 이 게임에서 몇 명의 플레이어는 서로를 알고 있는 비밀스러운 '마피아' 멤버가 되어 밤마다 '시민'들을 제거하려 하고, 시민들은 낮 동안 누가 살인자인지 알아내기 위해 노력합니다. 보통 우리가 AI가 게임을 하는 것을 볼 때는 최종 점수판, 즉 누가 승리했는지, 누가 투표로 탈락했는지, 누가 거짓말을 했는지와 같은 결과만을 보게 됩니다. 그것은 마치 마술사가 손을 어떻게 움직였는지 전혀 모른 채, 마지막 마술의 결과만을 보는 것과 같습니다.

MafiaScope는 이 AI 에이전트들을 위한 마법 같은 "독심술 헤드셋" 역할을 하는 새로운 도구입니다. 하지만 여기에는 주의할 점이 있습니다. 이 도구는 게임을 변화시키지 않는 비침습적(non-invasive) 방식이라는 것입니다. AI 에이전트가 집단에게 무언가를 말할 때마다, 시스템은 조용히 멈추고 해당 에이전트에게 실제로 무엇을 믿고 있는지에 대한 비밀 질문을 던진 뒤, 그 답변이 다시는 게임에 영향을 미치지 않도록 즉시 삭제합니다.

이것을 마치 리얼리티 쇼처럼 생각해 보세요. 극적인 고백이 나올 때마다 카메라는 출연자에게 개인적인 방으로 가서 이렇게 묻습니다. "자, 당신은 지금 진짜로 누가 범인이라고 생각하나요?" 출연자는 대답하고, 카메라는 이를 기록한 뒤, 그 답변은 금고 속에 봉인됩니다. 출연자는 자신의 비밀 답변을 듣지 못하므로, 그 답변에 따라 자신의 행동을 바꿀 수 없습니다. 이를 통해 연구자들은 에이전트의 진실된 생각과 공적인 거짓말을 구분해 볼 수 있습니다.

그들은 실제로 무엇을 발견했는가?

연구진은 특정 AI 모델(DeepSeek)을 사용하여 32번의 게임을 실행했으며, 13,800개 이상의 이러한 비밀 답변을 수집했습니다. 데이터가 밝혀낸 내용은 다음과 같습니다.

"스포트라이트" 망상: 무고한 에이전트들은 타인이 자신을 어떻게 생각하는지 추측하는 데 매우 서툽니다. 그들은 실제로 의심받는 것보다 1.5배 더 자주 자신이 의심받고 있다고 믿습니다. 이는 마치 파티에 들어갔을 때 내 머리 모양이 이상해서 모두가 나를 쳐re다보고 있다고 느끼지만, 실제로는 아무도 신경 쓰지 않는 것과 같습니다. 논문은 이것이 인간의 심리적 특성인 "스포트라이트 효과"의 "기계 버전"이라고 제안합니다. 흥로하게도, 실제 마피아 에이전트들은 이 부분에서 훨씬 뛰어났습니다. 그들은 자신이 언제 안전하고 언제 위험에 처해 있는지 정확히 알고 있었습니다.
자신감은 허세다: 에이전트들이 자신의 추측에 대해 "매우 확신한다"라고 말했을 때, 그들은 종종 틀렸습니다. 논문은 이를 **기대 교정 오차(Expected Calibration Error)**라는 지표로 측정했는데, 결과는 0.17이었습니다. 쉬운 말로 설명하자면, 만약 어떤 에이전트가 "이 사람이 마피아라고 80% 확신합니다"라고 말한다면, 그가 맞을 확률은 약 **54.6%**에 불과합니다. 그들은 정확한 예측자가 아니라 과도하게 자신만만한 허세를 부리는 자들입니다.
진실은 롤러코스터다: 에이전트들의 믿음은 안정적인 진실로 정착되지 않았습니다. 대신 그들의 의심 수준은 변동성이 컸습니다. 평균적으로 에이전트의 "최우선 용의자"는 비밀 확인 시점의 **48.7%**에서 변경되었습니다. 그들은 진실을 향해 나아가는 것이 아니라 진실 주변을 맴돌고 있었습니다.
거짓말은 (때때로) 통한다: 이 특정 연구에서 마피아 에이전트들은 32게임 중 31번을 승리했습니다. 도구의 분석 결과, 시민들이 게임이 진행됨에 따라 추론 능력이 향상되었음에도 불구하고(0라운드의 정확도 **47.6%**에서 3라운드의 **75.4%**로 상승), 마피아는 시민들을 혼란스럽게 만드는 데 성공했습니다.

명시적으로 배제한 사항들

논문은 결과가 과장되는 것을 경계하며 매우 신중하게 서술되었습니다.

"해결된" 문제가 아니다: 저자들은 이 결과가 이 특정 설정과 이 특정 AI 모델에 대한 것이라고 명시했습니다. 그들은 모든 AI 에이전트가 과신하거나, 모든 AI 마피아가 이 정도로 뛰어날 것이라고 주장하지 않습니다.
철학적 의미의 "독심술"이 아니다: 논문은 이 에이전트들에게 깊고 인간적인 "믿음"이 있다고 보는 관점에 반박합니다. 대신, 그들은 이 답변들을 "운영 보고(operational reports)"로 취급합니다. 즉, AI가 영혼을 드러내는 것이 아니라, 질문을 받았을 때 자신이 무엇이라고 답할지를 단순히 예측하는 것입니다.
진실의 보증이 아니다: 논문은 에이전트들이 자기 보고(self-reporting)를 하기 때문에, 조사 자체에 대해 거짓말을 할 수도 있다는 점을 언급합니다. 그러나 에이전트의 비밀 답변이 공적인 투표 행동과 밀접하게 일치한다는 점(무고한 투표의 **64.9%**에서 에이전트는 자신의 비밀 최우선 용의자에게 투표함)을 발견하여, 이 보고들이 적어도 행동과는 일치함을 보여주었습니다.

얼마나 확실한가?

논문은 에이전트들이 왜 그렇게 행동하는지에 대해 설명할 때 **"시사한다(suggests)"**라는 단어를 매우 자주 사용합니다.

"결정적 순간" 실험: 연구진은 단 하나의 문장을 바꾸는 것이 결과에 영향을 줄 수 있는지 확인하기 위해 실험을 진행했습니다. 그들은 특정 플레이어가 특정 발언을 하지 않았을 경우 어떤 일이 벌어졌을지 보기 위해, 게임을 "포크(fork)"하여(30개의 평행 세계 생성) 시뮬레이션을 돌렸습니다.
- 그들은 Finley라는 플레이어의 특정 거짓말을 바로잡는 것이 결과에 영향을 미쳤을 수도 있음을 발견했는데, 이는 시민이 탈락할 확률을 0.4에서 0.8로 높이는 결과를 나타냈습니다.
- 하지만, 논문은 이것이 통계적으로 증명된 것은 아님을 인정합니다. 각 시나리오당 단 5번의 재실행만 수행했기에 차이가 충분히 크지 않았으며(통계적 p-값은 약 0.52로 유의미하지 않음), 이는 그들이 특정 게임의 미스터리를 완전히 풀었다는 것이 아니라, 이 도구가 그러한 순간을 찾아내는 데 효과적임을 보여주는 것입니다.

큰 그림

MafiaScope는 AI를 고치는 마법 지팡이가 아닙니다. 그것은 현미경입니다. 이전에는 우리는 AI의 최종 투표만을 볼 수 있었습니다. 이제 우리는 투표와 투표 사이에서 일어나는 혼란스럽고, 당황스럽고, 과신하며, 때로는 천재적인 사고 과정을 볼 수 있습니다.

이 도구는 연구자들이 "믿음의 궤적(belief trajectory)", 즉 에이전트의 생각이 초 단위로 어떻게 변하는지를 관찰할 수 있게 해줍니다. 이는 AI가 게임을 플레이할 수는 있지만, 종종 자신이 무엇을 알고 있는지조차 "모른다"는 것을 보여줍니다. 그들은 추측하고, 과신하며, 때로는 아무도 자신을 보고 있지 않은데도 모두가 자신을 지켜보고 있다고 느낍니다.

논문은 엔진, 시각화 도구, 그리고 데이터를 공개하여 누구나 이를 활용할 수 있도록 하며, AI의 세계에서는 당신이 말하는 것과 당신이 생각하는 것이 종종 매우 다른 것임을 입증하며 실시간으로 AI의 마음을 들여다보라는 열린 초대장을 보냅니다.

기술 요약: MafiaScope

문제 정의

사회적 추론 게임(예: 마피아, 웨어울프)에서 대규모 언어 모델(LLM) 에이전트를 평가하는 현재의 방식은 주로 승률이나 투표 정확도와 같은 결과 중심의 지표에 의존한다. 이러한 접근 방식은 에이전트의 내부 "마음 이론(Theory of Mind, ToM)"을 드러내는 데 실패한다. 에이전트는 단순히 추측을 통해 올바르게 투표할 수도 있고, 자신의 실제 신념을 드러내지 않은 채 효과적으로 거짓말을 할 수도 있다. 또한, 정적인 ToM 벤치마크(예: 비넷 또는 스크립트된 대화)는 에이전트가 부분적으로 유발한 적대적 상호작용 속에서 타인에 대한 모델이 어떻게 동적으로 진화하는지를 포착할 수 없다. LLM을 게임에 배치하는 기존 연구들은 질문 행위가 후속 행동을 변화시키거나, 오직 최종 결과만을 평가하여 신념 상태를 "블랙박스"로 남겨두는 게임 맥다 내에서의 추론을 이끌어내는 데 그친다.

방법론

본 논문은 에이전트의 게임 상태를 변경하지 않고도 프라이빗한 신념을 조사함으로써 기계의 ToM을 측정하도록 설계된 비침습적, 시계열적 테스트베드인 MafiaScope를 소개한다. 이 시스템은 세 가지 분리된 레이어로 작동한다:

게임 엔진 (Game Engine): 다양한 LLM 라인업(OpenAI 호환 API, 로컬 모델 또는 외부 HTTP 프로세스를 통해 지원)을 지원하는 표준 마피아 구현체이다. 에이전트는 백엔드, 언어, 그리고 Big-Five 성격 벡터에 의해 매개변수화된다.
내성 조사 엔진 (Introspection Probe Engine): 모든 공개 발언과 비공개 밤 행동이 끝난 후, 엔진은 게임을 일시 중단하고 살아있는 각 에이전트를 개별적으로 심문한다.
- 비침습성 (Non-Invasiveness): 프로브(Probe)는 에이전트 메시지 목록의 "버려지는(throw-away)" 복사본에서 실행된다. 질문과 답변은 프로브 패스가 진행되는 동안에만 존재하며, 에이전트의 지속적인 컨텍스트에 다시 쓰이거나 게임 루프에 재진입하지 않는다.
- 구조화된 프로빙 (Structured Probing): 프로브는 조건부 트리거링, 체이닝(이전 파싱된 답변 사용), 토큰 예산을 지원하는 YAML DSL을 통해 정의된다.
- 기본 프로브: 시스템에는 role_beliefs(역할 신념), role_assessment(역할 평가), suspicion_ranking(의심 순위), planned_action(계획된 행동), social_map(2차 신념: "타인이 나를 어떻게 느끼는가"), personality_profile(성격 프로필) 등 6가지 프로브가 포함되어 있다.
- 스코어링: 답변은 JSON으로 파싱되며, 엔진의 그라운드 트루스(알려진 역할) 또는 대상 에이전트 자신의 동일 단계 1차 보고(first-order reports)와 비교하여 자동으로 점수가 매겨진다.
데이터 파이프라인 및 시각화 도구 (Data Pipeline & Visualizer): 다음을 렌더링하는 단일 페이지 D3 애플리케이션이다:
- 임파스네이트 모드 (Impersonate Mode): 특정 에이전트의 관점에서 게임을 재구성하여, 그들의 2차 기대치("믿고 있는 것")와 타인의 실제 1차 보고("실제 상황")를 대조한다.
- 지표 및 캘리브레이션 (Metrics & Calibration): 1차 정확도, 군중 회상(crowd recall), 2차 일관성, 그리고 캘리브레이션 곡선(언급된 확신도 대비 실제 정확도)을 실시간으로 플로팅한다.
- 역사실적 리플레이 (Counterfactual Replay): 게임 상태를 임의의 단계에서 "포킹(forking)"하여 게임의 지속을 $N$ 번 재시뮬레이션함으로써, 결정적인 발언의 영향을 귀속시킬 수 있는 분포를 생성한다.

주요 기여

구성 가능한 프로브 엔진: 밀도 높은 시계열적 측정을 가능하게 하며, 조건부 트리거링과 체이닝을 갖춘 완전히 인덱싱된 JSONL 신념 로그를 생성하는 YAML 기반의 DSL을 제공한다.
대화형 시각화 도구: 임파스네이트 뷰, 캘리브레이션 패널, 기만 오버레이, 역사실적 리플레이 기능을 갖춘 종단적 신념 검사 도구이다.
사례 연구 및 리플레이 실험: DeepSeek 모델을 대상으로 한 32회의 게임 연구(13,815개의 파싱된 프로브 답변)와 결과 중심 평가에서는 보이지 않는 분석을 보여주는 30-포크 리플레이 실험을 수행하였다.

결과

DeepSeek 에이전트에 초점을 맞춘 사례 연구는 신념 역학에 관한 몇 가지 구체적인 발견을 도출했다:

F1 (신념 궤적): 시민 측 에이전트는 대체로 불가지론적 상태로 시작하며(0라운드에서 74.9% "알 수 없음"), 증거가 축적됨에 따라 점점 더 정확한 신념으로 확정된다(확정 정확도가 라운드 3까지 47.6%에서 75.4%로 상승).
F2 (캘리브레이션): 에이전트들은 캘리브레이션이 잘 되어 있지 않다. 상위 구간 미만의 경우 언급된 확신도가 거의 신호를 주지 못한다. 정확도는 확신도 레벨 40~~79 구간에서 43~~46%로 평탄하게 유지된다. 기대 캘리브레이션 오차(ECE)는 0.168로, 과소평가보다는 과잉 확신(overprecision)을 나타낸다.
F3 (2차 신념): 에이전트들은 자신이 의심받을 것이라고 과도하게 예측한다. 이들은 의심이 실제로 발생하는 경우보다 1.53배 더 자주 "의심 대상"을 예측한다. 이러한 "스포트라이트 효과"는 무고한 에이전트(1.84배 과잉 예측)에 의해 주도되지만, 마피아 에이전트는 거의 캘리브레이션되어 있다(1.08배).
F4 (투표 결합): 프로브된 신념은 투표를 추적한다. 무고한 에이전트는 자신들의 최상위 의심 대상에게 64.9%의 확률로 투표한다. 그러나 마피아 에이전트는 사적인 "확정된 집합(committed set)"에 따라 투표하지 않으며(우연 수준과 일치), 이는 그들이 공적인 투표와 사적인 신념을 전략적으로 분리하고 있음을 나타낸다.
F5 (측정 민감도): 토큰 예산은 데이터 품질에 상당한 영향을 미친다. 기존의 400토큰 제한은 답변의 73%를 잘라내어 JSON 복구가 필요하게 만들었다. 예산을 960토큰으로 늘리자 잘림 현상이 제거되었다.
신념 역학: 에이전트들은 높은 "의심 휘발성"(평균 L1 변화량 0.300)을 보이며, 최상위 의심 대상을 빈번하게 교체한다(연속된 쌍의 48.7%). 이는 이전에 버렸던 의심 대상을 다시 선택하는 경향을 포함하며, 수렴하기보다는 순환하는 역학을 시사한다.

30-포크 리플레이 실험은 통계적 유의성이 샘플 크기( $N=5$ per arm)로 인해 제한적이었음에도 불구하고, 결정적인 발언을 격리하는 워크플로우의 능력을 입증했다.

의의

MafiaScope는 단순히 게임 결과를 넘어 사적으로 프로브된 신념의 궤적을 연구하기 위한 새로운 도구를 제공한다. 본 연구의 의의는 다음과 같다:

비침습적 측정: 프로브 답변이 에이전트의 향후 행동에 영향을 미치지 않음을 보장하며, 이는 인컨텍스트(in-context) 추론 방식과의 결정적인 차이점이다.
밀도 높은 시간적 해상도: 신념의 수정 과정을 단일 발언 수준에서 포착하여, 연구자가 언제 어떻게 신념이 변하는지 정확히 찾아낼 수 있게 한다.
운영적 ToM (Operational ToM): 프로브 답변을 검증 가능한 예측 구조를 가진 운영적 신념 보고로 취급하며, 이는 내부 활성화 함수에 접근할 수 없는 폐쇄형 API 모델에도 적용 가능하다.
역사실적 분석: 게임의 지속을 재시뮬레이션함으로써 특정 발언에 결과를 귀속시킬 수 있게 하여, 상관관계를 넘어 인과적 영향을 추정할 수 있게 한다(단, 논문에서는 현재 리롤 전용 포킹의 한계를 언급함).

본 논문은 MafiaScope를 LLM의 의식이나 완벽한 ToM을 증명하는 도구가 아니라, 다중 에이전트 시스템 내에서 기만, 캘리브레이션, 신념 진화의 메커니즘을 밝히는 도구로 정의하며, 엔진, 뷰어, 그리고 200개 이상의 교차 모델 게임 코퍼스를 오픈 라이선스로 공개한다.