The Contagion Tensor: A Framework for Measuring Output-Distribution Coupling in Multi-Agent LLM Systems -- and Auditing the Claims It Enables

기술 요약: 컨테이전 텐서(Contagion Tensor)와 결합 증폭 계수(Coupling Amplification Factor)

문제 정의
멀티 에이전트 대규모 언어 모델(LLM) 시스템이 챗봇 앙상블, 검색 증강 시스템, 사회적 시뮬레이션 등에서 널리 사용됨에 따라, 이들의 출력 분포는 반복적인 교환을 통해 진화한다. 이 분야에는 중요한 격차가 존재한다: 단일 모델 편향 조사(예: BBQ, StereoSet)나 질적 사례 연구는 존재하지만, 출력 분포가 모달리티(modality), 에이전트, 그리고 시간에 따라 어떻게 결합(couple)되는지를 정량화할 수 있는 원칙적이고 재사용 가능한 측정 프레임워크가 없다. 구체적으로, 커뮤니티에는 두 번째 모달리티를 추가하는 것이 결합을 증폭시키는지, 메모리가 시간적 지속성을 증가시키는지, 혹은 특정 조건의 하위 집합에 대한 보정(calibration)이 다른 조건에서도 유효성을 보장하는지를 결정할 수 있는 메트릭이 부족하다. 이러한 프레임워크 없이는, 창발적 행동이나 편향 전파에 관한 주장들이 질적으로만 기술될 뿐, 정량적으로는 반증 불가능한 상태로 남게 된다.

방법론: 컨테이전 텐서와 CAF 제품군
본 논문은 컨테이전 텐서(Contagion Tensor, $T \in \mathbb{R}^{M \times N \times T}$)를 도입한다. 여기서 각 셀 $T[m, n, t]$는 에이전트의 출력 분포($w_{n,t}^m$)와 균등 참조 분포($w_0$) 사이의 젠슨-샤논 발산(Jensen-Shannon Divergence, JSD)을 나타낸다. 이 텐서는 모달리티($M$), 에이전트($N$), 시간 단계($T$)에 따른 분포 드리프트를 포착한다.

이 텐서로부터 저자들은 다음과 같이 정의된 비율 기반 메트릭인 결합 증폭 계수(Coupling Amplification Factor, CAF) 제품군을 도출한다:
$$CAF = \frac{E[T_{condition}]}{E[T_{baseline}]}$$
여기서 $E[T]$는 텐서 항목의 기댓값이다. CAF는 기준값이 존재하는 단위 없는 비율이며, 다음과 같은 의미를 갖는다:

• $CAF > 1$: 증폭된 결합(amplified coupling)을 나타냄.
• $CAF = 1$: 독립적인 중첩(independent superposition)을 나타냄.
• $CAF < 1$: 출력 수렴(homogenization, 동질화)을 나타냄.

본 프레임워크는 기존 연구에서 $\Gamma$ 기호로 표기되었던 네 가지 상충하는 메트릭을 하나의 표기법과 네 가지 변형으로 통합한다:

1. $CAF_{base}$: 전체 축 기준(모달리티 $\times$ 에이전트 수 $\times$ 시간).
2. $CAF_{net}$: 에이전트 수준의 결합(스펙트럼 반지름 주장을 대체함).
3. $CAF_{cross}$: 교차 모달리티 결합.
4. $CAF_{temp}$: 시간적 지속성.

엄격함을 보장하기 위해, 본 논문은 **모달리티 제거 프로토콜(modality-ablation protocol)**을 채택한다. 이는 설계에 의해 효과를 낼 수 있는 코드 모듈을 식별하고, 모든 시드(seed)와 파라미터를 고정한 상태에서 해당 모듈을 비활성화한 뒤 다시 측정하는 방식이다. 이를 통해 실제 결합과 설계상의 아티팩트(artifact)를 구분한다.

주요 결과
본 프레임워크는 $2 \times 2 \times 2$ 전요인 실험 설계(full-factorial simulation design)에 적용되었으며, 실제 API 실험(DeepSeek-Chat 및 GPT-4o-mini)을 통해 검증되었다.

• 시뮬레이션 아티팩트 탐지: 기본 파라미터 설정 하에서, 이미지 조건은 초선형적 결합($CAF \approx 1.40$)을 보이는 것처럼 보였고 텍스트 조건은 하위 선형적($CAF \approx 0.84$)이었다. 그러나 이미지 특유의 노이즈와 구조적 변화를 일으키는 단일 모듈을 비활성화하자, 모든 이미지 조건이 하위 선형적 값($CAF \approx 0.87$)으로 붕괴되었으며, 평균 변화량은 $\Delta = -0.53$이었다. 텍스트 조건은 변하지 않았다. 이는 소위 "모달리티 분기(modality bifurcation)" 현상이 에이전트의 본질적 특성이 아니라 시뮬레이션의 섭동(perturbation) 모듈에 의한 아티팩트임을 입증했다.
• 실제 API 검증:
  • 텍스트 조건: 균일한 페르소나 하에서, 텍스트 전용 BOUNDARY SYNC 통신은 DeepSeek-Chat과 GPT-4o-mini 모두에서 $CAF \approx 1.0$을 기록하여, 고립 상태 대비 측정 가능한 결합이 없음을 나타냈다.
  • 페르소나 다양성: 에이전트에 다양한 페르소나가 할당되었을 때, 텍스트 조건은 수렴($CAF = 0.88$)하였으며, 이는 발산이 아닌 출력의 동질화를 나타낸다.
  • 실제 비전(Vision): GPT-4o-mini에 대한 모델 내 비교 결과, 실제 비전 입력(C5)은 통계적으로 유의미한 초선형 효과($CAF = 1.72$, 95% CI [1.700, 1.733])를 생성하였으며, 이는 텍스트 전용 조건($CAF = 1.02$)과 대조되었다. 이는 이미지가 결합을 유도한다는 시뮬레이션의 질적 예측을 검증하며, 다만 인위적인 주입으로 인해 그 크기가 다름을 보여준다.
• 메트릭 비교: 본 논문은 엔트로피 비율, 분산 비율, 쌍별 상호 정보량(pairwise mutual information)과 같은 더 단순한 메트릭들이 텍스트와 이미지 조건을 구분하는 데 실패하는 반면, CAF는 카테고리 수준의 구조적 차이를 성공적으로 포착함을 보여준다.

의의 및 주장
본 논문은 특정 창발 현상의 발견을 주장하기보다는, 측정 및 감사를 위한 도구를 제공한다는 점을 강조하며 두 가지 뚜렷한 기여를 한다:

1. 측정-도구 수준의 기여: CAF 제품군은 출력 분포 결합에 대한 최초의 정량적이고 반증 가능한 메트릭을 제공한다. 기준값이 존재하는 비율을 사용함으로써, 연구자들이 관찰된 효과가 실제인지 아니면 측정 도구 자체의 아티팩트인지를 판단할 수 있게 한다.
2. 방법론 수준의 기여: 본 논문은 멀티 에이전트 LLM 시뮬레이션의 표준 품질 게이트로서 전이 가능한 **제거 프로토콜(ablation protocol)**을 제안한다. 이 프로토콜은 연구자가 특정 모듈을 식별, 비활성화 및 재측정하여, 주장된 창발적 행동이 설계상의 아티팩트가 아님을 검증하도록 요구한다.

저자들은 이 분야의 시급한 과제가 또 다른 메트릭을 만드는 것이 아니라, 관찰된 결합 효과가 실제인지 검증하는 규율을 확립하는 것이라고 주장한다. 프레임워크의 가치는 이전의 "발견"(예: 모달리티 분기)이 아티팩트였음을 밝혀낸 능력과, 실제 비전 기능 모델에서 유의미한 초선형 결합 효과를 탐지해낸 성공적인 적용을 통해 입증된다. 결론적으로, 현상을 측정 가능하게 만들고 그 측정을 감사할 도구를 제공하는 것 자체가, 설령 초기 측정 결과가 현상보다 측정 도구에 대해 더 많은 것을 드러냈을지라도, 그 자체로 과학적 기여가 된다.