기술 요약: 부호화 그래프 모델링을 통한 충돌 강건한 다중 에이전트 추론 (SIGMA)

1. 문제 제기

대형 언어 모델 (LLM) 기반 다중 에이전트 시스템 (MAS) 은 단일 에이전트보다 우수한 추론 능력을 입증해 왔으나, 기존 프레임워크는 상충되는 정보를 처리할 때 치명적인 한계를 겪습니다. 현재 그래프 기반 MAS 접근법은 일반적으로 균일한 협력적 상호작용을 가정하며, 에이전트 간 관계를 비음수적이거나 암묵적으로 지지하는 것으로 모델링합니다. 이 가정은 두 가지 주요 실패 모드를 초래합니다:

1. 통제되지 않은 오류 전파: 상충되는 신호가 발생할 때, 단순한 집계 메커니즘은 신뢰할 수 있는 에이전트와 적대적 에이전트를 구분하지 못해 오류가 추론 단계 전반에 걸쳐 증폭되도록 합니다.
2. 구조적 인식 부재: 기존 방법들은 에이전트 간 관계의 극성 (신뢰 대 충돌) 을 명시적으로 모델링하지 않아, 노이즈가 많거나 적대적인 환경에서 신뢰할 수 있는 상호작용 패턴을 식별하거나 오해의 소지가 있는 신호를 억제하기 어렵습니다.

결과적으로 현재 시스템은 낮은 신뢰도, 환각, 또는 적대적인 에이전트 출력에 직면했을 때 성능 저하에 취약합니다.

2. 방법론: SIGMA 프레임워크

저자들은 에이전트 상호작용의 극성을 부호화 그래프 이론을 사용하여 명시적으로 모델링하는 SIGMA(SIgned Graph-informed Multi-Agent reasoning) 프레임워크를 제안합니다. 이 프레임워크는 네 가지 명확한 단계를 통해 작동합니다:

1 단계: 쿼리 기반 에이전트 선택

추론 풀이 관련성과 견고성을 모두 갖추도록 보장하기 위해, SIGMA 는 세 가지 차원을 균형 있게 고려하는 복합 점수 함수에 기반하여 에이전트 부분집합 ($V_s$) 을 선택합니다:

• 의미적 관련성: 에이전트의 능력과 쿼리 간의 정렬.
• 구조적 다양성: 상관된 오류를 완화하기 위한 보완적 관점 장려.
• 에이전트 신뢰도: 높은 자기 일관성이나 낮은 불확실성을 가진 에이전트 우선순위 부여.
  선택 점수 $s(v_i)$는 이러한 요소들을 결합하여 후속 추론 과정이 다양하고 관련 있으며 신뢰할 수 있는 에이전트 풀에서 작동하도록 보장합니다.

2 단계: 부호화 관계 그래프 구성

상호작용 강도만 포착하는 전통적인 인접 행렬과 달리, SIGMA 는 각 간선 $A_{ij}$를 극성 ($s_{ij} \in \{-1, 0, +1\}$) 과 크기 ($w_{ij} \geq 0$) 로 분해하는 부호화 인접 행렬 $A$를 구성합니다:

• 신뢰 (+): 에이전트가 동의하는 지지적 상호작용.
• 충돌 (-): 에이전트가 이견을 보이는 상반된 상호작용.
• 중립 (0): 약하거나 불확실한 상호작용.
  극성은 초기 추론 상태의 호환성을 평가하는 쌍별 평가 함수 $f_{eval}$에 의해 결정됩니다. 이를 통해 시스템은 에이전트의 이웃을 긍정적 (지지적) 과 부정적 (상충적) 집합으로 분할할 수 있으며, 사회적 균형 이론에 기반하여 다중 홉 균형 및 불균형 이웃으로 확장됩니다.

3 단계: 충돌 인식 부호화 메시지 전달

SIGMA 는 지지적 신호와 상충적 신호를 명시적으로 분리하는 반복적 메시지 전달 메커니즘을 사용합니다. 균일한 집계 대신, 각 에이전트는 별도의 긍정 ($h^{pos}$) 과 부정 ($h^{neg}$) 표현 벡터를 유지합니다.

• 긍정 집계: 균형 잡힌 이웃 (신뢰) 으로부터의 신호를 강화하면서 불균형 이웃으로부터의 극성 반전 입력을 통합합니다.
• 부정 집계: 충돌 구조를 포착하기 위해 대칭적 작업을 수행합니다.
  이 설계는 지지적 신호는 증폭시키고 상충적 신호는 억제하여 의미적으로 구별되는 추론 경로의 붕괴를 방지합니다.

4 단계: 부호화 합의 판독

최종 예측은 구조 및 충돌 인식 가중 집계를 통해 생성됩니다. 각 에이전트의 가중치 $w_i$는 부호화 그래프 내의 순 지지 강도 (양수 간선 합산 및 음수 간선 차감) 를 기반으로 계산됩니다. 이 메커니즘은 네트워크에 의해 일관되게 지지되는 에이전트를 우선시하고 충돌로 둘러싸인 에이전트의 가중치를 낮춤으로써, 전역적으로 일관되고 충돌에 강건한 예측을 산출합니다.

3. 주요 기여

본 논문은 세 가지 주요 기여를 제시합니다:

1. 치명적 한계의 식별: 저자들은 기존 MAS 프레임워크가 신뢰와 충돌을 모델링하지 못하고 균일한 협력을 가정함으로써 상충되거나 노이즈가 많은 출력 하에서 견고성이 떨어진다고 강조합니다.
2. SIGMA 제안: 부호화 그래프 모델링을 LLM 기반 MAS 에 도입하는 새로운 프레임워크입니다. 이는 신뢰, 충돌, 중립 관계를 명시적으로 포착하여 충돌 인식 메시지 전달과 구조 인식 집계를 가능하게 합니다.
3. 실증적 검증: 광범위한 실험을 통해 SIGMA 가 다양한 추론 작업에서 최첨단 베이스라인을 일관되게 능가하며, 상충되거나 품질이 낮은 에이전트가 존재하는 상황에서도 견고한 성능을 달성함을 입증했습니다.

4. 실험 결과

SIGMA 는 일반 추론 (MMLU, MMLU-Pro, GPQA), 수학적 추론 (GSM8K, MultiArith), 코드 생성 (HumanEval) 을 아우르는 여섯 가지 벤치마크 데이터셋에서 다양한 LLM 백본 (GPT-5, GPT-5 mini, DeepSeek-V3.2) 을 사용하여 평가되었습니다.

• 성능: SIGMA 는 모든 데이터셋에서 최첨단 결과를 달성하여 평균 정확도 **89.17%**를 기록했으며, MMLU 에서 +2.95%, MMLU-Pro 에서 +11.54% 와 같은 유의미한 차이로 최상위 베이스라인 (예: GoA, G-Designer) 을 능가했습니다.
• 견고성: 최대 50% 의 에이전트가 악의적 (무작위 노이즈, 저품질 추론, 충돌 유도, 또는 맹목적 동조 시뮬레이션) 인 적대적 설정에서 SIGMA 는 최소한의 성능 저하를 보였습니다. 이 프레임워크는 악의적 에이전트에 음수 가중치를 부여하여 성공적으로 격리함으로써 심각한 노이즈 하에서도 높은 정확도를 유지했습니다.
• 절대 실험: 핵심 구성 요소 (쿼리 기반 선택, 부호화 그래프 구성, 충돌 인식 메시지 전달, 부호화 합의 판독) 중 하나를 제거하면 성능이 저하되어 각 모듈의 필요성이 확인되었습니다.
• 하이퍼파라미터 민감도: 이 프레임워크는 관련성 - 다양성 트레이드오프 ($\lambda$) 와 선택된 에이전트 수 ($k$) 의 다양한 값에 걸쳐 안정적인 성능을 보였으며, 최적 결과는 일반적으로 중간 설정에서 발견되었습니다.

5. 중요성과 주장

본 논문은 SIGMA 가 다중 에이전트 추론을 "균일한 협력" 모델에서 "구조화된 추론 역학" 모델로 근본적으로 전환한다고 주장합니다. 상호작용의 극성을 명시적으로 모델링함으로써 SIGMA 는 에이전트가 이견을 처리하는 방식을 변화시킵니다. 즉, 충돌을 평균화해야 할 노이즈로 취급하는 대신, 충돌을 억제해야 할 신호로 간주하고 신뢰를 강화합니다.

저자들은 이 접근법이 노이즈가 많은 환경에서 현재 MAS 의 취약성에 대한 원칙적인 해결책을 제공한다고 주장합니다. 동적으로 신뢰할 수 없는 에이전트를 식별하고 격리하는 프레임워크의 능력은 정밀하고 검증 가능한 추론이 필요한 고위험 애플리케이션에 특히 적합합니다. 논문은 신뢰와 충돌의 명시적 모델링이 차세대 견고하고 협력적인 AI 시스템을 위해 필수적이라고 결론지었습니다.