Opinion Consensus Formation Among Networked Large Language Models

기술 요약: 네트워크화된 대규모 언어 모델 간의 의견 합의 형성

문제 정의

본 연구는 고전적인 수학적 의견 형성 모델, 특히 DeGroot 합의 프레임워크가 네트워크 내 에이전트로 작용하는 대규모 언어 모델(LLM)의 집단 행동을 정확하게 예측할 수 있는지 조사한다. DeGroot 모델은 이웃의 의견을 반복적으로 평균화하여 합의에 도달하는 과정을 설명하기 위해 신호 처리 및 제어 이론에서 잘 확립되어 있으나, 인간 데이터를 수집하는 데 따르는 비용과 복잡성으로 인해 실제 사회적 환경에서의 경험적 검증은 제한적인 경우가 많다. 저자들은 LLM이 이러한 역학을 모델링하기 위한 통제 가능하고 저비용인 테스트베드를 제공한다고 가정한다. 핵심 문제는 두 가지이다:

1. LLM 에이전트가 통신 그래프 상에서 상호작용할 때 인간의 사회적 네트워크와 유사한 합의 행동을 보이는가?
2. LLM 합의의 구체적인 메커니즘(의견의 한계 및 수렴 속도)이 초기 조건, 네트워크 토폴로지, 그리고 내재된 모델 편향에 관한 DeGrooot의 이론적 예측과 일치하는가?

방법론

저자들은 AutoGen 프레임워크를 사용하여 다중 에이전트 시뮬레이션 환경을 구축하였으며, 기반 LLM으로 Google의 Gemini 2.0 Flash를 배치하였다. 실험 설정에는 다음 구성 요소가 포함된다:

• 네트워크 토폴로지: $K=20$개의 에이전트로 구성된 네트워크를 유향 가중 그래프 위에서 시뮬레이션하였다. 주요 토폴로지는 연결성 파라미터($p$)가 변하는 Erdős–Rényi 무작위 그래프였으며, 연결성의 극단을 테스트하기 위해 완전 연결 그래프(fully connected) 및 원형(ring) 토폴로지도 사용되었다.
• 에이전트 상호작용: 에이전트들은 여러 라운드(실험당 80라운드)에 걸쳐 텍스트 기반 메시지를 교환하였다. 상호작용 가중치(이웃에게 부여된 신뢰도 및 자기 가중치)는 시스템 프롬프트를 통해 강제되었다. 두 가지 에이전트 캐릭터 유형이 정의되었다: "자기 확신형"(높은 자기 가중치)과 "개방적 사고형"(낮은 자기 가중치).
• 의견 정량화: 텍스트 응답을 수치적 신념으로 매핑하기 위해, 별도의 독립적인 LLM(gpt-5-nano)이 모든 응답에 대해 감성 분석을 수행하였다. 의견은 $[-3, 3]$ 척도( "반대"에서 "찬성"까지)로 점수화되었으며 $[0, 1]$로 정규화되었다.
• 실험 변수: 연구는 토론 주제(Bitcoin, 안락사, 비건주의 등 8가지 주제), 초기 의견 분포(찬성, 중립, 반대), 그리고 그래프 연결성을 변화시켰다.
• 데이터셋: 저자들은 8가지 주제와 다양한 네트워크 구성을 포함하여 120만 개 이상의 LLM 응답을 담은 764개의 실험 데이터셋을 구축하였다.

주요 결과

1. 합의의 출현 및 불일치의 감소

실험 결과, LLM 에이전트들은 일반적으로 합의에 도달하는 것으로 나타났다. 에이전트들의 감성 점수 표준 편차(STD)는 상호작용 라운드가 진행됨에 따라 지수적으로 감소하여 거의 0에 가까운 정상 상태(steady state)에 도달했다. 이 감소율은 그래프의 결합 행렬(combination matrix)의 **두 번째로 큰 모듈러스 고윳값($|\lambda_2|$)**과 밀접한 관련이 있는 것으로 밝혀졌으며, 이는 수렴 속도에 관한 스펙트럼 그래프 이론의 예측과 일치한다.

2. DeGroot 예측으로부터의 이탈

합의가 발생함에도 불구하고, 한계 의견(최종 합의 값)은 DeGroot 모델의 예측과 크게 달랐다.

• 초기 조건에 대한 무감각성: 최종 합의가 초기 의견의 네트워크 중심성 가중 평균이어야 한다는 DeGroot 정리와 달리, LLM의 합의는 초기 조건에 거의 영향을 받지 않았다.
• 주제 의존적 편향: 최종 합의 지점은 토론 주제와 LLM의 내재된 편향(아마도 사전 학습 및 정렬 단계에서 기인함)에 강력하게 의존했다. 예를 들어, Bitcoin 주제에 대해서는 초기 "찬성" 또는 "반대" 분포와 상관없이 LLM은 부정적인 편향을 보였던 반면, 비건주의 주제에서는 긍정적인 편향이 나타났다.
• 모델 정확도: LLM의 최종 의견을 DeGroot 예측과 비교했을 때, 평균 제곱근 오차(RMSE)는 0.32였다. 3클래스 분류에 대한 분류 정확도는 약 32%, 2클래스 분류는 약 60%였으며, 이는 무작위 추측과 비슷하거나 약간 나은 수준이었다.

3. 시스템 프롬프트 및 가중치의 영향

시스템 프롬프트를 통해 결합 행렬 가중치를 명시적으로 강제하는 것이 합의에 도달할 가능성을 크게 높인다는 것을 발견했다. "가중치가 부여된" 실험(자기 가중치가 프롬프트에 명시된 경우)은 최종 불일치 STD가 0.083이었던 반데, "가중치가 없는" 실험(프롬프트에서 특정 가중치가 제거된 경우)은 훨씬 높은 0.165의 최종 다양성을 보였다.

4. 수렴 속도 및 그래프 이론

합의의 값은 DeGroot 이론과 일치하지 않았지만, 수렴 속도는 일치했다. 의견 분산이 절반으로 줄어드는 데 필요한 라운드 수인 "반감 시간(halving time)"은 경험적으로 $\frac{\ln 2}{-\ln |\lambda_2|}$에 비례하는 것으로 나타났다. 이는 LLM 네트워크의 과도적 역학(transient dynamics)이 정상 상태의 평형과는 별개로, 확립된 그래프 이론적 결과들을 따른다는 것을 확인시켜 준다.

의의 및 주장

본 논문은 LLM이 사회적 네트워크 역학을 시뮬레이션하기 위한 효과적이고 저비용인 테스트베드로 기능할 수 있지만, 그 합의 행동은 정상 상태의 결과 측면에서 고전적 모델과 근본적으로 다르다고 주장한다.

• 편향의 지배력: 저자들은 LLM 네트워크에서 내재된 모델 편향과 주제 민감도가 DeGroot 모델의 핵심인 초기 조건 및 네트워크 중심성의 영향력을 압도한다는 점을 강조한다.
• 수렴 역학: 연구는 LLM 네트워크의 합의 속도가 통신 그래프의 스펙트럼 특성(특히 $|\lambda_2|$)에 의해 결정됨을 입증하며, 이는 합의의 타이밍이 중요한 자원 효율적인 다중 에이전트 LLM 애플리케이션을 설계하는 데 고전적 그래프 이론이 여전히 유용함을 시사한다.
• 자원 효율성: 이러한 수렴 속도를 이해함으로써, 다중 에이전트 시스템에서 비용 제약 하에 합의를 달성하기 위해 필요한 상호작용 라운드를 더 잘 추정할 수 있다.

저자들은 이러한 결과가 사회 시뮬레이션 연구를 위한 LLM의 잠재력을 명확히 하는 데 도움을 주며, 전략적 에이전트 및 다른 LLM 아키텍처를 탐구하기 위한 후속 연구의 방향을 제시한다고 결론짓는다.