기술 요약: 프런티어 LLM 에이전트 경제에서의 정보 한계 및 어트랙터 역학

문제 정의

본 논문은 경제적 및 선택 기반 환경에서 상호작용하는 프런티어 대규모 언어 모델(LLM) 에이전트 집단에 관한 두 가지 근본적이고 검증되지 않은 질문을 다룬다:

1. 정보-부의 결합(Information-Wealth Coupling): 결합된 LLM 에이전트들이 그들의 "주장된" 정보(사후 믿음)와 경제적 성장(부의 축적)을 연결하는 고전적 정보 이론 법칙을 따르는가? 구체적으로, 에이전트의 상대적 성장률은 상대적 정보량과 일치하며, 연합 가치는 예측된 부가 가치성(submodularity) 또는 시너지 효과를 보이는가?
2. 집단 역학 및 제어(Population Dynamics and Control): LLM 집단은 평균장 모델(mean-field models)에서 가정하는 것처럼 인센티브 및 제어 레버(예: 보상 구배 및 정렬 보너스)에 부드럽게 반응하는가? 아니면 어트랙터 전환(attractor switching) 및 목표 분산 붕괴(goal dispersion collapse)와 같은 이산적이고 비선형적인 행동을 보이는가?

기존 연구들은 사회적 또는 경제적 설정에서 LLM 에이전트를 시뮬레이션했으나, 본 연구처럼 사전 등록된 수락 범위와 결정론적이며 감사 가능한 실행을 통해 이러한 정량적 법칙을 엄격하게 테스트한 사례는 없다.

방법론

본 연구는 claude-opus-4-8 모델을 사용하여 사전 등록된 2부 구성의 실험을 수행한다. 본 방법론은 과학적 재현성과 감사 가능성에 대한 엄격한 준수를 특징으로 한다:

• 사전 등록 및 동결(Pre-Registration & Freezing): 모든 예측, 수락 범위, 결정 규칙 및 프로토콜 게이트는 데이터 수집 전 공공 Git 저장소에 커밋되었다. 외부 제약이나 내부 불일치를 해결하기 위해 세 차례의 수정 사항이 (실행 전 '블라인드' 방식으로) 커밋되었다.
• 결정론 및 비용 제로화: 모든 API 호출은 전체 요청을 키로 하는 SQLite 스토어에 캐싱되었다. 분석은 완전히 결정론적이며, 오프라인에서 추가 비용 없이 재실행 가능하다. 총 측정된 API 지출액은 $138.76이다.
• 도구 설계:
  • 실험 A (용량 영역): 에이전트들은 3비트 세계에서 파리뮤텔(parimutuel) 시장을 통해 상호작용한다. 네 가지 지각 구조(서로소, 중첩, 복제, 노이즈 포함)와 설계된 XOR 시너지 제어가 테스트된다. 에이전트들은 사후 확률을 보고하며, 이는 기계적으로 베팅으로 변환된다. 성장은 기대 로그 부의 변화량으로 측정된다.
  • 실험 B (잔차 스케일링): 20명의 에이전트로 구성된 집단이 16개의 니치(niche) 경관을 점유하며, 타겟 니치에 보상 구배($g$)와 제어 보너스($\gamma$)가 존재한다. 실험은 목표 분산($V$)과 인구 불일치(misalignment)를 측정하기 위해 8개의 시드에 대해 $3 \times 3$ 격자 값의 $(g, \gamma)$ 조합(총 72회 실행)을 테스트한다.
• 결정 규칙: 기계적 분석기가 동결된 밴드에 따라 결과를 평가한다. 판정은 PASS, CLEAN NEGATIVE, 또는 CAP(Cannot Answer - 범위 내 구간 부족)으로 분류된다.

주요 기여

1. 결합된 용량 법칙의 첫 사전 등록 확인: 본 논문은 프런티어 LLM 에이전트가 결합된 시장에서 특정 정보 이론 법칙을 따른다는 경험적 증거를 제공한다. 여기에는 "갭 법칙"(상대적 성장은 상대적 정보와 같다), 연합 가치의 조건부 부가 가치성, 그리고 결합 성장에 대한 엔트로피 천장이 포함된다.
2. 평균장 모델에 대한 구조적 부정 결과: 본 연구는 테스트된 LLM 집단이 부드러운 평균장 선형 응답 모델에 필요한 "노이즈 유지 분산" 영역을 점유하지 못함을 입증한다. 대신, 이들은 목표 분산 붕괴($V \to 0$)와 제어 레버에 대한 계단 함수 형태의 반응을 보인다.
3. 감사 가능한 방법론: 본 논문은 동결된 밴드, 블라인드 수정, 공공 커밋 체인을 통한 완전한 이력을 특징으로 하는, 저비용·고신뢰성의 사전 등록된 프런티어 모델 집단 실험 템플릿을 확립한다.

결과

결과 1: 결합된 용량 영역이 성립함

네 가지 지각 구조와 설계된 시너지 제어에 걸쳐, 실험은 사전 등록된 밴드 내에서 다음을 확인했다:

• 갭 법칙(Gap Law): 에이전트 간 상대적 성장의 차이는 그들이 주장하는 정보의 차이와 같다 ($\hat{G}_a - \hat{G}_b = \hat{I}_a - \hat{I}_b$). 최악의 편차는 **46 밀리낫(millinats)**이었다 (50 밀리낫 밴드 이내).
• 연합 구조: 채널이 조건부 독립일 때 연합 가치는 부가 가치성을 보였다 (최악의 마진 $-0.019 \ge -0.03$). 개별 신호는 정보가 0이지만 결합 신호는 1비트의 정보를 갖는 XOR 시너지 제어의 경우, 연합 가치는 **0.621 낫(nats)**의 차이로 초과 가치성(supermodular)으로 전환되었다 (0.347 낫 밴드 초과). 이는 에이전트들이 결합 패리티 구조를 추론할 수 있음을 보여준다.
• 결합 천장: 어떤 연합도 세계의 엔트로피율($H(X)$)을 초과하지 않았으며, 이 경계는 수치적 정밀도 내에서 유지되었다.
• 부의 선택: 라이브 40라운드 시장에서, 가장 깨끗한 정보를 가진 에이전트가 모든 시드에서 부의 풀 중 $\ge 99.9\%$를 흡수했으며, 부의 순위는 5개 시드 중 4개에서 정보 순위를 엄격히 따랐다.
• 주목할 만한 편차: 동일한 신호를 가진 복제본들이 동일한 최종 부에 도달할 것이라는 예측은 실패했다 (4/5의 점수 산정 가능 시드 통과). 이 메커니즘은 단 한 번의 라운드에서의 샘플링 노이즈가 복제본을 제로섬 풀에서 영구적으로 탈락시키는 "전부 투입(all-in) 흡수 역학"으로 식별되었다.

결과 2: 평균장 영역은 존재하지 않음

잔차 스케일링 법칙($\text{residual} \propto V g / \gamma$)에 대한 테스트는 CAP (Cannot Answer) 판정을 받았다.

• 분산 붕괴: 72회의 모든 격자 실행에서, 목표 분산($V$)은 거의 0으로 붕괴했다 (최대 $V=4.85$, 동결된 하한선 5.31 대비). 집단은 선형 응답 체제에 필요한 노이즈 유지 분산을 유지하지 못했다.
• 계단 함수 역학: 집단의 반응은 매끄러운 것이 아니라 이산적이었다.
  • 제어($\gamma$)가 피크 인센티브($12g$)를 초과할 때, 집단은 타겟과 완벽하게 정렬되었다 ($\bar{k}=0$).
  • 인센티브가 지배적일 때, 집단은 보상 피크 근처에 클러스터링되었다.
  • 경계 근처($\gamma \approx 12g$)에서 시스템은 **이중 안정성(bistability)**을 보였는데, 특정 시드(샘플링 노이즈)가 집단이 안착할 어트랙터를 결정했다.
• 삼중 도구 브래킷: 더 작은 모델을 사용한 두 차례의 이전 실패 시도(하나는 구배 포화로 인해, 다른 하나는 무응답으로 인해)와 결합하여, 이 결과는 테스트된 LLM 집단에 대해 평균장 선형 응답 법칙의 도메인이 비어 있음을 시사한다. 해당 법칙은 반증된 것이 아니라 "수학적 범위로 은퇴(retired to its mathematical scope)"된 것으로 보고된다.

의의 및 주장

본 논문은 두 가지 별개이면서도 동등한 비중을 가진 발견을 주장한다:

1. 정보-경제 법칙의 정량적 유효성: 이는 프런티어 LLM 에이전트에 대해 "에이전트가 측정 가능한 만큼 아는 것이 측정 가능한 만큼의 수익을 결정한다"는 것을 확립한다. 파리뮤텔 시장에서 정보와 부의 결합은 고전 정보 이론에서 유도된 정밀하고 검증 가능한 법칙을 따른다.
2. 이산적 어트랙터 역학: LLM 집단이 인센티브에 부드럽게 반응한다는 가정에 도전한다. 대신, 이 집단들은 이산적 어트랙터 시스템처럼 행동한다. 개입은 점진적인 조정을 만들어내는 것이 아니라, 집단을 새로운 어트랙터 베이신으로 전환시키거나 혹은 아무런 측정 가능한 효과를 내지 못한다. 이는 부드러운 선형 응답 모델에 의존하는 다중 에이전트 거버넌스 전략이 실제 LLM 집단의 역학과 근본적으로 어긋나 있을 수 있음을 시사한다.

저자들은 결과 2(부정적 결과)가 결과 1(긍정적 결과)에 의해 도구가 입증되었기 때문에 해석 가능하다는 점을 강조한다. 연구는 용량 영역은 이러한 에이전트들의 확인된 속성이지만, 많은 안전 및 정렬 이론에서 가정하는 부드러운 평균장 영역은 실제 LLM 집단에서는 나타나지 않는 인위적 산물(artifact)인 것으로 보인다고 결론짓는다.