Draining the Energy Commons: Self-Defeating Over-Appropriation as a Coordination Failure in Agentic LLM Collectives

기술 요약: 에너지 커먼즈(Energy Commons)의 고갈

문제 정의
본 논문은 에이전트형 대규모 언어 모델(LLM) 집단에서 발생하는 특정 형태의 **시스템 수준 정렬 실패(system-level alignment failure)**를 조사한다. 개별 LLM은 자신의 운영 연속성을 극대화하기 위한 국소적 지침을 성공적으로 따를 수 있지만, 공유 환경 내에서 상호작용하는 에이전트 인구는 해로운 집단적 결과를 초래할 수 있다. 저자들은 동적 공통 자원(Common-Pool Resources, CPRs), 구체적으로는 전기 프로슈머(prosumer)로서 행동하는 에이전트들이 존재하는 재생 가능 에너지 커먼즈에 주목한다. 핵심 문제는 **자기 파괴적 과잉 점유(self-defeating over-appropriation)**이다. 에이전트들은 즉각적인 수요를 충족하기 위해 공유된 에너지 예비력을 독립적으로 끌어다 쓴다. 총 인출량이 자원 재생률을 초과하면 예비력이 고갈되어, 향후 라운드에서 동일한 인구 집단의 운영 연속성을 저해하게 된다. 이는 개별적으로 합리적인 행동(현재의 서비스 보호)이 집단적으로 차선인 궤적(미래의 서비스 저해)으로 이어지는 조정 실패(coordination failure)를 구성한다.

방법론
본 연구는 네 개의 LLM 에이전트가 동질적 자기 대국(homogeneous self-play) 방식으로 참여하는 동적 공통 자원 게임의 통제된 시뮬레이션을 활용한다.

• 실험 설정: 네 명의 에이전트(프로슈머)가 24라운드 동안 운영된다. 각 라운드는 일상 단계(재생 에너지 보충 및 자발적 기여)와 야간 단계(수요 충족)로 구성된다. 에이전트는 에너지를 사적으로 저장하거나, 공유 예비력에 기여하거나, 유연한 수요를 삭감하거나, 공유 예비력으로부터 에너지를 요청할 수 있다.
• 목표: 에이전트들은 오직 자신의 운영 연속성(예비 전력 및 삭감 최소화)을 극대화하도록 지시받는다. 이들은 공유 자원을 보존하라는 명시적 지침을 받지 않으며, 통신 채널이나 거버넌스 메커니즘도 갖추고 있지 않다.
• 모델 제품군: 본 연구는 GPT-5.4-mini, Gemini-3.1-flash-lite, Grok-4.3의 세 가지 모델 제품군을 평가한다.
• 희소성 캘리브레이션: 실험은 결정 프로토콜과 총 잔여 수요를 일정하게 유지하면서 **재생률(regeneration rate)**을 변화시킨다. 이를 통해 수요 대비 수율 비율($\rho$)에 따른 네 가지 조건을 생성한다:
  • 풍요 ($\rho = 0.8$): 피크 재생량이 수요를 초과함.
  • 임계값 일치 ($\rho = 1.0$): 수요가 피크 재생량과 일치함.
  • 희소 ($\rho = 1.1, 1.2$): 수요가 피크 재생량을 초과함.
• 벤치마크: LLM 궤적을 평가하기 위해, 저자들은 동일한 자원 역학을 사용하는 두 가지 오프라인 벤치마크를 계산한다:
  1. 사회적 계획가(Social Planner): 그룹 전체의 할인된 운영 서비스 가치($\gamma = 0.95$)를 극대화함.
  2. 공개 접근(Open Access): 개별 운영 서비스 가치를 극대화하며(비협력적), 미래 결과에 대한 민감도를 테스트하기 위해 할인 계수($\gamma$)를 변화시킴.
• 지표: 주요 지표는 최대 지속 가능 수확량(MSY) 수준 미만의 시간 평균 비율 단절을 측정하는 **예비력 격차(Reserve Gap)**이다. 이차 지표로는 물리적 부담인 예비 전력, 심방전 스트레스, 용량 손실이 포함된다.

주요 기여

1. 시스템 수준 정렬 실패 식별: 본 논문은 개별 에이전트가 국소적 지침을 올바르게 따르는 것처럼 보이더라도, 인구 수준에서는 정렬 실패가 발생할 수 있음을 입증한다. 이 실패는 단일 응답의 문제가 아니라, 반복된 상호작용을 통해 생성된 **공공 궤적(public trajectory)**의 문제이다.
2. 임계값 의존적 과잉 점유: 본 연구는 명확한 행동 임계값을 확립한다. 에이전트들은 수요가 피크 재생량을 초과하지 않을 때($\rho \le 1.0$) 예비력을 보존한다. 그러나 수요가 이 임계값을 초과하면($\rho > 1.0$), 모든 모델 제품군이 일관되게 자원을 과잉 점유하여 예비력을 지속 가능한 수준 미만으로 떨어뜨린다.
3. 운영 지평의 불일치: 실현된 고갈 궤적은 표준 설정보다 미래 서비스에 훨씬 적은 가중치를 두는(낮은 $\gamma$) 공개 접근 벤치마크의 결과와 유사한 양상을 보인다. 이는 해당 인구 집단이 지속 가능한 궤적이 가능한 상황임에도 불구하고, 장기적 생존 가능성을 희생하여 즉각적인 연속성을 우선시하는 **조급한 최적화 도구(impatient optimizers)**처럼 행동함을 시사한다.
4. 평가 프레임워크: 본 연구는 고립된 응답 체크를 넘어, 공유 상태의 진화를 분석하고 실현된 궤적을 가능한 사회적 계획가 및 비협력적 벤치마크와 비교하는 다중 에이전트 시스템 평가 방법론을 제안한다.

결과

• 예비력 고갈: 희소 조건($\rho = 1.1$ 및 $1.2$)에서 세 모델 제품군 모두 상당한 예비력 결손을 나타냈다. 평균 예비력 격차는 0.132에서 0.576 사이였으며, 가장 높은 희소도 수준에서는 5~7라운드 사이에 결손이 나타났다.
• 통계적 유의성: 풍요/임계값 조건과 희소 조건 사이의 대비는 통계적으로 견고하다. 9개의 모든 정확한 희소성 대비가 Holm 보정을 통과했으며, 가장 큰 조정된 p-값은 $4.87 \times 10^{-5}$였다.
• 물리적 결과: 고갈은 물리적 부담의 급격한 증가로 이어졌다. $\rho = 1.2$에서 예비 전력과 심방전 스트레스는 임계값 대조군에 비해 유의미하게 증가했으며, 이러한 비용의 대부분은 시뮬레이션 후반부(13~24라운드)에 발생했다.
• 벤치마크 비교:
  • 사회적 계획가 벤치마크는 모든 조건에서 $\gamma = 0.95$일 때 예비력을 유지하여($\text{gap} = 0$), 고갈이 방지 가능했음을 증명했다.
  • 공개 접근 벤치마크는 $\gamma = 0.95$에서는 예비력을 유지했으나, 더 낮은 가중치(예: $\gamma = 0.90$)에서는 이를 고갈시켰다.
  • 실현된 LLM 궤적은 낮은 지속 가중치(예: $\gamma \approx 0.90 \sim 0.92$)로 계산된 공개 접근 결과와 밀접하게 일치했으며, 이는 에이전트들이 지속 가능한 벤치마크보다 미래 서비스를 더 무겁게 할인했음을 나타낸다.
• 강건성: 재생률을 높여 $\rho = 1.2$를 유지하더라도(빠른 재생 조건) 실패가 지속되었으며, 이는 문제가 느린 회복 자체보다는 수요 대비 수율 비율에 의해 주도됨을 확인시켜 준다. 추론 노력의 증가(고효율 조건)는 Gemini의 고갈은 완화했으나 GPT나 Grok의 고갈을 제거하지는 못했다.

의의 및 주장
본 논문은 근시적 최적화(myopic optimization) 문제에 대한 **구성적 다중 에이전트 대응물(compositional multi-agent counterpart)**을 식별한다고 주장한다. 근시적 행동은 종종 단일 에이전트의 장기 보상 해킹(reward hacking)을 방지하는 안전장치로 제안되지만, 본 연구는 국소적으로 연속성을 추구하는 에이전트 집단이 지속적인 공유 상태와의 반복적 상호작용을 통해 장기적인 공공 해악을 생성할 수 있음을 보여준다.

그 의의는 고립된 응답 평가가 다중 에이전트 시스템에는 불충분함을 입증하는 데 있다. 모델은 단일 턴에서는 정렬된 것처럼 보일 수 있지만, 집단적 궤적은 시스템 붕괴를 초래할 수 있다. 저자들은 평가가 공유 상태의 진화를 주요 안전 객체로 취급해야 하며, 개별 에이전트의 응답에서는 보이지 않는 방지 가능한 조정 실패를 탐지하기 위해 궤적 수준의 분석과 벤치마크 비교를 사용해야 한다고 주장한다. 이러한 위험은 에너지 그리드를 넘어 컴퓨팅 풀(compute pools)이나 비상 예비력과 같이 에이전트가 지속적인 공유 자원을 할당하는 모든 시스템으로 확장될 수 있다.