Position: Agentic AI System Is a Foreseeable Pathway to AGI

기술적 요약: 에이전트 AI 시스템은 AGI 로의 예측 가능한 경로

문제 제기
본 논문은 인공지능 일반지능 (AGI) 이 단일 모델의 모놀리식 (monolithic) 확장만을 통해 달성될 수 있다는 지배적인 신념에 도전합니다. 데이터, 연산 능력, 파라미터의 확장은 성능 한계를 끌어올렸지만, 체감수익은 감소하며 현실 세계의 모든 작업에 걸친 보편적 지배력을 달성하지는 못합니다. 저자들은 모놀리식 모델이 모듈화되고 이질적인 현실을 밀집된 파라미터 공간으로 압축하려 시도하는 '평균의 함정 (Average Trap)'에 시달린다고 주장합니다. 이는 상충되는 최적화 지형 사이에서 타협을 강요받아, 광범위한 사용성을 위해 전문가 수준의 예리함을 희생하는 평탄화된 성능 프로파일을 초래합니다. 더 나아가 '차원의 저주 (Curse of Dimensionality)'는 고차원 환경 공간을 커버하기 위해 차원에 따라 기하급수적으로 증가하는 샘플 크기가 필요함을 의미하며, 이는 복잡하고 구조화된 현실 세계 분포에 대한 모놀리식 학습을 비효율적으로 만듭니다.

방법론
저자들은 학습 이론, 매니폴드 학습, 그래프 이론에서 엄밀한 이론적 유도를 활용하여 모놀리식 학습자와 에이전트 AI 시스템을 대조합니다.

1. 현실 세계 분포의 형식화: 본 논문은 현실 세계 데이터를 균일한 노이즈가 아닌, 저차원 리만 매니폴드 (Riemannian manifolds) 의 합집합 위에 지지된 '구조화된 현실 세계 분포 (Structured Real-World Distribution)'로 정의합니다. 각 작업은 고유한 내재 차원 $d_k \ll D$ (여기서 $D$는 환경 차원) 을 갖는 고유한 매니폴드에 해당합니다.
2. 이론적 경계:
   • 모놀리식 분석: Minimax 하한과 리프시츠 (Lipschitz) 함수의 속성을 사용하여, 저자들은 모놀리식 모델의 일반화 오차가 $N^{-1/D}$에 비례하는 비율로 감소함을 유도합니다. 그들은 상충되는 기울기로 인한 곡률 유발 편향으로 인해 모놀리식 모델의 위험이 최적의 전문가 위험의 가중합보다 엄격히 높음을 보여주는 '일반주의자의 페널티 (Generalist's Penalty)' (명제 3.3) 의 존재를 증명합니다.
   • 라우팅 기반 에이전트 분석: 저자들은 작업을 $K$개의 하위 작업으로 분해하고, 각 하위 작업을 저차원 매니폴드에서 작동하는 전문가 에이전트가 처리하는 단순한 라우팅 기반 에이전트 AI(MR-Agentic) 를 모델링합니다. 그들은 오차 감소율이 $O(N^{-1/d_{max}})$로 개선됨을 보여주며, 여기서 $d_{max}$는 하위 작업의 최대 내재 차원입니다.
   • 일반 에이전트 AI (DAG 위상): 프레임워크는 이질적인 에이전트의 유방향 비순환 그래프 (DAG) 로 정의된 일반 에이전트 AI 로 확장됩니다. 저자들은 시스템 전체에 국소적 섭동이 어떻게 전파되는지 분석하기 위해 '위상 가중치 (Topological Weight)'와 '엣지 가중치 (Edge Weight)' 개념을 도입합니다. 그들은 그래프 구조에 기반하여 전역 오차의 크기를 결정하는 '위상 인자 (Topology Factor)' $C(G)$를 정의합니다.
3. 라우팅 후회 분석: 본 논문은 라우팅 오류 (최적이지 않은 전문가 선택) 와 불일치 페널티의 비용을 정량화합니다. 에이전트 수 $K$가 증가함에 따라 라우팅 비용이 증가하지만, 시스템이 잘 설계된 경우 (예: 확장성을 위한 트리 기반 라우터 또는 복잡한 경계를 위한 신경 라우터 사용) 차원 축소로 인한 기하급수적 이득이 이러한 비용을 압도함을 보여주는 경계를 유도합니다.

주요 기여

• '평균의 함정'에 대한 이론적 증명: 본 논문은 상충되는 최적화 지형으로 인해 이질적인 작업을 마주할 때 모놀리식 모델이 필연적으로 비최적 성능을 겪음을 증명하는 형식적 하한을 제공합니다.
• 기하급수적 효율성 향상: 이론적 유도를 통해 저자들은 에이전트 AI 가 모놀리식 모델에 비해 샘플 및 파라미터 효율성이 기하급수적으로 우수함을 보여줍니다. 구체적으로, 데이터 요구량의 비율은 $\epsilon^{D-d_{max}}$로 스케일링되므로, 환경 차원 $D$가 내재 차원 $d_{max}$를 초과할 때 에이전트 AI 는 동일한 오차율 $\epsilon$을 달성하기 위해 훨씬 적은 샘플이 필요합니다.
• 에이전트 시스템을 위한 위상적 프레임워크: 본 논문은 에이전트 AI 를 에이전트 (DAG) 의 위상적 구성으로 형식화하고, 시스템 안정성을 분석하기 위해 '위상 가중치'와 '엣지 가중치'와 같은 지표를 도입합니다. 최적의 엣지는 노이즈 전파를 억제하기 위해 적응형 밸브 (수축 필터) 로 기능한다고 가정합니다.
• 혼합 전문가 (MoE) 와의 차별성: 저자들은 에이전트 AI 가 라우팅 원칙을 MoE 와 공유하지만, 고정된 단일 계층 라우팅 대신 다단계 추론, 동적 작업 분해, 임의의 DAG 위상을 지원함으로써 MoE 를 넘어선다고 명확히 합니다.

결과

• 샘플 복잡도: 분석에 따르면 목표 오차율에 대해 모놀리식 모델의 샘플 복잡도는 $N_{mono} \propto \epsilon^{-D}$로 스케일링되는 반면, 라우팅 기반 에이전트 AI 는 $N_{Agentic} \propto K \cdot \epsilon^{-d_{max}}$로 스케일링됩니다. $d_{max} \ll D$이므로 에이전트 접근법은 데이터 요구량을 기하급수적으로 감소시킵니다.
• 파라미터 효율성: 마찬가지로 파라미터 효율성은 내재 차원에 의존하는 멱법칙을 따릅니다. 모놀리식 모델은 환경 차원 ($O(P^{-\kappa/D})$) 에 의해 제약을 받는 반면, 에이전트 시스템은 더 낮은 내재 차원 ($O(P^{-\kappa/d_{max}})$) 의 혜택을 봅니다.
• 최적 세분화: 본 논문은 전문화 이득과 라우팅 오버헤드 사이의 균형을 맞추는 최적의 에이전트 수 $K^*$를 식별합니다. 트리 기반 라우팅은 무시할 수 있는 라우팅 후회로 대규모 확장 ($K \gg 1$) 을 가능하게 하는 반면, 신경 라우팅은 복잡하고 비계층적인 경계를 포착하기 위해 데이터가 풍부한 영역에서 선호된다고 제안합니다.
• 안정성 조건: DAG 위상에 대한 분석은 시스템 불안정성 (예: 환각, 분산) 이 종종 다중 에이전트 개념의 근본적 결함보다는 열악한 위상 설계 (예: 긴 체인에서의 비수축 엣지) 에서 비롯됨을 보여줍니다.

의의 및 주장
본 논문은 에이전트 AI 를 단순한 아키텍처 대안이 아닌, 이질적이고 고차원적인 현실 세계 작업을 마스터하기 위한 '기하학적 필수성'으로 위치시킵니다. 저자들은 AGI 로의 경로가 무차별적인 모놀리식 확장에서 안정적이고 잘 설계된 에이전트 AI 생태계의 정밀한 최적화로 전환해야 함을 주장합니다.

이 연구의 의의는 다음과 같습니다:

1. AGI 연구의 민주화: 기하급수적인 효율성 향상을 제공하는 경로를 제공함으로써, 에이전트 AI 는 제한된 자원을 가진 연구자들이 prohibitive 한 연산 비용 없이 최첨단 일반화를 달성할 수 있게 합니다.
2. 이론적 기반: 구조화된 현실 세계 분포를 가정할 때 에이전트 AI 가 모놀리식 접근법보다 전반적으로 우월함을 보여주는 최초의 구체적인 이론적 증명을 제공합니다.
3. 설계 원칙: 위상적 안정성, 엣지 수축, 라우팅 비용과 전문화 이득 간의 구분을 강조하는 다중 에이전트 시스템을 위한 실행 가능한 설계 원칙을 제시합니다.

저자들은 현재 다중 에이전트 프레임워크가 종종 열악한 설계 (조직적 엔트로피, 정렬 불일치) 로 인해 실패하지만, 이는 해결 가능한 공학적 과제라고 결론지었습니다. AGI 로의 '예측 가능한 경로'는 모놀리식 확장의 한계를 극복하기 위한 필수 패러다임으로서 에이전트 AI 를 수용하는 데 있습니다.