The Organizational Behavior of Agentic AI: Collective Intelligence in Human-Agent Workflows

기술 요약: 에이전트형 AI의 조직 행동론

문제 제식 (Problem Statement)
에이전트형 인공지능은 단순한 독립적 도구가 아니라, 인간의 조직 구조(예: 팀, 위원회, 시장)를 모방하는 기획자, 해결사, 검토자, 조정자들의 집합체로서 점점 더 많이 배치되고 있다. 이러한 시스템들은 조직적 용어로 설명되지만, 이들이 실제로 인간의 집단과 비교할 만한 "조직 행동"을 보이는지에 대해서는 중대한 간극이 존재한다. 현재의 담론는 두 가지 오류의 위험을 안고 있다: 즉, 에이전트를 중립적인 도구로 취급하는 **도구주의(instrumentalism)**와, 에이전트가 정체성, 신뢰, 도덕적 책무를 가진 인간 팀처럼 기능한다고 가정하는 **의인화(anthropomorphism)**이다. 핵심 문제는 에이전트형 AI가 조직적으로 어떻게 행동하는지, 인간 조직과 어떻게 다른지, 그리고 어떤 조건에서 인간-에이전트 워크플로우가 시스템적 기능 장애를 초래하지 않고 집단 지성을 달성할 수 있는지 결정하는 것이다.

방법론 (Methodology)
본 논문은 메커니즘을 공식화하고 운영 조건을 변화시켜 결과 패턴을 관찰하는 전략인 **계산적 이론화(computational theorizing)**를 채택한다. 실증적 증거는 세 가지 뚜렷한 출처로부터 도출된다:

1. 합성 시뮬레이션 (연구 1): 7가지의 서로 다른 에이전트 조직 형태에 걸쳐 8,000개의 지식 노동 과업을 평가한 대규모 시뮬레이션. 이를 통해 과업의 분해 가능성, 오류 상관관계, 통신 모드를 통제된 변수로 조절할 수 있다.
2. 추적 조사된 실제 LLM 실행 (연구 2): 소프트웨어 복구, 장문 문서 질의응답, 법률 검토, 문헌 합성 등 4개 영역에 걸친 실제 대규모 언어 모델(LLM) 실행의 경험적 분석. 이 연구는 실제 에이전트 트레이스 내에서의 "맥락적 거래 비용"을 추정하는 데 집중한다.
3. 강건성 분석 (연구 3): 특정 프롬프트나 모델 아키텍처의 부산물이 아님을 보장하기 위해 오픈 소스 모델, 프롬프트 변형, 그리고 프롬프트가 없는 강화 학습(DQN) 조직 선택기를 사용한 검증.

연구 설계는 에이전트 트레이스를 관찰 가능한 "패턴화된 행동"으로 취급하여, 인간 조직에서는 종종 불투명한 조직 역학(차별화, 조정, 경계 교차)을 측정할 수 있게 한다.

주요 기여 및 이론적 프레임워크 (Key Contributions and Theoretical Framework)
본 논문은 에이전트형 AI가 **부분적 조직 유사체(partial organizational analogue)**라고 제안한다. 이는 인간 조직과 기능적 유사성(업무의 차별화, 상호 의존성의 조정, 반복적 루틴, 경계 교차)을 공유하지만, 인간의 행동을 유지하는 사회적 토대(동기, 정체성, 신뢰, 고용 관계)는 결여되어 있다. 대신, 에이전트의 행동은 맥락 아키텍처(context architecture)(프롬프트, 메모리, 트레이스, 스키마, 도구, 검증기, 권한)에 의해 유지된다.

도입된 핵심 이론적 메커니즘은 **맥락적 거래 비용(Contextual Transaction Cost, CTC)**이다. 코즈(Coase)의 거래 비용 이론을 확장한 CTC는 에이전트 집단 내의 경계를 넘어 과업 맥락을 이동시키는 비용을 정의한다. 이는 다음과 같은 함수의 형태로 모델링된다:

• 토큰 및 지연 부담 ($\tau$)
• 교차 에이전트 핸드오프 ($H$)
• 압축 손실 ($C$)
• 의미적 표류 ($D$)
• 검증 부담 ($V$)
• 거버넌스 비용 ($G$)

본 논문은 전문화, 병렬화, 다양성, 검증으로부터 얻는 한계 이득이 이러한 맥락적 거래의 한계 비용을 초과할 때에만 집단적 효율성이 달성된다고 주장한다.

결과 및 발견 (Results and Findings)
경험적 분석은 다양한 에이전트 조직 형태의 성능에 관한 몇 가지 중요한 통찰을 제공한다:

• 인간 모방의 실패: 인간의 구조를 엄격하게 모방하는 조직 형태(예: 자유 텍ền 토론 위원회, 순차적 핸드오프)는 종종 성능이 저하된다. 이들은 맥락이 압축되거나 손실되는 "손실이 큰 핸드오프(lossy handoffs)"를 유발하며, 이는 분업의 이점보다 더 큰 상관적 숙의 및 검증 부담을 초래한다.
• 공유 상태 및 적응형 형태의 성공: 공유 상태, 지속적인 맥락, 과업 의존적 적응을 우선시하는 조직 형태가 더 우수한 성능을 보인다. 이러한 형태는 의미적 표류를 최소ize하고 워크플로우 전반에 걸쳐 증거가 주장(claim)에 부착되어 있도록 보장한다.
• 의사 다양성(Pseudo-Diversity)의 환상: 에이전트의 수를 늘리는 것이 반드시 성능 향상을 보장하지는 않으며, 특히 오류가 상관되어 있을 경우 그러하다. "자유 텍스트 토론"은 에이전트들이 독립적인 모델, 도구 또는 증거원을 활용하지 않는 한 확장이 어렵다.
• 맥락 지속성(Context Durability): 근본적인 맥락이 불투명하거나 취약하다면 고품질의 출력물은 가치가 떨어진다. 법률 및 엔지니어링 워크플로우에서는, 품질은 약간 낮더라도 강력한 증거 보존과 검사 가능한 트레이스를 갖춘 출력이 종종 더 우월한 조직적 결과물이다.

의의 및 주장 (Significance and Claims)
본 논문은 에이전트형 AI를 **새롭게 등장하는 조직화의 대상(emerging object of organizing)**으로 이론화함으로써 조직 연구에 기여한다고 주장한다. 본 논문은 에이전트형 AI가 인간 조직을 대체하거나 인간과 같은 에이전시를 보유한다고 주장하는 것이 아니다. 대신, 인간-에이전트 협업에 필요한 인터페이스 조건을 명시한다.

주된 의의는 **인터페이스 조직(Interface Organization)**이라는 개념에 있다. 이는 인간의 책임과 에이전트의 맥락 조정을 일치시키는 설계된 배열을 의미한다. 본 논문은 집단 지성이 인간-에이전트 워크플로우에서 발현되기 위해서는, 시스템이 에이전트 출력이 보존된 트레이스, 공개된 불확실성, 그리고 적절한 권한과 함께 제공되도록 보장해야 한다고 주장한다. 이 연구는 초점을 "모델 품질"에서 "조직 설계"로 전환하며, 에이전트형 AI의 효율성이 개별 모델의 원시적 능력보다는 맥락이 집단 전체에서 어떻게 관리, 보존 및 전달되는지에 달려 있음을 시사한다.