기술 요약: 지능형 기업 에이전트 설계

1. 문제 제기

대규모 언어 모델 (LLM) 기반 에이전트의 기업 도입은 범용 소프트웨어 에이전트에서 계획 수립, 도구 활용, 메모리 유지, 그리고 기록 시스템 내에서 행동을 취할 수 있는 시스템으로 전환되고 있습니다. 그러나 현재의 아키텍처 접근 방식은 종종 에이전트를 단순한 서비스로 취급하거나, 이전의 분산 시스템 트렌드가 가진 함정을 반복합니다.

이 논문은 다음과 같은 중요한 격차를 지적합니다: 거버넌스는 필수적이지만, 주요 조직 추상화로서는 불충분합니다. 많은 기업들이 에이전트 자체에 대한 엄격한 설계 규율을 확립하지 않은 채, 거버넌스 우선 접근 방식 (강력한 정책, 감사, 통제) 을 통해 에이전트의 신뢰성을 해결하려 시도합니다. 이로 인해 '마이크로 에이전트 과잉 (micro-agent proliferation)'이라는 패턴이 발생합니다. 이는 명확한 능력 경계 없이 다양한 역할을 수행하는 수많은 작은 에이전트가 생성되어 권한의 중복, 불투명한 메모리, 일관성 없는 도구 범위, 그리고 검증 불가능한 창발적 행동을 초래합니다. 이 논문은 서비스 지향 아키텍처 (SOA) 에서 마이크로서비스로의 전환과 마찬가지로, 설계 규율 없는 분해는 분산된 복잡성, 운영상의 취약성, 그리고 비용을 야기한다고 주장합니다.

2. 방법론

이 논문은 거버넌스보다 설계를 우선시하는 참조 아키텍처인 **CEAD(역할 정렬 기업 에이전트 설계, Capability-Aligned Enterprise Agent Design)**를 제안합니다. 이 방법론은 다음을 포함합니다:

• 정의 및 범위 설정: '지능형 기업 에이전트'를 단순한 API, 상태 없는 챗봇, 또는 결정론적 워크플로우와 구별되는, 경계된 자율성, 기업 정체성, 그리고 책임 있는 행동을 가진 LLM 매개 행위자로 정의합니다.
• 아키텍처 프레임워크: CEAD 는 네 가지 평면을 중심으로 구조화됩니다:
  1. 의도 및 결과 계층: 사용자 정체성, 비즈니스 목적, 그리고 기대 결과를 포착합니다.
  2. 에이전트 설계 평면 (핵심): 능력 지도, 에이전트 능력 계약 (ACC), 자율성 할당, 상호작용 토폴로지, 그리고 평가 설계를 유지합니다.
  3. 에이전트 런타임 평면: 설계 평면에 엄격히 부합하도록 감독자, 계획자, 전문가, 검증자, 그리고 인간 승인 워크플로우를 호스팅합니다.
  4. 기업 능력 평면: 명시적 계약을 통해 소비되는 기존 SOA 서비스, 마이크로서비스, 그리고 데이터 제품을 포함합니다.
  5. 지원 통제 및 보증 평면: 설계를 주도하는 것이 아니라 설계를 강제하는 정체성, 정책, 감사, 그리고 보안을 제공합니다.
• 주요 산출물: **에이전트 능력 계약 (ACC)**은 관료적 거버넌스 양식이 아닌 설계 산출물로서 도입되며, 비즈니스 능력 소유권, 자율성 수준 (L0–L4), 도구 범위, 메모리 설계, 검증 전략, 그리고 은퇴 규칙을 정의합니다.
• 실험적 평가: 저자들은 재무, 인사, 조달, IT, 법률, 영업, 고객 운영 분야에서 10,000 개의 기업 작업에 걸쳐 다섯 가지 아키텍처 패턴을 평가했습니다. 작업들은 복잡성, 위험, 모호성, 그리고 민감도에 따라 다양했습니다.
  • 기준선: 프롬프트 우선 단일 에이전트, 역할 기반 마이크로 에이전트 군집 (32 개 에이전트), SOA 브로커 에이전트, 그리고 설계가 부실한 거버넌스 우선 그리드 (24 개 에이전트).
  • 제안: CEAD 아키텍처.
  • 지표: 기능적 성공, '안전한 성공 (정책 위반이나 메모리 오염 없이 기능적 성공)', 정책 위반, 메모리 오염, 에스컬레이션 비율, 그리고 조정 비용.

3. 주요 기여

1. 범위 정의: 목표 지향적 의도, LLM 매개 인지, 도구 매개 행동, 그리고 경계된 자율성을 기반으로 LLM 기반 지능형 기업 에이전트를 서비스, 마이크로서비스, 봇, 그리고 워크플로우와 명확히 구분합니다.
2. 아키텍처 비판: SOA 를 계약 및 레지스트리에 대한 유용한 모범 사례로 평가하지만, 에이전트의 자율적, 확률적, 그리고 상태 유지를 특징으로 하는 특성으로 인해 SOA 의 불충분함을 지적합니다. 또한, 마이크로서비스의 역사를 조급한 분해에 대한 경고로 활용합니다.
3. CEAD 아키텍처: 거버넌스가 설계를 대체하는 것이 아니라 설계를 지원하고 강제하는, 설계 우선이며 능력 정렬된 참조 아키텍처를 제안합니다.
4. 에이전트 능력 계약 (ACC): 에이전트의 존재를 정당화하는 주요 설계 산출물로서 ACC 를 도입하며, 자율성, 메모리, 도구, 그리고 검증의 경계를 정의합니다.
5. 실증적 증거: 거버넌스가 필수적이지만 2 차 지원 계층으로 작용하는 반면, 설계 품질이 기업 성공의 1 차적 관심사임을 보여주는 비교 평가를 제공합니다.

4. 결과

10,000 개 작업에 대한 평가는 다음과 같은 '안전한 성공'률 (정책 위반이나 메모리 오염 없이 기능적 성공) 을 산출했습니다:

• CEAD (제안): 70.6%
• SOA 브로커 에이전트: 58.8%
• 설계가 부실한 거버넌스 우선 그리드: 50.8%
• 프롬프트 우선 단일 에이전트: 45.2%
• 역할 기반 마이크로 에이전트 군집: 23.1%

주요 발견:

• 설계 대 거버넌스: '설계가 부실한 거버넌스 우선 그리드'는 단일 에이전트와 군집에 비해 높은 감사 커버리지와 감소된 위반을 달성했지만, 안전한 성공 측면에서는 CEAD 보다 성과가 낮았습니다. 이는 강력한 통제가 약한 분해와 불명확한 능력 경계를 보상할 수 없음을 시사합니다.
• 에이전트 과잉: 역할 기반 마이크로 에이전트 군집 (32 개 에이전트) 은 정책 위반 (작업 1,000 건당 248.6 건) 과 메모리 오염으로 인해 가장 낮은 성과를 보였습니다. 연구는 특정 임계값 (16–32 개) 을 초과하여 에이전트를 추가하는 것이 조정 복잡성과 연쇄 오류로 인해 거버넌스가 없거나 설계가 부실한 시스템에서 신뢰성을 저하시킨다는 것을 발견했습니다.
• 절제 연구: 능력 매핑과 ACC 를 제거하면 기능적 성공과 감사 가능성이 크게 훼손되었습니다. 검증자 게이트나 메모리 거버넌스를 제거하면 위반과 오염이 급격히 증가했습니다.
• 고위험 작업: 고위험, 규제 대상, 또는 적대적 하위 집합에서 CEAD 는 67.8% 의 안전한 성공률을 유지하여 거버넌스 우선 그리드 (47.8%) 와 마이크로 에이전트 군집 (19.4%) 을 크게 앞섰습니다.

5. 중요성과 주장

이 논문은 기업 AI 의 주요 과제가 거버넌스 부족이 아니라 설계 규율의 부재라고 주장합니다.

• 설계 우선: 핵심 논지는 "거버넌스는 필수적이지만, 주요 조직 추상화일 수는 없다"는 것입니다. 주요 추상화는 에이전트 설계여야 합니다: 능력 경계, 자율성 할당, 상호작용 프로토콜, 그리고 상태 설계.
• 지원으로서의 거버넌스: 거버넌스, 보안, 정책, 그리고 감사는 이를 대체하는 것이 아니라 좋은 설계를 지원하고 강제해야 합니다. 설계를 무시하는 거버넌스 우선 접근 방식은 준수해 보이지만 운영상 취약한 시스템을 초래합니다.
• 능력 정렬: 다중 에이전트 시스템은 프롬프트에 정의된 '역할'이 아니라, 견고한 비즈니스 능력, 권한 경계, 그리고 소유권 경계를 중심으로 분해되어야 합니다.
• 실무 권장 사항: 기업은 더 적고 더 잘 설계된 지능형 에이전트를 구축해야 합니다. 모든 에이전트는 능력 계약, 명확한 소유자, 구체적인 테스트, 그리고 은퇴 경로를 갖춘 제품으로 취급되어야 합니다. 이 논문은 "설계 규율 없는 분해는 분산된 복잡성을 생산한다"고 결론지으며, 규제 환경에서의 목표는 어떤 비용이든 치르는 자율적 완성이 아니라 "증거를 통한 안전한 완료, 가능한 경우의 가역성, 그리고 적절한 인간 참여"여야 한다고 주장합니다.