Agency as an Architecture Layer: A Formal Enterprise Architecture Framework for Agentic-AI-Driven Enterprises
이 논문은 전통적인 엔터프라이즈 아키텍처 메타모델에 대한 정식 확장으로서, 비인간 AI 에이전트의 권한, 책임 및 조정 제약 조건을 기업 구조 내에서 정의함으로써 이들을 체계적으로 모델링, 분석 및 거버넌스하기 위해 계층화된 Datalog 의미론을 갖춘 전용 에이전시 레이어를 통합한 에이전틱 엔터프라이즈 아키텍처 프레임워크(AEAF)를 소개한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
현대적인 직장에는 새로운 종류의 노동자가 등장했습니다. 그것은 사람이 아니라, 대규모 언어 모델을 기반으로 구축되어 이메일을 읽고, 데이터베이스를 확인하며, 복잡한 과업을 완수하기 위해 결정을 내릴 수 있는 소프트웨어 에이전트입니다. 이 에이전트들은 단순히 지시를 기다리는 것이 아니라, 스스로 단계를 계획하고, 디지털 도구를 호출하며, 조직을 대신하여 행동합니다. 역사상 처음으로, 기업은 노동자가 인간이 아님에도 불구하고 기록을 변경하고, 자금을 이동시키며, 비즈니스의 상태를 변화시킬 수 있는 권한을 가진 노동력을 관리해야 하는 상황에 직면했습니다. 이러한 변화는 기업이 작동하는 방식을 설계하는 설계자들에게 심오한 문제를 제기합니다. 그들이 수십 년 동안 사용해 온 청사진은 오직 사람만이 권한을 갖고 소프트웨어는 고정된 규칙만을 따르는 세상을 위해 그려진 것입니다. 그 오래된 지도들은 이 새로운 자율적 노동자들이 어디에 배치되어야 하는지, 그들이 실수를 저질렀을 때 누가 책임을 지는지, 혹은 그들에게 스스로 행동할 수 있는 너무 큰 권한이 부여되지는 않았는지 보여줄 수 없습니다.
독립 연구가인 사미르 엘 하사니(Samir El Hassani)는 이러한 청사진을 그리는 새로운 방법, 즉 소프트웨어 에이전트를 비즈니스 프로세스 및 이를 지원하는 기술과 마찬가지로 기업의 근간이 되는 계층으로 취급하는 프레임워크를 제안했습니다. 핵심 아이디어는 단순하지만 필수적입니다. 모델에서 볼 수 없는 것은 관리할 수 없다는 것입니다. 만약 에이전트에게 보험금을 지급하거나 대출을 승인할 권한이 주어진다면, 그 권한은 반드시 책임을 지는 특정 인간에게까지 추적되어야 하며, 에이전트가 수행하기로 의도된 특정 과업으로 제한되어야 합니다. 이러한 명확성이 없다면, 조직은 소프트웨어 에이전트들이 조정 없이 행동하고, 문제가 발생했을 때 누구를 탓해야 할지 아무도 모르며, 디지털 노동자들이 본래 부여받지 않은 권한을 갖게 되는 혼돈의 상황에 빠질 위험이 있습니다.
이를 해결하기 위해 연구자는 '에이전틱 엔터프라이즈 아키텍처 프레임워크(Agentic Enterprise Architecture Framework)'라고 불리는 시스템을 개발했습니다. 기업을 여러 층으로 이루어진 건물이라고 상상해 보십시오. 바닥 층은 기술을 나타내고, 중간 층은 애플리케이션과 데이터를 담고 있으며, 상층부는 비즈니스 목표와 프로세스를 포함합니다. 과거에는 상층부의 유일한 '행위자'는 사람이었습니다. 이 새로운 프레임워크는 에이전트를 위한 전용 계층을 추가하여, 그들을 인간의 역할 바로 옆에 배치합니다. 이 모델에서 에이전트는 단순한 도구가 아닙니다. 에이전트는 권리와 책임을 가질 수 있는 별개의 실체인 '주체(principal)'입니다. 이 프레임워크는 조직과 에이전트 사이의 계약 역할을 하는 '헌장(charter)'이라는 개념을 도입합니다. 이 헌장은 에이전트가 무엇을 할 수 있는지, 업무의 범위는 어디까지인지, 그리고 그 행동에 대해 궁극적으로 책임지는 인간 주체가 누구인지를 정확하게 정의합니다.
이 프레임워크는 단순한 정보 읽기부터 완전한 자율적 의사결정에 이르기까지 네 가지 수준의 행동을 구분합니다. 가장 낮은 단계에서 에이전트는 데이터를 읽기만 할 수 있습니다. 다음 단계에서는 인간의 승인을 받아 변경 사항을 제안할 수 있습니다. 더 높은 단계에서는 가역적이거나 프로세스에 의해 확정되는 변경을 실행할 수 있습니다. 가장 높은 단계에서는 완전히 독자적으로 행동할 수 있습니다. 이 시스템은 에이전트의 권한이 그것에게 권한을 부여한 인간이나, 그 과업을 위임받은 에이전트의 권한을 절대 초과하지 않도록 보장합니다. 만약 인간 관리자가 에이전트에게 과업을 위임하고, 그 에이전트가 과업의 일부를 다른 에이전트에게 위임한다면, 두 번째 에이전트의 권한은 첫 번째 에이전트가 허용된 범위 내로 엄격히 제한됩니다. 이는 위임의 연쇄 과정에서 실수로 무제한의 권한을 가진 '슈퍼 에이전트'가 생성되는 것을 방지합니다.
연구진은 소프트웨어가 실제로 배포되기 전에 이러한 청사진의 오류를 점검하기 위한 수학적 엔진을 구축했습니다. 이 엔진은 일곱 가지 특정 유형의 문제를 찾아냅니다. 먼저, 에이전트가 기록을 변경할 권한은 있지만 책임질 인간이 명시되지 않은 '고아(orphan)' 권한을 점검합니다. 또한 비즈니스 프로세스가 에이전트에 의해 수행되어야 함에도 불구하고 어떤 에이전트에게도 권한이 부여되지 않은 '누락된(uncovered)' 단계를 찾습니다. 또한 에이전트가 실제 업무에 필요하지 않은 시스템에 접근하여 보안 리스크를 초래하는 '섀도우(shadow)' 권한을 식별합니다. 아울러 두 에이전트가 동시에 동일한 기록을 변경하려 할 때 우선순위를 결정할 규칙이 없는 경우와 같은 충돌, 또는 부정행위를 방지하기 위해 분리되어야 할 두 가지 과업을 하나의 에이전트가 수행하도록 허용된 경우 등을 점검합니다.
이 시스템의 작동 여부를 테스트하기 위해 연구자는 이를 가상의 보험 회사에 적용했습니다. 모델의 첫 번째 버전에서 에이전트들은 광범위한 헌장을 부여받아 전체 비즈니스 역량에 걸쳐 행동할 수 있었습니다. 분석 결과 즉시 수십 가지의 문제점이 발견되었습니다. 고객 접수를 담당해야 할 에이전트가 실수로 인간의 영역인 보험금 지급에 대한 최종 결정권을 갖게 된 것이 드러났습니다. 피해 규모를 산정해야 할 에이전트가 자금을 지급할 수 있는 권한을 부여받아 업무 중복이 발생하는 위험한 상황도 밝혀졌습니다. 또한 어떤 에이전트가 더 이상 존재하지 않는 직무에 할당되어 그 권한이 추적 불가능한 상태로 남겨진 것도 발견되었습니다. 연구자는 에이전트가 수행하기로 의 meant 된 특정 단계에 맞춰 헌장을 강화함으로써 대부분의 오류를 제거할 수 있었습니다. 두 번째 버전의 모델은 명확한 책임 소재와 허가되지 않은 중복이 없는 깨끗한 상태였습니다.
연구진은 또한 이 접근 방식이 매우 큰 규모의 조직에서도 잘 확장되는지 테스트했습니다. 연구진은 프로세스, 에이전트, 리소스에 관한 약 50만 개의 사실을 포함하는 합성 모델을 생성했습니다. 시스템은 이 거대한 모델을 2초도 채 되지 않아 분석해 냈으며, 이는 이 방법이 실제 아키텍처 저장소에서 일상적인 점검 용도로 사용될 만큼 빠르다는 것을 입증했습니다. 나아가, 연구는 조직이 현재 에이전트를 관리하는 방식(보통 권한 목록이나 단순 카탈로그만을 살펴보는 방식)과 이 새로운 접근 방식을 비교했습니다. 분석 결과, 전체 엔터프라이즈 모델 없이는 대부분의 핵심적인 안전 점검이 불가능하다는 것이 드러났습니다. 에이전트가 속한 비즈니스 프로세스를 이해하지 못한 채 단순히 권한 목록만 본다면, 에이전트가 감독 없이 행동하고 있는지, 혹은 두 에이전트가 충돌하고 있는지 알 수 없습니다.
이 연구 결과는 조직이 소프트웨어 에이전트를 관리하는 방식에 근본적인 변화가 필요함을 시사합니다. 에이전트가 행동하는 동안 모니터링하는 런타임 제어에 의존하는 것만으로는 충분하지 않습니다. 이러한 시스템의 안전성과 일관성은 아키텍처 자체에 설계되어야 합니다. 엔터프라이즈 모델에 에이전시(agency) 계층을 추가함으로써, 조직은 소프트웨어 에이전트가 취하는 모든 행동이 정당하고, 인간에게 추적 가능하며, 의도된 업무 범위 내에 국한되도록 보장할 수 있습니다. 이 프레임워크는 에이전트의 행동을 막는 것이 아니라, 현대 비즈니스의 복잡한 망 안에서 그들이 안전하고 효과적으로 행동할 수 있도록 구조를 제공합니다. 이는 "누가 책임을 지는가?"라는 질문을 막연한 걱정에서 설계의 정밀하고 답변 가능한 부분으로 전환합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.