Mind The Gap: How The Technical Mechanism Of Agentic AI Outpace Global Legal Frameworks

논문 요약: 에이전트형 AI 의 기술 메커니즘과 글로벌 법적 체계 간의 격차

저자: Marcel Osmond (런던 퀸메리 대학교), Thomas Jego (데뱅시 고등교육)
작성일: 2026 년 3 월 31 일 (가상 날짜, 논문 내 설정)

1. 문제 제기 (Problem)

현재 전 세계적으로 도입되고 있는 **에이전트형 AI(Agentic AI)**는 인간의 개입 없이 웹 탐색, 코드 실행, 데이터베이스 쿼리, 외부 서비스 상호작용 등 다단계 작업을 수행할 수 있는 시스템입니다. 그러나 이러한 기술의 배포 속도가 이를 규제하려는 법적 및 정책적 프레임워크를 훨씬 앞서가고 있습니다.

핵심 문제는 **정의의 불일치 (Definitional Gap)**에 있습니다.

• 법적 정의의 오류: 주요 규제 기관 (EU, OECD, NIST 등) 과 정책 문서들이 에이전트형 AI 를 정의할 때, 기술적 현실을 정확히 반영하지 못하고 있습니다.
• 위험: 잘못된 정의는 규제 대상이 되는 기술의 실제 작동 메커니즘 (시스템 프롬프트, API 권한, 샌드박싱, 오케스트레이션 코드 등) 을 놓치게 하여, 책임 소재를 잘못 판단하거나 실제 위험을 통제하지 못하는 규제 장치를 초래합니다.

2. 연구 방법론 (Methodology)

이 논문은 다음과 같은 체계적인 비교 분석을 수행했습니다:

• 규제 프레임워크 분석: 4 대륙에 걸친 11 개의 주요 규제 문서 및 정책 프레임워크를 분석했습니다.
  • 대상: EU AI 법, OECD/G7 원칙, NIST AI 리스크 관리 프레임워크, 영국 ICO, 싱가포르 모델 AI 거버넌스 프레임워크, 뉴질랜드 및 NSW 정부 가이드라인 등.
• 기술적 기준 설정: 6 개 주요 에이전트형 AI 개발자 (Anthropic, Google Cloud, OpenAI, Microsoft, C3.ai, Meta) 의 기술 문서와 개발자 가이드를 분석하여 기술적 합의가 명확한 요소들을 추출했습니다.
• 비교 분석: 법적/정책적 정의와 실제 기술적 구현 (개발자 문서) 간의 불일치를 식별하고, 그 원인과 결과를 규명했습니다.

3. 주요 기여 (Key Contributions)

이 논문은 다음과 같은 세 가지 독창적인 기여를 합니다:

1. 최초의 체계적 비교 조사: 다양한 관할권과 기관적 맥락에 걸쳐 에이전트형 AI 정의에 대한 최초의 체계적인 비교 조사를 수행했습니다.
2. 정의 실패의 4 가지 범주 식별: 법적 전통이나 기관적 기원과 무관하게 반복적으로 나타나는 4 가지 정의적 실패 유형을 명명하고 분석했습니다.
3. 기술적 정의 제안: 개발자 문서에서 도출된 기술적 합의를 바탕으로, 규제 입안자가 채택할 수 있는 통합된 기술적 정의를 제안했습니다.

4. 주요 결과 및 발견 (Results)

A. 제안된 기술적 정의 (Synthesised Technical Definition)
논문의 핵심 제안은 다음과 같습니다:

"에이전트형 AI 는 정의된 목표를 달성하기 위해 자율적으로 맥락을 인지하고, 계획하며, 다단계 행동을 실행하는 자율적 계산 시스템이다. 이는 도구, 외부 시스템 및 다른 에이전트 접근을 통해 인간 개입을 최소화하며, 인간 피드백에 기반하여 행동을 적응시키고, 지정된 지침과 가드레일 내에서 작동한다."

B. 식별된 4 가지 정의적 실패 유형 (Four Recurring Categories of Definitional Failure)

1. 인간 중심주의 (Anthropomorphism):

   • 오류: AI 에게 인간의 인지 능력 (추론, 계획, 판단, 학습, 기억) 을 부여함.
   • 기술적 현실: LLM 은 확률적 토큰 예측 (Probabilistic Token Prediction) 을 수행할 뿐, 의식적인 판단이나 학습을 하지 않음.
   • 결과: 규제 당국이 AI 의 '의도'나 '판단'을 규제하려다 실제 위험을 통제하는 개발자의 아키텍처적 결정 (권한 설정 등) 을 놓침.

2. 아키텍처적 혼동 (Architectural Conflation):

   • 오류: 에이전트형 AI 를 '다중 에이전트 시스템 (Multi-Agent Systems)'으로만 정의함 (예: EDPS, EU Commission).
   • 기술적 현실: 에이전트성은 에이전트 수와 무관함. 단일 모델이 도구 (Tool) 와 외부 API 를 호출하며 반복 실행 루프 (ReAct Loop) 를 수행하는 것만으로도 진정한 에이전트성을 가짐.
   • 결과: 다중 에이전트 시스템이 아닌 단일 에이전트 시스템의 위험을 규제에서 누락시킴.

3. 자율성 수준 오류 (The "Levels of Autonomy" Fallacy):

   • 오류: 자율성을 연속적인 스펙트럼 (수준 1~5) 으로 간주함 (예: EU AI Act, NIST).
   • 기술적 현실: 자율성은 '수준'이 아니라 구조적 전환 (단일 추론에서 반복 실행 루프 및 도구 통합으로의 전환) 임.
   • 결과: 단순 대화형 AI 와 실제 위험을 가진 에이전트형 AI 를 동일한 규제 스펙트럼에 배치하여 규제 효과를 떨어뜨림.

4. 학습 및 기억 신화 (The "Learning and Memory" Myth):

   • 오류: 에이전트가 실행 중 지속적으로 '학습'하고 '기억'하며 진화한다고 믿음 (예: NSW 정부, 싱가포르 은행).
   • 기술적 현실: 배포된 기반 모델 (Foundation Model) 의 가중치는 고정됨. '기억'은 벡터 데이터베이스 검색 (RAG) 이나 컨텍스트 윈도우에 이전 텍스트를 주입하는 것일 뿐, 모델 파라미터의 업데이트가 아님.
   • 결과: 동적인 학습을 하는 것으로 오인하여 불필요한 재인증 요구를 만들거나, 정적이지만 위험한 개발자 결정 (데이터 접근 권한 등) 을 규제하지 못함.

C. 실패의 구조적 원인

• 학제 간 저술 부재: 법률가 및 정책 입안자가 기술 전문가의 참여 없이 문서를 작성함.
• 인지적 어휘의 유혹: AI 를 설명할 때 인간 중심의 용어 (추론, 결정) 를 사용하는 것이 관례화됨.
• 과거 규제 개념의 경로 의존성: 예측형 AI 시대에 만들어진 개념 (고정된 목적, 제공자/배포자 이분법) 이 에이전트형 AI 의 동적 특성에 적용되지 않음.

5. 의의 및 시사점 (Significance)

• 규제적 함의: 현재의 정의 불일치는 규제 장치가 **과도하게 포괄적 (Overbroad)**이면서 동시에 **불충분하게 포괄적 (Underinclusive)**이게 만듭니다. 즉, 위험이 없는 AI 에는 과도한 규제를 적용하면서, 실제 위험을 결정하는 공학적 결정 (도구 접근 권한, 샌드박싱 등) 은 규제하지 못하게 됩니다.
• 책임 소재의 혼란: 법적 정의가 기술적 메커니즘을 잘못 이해하면, 실제 위험을 통제할 수 있는 주체 (예: 에이전트 아키텍처를 설계한 배포자) 가 아닌, 모델 개발자 (Provider) 에게만 책임을 전가하거나 그 반대의 오류를 범할 수 있습니다.
• 미래 방향: 효과적인 규제를 위해서는 기존 프레임워크를 폐기하는 것이 아니라, 공학 커뮤니티와의 긴밀한 협력을 통해 기술적 메커니즘 (반복 실행 루프, 툴 권한, 시스템 프롬프트) 을 정확히 반영하도록 정의와 규제를 수정해야 합니다.

이 논문은 에이전트형 AI 규제에 있어 **기술적 정확성 (Technical Accuracy)**이 법적 정의의 핵심 요소임을 강력하게 주장하며, 현재 존재하는 정의적 격차가 실제 AI 거버넌스의 실패로 이어질 수 있음을 경고합니다.