Agent-First Tool API: A Semantic Interface Paradigm for Enterprise AI Agent Systems

본 논문은 기업 생산 시스템에서 자율 에이전트의 작업 성공률과 오류 복구를 크게 향상시키기 위해 인간 중심의 CRUD 인터페이스를 의미 있는 6 동사 프로토콜과 구조화된 의사결정 지원 메타데이터로 대체하는 '에이전트 우선 도구 API' 패러다임을 제안하고 검증합니다.

핵심

상상해 보세요. 매우 똑똑하지만 약간 직관적인 로봇 도우미에게 복잡한 지시를 내리려 한다고 가정해 봅시다.

기존 방식 (CRUD 문제):
현재 대부분의 기업용 소프트웨어 (은행이나 상점에서 사용하는 시스템 등) 는 인간을 위해 설계되었습니다. 인간에게 "지난달에 개업한 시내 지점을 찾아라"라고 요청하면, 그 인간은 지도를 보고 간판을 읽어서 해결책을 찾을 수 있습니다.

하지만 오늘날의 표준 소프트웨어 인터페이스를 통해 로봇에게 같은 작업을 요청한다면, 이는 로봇이 지점의 정확한 10 자리 ID 번호를 미리 알아야만 작업을 시작할 수 있는 세금 신고서를 작성하라고 강요하는 것과 같습니다. 로봇이 ID 를 잘못 추측하면 시스템은 단순히 "Error 404"라고 말하며 멈춥니다. 로봇은 다시 추측해야 하고, 또 다른 오류를 마주치며 결국 포기하거나 인간의 도움을 요청하게 됩니다. 이 논문에서 말하는 "CRUD 불일치"란 바로 이것입니다. 소프트웨어는 정확한 ID 와 정밀한 데이터를 요구하지만, AI 는 모호한 자연어 목표에서 시작한다는 것입니다.

새로운 방식 (에이전트 중심 도구 API):
저자들은 AI 에이전트를 위해 이러한 도구들을 설계하는 새로운 방식을 제안합니다. 경직된 양식 대신, 모호함을 처리하는 방법을 아는 도움이 되는 인간 도우미처럼 도구를 취급합니다.

여행 에이전트라는 비유를 사용하여 그들의 "6 동사" 시스템이 어떻게 작동하는지 살펴보겠습니다.

1. 의미론적 검색 ("무슨 뜻이죠?" 단계):
   • 기존 방식: "JFK 로 가는 비행기 예약해 줘"라고 말해야 합니다.
   • 새로운 방식: "타임스퀘어 근처 공항으로 가는 비행기 예약해 줘"라고 말합니다. 도구가 당황하지 않고 데이터베이스를 검색하여 타임스퀘어 근처의 세 공항을 찾아냅니다. 그리고 "JFK, 라가르디아, 뉴어크를 찾았습니다. 어느 것을 의미하셨나요?"라고 묻습니다.
2. 후보 해결 ("명확화" 단계):
   • AI 가 목록에서 올바른 것 (JFK) 을 선택합니다. 도구가 확인합니다. "알겠습니다, JFK 로요."
3. 작업 미리보기 ("건조 실행" 단계):
   • 실제로 티켓을 예약하기 (돈이 드는 작업) 전에 도구가 초안을 보여줍니다. "지금 하려는 작업은 다음과 같습니다: JFK 로 가는 비행기를 500 달러에 예약합니다. 괜찮으십니까?" 이는 실수가 발생하기 전에 예방합니다.
4. 작업 실행 ("실행" 단계):
   • AI(또는 인간 관리자) 가 "네"라고 말하면 도구가 실제로 티켓을 예약합니다.
5. 결과 검증 ("성공했나요?" 단계):
   • 도구가 즉시 자신의 작업을 확인합니다. "방금 티켓을 예약했습니다. 확인 번호가 진짜인지 데이터베이스를 다시 한번 확인해 보겠습니다."
6. 오류 복구 ("플랜 B" 단계):
   • 만약 무언가 잘못되면 (예: 비행기가 매진된 경우), 도구가 단순히 멈추지 않습니다. "그 비행기는 매진되었지만, 대신 작동하는 다른 세 가지 비행기가 있습니다. 어떤 것을 시도해 볼까요?"라고 말합니다.

안전망 (거버넌스):
이 논문은 또한 엄격한 "경비원" 시스템을 도입합니다.

• 이중 계층 권한: 두 가지를 확인합니다. "이 AI 가 이 작업을 수행할 직함이 있는가?" (역량) 그리고 "이 AI 가 이 특정 상점의 데이터에 접근할 권한이 있는가?" (범위).
• 동적 위험: AI 가 티켓 확인과 같은 작은 작업을 시도하면 바로 진행됩니다. 하지만 500 개의 레코드를 삭제하거나 전체 브랜드의 가격을 변경하는 것과 같은 큰 작업을 시도하면, 시스템은 자동으로 일시 정지하고 진행하기 전에 인간 관리자의 승인을 요청합니다.

결과:
저자들은 작업 지시 관리, 직원 교육, 장비 수리 등 85 가지 다른 도구를 포함한 실제 시스템에서 이를 테스트했습니다.

• 성공률: 새로운 시스템은 작업의 88% 를 해결한 반면, 기존 시스템은 64% 만 해결했습니다.
• 인간 도움 감소: 새로운 시스템은 22% 였던 기존 시스템과 비교해 인간 개입이 필요한 경우가 6% 에 불과했습니다.
• 오류 감소: 도구가 먼저 올바른 ID 를 찾도록 도와주었기 때문에 AI 는 잘못된 ID 를 추측하는 "환각" 현상을 훨씬 덜 일으켰습니다.

절충점:
새로운 시스템은 검색, 미리보기, 검증과 같은 추가 확인 작업을 수행하기 때문에 각 개별 단계에 조금 더 많은 시간과 "컴퓨팅 파워 (토큰)"를 사용합니다. 그러나 실패 빈도가 낮고 추측의 루프에 빠지지 않기 때문에, 전체 작업을 완료하는 데 걸리는 총 시간은 실제로 더 빠르고 훨씬 더 신뢰할 수 있습니다.

요약:
이 논문은 AI 에이전트를 기업에서 진정으로 유용하게 만들기 위해서는 인간에게 사용하는 것과 같은 도구를 단순히 제공하는 것만으로는 부족하다고 주장합니다. 우리는 대화형, 자기 수정형, 안전 의식적인 도구로 재설계해야 하며, AI 를 "맹목적인 추측자"에서 "감독을 받는 전문가"로 전환해야 합니다.

기술 요약

기술 요약: 에이전트 우선 도구 API

1. 문제 제기

본 논문은 대규모 언어 모델 (LLM) 에이전트의 신흥 능력과 기업용 소프트웨어 인터페이스의 레거시 설계 사이에 존재하는 치명적인 아키텍처 불일치를 지적합니다. LLM 에이전트가 기업 시스템의 주요 운영자로 빠르게 부상하고 있지만, 그들이 호출하는 API 는 여전히 인간 중심의 사용자 인터페이스 (UI) 를 위해 설계된 채 남아 있습니다.

저자들은 전통적인 CRUD(생성, 읽기, 업데이트, 삭제) API 가 호출자가 인간이 아닌 자율 에이전트일 때 무너지는 다섯 가지 가정에 의존한다고 주장합니다:

1. 정확한 매개변수: CRUD 는 호출자가 정확한 식별자 (예: UUID) 를 알고 있다고 가정하지만, 에이전트는 모호성 해소가 필요한 자연어 목표에서 시작합니다.
2. 렌더링 가능한 데이터: REST API 는 UI 렌더링을 위한 원시 JSON 을 반환하며, 에이전트의 추론에 필요한 의사결정 지원 메타데이터 (신뢰도 점수, 출처) 가 부족합니다.
3. 단일 왕복: CRUD 는 행동당 한 번의 요청을 가정하는 반면, 에이전트는 다중 턴 추론 루프에서 작동합니다.
4. 정적 권한: 전통적인 접근 제어는 사용자에게 묶여 있으며, 사용자 UI 권한과 독립적으로 도구가 수행할 수 있는 행위에 대한 두 번째 계층이 부재합니다.
5. 불투명한 오류: HTTP 상태 코드 (예: 400 Bad Request) 는 인간 개발자에게는 정보를 제공하지만, 에이전트에게는 구조화된 복구 전략을 제공하지 않습니다.

기존 프레임워크 (예: LangChain, AutoGPT) 와 전송 표준 (예: Model Context Protocol/MCP) 은 오케스트레이션과 발견을 다루지만, 도구 인터페이스 자체를 레거시 관례를 따르는 "블랙박스"로 남겨두어 개발자들을 취약한 프롬프트 엔지니어링과 임시방편적인 오류 처리로 내몰고 있습니다.

2. 방법론 및 설계 패러다임

본 논문은 도구 인터페이스를 "양식 제출 엔드포인트"가 아닌 "목표 달성 프로토콜"로 재개념화하는 에이전트 우선 도구 API 패러다임을 제안합니다. 이 설계는 6 개 비즈니스 도메인에 걸쳐 85 개의 도구를 포함하는 프로덕션 멀티테넌트 SaaS 작업 지시 관리 시스템 내에서 구현되었습니다.

A. 6 동사 의미 프로토콜

핵심 상호작용 모델은 도구 사용을 6 개의 의미 동사로 구성된 유한 상태 기계 (FSM) 로 분해하여 모든 상호작용을 추론 루프로 구조화합니다:

1. 의미 검색 (S): 설명적, 모호하거나 부분적인 자연어 입력을 받아 관련성 점수가 매겨진 순위별 후보를 반환합니다.
2. 후보 해결 (R): 여러 후보가 존재하거나 신뢰도가 낮을 때 모호성을 해결하며, 에이전트에게 선택을 요청하거나 해결책을 제공합니다.
3. 액션 미리보기 (P): 상태 변경 도구들의 경우, 실행 전에 예상 변경 사항과 위험 평가를 포함한 드라이런 (dry-run) 요약을 제공합니다.
4. 액션 실행 (E): 트랜잭션 경계 내에서 변경을 수행하며, 호출자가 제공한 키를 통해 멱등성을 강제합니다.
5. 결과 검증 (V): 실행 후, 상태를 다시 읽어 에이전트의 원래 의도와 일치하는지 확인합니다.
6. 오류 복구 (C): 불투명한 오류 코드 대신 구조화된 복구 지침 (후보, 제안) 을 반환합니다.

모든 도구가 6 개의 동사를 모두 필요로 하는 것은 아닙니다. 읽기 전용 도구는 일반적으로 검색 (및 선택적으로 해결) 만 구현하는 반면, 고위험 도구는 전체 사이클을 구현합니다.

B. 정규화된 도구 계약 (NTC)

원시 JSON 응답을 대체하기 위해 저자들은 모든 도구 출력에 다음을 보강하는 표준화된 응답 사양인 NTC 를 도입합니다:

• 의사결정 지원: 계획 의사결정을 안내하는 confidence(신뢰도) 점수 (0~1).
• 증거적 출처: 일치 횟수, 출처, 적용된 논리를 상세히 설명하는 구조화된 evidence 배열.
• 액션 연속성: 계획자의 검색 공간을 줄이기 위한 논리적 후속 도구를 제안하는 next_actions 배열.
• 결과 추적성: 하류 소비를 위한 타입 지정 엔티티 식별자를 포함하는 result_refs.

이 시스템은 경험적 성공률에 기반하여 정적 신뢰도 점수를 조정하는 베이지안 슬라이딩 윈도우 보정 메커니즘을 사용합니다.

C. 이중 계층 거버넌스 파이프라인

이 설계는 6 계층 검증 파이프라인과 이중 계층 권한 모델을 도입합니다:

• 검증 파이프라인: 스키마 검증 → 기능 권한 → 객체 범위 → 동적 위험 평가 → 승인 게이트 → 실행.
• 이중 계층 권한: 기능(역할이 호출할 수 있는 것) 과 객체 범위(Tenant → Brand → Store → User 계층 구조 내의 역할이 접근할 수 있는 데이터) 를 분리합니다.
• 동적 위험 에스컬레이션: 영향받는 엔티티 수, 브랜드 간 작업, 되돌릴 수 없는 작업 등의 요인에 따라 런타임에서 위험 수준이 조정됩니다. 고위험 작업은 에이전트 스레드를 차단하지 않고 실행을 일시 중지하는 내장 승인 워크플로우를 트리거합니다.

D. 설명적 입력

정의 원칙은 도구들이 설명적 입력 (예: "도심 지점") 을 받아 내부적으로 해결을 수행하며, LLM 의 확률적 컨텍스트 윈도우에서 결정론적 백엔드 로직으로 부담을 이전한다는 점입니다.

3. 주요 결과

저자들은 동일한 MiniMax-M2.7 LLM 과 ReAct 프롬프팅 전략을 사용하여 50 개 작업에 걸쳐 전통적인 CRUD API 기반선과 에이전트 우선 패러다임을 비교하는 통제된 실험을 수행했습니다.

• 작업 성공률: 64.0%(CRUD) 에서 88.0%(에이전트 우선) 로 증가하여 37.5% 개선되었습니다.
• 오류 복구: 오류로부터의 성공적인 복구가 5.8 배(12.5% 대비 72.7%) 향상되었습니다.
• 할루시네이션 감소: ID 할루시네이션 오류가 85.7%(28% 에서 4% 로) 감소했습니다.
• 인간 개입: 필요한 인간 개입이 72.7%(22% 에서 6% 로) 감소했습니다.
• 효율성: 다단계 프로토콜로 인한 호출당 지연 시간과 토큰 소비가 증가했음에도 불구하고, 탐색적 재시도 루프가 제거되어 작업당 평균 API 호출 횟수가 33.3%(4.8 에서 3.2 로) 감소했습니다.
• 순 지연 시간: 개별 도구 호출은 더 오래 걸렸음 (+48.4%) 에도 불구하고, 실패한 재시도 사이클이 제거되어 평균 순 작업 지연 시간이 1.3 초 감소했습니다.

4. 중요성 및 주장

본 논문은 에이전트 우선 도구 API 패러다임이 프로덕션 기업 환경에서 신뢰할 수 있는 에이전트형 AI를 위한 필수 조건이라고 주장합니다. 주요 기여점은 다음과 같습니다:

1. 패러다임 간극 해소: LLM 이 추론하는 방식 (자연어, 다중 턴, 확률적) 과 전통적인 API 가 작동하는 방식 (정확한 ID, 단일 턴, 결정론적) 사이의 근본적인 단절을 해결합니다.
2. 전송 표준과의 직교성: 저자들은 이 작업이 Model Context Protocol(MCP) 과 같은 표준과 상호 보완적임을 강조합니다. MCP 가 전송과 발견을 해결하는 반면, 에이전트 우선 API 는 애플리케이션 계층에서 신뢰성과 거버넌스를 해결합니다.
3. 기업급 거버넌스: 권한, 위험 평가, 승인 등의 거버넌스를 도구 인터페이스에 직접 내장함으로써 외부 오케스트레이션 계층 없이도 자율 실행을 안전하게 관리할 수 있음을 입증합니다.
4. 실용적 타당성: 라이브 SaaS 환경에서 85 개의 도구에 걸친 검증을 통해 이 패러다임이 아키텍처적으로 건전하며, "초인간적" LLM 능력을 요구하지 않고도 모호성으로 인한 실패를 줄이는 데 효과적임을 증명합니다.

저자들은 이 접근 방식이 엔지니어링 오버헤드 (이중 API 표면 유지) 를 수반하지만, 실패 모드의 극적인 감소와 진정한 자율 기업 에이전트의 활성화라는 교차로 정당화된다고 결론지었습니다.