Agent Operating Systems (AOS): Integrating Agentic Control Planes into, and Beyond, Traditional Operating Systems
이 논문은 확률적이고 목표 지향적인 AI 에이전트가 야기하는 고유한 스케줄링, 메모리, 보안 및 거버넌스 문제를 해결하는 동시에, 이들이 대규모 환경에서도 통제 가능하고 책임질 수 있으며 안전하게 유지되도록 보장하기 위해 에이전트 제어 평면(agentic control planes)을 기존 운영 체제 내부 또는 옆에 통합하는 새로운 시스템 아키텍처인 에이전트 운영 체제(Agent Operating System, AOS)의 개념을 소개한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
전통적인 컴퓨터 운영체제(Windows나 Linux 같은)를 매우 엄격하고 원칙을 준수하는 건설 현장 소장이라고 상상해 보십시오.
이 소장은 명확한 설계도에 따라 움직이는 인간 노동자들을 다루는 데 매우 능숙합니다. 만약 노동자가 "망치가 필요합니다"라고 말하면, 소장은 규칙을 확인하고 해당 노동자에게 권한이 있는지 확인한 뒤 망치를 건네줍니다. 만약 노동자가 허가 없이 전기톱을 사용하려 한다면, 소장은 "안 됩니다"라고 말할 것입니다. 노동자의 행동은 예측 가능하고, 선형적이며, 추적하기 쉽습니다.
문제점: "AI 에이전트"
이제 새로운 유형의 노동자인 AI 에이전트를 고용했다고 상상해 보십시오. 이 노동자는 다릅니다.
- 이들은 고정된 설계도를 따르는 것이 아니라 목표(예: "휴가 계획 세우기")를 가지고 있습니다.
- 이들은 확률적으로 사고합니다(최선의 경로를 추측합니다).
- 이들은 장기간 활동하며, 작업 도중에 생각을 바꿀 수 있습니다.
- 이들은 매 단계마다 허가를 구하지 않고도 스스로 여행사에 전화를 걸고, 호텔을 예약하고, 티켓을 구매하기로 결정할 수도 있습니다.
기존의 "건설 현장 소장"(전통적인 OS)은 혼란에 빠집니다. 소장은 AI 노동자가 몇 시간 동안 가만히 앉아 있는 것(항공권이 열리기를 기다리는 상황)을 보고 게으르다고 생각할 수 있습니다. 소장은 그들이 "계획 중"이라는 사실을 이해하지 못합니다. 왜 특정 호텔을 선택했는지 알 수 없으며, 단지 그 호텔을 예약했다는 결과만 알 뿐입니다. 만약 노동자가 실수를 저지른다면, 소장은 그 실수가 어떤 사고 과정을 거쳐 발생했는지 쉽게 추적할 수 없습니다.
해결책: 에이전트 운영체제 (AOS)
이 논문은 **AOS(Agent Operating System)**라고 불리는 새로운 관리 계층을 제안합니다. 이것을 **건설 현장 소장 위에 자리 잡은 전문적인 "목표 관리자(Goal-Manager)"**라고 생각하십시오.
AOS가 작동하는 방식은 다음과 같은 간단한 비유를 통해 설명할 수 있습니다.
1. 3팀 구조 (플레인의 분리)
AOS는 안전을 유지하기 위해 업무를 세 가지 별도의 팀으로 나눕니다.
- 드림 팀 (추론 플레인 - Reasoning Plane): 이것은 AI 그 자체입니다. 창의적이고, 추측하며, 계획을 세웁니다. 결정적으로, AOS는 이 팀을 "신뢰할 수 없는(untrusted)" 존재로 취급합니다. 이들은 아이디어를 제안할 수는 있지만, 직접 실행할 수는 없습니다.
- 보안 요원 (정책 플레인 - Policy Plane): 이것은 규칙 제정자입니다. 드림 팀의 제안을 검토하며 다음과 같이 질문합니다. "이것이 허용되는가? 안전한가? 예산 범위 내에 있는가?" 이들은 엄격한 규칙에 기반하여 확고한 Yes/No 결정을 내립니다.
- 실행팀 (실행 플레인 - Execution Plane): 실제로 일을 하는 노동자들입니다. 이들은 보안 요원이 "Yes"라고 승인했을 때만 움직입니다. 이들은 실수로 무언가를 망가뜨리지 않도록 샌드박스(안전하고 제한된 구역) 안에 격리되어 있습니다.
2. 새로운 직함 (일급 엔티티 - First-Class Entities)
일반적인 컴퓨터는 "프로세스"(실행 중인 프로그램)를 추적합니다. AOS는 다음과 같은 새로운 직함을 도입합니다.
- 에이전트 ID (Agent Identity): AI 노동자를 위한 고유 식별 카드입니다.
- 목표 그래프 (Goal Graphs): 노동자의 현재 미션과 그 단계들을 나타내는 지도입니다.
- 역량 (Capabilities): 해당 노동자가 만질 수 있는 도구의 특정 목록입니다 (예: "이메일을 읽을 수는 있지만, 삭제할 수는 없음").
- 실행 기록 (Execution Records): 내려진 모든 결정에 대한 영구적이고 변경 불가능한 일기입니다.
3. "도구(Tool)" vs "시스템 콜(System Call)"
일반적인 컴퓨터에서 프로그램은 OS에 파일을 열어달라고 요청합니다. AOS에서 AI는 도구(예: "항공권 예약")를 사용하겠다고 요청합니다.
- AOS는 이것을 고도의 보안 검문소처럼 취급합니다.
- 도구가 사용되기 전, 보안 요원은 다음과 같이 확인합니다: "이 도구가 허용된 것인가? 목적지가 안전한가? 가격이 예산 범위 내에 있는가?"
- 만약 AI가 보안 요원을 거치지 않고 (예: 시스템을 통하지 않고 직접 여행사에 연락하려고 시도하는 경우) 몰래 도구를 사용하려 한다면, AOS는 이를 차단합니다.
4. 메모리와 컨텍스트
일반적인 컴퓨터는 파일을 저장함으로써 무언가를 기억합니다. AI 에이전트는 "컨텍스트 윈도우"(단기 기억)와 "장기 기억"을 유지함으로써 기억합니다.
AOS는 이를 **사서(Librarian)**처럼 관리합니다. 단순히 책을 저장하는 것이 아니라 다음 사항들을 태그로 붙입니다:
- 이 정보는 어디에서 왔는가? (출처 - Provenance)
- 이 정보는 신뢰할 수 있는가? (신뢰 수준 - Trust level)
- 언제 폐기해야 하는가? (보유 규칙 - Retention rules)
이를 통해 만약 에이전트가 잘못된 결정을 내렸을 때, 사서의 로그를 보고 에이전트가 어떤 정보를 보고 있었기에 그런 실수를 했는지 정확히 파악할 수 있습니다.
5. "블랙박스" 문제
AI의 추론은 종종 "블랙박스"(우리가 어떻게 생각하는지 알 수 없음)와 같습니다. 논문은 우리가 AI의 뇌를 100% 예측 가능하게 고칠 수는 없다는 점을 인정합니다.
AOS의 전략: AOS는 AI의 사고 과정을 예측 가능하게 만들려고 노력하는 대신, AI의 행동을 예측 가능하게 만듭니다.
- 두뇌 내부: 혼돈과 확률은 괜찮습니다.
- 문 앞 (경계선): 모든 것은 결정론적(엄격하고 변하지 않는) 규칙 세트에 의해 검사되고, 기록되며, 승인되어야 합니다.
6. 기존 컴퓨터와의 관계
논문은 AOS가 기존 컴퓨터를 대체하는 것이 아님을 명시합니다.
- Linux/Windows는 여전히 기초가 됩니다 (하드웨어, 메모리, 기본 보안).
- AOS는 그 위에 위치하여 AI 에이전트를 위한 관제 타워(Control Tower) 역할을 하는 새로운 소프트웨어 계층입니다.
- 이는 현재 사용 중인 컴퓨터(사용자 공간)에서 실행될 수도 있고, 전체 네트워크의 컴퓨터들에 걸쳐(분산 제어 평면) 실행될 수도 있습니다.
요약
이 논문은 우리가 AI 에이전트를 일반적인 소프트웨어처럼 실행해서는 안 된다고 주장합니다. 그들은 너무나 다릅니다. 우리는 AI가 창의적이고 예측 불가능하더라도, 그들의 행동이 안전하고, 기록되며, 인간이 정의한 규칙에 의해 엄격히 통제되도록 보장하는 엄격한 감독자로서의 새로운 "운영체제" 계층이 필요합니다. 이것은 AI를 "통제 불능의 직원"에서 "관리되고 책임질 수 있는 노동자"로 변화시킵니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.