💻 computer science

UAS-OS: An Operating-System-Level Control Plane for Autonomous AI Governance and Real-Time Execution Abstraction

본 논문은 에이전트 제어 블록(Agent Control Blocks)과 제로 카피 메모리 관리(zero-copy memory management)를 통해 자율형 AI 워크로드를 관장하며, 실시간 미션 크리티컬 환경에 적합한 50마이크로초 미만의 오버헤드로 견고한 의도 제어와 결함 격리를 달성하는 새로운 운영체제 수준의 제어 평면인 UAS-OS를 제시한다.

원저자: TADAYUKI NISHIMURA

게시일 2026-09-11

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: TADAYUKI NISHIMURA

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인공지능 시스템이 점점 더 강력해지고 현실 세계에서 작동하기 시작함에 따라, 이들은 단순한 도구를 넘어 복잡하고 독립적인 행위자로 진화하고 있습니다. 이러한 시스템은 스스로 결정을 내리도록 설계되었으며, 종종 실수가 심각한 물리적 결과를 초-래할 수 있는 환경에서 작동합니다. 그러나 이 시스템을 실행하는 컴퓨터들은 수십 년 전 다른 목적을 위해 설계된 운영체제 위에서 구축되었습니다. 전통적인 운영체제는 모든 프로그램을 표준 작업으로 취급하며, 수행 중인 작업의 의도나 안전 요구 사항을 이해하지 못한 채 메모리와 프로세싱 파워를 관리합니다. 이는 인공지능이 일어나기 전에 무엇을 하려고 계획하는지를 깊이 있게 조사하거나, 오작동하는 AI를 격리하여 시스템의 나머지 부분에 해를 끼치지 못하게 하는 방법을 갖추고 있지 않습니다. 이러한 간극은 자율 기계가 핵심 인프라의 필수 요소가 되는 미래로 나아감에 따라 상당한 위험을 초래합니다.

이를 해결하기 위해, 타다유키 니시무라(Tadayuki Nishimura)라는 연구자는 UAS-OS라고 불리는 새로운 아키텍처 프레임워크를 제안했습니다. 이것은 기존 소프트웨어의 사소한 업데이트가 아니라, 운영체제가 인공지능을 어떻게 관리해야 하는지에 대한 근본적인 재사고입니다. 핵심 아이디어는 AI 에이전트를 단순한 프로세스로 취급하는 것을 멈추고, 고유한 규칙, 안전 제한 및 정체성을 가진 통제받는 엔티티로 취급하기 시작하는 것입니다. AI 거버넌스를 위한 제어 평면(control plane)을 구축함으로써, 시스템은 자율 에이전트의 의도를 모니터링하고, 그 행동이 안전 정책과 일치하는지 검증하며, 한 에이전트가 실패하더라도 그 실패가 즉시 격리되도록 보장할 수 있습니다. 이 접근 방식은 자율 지능의 독특하고 예측 불가능한 특성에 맞춤화된, 우리가 핵심 인프라에 기대하는 것과 동일한 수준의 신뢰성과 안전성을 제공하는 것을 목표로 합니다.

이 논문은 이러한 안전성을 달성하기 위해 두 개의 뚜렷한 계층으로 작동하는 시스템을 소개합니다. 하위 계층은 원시 하드웨어를 처리하고 잠재적인 양자 컴퓨팅 요소를 포함한 물리적 구성 요소들이 올바르게 기능하는지 보장합니다. 상위 계층은 이 연구의 중심이며, AI 에이전트 자체에 대한 엄격한 감독자 역할을 합니다. 운영체제가 일반적인 제어 블록으로 프로그램을 추적하는 표준 방식 대신, 이 새로운 시스템은 '에이전트 제어 블록(Agent Control Blocks)'이라고 불리는 것을 사용합니다. 이것을 각 AI 에이전트를 위한 특수 신분증이자 규칙책이라고 생각하면 됩니다. 여기에는 현재 상태, 의도된 목표, 그리고 준수해야 할 특정 안전 정책이 포함됩니다. 에이전트가 명령을 실행하기 전에, 시스템은 이 정보를 허용된 행동 세트와 대조하여 확인합니다. 만약 에이전트의 계획이 안전 경계 내에 있으면 진행하고, 만약 경계를 벗어나면 시스템은 즉시 동작을 중단하고 에이전트를 격리하여 피해를 방지합니다.

이러한 거버넌스는 실시간 애플리케이션에 필수적인 놀라운 속도로 이루어집니다. 연구진은 이 추가적인 안전 계층이 시스템 운영에 얼마나 많은 시간을 추가하는지 테스트하기 위해 수천 개의 동시 실행 에이전트가 있는 복잡한 환경을 시뮬레이션했습니다. 결과에 따르면, 에이전트의 의도를 확인하고, 안전성을 검증하며, 자원을 관리하는 전체 과정은 평균적으로 단 41.308마이크로초가 소요되었습니다. 시뮬레이션 중에 측정된 최악의 시나리오에서도 시간은 46.31마이크로초 미만으로 유지되었습니다. 이는 많은 중요한 실시간 미션에서 요구되는 100마이크로초 데드라인 이내에 들어오는 수치로, 엄격한 안전 검사가 성능의 희생을 초래하지 않는다는 것을 입증합니다. 시스템은 엄격한 문지기인 동시에 빠른 실행자가 되어, 안전이 사후 고려 사항이 아니라 운영체제의 핵심에 내장된 기능이 되도록 보장합니다.

이 아키텍처의 중요한 부분은 시스템이 메모리와 데이터를 처리하는 방식입니다. 현재의 많은 설정에서는 메인 메모리에서 특화된 AI 가속기로와 같이 컴퓨터의 서로 다른 부분 사이에서 데이터를 이동할 때 정보를 복사해야 하며, 이는 속도를 늦춥니다. UAS-OS 설계는 데이터의 중복 없이 서로 다른 하드웨어 구성 요소가 동일한 데이터에 직접 접근할 수 있도록 통합 메모리 공간을 생성함으로써 이 복사 단계를 제거합니다. 이 제로 카피(zero-copy) 접근 방식은 데이터가 이동하는 동안 안전하고 변하지 않음을 보장하는 특화된 하드웨어 연결에 의해 지원됩니다. 또한, 시스템은 데이터 자체의 무결성을 점검하는 메커서니즘을 포함하여, AI의 결정을 안내하는 수학적 가중치가 손상되거나 조작되지 않았음을 보장합니다. 이러한 다층적 방어 체계는 AI가 규칙을 따를 뿐만 아니라 정확하고 신뢰할 수 있는 정보에 기반하여 작동하도록 보장합니다.

또한 이 연구는 여러 AI 에이전트가 중앙의 관리자 없이도 행동에 대해 합의해야 하는 분산 네트워크에서 이러한 시스템들이 어떻게 협력할 수 있는지 탐구합니다. 제안된 프레임워크는 키 설정을 위한 QKD 보안 인증 채널과 함께, 일부 에이전트가 악의적으로 행동하거나 실패하더라도 네트워크가 올바르게 기능을 계속할 수 있도록 하는 합의 프로토콜을 사용하여 분산 에이전트 노드들을 조정합니다. 시뮬레이션은 네트워크의 일부가 침해되더라도 안전성과 신뢰성이 유지됨을 확인했습니다.

궁극적으로, 이 논문에서 제시된 작업은 자율 AI를 물리적 시스템에 적용하는 것과 동일한 수준의 정밀한 조사와 통제를 적용하는 운영체제를 구축하는 것이 가능하다는 것을 보여줍니다. 에이전트를 관리, 검증 및 격리하는 방식을 재정의함으로써, UAS-OS 프레임워크는 높은 이해관계가 걸린 환경에 강력한 AI를 자신 있게 배포할 수 있는 경로를 제시합니다. 멀티 스레드 엔터프라이즈 테스트베드의 상세한 시뮬레이션을 통해 도출된 연구 결과는, 이러한 거버넌스의 오버헤드가 그것이 제공하는 안전에 비해 무시할 수 있는 수준임을 시사합니다. 현재 이 작업은 시뮬레이션 단계에 있으며 잠정 특허 출원을 뒷받-고 있지만, 이는 인공지능이 의도를 보장하고 치명적인 실패를 방지하는 엄격한 실시간 제어 평면 아래에서 작동하는 미래를 위한 명확한 청사진을 제시합니다.

기술 요약: UAS-OS – 자율형 AI 거버넌스를 위한 운영체제 수준의 제어 평면

문제 정의

자율형 인공지능 시스템이 미션 크리티컬(mission-critical) 및 분산 환경으로 확장됨에 따라, 기존의 운영체제는 불충분함이 드러나고 있다. 현재의 OS 아키텍처는 AI 워크로드를 단순한 표준 프로세스로 취급하며, 이로 인해 의도 제어(intent control), 행동 거버넌스(behavioral governance), 그리고 **물리 계층 결함 격리(physical-layer fault isolation)**를 위한 필수적인 보증을 제공하지 못한다. 자율형 AI 인프라의 고신뢰성을 확보하기 위해서는 리소스 오케스트레이션과 런타임 거버넌스를 분리하는 아키텍처가 절실히 필요하다.

방법론 및 아키텍처

본 논문은 상위 계층의 거버넌스 제어 평면 역할을 수행하도록 설계된 포괄적인 풀스택 아키텍처인 UAS-OS(Unified AI Controlling Operating System)를 소개한다. 이 시스템은 하위 리소스 및 양자 오케스트레이션 계층 역할을 하는 QID-OS(Universal Operating System Architecture)와 결합하여 작동한다. 본 아키텍처는 엄격한 2계층 제어 평면 계층 구조로 정의된다:

UAS-OS (자율 거버넌스 계층): 에이전트 라이프사이클, 의도 파싱(intent parsing), 거버넌스 정책, 가상 리소스 매핑, 열/전력 정책 엔벨로프(thermal/power policy envelopes)를 관리한다.
QID-OS (신뢰 실행 계층): 하드웨어 실행 무결성, 양자 오류 정정(QEC) 신드롬 루프, 텐서 메모리 패리티, 이기종 리소스 할당을 관리한다.

핵심 추상화: 에이전트 제어 블록 (Agent Control Blocks, ACBs)
전통적인 OS가 프로세스 제어 블록(PCB)을 통해 워크로드를 관리하는 것과 유사하게, UAS-OS는 **에이전트 제어 블록(ACB)**을 통해 AI 에이전트를 관리한다. ACB는 다음과 같은 핵심 메타데이터를 캡슐화하는 튜플(tuple)로 정식 정의된다:
$ACB(ID, State, Intent, Policy, Resource, Trust)$

수학적 모델링 및 심층 방어(Defense-in-Depth)

본 아키텍처는 네 가지 계층에 걸친 정식 정의를 바탕으로 엄격한 심층 방어 패러다임을 채택한다:

계층 1 (Secure Boot 및 TPM 기반 검증): TPM 기반의 측정된 부팅(measured boot)과 원격 검증을 사용하여 하드웨어 신뢰점(Root of Trust, RoT)을 구현한다. 플랫폼 구성 레지스터(PCR)와 커널 바이너리 측정값이 승인된 참조 정책과 일치하지 않을 경우, 하드웨어 강제 실행을 통해 즉시 실행을 중단한다 ( $Attest(K, PCR_{target}) = True$ ).
계층 2 (Intent Guard 거버넌스 함수): 제어 평면 수준에서 에이전트의 실행 경로를 가로챈다. 이는 실행 의도 벡터 $I(A, t, x)$ 와 허용된 정책 공간 $A_{allowed}$ 를 정의한다. 거버넌스 함수 $G(A, t, x)$ 는 의도가 정책 내에 있고 위험도가 임계값 $\theta_R$ 미만인지 판단하여 실행(Execute) 또는 에이전트 격리(Quarantine) 여부를 결정한다.
계층 3 (Zero-Copy 가상 메모리 및 QEC 무결성):
- IOMMU 지원 DMA를 통해 호스트 DRAM, 가속기 HBM, 극저온 QPU 제어 레지스터 간의 통합 주소 공간을 구현함으로써, AI 가중치 텐서 및 양자 상태 벡터에 대한 사용자 공간-커널 공간 간의 복사 오버헤드를 제거한다.
- 표면 코드(surface-code) 기반의 실시간 신드롬 측정 루프와 최소 가중치 완벽 매칭(MWPM) 디코더를 사용하여 QEC 텐서 메모리 무결성을 관리한다. 뉴럴 가중치 텐서는 XOR 기반 무결성 변환 및 참조 체크섬 검증을 통해 보호된다.
계층 4 (BFT 컨센서스 QKD 보안 메시 네트워크): 키 설정을 위한 QKD(양자 키 분배) 보안 인증 채널과 PBFT 방식의 비잔틴 결함 허용(Byzantine fault tolerance)을 사용하여 분산된 에이전트 노드들을 조정한다. $n = 3f + 1$ 개의 노드에 대해, 쿼럼 크기 $Q = 2f + 1$ 은 안전성과 활성성을 보장한다.

실험적 검증 및 결과

멀티 스레드 엔터프라이즈 테스트베드(64코어 호스트, 하드웨어 가속 IOMMU/TPM 에뮬레이터, QPU 상태 벡터 시뮬레이터 포함)를 모델링한 이산 사건 커널 시뮬레이터를 사용하여 성능 벤치마크를 수행하였다. 시스템은 $10^3$ 개의 동시 에이전트 스레드에 걸친 $10^5$ 개의 독립적인 비동기 트랜잭션으로 스트레스 테스트를 거쳤다.

주요 성능 지표:
총 통합 엔드 투 엔드 제어 라이프사이클( $T_{total}$ )은 41.308 µs (p99: 46.31 µs)로 측정되었으며, 이는 미션 레벨 목표인 $D_{target} \le 100$ µs를 충분히 만족한다.

Secure Boot 검증 ( $T_{boot}$ ): 평균 10.77 µs (목표 < 15.0 µs).
Intent Guard 검사 ( $T_{proxy}$ ): 평균 22.847 µs (목표 ≤ 10.0 µs). 참고: 이 구성 요소는 로컬 설계 목표를 초과했으나, 전체 시스템 예산 범위 내에는 유지되었다.
QEC 텐서 무결성 ( $T_{qec}$ ): 평균 7.231 µs (목표 < 20.0 µs).
텐서 패리티 체크 ( $T_{parity}$ ): 평균 0.23 µs (목표 < 10.0 µs).
BFT/Mesh 컨센서스 ( $T_{bft}$ ): 평균 0.23 µs (목표 < 15.0 µs).

의의 및 주장

본 논문은 UAS-OS가 자율형 AI 거버넌스를 위한 선구적인 아키텍처 프레임워크를 구축한다고 주장한다. AI 에이전트를 ACB를 통해 관리되는 거버넌스 대상 실행 엔티티로 재정의하고 정식화된 의도 거버넌스를 뒷받로 함으로써, 시스템은 견고한 의도 거버넌스와 결함 격리를 달성한다.

주요 의의는 양자-고전 하이브리드 요소와 제로 카피 메모리 관리를 통합한 다계층 제어 평면이 실시간 미션 데드라인과 원활하게 공존할 수 있음을 입증했다는 점에 있다. 본 아키텍처는 리소스 오케스트레이션과 런타임 거버넌스를 성공적으로 분리하여, 기존 운영체제가 갖지 못한 의도 제어 및 물리 계층 결함 격성에 대한 필요한 보증을 제공한다. 본 연구는 기술된 아키텍처 및 방법론에 관한 관련 미국 가출원 특허(제64/150,717호)에 의해 뒷받침된다.