Ensuring Safe Physical AI in Urban Mobility via Hazard-Informed Synthesized Envelopes

기술 요약: 위험 정보 기반 합성 엔벨로프를 통한 도시 모빌리티 내 안전한 피지컬 AI 보장

문제 정의
보도 주행 배달 로봇부터 자율주행 로보택시, 도로 유지보수 차량에 이르기까지 이질적인 로봇 시스템이 공공 도시 공간에 통합되는 것은 중대한 안전 과제를 제기합니다. 통제된 산업 환경과 달리, 도시 모빌리티는 인간 행위자와의 복잡하고 역동적인 상호작용을 수반합니다. 현재의 안전 패러다임은 종종 파편화되어 있습니다. 보도 로봇은 저속의 "모두에게 양보(yield-to-all)" 행동에 의존하고, 로보택시는 다층적 센서 중복성과 결정론적 엔벨로프를 활용하며, 유지보수 로봇은 지오펜싱(geofencing) 및 V2X 통신에 의존합니다.

식별된 핵심 문제는 안전이 흔히 개별 소프트웨어 모듈 내에 고립된 정적 제약 조건으로 취급된다는 점입니다. 그러나 안전은 본질적으로 시스템 설계의 다양한 계층(기호적 규칙에서 물리적 제어까지)을 통해 정보가 흐름에 따라 진화하는 시스템 수준의 특징입니다. 체계적인 위험 분석과 런타임 강제 집행 사이의 간극을 메우고, 다양한 추상화 수준 전반에서 안전 목표가 일관되게 유지되도록 보장하는 통합된 프레임워크가 부족한 실정입니다.

방법론
저자들은 **위험 정보 기반 합성 엔벨로프(Hazard-Informed Synthesized Envelopes)**와 **피지컬 AI 하네스(Physical AI Harness)**를 중심으로 한 통합 프레임워크를 제안합니다. 이 방법론은 세 가지 주요 구성 요소를 통해 작동합니다:

1. 위험 정보 기반 안전 엔벨로프:
   본 프레임워크는 모델을 단순히 정상 주행 데이터로만 학습시키는 대신, 명시적으로 정의된 자산, 노출 모드 및 위험 시나리오를 바탕으로 생성된 합성 학습 시나리오를 활용합니다. 이 접근 방식은 머신러닝 모델이 단순히 드문 충돌 사건만을 학습하는 것이 아니라, 정상 운행에서 위험한 조건으로의 점진적인 전이를 학습할 수 있게 합니다. 결과적으로 생성된 모델은 안전 제약 조건 위반에 대한 근접성을 지속적으로 추정하여 예측적 안전 평가를 가능하게 합니다.

2. 교차 계층 안전 변환:
   프레임워크는 안전이 서로 다르게 표현되지만 동일한 근본적 목표를 유지하는 세 가지 월드 모델의 계층 구조를 모델링합니다:

• 기호 계층(Symbolic Layer): 엔티티, 관계 및 규칙(예: 교통법규, 윤리적 제약)을 사용하여 환경을 표현합니다. 안전은 허용 가능한 행동(예: 보행자에게 양보)으로 정의됩니다.
• 공간 계층(Spatial Layer): 기호적 규칙을 기하학적 경로 계획으로 변환합니다. 안전은 충돌 확률, 이격 거리 및 동적 장애물의 예측 점유 공간으로 표현됩니다.
• 역학 계층(Dynamic Layer): 물리적 상호작용을 관장하며, 액추에이터 한계, 차량 역학 및 안정성에 집중합니다. 안전은 제어 명령의 물리적 타당성으로 정의됩니다.

프레임워크는 양방향 흐름을 촉진합니다. 순방향 변환은 고수준의 규칙을 저수준의 물리적 명령으로 변환하며, 피드백 변환은 실제 실행 편차를 바탕으로 고수준 표현을 업데이트합니다. "도시 안전 엔벨로프"는 이 세 계층 전체의 제약 조건이 일관되게 교차하는 지점에서 도출됩니다.

3. 피지컬 AI 하네스를 통한 런타임 강제 집행:
   실행 중 AI 생성 결정이 안전 제약 조건과 일치하도록 보장하기 위해, 본 논문은 투영(Projection), 격리(Isolation), 전이(Transfer) 메커니즘인 PIT에 기반한 피지컬 AI 하네스를 도입합니다:

• 투영(Projection): ML 모델의 출력을 사전 정의된 허용 행동 영역(안전 엔벨로프)으로 투영하여 명령을 제한합니다. 위반되는 명령은 컨트롤러에 도달하기 전에 수정되거나 거부됩니다.
• 격리(Isolation): AI 워크로드가 안전 필수 기능의 성능을 저하시키는 것을 방지하기 위해 전용 컴퓨팅 자원을 할당하여 결정론적 동작을 보장합니다.
• 전이(Transfer): 안전 마진이 허용 가능한 임계값 아래로 떨어질 때, AI 모델로부터 검증된 폴백(fallback) 컨트롤러(예: 비상 제동 또는 규칙 기반 제어)로 권한을 넘겨주는 통제된 메커니즘을 제공합니다.

주요 기여

• 통합 안전 프레임워크: 정적이고 모듈별로 분리된 안전 제약을 넘어, 체계적인 위험 분석과 런타임 강제 집행을 연결하는 교차 계층 접근 방식을 제시합니다.
• 위험 정보 기반 합성 데이터: 모델의 해석 가능성과 예측적 안전 평가를 개선하기 위해 안전 임계 상황 주변의 학습 데이터를 생성하는 방법론을 제안합니다.
• 계층적 안전 표현: 안전 목표를 기호적 규칙에서 공간 계획, 그리고 최종적으로 역학 제어 명령으로 변환하는 과정을 공식화하여 추상화 수준 간의 일관성을 보장합니다.
• 런타임 안전 메커니즘: 피지컬 AI 하네스(PIT)의 도입은 운영 라이프사이클 동안 안전 의미론을 강제하기 위한 구체적인 메커니즘을 제공합니다.

결과 및 검증 방식
본 논문은 실제 배치된 플릿(fleet)으로부터 얻은 경험적 실험 결과를 제시하지 않습니다. 대신, 현재 개발 중인 **개념 증명 구현(proof-of-concept implementation)**을 설명합니다. 저자들은 세 가지 NVIDIA 플랫폼을 통합한 폐쇄 루프 파이프라인을 사용하여 프레임워크를 검증하고 있다고 밝힙니다:

• NVIDIA Isaac Sim 및 Isaac Lab: 물리적으로 정확한 로보틱스 시뮬레이션 및 학습을 위해 사용됩니다.
• NVIDIA Cosmos: 안전 임계 엣지 케이스를 포함한 다양한 도시 시나리오를 시뮬레이션하고 고품질의 합성 데이터를 생성하기 위해 사용됩니다.
• NVIDIA Omniverse: 도시 환경의 고충실도 디지털 트윈을 구축하기 위해 사용됩니다.

이 구현의 목표는 수천 가지의 시나리오 변형에 걸쳐 도시 안전 엔벨로프를 체계적으로 평가하고, 통제되어 있으면서도 현실적인 조건 하에서 PIT 런타임 강제 집행 메커니즘을 검증하는 것입니다.

의의 및 주장
저자들은 이 프레임워크가 안전한 도시 모빌리티를 위한 엄격하고 확장 가능한 토대를 제공한다고 주장합니다. 안전을 추상화 단계에 따라 진화하는 교차 계층 속성으로 취급함으로써, 시스템은 위반이 발생하기 전에 경계 조건을 예측할 수 있습니다. 위험 정보 기반 합성 기술과 런타임 강제 집행의 결합은 모델 개발 단계뿐만 아니라 전체 운영 라이프사이클 전반에 걸쳐 안전이 유지되도록 보장합니다. 본 논문은 이 접근 방식이 정적인 안전 제약에서 벗어나, 공공 공간 내 이질적인 로봇 시스템의 복잡성을 처리할 수 있는 동적이고 예측 가능하며 강제 집행 가능한 안전 시스템으로 진화하기 위한 필수적인 과정이라고 규정합니다.