⚡ electrical engineering

Adapting AUTOSAR for AI-Enabled Autonomous Driving: An Integrated Functional Safety, SOTIF, Cybersecurity, and Runtime Assurance Framework

본 논문은 자율주행 시스템에서 학습 기반 구성 요소의 안전하고 추적 가능하며 제어된 배포를 가능하게 하기 위해, AUTOSAR Adaptive Platform 서비스와 ISO 기능 안전, SOTIF, 사이버 보안 및 소프트웨어 업데이트 표준을 새로운 AI 보증 티어(AI Assurance Tier) 모델과 함께 통합한 AUTOSAR-AI 안전 보증 프레임워크(AASAF)를 제안한다.

원저자: Emrah Ekrem KARABAG

게시일 2026-08-11

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Emrah Ekrem KARABAG

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 스스로 자동차를 운전할 수 있는 로봇을 만들고 있다고 상상해 보세요. 당신은 이 로봇에게 도로, 교통, 보행자의 사진 수백만 장을 통해 학습하는 인공지능(AI)이라는 초강력 두뇌와 화려한 컴퓨터를 선물했습니다. 이 로봇은 놀랍습니다. 인간이 놓치는 것을 볼 수도 있고, 눈 깜빡임보다 더 빠르게 반응할 수도 있습니다. 하지만 여기 함정이 있습니다. 이 초강력 두뇌는 천재적이지만 예측 불가능한 학생과 비슷합니다. 맑은 날에는 시험에서 만점을 받을 수도 있지만, 비가 오면 혼란에 빠질 수도 있으며, 한 번도 본 적 없는 것을 보았을 때 자신 있게 틀린 답을 내놓을 수도 있습니다. 자동차의 세계에서 "틀린 답"을 내놓는 것은 단순히 나쁜 성적을 받는 것을 의미하지 않습니다. 그것은 충돌 사고를 의미할 수 있습니다.

모두의 안전을 지키기 위해 엔지니어들은 수십 년 동안 엄격한 규칙들을 만들어 왔습니다. ISO 26262라고 불리는 유명한 규칙집은 자동차의 브레이크와 조향 장치가 매번 완벽하게 작동하는지 확인하는 안전 검사관과 같습니다. 또 다른 규칙집인 SOTIF는 자동차가 설계된 대로 정확히 작동하고 있음에도 불구하고, 세상이 너무 이상하거나 복잡해서 실수를 저지르는 상황을 걱정합니다. 그리고 AUTOSAR 시스템은 현대 자동차의 서로 다른 부품들이 서로 대화할 수 있게 해주는 범용 언어이자 운영 체제입니다. 과학자들이 지금 던지고 있는 큰 질문은 이것입니다: "이 천재적이고 예측 불가능한 AI 학생을 엄격한 안전 규칙을 따라야 하는 자동차에 어떻게 끼워 넣을 것인가?" 만약 AI가 혼란에 빠진다면, 우리는 어떻게 자동차가 위험을 향해 맹목적으로 계속 달려가는 것을 막을 수 있을까요?

이것이 바로 에므라 카라바그(Emrah Ekrem Karabag)가 새로운 연구 논문에서 다루고 있는 퍼즐입니다. 이 논문은 우리가 단순히 AI를 자동차에 꽂아 넣고 잘 되기를 바라는 것만으로는 안 된다고 제안합니다. 대신, 저자는 AI 학생 옆에 앉아 있는 엄격한 선생님 역할을 하는 새로운 "안전 프레임워크(Safety Framework)"를 제안합니다. 이 프레임워크는 기존의 AUTOSAR 시스템을 사용하면서도 특별한 감독 계층을 추가합니다. 핵심 아이디어는 AI의 '아이디어'와 자동차의 '행동'을 분리하는 것입니다. AI는 "헤이, 차선을 변경하자!"라고 제안할 수 있지만, 자동차가 실제로 움직이기 전에는 별도의, 더 단순하고 매우 예측 가능한 안전 시스템이 "예" 또는 "아니오"라고 말해야 합니다. 만약 AI가 이상하게 행동하거나 혼란에 빠지기 시작하면, 이 안전 시스템이 즉시 개입하여 "최소 위험 기동(Minimum Risk Manoeuvre)"을 수행합니다. 이는 "속도를 줄이고 안전하게 멈추는 것"을 뜻하는 멋진 표현입니다.

이 논문은 서로 다른 AI 부품들에 대해 우리가 얼마나 신뢰를 둘 수 있는지 등급을 매기는 영리하고 새로운 방법인 "AI 보증 계층(AI Assurance Tiers)"을 소개합니다. 이것은 비디오 게임의 권한 레벨과 같습니다. 가장 낮은 단계(Tier 0)에서 AI는 GPS가 날씨를 알려주는 것처럼 조언만 하는 승객입니다. 가장 높은 단계(Tier 4)에서 AI는 주 운전자이지만, 매우 빈틈없는 경비원의 감시를 받습니다. 논문은 어떤 자동차 부품이 "높은 안전성"(엔지니어들이 ASIL D라고 부르는 것)으로 라벨링되었다고 해서 그 안의 AI가 자동으로 안전하다는 것을 의미하지는 않는다고 주장합니다. AI의 두뇌를 위해 특화된 추가 점검, 즉 AI가 올바른 데이터를 보고 있는지, 혹은 자신이 이해하지 못하는 것에 대해 너무 확신하고 있지는 않은지 등을 확인하는 과정이 필요합니다.

저자는 또한 자동차 회사들이 이미 사용 중인 AUTOSAR 도구들을 사용하여 이를 어떻게 구축할 수 있는지 정확하게 그려냈습니다. 이것은 자동차에 새로운 지침을 주는 것과 같습니다: "AI가 '가라'고 말할 때, 안전 관리자(Safety Manager)는 날씨, 도로, 그리고 AI의 확신 점수를 확인한다. 모든 것이 좋아 보이면 자동차는 간다. 만약 AI가 불확실하거나 도로 상황이 이상하다면, 안전 관리자가 브레이크를 밟는다." 이 논문은 이것이 모든 문제를 영원히 해결하는 마법 같은 해결책이라고 주장하는 것이 아닙니다. 대신, 위험을 관리하는 구조적인 방법을 제시하며, 설령 AI가 실수를 하더라도 자동차가 단순하고 신뢰할 수 있으며 언제나 구조를 구할 준비가 되어 있는 백업 플랜을 갖도록 보장합니다. 이는 AI에게 똑똑해질 자유를 주되, 안전 제어권은 지치거나 혼란스러워하지 않는 시스템의 손에 맡기는 것입니다.

기술 요약: AI 기반 자율주행을 위한 AUTOSAR 적응형 모델의 최적화

문제 정의
자동차 산업은 계산 집약적인 자율주행(AD) 기능을 지원하기 위해 중앙 집중식 및 존(Zonal) 컴퓨팅 아키텍처로 전환하고 있습니다. AUTOSAR Adaptive 플랫폼은 고성능 컴퓨팅 및 머신러닝(ML)을 위한 적합한 서비스 지향 실행 환경을 제공하지만, 그 자체로 AI를 위한 완전한 보증 프레임워크를 구성하지는 못합니다. 기존의 결정론적 소프트웨어 보증 방법(ISO 26262에 의해 표준화됨)과 데이터 의존적이고 확률적이며 문맥 민감적인 학습 기반 컴포넌트 사이에는 심각한 격차가 존재합니다.

현재의 표준들은 다음과 같은 구체적인 한계를 보입니다:

ISO 26262는 오작동하는 동작은 다루지만, 시스템이 설계된 대로 작동할 때 발생하는 성능 제한(예: 분포 변화, 모호한 장면)으로 인한 안전하지 않은 동작은 주로 다루지 않습니다.
**ISO 21448 (SOTIF)**는 기능적 불충분성을 다루지만, 이러한 요구사항을 AUTOSAR 아키텍처에 통합하기 위한 구조화된 방법을 결여하고 있습니다.
사이버 보안 및 업데이트 표준(ISO/SAE 21434, ISO 24089)은 무결성을 다루지만, AI 모델에 구체적으로 어떻게 보증 엄격도를 할당할지는 정의하지 않습니다.
아키텍처 격차: 구체적인 통합 없이는 AI 애플리케이션이 일반적인 Adaptive Application으로 실행될 위험이 있으며, 이는 과도한 제어 권한, 독립적인 감독 부재, 그리고 데이터셋, 모델, 안전 목표 간의 불충분한 추적성을 초래할 수 있습니다.

방법론
본 논문은 AUTOSAR Adaptive 플랫폼과 다중 표준 보증 라이프사이클을 결합하는 구조적 통합 접근 방식인 **AUTOSAR-AI 안전 보증 프레임워크(AASAF)**를 제안합니다. 이 방법론은 "AI가 차량의 동작을 제안하거나 최적화할 수는 있지만, 별도로 보증된 메커니즘이 해당 동작이 안전 필수 액추에이션에 영향을 미칠 수 있는지 여부를 결정해야 한다"는 근본적인 설계 원칙을 바탕으로 합니다.

주요 방법론적 구성 요소는 다음과 같습니다:

아키텍처 분리: 프레임워크는 AI 기능, AI 보증 관리자(AI Assurance Manager), 그리고 **안전 권한 관리자(Safety Authority Manager)**를 별도로 파티셔닝된 애플리케이션 또는 프로세스로 배포할 것을 규정합니다. 결정론적인 최소 위험 기동(Minimum Risk Manoeuvre, MRM) 컨트롤러는 AI 모델 및 그 훈련 데이터와 독립적인 검증된 폴백(Fallback) 역할을 수행합니다.
AI 보증 마진(AI Assurance Margin): 비보상적 지표(불확실성, 분포 외 탐지, 센서 일관성, 시간적 안정성, ODD 준수, 리소스 상태, 안전 제약 조건)를 사용하여 다차원적 운용 마진 $A(t)$ 를 계산합니다. 이 마진은 Nominal(정상), Restricted(제한), Fallback(폴백) 상태 간의 상태 전이를 유도합니다.
AI 보증 티어(AI Assurance Tier, AAT) 모델: 컴포넌트의 운용 권한에 따라 AI 특화 증거(데이터 거버넌스, 검증, 런타임 제어)의 엄격도를 맞춤화하기 위한 보완적 모델을 도입합니다. 결정적으로, AAT는 ASIL을 대체하는 것이 아니라 보완합니다. 예를 들어, ASIL D 안전 목표는 그 출력이 별도의 메커니즘에 의해 완전히 경계 지어지고 확인된다면 AAT-2 AI 컴포넌트를 포함할 수 있습니다.
표준 매핑: 프레w의 보증 기능을 기존 AUTOSAR Adaptive 플랫폼 서비스(예: 제어된 초기화를 위한 Execution Management, 데드라인 감독을 위한 Platform Health Management, 모델 무결성을 위한 Cryptography, 모드 전이를 위한 State Management)에 매핑합니다.

주요 기여
본 논문은 다섯 가지 주요 기여를 제시합니다:

표준 지향적 안전 아키텍처: ISO 26262, ISO 21448, ISO/SAE 21434 및 ISO 24089를 통합하여 AUTOSAR Adaptive 플랫폼에 AI 컴포넌트를 배치하기 위한 설계.
AI 보증 티어 모델: ASIL을 재정의하지 않고 AI 증거 및 런타임 제어에 필요한 엄격도를 정의하는 분류 체계(AAT-0 ~ AAT-4). 이 모델은 운용 권한, 다운스트림 확인 및 폴백 능력을 고려합니다.
명시적 권한 분리: AI 생성 권장 사항과 결정론적 제어 권한 결정 사이의 명확한 아키텍처적 구분을 통해, 오류가 있는 모델이 무제한적인 제어권을 유지하는 것을 방지합니다.
런타임 보증 메커니즘: 불확실성 모니터링, ODD 감독, 안전 엔벨로프 강제 실행 및 검증된 폴백 실행을 결합한 시스템.
추적성 구조: AI 데이터셋, 훈련된 모델, AUTOSAR 매니페스트, 안전 요구사항, 검증 증거 및 배포 후 모니터링을 연결하는 프레임워크.

결과 및 예시적 적용
본 논문은 개념적 제안이므로 실험적 데이터나 경험적 검증 결과를 제시하지 않습니다. 대신, AI 기반 차선 변경 기능의 예시적 케이스 스터디를 통해 프레임워크의 적용 가능성을 입증합니다.

이 시나리오에서:

AI 시스템(AAT-4)은 인지 및 궤적 계획을 담당합니다.
안전 권한 관리자는 조향 명령에 대해 결정론적 한계를 강제합니다.
시스템은 다양한 센서 검증, OOD(분포 외) 모니터링 및 안전 경계 궤적 확인기를 활용합니다.
상태 전이는 AUTOSAR State Management를 통해 관리되며, 보증 지표가 저하될 경우 시스템은 제한된 상태로 전환되거나 검증된 MRM(예: 제어된 감속)을 실행합니다.

본 논문은 이 아키텍처가 추적성, 간섭으로부터의 자유, 사이버 보안 보호 및 안전한 성능 저하를 유지하면서 AI의 통제된 배포를 지원한다고 주장합니다.

의의 및 주장
본 논문은 제안된 프레임워크가 AI 기반 자율주행 시스템의 안전 사례(Safety Case)를 위한 "기술적으로 방어 가능한 기초"를 제공한다고 주장합니다. 그 의의는 다음과 같습니다:

보증 격차 해소: "AUTOSAR 준수 구현이 반드시 안전한 AI 구현을 의미하지 않는다"는 사실을 해결하며, AI 특화 리스크 관리를 기존 AUTOS아 및 ISO 표준 환경에 통합하는 구조화된 방법을 제공합니다.
오분류 방지: SAE 자동화 레벨을 ASIL이나 AI 보증 티어와 혼동하거나, 알고리즘 아키텍처 또는 정확도만을 기준으로 ASIL을 할당하는 것에 대해 명시적으로 경고합니다.
운용 안전성: AI 능력과 안전 권한을 분리함으로써, 불확실하거나 도메인을 벗어난 모델이 무제한적인 제어권을 유지하는 것을 방지하여 안전 필수 액추에이션이 검증된 결정론적 커널의 감독 하에 있도록 보장합니다.

저자는 AI 보증 티어가 아직 AUTOSAR, ISO, SAE 또는 UNECE에 의해 표준화되지 않은 개념적 범주임을 겸허히 밝힙니다. 또한 정량적 캘리브레이션에는 산업적 케이스 스터디를 통한 향후 경험적 검증이 필요하며, 측정 가능한 데이터셋 충분성, 표준화된 불확실성 인터페이스, 그리고 대규모 신경망의 검증에 대한 추가 연구가 필요함을 인정합니다.

유사한 논문