Collaborative Multi-Agent Testing for Emergent Failure Discovery in Autonomous Driving Systems

기술 요약: CREAD – 자율 주행 시스템의 창발적 실패 발견을 위한 협력적 다중 에이전트 테스트

문제 정의
자율 주행 시스템(ADS)은 개별 모듈(인지, 계획, 제어) 내부의 결함뿐만 아니라, 모듈 간의 복잡한 상호작용으로부터 발생하는 실패까지 고려해야 하는 안전 필수적이며 개방된 세계(open-world) 시스템이다. 현재의 테스트 연구는 섭동 생성(perturbation generation), 행동 평가(behavioral assessment), 테스트 케이스 선택(test case selection)과 같은 핵심 기능들을 조정된 역할이 아닌, 느슨하게 결합된 순차적 단계로 취급하는 경우가 많다. 이러한 분리는 희귀하고 결과가 치명적인 실패, 특히 '롱 테일(long tail)'의 안전 관련 시나리오에서 발생하는 실패를 일관되적으로 찾아내는 능력을 제한한다. 또한, LLM 가이드 합성(LLM-guided synthesis) 및 피드백 가이드 퍼징(feedback-guided fuzzing)을 포함한 기존 방식들은 중복된 테스트 케이스를 생성하지 않으면서 다양하고 안전 관련성이 높은 시나리오 패밀리로 탐색을 유도하는 데 어려움을 겪으며, 생성 단계와 검증 단계 사이의 중간 증거를 효과적으로 재사용하는 메커니즘이 부족하다.

방법론: CREAD 프레임워크
저자들은 공유된 **블랙보드 아키텍처(blackboard architecture)**와 **오케스트레이터 에이전트(Orchestrator Agent)**를 통해 섭동 생성, 검증 및 탐색 조사를 조정하도록 설계된 협력적 다중 에이전트 테스트 프레임워크인 CREAD(CollaboRative for Emergent ADS behaviour Discovery)를 제안한다. CREAD는 단순한 시나리오 구축에 집중하는 기존 프레임워크와 달리, ADS 테스트를 폐쇄 루프형 협력 프로세스로 취급한다.

본 프레임워크는 현재 세 가지 조정된 역할을 구현하고 있다:

1. 인지 퍼저 에이전트(Perception Fuzzer Agent): 구조화된 인지 중심의 섭동 및 시나리오 변형을 생성한다. 현재 구현에서는 LLM(GLM-5-Turbo)을 사용하여 시드(seed) 시나리오 템플릿을 교통 구성, 자차(ego) 상태, 인지 프리셋(예: 안개, 비, 밤)을 포함한 구체적인 테스트 케이스로 정교화한다. 이는 베이스라인 실행과 섭동 실행이라는 두 단계의 패스를 거쳐 실행된다.
2. 메타모픽 검증 에이전트(Metamorphic Validator Agent): 베이스라인과 섭동 실행을 비교하여 행동 일관성을 평가한다. 섭동 실행이 베이스라인 대비 불균형한 행동 변화(예: 충돌, 근접 사고, 차선 이탈 또는 인지 오류)를 보이는 경우 안전 관련 불일치를 감지한다.
3. 오케스트레이터 에이전트(Orchestrator Agent): 거친 품질-다양성(Quality-Diversity, QD) 기반 아카이브를 사용하여 글로벌 테스트 우선순위를 조정한다. 이 에이전트는 직접 시나리오를 생성하지는 않지만, 실패 수율, 심각도, 신규성 및 다양성에서 도출된 휴리스틱 점수를 바탕으로 어떤 베이스라인 시나리오를 다시 방문하거나 변형할지 결정한다. 이는 탐색되지 않았으나 유망한 시나리오 패밀리를 우선시한다.

핵심 메커니즘: 블랙보드 협업
에이전트들은 베이스라인 시나리오, 섭동 시나리오, 실행 추적(execution traces), 검증 결과 및 커버리지 요약을 저장하는 공유 블랙보드를 통해 비동기적으로 상호작용한다. 이러한 설계는 오케스트레이터가 검증 결과로부터 얻은 피드백을 사용하여 퍼저(Fuzzer)가 특정 시나리오 패밀리로 향하도록 유도할 수 있게 하며, 이를 통해 탐색 과정 중에 상호 보완적인 테스트 기능들이 서로 정보를 주고받는 폐쇄 루프를 형성한다.

실험적 평가
저자들은 HighwayEnv 시뮬레이터를 사용하여 Highway(구조화된 직선 도로)와 Roundabout(더 밀도가 높고 풍부한 상호작용이 있는 환경)의 두 가지 환경에서 CREAD를 평가하였다. 연구는 50회의 반복 실험 동안 세 가지 구성을 비교하는 제거 설계(ablation design)를 채택하였다:

• 협력형 (전체 시스템): 블랙보드와 오케스트레이션이 포함된 두 에이전트 구성.
• 비협력형: 블랙보드나 오케스트레이션 없이 두 에이전트가 순차적으로 실행되는 구성.
• 단일 에이전트 (베이스라인): 인지 퍼저만 존재하는 구성.

테스트 대상인 ADS는 테스트 아키텍처의 효과를 격리하기 위해 결정론적 휴리스틱 정책(deterministic heuristic policy)을 사용하였으며, 인지 저하는 전체 센서 시뮬레이션 대신 구조화된 상태 오염(state corruption)으로 모델링되었다.

결과

• 협업의 영향 (RQ1): Highway 환경에서 협력형 구성은 비협력형 베이스라인과 비교했을 때, 100개 시나리오당 실패 횟수를 14회에서 52회로 증가시키면서 동시에 실패 다양성을 유지하고 인지 결함률을 높이는 등 실패 발견 능력을 유의미하게 개선하였다. Roundabout 환경에서 협력형 구성은 100개 시나리오당 52개의 실패를 기록하여 비협력형 베이스라인(58개 실패)보다 약간 낮은 성능을 보였으나, 실패 다양성 측면에서는 미미한 개선을 보였다.
• 다중 에이전트 아키텍처의 영향 (RQ2): 비협력형 다중 에이전트 구성은 두 환경 모두에서 단일 에이전트 베이스라인보다 개선된 실패 발견 성능을 보였다. Highway에서는 100개 시나리오당 실패가 12개에서 14개로 증가하였고, Roundabout에서는 그 증가 폭이 더 컸으며 38개에서 58개로 증가하였다.

의의 및 주장
본 논문은 CREAD가 별개의 테스트 역할(퍼징, 검증, 조정)을 고립된 단계가 아닌 상호작용하는 에이전트로 조직함으로써 ADS 테스트의 새로운 패러다임을 도입한다고 주장한다. 주요 기여는 협력적 다중 에이전트 테스트가 특히 Highway 설정과 같이 특정 환경에서 단일 에이전트 및 비협력형 다중 에이전트 베이스라인보다 우수한 성능을 보이며 실패 발견을 개선할 수 있다는 경험적 증거를 제시했다는 점이다.

저자들은 현재의 연구를 인지 퍼징에 초점을 맞춘 개념 증명(proof-of-concept) 단계로 겸허히 규정하며, 이 아키텍처가 계획 및 제어 모듈로 확장 가능하다는 점을 언급하였다. 또한 CARLA와 같은 고충실도 플랫폼 대신 경량 시뮬레이터(HighwayEnv)를 사용한 점, 학습된 컨트롤러 대신 휴리스틱 자차 정책을 사용한 점, 그리고 인지 저하를 추상화한 점 등을 한계점으로 인정하였다. 결론적으로, 협력적 테스트가 창발적 실패 발견을 위한 유망한 방향이지만, 그 이점은 환경에 따라 달라질 수 있으며, 더 높은 충실도의 시뮬레이션과 더 복잡한 ADS 컨트롤러를 통해 프레임워크를 검증하기 위한 추가 연구가 필요하다고 밝히고 있다.