NeuroStrata: Harnessing Neurosymbolic Paradigms for Improved Design, Testability, and Verifiability of Autonomous CPS

당신이 혼란스러운 도시를 스스로 주행해야 하는 초지능 로봇 자동차를 만들고 있다고 상상해 보세요. 현재 대부분의 이러한 자동차들은 "신경망(neural networks)"에 의존하고 있습니다. 이것은 거대하고 매우 유능하지만 약간은 무질서한 예술가와 같다고 생각하면 됩니다. 이 예술가는 정지 표지판이나 보행자를 인식하는 데는 뛰어나지만, 직관과 확률에 기반하여 작동합니다. 때때로 빛이 표지에 딱 맞게 비치거나 기이한 새로운 물체가 나타나면, 예술가는 혼란에 빠져 "이것이 정지 표지판인가, 아니면 거대한 빨간 도넛인가?"라고 말할 수도 있습니다. 이것은 추측에 기반하기 때문에, 자동차가 절대 실수하지 않을 것이라고 100% 증명하기 어렵습니다. 이는 안전 측면에서 큰 문제입니다.

여기, 그 무질서한 예술가에게 엄격하고 논리적인 관리자를 부여하고자 하는 연구팀의 새로운 아이디어인 NeuroStrata가 등장합니다.

"추측"만 할 때의 문제점

이 논문은 현재의 자율주행 시스템이 '인지' 팀(눈)과 '계획' 팀(뇌) 모두가 이전에 본 패턴을 바탕으로 그저 추측만 하고 있는 팀과 같다고 지적합니다. 만약 자동차가 학습 데이터에서 보지 못한 상황(예: 버스가 이상한 행동을 하는 '롱 테일(long tail)' 시나리오)에 직면하면, 시스템은 실패할 수 있습니다. 이러한 시스템의 안전성을 검증하기 위한 기존의 도구들은 대개 작고 국소적인 부분만을 살펴보기 때문에 전체적인 그림을 놓치곤 합니다. 이들은 확률에 의존하며, 이는 자동차가 안전하다는 확고하고 철저한 약속을 제공할 수 없음을 의미합니다.

NeuroStrata 솔루션: 예술가와 건축가의 팀

저자들은 신경망(예술가)의 유연한 학습 능력과 기호적 AI(건축가)의 엄격하고 깨지지 않는 논리를 결합한 NeuroStrata라는 프레임워크를 제안합니다.

이를 건설 현장처럼 생각해 보세요.

• **신경망(Neural Network)**은 엉망으로 쌓인 벽돌 더미를 보고 "헤이, 저건 벽처럼 보이네"라고 파악할 수 있는 작업반입니다. 이들은 카메라나 라이다(LiDAR)와 같은 복잡한 현실 세계의 데이터를 처리하는 데 탁적입니다.
• **기호적 시스템(Symbolic System)**은 설계도를 들고 있는 건축가입니다. 건축가는 추측하지 않습니다. 그들은 "벽은 반드시 수직이어야 한다"와 "자동차는 벽을 뚫고 지나갈 수 없다"는 사실을 확실히 알고 있습니다.

NeuroStrata는 이 두 가지를 계층 구조로 결합합니다. 이것은 단순히 하나의 커다란 뇌가 아니라, 층이 나누어진 시스템입니다:

1. 상위 계층 (건축가): 이 계층은 "자동차는 도로 위에 머물러야 한다"와 같이 순수하게 논리를 사용하여 큰 결정을 내립니다. 이 부분은 100% 결정론적(deterministic)이며, 즉 동일한 규칙이 주어지면 항상 동일한 결과를 냅니다. 이는 수학적으로 안전함이 증명될 수 있는 엄격한 규칙 책과 같습니다.
2. 중위 및 하위 계층 (작업반): 이 계층들은 "저것이 보행자인가, 아니면 비닐봉지인가?"와 같은 복잡한 세부 사항을 처리하기 위해 신경망을 사용합니다. 하지만 여기서 핵심은, 건축가가 끊임없이 작업반의 업무를 점검한다는 것입니다. 만약 작업반이 "저것은 보행자다"라고 말한다면, 건축가는 규칙을 확인합니다: "보행자가 교차로 한복판에 있는 것이 허용되는가?" 만약 작업반의 추측이 규칙을 어긴다면, 시스템이 이를 잡아냅니다.

어떻게 학습하고 적응하는가

가장 멋진 부분은 이들이 서로 소통하는 방식입니다. 이것은 양방향 통로입니다.

• 하향식 (Top-Down): 건축가는 작업반에게 엄격한 지침을 내립니다. "빨간불에 지나가지 마라."
• 상향식 (Bottom-Up): 만약 작업반이 새로운 것(예: 버스가 이상한 춤을 추는 것)을 발견하면, 실시간으로 건축가의 규칙을 업데이트할 수 있습니다. 이 시스템은 "미분 가능한 프로그램 유도(differentiable program induction)"라는 기술을 사용하는데, 이는 로봇이 안전 보장을 잃지 않으면서도 새로운 상황을 다루기 위해 자신의 규칙 책을 스스로 약간씩 다시 쓰는 아주 멋진 방법입니다.

실제로 해낸 것 (그리고 하지 못한 것)

저자들은 당장 내일 살 수 있는 완벽한 자율주행 자동차를 만들었다고 주장하는 것이 아닙니다. 그들은 여전히 "초기 결과" 단계에 있습니다.

그들은 이 아이디어가 작동하는지 확인하기 위해 LASER라고 불리는 특정 실험을 수행했습니다. 그들은 신경망이 비디오 장면을 이해하도록 훈련시켰는데, 이번에는 단순히 사진을 보여준 것이 아니라, "시계열 논리(temporal logic, 시간에 따른 사건을 설명하는 언어)"로 작성된 엄격한 논리 규칙을 따르도록 강제했습니다.

• 결과: 테스트에서 이 새로운 방식은 객체 간의 관계를 예측하는 로봇의 능력을 향상시켰습니다. 예를 들어, OpenPVSG 데이터셋에서 53.98% Recall@10 점수를 기록했습니다. 이는 기술적인 표현이지만, 기존의 완전 지도 학습(fully-supervised) 방식보다 객체 간의 관계를 추측하는 능력이 30.55% 더 뛰어났다는 것을 의미합니다.
• 주의점: 또한 그들은 87,000개의 비디오-캡션 쌍이 포함된 방대한 데이터셋을 테스트했습니다. 모델을 학습하지 않은 새로운 데이터에 적용했을 때, 학습 데이터에서와 거의 동일한 성능을 보였습니다 (차이는 단 **-0.52%**뿐이었습니다). 이는 시스템이 일반화 능력이 좋다는 것을 시사하지만, 기억하세요, 이것은 여전히 시뮬레이션이자 특정 사례 연구일 뿐, 실제 규모의 실전 배포는 아닙니다.

앞으로의 길

논문은 이를 현실로 만들기 위한 6단계 계획을 제시합니다. 그들은 다음과 같은 목표를 가지고 있습니다:

1. AI를 사용하여 더 기이한 '엣지 케이스(edge-case)' 훈련 데이터(예: 인도 위를 달리는 버스)를 생성하여, 로봇이 예상치 못한 상황을 다루는 법을 배우게 합니다.
2. 엔지니어들이 이러한 안전 규칙을 쉽게 작성할 수 있도록 특수 언어(DSL)를 만듭니다.
3. 로봇이 주행하는 동안 실시간으로 업무를 점검할 수 있는 도구를 구축합니다.
4. 마지막으로, 컴퓨터 시뮬레이션(CARLA와 같은 게임)에서 벗어나 실제 자동차, 드론, 로봇으로 나아갑니다.

그들은 현재 산업 파트너들과 협력하며 이를 실현하기 위한 세미나를 계획하고 있지만, 현재로서는 NeuroStrata는 유망한 청사진입니다. 이는 우리의 AI에게 창의적인 추측을 감시할 엄격한 논리적 관리자를 부여함으로써, 우리가 단순히 똑똑한 것을 넘어 진정으로 안전하고 신뢰할 수 있는 자율 시스템을 마침내 구축할 수 있을지도 모른다는 점을 시사합니다. 논문은 이것이 나아가야 할 방향임을 제안하지만, "유망한 아이디어"에서 "해결된 문제"로 가는 여정은 여전히 공사 중입니다.