⚡ electrical engineering

Scalable Verification of Neural Control Barrier Functions Using Linear Bound Propagation

이 논문은 신경망 기반 제어 장벽 함수 (CBF) 의 검증 병목 현상을 해결하기 위해 선형 경계 전파와 McCormick relaxation 을 결합하여 대규모 신경망을 효율적으로 검증하는 확장 가능한 프레임워크를 제안합니다.

원저자: Nikolaus Vertovec, Frederik Baymler Mathiesen, Thom Badings, Luca Laurenti, Alessandro Abate

게시일 2026-04-15

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Nikolaus Vertovec, Frederik Baymler Mathiesen, Thom Badings, Luca Laurenti, Alessandro Abate

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 인공지능 (AI) 이 조종하는 로봇이나 자율주행차가 사고 없이 안전하게 움직일 수 있는지, 어떻게 빠르고 정확하게 검증할 수 있는지에 대한 새로운 방법을 소개합니다.

비유를 들어 쉽게 설명해 드릴게요.

1. 문제: "완벽한 안전장치가 있지만, 검증하는 데 너무 오래 걸려요"

자율주행차나 로봇을 만든다고 상상해 보세요. 우리는 이 기계가 "절대 벽에 부딪히지 않음"을 보장해야 합니다. 이를 위해 **'안전 장벽 (Control Barrier Function)'**이라는 보이지 않는 보호막을 설치합니다.

최근에는 이 보호막을 **인공지능 (신경망)**으로 만들었습니다. AI 는 복잡한 상황을 잘 이해해서 아주 유연하고 강력한 보호막을 만들 수 있죠. 하지만 여기서 큰 문제가 생깁니다.

"AI 가 만든 이 보호막이 정말로 완벽하게 안전한지 확인하려면, 슈퍼컴퓨터를 몇 시간씩 돌려야 해요."

기존 방법들은 AI 의 복잡한 수식을 하나하나 정밀하게 계산하는 방식이라, AI 가 조금만 커져도 검증 시간이 기하급수적으로 늘어납니다. 마치 미로 하나를 확인하기 위해 미로 전체를 발로 한 칸씩 밟아보는 것과 비슷합니다.

2. 해결책: "정밀한 측정이 아니라, '안전한 상자'로 감싸기"

저희 논문은 이 문제를 해결하기 위해 **"선형 경계 전파 (Linear Bound Propagation)"**라는 새로운 방법을 제안합니다.

이걸 더 쉽게 비유하자면 다음과 같습니다:

기존 방법 (SMT 솔버): AI 가 그린 복잡한 곡선 모양의 보호막을 자세히 재서 "이 곡선이 절대 벽을 넘지 않는다"는 것을 증명하려 했습니다. (정밀하지만 느림)
우리 방법 (LBP): 복잡한 곡선 모양의 보호막을 직선으로 된 상자로 둘러싸는 것입니다.
- 상자가 원래 모양보다 조금 더 넓게 (안전하게) 감싸고 있다면, 상자 안에 있는 모든 것은 안전하다고 볼 수 있죠.
- 우리는 AI 의 복잡한 수식을 직선 (선형) 으로 근사화해서, "이 상자가 안전하면 AI 도 안전하다"는 논리로 빠르게 검증합니다.

3. 핵심 기술: "확실히 안전한 '상자'를 만드는 두 가지 도구"

이 '안전한 상자'를 만들 때 두 가지 마법 같은 도구를 사용합니다.

그라디언트 (기울기) 예측: AI 가 "어디로 갈지" (기울기) 를 정확히 알 수 없다면, "최악의 경우에도 이 정도는 넘지 않는다"는 최상한과 최하한의 직선을 그립니다.
맥코믹 완화 (McCormick Relaxation): AI 의 여러 단계가 얽혀서 복잡해질 때, 이를 간단한 직선 관계로 풀어내는 기술입니다. 마치 복잡한 매듭을 풀어서 직선으로 만드는 것처럼요.

이 두 가지를 합치면, 복잡한 AI 의 행동을 간단한 직선들의 집합으로 바꿔버릴 수 있습니다. 이렇게 되면 검증이 훨씬 빨라집니다.

4. 더 똑똑한 전략: "조금 더 넓게, 하지만 필요한 곳만 자세히"

하지만 상자를 너무 크게 만들면 "안전하긴 한데, 쓸모가 없어져요" (너무 보수적임) 라는 문제가 생깁니다. 예를 들어, 안전한 지역 전체를 거대한 박스로 감싸면, 그 박스 안의 작은 위험 지역도 놓칠 수 있죠.

그래서 우리는 적응형 세분화 전략을 썼습니다.

비유: 지도를 볼 때, 평야 지역은 크게 한 장으로 보지만, 산이나 위험한 지역은 확대경을 대고 조각조각 나누어 자세히 보는 것입니다.
우리가 만든 '안전 상자'가 너무 느슨하다면, 그 지역을 **작은 삼각형 조각 (심플렉스)**으로 잘게 쪼개서 다시 검증합니다. 이렇게 하면 필요한 곳만 정밀하게 검증하면서도 전체 속도는 빠릅니다.

5. 결과: "이제 거대한 AI 도 순식간에 검증됩니다"

이 방법을 실험해 보니, 기존 방법으로는 검증이 불가능했던 매우 크고 복잡한 AI 모델도 단 몇 초에서 몇 분 안에 안전하게 검증할 수 있었습니다.

기존: 작은 AI 는 검증 가능, 큰 AI 는 시간 초과 (Timeout).
우리 방법: 큰 AI 도 성공적으로 검증 완료.

요약

이 논문은 **"AI 가 만든 안전 장치가 정말 안전한지 확인하는 과정"**을, 복잡한 수학적 계산 대신 '간단한 직선 상자'로 감싸는 방식으로 바꿔서, 훨씬 더 크고 똑똑한 AI 로봇들도 안전하게 만들 수 있게 했다는 이야기입니다.

마치 복잡한 모양의 과자를 포장할 때, 정확한 모양대로 포장하는 대신, 그 과자를 충분히 담을 수 있는 직사각형 박스에 넣어 "이 박스 안에 들어있으니 안전해"라고 선언하는 것과 같습니다. 이렇게 하면 포장 시간이 훨씬 빨라지지만, 과자는 여전히 안전하게 보호받게 됩니다.

1. 문제 정의 (Problem)

배경: 자율 시스템의 안전성을 보장하기 위해 제어 장벽 함수 (CBF) 가 널리 사용되며, 최근 비선형 동역학과 복잡한 안전 제약 조건을 처리하기 위해 신경망으로 표현된 CBF (Neural CBF) 가 주목받고 있습니다.
핵심 문제: 학습된 신경망이 유효한 CBF 임을 증명하는 사후 검증 (Post-hoc verification) 과정이 계산적으로 매우 비용이 많이 듭니다.
- 기존 방법 (SMT 솔버, MIP, Branch-and-Bound 등) 은 신경망의 크기나 시스템 차원이 커지면 확장성 (Scalability) 이 급격히 떨어집니다.
- 특히, ReLU 가 아닌 임의의 비선형 활성화 함수 (예: Tanh, Sigmoid) 를 사용하는 경우, 그라디언트 (미분) 의 정확한 계산과 검증이 어렵습니다.
목표: 임의의 비선형 활성화 함수를 지원하면서도 대규모 신경망과 고차원 동역학 시스템을 효율적으로 검증할 수 있는 방법론 개발.

2. 제안된 방법론 (Methodology)

저자들은 신경망의 비선형 조건을 **선형 상한 및 하한 (Linear Upper and Lower Bounds)**으로 근사화하여 검증 문제를 단순화하는 접근법을 취했습니다.

가. 선형 경계 전파 (LBP) 의 확장

기존 LBP: 신경망의 출력 값 ( $B_\theta(x)$ ) 에 대한 선형 경계를 계산하는 데 사용됨.
새로운 확장: CBF 조건을 검증하려면 **그라디언트 ( $\frac{\partial B_\theta(x)}{\partial x}$ $\frac{\partial B _{θ} ( x )}{\partial x}$ )**에 대한 경계도 필요합니다. 저자들은 LBP 를 확장하여 그라디언트의 선형 상한과 하한을 유도했습니다.
- 각 층 (Layer) 의 자코비안 (Jacobian) 을 선형적으로 바운드합니다.
- 층 간의 곱셈 (Chain rule) 에서 발생하는 이차항 (Bilinear terms) 을 McCormick Relaxation을 사용하여 선형으로 완화합니다.
- 이 과정에서 사전 활성화 (Pre-activation) 출력에 대한 경계를 활용하여 추가적인 순전파 (Forward pass) 없이 그라디언트 경계를 효율적으로 계산합니다.

나. 동역학 모델링 및 선형 대역 (Linear Surrogate)

시스템 동역학 ( $f(x), g(x)$ ) 에 대해 **1 차 테일러 전개 (First-order Taylor expansion)**와 라그랑주 오차 항을 사용하여 선형 경계를 유도합니다.
CBF 조건 (식 2) 에 포함된 모든 항 (CBF 값, 그라디언트, 동역학, 제어 입력) 에 대해 선형 상한/하한을 결합하여, 원래의 비선형 검증 식 ( $\phi$ ) 을 **선형 대역 식 ( $\phi_{linear}$ )**으로 대체합니다.
제어 입력 포함: 제어 입력 $u$ 에 대한 최대값 ( $\sup_{u \in U}$ ) 을 포함하는 항도 McCormick Relaxation 을 통해 선형적으로 바운드하여, 안전 필터 (Safety Filter) 와 같은 하위 애플리케이션에 직접 적용 가능하도록 합니다.

다. 적응형 정제 전략 (Adaptive Refinement Strategy)

선형 근사는 전체 영역에서 너무 보수적 (Conservative) 일 수 있어 검증이 불확실한 경우가 발생합니다.
이를 해결하기 위해 단순형 (Simplex) 메쉬를 상태 공간에 적용하고, 검증이 불확실한 영역을 가장 긴 모서리를 따라 분할하는 적응형 정제 (Adaptive Refinement) 전략을 도입했습니다.
이 과정은 GPU 를 활용한 **배치 처리 (Batching)**와 병렬화를 지원하여 계산 효율성을 극대화합니다.

3. 주요 기여 (Key Contributions)

새로운 검증 기법: LBP 와 McCormick Relaxation 을 결합하여 신경망 CBF 의 그라디언트와 동역학을 선형적으로 바운드하는 방법론을 제안했습니다. 이는 SMT 솔버의 필요성을 제거하고 대규모 네트워크 검증을 가능하게 합니다.
병렬화 가능한 정제 전략: 단순형 메쉬를 기반으로 한 적응형 정제 알고리즘을 개발하여, 선형 근사의 보수성을 줄이고 검증의 정확도를 높였습니다.
확장성 입증: 기존 SMT 기반 검증 기술 (예: dreal) 보다 훨씬 큰 규모의 신경망과 더 복잡한 비선형 활성화 함수 (Tanh 등) 를 가진 CBF 를 성공적으로 검증했습니다.

4. 실험 결과 (Results)

벤치마크: 2D Control, Cart-Pole, Darboux, Barrier 2~4 등 다양한 비선형 동역학 시스템을 대상으로 실험을 수행했습니다.
성능 비교:
- 검증 시간: 제안된 방법은 SMT 솔버 (dreal) 대비 수백 배에서 수천 배 빠른 검증 속도를 보였습니다. (예: Barrier 4 에서 25.37초 vs dreal Timeout)
- 확장성: [64, 64] 또는 [128, 256, 128] 크기의 신경망을 성공적으로 검증한 반면, dreal 은 작은 네트워크에서도 타임아웃이 발생했습니다.
- 정확도: 모든 검증된 사례에서 100% 유효한 CBF 로 판명되었으며, 상태 공간의 상당 부분을 안전 영역으로 커버했습니다.
활성화 함수: ReLU 기반이 아닌 Tanh 활성화 함수를 사용하여 더 큰 제어 불변 집합 (Control Invariant Set) 을 확보했습니다.

5. 의의 및 결론 (Significance)

계산적 병목 해소: 신경망 CBF 의 실용적 적용을 가로막던 검증 단계의 계산적 병목 현상을 획기적으로 완화했습니다.
범용성: 임의의 비선형 활성화 함수와 제어 입력이 포함된 일반적인 제어-affine 시스템에 적용 가능합니다.
실제 적용 가능성: 검증된 신경망 CBF 는 안전 필터 (Safety Filter) 나 학습 - 검증 (Learner-Verifier) 프레임워크에 직접 통합되어 실제 자율 시스템의 안전성 보장에 기여할 수 있습니다.

이 논문은 신경망 기반 제어 이론 분야에서 **검증 가능성 (Verifiability)**과 **확장성 (Scalability)**을 동시에 달성하기 위한 중요한 이정표로 평가됩니다.