💻 computer science

Scalable Gaussian Process Regression via Deterministic Trigonometric Features: Uniform Bounds for Safe Model Predictive Control

본 논문은 대규모 데이터 환경에서 전체 가우시안 프로세스의 안전성 보장을 달성하면서도 계산 효율성을 크게 향상시킨, 안전한 학습 기반 모델 예측 제어를 위한 고확률 균등 불확실도 경계(high-probability uniform uncertainty bounds)를 가능하게 하는 확장 가능한 결정론적 삼각 함수 특징 가우시안 프로세스(Deterministic Trigonometric Feature Gaussian Process, DTF-GP) 프레임워크를 소개한다.

원저자: Julius Jagdt, Johanna Menn, Sebastian Trimpe, Melanie N. Zeilinger, Anna Scampicchio

게시일 2026-08-18

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Julius Jagdt, Johanna Menn, Sebastian Trimpe, Melanie N. Zeilinger, Anna Scampicchio

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇 팔이 섬세한 전자 부품을 조립하거나 자율주행 자동차가 번잡한 도시 거리를 주행하는 모습을 상상해 보십시오. 이러한 기계들이 안전하게 작동하려면, 이들은 끊임없이 다음에 어떤 일이 일어날지 예측해야 합니다. 이들은 자신의 움직임이 위치를 어떻게 변화시킬지 추측하기 위해 현실을 단순화한 모델인 수학적 모델에 의존합니다. 하지만 현실 세계는 무질서합니다. 마찰, 바람, 그리고 마모와 같은 요소들은 이러한 모델이 결코 완벽할 수 없게 만듭니다. 만약 로봇이 잘못된 추측에 의존한다면, 너무 세게 밀어서 부품을 부러뜨리거나 충돌할 수도 있습니다. 안전을 유지하기 위해 엔지니어들은 모델 예측 제어(Model Predictive Control)라고 불리는 전략을 사용합니다. 이 방법은 매 단계마다 엄격한 안전 규칙에 비추어 확인하며 최선의 경로를 끊임없이 재계산합니다. 그러나 이 안전망은 로봇이 자신이 무엇을 모르는지를 이해할 때만 효과를 발휘합니다. 즉, 자신의 예측이 가진 한계를 이해해야 합니다.

수년 동안 과학자들은 이러한 불완전한 모델의 빈틈을 메우기 위해 가우시안 프로세스(Gaussian process)라는 강력한 통계적 도구를 사용해 왔습니다. 가우시안 프로세스를 매우 신중하고 지능적인 지도 제작자로 생각해 보십시오. 단순히 로봇이 어디로 갈지를 보여주는 하나의 선을 그리는 대신, 가우시안 프로세스는 로봇이 도달할 수 있는 모든 가능한 장소를 나타내는 넓고 흐릿한 띠를 그립니다. 이 띠가 넓을수록 로봇은 더 불확실한 상태임을 의미합니다. 이 불확실성은 안전에 매우 중요합니다. 만약 띠가 너무 넓어진다면, 로봇은 속도를 줄이거나 멈춰야 한다는 것을 알게 됩니다. 문제는 로봇이 학습을 위해 데이터를 더 많이 수집할수록, 이 지도 제작 도구가 믿기 힘들 정도로 느려진다는 점입니다. 이는 마치 새로운 조각 하나를 추가할 때마다 전체 그림을 처음부터 다시 풀어야 하는 거대한 퍼즐을 푸는 것과 같습니다. 대규모 데이터셋의 경우, 컴퓨터가 단순히 따라잡지 못하게 되며, 결국 엔지니어들은 안전하지만 느린 시스템을 선택할지, 아니면 빠르지만 불안전한 시스템을 선택할지 결정해야 하는 상황에 놓이게 됩니다.

독일, 스위스, 스웨덴의 연구진은 이 교착 상태를 깨뜨릴 방법을 찾아냈습니다. 그들은 느리고 완벽한 지도 제작자의 안전 보증을 유지하면서도, 마치 간단하고 빠른 스케치처럼 빠르게 실행되는 새로운 방법을 개발했습니다. 그들의 접근 방식인 결정론적 삼각 함수 특징 가우시안 프로세스(deterministic trigonometric feature Gaussian process)는 복잡하고 무거운 계산을 파동을 이용한 영리한 근사법으로 대체합니다. 모든 가능한 결과를 한꺼번에 계산하려고 노력하는 대신, 이 새로운 방법은 문제를 고정된 파동 패턴 세트로 분해합니다. 연구진은 이 패턴들을 특정한 비무작위 방식으로 선택함으로써, 결과물인 지도가 원래의 느린 버전만큼이나 신뢰할 수 있다는 것을 증명했습니다. 그들은 이 새로운 도구가 전체 시스템과 동일한 수준의 높은 신뢰도 기반 안전 경고를 제공할 수 있으면서도, 엄청난 계산 비용은 들지 않는다는 것을 보여주었습니다.

연구진은 이 아이디어를 로봇이 움직이는 카트 위에서 막대기를 균형 잡아야 하는 고전적인 제어 문제인 시뮬레이션된 역진자(inverted pendulum)에 테스트했습니다. 실험에서 그들은 이 새로운 방법을 전통적인 느린 방식과 비교했습니다. 그들은 두 방법 모두 환경을 탐색하는 능력이 대등하며, 시스템의 숨겨된 오류에 대해 동일한 양을 학습한다는 것을 발견했습니다. 새 방법은 가장 안전하고 효율적인 경로를 찾는 데 있어서도 기존 방식만큼 우수했습니다. 그러나 차이점은 속도에서 극적으로 나타났습니다. 데이터의 양이 늘어남에 따라 전통적인 방식은 현저히 느려졌으며, 정보의 양을 따라잡는 데 어려움을 겪었습니다. 반면, 새로운 방법은 처리하는 데이터의 양에 관계없이 꾸준한 속도를 유지했습니다. 이 방법은 대규모 데이터셋을 손쉽게 처리함으로써, 높은 안전성과 높은 속도를 동시에 갖추는 것이 가능하다는 것을 입증했습니다.

이 연구가 중요한 이유는 고급 학습 시스템을 실제 세계에서 사용하는 데 있어 주요한 장벽을 제거했기 때문입니다. 이전에는 엔지니어들이 시스템을 실시간으로 실행하기 위해 로봇이 학습할 수 있는 데이터의 양을 제한해야 했습니다. 이제 그들은 컴퓨터가 멈출 걱정 없이, 더 똑똑하고 안전하게 만들기 위해 방대한 양의 데이터를 시스템에 입력할 수 있습니다. 연구진은 이 새로운 프레임워크가 안전이 필수적인 시스템에 통합될 수 있음을 입증하였으며, 이를 통해 로봇이 계산할 수 없는 위험을 절대 감수하지 않도록 보장했습니다. 느리고 무거운 계산을 빠르고 효율적인 것으로 바꿈으로써, 그들은 지속적으로 학습하면서도 안전한 한계 내에 머물 수 있는 더욱 견고하고 신뢰할 수 있는 자율 시스템의 문을 열었습니다.

기술 요약: 결정론적 삼각 함수 특징을 이용한 확장 가능한 가우시안 프로세스 회귀

문제 정의
가우시안 프로세스(GP)를 활용하는 학습 기반 모델 예측 제어(MPC)는 미지의 동역학 및 모델 불일치가 존재하는 동적 시스템을 제어하기 위한 강력한 접근 방식이다. 이러한 확률적 MPC 프레임워크에서 안전성을 보장하기 위한 핵심 요구사항은 전체 상태-입력 도메인에 대해 균일하게 성립하는 불확실성 경계(uncertainty bounds)의 가용성이다. 정확한(전체) GP 회귀에 대해서는 이러한 균일한 경계가 도출된 바 있으나, 정확한 추론의 계산 비용은 데이터 포인트 수에 따라 세제곱( $O(N^3)$ )으로 증가한다. 이러한 낮은 확장성은 대규모 데이터 환경에서 전체 GP 회귀를 실용적으로 사용하기 어렵게 만든다. 기존의 확장 가능한 GP 근사법들—유도 변수 방법(inducing-variable methods), 부분 집합 데이터 접근법, 무작위 특징 방법(예: Random Fourier Features) 등—은 안전 필수 제어에 필요한 엄격하고 균일한 불확실성 경계를 제공하지 못한다. 결과적으로, 확장 가능한 추론에 대한 필요성과 엄격한 균일 안전 보장 사이에는 간극이 존재한다.

방법론
저자들은 유한 차원의 특징 공간으로 GP 회귀를 축소하면서도 균일한 불확실성 경계를 도출할 수 있는 능력을 유지하는 확장 가능한 프레임워크인 **결정론적 삼각 함수 특징 가우시안 프로세스(DTF-GP)**를 제안한다.

유한 차원 커널 근사:
본 방법은 정적 커널(stationary kernels)을 유한한 결정론적 삼각 함수 특징 세트를 사용하여 근사하며, 이를 통해 GP 회귀를 베이지안 선형 회귀로 축소한다. 보크의 정리(Bochner's theorem)를 활용하여, 정적 커널을 스펙트럼 밀도에 의해 가중치가 부여된 삼각 함수 기저 함수들의 연속적인 중첩으로 표현한다. DTF-GP는 고정된 균일 간격 그리드에서 주파수를 선택함으로써 이 적분을 이산화한다.

결정론적 선택: 주파수를 확률적으로 샘플링하는 Random Fourier Features와 달리, DTF-GP는 주파수를 결정론적으로 선택한다.
스펙트럼 파라미터화: 제곱 지수(RBF) 커널의 경우, 스펙트럼 가중치는 실제 스펙트럼 밀도의 지수적 감소를 반영하도록 파라미터화된다.
주파수 절단(Truncation): 주파수는 절단 반경에 의해 결정되는 주파수 공간 내의 타원형 영역 내에 유지된다. 이는 가장 중요한 스펙트럼 성분은 보존하면서 무시할 만한 질량(mass)은 버림으로써 보장된다.

균일 불확실성 경계 도출:
핵심적인 이론적 기여는 DTF-GP를 위한 고확률 균일 불확실성 경계의 도출이다.

이 경계는 전체 오차를 노이즈 항(자기 정규화 농축 부등식을 통해 처리됨)과 근사 항으로 분해한다.
근사 항은 실제 커널에 의해 유도된 무한 차원 재생 커널 힐베르트 공간(RKHS)으로부터 DTF 커널에 의해 유도된 유한 차원 RKHS로 함수를 매핑하는 직교 투영 연산자를 사용하여 분석된다.
이 경계는 투영 오차(실제 함수와 유한 차원 특징 공간으로의 투영 사이의 차이)를 명시적으로 고려한다.
RBF 커널의 경우, 저자들은 이 투영 오차에 대한 폐쇄형 상한(closed-form upper bound)을 도출하며, 이는 함수의 RKHS 노름, 스펙트럼 감소 파라미터 및 절단 반경에 의존한다.

Safe MPC로의 통합:
DTF-GP는 SafeMPC 프레임워크에 통합된다. 도출된 균일 불확실성 경계는 예측 호라이즌에 걸쳐 불확실성 집합을 전파하는 데 사용된다. 실제 모델 오차가 높은 확률로 이 경계 내에 존재하도록 보장함으로써, 컨트롤러는 상태 및 입력 제약 조건을 강제하고 안전한 탐색을 보장할 수 있다.

주요 기여

DTF-GP의 정식화: 본 논문은 유한한 주파수 그리드에서 선택된 결정론적 삼각 함수 특징을 사용하여 GP 회귀를 베이지안 선형 회귀로 축소하는 확장 가능한 GP 프레임워크를 정식화한다.
균일 불확실성 경계: 저자들은 DTF-GP를 위한 고확률 균일 불확실성 경계를 도출한다. 결정적으로, 이들은 RBF 커널 케이스에 대한 명시적인 폐쇄형 투영 오차 경계를 제공하여, 결과적인 신뢰 경계가 전체 GP 경계와 동일한 가정(RKHS 노름, 서브 가우시안 노이즈 및 사후량)에 기초함을 보장한다.
안전한 학습 기반 제어: 제안된 프레임워크는 SafeMPC 체계에 성공적으로 통합되어, 전체 GP가 계산적으로 불가능한 대규모 데이터 환경에서도 높은 확률의 안전 보장과 함께 안전한 탐색을 가능하게 한다.

결과
제안된 접근 방식은 비선형 역진자 제어 문제에 대해 평가되었다.

탐색 성능: 동적 탐색 시나리오에서 DTF-GP는 다양한 데이터 크기에 대해 전체 GP와 대등한 누적 상호 정보량(cumulative mutual information, 탐색 효율의 척도)을 달 나타냈다. 이는 특정 투영 오차 목표를 충족하도록 절단 반경이 선택될 때, 유한 차원 근사가 시스템 동역학을 학습하는 능력을 크게 저하시키지 않음을 나타낸다.
계산 효율성: DTF-GP는 대규모 데이터 환경에서 상당한 계산적 이점을 보여주었다. 전체 GP의 계산 시간은 데이터 포인트 수에 따라 증가하는 반면( $O(N^2)$ $O (N^{2})$ 업데이트, $O(N^3)$ $O (N^{3})$ 우도 평가), DTF-GP는 절단이 설정된 후 데이터셋 크기와 독립적인 특징 수( $M$ $M$ )에 따라 스케일링된다.
- 정적 탐색 실험에서 DTF-GP는 초기 샘플 수에 거의 의존하지 않는 반면, 전체 GP의 실행 시간은 크게 증가했다.
- DTF-GP는 전체 GP와 대등한 탐색 성능을 유지하면서도, 특히 노이즈가 많거나 높은 신뢰 수준을 요구하여 대규모 데이터셋이 필요한 설정에서 감소된 계산 비용을 제공했다.

의의 및 주장
본 논문은 확장 가능한 GP 회귀와 학습 기반 MPC의 엄격한 안전 요구사항 사이의 간극을 메운다고 주장한다. 균일한 불확실성 경계 도출을 허용하는 확장 가능한 GP 프레임워크를 제공함으로써, DTF-GP는 전체 GP 추론이 비실용적인 대규모 데이터 환경에서도 안전한 학습 기반 컨트롤러의 배포를 가능하게 한다. 저자들은 이 방법이 전체 GP의 이론적 안전 보장(고확률 균일 경계)을 유지하면서도 유한 차원 근사의 계산적 용이성을 제공한다는 점을 강조한다. 이 연구는 복잡한 시스템과 상당한 모델 불일치, 그리고 대규모 데이터 가용성이 존재하는 상황에서 안전한 데이터 기반 제어를 실현하기 위한 단계로 제시된다.

유사한 논문