현대적인 기계들은 복잡한 번화가를 주행하는 자율주행 자동차부터 물품을 배달하는 드론에 이르기까지, 현실 세계에서 스스로 결정을 내리는 능력이 점점 더 커지고 있습니다. 이러한 시스템은 종종 '블랙박스' 역할을 하는 인공지능을 포함한 복잡한 컴퓨터 프로그램에 의존합니다. 우리는 그것들이 작동한다는 사실은 알지만, 그들이 정확히 어떻게 생각하는지 또는 발생 가능한 모든 움직임을 어떻게 예측하는지는 항상 볼 수 없습니다. 이러한 기계들의 안전을 보장하기 위해, 엔지니어들은 '추상화(abstraction)'라는 기술을 사용합니다. 그들은 움직이는 물체의 복잡하고 연속적인 현실을 구별되는 블록들로 이루어진 단순한 단계별 모델로 대체합니다. 이를 통해 엔지니어들은 기계가 실험실을 떠나기 전에 충돌하거나 실패할지 여부를 확인할 수 있습니다. 하지만 여기에는 함정이 있습니다. 안전을 위해서는 이 단순화된 모델들이 보수적이어야 합니다. 즉, 모든 움직임에 대해 최악의 시나리오를 가정해야 합니다. 만약 너무 보수적이라면, 실제로 일어나지 않는 불가능하고 가상의 위험들로 가득 차게 됩니다. 이 '가짜 경보(false alarm)' 문제는 모델을 너무 크고 지저분하게 만들어 컴퓨터가 제시간에 분석할 수 없게 하며, 결국 엔지니어가 직접 만든 시스템의 안전성을 인증할 수 없게 만듭니다.

플로리다 대학교의 연구팀은 이 균형 잡기 문제를 해결할 새로운 방법을 개발했습니다. 그들은 단순화된 모델을 정교하게 다듬는 매끄러운 가이드 역할을 하는 S3라는 도구를 만들었습니다. 연구진은 모델의 블록을 어떻게 배치할지 추측하는 대신, 표준 최적화 기법을 사용하여 조정하고 개선할 수 있는 수학적 목적 함수를 구축했습니다. 이 도구는 불필요한 가상의 위험을 제거하면서도 모델의 안전성을 유지하도록 모델 블록의 크기와 모양을 자동으로 조정할 수 있게 해줍니다. 연구진은 이 접근 방м을 나선형 시스템, 외발자전거 형태의 로봇, 그리고 언덕을 오르는 시뮬레이션 자동차라는 세 가지 서로 다른 시나리오에 테스트하여, 그들의 방법이 이전 기술보다 훨씬 더 정확하고 계산 속도가 빠르다는 것을 발견했습니다. 그 결과, 과도한 가짜 경보에 발목 잡히지 않고도 복잡하고 지능적인 기계의 안전성을 검증할 수 있는 방법을 찾아냈습니다.

이 기계들을 검증하는 핵심 과제는 안전성과 실용성 사이의 긴장에 있습니다. 엔지니어가 움직이는 시스템의 단순화된 모델을 만들 때, 그들은 실제 움직임을 모두 포함하도록 모델을 설계해야 합니다. 만약 모델이 실제 경로를 놓친다면, 그것은 안전하지 않은 것입니다. 이를 보장하기 위해 모델은 실제 기계가 결코 취할 수 없는 추가적인 경로들을 포함하곤 합니다. 이러한 추가 경로는 앞서 언급한 '가공의(spurious)' 행동들입니다. 이는 마치 유효한 경로를 놓치지 않기 위해 벽으로 막혀 있거나 절벽으로 이어지는 길을 포함하여 모든 도로를 지도에 그리는 것과 같습니다. 이렇게 하면 실제 위험을 놓치지는 않겠지만, 막다른 길로 가득 찬 지도를 만들어 계획을 세우는 데 무용지물로 만듭니다. 연구진은 실제 도로를 잘라내지 않으면서 이러한 막다른 길들을 쳐낼 방법이 필요했습니다.

이를 달back하기 위해 연구팀은 '시뮬레이션(simulation)'이라고 불리는 특정 유형의 수학적 관계에 집중했습니다. 이 문맥에서 시뮬레이션이란 단순화된 모델이 실제 시스템의 동작을 모방할 수 있는지 확인하는 방법입니다. 만약 모델이 '건전(sound)'하다면, 실제 시스템은 모델이 허용하지 않는 행동을 절대 할 수 없음을 의미합니다. 연구진은 모델이 시스템의 가능성을 얼마나 과대평가하는지를 측정하는 '역 시뮬레이션(reverse simulation)' 오차를 최소-화하고자 했습니다. 높은 오차는 모델이 너무 보수적이며 가짜 경로로 가득 차 있음을 의미합니다. 문제는 표준적인 오차 측정 방식이 자동화하여 개선하기에는 너무 느리고 울퉁불퉁하다는 것이었습니다. 이는 마치 손가락을 안내할 도구 없이, 아주 작은 주름 하나하나를 손으로 직접 펴서 구겨진 종이를 펴려고 노력하는 것과 같았습니다.

연구진의 돌파구는 어렵고 까다로운 오차 측정을 대신할, 계산하기 쉽고 매끄러운 '대리물(surrogate)'을 만드는 것이었습니다. 그들은 최악의 오차를 근사하면서도 매끄럽게 작동하여 경사 기반 최적화(gradient-based optimization)를 사용할 수 있는 새로운 목적 함수를 도출했습니다. 이것은 험난하고 울퉁불퉁한 산길을 목적지로 향하는 부드럽고 완만한 언덕으로 교체하는 것과 같습니다. 이 매끄러운 언덕의 경사를 따라감으로써, 컴퓨터는 블록의 최적 배치 상태를 빠르게 찾을 수 있습니다. 이 과정은 시스템이 가장 예측 불가능하게 움직이는 곳에 따라 블록 사이의 간격을 넓히거나 좁히는 작업을 포함합니다. 이 방법은 모델이 실제 경로를 절대 놓치지 않도록 구성상 안전함을 보장하면서도, 가짜 경로는 공격적으로 제거합니다.

연구팀은 이 접근 방식이 실제로 작동하는지 확인하기 위해 세 가지 뚜렷한 시스템을 테스트했습니다. 첫 번째는 목표를 향해 나선형으로 회전하며 접근하는 단순한 2차원 시스템이었습니다. 두 두 번째는 목표에 도달하기 위해 장애물을 피해 가야 하는 3차원 외발자전거 로봇이었습니다. 세 번째는 자동차가 정상에 도달하기 위해 운동량을 쌓아야 하는 고전적인 로봇 공학 과제인, 가파른 언덕을 오르는 자동차 시뮬레이션이었습니다. 각 사례에서 그들은 자신들의 새로운 방법을 두 가지 기존 전략, 즉 특정 오차를 발견할 때만 모델을 정교화하는 방법과 고정된 형상을 사용하여 격자 크기를 최적화하려는 방법과 비교했습니다. 결과는 새로운 방법이 현저히 빨랐음을 보여주었습니다. 외발자전거 로봇의 경우, 새로운 방식은 모델을 구축하고 검증하는 데 약 140초가 걸린 반면, 기존의 정교화 방식은 1,900초 이상이 걸렸습니다. 언덕을 오르는 자동차의 경우, 새로운 방법은 약 12초가 걸렸는데, 이는 기존 방식의 거의 100초와 대조적입니다.

속도뿐만 아니라 모델의 품질도 향상되었습니다. 연구진은 새로운 모델이 시스템의 동작을 얼마나 잘 예측하는지 측정하였고, 새로운 모델이 훨씬 덜 보수적이라는 것을 발견했습니다. 외발자전거 테스트에서 새로운 방법은 평균 오차를 상당한 폭으로 줄였으며, 이는 모델에 불가능한 경로가 훨씬 적게 포함되었음을 의미합니다. 언덕 위의 자동차 테스트에서도 새로운 방법은 실제로 성공으로 이어질 수 있는 시작 위치의 더 넓은 범위를 검증할 수 있게 해주었습니다. 이는 너무 보수적인 모델이 실제로는 언덕을 오를 수 있음에도 불구하고 자동차가 특정 지점에서 오를 수 없다고 엔지니어에게 알려줄 수 있기 때문에 매우 중요합니다. 이러한 가짜 보수성을 줄임으로써, 새로운 방법은 엔지니어가 시스템이 의도한 대로 작동할 것이라는 확신을 더 가질 수 있게 합니다.

이 연구는 또한 새로운 도구가 서로 다른 설정 하에서 어떻게 작동하는지를 밝혀냈습니다. 연구진은 도구가 최악의 시나리오나 시스템의 평균적인 행동 중 하나에 집중하도록 조정할 수 있다는 것을 발견했습니다. 만약 극단적인 가능성에 대한 절대적인 안전을 보장하는 것이 목표라면, 도구를 최악의 오차를 우선시하도록 설정할 수 있습니다. 만약 시스템이 보통 어떻게 행동하는지에 대한 전반적인 그림을 얻는 것이 목표라면, 도구를 평균적인 행동에 집중하도록 조정할 수 있습니다. 이러한 유연성은 엔지니어가 특정 요구 사항에 맞는 적절한 균형을 선택할 수 있게 해줍니다. 또한 연구진은 이 도구가 시스템이 빠르게 움직이거나 방향을 급격히 바꾸는 영역에서는 모델의 블록을 작게 만들고, 움직임이 일정한 곳에서는 크게 만드는 법을 자연스럽게 학습한다는 것을 관찰했습니다. 이러한 적응형 입도(adaptive granularity)는 예측하기 쉬운 영역에 계산 능력을 낭비하지 않고 효율적인 모델을 만드는 데 정확히 필요한 기능입니다.

이 연구의 함의는 단지 이 세 가지 사례를 넘어섭니다. 이 방법은 복잡하고 지능적인 시스템의 검증을 더욱 실용적으로 만드는 일반적인 프레임워크를 제공합니다. 기계가 자율화되고 안전이 중요한 환경에 배치됨에 따라, 그 기계의 안전성을 신속하고 정확하게 검증하는 능력은 매우 중요합니다. 이 새로운 도구는 엔지니어가 기계에 사용되는 정확한 컨트롤러를 알 필요를 요구하지 않습니다. 대신 시스템의 알려진 역학(dynamics)과 컨트롤러의 동작을 바탕으로 작동합니다. 이는 산업용 로봇부터 자율주행 차량에 이르기까지 광범위한 시나리오에 적용될 수 있게 합니다. 연구진은 자신들의 코드를 공개하여 다른 사람들이 이 토대 위에 연구를 쌓아 올일 수 있도록 초대했습니다.

결론적으로, 이 연구는 복잡한 시스템의 검증에 있어 안전성과 효율성을 동시에 확보하는 것이 가능하다는 것을 보여줍니다. 어렵고 울퉁불퉁한 측정치를 매끄럽고 최적화 가능한 가이드로 대체함으로써, 연구진은 엔지니어가 차세대 지능형 기계를 설계하고 인증할 수 있는 새로운 길을 열었습니다. 이 방법이 인공지능의 모든 문제를 해결할 것이라고 약속하는 것은 아니지만, 우리가 의존하는 시스템이 똑똑할 뿐만 아니라 안전하다는 것을 보장할 수 있는 구체적이고 신뢰할 수 있는 방법을 제시합니다. 가짜 경보의 소음을 제거하고 실제 위험에 집중할 수 있는 능력은 신뢰할 수 있는 공학 분야의 중요한 진전입니다.