Indicators of resilience for autonomous control systems

현대 사회는 자율주행 자동차부터 배달 드론에 이르기까지 스스로 생각하는 기계에 점점 더 의존하고 있습니다. 이러한 자율 시스템은 인간의 개입 없이 복잡한 작업을 처리하도록 설계되었지만, 결코 완벽하지는 않습니다. 시간이 흐름에 따라 이 기계들의 물리적 부품은 마모되거나, 즉각적으로 고장을 일으키지는 않지만 안정성을 미묘하게 약화시키는 경과를 겪기도 합니다. 엔지니어들의 과제는 시스템이 여전히 안전한 상태인지, 아니면 갑작스럽고 치명적인 실패 직전의 상태인지를 아는 것입니다. 전통적인 안전 방식은 기계가 어떻게 작동해야 하는지에 대한 상세한 수학적 모델이나, 무엇이 잘못될지 예측하기 위한 방대한 양의 데이터에 의존하는 경우가 많습니다. 그러나 실제 세계의 기계들은 완벽하게 모델링하기에는 너무 복합적이며, 희귀한 고장을 예측하는 데 필요한 데이터는 종종 누락되어 있습니다. 이는 충돌 이전에 발생하는 느리고 점진적인 안정성 상실을 감지하는 능력에 공백을 남깁니다.

이 간극을 메우기 위해 연구자들은 자연계에서 빌려온 개념인 '임계 저속 현상(critical slowing down)'에 주목했습니다. 자연에서 이 현상은 호수 생태계나 기후 패턴과 같은 시스템이 임계점에 도달할 때, 작은 교란으로부터 빠르게 회복하는 능력을 잃을 때 발생합니다. 붕괴 직전의 시스템은 무언가에 의해 자극을 받은 후 정상 상태로 돌아오는 데 점점 더 오랜 시간이 걸립니다. 연구진은 이와 동일한 원리를 기계에도 적용할 수 있을지 질문을 던졌습니다. 그들은 자율 로봇이 탄력성(resilience)을 잃어감에 따라, 로봇의 제어 시스템이 작은 오류에 대해 마치 균형을 잡으려 애쓰는 지친 운동선수처럼 더 느릿하게 반응하기 시작할 것이라고 제안했습니다. 목표는 기계의 내부 설계도를 알 필요도, 과거의 사고 이력을 가질 필요도 없이, 기계의 행동을 관찰하여 실패가 발생하기 전 이러한 경고 신호를 들을 수 있는 단순하고 보편적인 방법을 만드는 것이었습니다.

델프트 공과대학교(Delft University of Technology) 연구진이 이끄는 팀은 기계의 제어 시스템이 아주 작은 무작위 변동에 어떻게 반응하는지를 관찰함으로써 이러한 경고 신호를 감지하는 방법을 개발했습니다. 특정 결함을 예측하려고 시도하는 대신, 그들은 단 하나의 측정 가능한 신호, 즉 작은 교란 후에 기계가 스스로를 바로잡는 데 걸리는 시간에 집중했습니다. 연구진은 두 가지 매우 다른 유형의 로봇을 사용하여 이 아이디어를 테스트했습니다. 첫 번째는 로봇 공학의 고전적인 과제로, 카트 위에 막대가 균형을 잡고 서 있는 형태였습니다. 두 번째는 네 개의 프로펠러가 달린 소형 쿼드로터 드론이었습니다. 두 경우 모두 연구진은 기계가 실제로 고장 날 때까지 기다리지 않았습니다. 대신, 그들은 통제된 방식으로 시스템을 체계적으로 약화시켰습니다. 카트의 경우, 막대를 넘어뜨리려는 힘을 증가시켜 균형을 잡기 더 어렵게 만들었습니다. 드론의 경우, 부서진 프로펠러 날개의 효과를 모사하기 위해 모터 중 하나의 출력을 줄임으로써 손상을 시뮬레이션했습니다.

컴퓨터 시뮬레이션에서 연구진은 로봇들이 불안정성의 경계로 밀려나는 과정을 관찰했습니다. 그들은 로봇이 실제로 추락하거나 넘어지기 훨씬 전부터 제어 신호가 예측 가능한 방식으로 변화하기 시작한다는 것을 발견했습니다. 기계들은 작은 흔들림으로부터 회복하는 데 더 오랜 시간이 걸리기 시작했고, 제어 신호의 패턴은 더 반복적이고 반응성이 낮아졌습니다. 이 '저속 현상'은 시스템이 탄력성을 잃고 있다는 명확한 지표였습니다. 연구진은 기계의 현재 반응이 이전의 반응과 얼마나 유사한지를 측정함으로써 이를 정량화할 수 있었습니다. 기계가 실패에 가까워질수록 이러한 반응들은 서로 더 유사해졌으며, 이는 시스템이 적응하는 데 어려움을 겪고 있음을 나타냈습니다. 이 방법은 드론이 단순히 제자리 비행(hovering)을 하는 것과 같이 기계가 가장 편안한 상태로 작동할 때도 유효했으며, 이는 기계의 취약성이 어려운 기동을 수행하지 않을 때도 감지될 수 있음을 시사합니다.

연구진은 이러한 결과가 단순히 계산상의 산물이 아님을 확인하기 위해 이론을 실제 세계로 가져갔습니다. 그들은 소형 드론을 제작하고 프로펠러 날개의 일부를 물리적으로 잘라내어 실제적인 손상을 입혔습니다. 그런 다음 실험실에서 손상된 드론을 비행시키며 제자리 비행과 8자 모양 경로를 따라가도록 했습니다. 결과는 시뮬레이션과 완벽하게 일치했습니다. 프로펠러의 손상이 증가함에 따라 드론의 제어 신호는 동일한 저속 징후를 보였습니다. 손상이 경미할 때 드론은 여전히 비행할 수 있었지만, 경고 지표는 그것이 여유 한계(margin for error)를 가지고 작동하고 있음을 보여주었습니다. 손상이 심각해지자 드론은 제어력을 잃고 통제 불능 상태로 날아가거나 추락했습니다. 결정적으로, 경고 신호는 실제 제어 상실이 일어나기 훨씬 전에 나타났으며, 이는 시스템이 여전히 기술적으로는 비행 중일지라도 더 이상 안전하지 않다는 명확한 신호를 주었습니다.

이 연구는 이러한 접근 방식이 자율 시스템에 새로운 차원의 안전을 제공한다는 것을 입증합니다. 이는 기존의 안전 점검이나 결함 탐지 시스템을 대체하는 것이 아니라, 거의 모든 로봇에 적용할 수 있는 추가적인 모니터 역할을 합니다. 단순히 현실 세계의 작고 피할 수 없는 노이즈에 기계가 어떻게 반응하는지를 듣는 것만으로도, 엔지니어는 탄력성의 상실을 조기에 감지할 수 있습니다. 즉, 드론이 추락하거나 자율주행차가 경로를 이탈하기 전에, 시스템이 취약해지고 있다는 경고를 보낼 수 있습니다. 연구진은 이것이 모든 사고를 예방하는 마법 같은 해결책은 아니지만, 기계의 미묘하고 보이지 않는 퇴화를 눈에 보이는 경고로 바꾸어 주는 실용적인 도구이며, 이를 통해 이러한 기술들이 우리 일상생활에 더 안전하게 통합될 수 있도록 한다고 강조합니다.