Adaptive Cost-Sensitive Machine Learning for Autonomous Robot Navigation Failure Prediction: When Not All Errors Are Equal

자율 주행 로봇은 창고, 병원, 심지어 도시 거리에서도 흔히 볼 수 있는 모습이 되었으며, 인간의 도움 없이 한 지점에서 다른 지점으로 이동하는 임무를 수행합니다. 이를 위해 로봇은 세계의 지도를 구축하고 그 경로를 계획하는 복잡한 센서와 소프트웨어의 조합에 의존합니다. 수년 동안 연구자들의 주요 목표는 이러한 기계들이 더 빠르고 정확하게 움직이도록 만드는 것이었습니다. 그러나 다른 종류의 문제가 등장했습니다. 바로 로봇이 위험한 실수를 저지르기 직전에 이를 어떻게 알 수 있는가 하는 점입니다. 안전의 세계에서 모든 실수가 다 같은 것은 아닙니다. 로봇이 의도한 경로에서 약간 벗어나는 것은 번거로운 일이지만, 사람이나 벽에 충돌하는 것은 참사입니다. 전통적인 컴퓨터 프로그램은 종-종 이 두 가지 결과를 단순히 '오류'로 취급하여, 사소한 불편함과 생명을 위협하는 사건을 구분하지 못합니다. 이러한 이해의 격차는 연구자들에게 더 시급한 질문을 던지게 했습니다. 우리는 로봇에게 자신의 실패를 예측하도록 가르칠 수 있는가, 그리고 더 중요한 것은, 로봇이 가장 중요한 실패에 대해 더 신경 쓰도록 가르칠 수 있는가 하는 점입니다.

에든버러 대학교의 연구자인 리파 페르자나(Rifa Ferzana)는 로봇이 위험을 예측하는 방식을 재고함으로써 이 과제에 도전했습니다. 로봇에게 단순히 실패할지 여부를 예측하라고 요구하는 대신, 새로운 접근 방식은 로봇에게 그 실패의 심각성을 예측하도록 요구합니다. 장애물로 가득 찬 방을 항해하는 로봇을 상상해 보십시오. 경로에서 약간 벗어나면 시간이 조금 낭비될 뿐입니다. 벽에 너무 가까워지면 부딪힐 위험이 있습니다. 만약 속도를 내며 벽에 부딪힌다면 손상을 입히게 됩니다. 페르자나의 연구는 로봇이 이 세 가지 시나리오가 매우 다른 무게를 지닌다는 것을 인식하도록 훈련하는 시스템을 구축합니다. 이 연구는 단순한 '합격 또는 불합격' 테스트에서 벗어나, 근접 사고(near-miss)를 놓치는 것이 사소한 경로 이탈을 놓치는 것보다 훨씬 더 큰 비용이 든다는 것을 로봇이 배우는 훈련 환경을 만듭니다.

이 아이디어를 테스트하기 위해 연구자는 작은 바퀴 달린 로봇이 무작위로 배치된 8개의 원형 장애물이 있는 20x20미터 아레나를 통과해야 하는 가상 세계를 만들었습니다. 로봇에게는 운전자가 있는 자동차처럼 목표와 주변을 볼 수 있는 일련의 센서가 주어졌습니다. 연구팀은 로봇이 완료해야 할 2,000개의 별도 여정, 즉 에피소드를 생성했으며, 이는 약 100만 번의 움직임 순간에 해당합니다. 이 시뮬레이션 세계에서 로봇은 흐릿한 판독값을 주는 노이즈가 섞인 센서나 자신의 움직임 명령의 갑작스러운 변화와 같은 다양한 조건에 노출되었습니다. 목표는 단순히 로봇이 여정을 마칠 수 있는지 보는 것이 아니라, 컴퓨터 프로그램이 로봇의 현재 상태를 보고 심각한 실수를 저지를 예정인지 예측할 수 있는지 확인하는 것이었습니다.

발견의 핵심은 컴퓨터 프로그램이 학습하는 방식에 있습니다. 표준적인 훈련에서 컴퓨터는 수천 개의 사례를 살펴보고 가능한 한 자주 정답을 맞히려고 노력합니다. 실수를 하면 벌칙을 받습니다. 이 새로운 시스템에서는 모든 실수에 대한 벌칙이 동일하지 않습니다. 로봇이 사소한 오류를 범했을 때 벌칙은 작았습니다. 근접 사고가 발생했을 때는 벌칙이 5배 더 컸습니다. 충돌 직전의 상황이었을 때는 벌칙이 25배 더 컸습니다. 컴퓨터를 가르치는 이 단순한 변화는 컴퓨터가 훨씬 더 주의 깊게 위험한 상황에 주목하도록 강제했습니다. 결과는 놀라웠습니다. 연구진이 이 '비용 민감형(cost-sensitive)' 훈련을 사용했을 때, 고심각도 실패를 포착하는 시스템의 능력은 약 85%에서 거의 99%로 급증했습니다.

연구는 맥락(context)이라는 층을 추가하여 한 단계 더 나아갔습니다. 연구진은 근접 사고가 항상 똑같이 위험한 것은 아니라는 점을 깨달았습니다. 명확한 센서를 가진 상태로 벽에 천천히 접근하는 것은 흐릿한 센서를 가진 상태로 빠르게 접근하는 것보다 덜 위험합니다. 이를 반영하기 위해 시스템은 로봇의 속도, 장애물과의 거리, 그리고 센서의 불확확실성에 따라 경계 수준을 조정하도록 업데이트되었습니다. 로봇이 빠르게 움직이거나 센서가 어려움을 겪고 있으면, 시스템은 자동으로 더 보수적으로 변하여 더 쉽게 경보를 울렸습니다. 이 적응형 접근 방식은 탐지율을 더욱 높여, 시뮬레이션에서 거의 모든 고심각도 이벤트를 포착해 냈습니다.

하지만 연구진은 트레이드오프(trade-offs)에 대해 솔직하게 밝히는 데 주의를 기울였습니다. 시스템을 위험에 매우 민

감하게 만듦으로써, 실제 위험이 없는 상황에서도 경보를 울리기 시작했습니다. 이것은 오경보(false alarm)라고 불립니다. 연구는 적응형 시스템이 거의 모든 충돌을 잡아내는 데는 탁받았지만, 그 과정에서 많은 안전한 순간들을 위험한 것으로 표시했다는 것을 발견했습니다. 연구진이 동일한 조건 하에서 시스템들을 비교했을 때, 적응형 방법은 실제 위험과 안전을 구별하는 능력이 단순한 방법보다 약간 더 나은 수준이었습니다. 주요 이점은 시스템이 위험의 순위를 매기는 데 더 똑똑해졌다는 것이 아니라, 더 조심스러워질 용의가 있다는 것이었습니다. 시스템은 위험한 이벤트를 놓치지 않기 위해 더 자주 경보를 울리는 쪽을 택했습니다.

이러한 발견이 단지 컴퓨터 시뮬레이션의 결과가 아님을 보장하기 위해, 팀은 이전 연구에 사용되었던 로봇의 실제 데이터를 사용하여 그들의 방법을 테스트했습니다. 24개의 초음파 센서를 갖춘 이 로봇은 벽을 따라가는 임무를 수행했습니다. 이 로봇은 충돌하도록 설계되지 않았음에도 불구하고, 연구진은 그 움직임을 심각도 척도에 매핑했습니다. 결과는 유효했습니다. 비용 민감형 훈련을 통해 시스템은 비상 기동을 완벽한 정확도로 감지할 수 있었으며, 이는 표준 방식보다 크게 향상된 결과였습니다. 이는 이 접근 방식이 가상 세계뿐만 아니라 실제 기계의 데이터에서도 작동함을 확인시켜 주었습니다.

연구는 또한 로봇이 실제로 충돌할 때 어떤 일이 발생하는지도 탐구했습니다. 주요 시뮬레이션에서 로봇의 안전 제어는 매우 뛰어나서 아무것도 치지 않았습니다. 실제 충돌을 예측하는 시스템의 능력을 테스트하기 위해, 연구진은 로봇이 장애물에 부딪힐 가능성이 더 높은 더 어려운 두 번째 시뮬레이션을 만들었습니다. 이 더 가혹한 환경에서 충돌을 예측하는 시스템의 능력은 85%에서 거의 99%로 향상되었습니다. 충돌을 놓치는 비용은 1,000 단위의 잠재적 손상에서 단 100 단위로 급격히 감소했습니다. 이는 이 방법이 가장 심각한 유형의 실패에 대해서도 효과적임을 증명했지만, 안전한 순간의 약 80%를 위험하다고 표시하는 높은 오경보율을 동반했습니다.

연구진은 이 작업의 가장 가치 있는 측면은 단순히 숫자가 아니라 관점의 전환이라고 결론지었습니다. 그들은 로보틱스 커뮤니티가 모든 오류를 동일하게 취급하는 것을 멈춰야 한다고 주장했습니다. 99% 정확하지만 로봇을 파괴하는 단 한 번의 충돌을 놓치는 시스템은 안전이 필수적인 세상에서는 실패한 시스템입니다. 기계에게 그 결과에 따라 실수의 무게를 달도록 가르침으로써, 우리는 단순한 효율성보다 인간의 안전과 장비 보호를 우선시하는 시스템을 구축할 수 있습니다. 이 연구는 이 접근 방식이 로봇이 얼마나 조심스러워야 하는지를 결정하는 원칙적인 방법을 제공하며, 엔지니어가 환경에 따라 안전 수준을 조절할 수 있게 해준다고 제안합니다. 시스템이 더 빈번한 오경보라는 트레이드오프를 요구하지만, 연구진은 충돌이 치명적인 상황에서는 이것이 지불할 가치가 있는 대가라고 주장합니다. 이 연구는 적절한 훈련이 뒷받인다면 기계도 모든 실수가 똑같지 않다는 것을 이해할 수 있음을 보여주는 증거입니다.