Timely Activation of Safety Filters via One-Step Reachability Expansion

로봇과 자율 주행 차량은 공장 바닥에서 도시의 거리까지, 복잡하고 혼잡한 공간을 탐색해야 한다는 기대를 점점 더 많이 받고 있습니다. 이를 안전하게 수행하기 위해 엔지니어들은 기계가 결코 충돌이나 실패가 불가피한 상태에 진입하지 않도록 보장하는 보이지 않는 가드레일 역할을 하는 수학적 프레임워크에 의존합니다. 역방향 도달 가능성 분석(reachability analysis)이라고 알려진 강력한 접근 방식 중 하나는, 재난으로부터 역으로 추적하여 시스템이 그 재난에 도달할 수 있는 가능한 모든 경로를 지도화하는 방식으로 작동합니다. '역방향 도달 가능 튜브(backward reachable tube)'라고 불리는 이 지도는 경계선을 정의합니다. 로봇이 이 튜브 밖에 머물면 안전하며, 경계에 닿으면 위험을 피하기 위해 즉각적이고 구체적인 조치를 취해야 합니다. 이론적으로 이 시스템은 완벽합니다. 그러나 현실 세계의 로봇은 매끄럽고 연속적인 흐름으로 생각하거나 움직이지 않습니다. 대신, 이들은 고정된 간격으로 자신의 위치를 확인하고, 새로운 방향을 계산하며, 모터를 조정하는 일련의 빠른 스냅샷 방식으로 작동합니다. 이 매끄러운 이론과 거친 현실 사이의 간극은 위험한 사각지대를 만듭니다. 한 스냅샷과 다음 스냅샷 사이에서, 로봇은 이론적으로 안전 경계를 '점프'하여 컴퓨터가 선을 넘었다는 사실을 인지하기도 전에 위험 구역 안으로 직접 떨어질 수 있습니다.

칠레 산티아고 대학교(Universidad de Santiago de Chile)의 연구진은 이러한 특정 취약점을 식별하고, 이 간극을 메우기 위한 원칙적인 해결책을 제안했습니다. 그들은 로봇이 이산적인 시간 단계(discrete time steps)마다 제어 신호를 업데이트할 때 표준 안전 경계에 의존하는 것은 불충분하다는 것을 발견했습니다. 이를 해결하기 위해, 그들은 제어 업데이트 사이의 짧은 순간 동안 로봇이 움직일 수 있는 능력을 고려하여 더 크고 확장된 안전 경계를 만드는 방법을 개발했습니다. 로봇이 원래의 위험 구역에 닿을 때까지 기다리는 대신, 이 새로운 시스템은 단 한 번의 시간 단계 후에 로봇이 어디에 위치할지에 대한 예측을 바탕으로 더 일찍 안전 개입을 트리거합니다. 이 확장된 경계를 안전 필터의 트리거로 사용함으로써, 이 시스템은 디지털 제어에 내재된 지연에도 불구하고 로봇이 파멸적인 상태로 점프할 기회를 갖지 않도록 보장합니다.

문제의 핵심은 안전이 계산되는 방식과 로봇이 실제로 움직이는 방식 사이의 불일치에 있습니다. 이상적인 수학적 세계에서 로봇의 경로는 연속적인 선입니다. 만약 안전 필터가 로봇이 위험 구역의 가장자리에 닿는 즉시 비상 기동으로 전환하도록 설계된다면 완벽하게 작동할 것입니다. 하지만 현실에서 로봇의 컴퓨터는 위치를 확인하고, 무엇을 할지 결정하고, 몇 분의 1초마다 모터에 명령을 보냅니다. 그 작은 간격 동안 로봇은 계속 움직입니다. 만약 로봇이 충분히 빠르게 움직이고 있거나, 예상치 못한 바람이나 충격이 밀어붙인다면, 다음 점검이 이루어지기 전에 안전선을 넘어 위험 구역으로 진입할 수 있습니다. 로봇은 사실상 가드레일을 뛰어넘은 것입니다. 엔지니어들은 단순히 종이 위의 위험 구역을 더 크게 만들고, 안전 시스템을 더 일찍 트리거하기 위해 무작위 버퍼 존을 추가하는 방식으로 이를 해결하려 노력해 왔습니다. 이것이 도움이 되기는 하지만, 이는 대개 로봇이 과도하게 조심하게 만들어 작업 효율성을 제한하는 거친 추측에 불과합니다.

연구진은 로봇이 최악의 조건 하에서 단 한 번의 시간 단계 동안 얼마나 멀리 이동할 수 있는지를 정확하게 계산함으로써 이 문제에 맞섰습니다. 그들은 원래의 위험 구역을 최종 목표가 아니라, 로봇이 그 짧은 시간 단계 내에 도달할 수도 있는 목적지로 취급했습니다. 그들은 위험 구역으로부터 역방환하여 한 번의 시간 단계 동안의 경로를 추적함으로써, 새롭고 더 큰 구역을 그려냈습니다. 이 새로운 구역은 로봇이 반응하기 전에 원래의 위험 구역에 도달할 가능성이 있는 모든 지점을 포함합니다. 이것이 바로 '1단계 확장 역방향 도달 튜브(one-step expanded backward reachable tube)'입니다. 이것은 무작위의 추측이나 고정된 여백이 아닙니다. 그것은 로봇의 물리 법칙, 최대 속도, 그리고 바람이나 마찰 같은 방해 요소의 가능성으로부터 도출된 정밀한 계산입니다. 그 결과는 안전을 보장하면서도 불필요하게 제한적이지 않은 경계입니다.

이 아이디어를 테스트하기 위해, 팀은 장애물이 가득한 혼잡한 환경을 항해하는 더빈스 자동차(Dubins car)로 모델링된 자율 주행 자동차를 시뮬레이션했습니다. 자동차는 네 개의 원형 장애물이 들어있는 직사각형 인클로저를 피하며 출발점에서 목표점까지 이동해야 했습니다. 연구진은 안전을 본질적으로 고려하지 않고 전적으로 안전 필터에 의존하여 충돌을 방지하도록 프로그래밍된 표준 내비게이션 전략을 사용하도록 자동차를 설정했습니다. 그런 다음 두 가지 시나리오를 비교했습니다. 하나는 원래의 표준 경계를 사용하는 안전 필터를 사용하는 경우였고, 다른 하나는 새로운 확장된 경계를 사용하는 경우였습니다. 연구진은 제어 업데이트 사이의 시간 간격을 0.1초에서 0.4초까지 다양하게 설정하여 시뮬레이션을 실행했으며, 실제 세계의 예측 불가능성을 모사하기 위해 무작위 교란을 도입했습니다.

결과는 극명했습니다. 표준 경계를 사용할 때, 특히 업데이트 사이의 시간이 길어질수록 로봇은 빈번하게 충돌에 실패했습니다. 0.2초 간격의 가장 까다로운 테스트에서, 표준 방식은 100번의 시뮬레이션 중 95번의 실행에서 충돌을 허용했습니다. 로봇이 장애물에 접근하면 컴퓨터가 다음 업데이트를 기다리고, 그 찰나의 순간에 로봇은 안전선을 넘어 장애물에 부딪히게 됩니다. 반면, 확장된 경계를 사용하는 시스템은 대다수의 경우에서 안전을 유지했습니다. 동일한 0.2초 간격에서, 확장된 방식은 100번의 실행 중 82번의 실행에서 로봇을 안전하게 지켰습니다. 확장된 방식을 사용하여 실패가 발생하더라도 그 정도는 훨씬 덜 심각했습니다. 로봇이 장애물 구역을 침범한 거리가 현저히 작았으며, 첫 번째 실패가 발생하기까지의 시간도 더 길었습니다.

연구는 또한 업데이트 사이의 시간이 길어질수록 확장된 경계가 더욱 효과적이라는 것을 보여주었습니다. 표준 방식이 긴 간격에서 심하게 고전한 반면, 확장된 방식은 견고하게 성능을 유지했습니다. 이는 새로운 접근 방식이 제어 업데이트를 매우 빠르게 할 수 없는 시스템에 특히 유용하다는 것을 시사합니다. 연구진은 확장된 경계가 지연을 보상하는 버퍼 역할을 하여, 너무 늦기 전에 안전 필터가 위험으로부터 로봇을 멀어지게 하도록 조기에 활성화된다고 언급했습니다. 그러나 그들은 이 방법이 모든 위험을 제거하는 것은 아니라는 점을 주의 깊게 명시했습니다. 근본적인 안전 계산이 여전히 연속 시간 수학에 기반하고 있기 때문에, 이론과 로봇 움직임의 이산적 현실 사이에는 작은 간극이 남아 있습니다. 시뮬레이션에서 실패는 여전히 발생했지만, 훨씬 덜 빈번하고 덜 심각했습니다.

이 연구는 현실 세계에서 자율 시스템을 더 안전하게 만들기 위한 명확한 경로를 제공합니다. 임의의 안전 여백에서 벗어나 위험 구역의 계산된 1단계 확장을 향해 나아감으로써, 엔지니어들은 안전하면서도 효율적인 로봇을 배치할 수 있습니다. 이 방법은 로봇이 안전한 영역에서 자유롭게 움직일 수 있는 능력을 보존하는 동시에, 위험에 접근하는 순간 시스템이 충분한 시간을 두고 개입하도록 보장합니다. 연구진은 이 논리가 테스트한 것 이상의 다른 안전 프레임워크에도 적용될 수 있으며, 매끄러운 수학적 이론과 디지털 제어의 단계별 이산적 특성 사이의 간극을 메우는 일반적인 방법을 제공한다고 제안했습니다. 예측 불가능한 환경에서 인간과 함께 안전하게 작동해야 하는 로봇의 미래를 위해, 이 간극을 메우는 것은 단순한 기술적 개선이 아니라 신뢰를 위한 근본적인 요구 사항입니다.