Runtime Safety Filtering for Two-Terminal Hazards in Robotic Battery Recycling

로봇은 현대 세계를 움직이는 배터리를 분류하고 재활용하는 것과 같은 섬세한 작업을 수행하는 법을 배우고 있습니다. 로봇을 가르치기 위해 연구자들은 종종 인간이 과업을 수행하는 영상을 보고 학습하는 인공지능을 사용합니다. 비전-언어-행동 모델(vision-language-action models)로 알려진 이 시스템은 장면을 보고 간단한 지시를 이해함으로써 배터리를 집어 올리거나 도구를 움직이는 방법을 파악할 수 있습니다. 그러나 이러한 스마트한 시스템이 알고 있는 것과 실제로 안전하게 수행할 수 있는 것 사이에는 간극이 존재합니다. 로봇은 배터리를 A 지점에서 B 지점으로 옮겨야 한다는 점은 이해할 수 있지만, 특정 금속 부품에 너무 가까이 가져가는 것이 위험한 전기적 단락(short circuit)을 일으킬 수 있다는 사실은 깨닫지 못할 수도 있습니다. 이 간극을 메우기 위해 엔지니어들은 '안전 필터(safety filter)'를 사용합니다. 이 필터를 로봇의 뇌와 근육 사이에 서 있는 경계심 강한 감독관이라고 생각하십시오. 감독관은 로봇이 계획하는 모든 움직임을 지켜봅니다. 만약 어떤 움직임이 안전 규칙을 위반할 것처럼 보이면, 감독관은 이를 중단시키고 대신 다른 행동을 하라고 로봇에게 지시합니다. 문제는 무엇이 위험한 움직임인지 정확히 정의하는 것과, 멈추라는 명령을 받았을 때 로봇이 무엇을 해야 할지를 결정하는 것입니다.

배터리 재활용의 경우, 그 위험성은 독특합니다. 배터리 셀에는 양극과 음극이라는 두 개의 금속 단자가 있습니다. 배터리 케이스 자체나 도구와 같은 금-속 조각이 두 단자에 동시에 닿으면, 전기가 흐르지 말아야 할 곳으로 흐르게 하는 다리 역할을 하여 단락을 일으킵니다. 이는 단일 물체와 충돌하는 일반적인 충돌과는 다릅니다. 여기서의 위험은 로봇이 두 단자에 동시에 접근할 때만 발생합니다. 로봇이 한쪽 단자에 매우 가까이 있어도 완벽하게 안전할 수 있지만, 첫 번째 단자 근처에 있으면서 두 번째 단자에도 접근하는 순간 위험이 나타납니다. 싱가포르 국립대학교와 여러 호주 대학교의 연구진은 이러한 '두 단자(two-terminal)' 위험을 처리하기 위해 안전 감독관을 프로그래밍하는 최선의 방법을 테스트하기 위해 모였습니다. 그들은 위험을 정의하는 방식이 중요한지, 아니면 멈췄을 때 로봇이 무엇을 하는지가 더 중요한지를 알고 싶었습니다.

연구팀은 표준 로봇 테스트베드인 LIBERO를 사용하여 시뮬레이션 환경을 구축했습니다. 여기서 로봇 팔은 전도성 배터리 부품의 대역 역할을 하는 식료품 아이템을 작업대 위로 이동시켜야 했습니다. 연구진은 로봇에 '고정된 AI 정책(frozen AI policy)'을 프로그래히했는데, 이는 로봇의 의사결정 뇌가 고정되어 테스트 중에 새로운 기술을 배울 수 없음을 의미합니다. 그런 다음 연구진은 다양한 버전의 안전 필터를 테스트했습니다. 먼저, '위험 구역'을 정의하는 다양한 방법을 시도했습니다. 한 버전은 단순한 규칙인 '둘 중 하나로부터 멀리 떨어져 있기'를 사용했습니다. 다른 버전은 더 복ox한 규칙인 '두 단자에 동시에 닿을 수 있는 영역에서 멀리 떨어져 있기'를 사용했습니다. 또한 두 규칙을 결합한 하이브리드 접근 방식도 테스트했습니다. 결정적으로, 연구진은 이 규칙들을 하나의 고정된 거리로 테스트하지 않았습니다. 그들은 각 규칙에 대한 '마진(margin)', 즉 완충 구역을 조정하여 로봇을 안전하게 유지하면서도 너무 자주 멈추게 하지 않는 데 필요한 공간이 얼마인지 확인했습니다.

그 결과는 놀라웠습니다. 안전과 작업 수행 사이의 최적의 균형을 찾기 위해 각 규칙의 완충 구역을 조정했을 때, 세 가지 위험 구역 정의 모두 거의 동일하게 작동했습니다. 감독관이 '하나로부터 멀리 떨어지기'라는 단순한 규칙을 찾든, '둘 모두로부터 멀리 떨어지기'라는 복잡한 규칙을 찾든, 거리를 적절히 조절하면 결과는 거의 동일했습니다. 이는 안전 규칙의 구체적인 형태보다 거리를 맞추는 것이 더 중요하다는 것을 시사합니다. 진짜 차이는 감독관이 "멈춰"라고 말했을 때 로봇이 무엇을 하느냐에서 나타났습니다.

연구진은 움직임이 거부되었을 때 로봇이 반응하는 네 가지 방법을 테스트했습니다. 첫 번째는 단순히 제자리에 멈춰서 로봇을 고정하는 것이었습니다. 두 번째는 '후퇴(retreat)'로, 로봇을 위험으로부터 뒤로 움직이는 것입니다. 세-번째는 '샘플 탐색(sample search)'으로, 로봇이 안전한 움직임이 있는지 확인하기 위해 약간씩 다른 몇 가지 움직임을 시도하는 것입니다. 네 번째는 로봇이 원래 의도했던 것과 매우 유사하면서도 가장 안전한 움직임을 찾는 복잡한 수학적 투영(mathematical projection)입니다. 결과에 따르면, '제자리에 멈춤' 전략이 가장 좋지 않았습니다. 이 전략은 '후퇴' 전략보다 작업을 완료하지 못하는 경우가 약 30% 더 많았으며, 환경을 더 안전하게 만들지도 못했습니다. 로봇은 그냥 앉아 있을 뿐이었고, 업무를 완수하는 데 실패했습니다. 반면, 수학적 투영이나 샘플 탐색처럼 최소한의 간섭을 시도하는 전략들은 로봇이 작업을 더 자주 완료할 수 있게 해주었지만, 위험 구역에 너무 가까워질 위험을 훨씬 더 높였습니다. 로봇을 위험으로부터 명확히 멀어지게 하는 '후퇴' 전략은 최적의 균형을 제공했습니다. 이 전략은 로봇을 안전하게 유지하면서도 필터가 없는 로봇이 수행하는 것만큼 자주 작업을 완수할 수 있게 했습니다.

연구는 또한 로봇이 실수를 하거나 환경이 변할 때 이 필터들이 어떻게 작동하는지 조사했습니다. 연구진은 다른 로봇 정책과 다른 배터리 모양을 사용하여 시스템을 테스트했으며, '후퇴' 전략이 여전히 가장 효과적이었습니다. 그들은 또한 로봇이 거리를 측정하는 과정에서의 오류를 시뮬레이션했습니다. 연구진은 로봇이 들고 있는 물체의 크기에 대해 잘못 알고 있다면, 단자의 위치에 대해 약간 잘못 알고 있는 것보다 안전 필터의 효력이 훨씬 떨어진다는 것을 발견했습니다. 이는 페이로드(물체)의 크기를 아는 것이 위험 요소의 위치를 아는 것만큼이나 중요하다는 점을 강조합니다. 나아가, 물리적 접촉만을 체크하는 안전 시스템은 완전히 실패할 것이라는 점도 발견했습니다. 많은 위험한 순간들은 물체가 단자에서 불과 몇 밀리미터 떨어져 있을 때 발생했는데, 이는 접촉하기에는 너무 가깝지만 단락을 일으키기에는 충분한 거리였습니다. 접촉 기반의 모니터링 시스템은 이러한 사건들을 완전히 놓칠 것입니다.

궁극적으로 이 연구는 로봇이 위험한 물질을 다룰 때, 안전 시스템에서 가장 중요한 것은 반드시 위험을 정의하는 복잡한 수학이 아니라, 위험이 감지되었을 때 어떻게 행동할지에 대한 단순하고 명확한 결정이라는 것을 보여줍니다. 로봇에게 뒤로 물러나라고 지시하는 감독관은 멈추라고 하거나 살짝 옆으로 밀어내려고 하는 감독관보다 훨씬 더 효과적입니다. 고충실도 시뮬레이션에서 수행된 이 연구는 더 안전한 로봇을 구축하기 위한 명확한 로드맵을 제공합니다. 이는 엔지니어들이 위험을 정의하는 새로운 복잡한 기하학적 규칙을 발명하는 데 집중하기보다, 로봇을 위험으로부터 멀어지게 하면서도 작업을 완수할 수 있도록 하는 견고하고 명확한 반응 전략을 선택하는 데 더 집중해야 함을 시사합니다. 수백만 개의 배터리를 재활용하는 것을 자동화하는 방향으로 세상이 나아가고 있는 가운데, 이 연구 결과는 기계가 관리하고자 하는 바로 그 위험을 실수로 초래하지 않도록 보장하는 실질적인 가이드를 제공합니다.