PrivateAgent: Mobility-Aware AI Agents for Safe Private Networks

현대 산업 세계에서는 새로운 종류의 신경계가 뿌리를 내리고 있습니다. 이것은 신경으로 만들어진 것이 아니라, 공용 인터넷과는 분리되어 공장, 창고, 대규모 캠퍼스 내부에서 작동하는 프라이빗 셀룰러 네트워크로 이루어져 있습니다. 이 네트워크는 고정된 보안 카메라부터 스마트 글래스를 착용한 작업자, 그리고 바닥을 자유롭게 이동하는 자율 주행 로봇에 이르기까지 모든 것을 연결합니다. 엔지니어들의 과제는 이 장치들이 모두 동일하게 작동하지 않는다는 점입니다. 벽에 설치된 카메라는 연결이 안정적이며 명령을 잠시 기다릴 수 있습니다. 그러나 복도를 달리는 로봇은 충돌을 피하기 위해 찰나의 순간에 결정을 내려야 하며, 단 0.1초의 지연만으로도 물리적 충돌이나 생산 라인 중단으로 이어질 수 있습니다. 수년 동안의 가설은 하나의 강력한 인공지능이 중앙 위치에서 이 모든 다양한 작업을 관리할 수 있다는 것이었습니다. 본 논문은 이러한 일률적인 접근 방식이 비효율적일 뿐만 아니라 잠재적으로 위험하다고 주장합니다.

이 연구를 수행한 연구진은 이탈리아, 미국, 중국의 기관들과 협력하여 이러한 스마트 시스템을 조직하는 새로운 방법을 제안합니다. 그들은 이를 'PrivateAgent'라고 부릅니다. 하나의 중앙 집중식 두뇌에 의존하는 대신, 장치의 이동 속도와 반응이 필요한 속도에 따라 업무를 나누는 방식을 제안합니다. 핵심 아이디어는 로봇이 사람과 부딪히기 전에 멈추는 것과 같은 안전 필수 작업은 반드시 장치 자체에서 즉각적으로 일어나야 한다는 것입니다. 전체 로봇 군단의 경로를 계획하는 것과 같이 더 많은 사고가 필요한 작업은 근처의 로컬 컴퓨터, 즉 '엣지(edge)'에서 수행될 수 있습니다. 소프트웨어 업데이트나 장기 학습처럼 가장 느린 작업들만이 멀리 떨어진 '클라우드(cloud)'로 보내질 필요가 있습니다. 이러한 분리는 연결이 끊기더라도 시스템이 안전하게 유지되도록 보장합니다.

이 아이디어를 테스트하기 위해 연구팀은 네 개의 서로 다른 프라이빗 네트워크에서 얻은 실제 데이터를 사용하여 엄격한 테스트 세트를 만들었습니다. 그들은 단순히 완벽한 세상을 시뮬레이션한 것이 아니라, 작업자가 선반 사이를 지나가거나 로봇이 문을 통과할 때 신호가 어떻게 작동하는지에 대한 실제 기록을 사용했습니다. 연구진은 이 데이터를 인공지능 모델에 입력하고 어떤 네트워크 조치를 취할지 결정하도록 했습니다. 모델은 세 가지 옵션 중 하나를 선택해야 했습니다: 즉시 실행하거나, 상황이 불분명하므로 추가 정보를 요청하거나, 혹은 안전하지 않으므로 실행을 거부하는 것입니다. 결과는 놀라웠습니다. 50개의 테스트 시나리오 각각에서 모델은 실행할지, 명확히 할지, 혹은 요청을 거절할지를 정확하게 식별해 냈습니다. 실행을 선택했을 때, 모델은 90%의 확률로 안전하고 수용 가능한 조치를 선택했으며, 단일 최적의 조치를 86%의 확률로 선택했습니다.

결정적으로, 이 논문은 인공지능과는 독립적으로 작동하는 두 번째 안전 계층을 강조합니다. 인공지능이 좋은 결정을 내리더라도, 시스템은 그 결정이 실행되기 전에 유효한지 검증해야 합니다. 연구진은 모든 제안된 변경 사항을 확인하는 엄격한 디지털 게이트키퍼(gatekeeper)를 구축했습니다. 이 게이트키퍼는 누락된 정보, 불가능한 요청, 또는 인공지능이 무언가를 지어내고 있는 징후를 찾아냅니다. 연구진은 게이트키퍼가 오류를 잡아내는지 확인하기 위해 시스템에 의도적으로 400개의 오류를 주입했습니다. 요청의 기본 형식만을 확인하는 표준 체크 방식은 이 오류 중 150개만을 잡아냈습니다. 반면, 더 철저한 새로운 게이트키퍼는 400개의 오류를 모두 잡아냈습니다. 이는 별도의 독립적인 검증을 갖추는 것이 시스템의 위험한 실수를 방지하는 데 필수적임을 입증합니다.

또한 이 연구는 프라이빗 네트워크에서 발견되는 장치들을 세 가지 명확한 범주로 분류합니다. 첫 번째 그룹은 외곽을 감시하는 고정 카메라와 같은 '고정형(stationary)' 장치입니다. 이 장치들은 움직이지 않으므로 연결이 안정적입니다. 이들을 위해 시스템은 속도가 다소 느려도 되며, 무거운 분석을 위해 클라우드에 의존할 수 있습니다. 두 번째 그룹은 핸드헬드 스캐너를 들고 다니는 작업자나 걷는 속도로 움직이는 지게차와 같은 '저이동성(low-mobility)' 장치입니다. 이 장치들은 신호의 일시적인 끊김을 일으킬 만큼 움직이므로, 시스템은 연결을 전환하고 명령을 준비해 두는 데 영리하게 대처해야 합니다. 세 번째 그룹은 자율 주행 로봇과 드론처럼 빠르고 예측 불가능하게 움직이는 '고이동성(high-mobility)' 장치입니다. 이들에게 시스템은 매우 빨라야 합니다. 연구진은 고이동성 장치의 경우, 가장 중요한 안전 결정은 장치 자체에 머물러야 한다는 것을 발견했습니다. 네트워크 연결이 실패하더라도 로봇은 먼 서버로부터 신호를 기다리지 않고 안전하게 멈출 수 있어야 합니다.

가장 중요한 발견 중 하나는 사용하는 인공지능의 유형이 작업과 일치해야 한다는 점입니다. 논문은 모든 것을 제어하기 위해 하나의 거대한 언어 모델을 사용하는 것에 반대합니다. 언어 모델은 복잡한 명령을 이해하거나 상황을 요약하는 데는 뛰어나지만, 로봇의 브레이크를 제어하기에는 너무 느리고 예측 불가능합니다. 대신, 시스템은 계층 구조를 사용합니다. 작고 빠른 프로그램들이 장치 상의 즉각적인 안전 루프를 처리합니다. 더 복잡한 추론은 로컬 엣지에서 일어납니다. 거대 언어 모델은 고차원적인 계획을 세우거나 사건 발생 후의 경위를 설명하는 용도로 예약됩니다. 이러한 분업은 속도가 필요할 때 프로세싱이 지연되는 것을 방지합니다.

연구진은 또한 신뢰 문제도 다루었습니다. 인공지능이 네트워크 트래포픽에 대한 결정을 내리는 시스템에서는, AI가 올바르게 보이지만 실제로는 해로운 변경을 제안할 위험이 있습니다. 예를 들어, AI가 비디오 스트림을 다른 경로로 재라우팅하도록 제안하면서, 그 새로운 경로가 차단되었거나 보안 규칙을 위반한다는 사실을 인지하지 못할 수 있습니다. PrivateAgent 프레임-워크는 AI의 모든 제안을 독립적인 검증자에 의해 승인되어야 하는 '초안'으로 취급합니다. 이 검증자는 증거, 요청의 범위, 그리고 문제가 생겼을 때의 롤백(rollback) 계획이 존재하는지 확인합니다. 테스트에서 이 독립적인 체크 방식은 단순한 형식 체크가 놓친 미묘한 오류, 즉 조작된 데이터나 AI의 권한을 초과하는 요청 등을 탐지해 낼 수 있었습니다.

연구는 프라이빗 네트워크의 미래가 이러한 모빌리티 인식(mobility-aware) 접근 방식에 있다고 결론짓습니다. 정지된 카메라, 걷는 작업자, 그리고 빠르게 움직이는 로봇이 근본적으로 다른 요구 사항을 가지고 있음을 인식함으로써, 엔지니어들은 더 똑똑하고 안전한 시스템을 구축할 수 있습니다. 이 프레임워크는 모든 장치가 항상 클라우드에 연결되어 있을 것을 요구하지 않습니다. 대신, 시스템이 우아하게 성능을 저하시키도록(degrade gracefully) 허용합니다. 엣지와의 연결이 끊어지면 고정된 카메라는 로컬에서 계속 녹화합니다. 클라우드와의 연결이 끊어지면 로봇은 온보드 센서를 사용하여 계속 항해합니다. 목표는 완벽하고 깨지지 않는 시스템을 만드는 것이 아니라, 자신의 한계를 알고 문제가 생겼을 때의 명확한 계획을 가진 시스템을 만드는 것입니다.

이 작업은 산업 자동화를 더욱 신뢰할 수 있게 만드는 중요한 진전입니다. 이는 단순히 인공지능이 얼마나 강력할 수 있는지를 묻는 것에서 벗어나, 그 지능이 어디에 존재해야 하며 어떻게 검증되어야 하는지를 묻는 방향으로 대화를 전환합니다. 결과는 적절한 구조가 있다면 인공지능이 안전을 해치지 않으면서도 복잡한 네트워크를 관리할 수 있음을 보여줍니다. 연구진은 다른 이들이 이 토대 위에 구축할 수 있도록 테스트 데이터와 방법론을 공개하였습니다. 향-후 과제는 더 복잡한 로봇의 움직임과 더 긴 운영 시간을 포함하도록 이 테스트를 확장하는 것이지만, 핵심 원칙은 명확합니다. 안전은 결정의 속도를 기계의 속도에 맞추는 데 달려 있습니다.