수많은 드론과 지상 이동 차량 같은 작은 로봇들이 "군집(swarms)"이라 불리는 거대한 집단을 이루어 협력하며, 인간이 하기에는 너무 위험하거나 복잡한 업무를 수행하는 세상을 상상해 보십시오. 이들은 마치 물고기 떼나 새 떼처럼, 금속과 코드로 만들어진 존재로서 해안선을 순찰하거나 조난된 등산객을 찾는 임무를 맡습니다. 이러한 군집이 제대로 작동하려면 레이더, 소리, 카메라와 같은 다양한 감각을 사용하여 주변 상황을 파악하고 다음에 무엇을 할지 결정할 수 있을 만큼 똑똑해야 합니다. 하지만 까다로운 문제가 있습니다. 만약 로봇의 "두뇌"(소프트웨어)가 혼란에 빠지거나, 해킹당하거나, 가짜 신호에 속는다면 어떻게 될까요? 두뇌가 실수를 하면 집단 전체가 추락하거나 사고를 일으킬 수 있습니다. 이것이 바로 과학자들이 해결하려는 큰 문제입니다. 어떻게 하면 로봇을 똑똑하고 유연하게 만들면서도, 소프트웨어가 오작동하더라도 결코 정말 위험한 행동을 하지 못하도록 보장할 수 있을까요?

이 논문은 "가드형 군집(Guarded Swarms)"이라 불리는, 이 로봇 팀을 구축하는 영리한 새로운 방법을 소개합니다. 단순히 모든 결정을 내리기 위해 초고성능 컴퓨터 프로그램에만 의존하는 대신, 저자들은 업무를 두 개의 뚜렷한 계층으로 나누는 방식을 제안합니다. 상위 계층은 "디지털 두뇌"로, 고급 수학과 인공지능을 사용하여 모든 다양한 센서의 신호를 듣고, 상황을 파악하며, 미션을 계획합니다. 하지만 하위 계층은 "하드웨어 안전망"으로, 단순하고 깨뜨릴 수 없는 회로 기판으로서 엄격한 경호원 역할을 합니다. 이 경호원은 복잡한 계획이나 AI 이론에는 관심이 없습니다. 오직 한 가지만을 확인합니다. "이 명령이 안전한가?" 만약 디지털 두뇌가 로봇에게 산으로 날아가거나 건물에 충돌하라고 명령한다면, 하드웨어 경호원은 질문 따위는 생략하고 즉시 그 명령을 차단합니다. 이 논문은 이 두 계층 시스템이 어떻게 현실 세계의 무질서하고 혼란스러운 정보를 받아들여, 로봇이 방해를 받거나 적에게 속더라도 안전하고 조화로운 행동으로 바꿀 수 있는지 보여줍니다.

가드형 군집의 이야기

당신이 거대하고 첨단 기술이 집약된 해적선의 선장이라고 상상해 보십시오. 하지만 당신의 배에는 사람 선원 대신 수백 대의 작은 드론과 로버들이 타고 있습니다. 당신의 임션은 안개가 자욱한 해안선을 순찰하며 은밀한 적의 배를 찾아내는 것입니다. 문제는 바다가 매우 시끄럽다는 점입니다. 당신의 레이더는 새를 보고 삐 소리를 낼 수도 있고, 마이크는 고래 소리를 들을 수도 있으며, 카메라는 그저 구름을 포착할 수도 있습니다. 만약 당신의 배에 있는 컴퓨터가 이 모든 것을 무엇인지 추측하려 한다면, 혼란에 빠져 함대 전체에 갈매기 떼를 공격하라는 명령을 내릴 수도 있습니다. 그것은 재앙이 될 것입니다.

이 논문은 TB-CSPN(멋진 로봇 알파벳 수프처럼 들리지만, "미션 컨트롤 보드"라고 부릅시다)이라는 시스템을 사용하여 배를 운영하는 새로운 방법을 제안합니다. 작동 방식은 다음과 같습니다.

1. 탐정 팀 (컨설턴트 에이전트)
먼저, 논문은 센서의 가공되지 않은 데이터를 살펴보는 "탐정들"(특화된 AI 에이전트)을 두는 것을 제안합니다. 이들은 단순히 "무언가 있다!"라고 외치지 않습니다. 대신 이들은 노이즈를 명확하고 라벨이 붙은 단서로 변환합니다.

• 만약 레이더가 어떤 움직임을 포착하면, 한 명의 탐정은 다음과 같은 메모를 작성할 수 있습니다: "가능한 UAV(무인 항공기) 감지됨."
• 마이크에서 웅웅거리는 소리가 들리면, 다른 탐정은 이렇게 적습니다: "드론 엔진 소리로 추정됨."
• 카메라가 작은 비행 물체를 발견하면, 세 번째 탐정은 이렇게 적습니다: "소형 항공기 확인됨."
  이러한 메모들을 **"토큰(tokens)"**이라고 부릅니다. 이는 특정 라벨이 붙은 포스트잇과 같습니다. 탐정들은 아직 공격을 결정하지 않습니다. 그저 무질서한 증거들을 깔끔하게 라벨링된 카드 형태로 정리할 뿐입니다.

2. 미션 컨트롤 보드 (TB-CSPN 계층)
이제 이 포스트잇들(토큰)은 TB-CSPN이라 불리는 거대한 게임 보드 위에 놓입니다. 이것은 일반적인 게임 보드가 아닙니다. 적절한 카드가 적절한 위치에 적절한 시간에 있어야만 일이 진행되도록 하는 규칙 기반 시스템입니다.

• 시간 창(The Time Window): 보드에는 "우리는 몇 초 이내에 발생하는 단서들만 신뢰한다"라는 규칙이 있습니다. 만약 레이더가 10분 전에 무언가를 포착했는데 카메라가 지금 막 무언가를 봤다면, 보드는 "이것들은 일치하지 않는다! 아직 미션이 아니다"라고 판단합니다. 이는 군집이 오래되고 쓸모없는 정보에 반응하는 것을 방지합니다.
• 가드형 전이(The Guarded Transitions): 보드에는 특수한 게이트(문)가 있습니다. 이 게이트는 올바른 단서의 조합이 갖춰졌을 때만 열립니다. 예를 들어, "위협 감지" 게이트를 열려면 "가능한 UAV" 메모와 "확인된 드론" 메모가 둘 다 필요할 수 있습니다. 하나만 있다면 게이트는 닫힌 상태를 유지합니다. 이는 군집이 허위 경보에 과잉 반응하지 않도록 보장합니다.

3. 인간 선장 (감독 에이전트)
설령 보드가 "이봐, 위협이 확인되었다!"라고 말하더라도, 군집은 여전히 공격할 수 없습니다. 논문은 "Human-in-the-Loop(인간 개입)" 규칙을 강조하며, 인간 감독자(또는 엄격한 정책)가 미션을 잠금 해제하기 위한 특별한 "승인 토큰"을 주어야 한다고 주장합니다.

• 상상해 보십시오. 보드에 "요격(Intercept)"이라고 적힌 빨간 버튼이 있지만 잠겨 있습니다. 인간 선장이 열쇠를 가지고 있습니다. 설령 컴퓨터가 그것을 위협이라고 생각하더라도, 만약 선장이 "잠깐, 저건 적군이 아니라 구조 비행기야"라고 말한다면, 열쇠는 돌아가지 않고 군집은 제자리에 머뭅니다. 이는 큰 결정에는 항상 인간이 주도권을 갖도록 보장합니다.

4. 깨뜨릴 수 없는 경호원 (아날로그 안전 엔벨로프)
이 부분이 가장 흥미로운 부분입니다. 인간 선장이 승인을 내리면, 군집은 행군 명령을 받습니다. 하지만 그 명령들이 로봇의 모터에 도달하기 전, 반드시 "하드웨어 안전 엔벨로프"를 통과해야 합니다.

• 이것은 마치 영어는 못 알아듣고 당신의 VIP 패스에도 관심이 없는 **클럽의 문지기(Bouncer)**와 같습니다. 이 문지기는 로봇의 엔진에 직접 연결된 단순한 물리적 회로 기판입니다.
• 만약 디지털 두뇌(컴퓨터)가 해킹당하거나 오류가 발생하여 로봇에게 "절벽을 향해 직진하라"고 명령한다면, 문지기는 속도와 방향을 체크합니다. 그리고 "잠깐, 너무 빠르고 벽에 너무 가깝다!"라고 판단하여, 즉시 전원을 차단하거나 브레이크를 밟습니다.
• 이 과정은 컴퓨터 코드 안에서 일어나는 것이 아니라, 실제 세상의 전기와 전선을 통해 일어납니다. 따라서 컴퓨터가 거짓말을 하거나, 고장 나거나, 누군가에게 속고 있더라도, 로봇은 결코 위험한 행동을 할 수 없습니다. 이는 운전자가 뭐라고 말하든 상관없이, 절벽으로 돌진하려고 하면 자동으로 잠기는 안전벨트와 같습니다.

문제가 발생했을 때 어떤 일이 벌어지는가?

이 논문은 성공 사례만을 이야기하지 않습니다. 오히려 문제가 발생했을 때 이 시스템이 얼마나 빛을 발하는지를 보여줍니다.

• "오래된 단서" 시나리오: 레이더는 새를 포착했지만, 카메라가 느려서 5초 후에야 그것을 발견했다고 가정해 봅시다. 그때쯤이면 미션 컨트롤 보드의 "시간 창"은 이미 닫혀 있습니다. 보드는 단서들을 결합하기를 거부합니다. 군집은 증거가 제시간에 일치하지 않았기 때문에 새를 공격하지 않습니다. 시스템은 인간이 "멈춰!"라고 소리치지 않아도 자연스럽게 혼란을 걸러냅니다.
• "엇갈리는 이야기" 시나리오: 만약 레이더는 "적이다!"라고 하는데, 무선 탐지기는 "그저 민간기일 뿐이다"라고 한다면 어떻게 될까요? 미션 컨트롤 보드는 이 갈등을 감지합니다. 단서들이 일치하지 않으므로 "공격" 게이트는 잠긴 상태로 유지됩니다. 군집은 성급한 실수를 저지르는 대신 더 많은 정보를 기다립니다.
• "해킹된 두뇌" 시나리오: 만약 해커가 컴퓨터를 장악하여 "자폭" 명령을 보내려고 한다면, 하드웨어 경호원(아날로그 안전 엔벨로프)은 그 명령을 완전히 무시합니다. 그것은 오직 안전한 움직임만을 허용합니다. 로봇은 움직임을 멈출 수는 있어도, 충돌하거나 파괴되지는 않을 것입니다.

이것이 왜 중요한가

저자들은 자신들이 무엇을 성취했고 무엇을 하지 않았는지 매우 명확하게 밝히고 있습니다. 그들은 아직 실제 전쟁을 치르는 거대한 로봇 군대를 구축한 것도 아니고, 모든 상황에서 완벽하게 작동한다는 것을 증명하기 위해 수백만 번의 시뮬레이션을 돌린 것도 아닙니다. 대신, 그들은 하나의 청사진 또는 아키텍처를 설계했습니다. 그들은 로봇 군집의 사고와 안전을 조직하는 방법을 보여주었습니다.

그들은 소프트웨어에만 의서하는 것은 너무 위험하다고 주장합니다. 소프트웨어는 해킹당하거나 혼란에 빠질 수 있기 때문입니다. 또한 인간에게만 의존하는 것은 너무 느리다고 주장합니다. 그들의 해결책은 "가드형 군집"으로, 컴퓨터가 계획을 짜는 데 힘을 쏟되, 단순하고 깨뜨릴 수 없는 하드웨어 계층이 최종 심판 역할을 하여 결코 위험한 일이 일어나지 않도록 보장하는 것입니다.

결국, 이 논문은 로봇 군집의 미래가 단순히 더 똑똑한 AI를 만드는 것에 있는 것이 아니라, 만약의 사태에 대비해 "안전망"을 구축하는 것에 있다는 것을 시사합니다. 그 안전망은 생각할 필요조차 없이, 무엇이 "안전"한지를 알고 무엇이 안전하지 않은지를 즉각 차단하는 아주 강력한 물리적 벽입니다. 이는 로봇이 마음껏 뛰어놀고 탐험하더라도, 만약 바보 같은 행동을 하려 할 때 물리적인 벽이 그들을 잡아줄 것임을 알기에 가능한 일입니다.