Cybersecurity Assurance of AI-Generated Scientific Claims in Autonomous Deep-Space Multi-Agent Systems

심우주는 인간의 손이 닿을 수 없고, 인간의 목소리가 전달되는 데 몇 시간 또는 며칠이 걸리는 곳입니다. 우주선이 지구에서 수백만 마일 떨어진 곳으로 표류할 때, 그 기체는 다음에 무엇을 할지 결정하기 위해 미션 컨트롤의 명령을 기다릴 수 없습니다. 스스로 행동해야 합니다. 과거에 이러한 자율성은 단순히 배를 조종하거나 추진기를 점화하는 것을 의미했습니다. 하지만 차세대 우주 탐사는 이 기계들에게 훨씬 더 복란한 일을 요구합니다. 바로 과학자로서 행동하는 것입니다. 이 기계들은 이상한 암석을 보고, 그것이 물을 포함하고 있을지도 모른다고 판단한 다음, 그 발견을 우리에게 보고하도록 설계되고 있습니다. 문제는 만약 기계가 틀렸거나, 혹은 해커가 기계를 속여 물이 없는 곳에 물이 있다고 믿게 만든다면, 우리가 거짓에 기반하여 미래의 임무를 세울 수도 있다는 점입니다. 우리는 인간이 사실을 확인할 수 없는 상황에서도 기계가 들려주는 이야기가 진실인지 알 수 있는 방법이 필요합니다.

이것이 바로 나이지리아를 기반으로 활동하는 독립 연구자 아바 압둘라리 와킬리(Abba Abdullahi Wakili)가 해결하고자 했던 과제입니다. 이 논문은 구체적이고 점점 커지는 위험을 다룹니다. 인공지능이 우주에서의 과학적 발견을 수행하는 역할을 맡게 됨에 따라, 우리는 그 결과를 어떻게 신뢰할 것인가 하는 문제입니다. 저자는 우주 임무를 위한 디지털 면역 체계 역할을 하도록 설계된 새로운 시스템을 제안합니다. 단일 우주선이 진실을 말하기를 기다리는 대신, 이 시스템은 모든 과학적 주장을 집단에 의해 검증되어야 하는 증거의 패키지로 취급합니다. 이 시스템은 데이터의 이력을 확인하고, 기계가 과거에 얼마나 신뢰할 수 있었는지를 측정하며, 서로 다른 우주선 간에 정보를 대조하는 세 가지 기존 개념을 결합하여 거짓, 실수, 또는 해킹된 데이터를 탐지하는 방법을 만들어냅니다.

제안의 핵심은 레이어드 아키텍처(layered architecture), 즉 모든 정보가 사실로 받아들여지기 전에 통과해야 하는 일련의 단계입니다. 먼저, 우주선은 카메라나 화학 탐지기와 같은 센서로부터 원시 데이터를 수집합니다. 특화된 관리자가 방사선으로 인해 센서의 보정이 어긋나는 것과 같은 데이터 손상이나 오류의 징후를 확인합니다. 그런 다음 우주선은 인공지능을 사용하여 해당 원시 데이터를 "광물 X가 존재한다"와 같은 과학적 주장으로 변ы합니다. 결정적으로, 기계는 단지 결론만을 보내지 않습니다. 기계는 '신뢰 여권(trust passport)'을 함께 보냅니다. 이 여권은 원래의 데이터, 결론에 도달하기 위해 컴퓨터가 거친 단계, 확신도 측정치, 그리고 데이터가 조작되지 않았음을 증명하는 디지털 서명을 포함하는 상세한 기록입니다.

이 여권들이 발송되면, 우주선들이 서로 대화하는 검증 단계에 진입합니다. 각자 다른 손전등을 들고 있는 어두운 동굴 속 탐험가 무리를 상상해 보십시오. 만약 한 사람이 물웅덩이를 보았다고 말한다면, 시스템은 그 말을 그대로 믿지 않습니다. 시스템은 다른 사람들에게 무엇이 보이는지 묻습니다. 만약 다른 탐험가들이 마른 바위가 보인다고 한다면, 시스템은 충돌을 감지합니다. 그런 다음 시스템은 물을 보았다고 주장한 사람의 이력을 더 깊이 조사합니다. 이 탐험가는 과거에 신뢰할 수 있었는가? 그의 손전등은 제대로 작동하고 있는가? 시스템은 이러한 요소들을 종합적으로 무게를 둡니다. 만약 우주선이 오류 이력이 있거나, 타당한 설명 없이 다른 데이터와 모순된다면, 그 주장은 등급이 낮아지거나 거부됩니다. 이 과정은 인간의 개입을 기다리지 않고 자동으로 일어나며, 이를 통해 함대는 무엇이 실제이고 무엇이 결함이나 속임수인지 합의할 수 있습니다.

이 아이디어가 작동하는지 테스트하기 위해, 연구자는 심우주 임 mission의 컴퓨터 시뮬레이션을 구축했습니다. 시뮬레이션은 행성을 탐사하는 6개에서 25개의 자율 탐사선 함대를 생성했습니다. 탐사선들은 물의 존재나 특정 광물과 같은 세 가지 다른 현상을 찾도록 프로그래밍되었습니다. 테스트를 현실적으로 만들기 위해, 연구자는 혼합된 구성 요소 속에 '악의적 행위자(bad actor)'를 투입했습니다. 일부 시나리오에서는 대다수의 탐사선이 침해되었는데, 즉 거짓말을 하도록 프로그래밍되었습니다. 이들은 존재하는 것처럼 보이는 것을 보고하며 거짓 보고를 보내도록 조정되었으며, 높은 확신 점수를 조작하여 자신들의 거짓말을 설득력 있게 보이게 만들었습니다. 또한 시뮬레이션에는 시스템의 탐지 메커니즘 아래에서 머물도록 거짓말하는 행동을 조절할 수 있는 스마트한 적대적 존재가 포함되었습니다.

시뮬레이션 결과, 저자가 TRUSTPASS라고 부르는 이 제안된 시스템은 현재 더 단순한 시스템에서 사용되는 방식보다 진실을 찾는 데 훨씬 더 뛰어난 성능을 보였습니다. 연구진이 새로운 시스템을 집단이 단순히 다수결로 결정하는 기본 방식과 비교했을 때, 새로운 시스템이 더 정확했습니다. 가장 어려운 테스트, 즉 함대에 6개의 탐사선만 있고 조직적인 거짓말쟁이 집단에 직면한 상황에서, 새로운 시스템은 88%의 확률로 진실을 정확히 식별해 낸 반면, 단순 다수결 방식은 78%의 정확도만을 보였습니다. 함대가 커질수록 새로운 시스템의 이점은 작아졌지만, 모든 테스트에서 가장 정확한 방법으로 남았습니다. 이 시스템은 특히 집단이 가짜 합의를 만들어내려는 시도를 포착하는 데 탁격적이었는데, 이는 단순한 투표 시스템을 쉽게 속일 수 있는 전술입니다.

연구는 또한 이 시스템을 운영하는 비용에 대해서도 살펴보았습니다. 모든 우주선이 단순한 메시지 대신 상세한 '여권'을 보내야 하기 때문에 전송되는 데이터의 양이 더 많습니다. 시뮬레이션 결과, 새로운 시스템은 가장 단순한 방법과 비교했을 때 약 두 배의 데이터 전송량과 거의 두 배의 컴퓨팅 파워를 요구했습니다. 그러나 저자는 이 추가적인 비용이 안전을 위해 지불해야 할 정당한 대가라고 주장합니다. 단 하나의 잘못된 사실이 임무 실패나 예산 낭비로 이어질 수 있는 심우주의 고요함 속에서는, 몇 킬로바이트의 데이터를 아끼는 것보다 진실을 검증하는 능력이 더 가치 있기 때문입니다.

이러한 결과는 실제 우주선에서의 비행 테스트가 아닌 컴퓨터 시뮬레이션으로부터 나온 것임을 유의해야 합니다. 센서와 해커를 모델링하는 데 사용된 모델은 현실의 단순화된 버전입니다. 저자는 실제 우주 임무가 여러 시스템에 동시에 영향을 미치는 방사선 피해와 같이 더 복형한 문제에 직면해 있으며, 시뮬레이션이 이를 완전히 포착하지 못했음을 인정합니다. 이 논문은 이 문제가 영원히 해결되었다고 주장하는 것이 아닙니다. 대신, 이것은 청사진이자 개념 증명(proof of concept)을 제공합니다. 이는 신뢰 점수, 상세한 데이터 이력, 그리고 기계 간의 교차 검증을 결합함으로써, 인간이 지켜보고 있지 않을 때도 과학적 주장의 신뢰성을 평가할 수 있는 시스템을 구축하는 것이 가능하다는 것을 보여줍니다.

이 연구는 우주 탐사가 단순히 별을 바라보는 기계를 보내는 것이 아니라, 서로 생각하고, 논쟁하며, 서로를 검증할 수 있는 기계를 보내는 미래를 시사합니다. 인공지능이 스스로 발견을 수행할 수 있을 만큼 유능해짐에 따라, 눈부신 통찰력과 정교한 환각을 구분할 수 있는 시스템의 필요성은 매우 중요해집니다. 이 연구는 그러한 미래를 위한 프레임워크를 제공하며, 가장 고립되고 위험한 환경에서도 기계 집단이 생산하는 과학이 실재함을 보장할 수 있음을 보여줍니다.