Minimax Training Closes the Reconnaissance Gap in Learned Network-Robustness Design

우리가 가장 의지하는 것들—전력망, 인터넷, 교통 시스템—이 거대하고 복잡한 실타래의 그물처럼 되어 있는 세상을 상상해 보십시오. 만약 몇 개의 결정적인 실을 뽑아낸다면, 전체가 풀려버려 초기 단절의 여파가 훨씬 멀리까지 미치는 정전이나 교통 체증을 일으킬 수 있습니다. 수십 년 동안 엔지니어들은 이 그물을 어떻게 짜야 매우 튼튼하게 만들 수 있을지 알아내기 위해 노력해 왔습니다. 그들은 새로운 실을 추가하거나 기존의 실을 재배치하기 위해 컴퓨터 프로그램을 사용하며, 네트워크를 파괴 불가능하게 만들기를 희망합니다. 하지만 여기에는 함정이 있습니다. 대부분의 프로그램은 매우 특정한 게임을 수행한다는 것입니다. 그들은 항상 똑같은 방식으로 공격하는, 마치 키 큰 아이만을 골라 때리는 불량배와 같은 단 하나의 예측 가능한 상대에 맞서 연습합니다. 문제는 실제 세상의 문제아들은 더 똑똑하다는 점입니다. 그들은 주변을 살피고 네트워크의 약점을 파악한 뒤, 가장 타격이 큰 곳을 정확히 골라 공격합니다. 만약 네트워크가 키 큰 아이를 때리는 불량배에게만 대응하도록 훈련되었다면, 불량 оборо이가 키 작은 아이를 넘어뜨리기로 마음먹는 순간 네트워크는 즉시 무너질 수 있습니다.

이 이야기는 다음과 같은 단순하지만 강력한 질문을 던지는 새로운 연구에 관한 것입니다. 만약 우리가 네트워크를 단 한 종류의 공격자에 맞서 싸우도록 훈련시키는 대신, 발생 가능한 최악의 의외의 상황에서도 살아남도록 훈련시킨다면 어떻게 될까요? 연구자 하시부자만(Hasibuzzaman)은 단순히 더 강한 네트워크를 만든 것이 아니라, 게임의 규칙을 바꾸었습니다. 그는 진정으로 강인한 네트워크의 비결이 반드시 가장 화려하고 첨단 기술적인 컴퓨터 두뇌(예: 복잡한 신경망)를 사용하여 설계하는 데 있는 것이 아님을 발견했습니다. 대신, 그 마법은 그 두뇌를 '어떻게' 훈련시키느냐에 달려 있었습니다. 컴퓨터에게 항상 소수의 서로 다른 공격자로부터 올 수 있는 최악의 시나리오를 예상하도록 가르침으로써, 그들은 적이 전략을 바꾸더라도 훨씬 더 파괴하기 어려운 네트워크를 만들어냈습니다.

"정찰 격차(Reconnaissance Gap)"와 "미니맥스(Minimax) 해결책"

이 논문은 우리가 강인한 네트워크를 설계할 때 겪는 숨겨진 결함을 다루며, 이를 "정찰 격차"라고 부릅니다. 성을 쌓는 건축가를 상상해 보십시오. 수년 동안 당신은 적이 항상 정문을 공격한다는 가정하에 경비병들을 훈련시켜 왔습니다. 당신의 경비병들은 그 특정 공격을 막아내는 데 매우 능숙해졌습니다. 하지만 현실 세계에서 영리한 적은 단순히 나타나 정문을 치는 것에 그치지 않습니다. 그들은 성 주변을 살피고 나서 이렇게 깨닫습니다. "헤이, 뒷벽은 약한 나무로 되어 있잖아!" 그리고 전술을 바꿔 뒷벽을 공격합니다. 정문 공격에만 훈련된 당신의 경비병들은 무용지물이 되고, 성은 함락됩니다.

저자는 강인한 네트워크를 설계하는 데 사용되는 거의 모든 방법이—고전적인 수학적 기법이든 현대적인 인공지능이든—정확히 이 문제점을 겪고 있다는 것을 발견했습니다. 이들은 고정된 하나의 공격(보통 도시의 가장 번화한 교차로처럼 연결성이 높은 노드를 대상으로 하는 공격)에 맞서 시스템을 훈련시킵니다. 일단 네트워크가 구축되면 겉보기에는 매우 강력해 보입니다. 하지만 실제 적이 설계를 살펴보고 다른 공격(예: 네트워크의 서로 다른 부분을 잇는 브릿지 역할을 하는 가장 "중심적인" 노드들을 겨냥하는 공격)으로 전환하는 즉시, 네트워크의 강점은 증발해 버립니다. 연구에서는 이 현상을 "적응형 퇴화 격차(Adaptive Degradation Gap)"라고 부릅니다. 실험 결과, 이 격차로 인해 공격자가 적응함에 따라 네트워크의 겉보기 강도 중 최대 절반이 사라지는 것으로 나타났습니다.

해결책: 최악을 대비한 훈련

이를 해결하기 위해 연구자는 "미니맥스(minimax)" 훈련 목표를 도입했습니다. 이것은 마치 보스가 매 초마다 움직임을 바꾸는 비디오 게임의 보스전과 같습니다. 컴퓨터가 단 하나의 종류의 펀치를 견디도록 설계되는 대신, 설계 과정의 매 단계마다 가능한 작은 목록(예: 키 큰 아이를 때리기, 키 작은 아이를 넘어뜨리기, 혹은 줄을 끊기 등) 중 가장 최악의 펀치를 견뎌내야 합니다.

연구자는 두 가지 서로 다른 "설계자"를 사용하여 이 아이디어를 테스트했습니다:

1. 첨단 AI: 인간처럼 학습하는 강화 학습 기반의 그래프 신경망(GNN).
2. 고전적 방법: 1980년대부터 존재해 온 훨씬 단순한 수학적 기법인 시뮬레이티드 어닐링(Simulated Annealing).

그들은 어떤 일이 일어나는지 확인하기 위해 168번의 서로 다른 실험(3가지 유형의 네트워크 형태에 걸친 8개의 시드)을 수행했습니다. 결과는 놀랍고도 명확했습니다:

• 격차가 해소됨: 미니맥스 훈련을 사용했을 때, "적응형 퇴화 격차"가 74~81% 줄어들었습니다. 이는 네트워크가 단순히 조금 더 좋아진 것이 아니라, "취약성"을 극복했다는 것을 의미합니다. 적이 전술을 바꾸더라도 네트워크는 무너지지 않고 견딜 수 있었습니다.
• 전반적인 강도 향상: 유연해졌을 뿐만 아니라, 최악의 상황에서도 더 강해졌습니다. 미니맥스로 훈련된 네트워크는 단일 고정 공격으로 훈련된 네트워크보다 더 높은 강인성 점수를 기록했습니다.
• 설계자의 중요성: 가장 흥-미로운 부분은 이것입니다. 첨단 AI와 고전적인 수학적 방법은 미니맥스 훈련을 사용할 때 거의 동일한 성능을 보였습니다. 화려한 AI가 단지 더 "똑똑해서" 승리한 것이 아니었습니다. 연구는 훈련 목표(미니맥스 규칙)가 핵심이었으며, 문제를 해결하는 데 사용된 특정 도구가 주인공이 아니라는 것을 밝혀냈습니다. 단순한 방법을 사용하더라도 최악을 예상하도록 훈련한다면, 단 한 가지만을 예상하도록 훈련된 화려한 방법을 이길 수 있습니다.

이것이 왜 중요한가

이 연구는 이 아이디어가 실제 세계에서도 작동하는지 확인했습니다. 그들은 실제 미국 서부 주 전력망의 일부를 가져와 동일한 테스트를 수행했습니다. 이 실제적이고 복잡한 트리 구조의 인프라에서도 미니맥스 접근 방식은 효과적이었으며, 취약성 격차를 크게 줄였습니다. 또한 특정 공격 목록이 중요한지도 테스트했습니다. 그들은 혜택을 얻기 위해 100가지의 다양한 공격 목록을 가질 필요는 없다는 것을 발견했습니다. 표준적인 "차수(degree)" 공격(가장 번화한 노드를 겨냥하는 공격)과 함께 "매개 중심성(betweenness)" 공격(그룹 간의 다리 역할을 하는 노드들을 겨서하는 공격)을 포함하는 것만으로도 충분히 핵심적인 역할을 수행했습니다.

요약

이 논문은 우리가 지난 수년간 이러한 핵심 네트워크를 설계해 온 방식이 적이 예측 가능하다는 가정 때문에 결함이 있었다고 결론짓습니다. 시스템이 작은 위협 집단으로부터 올 수 있는 최악의 의외의 상황에서 살아남도록 훈련하는 "미니맥스" 사고방식으로 전환함으로써, 우리는 진정으로 강인한 네트워크를 구축할 수 있습니다.

저자는 시뮬레이션과 소규모 실제 샘플에서는 결과가 강력하지만, 이를 수천 개의 노드를 가진 거대 네트워크로 확장하는 것은 여전히 도전 과제라고 주의를 기울였습니다. 왜냐하면 모든 노드의 "매개 중심성"을 계산하는 것은 계산 비용이 많이 들기 때문입니다. 그러나 핵심 메시지는 관점의 전환입니다: 훈련 목표가 도구보다 더 중요하다. 슈퍼컴퓨터 AI를 사용하든 단순한 수학적 기법을 사용하든, 최악을 예상하도록 훈련한다면 실제로 영리한 적을 상대로 생존할 수 있는 네트워크를 얻게 됩니다. "정찰 격차"는 버그가 아니라 우리가 과거에 훈련했던 방식의 특징이었으며, 이 논문은 우리가 그것을 어떻게 메울 수 있는지 정확히 보여줍니다.