Sense, Sense-making and the Changing Character of Warfare

전쟁은 언제나 의지의 대결이었으며, 인간 지도자들이 적보다 더 뛰어나게 생각하고 기동하려 노력하는 충돌이었다. 수 세기 동안 전장의 안개(fog of war)는 혼란, 공포, 그리고 결정을 어렵게 만드는 정보의 부재가 뒤섞인 채 끊임없이 동행해 왔다. 군인과 지휘관들은 자신의 눈, 귀, 그리고 판단력에 의지하여 그 안개를 뚫고 무엇이 실재이고 무엇이 속임수인지를 결정해 왔다. 그러나 21세기에 들어서며, 조용한 혁명이 군대가 전장을 바라보는 방식을 바꾸고 있다. 인간의 감각에만 의존하는 대신, 현대 군대는 보고 이해하는 임무를 기계에 넘겨주고 있다. 조밀한 센서 네트워크, 위성, 그리고 인공지능은 이제 인간이 따라잡을 수 없는 속도로 데이터를 수집하며, 방대한 양의 정보를 분류하여 지휘관에게 무엇을 언제 쏠 것인지를 알려준다. 이러한 변화는 단순히 결정을 더 빠르게 내리는 것에 관한 것이 아니라, 전투의 한복판에서 무엇이 진실이라고 간주될지를 결정하는 주체가 누구 혹은 무엇인가를 바꾸는 것에 관한 것이다.

바스 대학교의 연구원인 데이비드 갈브레스(David Galath)의 새로운 논문은 우리가 기계에게 해석이라는 무거운 짐을 맡길 때 어떤 일이 벌어지는지를 탐구한다. 이 연구는 근본적인 질문을 던진다. 만약 컴퓨터가 군인이 보는 것을 결정하고, 그 컴퓨터가 실수를 한다면, 책임은 누구에게 있는가? 논문은 이러한 디지털 시스템이 더 좋은 소총이나 더 빠른 트럭 같은 단순한 도구가 아니라고 주장한다. 대신, 이들은 게임의 보이지 않는 규칙처럼 작용하여 무엇이 가능하고, 무엇이 가시적이며, 누가 권력을 갖는지를 형성한다. 갈브레스는 이러한 시스템이 실패할 때, 그것들이 현대전의 숨겨진 정치적 구조를 드러낸다고 제안한다. 즉, 기계 자체가 단순히 수동적인 조력자가 아니라 갈등의 능동적인 참여자가 되었음을 보여준다는 것이다.

이를 이해하기 위해서는 먼저 '의미 형성(sense-making)'이라는 개념이 어떻게 변했는지 살펴보아야 한다. 과거에는 레이더 운영자가 화면을 보고 점(blip)을 발견하면, 자신의 훈련을 바탕으로 그것이 아군 비행기인지 적의 미사일인지 결정했다. 오늘날 인공지능 시스템은 이 분류 작업을 자동으로 수행한다. 이들은 방대한 양의 데이터를 스캔하고, 패턴을 식별하며, 인간의 검토를 위해 표적을 표시한다. 이러한 정신적 작업의 위임은 기계가 인간 지휘관이 경험하는 현실을 정의하게 되었음을 의미한다. 만약 기계가 민간인 차량을 군용 트럭으로 판단한다면, 인간 지휘관은 그것을 트럭으로 보게 된다. 논문은 이것이 새로운 종류의 위험을 초래한다고 지적한다. 기계는 무결하지 않다. 전자적 간섭에 의해 속을 수도 있고, 잘못된 데이터로 학습되었기 때문에 실수를 할 수도 있다. 기계가 실패할 때, 그 결과는 단순한 기술적 결함이 아니라 권위의 위기가 된다.

갈브레스는 이러한 변화를 설명하기 위해 '기계적 헌정주의(mechanical constitutionalism)'라는 이론을 인용한다. 이 개념은 기계가 중립적인 물체가 아니라 사회의 법적, 정치적 질서 속에 깊이 엮여 있다는 것을 시사한다. 헌법이 정부가 작동하는 규칙을 정하는 것처럼, 디지털 네트워크는 전쟁이 치러지는 규칙을 정한다. 이들은 어떤 정보가 통과할지, 정보가 얼마나 빨리 이동할지, 그리고 누가 그것을 볼 수 있는지를 결정한다. 이러한 네트워크가 원활하게 작동할 때 그것들은 보이지 않는다. 그러나 네트워크가 깨질 때—신호가 차단되거나, 컴퓨터가 해킹당하거나, 알고리즘이 표적을 오분류할 때—숨겨진 규칙들이 드러난다. 시스템의 붕괴는 의사결정의 권한이 인간의 손에서 코드로 이전되었음을 보여주는 결정적인 순간이다. 이는 매우 중요한데, 국가의 전쟁 수행 능력이 전적으로 이러한 디지털 인프라의 건전성에 달려 있음을 보여주기 때문이다. 만약 네트워크가 붕괴하면, 국가의 인지 및 행동 능력도 함께 붕괴한다.

논문은 실제 사례들을 검토하여 이것이 어떻게 전개되는지 보여준다. 최근 우크라이나와 가자 지구의 갈등에서 양측 모두 표적을 찾아내고 드론을 유도하기 위해 인공지능을 사용했다. 이러한 시스템은 인간 팀보다 훨씬 빠르게 이미지와 데이터를 처리할 수 있다. 그러나 이러한 속도에는 대가가 따른다. 논문은 전자전(electronic warfare)에 의해 이러한 시스템이 교란되거나 허위 신호에 속을 때, 전체 지휘 체계가 혼란에 빠질 수 있다고 언급한다. 레이더가 가짜 표적들로 넘쳐나게 되면 운영자는 무엇이 실재인지 알 수 없게 된다. 알고리즘이 무해한 물체를 위협으로 오인하여 일어나지 않았어야 할 타격을 유도할 수도 있다. 이것들은 단순한 오류가 아니라, 전장의 '헌법'이 적에 의해 다시 쓰여지는 순간들이다. 상대방의 센서를 눈멀게 하거나 데이터를 오염시킬 수 있는 쪽은 더 많은 탱크를 파괴함으로써가 아니라, 적이 주변에서 무슨 일이 일어나고 있는지 이해하지 못하게 만듦으로써 거대한 우위를 점하게 된다.

이러한 변혁은 19세기 군사 이론가 카를 폰 클라우제비츠(Carl von Clausewitz)의 고전적 아이디어, 특히 전쟁에 대한 재고를 강요한다. 클라우제비츠는 전쟁을 두 대립하는 의지 사이의 '결투'로 묘사했으며, 현실 세계의 저항과 불확실성인 '마찰(friction)'이 상황을 어렵게 만든다고 했다. 갈브레스는 디지털 전쟁이 이 마찰의 본질을 바꾸었다고 주장한다. 이제 마찰은 단지 인간의 피로나 악천후에 관한 것이 아니다. 이제 마찰은 기계 자체로부터 발생한다. 컴퓨터는 소프트웨어 버그 때문에 주저할 수도 있고, 인간이 멈추기에는 너무 빠르게 행동할 수도 있다. '전장의 안개'는 더 이상 정보의 부족만을 의미하지 않는다. 그것은 정보의 과부하, 즉 지휘관이 기계의 데이터에 너무 확신한 나머지 오류를 발견했을 때는 이미 너무 늦어버리는 상황을 의미할 수 있다. 결투는 더 이상 두 장군 사이의 대결이 아니라, 서로에게 자신만의 현실을 강요하려는 두 종류의 센서와 알고리즘 사이의 대결이다.

또한 이 연구는 커지는 책임의 문제를 강조한다. 전통적인 전쟁에서는 군인이 실수를 하면 지휘 계통이 명확하다. 그러나 인공지능 시스템이 표적을 오인했을 때, 누구를 탓해야 하는지는 매우 모호해진다. 코드를 작성한 엔지니어인가? 시스템을 신뢰한 지휘관인가? 아니면 기계 자체인가? 논문은 이러한 모호함이 위험하다고 제示한다. 이는 아무도 완전히 통제하고 있다고 느끼지 못하면서도, 모두가 생사가 걸린 결정을 내리기 위해 기계에 의존하는 간극을 만든다. 이는 시스템이 인간의 개입이 불가능할 정도로 빠르게 작동할 때 특히 두드러진다. 만약 기계가 찰나의 순간에 무기를 발사하기로 결정한다면, 인간이 그 결정에 이의를 제기할 시간은 없다. 살해할 권한이 인간과 같은 방식으로 도덕적 책임을 질 수 없는 프로세스로 위임된 것이다.

결국, 논문은 이러한 디지털 시스템을 단순히 전쟁을 효율적으로 만드는 도구로 취급해서는 안 된다고 결론짓는다. 이들은 전쟁의 성격 자체를 재편하며, 전쟁이 어떻게 인식되고 조직되며 통치되는지를 바꾸고 있다. 저자는 우리가 기계를 단순한 조력자로 생각하는 것을 멈추고, 전장을 구조화하는 정치적 행위자로 보기 시작해야 한다고 주장한다. 기계는 무엇을 볼 수 있는지, 무엇을 알 수 있는지, 그리고 무엇을 할 수 있는지를 정의한다. 군대가 인공지능과 자동화된 네트워크에 점점 더 의존함에 따라, 과제는 단순히 더 나은 무기를 만드는 것이 아닐 것이다. 그것은 기계가 점점 더 많은 '보는 행위'를 수행하는 세상에서 인간의 판단력과 통제력을 어떻게 유지할 것인가에 관한 것이다. 전쟁의 미래는 우리가 이러한 새로운 헌법적 규칙을 이해하고, 기계가 더 많은 것을 보고 있는 와중에도 생사를 결정하는 권한이 인간의 손에 머물도록 보장할 수 있는지에 달려 있다.