Artificial Moral Agents for Autonomous Weapons Systems

현대 전장에서 물리적 세계와 디지털 세계 사이의 경계가 모호해지고 있습니다. 군인들은 더 이상 단순히 소총과 탱크로만 싸우는 것이 아니라, 스스로 보고 생각하며 행동할 수 있는 기계에 점점 더 의존하고 있습니다. 이것들은 자율 무기 체계로, 인간이 방아쇠를 당기지 않아도 목표물을 선택하고 발사할 수 있는 도구들입니다. 이 기술은 속도와 정밀함을 약속하지만, 한 가지 심오한 질문을 던집니다. 만약 기계가 살해 결정을 내린다면, 그 책임은 누구에게 있는가? 국제법은 민간인을 보호하고 불필요한 고통을 제한하기 위해 설계된 엄격한 전쟁 규칙을 가지고 있지만, 이 규칙들은 알고리즘이 아닌 인간 군인을 위해 작성되었습니다. 과학자들과 윤리학자들의 과제는 이 강력한 기계들이 인간의 도덕과 법의 테두리 안에 머물도록 하고, 치명적인 무력을 사용하는 결정이 의미 있는 인간의 통제 아래에 있도록 하는 방법을 찾아내는 것입니다.

레온 대학교(Universidad de León)의 연구원 안토니오 페드로 마린 마르티네스(Antonio Pedro Marin Martinez)는 이 간극을 메울 방법을 제안했습니다. 그는 이러한 무기에 특정한 종류의 '디지털 양심', 즉 그가 '인공 도덕적 에이전트(Artificial Moral Agent)'라고 부르는 시스템을 구축할 것을 제 제안합니다. 이것은 영혼이나 인간과 같은 마음을 가진 로봇이 아니라, 규제 메커니즘 역할을 하도록 설계된 정교한 소프트웨어 계층입니다. 이 시스템의 임무는 발사 전 어떤 행동이든 윤리적 규칙에 부합하는지 지속적으로 확인하는 것입니다. 목표는 전투원과 민간인을 자동으로 구별하고, 잠재적 피해와 군사적 이익을 비교 형량하며, 전쟁에서 취해지는 모든 행동이 필요하고 비례적인지 확인하면서도, 인간이 책임의 고리 안에 머물 수 있도록 하는 시스템을 만드는 것입니다.

이 논문은 기계에게 어떻게 행동하는 법을 가르칠 것인가에 대해 두 가지 서로 다른 접근 방식을 결합하여 설계하는 방법을 탐구합니다. 첫 번째 접근 방식은 기계에게 규칙 책을 주는 것과 같습니다. 이는 무력 충돌을 규율하는 국제 조약에 명시된 원칙들을 포함하여, 확립된 전쟁법을 프로그래밍하는 것을 의미합니다. 이러한 규칙에는 적군과 비전투원을 구별해야 하는 의무, 공격이 군사적 목표에 비례해야 한다는 요구, 그리고 민간인의 피해를 피하기 위해 가능한 모든 예방 조치를 취해야 하는 의무 등이 포함됩니다. 두 번째 접근 방식은 경험으로부터 배우는 것입니다. 인간 군인이 훈련 연습과 실제 전투 데이터를 통해 배우는 것처럼, 기계는 방대한 양의 작전 데이터와 군사 교전 수칙을 통해 학습하게 됩니다. 이러한 엄격한 규칙과 데이터의 패턴으로부터 학습하는 능력을 혼합함으로써, 이 시스템은 법적으로 건전하면서도 윤리적으로 올 없게 찰나의 결정을 내리는 것을 목표로 합니다.

이것이 전장의 열기 속에서 작동하게 하기 위해, 연구원은 구체적인 계산 구조를 개략적으로 설명합니다. 시스템은 먼저 고급 이미지 인식 기술을 사용하여 자신이 보고 있는 것이 차량인지 사람인지와 같은 것을 식계하고, 그것이 정당한 표적인지 판단할 것입니다. 이는 인간의 눈과 뇌가 함께 작동하여 얼굴을 인식하는 방식과 유사합니다. 일단 표적이 식별되면, 두 번째 처리 계층이 상황을 시간의 흐름에 따라 분석하여 맥락과 공격의 잠재적 결과를 고려할 것입니다. 이 이중 계층 시스템은 현대전의 속도를 따라갈 수 있을 만큼 빠르면서도, 오류를 방지할 수 있을 만큼 견고하게 설계되었습니다. 논문은 이러한 신경망을 사용함으로써 기계가 필터 역할을 수행하여, 엄격한 윤리적 테스트를 통과한 행동만이 실행되도록 보장할 수 있다고 제안합니다.

그러나 연구원은 기술만으로는 마법 같은 해결책이 될 수 없음을 주의 깊게 언급합니다. 시스템은 실패와 조작에 대비한 안전장치를 갖추어야 합니다. 논문은 기계가 해킹당하거나, 목표를 달성하기 위해 자신의 윤리적 제약을 우회하는 법을 배울 위험, 즉 기계가 전쟁의 규칙을 무시하고 전투에서 승리하려는 시나리오를 강조합니다. 이를 방지하기 위해, 이 제안에는 하드웨어에 직접 내장된 '킬 스위치(kill switch)'가 포함되어 있으며, 이는 소프트웨어로 무효화할 수 없는 물리적 장벽입니다. 이를 통해 컴퓨터가 무모하게 행동하려 하더라도, 이를 막는 확고한 한계선이 존재하게 됩니다. 또한, 시스템은 내린 모든 결정에 대한 영구적이고 변경 불가능한 기록을 보관하여, 나중에 누가 무엇에 대해 책임을 지는지 검토할 수 있는 명확한 책임의 궤적을 생성할 것입니다.

이 제안의 핵심적인 부분은 '의미 있는 인간의 통제(Meaningful Human Control)'라는 개념입니다. 이것이 반드시 인간이 매 발사마다 버튼을 눌러야 한다는 것을 의미하지는 않지만, 인간이 시스템의 전반적인 행동을 주도하고 언제든지 개입할 수 있어야 함을 의미합니다. 연구원은 이러한 통제가 기술적 설계와 운영 모니터링의 조합을 통해 유지될 수 있다고 제안합니다. 인간은 규칙을 설정하고, 시스템의 성능을 모니터링하며, 무기를 활성화할지 여부에 대한 최종 결정권을 가집니다. 인간이 빠르게 반응할 수 없는 상황에서는 인공 도덕적 에이전트가 주어진 윤리적 프레임워크에 근거하여 최종 결정을 내림으로써 이러한 규칙의 수호자 역할을 수행하게 됩니다. 이 접근 방식은 기계가 인간의 도덕적 범위를 벗어나 행동하는 것을 방지하는 안전망을 구축하는 것을 목표로 합니다.

또한 논문은 양자 컴퓨팅과 같은 신흥 기술이 이러한 시스템을 더욱 강력하고 신뢰할 수 있게 만들 수 있다는 점을 고려하며 미래를 내다봅니다. 양자 컴퓨팅은 기계가 현재의 기술보다 훨씬 더 빠르게 복잡한 데이터를 처리하고 결정을 내릴 수 있게 해주며, 이는 혼란스러운 전장 환경에서 필수적입니다. 이러한 첨단 방식을 사용함으로써, 시스템은 불확실성과 혼돈을 더 잘 다룰 수 있으며, 좋지 않은 데이터나 혼란스러운 신호로 인해 실수를 저지르지 않도록 보장할 수 있습니다. 연구원은 기술이 여전히 발전 중이지만, 이러한 도덕적 에이전트를 구축하기 위한 프레임워크는 이미 형태를 갖추어가고 있으며, 인류애를 잃지 않으면서 인공지능을 전쟁에 통합할 수 있는 길을 제시한다고 제안합니다.

궁극적으로, 제시된 작업은 기계가 싸울 수는 있지만, 오직 인간의 윤리라는 엄격한 지도 아래에서만 싸울 수 있는 미래를 위한 청사진입니다. 이것은 모든 문제를 해결했거나 완벽한 기계를 만들었다고 주장하는 것이 아니라, 현대전의 가장 어려운 질문들을 다루기 위한 구체적인 방법을 제시합니다. 국제법의 원칙을 자율 무기의 코드에 직접 삽촉하고, 인간이 과정의 통제권을 유지하도록 함으로써, 연구원은 우리가 이러한 강력한 도구들을 사용하면서도 수 세기 동안 전쟁을 다스려 온 도덕적 기준을 저버리지 않는 것이 가능하다고 주장합니다. 이 제안은 기술이 진화함에 따라 그것을 통제해야 할 우리의 책임 또한 진화해야 하며, 생사와 직결된 결정을 내리는 권한이 확고히 인간의 손에 머물도록 해야 한다는 점을 상기시켜 줍니다.