우리는 보통 "AI 가 왔으니 세상이 바뀐다"거나 "AI 가 위험하다"라고 말합니다. 하지만 저자들은 **"AI 는 하나의 물건이 아니라, 전기나 자동차 엔진처럼 다양한 곳에 쓰이는 '범용 기술'이다"**라고 말합니다.
비유: "자동차"라고만 말하면 위험할까요? 안전할까요?
경차는 도시에서 안전하게 다니지만,
F1 레이싱카는 속도가 너무 빨라 위험할 수 있고,
구급차는 생명을 구하는 데 쓰입니다.
이 세 가지를 모두 "자동차"라고만 묶어서 "자동차는 위험하다"라고 규제하면, 구급차가 길을 못 가게 되는 어이없는 일이 생깁니다. AI 도 마찬가지입니다. 어떤 AI 는 구급차처럼 도움을 주고, 어떤 AI 는 F1 레이싱카처럼 통제 불능이 될 수도 있습니다.
🎖️ 군대에서 쓰이는 AI 들의 종류와 문제점 (논문의 핵심 내용)
저자들은 군대에서 쓰이는 AI 를 크게 5 가지 부류로 나누어 설명합니다. 각각의 역할과 위험이 완전히 다릅니다.
1. 🧠 "똑똑한 비서" (결정 지원 시스템)
역할: 장군이나 지휘관에게 정보를 정리해 주거나, "어디에 적이 있을까?"라고 추천해 주는 역할입니다. (예: 팔란티어사의 메타콘스텔레이션)
문제점: 비서가 너무 똑똑해서 지휘관이 비서의 말만 믿고 판단을 멈출 수 있습니다. (자동화 편향)
비유: 요리사가 레시피를 알려주는 비서가 있는데, 비서가 "이 재료를 넣으면 맛있어요"라고 말해서 요리사가 재료를 안 보고 비서 말만 믿고 넣는 경우입니다.
2. 🎯 "목표물 찾는 사냥꾼" (표적 추천 시스템)
역할: "저 사람이 적군일 확률이 90% 입니다"라고 특정 인물을 지목합니다. (예: 이스라엘의 '라벤더' 시스템)
문제점: AI 가 실수해서 innocent(무고한) 사람을 적으로 오인하면, 그 사람이 죽을 수도 있습니다.
비유: 사냥터에서 AI 가 "저기 있는 사람, 사냥감일 확률 99%!"라고 외칩니다. 하지만 AI 가 실수로 무고한 산책객을 사냥감으로 오인하면, 인간이 "잠깐, 저건 사람인데?"라고 말릴 시간이 없을 수도 있습니다.
3. 🤖 "스스로 싸우는 로봇" (자율 무기 시스템)
역할: 인간이 조종하지 않아도 스스로 적을 찾아서 공격합니다.
제한형: 통신이 끊기면 스스로 마지막까지 싸우는 미사일 (예: '마지막 1 마일' 자율성).
완전 자율형: 인간 지휘관 없이 스스로 작전을 짜고 싸우는 드론 군단 (스웜).
문제점: AI 가 예측 불가능한 행동을 하거나, 인간이 통제할 수 없는 속도로 싸우게 됩니다.
비유:
제한형: 통신이 끊긴 택시가 목적지까지 스스로 가지만, 길에서 갑자기 멈출 수도 있습니다.
완전 자율형: 수천 마리의 벌이 스스로 무리를 지어 공격하되, 벌들이 무슨 생각으로 움직이는지 인간이 전혀 알 수 없는 상황입니다.
4. 🛠️ "물류와 유지보수 전문가" (작전 지원)
역할: 비행기 엔진이 언제 고장 날지 예측하거나, 연료 보급 경로를 최적화합니다.
문제점: AI 가 과거 데이터만 보고 학습했기 때문에, 전쟁터에서 예상치 못한 새로운 상황 (예: 적의 새로운 전술) 이 나오면 대처를 못 할 수 있습니다.
비유: 요리사가 과거의 레시피만 보고 요리를 하는데, 갑자기 새로운 식재료가 들어오거나 불이 세게 붙으면 당황해서 요리를 망칩니다.
5. 📂 "관료주의 정리꾼" (군대 행정)
역할: 방대한 규정 문서를 검색하거나, 이메일을 정리해 줍니다. (예: GAMECHANGER, Ask Sage)
문제점: AI 가 거짓말 (할루시네이션) 을 하거나, 중요한 법적 용어를 잘못 해석하면 군대 전체가 법을 어길 수 있습니다.
비유: 아주 똑똑한 비서가 서류를 정리해 주는데, 중요한 "금지"라는 단어를 "허용"으로 잘못 읽어서 군대가 실수로 전쟁을 일으킬 수도 있습니다.
💡 결론: 왜 "AI"라는 말을 버려야 할까요?
이 논문의 핵심 결론은 매우 간단합니다.
"AI 는 하나의 괴물이 아닙니다. 수많은 도구들의 집합체입니다."
현재의 문제: 우리는 "AI 는 위험하다"라고 막연하게 말하며, 모든 AI 를 다 같이 규제하거나 비난합니다.
저자의 주장: 우리는 **"어떤 AI 가, 어떤 목적으로, 어떻게 쓰이는지"**를 구체적으로 말해야 합니다.
"문서 정리용 AI"와 "자살 폭탄 드론용 AI"는 완전히 다른 문제입니다.
둘을 다 "AI"라고 묶어서 규제하면, 유용한 기술은 죽고, 위험한 기술은 구멍을 뚫고 지나갈 수 있습니다.
한 줄 요약:
"AI 가 무서워요"라고 막연하게 외치지 말고, **"그게 어떤 AI 인가요? 어떤 일을 하려고 쓰나요?"**라고 구체적으로 물어봐야 진짜 안전하고 현명한 해결책을 찾을 수 있습니다.
이 논문은 우리가 AI 에 대해 더 정확하고 세밀하게 생각할 것을 요청하며, 막연한 공포나 낙관론을 버리고 구체적인 기술과 그 적용 분야를 하나씩 살펴봐야 한다고 강조합니다.
1. 문제 제기 (Problem)
용어의 모호성과 과도한 일반화: 현재 학술계, 산업계, 정부에서 'AI'는 매우 광범위한 시스템들을 포괄하는 단일 용어로 사용되고 있습니다. 그러나 AI 는 철도나 항공기와 같은 단일 기술이 아니라, 전기나 내연기관과 같은 범용 가능 기술 (General-purpose enabling technology) 입니다.
논의의 비효율성: 'AI'라는 거시적인 용어로 모든 시스템을 통칭할 때, 특정 시스템의 고유한 한계, 위험, 적용 사례가 무시됩니다. 이는 윤리적 비판이나 규제 논의가 실제 시스템의 기술적 특성과 무관하게 이루어지게 하여, 효과적인 정책 수립과 기술 개발을 저해합니다.
군사 분야의 복잡성: 군사 분야는 지능형 의사결정 지원, 자율 무기, 로지스틱스, 행정 업무 등 AI 가 적용되는 방식이 천차만별임에도 불구하고, 이를 모두 '군사 AI'라는 하나의 덩어리로 취급하고 있습니다.
2. 방법론 (Methodology)
사례 연구 및 분류학적 접근: 저자들은 군사 분야를 구체적인 사례 연구 (Case Study) 로 선정했습니다.
비공식 열거적 분류 (Loose Enumerative Taxonomy): 엄격한 계층적 분류 체계를 만드는 대신, 군사 분야에서 현재 사용 중이거나 개발 중인 다양한 AI 시스템 유형을 '비공식 열거적'으로 분류하고 각 유형별 기술적 특성과 도전을 분석했습니다.
구체적 시스템 분석: Palantir, Clearview AI, Lavender, Gospel, Boeing MQ-28, Helsing Centaur 등 실제 존재하거나 보도된 구체적인 시스템 사례를 인용하여 각 시스템이 사용하는 AI 기술 (머신러닝, NLP, 컴퓨터 비전, 강화학습 등) 과 그 적용 맥락을 분석했습니다.
기술적/윤리적/법적 다각도 검토: 각 시스템 유형에 대해 기술적 신뢰성, 편향성, 예측 불가능성, 윤리적 책임, 국제법 준수 여부 등을 종합적으로 고찰했습니다.
3. 주요 기여 (Key Contributions)
논문은 군사 AI 를 다음과 같은 5 가지 주요 범주로 세분화하여 각 범주의 고유한 특성과 도전을 제시합니다.
1) 의사결정 지원 (Decision Support - AI-DSS)
지능 처리 (Intelligence Processing): Palantir MetaConstellation(다중 센서 데이터 융합), Clearview AI(얼굴 인식), Primer(오디오 분석) 등.