The LLM Mirage: Economic Interests and the Subversion of Weaponization Controls

기술 요약: LLM 미라지(The LLM Mirage): 경제적 이해관계와 무기화 통제의 잠식

문제 제기
본 논문은 미국의 AI 보안 정책의 근본적인 실패를 'LLM 미라지(LLM Mirage)'라고 명명하며 진단한다. 이 역학은 국가 안보 리스크가 프런티어 대규모 언어 모델(LLM) 학습에 사용된 연산량(compute)에 따라 선형적으로 규모가 커진다는 지배적인 가설을 의미한다. 저자들은 이 전제가 다음과 같은 두 가지 주요 이유로 결함이 있다고 주장한다:

1. 전략적 오판(Strategic Miscalibration): 적대 세력은 범용적인 하드웨어를 사용하여 작업 특화형 시스템, 전문화된 데이터, 알고리즘 효율성을 통해 무기화 가능한 능력(예: 자율 표적 지정, 사이버 작전, CBRN 설계)을 확보할 수 있다. 연산량 중심의 통제는 고성능의 자원 집약적 모델 주변의 경계만을 강화할 뿐, 낮은 연산량의 벡터들을 개방된 상태로 남겨둔다.
2. 규제 불안정성(Regulatory Destabilization): "AI 무기화"에 대한 확립된 정의가 부재하기 때문에, 정책은 연산량 임계치를 대리 지표로 활용한다. 이러한 임계치는 국내 경제 및 외교적 우선순위 변화에 따라 쉽게 재협상될 수 있으며, 이는 보안 정책을 위협 완화 메커즘이 아닌 산업 경쟁력을 위한 대리전으로 변질시킨다.

방법론 및 분석 프레임워크
저자들은 연산량 중심 거버넌스의 역사적, 지적 계보를 추적하는 비판적 정책 분석 접근법을 채택한다.

• 역사적 분석: 논문은 경험적 스케일링 법칙(예: 모델 크기, 데이터, 연산량 사이의 멱법칙 관계)과 "비터 레슨(Bitter Lesson, 수작업 특징보다 스케일링의 효용성이 높다는 원리)"이 어떻게 연산량을 단순한 연구 입력값에서 국가 안보 레버로 변화시켰는지 추적한다.
• 정책 비판: 저자들은 바이든 대통령의 행정명령 14110호와 상무부의 수출 통제(2022년 및 2025년 "AI 확산 프레임워크")를 포함한 특정 규제 도구들을 분석한다. 이들은 이러한 정책들이 출력 효과가 아닌 입력 지표(FLOPs, 칩 성능)를 통해 '프런티어' 상태를 구체화하고 있음을 보여준다.
• 이론적 재구성: 본 논문은 국제 인도법(IHL)과 현대 갈등의 전략적 논리(특히 투사력 교환비, cost-of-force exchange ratios)에 기반한 새로운 규제 프레임워크를 제안한다. 저자들은 입력 기반 규제에서 효과 기반 규제로 전환할 것을 주장한다.

주요 기여

1. 거버넌스 실패의 진단
논문은 연산량 중심 정책을 "대리 지표에 의한 거버넌스 실패(proxy-driven governance failure)"로 규정한다. 연산량을 실질적인 위험의 대상이 아닌 부분적인 지표로 취급함으로써, 정책은 허위 음성(임계치 미만의 유해한 시스템)과 허위 양성(유해한 용도를 가진 고연산 시스템)을 동시에 만들어낸다. 이러한 접근 방식은 감사 가능한 자산을 통제하는 인프라 기득권층에게 의제 설정 권력을 집중시키는 반면, 거대한 연산 예산과 분리되었을 때 발생하는 'AI 삼각 요소(데이터, 알고 알고리즘, 연산량)' 관련 리스크를 은폐한다.

2. AI 무기화에 대한 제안된 정의
저자들은 연산 규모와 무관한 "의도 및 능력(intent-and-capability)" 기반의 AI 무기화 정의를 제안한다:

• 정의: "물리적, 디지털 또는 심리적 위해를 가하거나, 갈등 상황에서 비대칭적 우위를 창출하거나, 그러한 효과를 실질적으로 촉진하기 위해 인공지능 시스템을 의도적으로 운용하거나 객관적인 즉각적 능력을 보유하는 것."
• 구성 요소:
  • 의도/능력: 개발자의 의도와 상관없이 의도적인 오용과 유해성을 생성할 수 있는 즉각적인 객관적 능력(예: 신종 병원체 설계)을 모두 포착한다.
  • 위해 영역: 물리적 폭력을 넘어 디지털 위해(사이버 작전) 및 심리적 위해(디스인포메이션/딥페이크)까지 확장한다.
  • 비대칭적 우위: 일상적인 상업적 효율성이 아니라 전쟁의 결과를 바꾸거나 투사력 교환비를 변화시키는 능력에 초점을 맞춘다.
  • 실질적 촉진: 직접적으로 행위를 실행하지 않더라도, 위해를 실행하는 데 필요한 기술, 시간 또는 자원을 현저히 감소시키는 시스템을 포함한다.

3. 라이브 벤치마크를 통한 실행력 확보
이 정의를 실행 가능하게 만들기 위해, 저자들은 AI 삼각 요소 전체에 걸친 적대적 라이브 벤치마크 기반의 측정 인프라를 개설한다:

• 벤치마크 설계: 정적인 지식 테스트(예: "모델이 신경 작제를 설명할 수 있는가?")를 넘어 절차적 숙련도 테스트(예: "모델이 합성 경로를 설계할 수 있는가?")로 나아간다.
• 삼각 요소 평가:
  • 하드웨어: 고위험 능력 가속화를 위한 새로운 아키텍처 테스트를 조건으로 하는 라이선싱.
  • 데이터: 리스크 변화를 평가하기 위해 보안 벤치마킹을 위한 독점 데이터셋의 대표적 부분집합 요구.
  • 알고리즘: 공유 자원에서 개발된 최신 알고리즘을 고위험 과업 벤치마크에 대해 지속적으로 평가.
• 제도적 구조: NAIRR(국가 AI 연구 자원)을 활용한 보안 에어갭(air-gapped) 평가 인프라와, 검증된 벤치마크 설계를 위한 NIST AI 표준 및 혁신 센터(CAISI)를 활용하는 하이브리드 모델을 제안한다. 이 구조는 산업 기득권층에 의한 규제 포획을 방지하는 것을 목표로 한다.

결과 및 증거
논문은 연산량 중심의 경계가 이미 우회되고 있다는 증거를 제시한다:

• 알고리즘 효율성: 중국 기업들이 수출 규정을 준수하는 GPU를 사용하여 최적화된 기술로 최첨단 모델(예: Hunyuan-Large, DeepSeek-R1)을 학습시킨 사례는, 정적인 하드웨어 임계치가 능력 발전을 신뢰성 있게 제한하지 못함을 입증한다.
• 작업 특화형 무기화: 우크라이나 군이 자율 표적 지정을 위해 적절한 하드웨어 상에서 소규모 모델(수백만 개의 파라미터)을 배치한 사례와, 해상 자산 표적 지정을 위한 객체 탐지 모델을 학습시키기 위해 특화된 데이터셋(예: Zhousidun)을 생성한 사례 등이 있다. 이러한 시스템은 '프런티어' 연산 임계치보다 훨씬 아래에서 작동하지만 직접적인 군사적 효용을 가진다.
• 정책 변동성: 2025년 확산 프레임워크의 급격한 철회와 이후 수익 공유 arrangement 하에서의 고성능 칩 수출 승인은, '무기화'라는 명확한 타겟의 부재가 어떻게 정책을 산업적 협상 도구로 표류하게 만드는지를 보여준다.

의의 및 주장
본 논문은 "LLM 미라지"가 편리한 행정적 지표(연산량)를 무기화 리스크의 복잡한 현실과 대체함으로써 미국 정책 결정의 발목을 잡고 있다고 주장한다.

• 전략적 의의: 현재의 정책은 AI 생태계의 정점(프런티어 LLM)에 집중함으로써, 실제 무기화될 가능성이 가장 높은 시스템, 즉 공격 비용을 낮추어 투사력 교환 역학을 변화시키는 소규모 특화 시스템을 간과하고 있다.
• 규제적 의의: 제안된 프레임워크는 훈련 입력값이 아닌 입증된 능력과 실제 사용 사례에 기반하여 지속 가능한 보안 정책으로 나아가는 경로를 제공한다. 저자들은 보안 정책이 기술적 비대칭 시대에 유효성을 유지하려면 효과 기반의 국제 인도법 논리에 부합해야 한다고 주장한다.
• 형평성 함의: 저자들은 연산량 중심의 통제가 '결핍을 통한 보안' 모델을 강요하여 글로벌 사우스(Global South)에 기술적 저발전을 강요하는 동시에, 해당 인구들이 직면한 즉각적이고 작업 특화된 무기화 리스크를 해결하는 데 실패한다고 지적한다.

논문은 LLM 미라지에서 벗어나기 위해서는 훈련 입력으로부터 리스크를 추론하는 것이 아니라, 독립적이고 적대적인 평가 인프라를 통해 배포 가능한 성능을 테스트하는 방식으로 전환해야 한다고 결론짓는다.