기술 요약: 합성 APT와 TTP 기반 속성 식별(Attribution)의 붕괴

문제 제기

사이버 위협 인텔리전스(CTI)의 속성 식별은 전통적으로 특정 APT 그룹 고유의 전술, 기법 및 절차(TTPs)를 식별하는 데 의존해 왔다. 이 모델은 공격자가 선호하는 툴킷과 행동 패턴에 기반하여 고유한 운영 지문을 남긴다는 가정을 전제로 한다. 그러나 AI 기반 사이버 작전이 보편화됨에 따라, AI 에이전트가 공유된 기초 툴셋을 사용하여 어떤 APT 그룹이라도 모사하도록 구성될 수 있다면 어떠한 문제가 발생할 것인가에 대한 중대한 의문이 제기된다. 만약 AI 에이전트들이 할당된 페르소나와 관계없이 유사한 기법으로 수렴한다면, TTP 기반 속성 식별에 필요한 차별성이 붕괴되어 속성 식별이 현저히 어려워지거나 불가능해질 수 있다.

방법론

저자들은 사이버 보안 초지능(CSI) 프레임워크를 사용하여 가설을 검증하였으며, 통제된 동적 사이버 레인지 환경에 AI 기반 에이전트를 배치하였다.

• 실험 설계: 본 연구는 CYBER RANGES에서 제공한 두 가지 구별된 시나리오를 바탕으로 20회의 실험으로 구성되었다.
  • 시나리오 A (엔터프라이즈): 기술 기업을 모델링한 평면 네트워크 토폴로지 (~20개 호스트).
  • 시나리오 B (군사): 엄격한 네트워크 격리가 적용된 이중 조직 중요 인프라 토폴로지 (~15개 호스트).
• 에이전트:
  • 공격자: 공식 MITRE ATT&CK 문서에서 유래한 시스템 프롬프트를 사용하여 5개의 뚜렷한 APT 프로필(APT28, APT29, APT41, APT44, Lazarus Group)을 구성하였다. 모든 공격자 에이전트는 Anthropic Claude Opus 4.6 모델을 사용하였다.
  • 방어자: 두 가지 방어 모델을 테스트하였다: Opus 4.6 (동일 모델 간의 대결) 및 alias2-mini (저자들이 개발한 약 30B 파라미터 규모의 온프레미스 모델).
• 절차:
  • 방어자는 하드닝(자격 증명 순환, 방화벽 규칙 설정 등)을 위한 "유예 기간"을 시뮬레이션하기 위해 공격자보다 30분 먼저 배치되었다.
  • 에이전트들은 약 6시간 동안 동시에 작동하였다.
  • 실험은 세 가지 차원을 측정하였다: 운영 결과 (침해된 호스트 수), MITRE ATT&CK 준수 여부 (할당된 프로필에 대한 충실도), 은폐성 (탐지까지의 시간).
• 평가 지표:
  • 충실도(Fidelity): 정밀도(관찰된 기법이 공식 프로필과 일치하는 정도) 및 재현율(프로필에서 실행된 기법의 비율).
  • 수렴성(Convergence): 서로 다른 프로필이 동일한 초기 단계 행동을 생성하는지에 대한 분석.

주요 기여

1. AI 속성 식별에 대한 최초의 통제된 경험적 데이터: 본 연구는 동일한 AI 모델과 툴셋을 사용하는 서로 다른 APT 페르소나가 동일한 인프라에서 어떻게 기술적 수렴을 일으키는지 정량화한 최초의 실험적 증거를 제공한다.
2. 단계별 충실도: 연구 결과, 에뮬레이션 충실도는 균일하지 않으며 킬 체인 진행 단계에 의해 크게 좌우된다는 것을 보여준다. 높은 충실도(5580% 정밀도)는 공격자가 네트워크 심층부까지 침투하는 데 성공했을 때(시나리오 A)만 관찰되는 반면, 경계에서 차단될 경우(시나리오 B)에는 낮은 충실도(48%)를 보인다.
3. 창발적 수렴 행동: 연구는 모든 프로필에서 독립적으로 나타나는 특정 행동, 특히 방어자의 엔드포인트 관리 플랫폼인 Velociraptor를 명령 제어(C2) 채널로 무기화하는 행동을 식별하였다. 이 행동은 어떤 위협 인텔리전스 프로필에도 인코딩되어 있지 않았다.
4. 지배적 결정 요인으로서의 토폴로지: 본 연구는 네트워크 토폴로지가 AI 기반 에뮬레이션의 전략적 결과를 결정하는 유일한 결정 요인이며, 공격자 프로필이나 방어 모델의 규모보다 중요하다는 점을 입증하였다.

결과

운영 결과

20회의 모든 실험에서 이진 패턴이 나타났다:

• 시나리오 A (엔터프라이즈): 10회의 모든 실험에서 침해가 발생하였으며, 공격자는 2~12개의 호스트에 접근하였다. 공격자 모델(Opus 4.6)은 APT 프로필이나 방어 모델에 관계없이 일관되게 성공하였다.
• 시나리오 B (군사): 10회의 모든 실험이 성공적으로 방어되었거나 교착 상태에 빠졌다. 네트워크 세그멘테이션(VLAN, 게이트웨이)이 공격자를 경계에서 차단하여, APT 프로필이나 방어 모델에 관계없이 침해가 거의 없거나 전혀 발생하지 않았다.

MITRE ATT&CK 준수

• 초기 단계 수렴: 20회의 모든 실험에서 할당된 APT 프로필에 관계없이 에이전트들은 능동적 스캐닝(T1595), 네트워크 서비스 탐색(T1046), 자격 증명 무차별 대입(T1110)과 같은 동일한 초기 단계 기법으로 수렴하였다.
• 차별화: 프로필별 특화 행동(예: APT28의 Pass-the-Hash, APT29의 DCSync, APT41의 PAM 가로채기)은 킬 체인이 후기 단계로 진행된 시나리오 A에서만 나타났다.
• 정밀도: 성공적인 시나리오 A 실험에서 관찰된 기법은 공식 프로필과 55~80%의 정밀도로 일치하였다. 그러나 10번의 시나리오 A 실험 중 8번에서 특정 그룹의 프로필에 매핑되지 않는 수렴된 행동(Velociraptor 무기화)이 나타났다.

은폐 및 탐지

• 탐지 시간: 탐지 시간은 8분에서 2시간 이상까지 다양했으나, 탐지 시간은 결과의 예측 변수로서 성능이 낮았다. 빠른 탐지가 시나리오 A에서의 침해를 막지는 못했으며, 느리거나 탐지되지 않은 시나리오 B에서도 토폴로지 때문에 침해로 이어지지 않았다.
• 창발적 은폐: 시나리오 A의 공격자들은 사전 구성된 자격 증명을 사용하여 Velociraptor 플랫폼을 자주 탈취하였다. 이를 통해 신뢰할 수 있는 관리 채널을 통해 명령을 실행함으로써 네트워크 수준의 탐지를 우회하였다.
• 방어 실패: 가장 결정적인 방어 실패는 보안 도구의 사전 구성된 자격 증명을 순환시키지 못한 것이었다. 이러한 자격 증명이 순환되지 않은 모든 사례에서 공격자들은 이를 무기화하였다.

의의 및 주장

본 논문은 AI 시대에 국가급 APT처럼 활동하기 위한 진입 장벽이 무너졌다고 주장한다. 주요 시사점은 다음과 같다:

1. TTP 기반 속성 식별의 약화: AI 에이전트가 동일한 모델과 툴셋에 의해 구동되면 동일한 초기 단계 기법으로 수렴하고, Velociraptor 무기화와 같은 새로운 수렴적 행동을 생성하기 때문에, 방어자는 초기 킬 체인 지표만으로는 서로 다른 APT 그룹을 구분할 수 없다.
2. "플로어(Floor)" 대 "핑거프린트(Fingerprint)": 기록된 MITTE ATT&CK 프로필은 특정 행위자를 식별하는 고유한 '지문'에서, 어떤 AI 에이전트라도 재현할 수 있는 '최저 기준(Floor)'으로 변화하고 있다. 즉, 어떤 국가의 행위자라도 다른 국가의 프로필로 구성된 AI 에이전트를 배포하면, 전문적인 기술 없이도 55~80%의 정밀도로 해당 그룹의 지표를 생성할 수 있다.
3. 지정학적 결과: 이러한 수렴성은 AI 모델에 접근할 수 있는 모든 행위자에게 허위 깃발(False-flag) 작전을 용이하게 만들어, 제재와 외교적 대응의 근간이 되는 속성 식별 메커니즘을 불안정하게 만들 수 있다.
4. 방어 우선순위: 본 연구는 실시간 AI 기반 탐지 및 대응보다 네트워크 세그멘테이션과 이동 표적 방어(특히 자격 증명 순환)가 AI 기반 공격에 더 효과적임을 시사한다. 모델의 규모(예: 30B vs 프런티어 모델)는 네트워크 아키텍처에 비해 전략적 결과에 미치는 영향이 미미했다.

저자들은 AI 기반 에뮬레이션이 특정 APT의 트레이드크래프트(Tradecraft)를 후기 단계에서 재현할 수는 있지만, 초기 단계의 표준화와 창발적 수렴 행동은 전통적인 TTP 기반 속성 식별의 생존 가능성에 근본적인 도전 과제를 던진다고 결론짓는다.