🤖 AI

Advanced Persistent Threats (APT) Attribution Using Deep Reinforcement Learning

본 논문은 반복적인 구조 및 알고리즘 개선을 통해 정확도를 7%에서 거의 98%까지 극적으로 향상시킴으로써 악성코드 활동을 인식하고 할당하는 강력한 능력을 입증한 지능형 지속 위협(APT) 추적을 위한 심층 강화 학습 모델을 제시한다.

원저자: Animesh Singh Basnet, Mohamed Chahine Ghanem, Dipo Dunsin, Wiktor Sowinski-Mydlarz

게시일 2026-08-07

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Animesh Singh Basnet, Mohamed Chahine Ghanem, Dipo Dunsin, Wiktor Sowinski-Mydlarz

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

디지털 세상을 모두가 연결된 거대하고 북적이는 도시라고 상상해 보세요. 이 도시에는 '해커'라고 불리는 보이지 않는 도둑들이 있습니다. 때때로 이 도둑들은 그저 열려 있는 창문을 찾는 기회주의적인 절도범일 뿐입니다. 하지만 '지능형 지속 위협(APT)'이라는 존재들도 있습니다. 이들을 숙련된 스파이나 고도로 조직화된 범죄 조직이라고 생각해보세요. 이들은 단순히 침입해서 도망치는 것이 아니라, 몰래 숨어들어 몇 년 동안 벽 속에 숨어 지내며 비밀을 천천히 훔치고, 어떤 흔적도 남기지 않습니다. 이 스파이들이 누구인지—라이벌 국가인지, 범죄 집단인지, 혹은 특정 해커 그룹인지—파악하는 것을 '속성 규명(attribution)'이라고 부릅니다. 이는 마치 방 안을 움직이는 방식만으로 유령의 정체를 밝혀내려는 것과 같습니다. 이들은 가면을 쓰거나 비밀 통로를 이용하는 등의 속임수를 써서 흔적을 숨기기 때문에 이는 매우 어려운 일입니다.

이 미스터리를 해결하기 위해, 과학자들은 '심층 강화 학습(Deep Reinforcement Learning, DRL)'이라는 특별한 종류의 컴퓨터 두뇌를 사용하기 시작했습니다. DRL를 반복해서 게임을 플레이하며 배우는 비디오 게임 캐릭터라고 생각할 수 있습니다. 엄격한 규칙서를 따르기만 하는 일반적인 컴퓨터 프로그램과 달리, 이 캐릭터는 다양한 움직임을 시도하고, 잘했을 때 점수(보상)를 받으며, 자신의 실수로부터 배웁니다. 시간이 흐르면서 이 캐릭터는 게임에 매우 능숙해져서 인간이 놓칠 수 있는 패턴을 포착하게 됩니다. 큰 질문은 이것입니다. 우리는 이 디지털 탐정에게 바이러스의 무질서하고 숨겨진 행동을 보고 "아하! 이것은 분명히 X 그룹이 한 짓이다!"라고 말할 수 있도록 가르칠 수 있을까요?

이 논문은 그 아이디어를 가져와 실제로 테스트합니다. 연구진은 12개의 서로 다른 APT 그룹에서 추출한 3,500개 이상의 악성코드(malware) 샘로 구성된 거대한 디지털 '지문' 모음을 수집했습니다. 그들은 단순히 파일의 외형만을 본 것이 아니라, 안전하고 격리된 샌드박스(바이러스를 위한 가상 감옥) 안에서 파일이 실제로 무엇을 하는지 관찰했습니다. 그들은 Cuckoo Sandbox라는 도구를 사용하여 바이러스가 어떻게 움직이고, 파일을 변경하며, 다른 컴퓨터와 통신하는지를 지켜보았습니다.

그런 다음, 연구진은 이 DRL '탐정'이 이러한 행동들을 분석하도록 훈련시켰습니다. 그들은 AI가 각 바이러스를 만든 12개 그룹 중 하나를 맞히는 게임을 설정했습니다. 만약 맞히면 점수를 얻고, 틀리면 점수를 잃는 방식입니다. AI는 이 게임을 수천 번 플레이하며 각 그룹의 미묘하고 독특한 습관을 포착하는 법을 배웠습니다. 결과는 인상적이었습니다. DRL 모델은 본 적 없는 새로운 바이러스에 대해 89.27%의 정확도로 정답을 맞혔습니다.

이 새로운 탐정이 실제로 기존의 방식들보다 더 나은지 확인하기 위해, 연구진은 다섯 가지 표준 컴퓨터 방식(의사결정 나무 및 서포트 벡터 분류기와 같은 방식)과 비교했습니다. 기존 방식들은 71%에서 82% 사이의 정확도를 보이며 괜찮은 성적을 냈지만, DRL 탐정은 89.27%에 도달하며 그들을 명확히 압도했습니다. 이 논문은 이 접근 방식이 기존의 규칙들이 실패하기 쉬운, 까다롭고 변화무쌍한 사이버 공격의 특성을 다루는 데 특히 유용하다고 제안합니다.

하지만 저자들은 이것을 마법의 해결책이라고 부르는 데 주의를 기울입니다. 그들은 이 초지능형 AI가 자원을 많이 소모한다는 점을 지적합니다. 즉, 효과적으로 학습하기 위해서는 많은 컴퓨팅 파워와 방대한 양의 데이터가 필요합니다. 또한, 모델이 입력된 데이터의 패턴을 포착하는 데는 뛰어나지만 현실 세계는 복잡하다는 점도 언급합니다. 결론적으로, 이 논문은 DRL이 보안 분야에서 사용할 AI의 윤리적 문제와 효율성을 개선해야 함에도 불구하고, 디지털 스파이를 잡는 강력한 새로운 도구임을 시사합니다. 이는 악당들의 행동으로부터 AI가 학습하게 함으로써, 우리가 그들의 정체를 이전보다 더 빠르고 정확하게 밝혀낼 수 있을지도 모른다는 유망한 진전을 보여줍니다.

기술 요약: 심층 강화 학습(Deep Reinforcement Learning)을 이용한 지능형 지속 위협(APT) 공격 주체 식별(Attribution)

문제 정의
본 논문은 특정 지능형 지속 위협(APT) 그룹에 악성코드를 귀속시키는 데 있어 발생하는 중대한 과제를 다룹니다. 일반적인 기회주의적 사이버 공격과 달리, APT는 정교하고 장기적인 작전으로, 국가의 지원을 받는 경우가 많으며, 탐지를 피하기 위해 복잡한 회피 기술, 제로 데이 익스플로잇(zero-day exploits), 그리고 복잡한 행동 패턴을 활용합니다. 전통적인 귀속 방법은 수동적인 특징 공학(feature engineering)과 정적 시그니처에 크게 의존하며, 이는 현대적 위협의 동적인 특성, 난독화 전술, 그리고 명확한 진화적 연결 고리가 없는 악성코드 패밀리에 대응하는 데 한계가 있습니다. 저자들은 공격자를 정확히 식별하여 표적화된 방어 전략을 개발하고 책임 소재를 규명하는 데 필수적인, 행동 패턴을 분석할 수 있는 적응형 시스템의 필요성을 제기합니다.

방법론
본 연구는 악성코드 샘플을 12개의 서로 다른 APT 그룹 중 하나로 귀속시키기 위해 심층 강화 학습(DRL)을 활용하는 새로운 프레임워크를 제안합니다. 방법론은 다음과 같은 구조화된 실험 설계를 따릅니다:

데이터 수집 및 준비:
- 데이터셋: 본 연구는 5개국(중국, 러시아, 북한, 미국, 파키스탄)에서 유래한 12개 APT 그룹(예: APT1, APT28, Equation Group, Gorgon Group)으로 분류된 3,500개 이상의 악성코드 샘플 데이터셋을 활용합니다.
- 출처: 행동 데이터는 Cuckoo Sandbox(파일 작업, 레지스트리 변경, 네트워크 트래픽의 동적 분석용)와 VirusTotal(집계된 안티바이러스 탐지 결과 및 메타데이터용)을 사용하여 추출됩니다.
- 전처리: 원시 보고서는 정제, 통합 및 변환 과정을 거칩니다. 범주형 변수(APT 그룹)는 레이블 인코딩(label-encoding)되며, 수치형 특징은 MinMaxScaler를 사용하여 정규화됩니다. 심각한 클래스 불균형(그룹당 32개에서 961개 샘플)을 해결하기 위해 SMOTE(Synthetic Minority Over-sampling Technique)를 사용하여 소수 클래스의 예시를 합성합니다.
마르코프 결정 과정(MDP) 공식화:
귀속 문제는 다음과 같은 MDP로 모델링됩니다:
- 상태 공간 (State Space, $S$ ): API 호출, 파일 작업, 레지스트리 수정 및 네트워크 행동을 포함하는 특징 벡터로부터 도출된 악성코드 샘플에 대한 현재 이해도를 나타냅니다.
- 행동 공간 (Action Space, $A$ ): 현재 악성코드를 특정 APT 그룹으로 귀속시키기로 하는 결정(12가지 가능한 행동)에 해당합니다.
- 보상 (Reward, $R$ ): 올바른 귀속에는 양의 보상(+1)을 부여하고, 잘못된 귀속에는 음의 보상(-1)을 부여합니다. 에이전트는 누적 보상을 최대화하는 것을 목표로 합니다.
모델 아키텍처 및 훈련:
- 알고리즘: Gymnasium 환경 내에서 Stable Baselines 3 라이브러리를 사용하여 **심층 Q-네트워크(Deep Q-Network, DQN)**를 구현합니다.
- 네트워크 설계: 정책(policy) 및 타겟(target) 네트워크는 [1024, 512, 512, 256] 뉴런 구조를 가진 다층 퍼셉트론(MLP)이며, 기울기 소실(vanishing gradient)을 방지하기 위해 Leaky ReLU 활성화 함수를 사용합니다.
- 훈련 전략: 에이전트는 탐색(exploration)과 이용(exploitation)의 균형을 맞추기 위해 $\epsilon$ -greedy 전략을 사용합니다. 경험 재생(experience replay)은 전이(transition) $(s_t, a_t, r_t, s_{t+1})$ 를 저장하는 데 사용됩니다. 하이퍼파라미터에는 학습률 스케줄, 할인 계수( $\gamma$ ) 0.99, 배치 크기 256이 포함됩니다.

주요 기여

DRL의 참신한 적용: 본 연구는 정적 분류를 넘어 적응형 의사결정 프레임워크로 나아가는, APT 악성코드 귀속을 위한 심층 강화 학습의 선구적인 활용을 보여줍니다.
행동 분석 중심: 모델은 정적 코드 시그니처가 아닌 샌드박스 환경에서 추출된 동적 행동 특징에 의존하므로, 난독화되거나 진화하는 위협을 처리할 수 있습니다.
벤치마킹: 본 연구는 제안된 DRL 모델을 확률적 경사 하강법(SGD), 서포트 벡터 분류기(SVC), K-최근접 이웃(KNN), 다층 퍼셉트론(MLP), 결정 트리 분류기를 포함한 전통적인 머신러닝 분류기와 엄격하게 비교합니다.
오픈 리소스: 저자들은 추가 연구를 촉진하기 위해 코드와 큐레이션된 APT 악성코드 데이터셋을 공개하였습니다.

결과
DRL 모델은 모든 베이스라인 머신러닝 모델보다 우수한 성능을 입증했습니다:

테스트 정확도: DRL 모델은 **89.27%**의 테스트 정확도를 달성했습니다.
비교: 이는 두 번째로 우수한 모델인 결정 트리 분류기(82.64%)를 비롯하여 MLP(80.65%), KNN(80.21%), SVC(77.41%), SGD(71.47%)를 크게 앞지른 수치입니다.
세부 지표: 테스트 세트에서 모델은 평균 정밀도(precision) 87%, 재현율(recall) 85%, F1-스코어 86%를 달랐습니다.
그룹별 성능: 모델은 "Equation Group"(훈련 시 완벽한 점수) 및 "APT 19"(F1-스코어 95.8%)와 같은 그룹에서 탁월한 숙련도를 보였습니다. 그러나 "APT 28"(정밀도 62.4%) 및 "APT 21"(재현율 93.44%)에서는 다소 어려움을 겪었으며, 이는 향후 개선이 필요한 영역임을 나타냅니다.
훈련 궤적: 모델의 정확도는 훈련 과정에서 급격히 향ar졌으며, 초기 낮은 수준에서 시작하여 20,000 스텝 이후 훈련 데이터에서 거의 98%까지 상승한 후 테스트 세트에서 89.27%로 안정화되었습니다.

의의 및 주장
본 논문은 사이버 보안 프레임워크에 DRL을 통합하는 것이 악성코드 귀속에 있어 변혁적인 잠재력을 제공한다고 주장합니다. 시행착오를 통해 학습하고 불완전하거나 난독화된 정보에 적응하는 DRL의 능력을 활용함으로써, 제안된 시스템은 전통적인 정적 모델보다 APT 행위자를 식별하는 데 있어 더 강력하고 정확한 방법을 제공합니다.

저자들은 모델이 높은 효능을 보이지만, 배포를 위해서는 상당한 계산 자원과 고품질의 다양한 데이터셋이 필요하다고 강조합니다. 또한 다음과 같은 방향으로 향후 연구가 진행되어야 한다고 제안하며 책임 있는 AI 통합을 옹호합니다:

아키텍처 개선 및 모델 프루닝(pruning)을 통한 계산 효율성 향상.
일반화 성능을 높이기 위한 데이터셋 다양성 확대.
데이터 프라이버시 및 편향성에 관한 윤리적 문제 해결.
보상 메커니즘을 정교화하고 DRL 프레임워크를 최적화하기 위한 대규모 언어 모델(LLM)의 통합 탐색.

궁극적으로, 본 연구는 DRL이 위협 인텔리전스를 크게 발전시켜 조직이 반응적 방어에서 벗어나 정교한 사이버 위협에 대한 선제적이고 정확한 귀속 단계로 나아갈 수 있게 한다고 주장합니다.

기술 요약: 심층 강화 학습(Deep Reinforcement Learning)을 이용한 지능형 지속 위협(APT) 공격 주체 식별(Attribution)

유사한 논문