LLM-Enhanced Hierarchical Heterogeneous Graph Representation Learning for Malicious Python Package Detection

기술 요약: 악성 파이썬 패키지 탐지를 위한 H2GLM

문제 정의
PyPI와 같은 오픈 소스 저장소의 광범위한 채택은 악성 파이썬 패키지를 소프트웨어 공급 체인의 중대한 위협으로 만들었습니다. 기존의 탐지 방식은 다음과 같은 상당한 한계에 직면해 있습니다:

• 규칙 기반 접근 방식(예: 시그니처, 휴리스틱)은 난독화, 동적 코드 로딩, 빠르게 진화하는 공격 패턴에 대응하기 어려워 높은 오탐률(False-Positive)과 미탐율(False-Negative)을 초래합니다.
• 학습 기반 접근 방식은 파이썬 패키지에 내재된 계층적 구조와 이질적 상호작용을 포착하는 데 종종 실패합니다. 그래프 신경망(GNN)은 구조적 의존성을 모델링하지만, 패키지, 파일, 함수 간의 결정적인 차이를 놓친 채 모든 엔티티를 균일하게 취급하는 동질적 그래프(Homogeneous Graph)에 의존하는 경우가 많습니다.
• **대규모 언어 모델(LLM)**은 의미론적 추론에는 뛰어나지만, 명시적인 구조적 맥락이 부족하며, 대규모의 상호 연결된 프로그램 구조를 절단(Truncation) 없이 처리하는 데 어려움을 겪습니다. 이는 불완전한 공격 체인 재구성을 초래합니다.
• 결정적으로, 악성 행위는 이질적인 구성 요소 간의 상호작용(예: 환경 변수에 접근하여 데이터를 유출하는 함수를 호출하는 설치 스크립트)에서 발생하며, 현재의 동질적 GNN-LLM 프레임워크는 이러한 복잡성을 효과적으로 모델링할 수 없습니다.

방법론: H2GLM 프레임워크
저자들은 명시적 구조적 이질성과 암묵적 의미론적 이질성을 공동으로 모델링하도록 설계된 4단계 프레임워크인 H2GLM(LLM에 의해 강화된 계층적 이질 그래프 표현 학습 프레임워크)을 제안합니다.

1. 그래프 추출:

   • 추상 구문 트리(AST)로부터 이질적 코드 그래프 $G = (V, E, \phi, \psi)$를 구축합니다.
   • 노드 ($V$): 세 가지 유형: 패키지(Package), 파일(File), 함수(Function).
   • 엣지 ($E$): 세 가지 유형: 포함(Contain) (패키지-파일, 파일-함수), 임포트(Import), 호출(Call).
   • 속성: 함수의 소스 코드; 프로젝트 매니페스트 및 docstring을 기반으로 LLM이 생성한 파일 및 패키지의 요약 정보.

2. 계층적 이질 특징 그래프 생성:

   • 새로운 의미론적 이질성 레이어인 $\phi_{LLM}$을 통해 그래프를 강화합니다.
   • LLM 추론: LLM은 각 함수 노드의 소스 코드를 분석하여 해당 함수의 기능적 의미 유형(예: 환경 검사, 자격 증명 접근, 네트워크 통신)을 동적으로 추론하고 의미론적 설명을 생성합니다. 이는 원시 구조에는 존재하지 않는 잠재적 이질성을 도입합니다.
   • 특징 인코딩: 문장 트랜스포머(텍스트 요약용)와 CodeBERT(소스 코드 스니펫용)의 임베딩을 결합하여 노드 특징을 구성함으로써, 풍부하고 유형 인지적인 특징 벡터를 생성합니다.

3. 분류 (H2GNN):

   • 새로운 **계층적 이질 그래프 신경망(H2GNN)**이 세 가지 특정 메커니즘을 통해 그래프를 처리합니다:
     • $\phi(v)$-가이드 특징 투영: 유형별 학습 가능한 행렬을 사용하여 이질적인 노드 유형(패키지, 파일, 함수)을 통일된 잠재 공간으로 투영합니다.
     • $\phi_{LLM}(v)$-가이드 특징 처리: LLM이 추론한 기능적 유형에 따라 노드 표현을 추가로 처리하여, 모델이 서로 다른 의미론적 역할에 대한 특화된 표현을 학습할 수 있도록 합니다.
     • $\psi(e)$-가이드 메시지 전달: 유형별 가중치와 어텐션 계수를 사용하여 정보를 집계하고, 악성 전파를 나타내는 핵심 관계(예: 임포트 체인, 함수 호출)를 강조합니다.
   • 글로벌 평균 풀링 연산과 그 뒤를 잇는 MLP를 통해 패키지 수준의 악성 여부를 예측합니다.

4. 지역화(Localization):

   • 특정 악성 함수를 식별하기 위해, 프레임워크는 함수 수준의 속성 메커니즘을 채택합니다.
   • 그래프에서 함수 노드를 반복적으로 제거하면서 예측된 악성 확률의 하락 폭을 측정합니다.
   • 확률을 크게 떨어뜨리는 함수를 의심스러운 것으로 플래그 처리합니다. 이후 이들의 로컬 서브그래프를 LLM으로 분석하여 공격 로직에 대한 인간이 해석 가능한 설명을 생성합니다.

주요 기여

• H2GLM 프레임워크: 명시적 구조적 이질성(패키지, 파일, 함수)과 암묵적 의미론적 이질성(LLM이 추론한 기능적 역할)을 모두 모델링하기 위해 GNN과 LLM을 통합한 학습 기반 프레임워크입니다.
• 새로운 H2GNN 아키텍처: 유형 인지적 메시지 전달과 콘텐츠 인지적 특징 처리를 수행하여, 계층적 수준 전반에 걸친 악성 행위 전파를 모델링할 수 있도록 설계된 코드 분석용 그래프 신경망입니다.
• 자동화된 지역화: 그래프 속성과 LLM 추론을 결합하여 인간의 개입 없이 의심스러운 함수와 공격 경로를 자동으로 식별하고 설명하는 메커니즘을 제공합니다.
• 실제 환경 검증: 본 프레임워크는 PyPI를 모니터링하는 데 배치되어, 관리자에 의해 최종 확인 및 삭제된 악성 패키지들을 성공적으로 식별하고 보고했습니다.

실험 결과
3,049개의 악성 패키지와 다수의 양성 패키지(크기 및 임포트 복잡도에 따라 계층화됨) 데이터셋을 대상으로 광범-한 실험을 수행했습니다.

• 전반적인 성능: H2GLM은 **F1-score 97.12%**를 달성하였으며, 전통적인 ML 방법, 그래프 기반 탐지기(MPHunter), 정적 분석 도구(Bandit4Mal, OSSGadget) 및 다양한 LLM(Qwen3-14b, DeepSeek-R1-70b)을 포함한 최첨단 베이스라인들을 일관되게 능가했습니다.
• 강건성(Robustness): H2GLM은 극도로 작은 패키지(<1.57KB)나 광범위한 임포트 의존성을 가진 패키지(>100개 임포트)와 같은 극한 조건에서도 안정적인 성능(F1 > 94.9%)을 유지했습니다. 반면, 다른 방법들(특히 LLM 및 동질적 GNN)은 컨텍스트 제한이나 복잡한 의존성 모델링 능력 부족으로 인해 성능이 크게 저하되었습니다.
• 절제 연구(Ablation Studies): 이질적 메시지 전달($\psi(e)$) 또는 LLM 가이드 의미론적 처리($\phi_{LLM}$)를 제거했을 때 F1-score가 약 4% 하락하였으며, 이는 구조적 및 의미론적 이질성 모두의 필요성을 입증합니다.
• 지역화 정확도: 수동으로 주석을 단 300개의 패키지 서브셋에서, H2GLM은 악성 행위를 유발하는 특정 함수를 식별하는 데 95.67%의 정확도를 기록했습니다.
• 사례 연구: 시스템은 암호화 라이브러리로 위장한 악성 패키지 내의 난독화된 커맨드 앤 컨트롤(C2) 통신을 성공적으로 식별하였으며, 심한 난독화에도 불구하고 특정 네트워크 함수를 정확히 지목했습니다.

의의 및 주장
본 논문은 H2GLM이 기존 탐지 방식의 "이질성 격차(heterogeneity gap)"를 해결함으로써 소프트웨어 공급 체인 보안의 중요한 진전을 이루었다고 주장합니다. 계층적 이질 그래프 학습과 LLM을 결합함으로써 다음과 같은 성과를 달-성합니다:

1. 높은 정확도: 규칙 기반 및 기존 학습 기반 방법보다 우수한 탐지율을 보입니다.
2. 강건성: 다른 방법들이 실패하는 다양한 패키지 복잡성 영역에서도 효과적인 성능을 발휘합니다.
3. 해석 가능성: 패키지를 분류할 뿐만 아니라, 특정 악성 행위를 국지화하고 설명할 수 있어 전문가의 수동 개입 필요성을 줄입니다.
4. 실무 적용 가능성: PyPI에서의 자동화된 모니터링 파이프라인을 통해 실질적인 유용성을 검증하였습니다.

저자들은 본 연구가 계층적 이질 그래프 학습과 LLM을 악성 패키지 탐지를 위해 최초로 통합한 사례이며, 동질적 표현에서 더 정교한 행동 기반 분석으로의 패러다임 전환을 제시한다고 강조합니다.