💻 computer science

Mystra: Declarative Dynamic Taint Analysis via Shadow Virtual Machine

이 논문은 테인트 세맨틱을 런타임 인스트루멘테이션으로부터 분리하여, Shar 도구가 기존 솔루션들에 비해 여러 JavaScript 및 Python 런타임에 걸쳐 높은 정확도와 현저히 낮은 오버헤드를 달一种 수 있도록 하는 선언적 언어 및 Shadow 가상 머신 아키텍처인 Mystra를 소개한다.

원저자: Zhuohao Zhang, Junkun Liu, Rui Yang, Yinzhi Cao, Ziyang Li

게시일 2026-07-15

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zhuohao Zhang, Junkun Liu, Rui Yang, Yinzhi Cao, Ziyang Li

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 거대한 도시(컴퓨터 프로그램)를 몰래 빠져나가는 장난꾸러기 유령(보안 취약점)을 잡으려 한다고 상상해 보세요. 이 유령은 편지 속에 담긴 무해한 잉크 한 방울(신뢰할 수 없는 데이터)로 시작하지만, 만약 이 유령이 특정 문(파일 읽기와 같은 민감한 작업)에 도달하게 되면 건물 전체를 파괴할 수도 있습니다.

오랫동안 보안 전문가들은 이 유령을 잡기 위해 두 가지 주요 방법을 시도해 왔으며, 두 방법 모두 큰 문제가 있었습니다. 한 가지 방법은 사람들이 입주하기 전에 도시의 설계도를 다시 쓰는 것(소스 리라이팅, source-rewriting)과 같았습니다. 이는 안전했지만, 도시의 속도를 엄청나게 느리게 만들었습니다(20배에서 50배 더 느려짐!). 다른 방법은 특정 동네에서만 일할 줄 아는 특수 형사를 고용하는 것(엔진 네이티브, engine-native)과 같았습니다. 이 방법은 빨랐지만, 도시의 레이아웃이 바뀌거나 다른 동네로 이동하게 되면 형사를 해고하고 처음부터 다시 교육해야 했습니다.

이때, 존스 홉킨스 대학교의 새로운 조사 팀인 Mystra와 Shar가 등장하여 실제 도시 바로 옆에 "그림자 도시"를 건설하기로 결정했습니다.

그림자 도시 (Shadow Virtual Machine)

실제 도시를 변경하거나 설계도를 다시 쓰는 대신, 연구진은 실제 프로그램과 나란히 실행되는 평행하고 보이지 않는 "그림자 가상 머신(Shadow Virtual Machine)"을 구축했습니다. 이것은 실제 도시가 하는 모든 움직임을 거울처럼 비추는 유령 쌍둥이 도시라고 생각하면 됩니다.

함수 호출이나 파일 열기와 같은 실제 작업이 발생할 때마다, 그림자 도시는 이를 즉시 포착합니다. 하지만 여기서 마법 같은 일이 일어납니다. 그림자 도시는 실제 도시가 어떻게 지어졌는지 신경 쓰지 않습니다. 실제 도시가 빠른 현대적 엔진(Node.js의 V8 등)에서 실행되든, 오래된 엔진(CPython 등)에서 실행되든, 그림자 도시는 동일한 "이벤트"를 목격합니다. 이는 조사관들이 엔진의 구체적인 기계 장치에 얽매이지 않고도 동작을 관찰할 수 있게 해주는 범용 번역기를 가진 것과 같습니다.

규칙 책 (Mystra)

도시를 지켜보는 것만으로는 부족합니다. 무엇을 찾아야 할지 알아야 합니다. 여기서 Mystall이 등장합니다. Mystra는 보안 전문가들이 *"만약 파일 경로가 사용자로부터 왔고, 그 경로가 파일을 여는 데 사용된다면 경보를 울려라!"*와 같은 간단한 규칙을 작성할 수 있는 특별하고 읽기 쉬운 언어(선언적 언어)입니다.

논문은 기존 도구들이 너무 경직되어 있어 전문가들이 특정 엔진에 종속된 복잡하고 지저열한 코드를 작성해야 했다고 주장합니다. Mystra는 다릅니다. 이것은 어떤 엔진에도 딱 들어맞는 레고 설명서와 같습니다.

"주입(Inject)" 및 "추출(Extract)" 기술: Mystra가 고차 함수(JavaScript의 Array.map과 같은 기능)를 처리하는 방식은 매우 놀랍습니다. 상자를 어떤 작업자에게 전달하여 색칠하게 한 뒤 다시 상자에 넣는 공장을 상상해 보세요. Mystra는 "상자의 더러움을 작업자의 손에 주입하고, 작업자가 일을 마치면 그 더러움을 다시 상자에 추출하라"고 말할 수 있습니다. 이를 통해 시스템은 이전 도구들이 혼란을 겪었던 콜백 함수 내부로 유령이 뛰어드는 순간에도 "더러움"을 추적할 수 있습니다.

결과: 빠르고 정확함

연구진은 이 아이디어를 테스트하기 위해 Shar라는 도구를 만들었습니다. 그들은 단순히 추측한 것이 아니라 실제 세계의 벤치마크를 통해 측정했습니다.

속도: 연구진이 Node.js에서 Shar를 실행했을 때, 프로그램은 단 1.85배만 느려졌습니다. 기존의 소스 리라이팅 도구들이 Shar보다 22.7배 더 느렸던 것과 비교해 보세요! 또한 Shar는 동일한 워크로드에서 이전 최고의 도구인 NodeMedic-FINE보다 22.7배 더 빠릅니다.
정확도: 493개의 알려진 취약점(SecBench.js라고 불리는) 세트에서 Shar는 이 중 **95.5%**를 잡아냈습니다. 더욱 놀라운 점은, 소프트웨어의 패치된 버전(이미 구멍이 메워진 버전)을 테스트했을 때 Shar는 **단 한 번의 오보(false alarm)**도 내지 않았다는 것입니다. 늑대라고 울리지 않았습니다.
이식성: 연구진은 이 아이디어가 다양한 환경에서도 작동한다는 것을 증명했습니다. 그들은 동일한 핵심 엔진과 규칙을 가지고 V8(Node.js와 Chrome에서 사용), SpiderMonkey(Firefox에서 사용), CPython(Python에서 사용)이라는 세 가지 런타임으로 성공적으로 이식했습니다. 그들은 각 런타임에 대해 작은 "어댑터"만 작성했을 뿐, 메인 브레인은 동일하게 유지되었습니다.

해결하지 못한 것들

이 도구가 하지 못하는 일도 알고 있는 것이 중요합니다. 논문은 Shar가 "암묵적 흐름(implicit flows)"을 추적하지 않는다고 명시적으로 밝히고 있습니다. 만약 유령이 잉크 자국을 남기는 대신 함정을 알리기 위해 하늘의 색을 바꾼다면 어떨까요? Shar는 하늘을 감시하지 않고 오직 잉크만을 감시합니다. 저자들은 이러한 보이지 않는 신호를 추적하는 것이 시스템을 엄청나게 느리게 만들기 때문에(다른 연구에서 36.7배 느려짐), 현재는 눈에 보이는 흔적을 추적하는 데 집중하기로 선택했다고 언급했습니다.

또한, 프로그램이 텍스트 문자열을 아주 작은 조각으로 나누는 경우(예: 문장을 단어로 나누는 것), 원래의 "더러운" 텍스트와의 연결이 때때로 끊어질 수 있다는 것을 발견했습니다. 이는 이러한 유형의 추적 방식이 가진 알려진 한계이며, 향에 작업에서는 이를 해결하기 위해 문자 단위 추적을 살펴볼 필요가 있다고 제안합니다.

결론

이 논문은 Shar와 Mystra를 모든 보안 문제를 해결하는 마법 지팡이가 아니라, 데이터를 추적하는 방식의 중대한 진전으로 제시합니다. 우리가 무엇을 추적할 것인가(규칙)와 프로그램을 어떻게 관찰할 것인가(Shadow VM)를 분리함으로써, 그들은 빠르고 정확하며 유연한 시스템을 구축했습니다.

테스트를 통해 그들은 보안 도구가 보호 대상 프로그램의 속도를 늦추지 않으면서도 **95.5%**의 취약점을 포착할 수 있는, 속도와 예리함을 동시에 갖춘 탐정이 될 수 있음을 보여주었습니다. 이는 더 이상 속도와 안전 사이에서 하나를 선택할 필요가 없다는 증거입니다.

기술 요약: Mystra 및 Shar

문제 정의

JavaScript 및 Python과 같은 인터프리터 언어를 위한 동적 태인트 분석(Dynamic Taint Analysis, DTA)은 근본적인 아키텍처 파편화 문제에 직면해 있습니다. 기존 시스템은 일반적으로 호스트 런타임 동작 관찰, 병렬 태인트 상태 유지, 태인트 전파 정의의 기능을 단일 인스트루멘테이션 메커니즘에 결합합니다.

소스 재작성 시스템(예: Jalangi2, NodeMedic)은 실행 전에 코드를 인스트루멘테이션합니다. 엔진에 독립적이지만, 모듈이 가용해야 하고 트랜스파일(종종 Babel을 통해)되어야 하는 소스 변환 경계를 도입합니다. 이 방식은 네이티브 및 Just-In-Time(JIT) 컴파일 실행을 포기하게 되어, 성능이 수십 배 느려지는 결과를 초래합니다.
엔진 네이티브 시스템(예: Foxhound, PanoptiChrome)은 런타임 표현이나 실행 핸들러를 수정하여 가시성을 확보합니다. 그러나 이들의 섀도 상태(shadow state), 전파 로직 및 인스트루멘테이션은 특정 엔진의 내부 구조와 밀접하게 결합되어 있습니다. 이는 분석 로직을 엔진과 분리할 수 없게 만들어, 서로 다른 실행 계층, 임베딩 또는 언어 간의 이식성을 저해합니다.

핵심 문제는 DTA를 위한 런타임 독립적인 실행 모델의 부재입니다. 서로 다른 런타임은 다양한 바이트코드, 스택 및 컴파일 전략을 통해 동작을 노출하지만, 태인트 분석에는 동일한 논리적 정보(정체성, 인자, 결과, 컨텍스트)가 필요합니다. 현재의 접근 방식은 호스트 동작의 관찰과 태인트 상태 전이의 *의미론(semantics)*을 분리하지 못하여, 높은 오버헤드나 낮은 이식성을 초导致합니다.

방법론

저자들은 Shadow VM (Shadow Virtual Machine), Mystra 선언적 명세 언어, 그리고 Shar 구현 프레임워크로 구성된 솔루션을 제안합니다.

1. Shadow Virtual Machine (Shadow VM)

Shadow VM은 다양한 호스트 런타임(예: V8, SpiderMonkey, CPython)과 함께 실행되는 병렬 가상 머신입니다. 이는 병렬 상태 $\sigma = \langle S, H, G, C \rangle$ 를 유지합니다:

Shadow Stack ( $S$ ): 이벤트 중첩 순서에 따라 활성 연산 프레임을 추적하며, 피연산자를 태인트 식별자에 매핑합니다. 비로컬 제어 전이(예외, 비동기 중단)를 처리하기 위해 호스트의 논리적 연속성(logical continuation)과 동기화합니다.
Shadow Heap ( $H$ ): 프레임 간에 지속되는 객체 속성을 추적하며, 객체 주소/속성 키 쌍을 태인트 식별자에 매핑하여 객체 전체가 과도하게 태인트되는 것을 방지합니다.
Provenance DAG ( $G$ ): 태인트의 기원을 기록하여, 플로우 노드와 피연산자 태인트를 연결함으로써 소스-투-싱크(source-to-sink) 경로를 재구성합니다.
Specification Context ( $C$ ): 데이터가 호출 경계를 넘어 지속되는 데 필요한 명명된 저장소(예: 파일 I/O)를 제공하여, 섀도 스택/힙이 연결을 잃을 수 있는 간극을 메웁니다.

Shadow VM은 어댑터를 통해 중재되는 Host Interface를 통해 호스트와 상호작용합니다. 이 인터페이스는 여섯 가지 기능(연산 이벤트, 피연산자 주소 지정, 연산 정체성, 객체 라이프사이클, 런타임 쿼리, 연속성 동기화)을 표준화합니다. 이를 통해 Shadow VM은 디옵티미제이션(deoptimization)을 강제하지 않고도 인터프리터, 네이티브 및 JIT 컴파일된 실행을 균일하게 관찰할 수 있습니다.

2. Mystra: 선언적 태인트 명세 언어

Mystra는 Shadow VM을 구동하기 위해 설계된, 공식적인 운영 의미론을 가진 컴파일된 선언적 도메인 특화 언어(DSL)입니다. 이는 무엇을 추적할 것인가(what)와 어떻게 추적할 것인가(how)를 분리합니다.

핵심 구성 요소: 규칙은 source(진입점), sink(위험한 연산), propagate(연산 간의 흐름), clear(정화/sanitization)를 정의합니다.
고차 함수 (Higher-Order Functions, HOF): 핵심 혁신은 inject 및 extract 액션입니다. 이는 불투명한 네이티브 루프와 가시적인 사용자 정의 콜백 사이에서 태인트를 브릿징함으로써 네이티브 고차 함수(예: Array.map)를 모델링합니다. inject는 컨테이너에서 콜백 파라미터로 태인트를 전달하고, extract는 콜의 태인트를 컨테이너로 다시 집계합니다.
Guarded Predicates: 규칙은 런타임 서술어(예: 객체가 프로토타입인지 확인)에 따라 동작을 조건화하는 where 절을 포함할 수 있어, 오탐(false positive)을 줄입니다.
Specification Context: set 액션을 통해 규칙이 경계를 넘어 태인트를 유지할 수 있게 합니다(예: 파일 경로를 글로벌 스토어에 쓰고 나중에 이를 검색).
컴파일: Mystra 규칙은 .tbin 바이너리 표현으로 사전 컴파일됩니다. 컴파일러는 타입 체크를 수행하고 액션을 pre-hook 및 post-hook 인스트럭션 리스트로 스케줄링하여, 런타임 파싱 없이 $O(1)$ 디스패치를 가능하게 합니다.

3. Shar 구현

Shar는 이 아키텍처를 구현하는 구체적인 DTA 프레임워크입니다. 공유된 코어 엔진(태인트 엔진, 인터프리터, 규칙 로더, DAG, 컨텍스트)과 런타임별 어댑터를 특징으로 합니다. 저자들은 세 가지 직교하는 축에 대해 Shar를 인스턴스화했습니다:

Embedding: Node.js 및 Chromium에서의 V8.
Engine: SpiderMonkey.
Language: CPython.

주요 기여

Shadow VM 추상화: 관찰 메커니즘을 태인트 상태 및 전이로부터 분리하여 이식성을 높인 런타임 독립적 추상 머신.
Mystra 언어: inject/extract를 통한 네이티브 고차 함수 브릿징을 포함하여 복잡한 태인트 동작을 지원하는, 공식적 운영 의미론을 가진 컴파일된 선언적 언어.
Shar 프레임워크: 공유 코어를 통해 V8(Node.js, Chromium) 및 CPython에 걸쳐 이식성을 입증한 다국어 DTA 프레임워크.
체계적 평가: 탐지 정확도, 성능 오버헤드, 표현력 및 이식성에 대한 종합적인 벤치마크.

결과

탐지 정확도

SecBench.js(4개 CWE 카테고리에 걸친 493개의 인스코프 CVE)를 통해 평가되었습니다:

재현율(Recall): Shar는 전체적으로 **95.5%**의 재현율을 달성했습니다.
정밀도(Precision): 패치된 버전 테스트에서 제로 오탐(false positive)이 관찰되었습니다.
비교: 코드 인젝션 및 커맨드 인젝션 하위 집합(총 136개)에서, Shar는 97.1%(132/136)를 탐지하여, 63.9%(87/136)를 탐지한 NodeMedic-FINE을 크게 상회했습니다. Shar는 NodeMedic-FINE이 놓친 46개의 케이스를 독자적으로 탐지했는데, 이는 주로 Babel을 통해 특정 패키지를 인스트루멘테이션하지 못하거나 싱크(sink) 전 단계에서 태인트를 유실했기 때문입니다.
실제 취약점: Shar는 2024~2026년 사이에 공개된 Node.js, Chromium, CPython의 실제 취약점 12개 중 11개를 성공적으로 탐지했습니다. 한 사례(n8n)는 명시적인 브릿징 규칙 없이 SQL 영속성 경계를 연결하는 데 한계가 있어 부분적으로만 탐지되었습니다.

성능

NodeMedic의 벤치마크를 통해 평가되었습니다:

오버헤드: Shar는 Vanilla Node.js 대비 단 **1.85×**의 런타임 오버헤드만을 발생시켰습니다.
비교: 이는 NodeMedic-FINE(41.95×)보다 22.7배 낮은 오버헤드이며, Jalangi와 같은 소스 재작성 도구(28.78×)보다 훨씬 우수합니다.
JIT 영향: Maglev JIT가 활성화된 상태에서도 오버헤드가 낮게 유지되어(베이스라인 대비 1.28×), Shadow VM이 디옵티미제이션을 강제하지 않음을 입증했습니다.

표현력 및 이식성

규칙 합성: 저자들은 LLM이 유효한 Mystra 규칙을 합성할 수 있음을 보여주었습니다. 한 차례의 진단 피드백을 통해, 32개 패턴에 대한 합성 규칙의 통과율이 19/32에서 29/32로 증가했습니다.
간결성: Node.js 표준 라이브러리에 대한 Mystra 규칙은 CodeQL이 모델링한 API의 97.2%를 커버하면서도 18배 적은 코드 라인 수(63 LoC 대 1,149 LoC)를 사용했습니다.
이식성: 공유 코어(3,941 LoC)는 V8, SpiderMonkey, CPython 전반에 걸쳐 동일하게 유지되었습니다. 포팅 노력은 어댑터 및 런타임 특정 바인딩(예: CPython 어댑터용 446 LoC)에 집중되었으며, 이는 런타임 독립적 설계임을 확인시켜 줍니다.

의의

본 논문은 Mystra와 Shar가 인스트루멘테이션 중심의 엔진 종속적 DTA에서 런타임 독립적이고 선언적인 접근 방식으로의 전환을 나타낸다고 주장합니다. 관찰 메커니즘(Shadow VM)과 태인트 의미론(Mystra 규칙)을 분리함으로써, 시스템은 다음을 달성합니다:

이식성: 최소한의 수정으로 서로 다른 엔진(V8, SpiderMonkey) 및 언어(JS, Python)에 동일한 분석 로직을 배포할 수 있는 능력.
성능: 소스 재작성 방식에 비해 오버헤드를 획기적으로 줄여, DTA를 프로덕션 환경 및 JIT 최적화 코드에서 실행 가능하게 만듦.
표현력: 고차 함수 콜백 및 크로스 경계 상태(파일 I/O)와 같은 복잡한 동작을 엔진 특정 로직을 하드코딩하지 않고도 선언적으로 모델링할 수 있는 능력.
AI 준비성: Mystra의 공식적 의미론과 간결한 구문은 LLM에 의한 자동 합성을 용이하게 하여, 새로운 취약점 클래스에 대한 규칙을 빠르게 생성할 수 있게 함.

저자들은 암시적 흐름(implicit flows), 문자열 분해, 외부 저장소 경계와 관련된 과제가 남아있지만, 이 아키텍처가 차세대 동적 태인트 분석을 위한 확장 가능한 토대를 제공한다고 결론지었습니다.