Automated TEE Adaptation with LLMs: Identifying, Transforming, and Porting Sensitive Functions in Programs

이 논문은 개발자의 개입을 최소화하여 기존 프로그램의 민감한 함수를 식별하고 TEE(신뢰 실행 환경) 호환 버전으로 자동 변환하는 최초의 LLM 기반 도구인 AUTOTEE 를 제안하고, 자바와 파이썬 환경에서 높은 정확도와 성공률을 입증합니다.

핵심

1. 문제 상황: "안전한 금고"가 있지만, 옮기기 너무 어려워요

**TEE(신뢰 실행 환경)**는 컴퓨터나 스마트폰 안에 있는 **'초강력 비밀 금고'**라고 생각하세요.

• 일반적인 프로그램은 밖에서 돌아다니는 '평범한 사람'처럼, 해커나 악성 프로그램이 접근하면 정보를 훔쳐갈 수 있습니다.
• TEE는 그 사람만 들어갈 수 있는 '금고' 안으로 들어가서 일을 처리합니다. 금고 안은 외부에서 절대 볼 수 없기 때문에 비밀번호, 지문, 암호화 키 같은 중요한 정보는 완벽하게 보호됩니다.

하지만 여기서 큰 문제가 생깁니다.

• 수작업의 고통: 지금 개발자들이 프로그램을 이 '금고' 안으로 옮기려면, 마치 고층 빌딩을 해체해서 금고 벽돌 하나하나를 직접 손으로 옮기는 작업을 해야 합니다. 어떤 부분이 중요한지 찾아내고, 금고 안에서 작동하도록 코드를 다시 짜야 하는데, 이 과정이 너무 어렵고 시간이 많이 걸립니다.
• 언어의 장벽: 보통 프로그램은 '고급 언어'(Java, Python 등) 로 쓰여 있는데, 금고 (TEE) 는 '저급 언어'(C, Rust 등) 로만 작동합니다. 마치 영어로 쓴 요리 레시피를 한자로 된 금고 내부 매뉴얼로 직접 번역해야 하는 것과 같습니다.

2. 해결책: "AUTOTEE"라는 똑똑한 비서 등장

이 논문은 **LLM(거대 언어 모델, 즉 AI)**을 이용해 이 과정을 자동으로 해주는 AUTOTEE를 제안합니다.

AUTOTEE 는 다음과 같이 작동합니다:

1 단계: "어디가 위험한지 찾아내기" (Sensitive Function Identifier)

• 비유: 건물을 훑어보며 **"여기에는 금괴가 숨겨져 있네!"**라고 찾아내는 탐정 역할입니다.
• 프로그램 전체를 분석해서 비밀번호 처리, 암호화, 지문 확인 등 **가장 민감한 부분 (Leaf Functions)**을 자동으로 찾아냅니다.

2 단계: "금고용 언어로 번역하기" (Code Transformer)

• 비유: 찾은 민감한 부분을 영어로 된 레시피에서 한자 (Rust) 레시피로 번역하는 과정입니다.
• AI 가 코드를 Rust 언어로 바꿉니다. 하지만 AI 가 처음부터 완벽하게 번역할 수는 없죠.
• 반복 학습 (ReAct): 번역된 코드가 금고 (TEE) 에서 잘 작동하는지, 원래 코드와 결과가 같은지 AI 가 스스로 시험을 보고 (컴파일 및 테스트), 틀리면 다시 고치는 과정을 반복합니다. 마치 학생이 모의고사를 보고 오답 노트를 작성하며 실력을 키우는 것과 같습니다.

3 단계: "연결하기" (Execution Linker)

• 비유: 보안 통로 (TLS) 를 설치하는 것입니다.
• 밖에서 일하는 일반 프로그램과 금고 안에서 일하는 번역된 프로그램이 서로 안전하게 대화할 수 있도록 연결합니다. 밖에서는 금고 안의 내용을 볼 수 없지만, 필요한 결과물만 안전하게 받아옵니다.

3. 성과: 얼마나 잘할까요?

연구진은 68 개의 실제 프로젝트 (Java 와 Python) 를 분석해서 385 개의 민감한 함수를 찾아냈습니다. 그 결과:

• 찾아내기: 민감한 함수를 **94%~87%**의 정확도로 찾아냈습니다. (거의 실수 없이 찾아냅니다.)
• 옮기기: 찾은 함수를 금고용 코드로 성공적으로 옮긴 비율은 **Java 는 91.8%, Python 은 84.3%**였습니다.
• 결론: AI 가 개발자의 손을 거의 빌리지 않고도, 복잡한 보안 작업을 자동으로 해결해 줄 수 있다는 것을 증명했습니다.

4. 왜 이것이 중요한가요?

지금까지 TEE(비밀 금고) 는 보안 전문가들만 쓸 수 있는 **'고급 장비'**였습니다. 하지만 AUTOTEE 가 등장하면:

• 일반 개발자도 복잡한 보안 설정 없이, **"이 함수는 금고에 넣어줘"**라고 명령만 내리면 알아서 처리됩니다.
• 보안 강화: 중요한 데이터가 해킹당할 확률이 크게 줄어듭니다.
• 시간 절약: 수작업으로 몇 주 걸리던 작업을 AI 가 몇 분 만에 해결합니다.

요약

이 논문은 **"AI 를 이용해 복잡한 보안 코드를 자동으로 찾아내어, 더 안전한 금고 (TEE) 안으로 옮기는 자동화 시스템"**을 만들었다고 말합니다. 마치 보안 전문가가 직접 건물을 해체하고 재건축하는 대신, AI 로봇이 알아서 위험한 물건을 찾아내어 안전한 금고로 옮겨주는 것과 같습니다.

이 기술이 보편화되면, 우리 일상에서 사용하는 앱과 서비스의 개인정보 보호 수준이 획기적으로 높아질 것입니다.

기술 요약

1. 문제 정의 (Problem)

신뢰 실행 환경 (Trusted Execution Environments, TEE) 은 메모리 내의 격리된 공간을 제공하여 장치의 운영체제나 하이퍼바이저가 손상되더라도 민감한 데이터와 연산을 보호합니다. 하지만 기존 프로그램을 TEE 로 이식 (Porting) 하는 과정에는 다음과 같은 심각한 어려움이 존재합니다.

• 전문 지식 및 수동 작업의 필요성: TEE 는 제한된 리소스와 특수한 API 를 가지므로, 개발자는 어떤 코드 부분이 민감한지 식별하고 이를 TEE 환경 (주로 C 또는 Rust) 에 맞게 수동으로 변환해야 합니다. 이는 방대한 도메인 지식을 요구하며 오류가 발생하기 쉽습니다.
• 고수준 언어의 한계: TEE 는 주로 저수준 언어 (C, Rust) 를 지원하며, Java 나 Python 과 같은 고수준 관리형 언어 (Managed Languages) 를 직접 실행하는 것은 오버헤드가 크거나 불가능합니다.
• 기존 방법의 비효율성: 기존 연구들은 런타임 환경을 TEE 로 이식하거나 개발자가 직접 민감한 부분을 분할하도록 요구하는데, 이는 성능 저하를 초래하거나 개발 부담을 줄이지 못합니다.

따라서, 개발자의 개입을 최소화하면서 고수준 언어로 작성된 프로그램의 민감한 함수를 자동으로 식별하고 TEE 호환 코드로 변환하여 이식하는 자동화 솔루션이 필요합니다.

2. 제안 방법론: AUTOTEE (Methodology)

저자들은 AUTOTEE라는 LLM(대규모 언어 모델) 기반 자동화 도구를 제안했습니다. AUTOTEE 는 Java 와 Python 프로그램의 민감한 함수를 식별하고, 이를 TEE 에서 실행 가능한 네이티브 코드 (Rust) 로 변환하여 통합하는 3 단계 프로세스를 따릅니다.

A. 민감 함수 식별 (Sensitive Function Identifier)

1. 리프 함수 (Leaf Function) 추출: AST(추상 구문 트리) 를 분석하여 프로젝트 내 다른 사용자 정의 함수를 호출하지 않는 '리프 함수'를 추출합니다. 이는 TEE 내에서의 복잡성과 의존성 문제를 줄이기 위함입니다.
2. LLM 기반 식별: 추출된 함수를 LLM 에게 전달하여 암호화 (Encryption, Hashing 등) 또는 직렬화 (Serialization) 와 같은 민감한 연산을 수행하는지 3 단계 프롬프트 (Yes/No 판별, 연산 유형 식별, 관련 문장 추출) 를 통해 정밀하게 식별합니다.
3. 테스트 입력 생성: 식별된 함수에 대한 기능 동등성 검증을 위해 LLM 이 테스트 입력을 생성하고, 코드 커버리지 (Line/Branch Coverage) 를 최대화하도록 반복적으로 개선합니다.

B. 코드 변환 (Code Transformer)

1. 초기 변환: LLM 이 Java/Python 코드를 메모리 안전성이 보장되는 Rust 코드로 변환합니다.
2. ReAct 전략을 통한 반복적 정제: 변환된 코드가 TEE 환경에서 실행 가능하도록 ReAct(Reasoning + Acting) 전략을 사용합니다.
   • 컴파일 확인: Rust 컴파일러 (Cargo) 를 호출하여 컴파일 오류를 확인하고, 에러 메시지를 LLM 에게 피드백하여 수정을 유도합니다.
   • 동등성 검증 (Equivalence Validation): 원본 코드와 변환된 Rust 코드가 동일한 테스트 입력에 대해 동일한 출력을 생성하는지 확인합니다.
   • 반복 수정: 컴파일 실패나 출력 불일치가 발생하면 LLM 이 의존성 업데이트, 코드 수정, 컴파일 재확인 등의 액션을 반복하여 성공할 때까지 개선합니다.
3. 플랫폼 적응: TEE 환경의 제약 (예: 환경 변수 부재, 타이머 지원 불가 등) 을 고려하여 API 호출을 수정하거나 하드코딩합니다.

C. 실행 링크 (Execution Linker)

변환된 Rust 코드가 TEE 내에서 실행되고 원본 프로그램 (Normal World) 과 통신할 수 있도록 연결합니다.

• 원격 증명 (Attestation): TEE 내부 코드의 무결성을 검증합니다.
• 보안 채널: 원본 프로그램과 TEE 간 통신을 위해 TLS 채널을 구축하여 인자 (Arguments) 와 결과를 암호화하여 전송합니다.

3. 주요 기여 (Key Contributions)

1. 최초의 자동화 접근법: LLM 을 활용하여 고수준 언어 (Java, Python) 의 민감한 함수를 자동으로 식별하고, TEE 호환 네이티브 코드 (Rust) 로 변환하며 이식하는 첫 번째 도구인 AUTOTEE를 제안했습니다.
2. 강건한 변환 및 검증 메커니즘: 단순한 코드 생성을 넘어, 컴파일러 피드백과 기능 동등성 검증을 결합한 반복적 정제 (Iterative Refinement) 메커니즘을 도입하여 변환된 코드의 실행 가능성과 정확성을 보장합니다.
3. 원활한 통합 메커니즘: 변환된 TEE 코드를 기존 고수준 언어 프로그램에 통합하는 보안 증명 및 통신 채널을 구현하여, 개발자가 복잡한 TEE 인터페이스를 직접 다룰 필요를 없앴습니다.

4. 실험 결과 (Results)

저자들은 68 개의 저장소에서 수동으로 선별한 385 개의 민감한 리프 함수 (Java 232 개, Python 153 개) 로 구성된 벤치마크를 구축하여 평가를 수행했습니다.

• 민감 함수 식별 정확도:
  • GPT-4o 를 사용할 때 Java 에서 F1-score 0.958, Python 에서 0.883을 기록하여 높은 정확도를 보였습니다.
  • DeepSeek, Qwen2.5 등 다른 모델들도 우수한 성능을 보였으나, GPT-4o 가 가장 안정적이었습니다.
• 코드 변환 성공률:
  • Java: GPT-4o 기준 91.8% (213/232) 의 성공률.
  • Python: GPT-4o 기준 84.3% (129/153) 의 성공률.
  • 초기 변환만으로는 20% 미만의 성공률이었으나, ReAct 기반의 반복적 정제를 통해 성공률이 크게 향상되었습니다.
• 모델 비교: GPT-4o 가 가장 높은 성능을 보였으며, 오픈소스 모델인 DeepSeek 이 두 번째로 좋은 성능을 보여 로컬 배포 시 대안으로 적합함을 입증했습니다.
• 리소스 소모: TEE 내 실행 시 통신 및 증명 오버헤드로 인해 실행 시간이 증가했으나 (예: SHA256 의 경우 1255 배 증가), RSA 키 생성과 같은 계산 집약적 작업에서는 상대적으로 오버헤드가 낮았습니다 (1.6 배).

5. 의의 및 결론 (Significance)

• TEE 접근성 확대: TEE 이식에 필요한 막대한 수동 작업과 전문 지식을 LLM 기반 자동화로 대체함으로써, 개발자가 보안 강화 기능을 쉽게 도입할 수 있는 길을 열었습니다.
• 고수준 언어 지원: Java 와 Python 과 같은 널리 쓰이는 언어를 TEE 에 적용할 수 있는 자동화 파이프라인을 제공하여, 기존 시스템의 보안 업그레이드를 용이하게 합니다.
• 안전성 보장: 메모리 안전성이 보장된 Rust 로 변환하고, 엄격한 기능 동등성 검증을 통해 변환 과정에서 발생할 수 있는 버그나 보안 취약점을 최소화합니다.

이 연구는 TEE 기술의 대중화를 위한 중요한 걸음으로, LLM 을 활용한 소프트웨어 보안 자동화의 새로운 방향성을 제시합니다.