Detecting Vulnerabilities in Encrypted Software Code while Ensuring Code Privacy

"암호화된 소프트웨어 코드에서 코드 프라이버시를 보장하면서 취약점을 탐지한다"는 제목의 논문에 대한 상세한 기술 요약입니다.

문제 제기

소프트웨어 취약점은 특히 웹 애플리케이션에서 사이버 공격의 주요 원인으로 남아 있습니다. 정적 분석 도구 (SCA) 는 보호되지 않은 소스 코드에서 이러한 취약점을 탐지하는 데 효과적이지만, 제 3 자 테스트 서비스나 외부 분석가에 의한 사용은 코드를 노출해야 합니다. 이러한 노출은 지식 재산권 도난 및 코드 프라이버시와 관련하여 중대한 우려를 야기합니다. 코드 난독화나 암호화와 같은 기존 완화 전략은 이러한 딜레마를 해결하지 못합니다. 난독화는 종종 역추적이 가능하고 분석을 방해하며, 표준 암호화는 복호화하지 않는 한 정적 분석을 위해 코드를 읽을 수 없게 만들어 분석 과정에서 기밀성을 훼손합니다. 암호화 기술을 통해 코드 기밀성을 유지하면서도 동시에 승인된 당사자가 암호화된 코드 내에서 취약점을 탐지할 수 있는 시스템은 부재합니다.

방법론: COCOA 및 기밀 코드 분석 (CCA)

저자들은 **기밀 코드 분석 (Confidential Code Analysis, CCA)**이라는 새로운 연구 분야를 제안하고 COCOA(COnfidential deteCtiOn of vulnerAbilities) 라는 솔루션을 구현했습니다. COCOA 는 암호화된 데이터에서 소스 코드 내용을 노출하지 않고 취약점 탐지를 가능하게 하기 위해 정적 코드 분석 (SCA) 과 검색 가능한 대칭 암호화 (SSE) 를 결합합니다.

이 방법론은 두 가지 명확한 단계를 통해 작동합니다.

1. 코드 프라이버시 단계 (개발자 측):

• 중개 토큰 언어 (ITL) 변환: 소스 코드 (예: PHP) 는 토큰 스트림으로 파싱됩니다. 이러한 토큰은 정규화되어 ITL 로 변환되는데, 이는 변수 이름, 연산자, 함수를 VAR0, INPUT, XSS_SENS 와 같은 일반 토큰으로 추상화하면서도 논리와 의미론을 보존합니다.
• 데이터 및 제어 흐름 추출: 시스템은 데이터 및 제어 흐름 그래프 (DCFG) 를 추출합니다. 이는 데이터 종속성 (할당, 함수 인수) 과 제어 흐름 (조건 분기, 루프) 을 추적합니다. 특히, 제어 흐름 메타데이터 (depth(중첩 수준), order(깊이 내 순서), type(if/else/elseif)) 로 ITL 튜플을 확장합니다.
• 역색인 생성: DCFG 는 ITL 토큰을 키 (key_ind) 로 하고 흐름 내 다음 노드와의 연결을 나타내는 확장된 ITL 튜플을 값 (value_ind) 으로 하는 역색인으로 표현됩니다.
• 암호화 (EII 구성): 색인은 하이브리드 방식을 사용하여 암호화되어 암호화된 역색인 (EII) 을 형성합니다.
  • 결정적 암호화 (DET): key_ind 에 적용되어 특정 토큰 검색을 위한 등가 테스트를 허용하면서도 카운터를 통해 고유성을 보장합니다.
  • 무작위 암호화 (RND): value_ind 에 적용되어 의미론적 보안을 보장하고 패턴 유출을 방지합니다.
  • 순서 노출 암호화 (ORE): 제어 흐름 분석에 필요한 비교 연산을 허용하기 위해 숫자 필드 (줄 번호, 깊이, 순서, 유형) 에 적용되지만 평문 값을 노출하지는 않습니다.

2. 암호화된 코드 분석 단계 (분석자 측):

• 권한 부여: 개발자는 분석자에게 특정 ITL 토큰에 대한 키 (암호화 토큰) 를 제공하여 XSS, SQLi 와 같은 특정 취약점 클래스를 검색할 수 있는 권한을 부여합니다.
• 취약점 탐지: 분석자는 EII 에 대해 하향식 데이터 흐름 분석을 수행합니다.
  • 경로 찾기: 민감한 싱크 (예: echo) 에서 시작하여 제공된 키를 사용하여 EII 를 탐색하고, 데이터 흐름 경로를 진입점 (예: $_POST) 으로 거슬러 추적합니다.
  • 경로 검증: 시스템은 제어 흐름 순서를 위반하는 경로와 같은 유효하지 않은 경로를 필터링하고 제어 흐름 컨텍스트에 따라 경로를 집계합니다.
  • 취약점 결정: 경로를 진입점의 존재와 정화 함수의 부재에 대해 확인합니다. 유효한 취약 경로는 개발자에게 반환됩니다.

주요 기여

1. 기밀 코드 분석 (CCA) 의 정의: 이 논문은 정적 분석 작업이 암호화된 코드에서 수행되어 프라이버시를 유지하면서도 소프트웨어 품질을 보장하는 새로운 연구 분야로서 CCA 를 공식적으로 정의합니다. 이는 Encrypt, Authorise, Analyse 프로토콜을 포함하는 공식적인 체계를 도입합니다.
2. 새로운 SCA-SSE 통합: 저자들은 SCA 와 SSE 를 결합한 최초의 솔루션을 제시합니다. 여기에는 암호화된 데이터에서 제어 흐름 추적을 포함한 데이터 흐름 분석을 가능하게 하는 특정 데이터 구조 (EII) 와 암호화 방식이 포함됩니다.
3. COCOA 프로토타입: PHP 웹 애플리케이션에서 SQL 삽입 (SQLi) 과 크로스 사이트 스크립팅 (XSS) 을 탐지하기 위해 완전히 구현된 도구입니다. 이 도구는 오픈 소스입니다.
4. 보안 및 성능 평가: 이 논문은 EII 가 기본 구조 정보 (크기) 와 승인된 쿼리의 결과만 유출함을 보여주는 공식적인 보안 분석을 제공합니다. 또한 합성 및 실제 데이터셋에 대한 광범위한 실험적 평가를 포함합니다.

실험 결과

저자들은 NIST SARD 의 3,205 개 PHP 코드 발췌문으로 구성된 합성 데이터셋과 7 개의 실제 오픈 소스 PHP 애플리케이션으로 구성된 데이터셋을 사용하여 COCOA 를 평가했습니다.

• 효과성:
  • 합성 데이터셋에서 COCOA 는 80% 정밀도와 24% 재현율(F1 점수: 37%) 을 달성하여 WAP 및 PHPCorrector 와 같은 표준 도구와 유사한 성능을 보였으며, Pixy 보다 낮은 거짓 양성률을 기록했습니다.
  • 실제 애플리케이션에서 COCOA 는 93% 정밀도(WAP 와 일치) 와 56% 재현율(F1 점수: 70%) 을 달성했습니다. 정밀도와 거짓 양성률 측면에서 PHPCorrector 와 Pixy 를 능가했습니다.
  • 저자들은 일부 도구보다 재현율이 낮은 것은 암호화 방법 자체가 아니라 프로토타입의 현재 한계인 절차 간 분석 및 복잡한 객체 지향 코드 처리 능력에 기인한다고 지적합니다.
• 성능 오버헤드:
  • 암호화 (DET, RND, ORE 포함) 를 적용한 7 개 앱의 4,251 줄 코드 처리에는 209ms가 소요되었으며, 암호화 없이 처리할 때는 146ms가 소요되었습니다.
  • 이는 표준 암호화 (DET/RND) 에 대해 42.7% 의 오버헤드를 의미합니다. 제어 흐름 데이터에 ORE 를 포함하면 총 오버헤드가 **410%**로 증가하여 총 소요 시간은 748ms가 되었습니다.
  • 저자들은 프라이버시 혜택을 고려할 때 42.7% 의 오버헤드를 "적당하다"고 평가하며, 코드 프라이버시 단계 (암호화) 는 일반적으로 애플리케이션당 일회성 비용임을 지적합니다.
• 저장 공간: 추상화 및 주석/관련 없는 데이터 제거로 인해 암호화된 색인은 일반적으로 원본 소스 파일보다 적은 디스크 공간을 차지했으나, ORE 암호화는 크기를 크게 증가시켰습니다 (예: 한 테스트 케이스에서 78KB 에서 645KB 로 증가).

중요성 및 주장

이 논문은 기밀 코드 분석이라는 유망한 새로운 연구 분야를 개척한다고 주장합니다. 이 접근 방식은 개발자가 지식 재산권이나 코드 프라이버시를 희생하지 않고도 보안 분석을 제 3 자에 아웃소싱할 수 있게 해준다고 논증합니다.

저자들은 COCOA 가 다음을 가능하게 한다고 명시합니다.

• 기밀 코드 분석 서비스 (COCOAaaS): 테스트 회사는 평문을 결코 보지 않고도 암호화된 코드를 분석할 수 있습니다.
• 프라이버시 보호 품질 보증: 개발자는 취약점을 식별하면서도 코드를 보호할 수 있습니다.
• 미래 확장: 이 프레임워크는 ITL 과 지식 데이터베이스를 업데이트함으로써 다른 취약점 유형 (예: 원격 파일 포함), 다른 분석 작업 (예: 형식 검사, 코드 냄새 검증), 다른 프로그래밍 언어 (예: Java) 로 확장되도록 설계되었습니다.

이 논문은 성능 비용이 존재하지만, 소스 코드를 노출하지 않고 암호화된 코드에서 정적 분석을 수행할 수 있는 능력은 소프트웨어 보안과 프라이버시 사이의 균형을 맞추는 데 있어 중요한 진전이라고 결론지었습니다.