Improved Leakage Abuse Attacks in Searchable Symmetric Encryption with eBPF Monitoring

이 논문은 eBPF 를 활용한 시스템 수준 모니터링이 검색 가능 대칭 암호화 (SSE) 에서 기존 위협 모델을 넘어선 새로운 누출 패턴을 드러내어 기존 공격을 강화할 수 있음을 보여줌으로써, 이론적 보안과 실제 시스템 노출 간의 격차를 해소해야 할 필요성을 강조합니다.

핵심

이 논문은 **"암호화된 데이터를 검색할 때, 암호화만으로는 부족할 수 있다"**는 놀라운 사실을 발견한 연구입니다.

비유하자면, 이 연구는 **"우편함의 내용물은 자물쇠로 잠겨 있어도, 우편배달부가 어떤 우편함에 손을 대는지 지켜보면 우편물의 내용을 추측할 수 있다"**는 것을 증명했습니다.

자, 이제 이 복잡한 내용을 일상적인 언어와 비유로 쉽게 풀어보겠습니다.

---

🕵️‍♂️ 1. 배경: 암호화된 우편함 (SSE)

우리가 클라우드에 파일을 저장할 때, 해킹을 막기 위해 파일을 암호화해서 올립니다. 그리고 검색을 할 때도 암호화된 상태로 검색어를 보냅니다. 이를 **검색 가능 암호화 (SSE)**라고 합니다.

• 기존의 생각: "내용물은 암호화되어 있으니 안전해! 누가 검색했는지, 어떤 파일을 찾았는지는 알 수 없어."
• 실제 문제: 하지만 암호화된 내용만 숨기는 게 아니라, "어떤 검색어를 얼마나 자주 썼는지", "몇 개의 파일이 검색되었는지" 같은 패턴은 그대로 드러납니다. 해커들은 이 패턴을 분석해서 "아, 이 검색어는 '계약서'일 거야"라고 추측해냅니다. (이를 '누출 공격'이라고 합니다.)

🛡️ 2. 새로운 방어막과 해커의 새로운 눈 (eBPF)

최근 연구자들은 이 패턴을 숨기려고 노력했습니다. 예를 들어, 검색 결과가 10 개일 때 100 개처럼 보이게 가짜 파일을 섞거나 하는 식이죠. 하지만 이 연구팀은 **"잠금장치가 튼튼해도, 문이 열릴 때 소리가 나면 어떡하지?"**라고 생각했습니다.

여기서 등장하는 것이 eBPF입니다.

• eBPF란? 컴퓨터의 '심장' (운영체제 커널) 안에 설치된 초고속 감시 카메라입니다. 보통은 시스템 성능을 모니터링할 때 쓰지만, 해커가 이 카메라를 설치하면 **"어떤 파일이 언제, 어떻게 열렸는지"**를 아주 정밀하게 볼 수 있습니다.

🔍 3. 이 연구의 핵심 발견: "파일 이름"이라는 비밀

이 연구팀은 eBPF 카메라를 통해 다음과 같은 사실을 발견했습니다.

"암호화된 파일의 내용물은 자물쇠로 잠겨 있지만, 파일의 '이름'은 암호화되지 않은 채 그대로 남아있었다!"

비유로 설명하면:

• 해커는 암호화된 우편함 (파일 내용) 을 열 수 없습니다.
• 하지만 우편배달부 (시스템) 가 **"A 우편함, B 우편함, C 우편함"**을 차례로 꺼내는 모습을 eBPF 카메라로 찍어봤습니다.
• 해커는 미리 "A 우편함에는 '계약서'가 들어있고, B 우편함에는 '급여명세서'가 들어있다"는 정보를 알고 있었습니다.
• 그래서 **"오늘 검색할 때 A, B, C 우편함을 꺼냈네? 아! 검색어는 '계약서'와 '급여명세서'를 동시에 찾는 거구나!"**라고 바로 알아챌 수 있었습니다.

기존의 방어막 (가짜 파일 섞기 등) 은 '몇 개'가 검색되었는지만 숨겼을 뿐, '어떤 것들'이 검색되었는지는 파일 이름이라는 단서로 완전히 뚫려버린 것입니다.

📊 4. 실험 결과: 77% 에서 100% 로

연구팀은 실제 데이터를 가지고 실험을 해보았습니다.

• 기존 방법 (패턴만 분석): 검색된 파일 개수만 보고 추측해서 **77.8%**만 맞췄습니다. (예: "계약서"와 "예산서"가 비슷한 수의 파일에 들어있으면 구별 못 함)
• 새로운 방법 (eBPF + 파일 이름): 파일이 열릴 때의 이름을 eBPF 로 지켜보고 추측하니 **100%**를 맞췄습니다.
  • "계약서"와 "예산서"는 검색된 파일 개수가 똑같아서 구별이 안 됐지만, 실제로 열린 파일들의 이름 조합을 보면 완전히 달랐기 때문입니다.

💡 5. 결론과 교훈: "이론과 현실의 괴리"

이 논문의 결론은 매우 중요합니다.

1. 이론은 안전하지만, 현실은 위험할 수 있다: 암호학적으로 완벽한 이론을 따르는 시스템이라도, 컴퓨터가 실제로 작동할 때 (시스템 레벨) 남기는 흔적 (파일 접근 기록) 을 보면 보안이 뚫릴 수 있습니다.
2. 새로운 위협 모델 필요: 앞으로 암호화 시스템을 설계할 때, 단순히 "내용물이 암호화되었는가"만 생각하면 안 됩니다. **"컴퓨터가 파일을 열 때 어떤 흔적을 남기는가?"**까지 고려해야 합니다.
3. 해결책: 파일 이름을 숨기거나, 파일을 읽는 순서를 무작위로 섞는 (ORAM 같은 기술) 등의 추가적인 보호 장치가 필요하다는 것을 시사합니다.

📝 한 줄 요약

"비밀스러운 내용물은 자물쇠로 잠겼지만, 해커가 컴퓨터가 어떤 파일을 열었는지 '감시 카메라 (eBPF)'로 지켜봤더니, 파일 이름만으로도 비밀이 다 털려버렸다!"

이 연구는 우리가 믿고 있던 암호화 보안이 실제 시스템 환경에서는 얼마나 취약할 수 있는지 경고하며, 더 강력한 방어책을 마련해야 함을 알려줍니다.

기술 요약

논문 요약: eBPF 모니터링을 통한 검색 가능 대칭 암호화 (SSE) 의 개선된 누출 악용 공격

1. 문제 정의 (Problem)

• 배경: 검색 가능 대칭 암호화 (Searchable Symmetric Encryption, SSE) 는 신뢰할 수 없는 클라우드 서버에 저장된 암호화된 데이터를 검색할 수 있게 해주는 기술입니다. 하지만 SSE 는 암호화된 콘텐츠 자체는 숨기더라도, 쿼리 패턴 (빈도), 결과 집합의 크기 (Volume), 접근 패턴 등의 메타데이터를 누출합니다.
• 기존 한계: 이러한 누출을 악용하는 '누출 악용 공격 (Leakage Abuse Attacks)' (예: 빈도 매칭 공격, FMA) 은 기존에 잘 알려져 있습니다. 최근 연구들은 패딩 (Padding) 이나 볼륨 숨기기 등의 방어 기법으로 이러한 공격을 어렵게 만들었습니다.
• 핵심 질문: 암호학적 방어 기법이 쿼리 패턴을 숨기더라도, 시스템 레벨 (Kernel Level) 에서 발생하는 동작은 어떻게 될까요? 특히, 클라우드 서비스 제공자 (CSP) 가 암호화된 파일을 실제로 읽을 때 발생하는 저수준 시스템 호출 (System Calls) 은 어떤 새로운 정보를 누출할 수 있는가?

2. 방법론 (Methodology)

이 연구는 eBPF (Extended Berkeley Packet Filter) 기술을 활용하여 SSE 시스템의 내부 동작을 관찰하고 새로운 누출 벡터를 규명합니다.

• eBPF 활용: eBPF 는 Linux 커널 내에서 안전하게 실행되어 시스템 이벤트 (파일 열기, 읽기 등) 를 실시간으로 추적할 수 있는 기술입니다. 공격자는 CSP 서버에 eBPF 프로그램을 주입하여 검색 연산 중 발생하는 시스템 호출을 모니터링합니다.
• 새로운 누출 패턴 정의 ($L_{fileAccess}$):
  • 기존 SSE 모델은 주로 '결과 문서의 수'나 '쿼리 빈도'를 누출로 간주했습니다.
  • 본 연구는 어떤 암호화된 파일들이 실제로 접근되었는지 (파일명) 를 새로운 누출 패턴인 $L_{fileAccess}$ 로 정의합니다.
  • 많은 SSE 구현체에서 암호화된 파일의 이름 (Filename) 을 변경하거나 난독화하지 않기 때문에, 커널 레벨에서 관찰된 파일명은 원본 평문 파일명과 직접적으로 매핑됩니다.
• 개선된 공격 기법 (eFMA):
  • 기존 빈도 매칭 공격 (FMA) 을 eBPF 기반 강화 빈도 매칭 공격 (eFMA) 으로 확장합니다.
  • 과정:
    1. 각 쿼리 토큰에 대해 반환된 문서 수 (기존 FMA) 와 접근된 암호화 파일들의 정확한 집합 (eBPF 통해 획득) 을 기록합니다.
    2. 공격자가 가진 보조 지식 (Auxiliary Knowledge, 예: 평문 데이터셋의 빈도 및 파일 매핑) 과 비교합니다.
    3. 빈도가 동일한 여러 키워드가 있어 기존 FMA 로 구분이 안 될 경우, 접근된 파일 집합의 일치 여부를 기준으로 매핑을 수행합니다.
    • 수식적 표현: $t_w = w$ if $F_e = F_p$ (암호화 파일 집합 $F_e$가 평문 파일 집합 $F_p$와 일치할 때).

3. 주요 기여 (Key Contributions)

1. 새로운 누출 패턴 ($L_{fileAccess}$) 규명 및 정의: SSE 검색 시 시스템 레벨에서 발생하는 파일 접근 패턴이 암호화된 파일명을 통해 직접적인 누출이 됨을 증명했습니다.
2. 정확도 극대화 공격 (eFMA) 제안: 기존 빈도 기반 공격이 실패하는 경우 (동일 빈도/크기를 가진 키워드) 에도, 파일 접근 패턴을 추가함으로써 쿼리 복원 정확도를 획기적으로 높이는 공격 기법을 제시했습니다.
3. 이론과 현실의 격차 강조: 암호학적으로 안전한 SSE 모델조차 시스템 레벨의 구현 세부사항 (파일명 유지 등) 으로 인해 실제 배포 환경에서는 취약할 수 있음을 보여주었습니다.

4. 실험 결과 (Results)

• 실험 환경: DK-Nguyen DSSE(동적 SSE) 스킴을 Docker 컨테이너에서 실행하고, Enron 이메일 데이터셋 (100 개) 을 사용했습니다. bpftrace 도구를 사용하여 시스템 호출을 추적했습니다.
• 비교 대상:
  • Baseline (FMA): 결과 크기 (Result Size) 만을 이용한 기존 빈도 매칭 공격.
  • Enhanced (eFMA): 결과 크기 + eBPF 를 통한 파일 접근 패턴을 이용한 강화 공격.
• 성능 지표: 쿼리 복원 정확도 (Query Recovery Accuracy).
• 결과:
  • Baseline (FMA): 77.8% 정확도. (빈도가 동일한 여러 키워드를 구분하지 못해 오류 발생)
  • Enhanced (eFMA): 100% 정확도.
  • 분석: T12, T13 등 빈도가 12 로 동일하여 기존 공격으로 식별 불가능했던 토큰들이, eBPF 를 통해 관찰된 서로 다른 파일 접근 집합을 기준으로 완벽하게 식별되었습니다.

5. 의의 및 시사점 (Significance)

• 시스템 레벨 보안의 중요성: SSE 의 보안은 암호학적 프로토콜뿐만 아니라, 운영체제 및 파일 시스템 레벨의 구현 방식 (파일명 처리, I/O 패턴 등) 에도 크게 의존함을 보여줍니다.
• 방어 기법의 재고찰: 기존에 '안전하다'고 간주되던 Forward-Private SSE 등도 시스템 레벨 누출에는 무방비할 수 있습니다.
• 미래 방향:
  • 향후 SSE/DSSE 설계 시 시스템 레벨 누출 ($L_{fileAccess}$) 을 명시적으로 고려한 위협 모델이 필요합니다.
  • 파일 접근 패턴을 숨기기 위해 ORAM (Oblivious RAM) 과 같은 기술이나 파일명 난독화, 더미 접근 (Dummy Access) 등의 방어 기법이 필수적으로 검토되어야 합니다.
  • eBPF 와 같은 모니터링 도구의 발전으로 인해 공격자가 시스템 내부 동작을 쉽게 관찰할 수 있으므로, 실제 배포 환경에서의 보안 검증이 더욱 중요해졌습니다.

---

결론적으로, 이 논문은 암호학적 분석만으로는 충분하지 않으며, 시스템 레벨의 관찰 가능성 (Observability) 이 SSE 의 실질적인 보안을 위협할 수 있음을 eBPF 기술을 통해 실증적으로 증명했습니다. 이는 향후 더 강력한 SSE 방어 체계 설계에 있어 시스템 레벨 누출을 고려해야 할 필요성을 강력하게 제기합니다.