💻 computer science

Quantum-Resilient Banking Transaction Security using DW-HKEM: A Hybrid RSA/ML-KEM Cryptographic Gateway with Real-Time

본 논문은 현재와 미래의 양자 위협으로부터 뱅킹 트랜잭션을 보호하는 동시에 하위 호환성과 실시간 성능 모니터링을 유지하기 위해 RSA-256과 ML-KEM-768을 결합한 실용적이고 오버헤드가 낮은 하이브리드 암호화 게이트웨이(DW-HKEM)를 제시하고 검증한다.

원저자: Siddhaarth S Prabhu, Aswani Kumar Cherukuri

게시일 2026-07-21

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Siddhaarth S Prabhu, Aswani Kumar Cherukuri

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인터넷을 누구나 비밀 편지를 보내는 거대하고 북적이는 우체국이라고 상상해 보세요. 수십 년 동안 이 편지들을 안전하게 지키는 유일한 방법은 "RSA"라고 불리는 특정한 종류의 금속 상자에 담아 잠그는 것이었습니다. 이 자물쇠는 너무 복격적이어서 세계에서 가장 빠른 슈퍼컴퓨터라 할지라도 이를 따는 데 수백만 년이 걸릴 정도입니다. 하지만 함정이 있습니다. 과학자들은 언젠가 이 자물쇠들을 눈 깜짝할 사이에 열 수 있는 새로운 종류의 기계인 "양자 컴퓨터"를 발견했습니다. 무서운 점은 이 기계들이 바로 내일 도착할 수도 있다는 사실뿐만 아니라, 나쁜 놈들이 이미 오늘 우리의 잠긴 편지들을 훔쳐서 금고에 숨겨두고, 마침내 그것들을 열 수 있는 미래의 날만을 기다리고 있다는 것입니다. 이것을 "지금 수집하고, 나중에 해독하기(Harvest Now, Decrypt Later)"라고 부릅니다.

상황을 더 까다롭게 만드는 것은, 은행을 운영하는 사람들이 종종 자신들의 보안 시스템을 마법의 블랙박스처럼 취급한다는 점입니다. 그들은 편지가 들어가고 나오는 것은 알지만, 내부를 들여다보고 자물쇠가 제대로 작동하고 있는지, 누군가 자물쇠를 더 약한 것으로 바꾸려고 시도하고 있는지, 혹은 시스템이 지치고 있는지 확인할 수 없습니다. 이 논문은 이 고도의 디지털 숨바꼭질 게임에 뛰어들어, 오늘의 도둑들과 미래의 양자 기계들로부터도 우리의 편지를 안전하게 지킬 수 있는 새로운 방식의 자물쇠를 제안하며, 동시에 은행 관리자들에게 자물쇠가 작동하는 모습을 관찰할 수 있는 "X선 안경"을 제공합니다.

논문의 핵심 아이디어: 이중 잠금 시스템

이 논문의 저자들은 두 가지 문제를 걱정하고 있습니다. 바로 양자 컴퓨터라는 미래의 위협과, 현재 은행 보안이 실제로 어떻게 작동하는지에 대한 가시성 부족입니다. 이를 해결하기 위해 그들은 DW-HKEM(로봇 이름처럼 들리지만, "이중 포장 하이브리드 키 캡슐화 메커리즘"을 의미함)이라는 새로운 보안 게이트웨이를 구축했습니다.

여러분의 은행 거래를 보내야 할 소중한 다이아몬드라고 생각해 보세요. 기존 시스템에서는 다이아몬드를 하나의 매우 튼튼한 금속 상자(RSA 자물쇠)에 넣었습니다. 논문은 이것이 위험하다고 주장하는데, 왜냐하면 나중에 양자 컴퓨터가 나타나면 그 단일 상자는 박살 나서 열릴 수 있고, 다이아몬드는 영원히 사라지기 때문입니다.

대신, 저자들은 "이중 잠금" 전략을 제안합니다. 다이아몬드를 금속 상자에 넣은 다음, 그 상자 전체를 다른 재료(ML-KEM이라 불림)로 만든 두 번째의 보이지 않는, 매우 강력한 포스 필드(힘의 장)로 감싸는 것을 상상해 보세요.

첫 번째 자물쇠 (RSA): 이것은 익숙한 기존의 금속 상자입니다. 오늘날의 해커들로부터 안전을 지켜주며, 기존의 모든 은행 시스템과 호환됩니다.
두 번째 자물쇠 (ML-KEM): 이것은 새로운 양자 내성 포스 필드입니다. 양자 컴퓨터조차도 고전할 것으로 예상되는 수학적 퍼즐을 기반으로 합니다.
비밀 소스: 패키지를 열려면 두 가지 열쇠가 모두 필요합니다. 시스템은 두 자물쇠의 비밀을 하나로 섞어 실제 거래를 위한 단 하나의 초강력 키를 만들어냅니다.

논문은 만약 나쁜 놈이 "지금 수집" 데이터를 훔쳐서 양자 컴퓨터로 첫 번째 금속 상자를 부술 수 있기를 기다린다 해도, 두 번째 포스 필드가 여전히 깨지지 않는 한 다이아몬드에 접근할 수 없다고 설명합니다. 반대로, 만약 새로운 포스 필드에 결함이 생기더라도, 기존의 금속 상자가 여전히 다이아몬드를 보호하고 있을 것입니다. 이것은 "벨트와 멜빵(이중 안전장치)" 방식의 보안입니다.

"X선 안경" (실시간 모니터링)

논문의 두 번째 부분은 "블랙박스" 문제를 다룹니다. 저자들은 CryptoX라는 대시보드를 만들었습니다. 은행의 보안 제어판을 상상해 보세요. 이 제어판은 단순히 "모두 정상"이라고 말하는 것이 아니라, 모든 개별 자물쇠가 잠기는 모습, 자물거가 잠기는 데 걸리는 시간, 그리고 혹시 자물쇠가 평소보다 느리게 잠기고 있는지에 대한 실시간 영상 피드를 보여줍니다.

만약 해커가 시스템을 느리게 만들거나 강한 자물쇠를 약한 자물쇠로 바꾸려 한다면, 대시보드는 즉시 시간의 급증이나 이상한 패턴을 보여줄 것입니다. 이를 통해 은행 보안팀은 침해가 발생하기를 기다리는 대신, 즉시 문제를 포착할 수 있습니다.

결과 (수치)

저자들은 실제 은행 거래를 시뮬레이션하여 100번의 서로 다른 테스트를 통해 새로운 시스템을 테스트했습니다. 여기서 측정한 항목은 다음과 같습니다:

속도: 새로운 이중 잠금 시스템은 믿을 수 없을 정도로 빠릅니다. 기존의 RSA 키를 생성하는 데 약 103.96 ms(밀리초)가 걸린 반면, 새로운 양자 안전 부분은 단 0.63 ms밖에 걸리지 않았습니다.
비용: 시스템에 두 번째 자물쇠를 추가하는 것은 거래에 약 1.58 ms의 시간만을 추가했습니다. 저자들은 이것이 매우 빨라서 인간 사용자는 전혀 느낄 수 없는 수준이며, 마치 비디오 게임 로딩 화면에 아주 짧은 시간을 더하는 것과 같다고 언급했습니다.
크기: 트레이드오프(절충안)는 "봉투"가 조금 더 커진다는 점입니다. 새로운 시스템의 데이터 패킷은 기존의 256 bytes와 비교하여 약 1,392 bytes입니다. 그러나 저자들은 현대의 인터넷 연결 환경에서 이 추가된 크기는 매우 미미하여 전송 속도를 늦추지 않는다고 주장합니다.

그들이 주장하지 않는 것

이 논문이 주장하지 않는다는 점을 유념하는 것이 중요합니다. 저자들은 양자 컴퓨터가 오늘 당장 왔다고 주장하는 것이 아니라, 그것이 올 수도 있는 미래를 대비하는 것입니다. 또한 그들의 시스템이 영원히 완벽하다고 주장하는 것도 아닙니다. 그들은 새로운 "포스 필드" 수학(MLWE)이 언젠가 깨질 수 있음을 인정하며, 그 경우 시스템은 기존의 RSA 자물쇠를 백업으로 의존하게 된다고 말합니다. 그들은 이것이 작동할 수 있음을 보여주기 위해 표준 컴퓨터에서 이를 측정했지만, 실제 은행 서버는 훨씬 더 복잡하다는 점을 인정합니다.

결론

이 논문은 은행들이 "오늘의 안전"과 "내일의 안전" 중 하나를 선택할 필요가 없음을 시사합니다. 이 하이브리드 이중 잠금 시스템을 사용함으로써, 그들은 인터넷 속도를 늦추거나 현재의 시스템을 망가뜨리지 않고도 미래의 양자 공격으로부터 고객의 돈을 보호할 수 있습니다. 또한, CryptoX 대시보드를 추가함으로써, 그들은 마침내 블랙박스 내부를 들여다보고 모든 자물쇠가 정확하게 작동하도록 보장할 수 있게 되었습니다. 이는 미래의 컴퓨터가 얼마나 강력해지든 간에 여러분의 디지털 비밀이 비밀로 유지될 수 있는 미래를 향한 실질적이고 측정 가능한 단계입니다.

기술 요약: DW-HKEM을 이용한 양자 내성 뱅킹 트랜잭션 보안

문제 정의
본 논문은 현재 금융 인프라가 직면한 두 가지 핵심적인 취약점인 '선수집 후복호화(Harvest Now, Decrypt Later, HNDL)' 공격과 암호 시스템의 '운영적 불투명성(Operational Obscurity)' 문제를 다룹다.

HNDL 위협: 적대적 국가 및 위협 행위자들은 현재 RSA-2048로 보호되는 암호화된 뱅킹 트래픽을 가로채어 저장하고 있으며, 이는 향후 암호 해독이 가능한 양자 컴퓨터(CRQC)가 등장했을 때 이를 복호화하려는 의도를 가지고 있다. RSA는 정수 인수 분해에 의존하며, 이는 쇼어 알고리즘(Shor's algorithm)에 의해 다항 시간 내에 해결될 수 있으므로, 오늘 암호화된 데이터는 미래의 소급적 복호화에 취약한 상태로 남게 된다.
운영적 불투명성: 기존 뱅킹 시스템은 암호화 및 복호화를 "블랙박스" 연산으로 취급한다. 보안 팀은 암호화 성능에 대한 실시간 관측성을 확보하지 못하고 있으며, 이로 인해 알고리즘 다운그레이드 공격, 자원 고갈, 라이브러리 침해를 탐지하거나 포스트 퀀텀 표준으로의 마이그레이션 준비 상태를 검증하는 데 어려움을 겪고 있다.

방법론
저자들은 CryptoX라고 명명된 실시간 모니터링 대시보드와 통합된 **이중 래핑 하이브리드 키 캡슐화 메커니즘(Dual-Wrap Hybrid Key Encapsulation Mechanism, DW-HKEM)**을 제안하고 구현한다.

DW-HKEM 아키텍처:
- 하이브리드 캡슐화: 시스템은 무작위로 생성된 AES-256 세션 마스터 키( $M$ $M$ )를 두 가지 서로 다른 메커니즘을 통해 동시에 캡슐화한다:
  - RSA-2048 (OAEP-SHA256): 기존 뱅킹 PKI 및 하드웨어 보안 모듈(HSM)과의 하위 호환성을 보장한다.
  - ML-KEM-768 (FIPS 203): 모듈 학습 기반 오류(Module Learning With Errors, MLWE) 가정에 기초하여 양자 내성을 제공하는 격자 기반 키 캡슐화 메커니즘(KEM)이다.
- 키 유도: 두 캡슐화로부터 얻은 공유 비밀값( $S_{RSA}$ 및 $S_{KEM}$ )을 결합하고 SHA-256을 사용하여 해싱함으로써 최종 합성 세션 키( $K_{Session}$ )를 유도한다.
- 보안 로직: 이 구조는 향후 CRQC가 RSA를 깨뜨리더라도 MLWE 가정이 유지되는 한 세션 키가 안전함을 보장한다. 반대로, 격자 가정이 깨지더라도 RSA 계층이 보안 백스톱(backstop) 역할을 수행한다. 이러한 조합적 접근 방식은 고전적 공격자와 양자 공격자 모두로부터 보호한다.
CryptoX 실시간 대시보드:
- 암호화 연산에 대한 라이브 분석을 제공하는 Flask 기반 웹 애플리케이션이다.
- 실행 시간(time.perf_counter 사용), 연산 횟수 및 세션 통계를 추적한다.
- Chart.js를 통해 트렌드를 시각화하여 이상 징상(예: 라이브러리 침해를 나타내는 갑작스러운 레이턴시 스파이크)을 탐지하고, 용량 계획 및 마이그레이션 검증을 돕는다.
구현 세부 사항:
- ML-KEM 연산을 위해 Open Quantum Safe (OQS) 라이브러리(liboqs v0.10.0)를 사용하는 Python 기반으로 구축되었다.
- Windows 11 x86-64 워크스테이션에서 Python 3.12.2를 사용하여 테스트되었다.
- 캐싱 아티팩트를 방지하기 위해 100회의 독립적인 반복 실행을 통해 벤치마크를 수행하였다.

주요 기여
본 논문은 다음과 같은 구체적인 기여를 주장한다:

DW-HKEM의 설계 및 구현: 뱅킹 트랜잭션 보안에 특화되어 RSA-2048과 ML-KEM-768을 결합한 하이브리드 프레임워크를 설계하였다.
하이브리드 키 유도: SHA-256을 사용하여 세션 키에 대한 2계층 보호를 생성하는 개선된 KDF 설계를 통해, 고전적 및 양자 위협 모두에 대한 보안을 보장한다.
실시간 관측성: 암호화 연산을 "블랙박스" 상태에서 완전한 관측 가능 상태로 전환하여, 마이그레이션 타임라인 검증, 다운그레이드 공격과 같은 능동적 공격 탐지 및 SLA 검증을 위한 데이터를 제공하는 CryptoX 대시보드를 개발하였다.
경험적 벤치마킹: 시뮬레이션된 금융 환경에서 계산 레이턴시와 통신 오버헤드를 측정하는 종합적인 성능 테스트를 수행하였다.
위협 모델링: 제안된 시스템을 기존 RSA 전용 시스템과 비교하여 HNDL 위협 모델에 대한 회복력을 입증하는 비교 분석을 수행하였다.

실험 결과

레이턴시: DW-HKM 핸드셰이크(일반적으로 일회성 비용인 키 생성을 제외한)의 총 오버헤드는 약 1.58ms이다.
- RSA-2048 복호화(decapsulation): ~8.20 ms.
- ML-KEM-768 복호화(decapsulation): ~0.10 ms.
- 하이브리드 접근 방식은 순수 RSA 대비 핸드셰이크당 단 ~0.96ms의 오버헤드만을 추가하며, 저자들은 이 차이가 엔드 유저에게는 인지할 수 없는 수준(인간 인지 임계값 >100ms)이라고 밝히고 있다.
키 생성: ML-KEM-768 키 생성은 RSA-2048(103.96 ms)에 비해 현저히 빠른 0.63 ms를 기록하여 99.39%의 속도 향상을 보여준다.
통신 오버헤드: 하이브리드 방식은 암호문 크기를 크게 증가시킨다.
- RSA-2048 암호문: 256 바이트.
- DW-HKEM 암호문 (RSA + ML-KEM): 1,392 바이트.
- 이는 암호문 크기의 ~444% 증가 및 결합된 핸드셰이크 크기의 ~453% 증가를 의미한다. 저자들은 이것이 대역폭 페널티이지만, 고속 기업 네트워크(1 Gbps)에서의 전송 레이턴시 영향은 미미히(~0.009 ms)하다고 언급한다.

의의 및 주장
본 논문은 DW-HKM 아키텍처를 금융 분야의 포스트 퀀텀 시대로의 전환을 위한 실용적이고 확장 가능한 참조 모델로 자리매김한다.

HNDL 완화: 세션 키가 RSA와 ML-KEM 모두로부터 유도되도록 함으로써, 미래의 양자 공격자가 두 프리미티브 중 하나만 파괴할 수 있는 상황에서도 아카이브된 트래픽을 무용지물로 만든다.
규제 준수: 기존 시스템(FIPS 186)과의 하위 호환성을 유지하면서 신흥 NIST 표준(FIPS 203)에 부합하도록 설계되어, 원활한 규제 마이그레이션 경로를 용이하게 한다.
운영 가시성: CryptoX 대시보드는 "관측성 격차"를 해결하여, 보안 아키텍트가 마이그레이션 타임라인을 검증하고, 다운그레이드 공격과 같은 능동적 공격을 탐지하며, 암호 민첩성(cryptographic agility)을 보장하는 데 필요한 데이터를 제공한다.
실행 가능성: 저자들은 최소한의 계산 오버헤드(~1.58ms)와 표준 기업용 하드웨어에서 실행 가능하다는 점을 들어, 이 아키텍처가 뱅킹 트랜잭션 보안에 즉시 배포 가능한 수준임을 결론짓는다.

본 논문은 재현성과 추가 개발을 지원하기 위해 전체 소스 코드가 GitHub에 공개되어 있음을 명시하고 있다.

유사한 논문