SoK: Post-Quantum Cryptography (PQC) Implementation in Software Systems

이 지식 체계화(SoK) 논문은 인간, 조직, 기술(HOT) 프레임워크를 통해 양자 내성 암호(PQC) 구현 과제를 분석하여 인간 및 조직적 요인이 미개척 상태로 남아 있는 심각한 불균형을 밝히고, 성공적인 통합을 위한 조율된 사회 기술적 전환을 안내하기 위해 PQC-HOT 모델을 제안한다.

핵심

개요: 양자 폭풍이 다가오고 있습니다

디지털 보안의 세계를 당신의 은행 계좌, 비밀번호, 개인 메시지를 보호하는 요새라고 상상해 보세요. 지금 이 순간, 문에 걸려 있는 자물쇠들은 매우 튼튼한 금속(RSA 와 같은 현재의 암호화 방식)으로 만들어져 있습니다.

하지만 과학자들은 양자 컴퓨터라는 새로운 종류의 "슈퍼 드릴"을 만들고 있습니다. 이 드릴이 충분히 강력해지면, 저 금속 자물쇠들을 단 몇 초 만에 부수고 들어가 당신의 데이터를 무방비 상태로 노출시킬 것입니다.

이를 막기 위해 암호학자들은 **양자 내성 암호(Post-Quantum Cryptography, PQC)**라고 불리는 다른 재질로 만든, 훨씬 더 강력한 새로운 자물쇠를 발명했습니다. 이 새로운 자물쇠들은 저 슈퍼 드릴조차도 뚫을 수 없도록 설계되었습니다.

문제점: 우리는 이 새로운 자물쇠의 설계도는 가지고 있지만, 우리가 매일 사용하는 수백만 개의 기존 건물(소프트웨어 시스템)에 이 자물쇠들을 실제로 어떻게 설치해야 할지는 모릅니다. 이 논문은 왜 이 새로운 자물쇠를 설치하는 것이 그토록 어려운지에 대한 방대한 조사 보고서입니다.

---

조사 내용: "세 다리 의자" 살펴보기

저자들은 사람들이 문제를 오직 **기술(Technology)**이라는 하나의 관점으로만 바라보고 있다는 점을 깨달았습니다. 사람들은 "수학이 맞는가?" 그리고 "코드가 빠른가?"만을 묻고 있었습니다.

하지만 저자들은 이 새로운 자물쇠를 설치하는 것이 마치 세 다리 의자의 균형을 잡는 것과 같다고 주장합니다. 만약 다리 하나가 없거나 흔들거린다면, 전체가 쓰러지고 맙니다. 그들은 이 세 가지 다리를 HOT이라고 부릅니다:

1. H - 인간 (Human): 자물쇠를 만들고 설치해야 하는 사람들(개발자).
2. O - 조직 (Organisation): 비용을 지불하고, 규칙을 만들며, 전환 과정을 관리하는 기업과 정부.
3. T - 기술 (Technology): 자물쇠를 만드는 데 사용되는 실제 수학, 코드, 그리고 도구들.

발견된 사실: "기술적 편향"

연구진은 PQC 에 관한 방대한 문헌을 검토했습니다. 그들은 처음에 10,000 건이 넘는 논문을 대상으로 삼았으나, 체계적인 필터링 과정을 거쳐 최종 분석에 포함될 29 편의 핵심 연구만을 선별했습니다. 그들이 발견한 내용은 다음과 같습니다:

• "기술" 다리가 압도적으로 큽니다: 최종적으로 선정된 29 편의 연구 중 거의 모든 것이 기술에 집중되어 있습니다. 사람들은 더 나은 수학을 발명하고, 코드 라이브러리를 작성하며, 알고리즘이 제대로 작동하는지 테스트하는 데 바쁩니다. 이는 완벽한 자물쇠 설계도가 가득 찬 창고를 가진 것과 같습니다.
• "인간" 다리는 매우 작습니다: 개발자들에게 이 새로운 자물쇠를 사용하는 법을 어떻게 가르칠 것인가에 대한 연구는 매우 적습니다. 대부분의 교육은 실제 기업에서 일하는 소프트웨어 엔지니어가 아닌 대학생들을 대상으로 합니다. 이는 설계도는 있지만, 건설 현장 인력에게 줄 설명서가 없는 것과 같습니다.
• "조직" 다리는 완전히 사라졌습니다: 기업이 이 전환을 어떻게 계획해야 하는지에 대한 연구는 단 한 건도 없었습니다. 최종 분석에 포함된 29 편의 연구 중 거버넌스 구조, 조직적 계획, 규제 준수를 명시적으로 다룬 논문은 전혀 존재하지 않았습니다. 이는 자물쇠와 작업반장은 있지만, 언제 시작해야 할지 알려줄 프로젝트 매니저가 없는 것과 같습니다.

비유: 자동차가 고속도로를 달리고 있는 동안 엔진을 교체하려고 한다고 상상해 보세요.

• 기술은 새로운 엔진입니다.
• 인간은 엔진을 교체하려는 정비사입니다.
• 조직은 교통 통제 및 새 엔진을 사기 위한 예산입니다.
• 논문의 발견: 우리는 훌륭한 새 엔진(기술)을 가지고 있지만, 정비사(인간)를 훈련시키지 않았고 교통 정리(조직)를 담당할 계획조차 세우지 않았습니다. 만약 나머지 두 가지 없이 그냥 엔진을 달아버린다면, 자동차는 사고가 날 것입니다.

"교차적" 위험

이 논문은 이러한 문제들이 각자의 영역에 머물러 있지 않다는 점을 설명합니다. 이 문제들은 서로 뒤섞여 상황을 악화시킵니다. 이를 **사회 - 기술적 결합(Socio-Technological Coupling)**이라고 부릅니다.

• 예시: 만약 기술 도구가 혼란스럽다면(설계가 잘못되었다면), 인간인 개발자는 스트레스를 받고 실수를 하게 됩니다.
• 결과: 조직이 교육이나 검수 계획을 세우지 않았다면, 그 실수는 시스템이 실패할 때까지 발견되지 않은 채 남게 됩니다.

저자들은 이를 "악순환"이라고 부릅니다. 약한 도구가 인간의 실수를 유발하고, 조직적 지원의 부재가 그 실수를 재앙으로 만듭니다.

해결책: PQC-HOT 모델

이를 해결하기 위해 저자들은 PQC-HOT 모델이라는 새로운 사고방식을 제안합니다.

이 모델을 **세 방향의 핸드셰이크(맞잡기)**라고 생각하면 됩니다. 포스트 퀀텀 보안이 작동하려면 단순히 수학만 업그레이드해서는 안 됩니다. 세 가지를 동시에 업그레이드해야 합니다:

1. 더 나은 도구를 구축하여 인간이 사용하기 쉽게 만들어야 합니다 (기술).
2. 인간을 교육하여 안전하게 사용하는 법을 이해하게 해야 합니다 (인간).
3. 기업 계획을 수립하여 전환을 위한 시간, 돈, 규칙을 제공해야 합니다 (조직).

핵심 요점

이 논문은 포스트 퀀텀 보안으로 넘어가는 과정이 단순한 수학 문제가 아니다라고 결론짓습니다. 이것은 수학 문제로 위장된 사람과 경영의 문제입니다.

우리가 오직 "자물쇠"(코드)에만 집중하고 "열쇠공"(개발자)과 "건물주"(조직)를 무시한다면, 새로운 보안은 실패할 것입니다. 성공하기 위해서는 코드, 사람, 그리고 비즈니스 계획이 모두 조화롭게 작동하는 완전한 시스템 개편으로서 이 전환을 다루어야 합니다.

기술 요약

기술 요약: 소프트웨어 시스템 내 양자 내성 암호(PQC) 구현에 관한 SoK (지식 체계화 연구)

1. 문제 정의

양자 내성 암호(Post-Quantum Cryptography, PQC)로의 전환은 쇼어(Shor) 및 그로버(Grover) 알고리즘이 제기하는 미래의 양자 컴퓨팅 위협으로부터 소프트웨어 시스템을 보호하기 위해 매우 중요합니다. 표준화된 PQC 알고리즘은 이미 존재하지만, 이를 실제 소프트웨어 시스템에 안전하게 통합하는 것은 여전히 중대한 과제로 남아 있습니다. 현재의 연구는 주로 알고리즘 설계, 보안 증명 및 성능 벤치마킹에 집중되어 있습니다. 그러나 이러한 초점은 성공적인 구현에 필요한 보다 넓은 사회-기술적 요인들에 대한 통찰을 제공하는 데 한계가 있습니다.

본 연구에서 식별한 핵심 문제는 PQC 구현이 흔히 순수하게 기술적인 이주(migration) 과정으로 취급된다는 점입니다. 실제로 이는 암호 메커니즘, 개발자 전문성, 그리고 조직적 거버넌스 사이의 복잡한 상호작용을 포함합니다. 기존 문헌은 이러한 차원들—인간(Human), 조직(Organizational), 기술(Technological)—이 어떻게 결합하여 구현 결과에 영향을 미치는지에 대한 통합된 종합적 분석이 부족합니다. 결과적으로, 현재의 관행은 파편화된 접근 방식, 실험적인 통합, 그리고 통일된 지침의 부재로 특징지어지며, 이는 설정 오류 및 불안전한 배포의 위험을 높입니다.

2. 방법론

본 연구는 구조화되고 재현 가능한 검토를 보장하기 위해 Kitchenham과 Charters 의 2 단계 프로토콜(계획 및 실행)을 따르는 지식 체계화(Systematisation of Knowledge, SoK) 접근 방식을 채택합니다.

• 범위 정의: 본 검토는 PICOC 프레임워크(Population, Intervention, Comparison, Outcome, Context) 를 활용하여 범위를 정의하며, PQC 의 소프트웨어 개발을 위한 방법론, 프레임워크, 가이드라인, 도구 및 교육적 개입에 초점을 맞춥니다.
• 데이터 소스: 문헌은 주요 디지털 라이브러리(ACM, IEEE Xplore, Springer 등) 와 주요 사이버 보안 컨퍼런스(USENIX, CCS 등) 에서 검색되었습니다.
• 선정 기준: 2020 년 1 월부터 2026 년 2 월 사이의 영어로 작성된 피어 리뷰 출판물을 포함하였으며, 소프트웨어 내 PQC 구현을 다루는 특정 포함 기준을 적용했습니다. 스노볼링(snowballing) 을 통해 관련성이 높은 2017 년과 2019 년의 예외적인 연구 2 건을 추가로 포함했습니다.
• 선정 과정: PRISMA 2020 프레임워크에 따라 디지털 라이브러리 검색, 타겟 컨퍼런스/저널 검색, 그리고 역방향/순방향 스노볼링의 세 단계를 거쳤습니다. 초기 10,000 개 이상의 출판물 풀에서 29 개의 연구가 최종 분석 대상으로 선정되었습니다.
• 분석: 데이터 추출 및 합성을 위해 Braun 과 Clarke 의 6 단계 주제 분석(thematic analysis) 을 적용했습니다. 발견된 결과는 구현 접근 방식과 과제를 세 가지 차원(인간, 조직, 기술) 에 따라 분석하기 위해 HOT(Human-Organisation-Technology) 프레임워크에 체계적으로 매핑되었습니다.

3. 주요 기여

본 논문은 PQC 구현 분야에 네 가지 주요 기여를 합니다:

1. 사회-기술적 종합: 저자들은 기존의 PQC 구현 접근 방식(가이드라인, 프레임워크, 도구 및 교육적 개입) 을 HOT 관점에 매핑하여, 기술적 솔루션이 지배적인 반면 인간 및 조직적 고려 사항은 과소 탐구되고 있는 구조적 불균형을 밝혀냈습니다.
2. PQC-HOT 모델: 인간, 조직, 기술적 요인 간의 상호 의존성을 설명하는 개념적 프레임워크를 도입합니다. 이 모델은 PQC 구현을 고립된 활동이 아니라, 암호 메커니즘, 개발자 역량, 조직 프로세스가 보안 결과를 공동으로 결정하는 사회-기술적 시스템으로 개념화합니다.
3. 계층적 과제 분류: 구현 과제에 대한 계층적 분류를 구축하여, 이들이 HOT 차원에 걸쳐 어떻게 분포되어 있는지 보여줍니다. 이는 교차적이고 상호 의존적인 제약 사항을 강조함으로써 기존의 파편화된 분류를 확장합니다.
4. 통합된 연구 의제: 식별된 격차를 바탕으로, 효과적이고 실무 중심적인 PQC 구현을 진전시키기 위한 실행 가능한 연구 방향을 제시하며, 통합된 라이프사이클 인식 전략의 필요성을 강조합니다.

4. 주요 결과

4.1. RQ1: 구현 접근 방식

검토 결과 네 가지 범주의 개입이 확인되었으며, 이는 기술적 차원에 크게 치우쳐 있습니다:

• 가이드라인 (G1): 주로 수학적 기초와 형식적 보안 증명(기술적) 에 초점을 맞춥니다.
• 프레임워크 (F1–F3): 통합 프레임워크, 인증 기관 확장, 테스트/평가 프레임워크를 포함하며, 모두 주로 기술적 차원에서 작동합니다.
• 도구 및 라이브러리 (T1–T4): 가장 운영적으로 관련성이 높은 범주로, 구현 라이브러리, 프로토콜 플러그인, 테스트 도구 및 마이그레이션 도구를 포함합니다. 이들은 거의 전적으로 기술적입니다.
• 교육적 개입 (E1–E2): 전통적 및 능동적 교수 전략을 다룹니다. 이는 인간 차원을 다루기는 하지만, 주로 학술적 청중과 이론적 이해를 대상으로 하며 전문 개발자의 실무적 연습을 목표로 하지는 않습니다.
• 조직적 차원: 주목할 점은, PQC 구현을 위한 거버넌스 구조, 조직적 계획 또는 규제 준수를 명시적으로 다룬 연구가 **제로(0)**라는 것입니다.

4.2. RQ2: 구현 과제

분석 결과, 과제들은 고립된 것이 아니라 HOT 차원 간의 구조적 불일치에서 발생합니다. 과제는 다섯 가지 레이어로 구성되며, 이는 계층적으로 분류됩니다:

1. 암호 및 구현 수준의 취약성: 알고리즘의 약점, 미성숙한 구현, 부채널 공격(side-channel attacks) 에서 위험이 발생합니다. 수학적으로 안전한 알고리즘이라도 코딩 오류, 안전하지 않은 최적화, 또는 상수 시간(constant-time) 실행의 부재로 인해 실패할 수 있습니다.
2. 시스템 수준 및 라이프사이클 제약: PQC 는 상당한 오버헤드(키 크기, 메모리, 계산량) 를 도입하며, 이는 레거시 아키텍처와 충돌합니다. 기존 시스템의 암호 민첩성(cryptographic agility) 부족은 점진적인 마이그레이션을 어렵게 만들며, 종종 광범위한 리팩토링을 요구합니다.
3. 도구 및 생태계 리스크: 생태계가 파편화되어 있으며, 도구 및 라이브러리 간의 상호 운용성이 제한적입니다. 잘못 설계된 API, 안전하지 않은 기본값, 표준화된 검증 메커니즘의 부재는 개발자 오류의 가능성을 높입니다.
4. 조직 및 거버넌스 장벽: 조직은 표준화, 마이그레이션 타임라인, 규제 준수에 대한 불확실성(uncertainty) 에 직면해 있습니다. 대규모 전환을 안내할 성숙도 모델이나 구조화된 거버넌스 프레임워크가 부족합니다.
5. 인간 중심적 취약성: 이론적 지식과 실무적 구현 기술 사이에 괴리가 존재합니다. 개발자들은 보안 PQC 코딩(예: 메모리 안전성, 파라미터 선택) 에 필요한 특정 전문 지식이 부족한 경우가 많으며, 교육적 이니셔티브는 전문적이고 실무 중심적인 요구를 거의 다루지 않습니다.

이러한 다섯 가지 레이어는 고립되어 존재하는 것이 아니라, **교차적 과제(Cross-Cutting Challenges)**를 통해 상호 연결됩니다. 본 연구는 위험이 차원을 가로질러 전파된다는 점을 강조합니다. 예를 들어, 잘못된 도구 설계(기술적) 는 개발자의 인지 부하와 오류율(인간적) 을 높이며, 약한 거버넌스(조직적) 는 이러한 문제를 완화하지 못합니다. 즉, 교차적 과제는 다섯 가지 레이어와 HOT 차원 전체에 걸쳐 상호 의존적인 제약 조건으로 작용하며, 한 영역의 실패가 다른 영역으로 연쇄적으로 전이되는 구조를 형성합니다.

5. 의의 및 주장

본 논문은 PQC 구현이 단순한 암호학적 업그레이드가 아니라 근본적으로 사회-기술적 전환이라고 주장합니다. 본 연구의 의의는 다음과 같습니다:

• 문제의 재정의: 문제를 순수한 알고리즘적 과제에서 소프트웨어 아키텍처, 개발자 행동, 조직 전략을 포함하는 시스템적 엔지니어링 문제로 전환합니다.
• 불균형 노출: HOT 프레임워크를 적용함으로써, 현재의 지식 체계가 기술적 솔루션에 지나치게 편향되어 있어 조직적 준비성과 인간 역량 개발이라는 중요한 공백을 남겨두고 있음을 입증합니다.
• PQC-HOT 모델 도입: 이 모델은 차원 간의 불일치가 어떻게 연쇄적인 위험을 만들어내는지 분석하기 위한 구조화된 렌즈를 제공합니다. 저자들은 안전한 구현을 위해서는 암호 메커니즘, 개발자 역량, 조직 프로세스가 조율된 발전을 이루어야 한다고 주장하며, 고립된 기술적 개선만으로는 불충분하다고 강조합니다.
• 향후 연구 가이드: 향후 연구는 기술 중심적 접근 방식을 넘어 사용성, 거버넌스, 개발자 경험을 다루는 통합된 라이프사이클 인식 프레임워크를 개발해야 한다고 주장합니다. 또한 지속 가능한 PQC 배포를 가능하게 하기 위해 조직 성숙도 모델, 실무 중심 교육 도구, 그리고 보안 설계 기반의 추상화 개발을 촉구합니다.

저자들은 인간, 조직, 기술적 요인 간의 상호 의존성을 해결하지 않는다면, 이론적으로 안전한 PQC 솔루션이라 할지라도 실제 소프트웨어 시스템에서 신뢰할 수 있고 확장 가능하며 안전한 배포를 달성하는 데 실패할 수 있다고 결론짓습니다.