Trusting the Null: Positive-Control Fuzzing of Post-Quantum Decode and Verify Paths in Java
이 논문은 대규모 퍼징 캠페인이 Bouncy Castle 1.85의 양자 내성 복호화 및 검증 경로에서 결함을 발견하지 못한 반면, 양성 대조 접근법은 Bouncy Castle 1.84와 여러 JDK 릴리스 모두에서 치명적인 길이 검증 결함을 찾아냄으로써 테스트 하네스를 성공적으로 검증하였으며, 이를 통해 해당 구현들이 결정의 논리가 아닌 체크의 타이밍 측면에서만 서로 다르다는 것을 밝혀냈음을 입증한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인터넷의 보이지 않는 건축 구조 속에서, 은행 계좌부터 개인적인 메시지에 이르기까지 모든 것을 보호하는 거대한 디지털 자물쇠와 열쇠 시스템이 존재합니다. 수십 년 동안 이러한 자물쇠들은 생성하기는 쉽지만 가장 강력한 컴퓨터조차 풀기 거의 불가능한 수학적 문제들에 의존해 왔습니다. 그러나 과학자들은 양자 역학의 기묘한 법칙에 따라 작동하는 새로운 종류의 컴퓨터가 결국 등장할 것이라고 오랫동안 예측해 왔습니다. 그 컴퓨터가 도착하면, 기존의 오래된 자물쇠들을 단 몇 초 만에 부술 수 있을 것입니다. 이러한 미래를 대비하기 위해, 연구자들은 현재 양자 컴퓨터가 쉽게 깨뜨릴 수 없는 다른 수학적 구조에 기반한 차세대 디지털 자물쇠를 구축하고 있습니다. 이 새로운 시스템들은 향-수십 년간 인터넷을 안전하게 지키기 위해 정부와 주요 기술 기업들에 의해 채택되고 있습니다.
이 새로운 보안 시스템에서 가장 결정적인 순간은 컴퓨터가 메시지를 처음 받는 바로 그 시점에 일어납니다. 메시지가 진짜인지 확인하거나 비밀을 풀기 전에, 컴퓨터는 먼저 가공되지 않은 데이터의 흐름을 사용 가능한 키나 서명으로 변환해야 합니다. 이 변환 단계는 시스템의 '앞문'입니다. 만약 문이 부실하게 만들어졌다면, 공격자는 자물쇠를 부술 필요 없이 그저 잘못된 모양의 물체를 손잡이에 밀어 넣는 것만으로도 충분할 것입니다. 만약 문이 잘못된 형태의 물체를 받아들인다면, 전체 시스템이 충돌하거나, 멈추거나, 혹은 더 나아가 가짜 키를 수락하도록 속을 수도 있습니다. 이러한 앞문이 모든 잘못된 모양을 거부하도록 보장하는 것은 자물쇠 자체를 깨뜨릴 수 없게 만드는 것만큼이나 중요합니다.
최근 독립 연구자인 아르판 샤르마(Arpan Sharma)는 이 새로운 양자 내성 시스템의 바로 그 '앞문'에 초점을 맞춘 연구를 진행했으며, 특히 세계 소프트웨어의 상당 부분을 실행하는 자바(Java) 프로그래밍 언어를 대상으로 했습니다. 연구자는 이 새로운 표준들의 두 가지 주요 구현체를 테스트했습니다. 하나는 '바운시 캐슬(Bouncy Castle)'이라는 널리 사용되는 보안 라이브러리에 의해 제공되는 것이고, 다른 하나는 자바 플랫폼 자체에 직접 구축된 것입니다. 목표는 수학이 완벽한 데이터 상에서 제대로 작동하는지 보는 것이 아니라, 소프트웨어에 수백만 개의 무작위적이고 망가진, 그리고 적대적인 입력값이 주어졌을 때 어떤 일이 발생하는지 보는 것이었습니다. 연구자는 소프트웨어가 이러한 잘못된 입력을 거부함으로써 우아하게 처리하는지, 아니면 비틀거리거나, 충돌하거나, 혹은 위험한 실수를 묵인하며 수락하는지를 알고 싶었습니다.
이를 위해 연구자는 끈질기고 자동화된 공격자 역할을 하는 테스트 기계를 구축했습니다. 이 기계는 유효한 키의 약간 변형된 버전부터 완전히 터무니없는 바이트 스트림에 이르기까지 900,000개의 서로 다른 데이터 변형을 생성하여 소프트웨어에 주입했습니다. 기계는 소프트웨어가 어떻게 반응하는지 면밀히 관찰했습니다. 소프트웨어가 충돌하는지, 발생해서는 안 될 예기치 않은 오류 메시지를 보여주는지, 혹은 잘못된 키를 마치 정상적인 것처럼 수락하는 사례가 있는지 확인했습니다. 결과적으로 현재 버전의 바운시 캐슬 라이브러리는 매우 깔끔했습니다. 900,000번의 시도 중 소프트웨어는 모든 잘못된 입력을 예상대로 정확하게 거부했으며, 예기치 않은 오류를 일으키거나 잘못된 키를 수락하지 않았습니다.
하지만 과학적 테스트에서 "아무런 문제가 발생하지 않았다"는 결과는 종종 신뢰하기 어려울 때가 있습니다. 테스트 기계 자체가 너무 서툴러서 문제를 찾아내지 못했을 수도 있고, 혹은 소프트웨어가 운이 좋았을 수도 있기 때문입니다. 테스트가 결함을 찾아낼 능력이 실제로 있음을 증명하기 위해, 연구자는 '양성 대조군(positive control)'이라는 영리한 기법을 사용했습니다. 연구자는 동일한 테스트 기계를 특정 실제 결함이 있는 것으로 알려진 구버전의 바운시 캐슬 소프트웨어에 실행했습니다. 순식간에 기계는 결함을 찾아냈습니다. 기계는 구버전 소프트웨어가 잘못된 크기의 공개 키를 수락한다는 사실을 발견했는데, 이는 프로세스 후반부에 충돌을 일으킬 수 있는 실수였습니다. 기계가 구버전에서 알려진 문제를 성공적으로 찾아냈기 때문에, 새 버전에서 아무것도 발견되지 않았다는 사실은 새 소프트웨어가 실제로 견고하다는 것을 입 la 신뢰할 수 있는 확인이 되었습니다.
연구자가 이와 동일한 엄격한 테스트를 자바 플랫폼에 직접 구축된 새로운 양자 내성 코드에 적용했을 때, 결과는 또 다른 종류의 문제를 드러냈습니다. 자바 소프트웨어는 가장 위험한 결과인 충돌을 일으키거나 가짜 서명을 수락하지는 않았습니다. 대신, 잘못된 데이터를 처리하는 방식에서 미묘한 차이를 보였습니다. 자바 시스템은 공개 키의 길이를 따지지 않고, 심지어 키가 비어 있거나 너무 짧더라도 경고 없이 일단 수락했습니다. 시스템은 키가 실제로 사용될 때가 되어서야 비로소 크기를 확인하고 오류를 보고했습니다. 비록 이것이 결국 재앙을 막기는 했지만, 이는 소프트웨어가 잠시 동안 깨진 키를 유효한 것으로 취급하며 보유하고 있었음을 의미했습니다.
이러한 동작은 세 가지 다른 버전의 자바 플랫폼 전반에서 일관되게 나타났습니다. 소프트웨어는 결국 바운시 캐슬 라이브러리와 동일한 결정을 내렸습니다: 즉, 잘못된 키를 거부했습니다. 차이점은 순수하게 '타이밍'에 있었습니다. 바운시 캐슬 라이브러리는 키를 받는 즉시 크기를 확인하고 바로 거부했습니다. 반면 자바 플랫폼은 키를 먼저 수락하여 저장한 뒤, 그것을 사용하려고 할 때 비로소 거부했습니다. 이러한 구분은 중요한데, 이는 두 시스템 모두 즉각적인 충돌로부터는 안전하지만, 진입 규칙을 다루는 방식이 다르다는 것을 보여주기 때문입니다. 또한 이 연구는 이런 복잡한 소프트웨어를 테스트하는 모든 이들에게 중요한 교훈을 남겼습니다: 때때로 결함은 유효한 서명과 잘못된 키가 결합되는 것처럼 시스템의 두 부분이 상호작용할 때만 나타날 수 있다는 점입니다. 각 부분을 분리하여 테스트하는 것은 이러한 숨겨진 위험을 놓칠 수 있습니다.
또한 연구는 테스트 과정 자체에 숨겨진 장애물을 발견했습니다. 테스트를 실행하는 컴퓨터 시스템에는 동일한 실수가 반복될 때 오류 메시지를 단순화하여 작업을 가속화하도록 설계된 내장 기능이 있습니다. 수십만 개의 입력을 포함하는 대규모 테스트에서, 이 기능은 오류의 세부 사항을 소리 없이 제거하여, 테스트 기계가 발생한 충돌이 실제 예상치 못한 실패인지 아니면 이미 알려진 문제인지 구별하는 것을 불가능하게 만들 수 있습니다. 연구자는 정확한 테스트 결과를 얻기 위해 이 기능을 수동으로 비활성화해야 했습니다. 이 발견은 현대 소프트웨어의 대규모 보안 테스트를 수행할 때, 표준 설정이 때로는 연구자들이 찾고자 하는 바로 그 문제를 숨길 수 있음을 시사합니다.
궁극적으로, 이 연구는 새로운 양자 내성 자물쇠들이 실제 환경에서 어떻게 작동하고 있는지에 대한 명확하고 검증된 그림을 제공합니다. 현재 버전의 바운시 캐스틀 라이브러리는 잘못된 입력을 즉시, 그리고 일관되게 거부하며 매우 높은 회복 탄력성을 보이는 것으로 나타났습니다. 자바 플랫폼 역시 안전하지만, 잘못된 키를 잠시 보유했다가 거부하는 약간 다른 경로를 취합니다. 양성 대조군을 사용하여 테스트 방법의 타당성을 검증함으로써, 연구자는 새 소프트웨어에서 "아무것도 발견되지 않은" 결과가 테스트의 실패가 아니라 실제 강인함의 징표임을 확신할 수 있었습니다. 인터넷이 이러한 새로운 보안 표준으로 전환할 준비를 하는 지금, 이러한 상세하고 스트레스 테스트를 거친 보증은 새로운 문이 적대적인 세상의 압박을 견뎌낼 수 있도록 구축되었는지 확인하는 데 필수적입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.