AoNT Trap: Borromean-Entangled Mutable Chameleon Trapdoor Hash All-or-Nothing Stream Cipher

디지털 보안의 세계에서 메시지를 숨기기 위해 가장 흔히 사용되는 도구는 스트림 암호입니다. 이를 메시지를 암호화된 코드로 뒤섞어 읽을 수 없게 만드는, 무작위해 보이는 숫자들의 길고 끝없는 흐름을 생성하는 기계라고 생각해보십시오. 수십 년 동안 이 기계들은 속도 덕분에 높이 평가받아 왔으며, 무선 네트워크를 통해 데이터를 전송하고, 인터넷 연결을 보호하며, 스마트 기기 내부의 작은 컴퓨터들을 보호하는 데 이상적입니다. 그러나 이러한 전통적인 기계들은 치명적인 약점을 가지고 있습니다. 바로 비밀 키(secret key), 시작 숫자(starting number), 그리고 내부 메모리(internal memory)라는 세 가지 주요 재료를 별개의 항목으로 취급한다는 점입니다. 만약 해커가 이 재료 중 단 하나라도 훔치거나, 기계가 수신기와 약간이라도 동기화가 어긋나게 되면, 전체 보안 시스템이 무너져 비밀 메시지가 노출될 수 있습니다.

콜로라도 대학교 덴버의 연구진은 이 재료들이 상호작용하는 방식을 근본적으로 바꾸는 새로운 설계를 제안했습니다. 그들은 자신들의 발명품을 BEC-Trap이라고 부르는데, 이는 비밀 키, 시작 숫자, 내부 메모리를 서로 떼어놓을 수 없을 정도로 촘로하게 엮어 놓은 시스템입니다. 연구진은 수학에서 '보로메오 고리(Borromean rings)'라고 알려진 특정 형태에서 영감을 얻었습니다. 이 형태는 세 개의 고리가 서로 연결되어 있는데, 어느 한 고리만 제거하더라도 나머지 두 고리는 더 이상 서로 연결되지 않고 즉시 분리되어 버리는 구조를 가지고 있습니다. 이 원리를 암호화에 적용함으로써, 연구진은 메시지의 보안이 이 세 가지 구성 요소의 동시 존재 여부에 달려 있는 시스템을 만들었습니다. 공격자가 퍼즐의 조각 중 단 하나라도 훔치거나 손상시키면, 전체 암호화 과정이 붕괴되어 탈취된 정보가 쓸모없게 됩니다.

이 시스템을 실제 환경에서 실용적으로 사용하기 위해, 연구팀은 '트랩도어 해시(trapdoor hash)'라고 불리는 특수한 형태의 디지털 잠금 장치도 통합했습니다. 표준 보안 방식에서는 메시지가 일단 잠기면 봉인이 깨지지 않는 한 변경할 수 없습니다. 그러나 이 새로운 시스템은 권한이 있는 사용자가 메시지를 전송하는 도중에 비밀 키를 업데이트하고 내부 메모리를 재설정할 수 있게 해주며, 이 과정에서 데이터의 흐음이 끊기거나 연결을 다시 시작할 필요가 없습니다. 이는 권한을 가진 자만이 두 가지 서로 다른 데이터 세트가 동일한 디지털 지문을 생성하도록 만드는 상황, 즉 '충돌(collision)'을 제어할 수 있는 메커니즘을 통해 가능해집니다. 이 기능은 시스템이 대화를 중단하지 않고도 스스로를 치유하고 보안을 지속적으로 갱신하며 위협에 적응할 수 있게 합니다.

연구진은 이 새로운 설계가 현대 통신의 요구를 처리할 수 있는지 확인하기 위해 광범로 테스트를 수행했습니다. 그들은 표준 컴퓨터 워크스테이션에서 시뮬레이션을 실행하여 작은 파일부터 큰 덩어리의 정보에 이르는 데이터 스트림을 처리했습니다. 결과에 따르면 이 새로운 시스템은 매우 빨랐으며, 초당 약 63메가비트의 속도로 데이터를 처리했는데, 이는 현재 사용 중인 가장 빠른 암호화 도구들과 맞먹는 수준입니다. 더 중요한 것은, 이 테스트가 시스템이 보로메오 원리를 정확히 예측한 대로 작동했음을 확인해주었다는 점입니다. 연구진이 의도적으로 비밀 키의 일부를 노출시키거나 내부 메모리를 뒤섞었을 때, 시스템은 단순히 약간 약해지는 것에 그치지 않고 완전히 붕별되었습니다. 뒤섞인 데이터는 완전히 이해할 수 없는 상태가 되었으며, 출력값의 엔트로피(무작위성)는 완벽에 가까운 상태를 유지하여, 시스템이 공격을 받는 상황에서도 유용한 정보가 전혀 유출되지 않았음을 보여주었습니다.

가장 중요한 발견 중 하나는 시스템이 실시간으로 보안을 갱신하는 능력이었습니다. 전통적인 시스템에서는 비밀 키를 변경할 때 종종 연결을 재설정하기 위해 통신을 일시 중단해야 하며, 이 과정에서 짧은 취약 시간(window)이 발생합니다. BEC-Trap 시스템은 키와 내부 상태를 9밀리초 미만으로 업데이트할 수 있었는데, 이는 인간이 인지할 수 없을 정도로 빠른 속도로, 데이터의 흐름을 중단 없이 연속적으로 유지할 수 있게 해줍니다. 또한 연구진은 시스템이 내부 파라미터를 끊임없이 변경하는 와중에도 송신기와 수신기 사이의 동기화를 99.8%에 가까운 높은 정확도로 유지한다는 것을 발견했습니다. 이는 이 시스템이 사물인터넷(IoT)이나 보안 메시징 앱과 같은 역동적인 환경에 적응하면서도, 양 끝단이 서로 연락을 잃을 위험 없이 작동할 수 있음을 시사합니다.

연구는 또한 이 시스템이 오래된 메시지를 재전송(replay)하거나 가짜 데이터를 주입하는 등의 다양한 공격을 어떻게 처리하는지도 조사했습니다. 키, 시작 숫자, 메모리를 하나의 분리할 수 없는 단위로 묶어두었기 때문에, 한 부분이라도 조작을 시도하면 메시지의 디지털 지문이 즉시 변하게 됩니다. 따라서 공격자가 메시지를 수정하는 것은 불가능하며, 내부 상태가 이미 다음 단계로 넘어갔기 때문에 이전 메시지를 재사용하는 것도 불가능합니다. 연구진은 비밀 키의 75%가 노출된 시나리오를 시뮬레이션했을 때도 시스템이 원래 메시지에 대한 의미 있는 정보를 드러내지 않는 것을 관찰했으며, 이를 통해 '전부 아니면 전무(all-or-nothing)' 식의 보안 모델이 의도대로 작동함을 확인했습니다.

결과는 유망하지만, 연구진은 이 작업이 현재 이론적이고 시뮬레이션된 모델이라는 점을 명시했습니다. 결과는 실제 하드웨어 테스트가 아닌 컴퓨터 실험에 기반하고 있으며, 다음 단계는 이 시스템을 실제 전자 칩에 구현하여 실제 기기에서 어떻게 작동하는지 확인하는 것입니다. 연구팀은 이 설계가 임베디드 시스템을 위한 특수 하드웨어에 어떻게 구현될 수 있는지 탐구하고, 미래의 위협에 대해 보안을 보장할 수 있는 공식적인 수학적 증명을 개발할 계획입니다. 현재로서는, 이 연구는 스트림 암호가 빠르고 효율적일 뿐만 아니라 구조적으로도 견고할 수 있음을 보여주며, 구성 요소의 고립이 아닌 그들 간의 상호 연결된 강도에 기반하여 데이터를 보호하는 새로운 방법을 제시하고 있습니다.