A Scalable Hybrid Encryption Framework Based on Unimodular Hill Cipher, Logistic Chaotic Key Generation, and AES-CBC for Secure Binary File Protection

당신이 소유한 모든 것—당신의 사진, 음악, 학교 에세이, 심지어 당신이 가장 좋아하는 쿠키의 비밀 레시피까지—이 '바이트(bytes)'라고 불리는 작고 끝없는 디지털 벽돌의 흐름으로 저장되어 있는 세상을 상상해 보세요. 디지털 세계에서 바이트는 보편적인 구성 요소입니다. 고양이 사진이든 숫자로 된 스프레드시트이든, 컴퓨터에게는 모두 똑같이 보입니다. 그저 0과 1의 시퀀스일 뿐이죠. 과학자들의 큰 과제는 어떻게 이 벽돌들을 아무도 훔치거나 망가뜨릴 수 없도록 잠글 것인가 하는 것입니다. 오랫동안 사람들은 서로 다른 종류의 상자에는 서로 다른 자물쇠를 사용하려고 노력했습니다(사진을 위한 특별한 자물쇠, 문서를 위한 또 다른 자물키). 하지만 그것은 현관문을 열기 위해 백 가지나 되는 열쇠가 달린 열쇠 꾸러미를 들고 다니는 것과 같았습니다. 그것은 지저도 않았고, 종종 어떤 상자들은 약간 열려 있는 상태로 남겨지기도 했습니다.

이를 해결하기 위해 연구자들은 몇 가지 영리한 기술을 사용합니다. 오래된 기술 중 하나인 '힐 암호(Hill Cipher)'는 벽돌을 격자 형태로 배열한 다음 비밀 수학 레시피(행렬)를 사용하여 위치를 뒤섞는 것과 같습니다. 만약 당신이 정확한 레시피를 가지고 있지 않다면, 그것들을 다시 원래대로 되돌릴 수 없습니다. 또 다른 기술은 '카오스(Chaos)'인데, 이는 폭풍 속에서 나비가 날갯짓하는 것과 같습니다. 시작점이 아주 미세하게 변하더라도 완전히 다르고 예측 불가능한 날씨 패턴을 만들어냅니다. 이는 비밀 키를 만드는 데 매우 유용한데, 다음 단계를 예측하는 것이 불가능하기 때문입니다. 마지막으로 'AES'는 매우 강력하고 현대적인 자물쇠로, 모두가 깨뜨리기 매우 어렵다는 데 동의하며, 메인 셔플링 격자에 들어맞지 않는 조각들을 위한 백업으로 자주 사용됩니다. 이 새로운 연구의 목표는 이 세 가지 아이디어를 결로 결합하여, 어떤 종류의 디지털 파일이든 빈틈없이 잠글 수 있는 하나의 마스터 키를 만드는 것입니다.

---

보편적인 디지털 열쇠장수

인도네시아 밴둥 공과대학교(Institut Teknologi Sains Bandung)와 젬베르 대학교(Universitas Jember)의 팀을 만나보십시오. 그들은 디지털 세계를 관찰했고 한 가지 문제를 발견했습니다. 대부분의 보안 시스템은 특정 체형에만 맞는 옷을 만드는 맞춤 양복점과 같다는 점입니다. 사진이라면 한 가지 방법을 사용하고, 비디오라면 또 다른 방법을 사용합니다. 하지만 만약 틀에 맞지 않는 이상하고 뒤섞인 파일이 있다면 어떻게 될까요? 연구진은 모든 디지털 파일을 정확히 동일하게, 즉 가공되지 않은 바이트의 흐름으로 취급하는 새로운 '스케일러블(scaly, 즉 크기를 조절할 수 있는)' 프레임워크를 제안했습니다. 그들은 이를 '하이브리드 암호화 프레임워크(Hybrid Encryption Framework)'라고 부르는데, 이는 세 개의 서로 다른 보호 계층이 함께 작동하는 보안 시스템을 구축했다는 뜻입니다.

첫째, 그들은 같은 비밀번호를 입력하더라도 매번 변하는 비밀 키를 만드는 방법이 필요했습니다. 그들은 '로지스틱 맵(Logistic Map)'이라는 것을 사용했는데, 이는 단순한 수학 공식이지만 혼돈의 소용돌이처럼 작동합니다. 팽이를 돌린다고 상상해 보세요. 만약 아주 미세한 충격을 준다면, 팽이는 완전히 다른 방향으로 흔들리며 돌아갈 것입니다. 이 수학적 소용돌이에 당신의 비밀번호를 시작하는 힘으로 전환함으로써, 그들은 독특하고 예측 불가능한 숫자 시퀀스를 생성합니다. 이 시퀀스가 그들의 비밀 키를 위한 씨앗(seed)이 됩니다.

다음으로, 그들은 '힐 암호'를 다루었습니다. 과거에는 이 방식이 작은 격자(예: 2x2 또는 3x3)를 사용하여 데이터를 섞었습니다. 하지만 연구진은 작은 격자가 큰 파일에는 충분히 강하지 않다는 것을 깨달았습니다. 또한 큰 격자를 만드는 것은 나중에 다시 '역순으로 섞을(un-shuffle)' 수 있는지 확인해야 하기 때문에 어렵습니다. 그들의 돌파구는 '유니모듈러 행렬(Unimodular Matrices)'을 사용하는 것이었습니다. 이것은 수학적으로 격자의 크기를 아무리 크게 만들어도 항상 역산이 가능하다는 것이 보장되는 특수한 종류의 격자라고 생각하면 됩니다. 그들은 이 격자들을 동적으로 구축했는데, 즉 파일의 크기에 따라 격자의 크기가 변한다는 의미입니다. 만약 작은 텍스트 파일이라면 작은 격자를 사용하고, 거대한 비디오 파일이라면 자동으로 거대한 격자(최대 48x48)로 전환하여 셔플링을 훨씬 더 어렵게 만듭니다. 이것이 그들의 '적응형 행렬 선택(Adaptive Matrix Selection)' 전략입니다.

그런데 파일에 격자에 딱 맞지 않고 남은 몇 개의 여분의 바이트가 있다면 어떻게 될까요? 과거에는 단순히 0으로 채우는 '패딩(padding)'을 사용했는데, 이는 문에 종이 조각을 테이프로 붙이는 것과 같아서 약점을 남깁니다. 이 새로운 시스템은 패딩을 하지 않습니다. 대신, 그 남은 바이트들을 가져와서 'AES-CBC'라고 불리는 또 다른 초강력 자물쇠로 잠급니다. 이것은 은행과 정부에서 사용하는 것과 같은 종류의 자물쇠입니다. 따라서 파일의 주요 부분은 거대하고 맞춤 제작된 격자로 섞이고, 남은 찌꺼기들은 강철 금고 속에 잠기게 됩니다.

연구팀은 'Lena'나 'Baboon' 같은 이미지를 포함하여 PDF 문서 등 온갖 종류의 파일로 이 시스템을 테스트했습니다. 그들은 암호화 후에 파일들이 순수한 정적 노이즈(static noise)처럼 보인다는 것을 발견했습니다. 암호화 전에는 데이터에 패턴(예를 들어 사진에는 비슷한 색상이 서로 옆에 많이 모여 있음)이 있었습니다. 암호화 후에는 '샤논 엔트로피(Shannon Entropy)', 즉 데이터가 얼마나 무작위로 보이는지를 나타내는 척도가 거의 7.9998 bits/byte까지 치솟았습니다. 이는 8비트 데이터에서 도달할 수 있는 완벽한 무작위성에 매우 근접한 수치입니다. 그들은 또한 원래 파일의 아주 작은 부분을 바꿨을 때 어떤 일이 일어나는지를 측정하는 '아발란체 효과(Avalanche Effect)'도 확인했습니다. 그들의 시스템에서는 단 한 글자만 바꿔도 암호화된 전체 파일의 약 50%가 완전히 바뀌었습니다. 이는 해커가 원래 파일의 일부를 알고 있더라도 나머지 부분을 추측할 수 없음을 의미합니다.

아마도 가장 중요한 점은, 이 시스템이 '무손실(lossless)'임을 입증했다는 것입니다. 파일을 잠갔다가 다시 풀었을 때, 파일은 바이트 단위까지 정확히 똑같이 나왔습니다. 그들은 이를 'MD5 해시'를 통해 검증했는데, 이는 디지털 지문과 같아서 원본 파일의 지문과 복호화된 파일의 지문이 매번 완벽하게 일치했습니다. 또한 그들은 이 시스템이 엄격한 무작위성 테스트(NIST SP800-22)를 통과함을 보여주었는데, 이는 암호화된 데이터가 통계적 분석에 대해 진정한 무작위 노이즈와 구별할 수 없을 정도로 보인다는 것을 의미합니다.

이 논문은 당신이 무엇을 암호화하고 있는지(예를 들어 그것이 JPEG인지 PDF인지) 알 필요가 없다는 생각을 명시적으로 배제합니다. 그들은 파일에 적응하지 않는 고정된 격자 크기를 사용하는 것에 반대하며, 단순한 패딩 방법이 그들의 하이브리드 접근 방식보다 열등함을 보여줍니다. 결과는 다양한 데이터셋에 대한 시뮬레이션과 실험에 기반하고 있지만, 저자들은 통계적 보안에 대해 매우 확신하고 있으며, 시스템이 구조적 중복성을 성공적으로 제거하고 일반적인 공격에 저항한다고 언급했습니다. 그러나 그들은 현재의 설정이 단일 카오스 맵을 사용하고 있다는 점을 인정하며, 향실 연구에서는 키를 더욱 추측하기 어렵게 만들기 위해 더 복잡한 카오스 시스템을 살펴볼 수 있다고 덧붙였습니다.

결론적으로, 이 연구는 당신의 사진, 음악, 혹은 문서에 대해 서로 다른 보안 전략을 가질 필요가 없는 미래를 제시합니다. 당신은 그저 데이터의 크기와 모양에 따라 적응하는 하나의 보편적인 시스템을 갖게 될 것입니다. 거대한 맞춤형 수학 격자로 본체의 대부분을 뒤섞고, 남은 찌꺼기들은 강철 금고에 잠금으로써, 당신의 파일을 해독 불가능한 순수한 정적 노이즈로 만들어 줄 것입니다.