Intelligent Adaptive Hybrid Encryption Based on Unimodular Hill Cipher, RSA-OAEP, and Chaotic Logistic Maps for Universal Digital File Security

기술 요약: 유니모듈러 힐 암호(Unimodular Hill Cipher), RSA-OAEP, 그리고 카오틱 로지스틱 맵(Chaotic Logistic Maps)에 기반한 지능형 적응형 하이브리드 암호화

문제 정의
디지털 통신의 급격한 확장은 다양한 환경에서 이질적인 바이너리 파일(예: PDF, 실행 파일, 멀티미디어, 과학적 데이터 세트)을 보호할 수 있는 강력한 데이터 보호 메커니즘에 대한 결정적인 필요성을 창출했다. 기존의 암호화 방식은 특정 한계에 직면해 있다. AES나 DES와 같은 대칭 키 알고리즘은 효율적이지만, 대규모 환경에서 동적인 파일 특성에 대한 적응성이 부족할 수 있다. 반대로 RSA와 같은 비대칭 방식은 강력한 보안을 제공하지만, 대량의 바이너리 데이터에 직접 적용하기에는 과도한 계산 오버헤드를 발생시킨다. 또한, 기존의 하이브리드 시스템은 엔트로피, 크기, 구조적 복잡성과 같은 고유한 파일 특성을 고려하지 못하는 정적 분할 전략에 의존하는 경우가 많아 비효율적인 암호화 할당을 초래한다. 따라서 유니모듈러 행렬 암호학, 비대칭 보호, 카오틱 키 생성, 그리고 범용 바이너리 파일 보안을 위해 설계된 적응형 지능을 결합한 통합 프레임워크에 관한 문헌적 공백이 존재한다.

방법론
제안된 프레임워크는 입력 파일의 통계적 특성에 따라 암호화 작업 부하를 동적으로 할당하는 지능형 적응형 하이브리드 암호화 시스템을 도입한다. 본 방법론은 다섯 가지 주요 단계로 구성된다:

1. 특징 추출(Feature Extraction): 시스템은 입력 바이너리 파일을 분석하여 파일 크기($S$), 섀넌 엔트로피($H$), 평균 바이트 값($\mu$), 표준 편차($\sigma$), 고유 바이트 값의 수($U$), 그리고 파일 확장자 범주($E$)를 포함하는 특징 벡터를 추출한다. 섀넌 엔트로피는 데이터의 무작위성과 구조적 복잡성을 결정하기 위해 계산된다.
2. 적응형 분할 결정(Adaptive Split Decision): 규칙 기반 AI 엔진은 대칭 및 비대칭 암호화 계층 간의 최적 분할 비율을 결정한다. 휴리스틱(예: 엔트로피 > 7.5 또는 크기 > 500 MB인 파일)에 따라, 시스템은 대량의 데이터를 계산 효율적인 유니모듈러 힐 암호에 할당하는 동시에, 작고 민감한 부분은 RSA-OAEP 암호화에 할당한다. 이러한 동적 할당은 속도와 보안의 균형을 맞춘다.
3. 카오틱 키 생성(Chaotic Key Generation): 높은 예측 불가능성을 보장하기 위해, 시스템은 제어 파라미터 $r=3.923$인 로지스틱 카오틱 맵 $x_{n+1} = r x_n (1 - x_n)$을 사용한다. 초기 조건 $x_0$는 사용자 비밀번호로부터 유도된다. 생성된 카오틱 시퀀스는 암호화 행렬의 요소를 채우기 위한 바이트 스트림으로 변환된다.
4. 하이브리드 암호화(Hybrid Encryption):
   • 유니모듈러 힐 암호(Unimodular Hill Cipher): 대량의 데이터는 모듈로 256에 대한 행렬 곱셈($C = K \cdot P \mod 256$)을 사용하여 암호화된다. 암호화 행렬 $K$는 유니모듈러(행렬식 $\pm 1$)가 되도록 구성되어, 모듈로 연산 하에서 역행렬 존재를 보장하며, 이는 손실 없는 복호화($P = K^{-1} \cdot C \mod 256$)를 보장한다.
   • RSA-OAEP: 데이터의 작고 적응적인 세그먼트는 선택 암호문 공격(chosen-ciphertext attacks)에 대한 저항성과 의미론적 보안을 제공하기 위해 OAEP(Optimal Asymmetric Encryption Padding)가 적용된 RSA를 사용하여 암호화된다.
5. 암호문 구성 및 무결성(Ciphertext Composition and Integrity): 최종 암호화된 파일은 메타데이터 헤더(분할 길이를 저장), 힐 암호 세그먼트, 그리고 RSA 세그먼트로 구성된다. 암호화-복호화 사이클 전후에 SHA-256 해싱을 통해 무결성을 검증한다.

주요 기여
본 논문은 네 가지 주요 혁신을 식별한다:

• 적응형 지능(Adaptive Intelligence): 정적 하이브리드 시스템과 달리, 이 프레임워크는 파일 통계(엔트로피, 크기 등)에 의해 구동되는 동적 분할 비율 메커니즘을 사용하여 암호화 할당을 최적화한다.
• 유니모듈러 행렬 구성(Unimodular Matrix Construction): 본 연구는 모듈러 행렬 암호학에서 흔히 발생하는 역행렬 제약 조건을 해결하기 위해 기본 행 연산을 통해 생성된 유니모듈러 행렬을 사용하여, 수치적 불안정성 없이 신뢰할 수 있는 복호화를 보장한다.
• 카오틱 통합(Chaotic Integration): 동적 행렬 생성을 위해 로지스틱 카오틱 맵을 통합함으로써 키의 무작위성과 초기 조건에 대한 민감도를 높여, 브루트 포스(brute-force) 및 알려진 평문 공격에 대한 저항력을 강화한다.
• 범용 바이너리 호환성(Universal Binary Compatibility): 시스템은 8비트 부호 없는 정수 배열에서 직접 작동하여, 파일별 전처리나 의미론적 디코딩 없이도 임의의 파일 형식을 암호화할 수 있다.

실험 결과
프레임워크는 다양한 행렬 차원과 비밀번호 설정 하에서 바이너리 PDF 데이터셋을 사용하여 평가되었다. 주요 결과는 다음과 같다:

• 통계적 보안: 암호화된 파일은 7.999891의 암호문 엔트로피(8비트 데이터의 이론적 최대치인 8에 근접)를 달성하였으며, 카이제곱(Chi-Square) 통계량이 평문 8159.84에서 암호문 269.85로 감소하여 거의 균등한 바이트 분포를 나타냈다.
• 확산 및 혼돈(Diffusion and Confusion): 평문과 암호문 사이의 피어슨 상관 계수는 −0.000152로 나타났으며, 이는 선형 관계가 거의 없는 강력한 확산을 입증한다.
• 무손실 복구(Lossless Recovery): 원본 파일과 복호화된 파일의 SHA-256 해시 값이 동일하여 완벽한 데이터 재구성을 확인하였다.
• 성능: 암호화 및 복호화 시간은 행렬 차원에 따라 달라졌다(예: 복호화 시간은 $9 \times 9$ 행렬의 약 0.39초에서 $2026 \times 2026$ 행렬의 약 95초로 증가). 이는 $O(n^3)$의 복잡도를 반영한다. 그러나 적응형 전략을 통해 RSA 오버헤드를 최소화하여 전체 데이터의 약 1.5%만을 비대칭적으로 처리하였다.
• 강건성(Robustness): 시스템은 키 변화에 대해 높은 민감도를 보였다. 서로 다른 행렬 차원과 비밀번호 입력은 완전히 다른 암호문과 MD5 해시를 생성하였다.

의의 및 주장
저자들은 본 연구가 카오틱 역학, 선형 대수, 그리고 비대칭 암호학을 이질적인 바이너리 파일 보안을 위한 확장 가능한 아키텍처로 통합한 결합물이라고 주장한다. 본 연구의 의의는 계산 효율성, 통계적 보안 강도, 그리고 동적 적응성의 균형 잡힌 조합을 제공할 수 있다는 점에 있다. 파일의 의미론적 구조에 대한 의존성을 피함으로써, 본 프레임워크는 클라우드 스토리지, 보안 아카이빙, 디지털 포렌식, IoT 환경 등 다양한 배포 시나리오에 적합하도록 제시된다. 결론적으로, 제안된 적응형 하이브리드 암호 체계는 구조화된 바이너리 데이터를 고도로 무작위화된 암호문으로 성공적으로 변환하면서도 결정론적인 재구성 정확도를 유지하며, 범용 디지털 파일 보호를 위한 강력한 솔루션을 제공한다.