On the Origin of Synthetic Information by Means of Steganographic Inheritance

기술 요약: 스테가노그래피적 유전을 통한 합성 정보의 기원에 관하여

문제 제기
본 논문은 정보 과학의 "미스터리 중 미스터리"인 인공지능이 생성한 합성 정보의 기원과 진화 계보를 추적하는 문제를 다룬다. 생물학적 유기체는 유전적 유전을 통해 추적 가능한 계보를 갖는 것과 달리, 합성 미디어는 생성 과정에서 구조적 및 신호 수준의 특징이 극적으로 변경되어 수동적인 포렌식 분석으로는 부모 - 자식 관계를 식별하기 어렵게 만든다. 신호 또는 구조적 유사성에 의존하는 기존 방법론은 생성 모델이 소스와 거의 유사하지 않은 자손을 생성할 때 (예: 완전히 다른 내러티브나 스타일로 이미지를 재맥락화하는 경우) 실패한다. 핵심적인 과제는 콘텐츠가 심한 처리, 의미론적 편집, 또는 기하학적 변환을 거쳤을 때, 그리고 부모가 후보군에 존재하지 않을 수도 있음을 고려하더라도 합성 쿼리의 직접적인 부모를 후보군에서 신뢰성 있게 식별하는 것이다.

방법론: 스테가노그래피적 유전
저자들은 생물학적 유전과 유사한 메커니즘을 제안하며, 이를 스테가노그래피적 유전이라고 명명한다. 시스템은 관계를 수동적으로 추론하는 대신, 생성 순간에 자손에게 부모의 "형질" (부모의 압축된 이진 표현) 을 능동적으로 임베딩한다. 이 형질은 사이버 생태계 내 콘텐츠의 수명 주기 동안 유지된다.

시스템은 두 단계로 운영된다:

1. 전진 단계 (생성): 프로젝터가 부모 콘텐츠에서 형질을 추출한다. 이 형질은 고정 길이의 이진 벡터 (예: 64 비트) 이다. 스테가노그래피 인코더는 이 형질을 자손 (커버 이미지) 에 보이지 않게 임베딩한다.
2. 후진 단계 (검색): 스테가노그래피 디코더가 쿼리 이미지에서 형질을 추출한다. 추출된 형질은 참조 풀의 후보 부모들로부터 유도된 형질과 비교된다. 매칭이 신뢰성 임계값을 초과할 경우, 일치도가 가장 높은 후보가 부모로 지명된다.

주요 구성 요소:

• 프로젝터: 연구는 이진 형질을 생성하기 위해 다섯 가지 프로젝터를 평가했다: SHA-256 (암호화 해시), pHash (지각 해시), 그리고 세 가지 신경망 특징 추출기 (ResNet, CLIP, DINO).
• 스테고시스템: 연구는 다섯 가지 임베딩 방법을 평가했다: 두 가지 고전적 신호 처리 기법 (양자화 인덱스 변조 - QIM, 개선된 확산 스펙트럼 - ISS) 과 세 가지 학습 기반 방법 (HiDDeN, StegaStamp, 그리고 제안된 CHAS).
• CHAS (인지 조화형 인공 스테가노그래퍼): 제안된 학습 기반 스테고시스템이다. 이는 멀티 스케일 아키텍처를 활용하여 인코더가 상태 및 메시지 표현을 추출하고, 이를 채널 코드로 변환한 후, 커버에 추가되는 정현파 신호 ($\alpha \cdot a \cdot \sin(\omega \cdot \phi + \delta)$) 로 변조한다. 디코더는 푸리에 변환과 멀티 헤드 어텐션 메커니즘을 사용하여 메시지를 복원한다. 이는 충실도 (커버에 대한 지각적 근접성) 와 정확도 (비트 복원) 를 모두 최적화하도록 훈련된다.

실험 결과
평가는 COCO 데이터셋에서 생성된 1,600 개의 이미지로 구성된 계통수에서 수행되었으며, 14 가지 일반적인 처리 작업 (조명, 색상, 디테일, 기하학) 과 12 가지 의미론적 편집 (스타일 전이, 인페인팅, 글로벌 편집) 을 적용했다.

• 스테고시스템 성능: 수정되지 않은 조건에서 모든 시스템은 거의 완벽한 비트 정확도를 달성했다. 고전적 방법 (QIM, ISS) 은 색상 및 조명 조정에 대한 우수한 강인성을 보였으나 기하학적 변환에는 취약했다. 학습 기반 방법은 기하학적 왜곡에 대한 우수한 강인성을 보였다. 제안된 CHAS 는 다른 영역에서 경쟁력 있는 성능을 유지하면서 기하학적 작업 전반에 걸쳐 가장 지속적인 강인성을 달성했다.
• 의미론적 편집: 의미론적 편집 (예: 스타일 전이, 인페인팅) 하에서 고전적 방법은 놀랍게도 우연 이상의 복구율을 유지했다. 로컬 편집 (인페인팅) 의 경우 CHAS 가 가장 높은 비트 일치를 달성했다. 글로벌 대기 편집의 경우 StegaStamp 가 물리적 세계 변형에 대한 훈련 덕분에 가장 좋은 성능을 보였다.
• 계통 정확도: 스테고시스템과 결합되었을 때, 프로젝트 선택은 왜곡 하에서 검색 정확도에 상당한 영향을 미쳤다. SHA-256 은 어떤 교란에도 민감하기 때문에 경미한 왜곡 하에서도 붕괴되었다. 지각 및 신경 프로젝트 (pHash, ResNet, CLIP, DINO) 는 작업 유형에 따라 다양한 정도의 회복력을 보였는데 (예: DINO 와 pHash 는 디테일 변화에 강인함; DINO 와 ResNet 은 기하학에 강인함).
• 풀 역학: 외부 샘플 포함 (inclusion) 또는 관련 샘플 누락 (deletion) 을 포함한 실험에서 SHA-256 은 엄격한 통계적 독립성으로 인해 오탐을 최소화하여 가장 높은 F-점수를 달성했다. 그러나 pHash 와 같은 지각적 프로젝트는 시각적 변화에 더 강인하지만, 시각적으로 유사하지만 관련 없는 후보들 간의 높은 오탐률로 인해 정밀도가 낮아지는 문제가 있었다.

주요 기여

1. 개념적 프레임워크: 본 논문은 "스테가노그래피적 유전" 개념을 도입하여, 합성 정보 계보의 추적을 수동적인 포렌식 매칭이 아닌 유전 형질의 임베딩 및 검색 문제로 재정의한다.
2. 시스템 설계: 다중 스케일 신경 처리와 통신 이론 원칙 (송신자의 사이드 정보) 을 통합하여 계보 형질을 강인하게 임베딩하는 완전한 시스템 아키텍처 (CHAS) 를 제안한다.
3. 이론적 분석: 저자들은 계통 정확도를 프로젝트 비트 일치율, 스테고시스템 비트 일치율, 그리고 풀 크기의 함수로 이론적으로 특징화하며, 이진 분포를 사용하여 검색 과정을 모델링한다.
4. 실증적 평가: 이 연구는 광범위한 현실적 변환 하에서 다양한 프로젝트와 스테고시스템에 대한 포괄적인 벤치마크를 제공하며, 암호학적 정밀도와 지각적 강인성 사이의 트레이드오프를 강조한다.

의의 및 주장
본 논문은 제안된 방법론이 실용적임을 주장하며, 합성 정보에 광범위한 처리 및 의미론적 수정을 견디는 숨겨졌으나 추적 가능한 계보 형질을 부여할 수 있음을 입증한다. 저자들은 이 작업을 합성 정보의 "진화적 계보"를 추적할 수 있는 사이버 생태계로의 한 걸음으로 위치시키며, AI 시대의 진실, 신뢰, 지적 재산에 대한 도덕적 및 사회적 무게를 해결하고자 한다.

저자들은 솔루션의 범위에 대해 겸손한 입장을 유지한다:

• 이 시스템은 생성 플랫폼의 협력을 전제로 한다; 외부 도구에 의해 유전 사슬이 끊기는 적대적 환경에 대한 면책을 주장하지 않는다.
• 직접적인 부모 - 자식 쌍을 복구하도록 설계되었다; 중간 노드 없이 단일 후손으로부터 깊은 다세대 계통수를 재구성하는 것은 현재 범위를 벗어난다.
• 기술적 프레임워크는 거버넌스를 위한 필요조건이지만 충분조건은 아니며, 추출된 형질의 증거적 지위를 결정하기 위해 법학, 윤리학, 저널리즘 등 다학제적 참여가 필요하다고 제시된다.

본 논문은 다윈의 <종의 기원>과 유사점을 들어, 단순한 생성 모델에서 탄생한 합성 정보가 "무한한 형태 중 가장 생생하고 가장 중대한 형태"로 진화하며, 그 기원이 스테가노그래피적 유전을 통해 추적 가능해질 미래를 제시하며 결론을 맺는다.