기술 요약: 합성 표본 데이터용 강건한 스펙트럼 워터마크 (Tab-Drw)

문제 제기

생성형 AI 의 확산은 의료, 금융, 공공 정책과 같은 중요한 분야에서 고품질의 합성 표본 데이터 생성을 가능하게 했습니다. 이는 데이터 공유와 모델 훈련을 촉진하지만, 데이터 출처, 지적 재산권, 그리고 잠재적 오용 (예: 사기 또는 편향된 임상 의사결정) 과 관련된 중대한 위험을 초래합니다. 합성 표본 데이터를 위한 기존 워터마킹 솔루션은 다음과 같은 세 가지 주요 한계에 직면해 있습니다:

1. 계산 비용: 샘플링 단계 방법론은 종종 대규모 확산 모델 (예: DDIM 역변환) 의 역과정에 의존하는데, 이는 계산 비용이 많이 들고 재구성 오류에 취약합니다.
2. 데이터 유형 제한: 많은 방법론은 혼합된 이산 - 연속 데이터를 처리하는 데 어려움을 겪거나, 이질적인 특성에 적용될 때 데이터 유용성을 유지하지 못합니다.
3. 강건성: 현재 접근 방식은 노이즈 추가, 이산화, 또는 행/열 삭제와 같은 일반적인 사후 처리 공격에 대한 복원력이 부족한 경우가 많습니다.

본 논문은 효과적인 워터마킹 체계가 정확성(데이터 품질 유지), 검출 가능성(신뢰할 수 있는 식별), 적용 가능성(혼합 유형 데이터 및 생성 후 편집 지원), 강건성(공격에 대한 복원력) 의 네 가지 속성을 동시에 충족해야 한다고 주장합니다.

방법론: Tab-Drw

저자들은 생성 모델에 대한 접근 권한 없이 주파수 영역에 신호를 삽입하는 경량 사후 편집 워터마킹 체계인 Tab-Drw를 제안합니다. 이 방법은 세 가지 주요 단계를 통해 작동합니다:

1. 전처리 및 변환

이질적인 표본 데이터 (연속 및 이산 특성 혼합) 를 처리하기 위해, 이 방법은 먼저 **Yeo-Johnson 변환 (YJT)**을 적용한 후 표준화를 수행합니다. 이 단계는 특성 스케일을 정규화하고 왜도를 줄여 데이터를 통일된 실수 공간으로 매핑합니다. 이어 **이산 푸리에 변환 (DFT)**을 행별로 적용하여 표준화된 데이터를 주파수 영역으로 매핑합니다.

2. 워터마크 임베딩

핵심 임베딩은 주파수 영역에서 발생합니다. 알고리즘은 "유효 항목"(DC 성분과 나이퀴스트 주파수를 제외한 DFT 계수의 허수부) 을 식별합니다.

• 의사난수 비트 생성: 거대한 비트 시퀀스를 저장하는 대신, 이 방법은 비밀키로 선택된 열의 부분집합으로부터 계산된 행의 순위 (rank) 에 기반하여 각 행에 대해 결정론적으로 비트를 도출하는 새로운 순위 기반 의사난수 비트 생성 체계를 사용합니다. 이는 이진 트리 구조와 그레이 코드 (Gray code) 원리를 사용하여 데이터의 작은 교란 (공격) 이 생성된 비트 시퀀스를 극적으로 변경하지 않도록 보장합니다.
• 신호 정렬: 선택된 DFT 항목의 허수부는 생성된 의사난수 비트의 부호와 정렬되도록 조정됩니다. 저자들은 왜곡을 제한하기 위해 하이퍼파라미터 $(\gamma, \delta)$로 제어되는 "소프트 변형"을 도입합니다. 이를 통해 워터마크 강도와 데이터 정확성 간의 균형을 맞출 수 있으며, 작은 허수 크기를 가진 항목만 수정하거나 수정 인자를 축소할 수 있습니다.

3. 재구성 및 검출

수정된 주파수 영역 표현은 역 DFT(IDFT) 를 통해 시간 영역으로 변환됩니다. 그런 다음 데이터는 역표준화 및 역 YJT 변환을 거칩니다. 이산 특성의 경우 값은 가장 가까운 유효 항목으로 반올림되며, 경계 특성의 경우 클리핑이 적용됩니다.

검출은 전처리 단계를 역순으로 수행하여 주파수 영역을 복원하고, 비밀키와 순위 기반 메커니즘을 사용하여 의사난수 비트를 재구성하며, Z-점수를 계산하는 과정을 포함합니다. 이 점수는 의심스러운 데이터의 허수 부호와 재구성된 비트 간의 통계적 정합성을 측정합니다. 높은 Z-점수는 워터마크의 존재를 나타냅니다.

주요 기여

1. 새로운 워터마킹 체계: Tab-Drw 는 주파수 영역에 강건한 신호를 임베딩하는 사후 편집 방법입니다. 이는 계산 효율이 높고 모델에 구애받지 않으며, 높은 데이터 정확성을 유지하면서 혼합 유형 표본 데이터를 지원합니다.
2. 순위 기반 의사난수 비트 생성: 저자들은 행별 순위 통계와 이진 트리 구조를 사용하여 실시간으로 비밀 비트를 생성하는 방법을 도입했습니다. 이는 비트 시퀀스의 명시적 저장을 불필요하게 하고, 순위 통계의 안정성을 활용하여 사후 처리 공격에 대한 강건성을 향상시킵니다.
3. 이론적 분석: 본 논문은 워터마크로 인한 편향 (왜곡) 에 대한 폐형식 표현식을 제공하고, 가산 가우시안 노이즈 하에서 Z-점수에 대한 이론적 하한을 확립하여 중간 정도의 교란 하에서도 방법론의 검출 가능성을 증명합니다.
4. 실증적 검증: Adult, Magic, Shoppers, Default, Drybean 등 다섯 개의 벤치마크 데이터셋에 대한 광범위한 실험은 Tab-Drw 가 다양한 공격 (삭제, 노이즈, 이산화, 셔플링) 에 대한 강건성에서 기존 베이스라인 (샘플링 단계 및 사후 편집 모두) 보다 우수함을 보여주며, 높은 데이터 유용성을 유지함을 입증했습니다.

실험 결과

• 정확성 대 검출 가능성: Tab-Drw 는 워터마크가 없는 데이터 및 기존 베이스라인과 비교 가능한 데이터 정확성 점수를 달성합니다. 이는 워터마크 강도 (하이퍼파라미터를 통해) 를 높이면 Z-점수가 향상되는 반면, 유용성 지표 (Density, Correlation, C2ST, MLE) 의 저하는 최소한으로 유지되는 조정 가능한 균형을 보여줍니다.
• 강건성: 열/행 삭제, 가우시안 노이즈, 양자화를 포함한 10 가지 유형의 사후 처리 공격 하에서 Tab-Drw 는 일관되게 최고 또는 두 번째로 높은 Z-점수를 달성합니다. 노이즈나 삭제 하에서 실패하는 베이스라인과 달리, Tab-Drw 는 데이터의 10-20% 가 변경되더라도 검출 가능성을 유지합니다.
• 적응형 공격: 이 방법은 순위 과정을 방해하거나 다른 키로 데이터를 재워터마킹하려는 적대자의 적응형 공격에 대해서도 강건합니다. 10 회에 걸친 재워터마킹 후에도 원래 워터마크는 검출 가능하지만, 데이터 정확성은 저하됩니다.
• 실행 시간: 임베딩 및 검출은 매우 효율적이며 (CPU 에서 1K 행 기준 1 초 미만), GPU 집약적 역변환 과정이 필요한 샘플링 단계 방법론보다 훨씬 뛰어납니다.
• 저엔트로피 변수: 성별과 같은 범주형 변수에 대한 사례 연구는 이 방법이 엔트로피를 인지하여 저엔트로피 속성을 거의 뒤집지 않으며, 필요한 경우 클러스터 경계 근처의 의미적으로 모호한 영역으로 제한함을 보여줍니다.

중요성과 주장

본 논문은 Tab-Drw 가 표본 데이터에 대한 강건하고 효율적이며 적용 가능한 워터마킹의 중요한 격차를 해소함으로써 안전한 데이터 공유 및 프라이버시 보호형 생성형 AI 를 위한 견고한 기반을 제공한다고 주장합니다.

저자들은 그들의 접근 방식이 다음과 같음을 강조합니다:

• 생성에서 워터마킹 분리: 생성 모델에 대한 접근 권한이 필요하지 않으므로 기존 또는 미래의 모든 합성 데이터셋에 적용 가능합니다.
• 네 가지 핵심 속성의 균형: 높은 정확성, 강력한 검출 가능성, 혼합 데이터 유형에 대한 광범위한 적용 가능성, 그리고 일반적인 공격에 대한 강건성을 동시에 성공적으로 달성하여, 기존 연구에서는 달성하지 못한 조합을 구현합니다.
• 이론적 보장 제공: 왜곡 한계와 강건성 하한 도출은 노이즈 하에서 방법론의 동작에 대한 원칙적인 이해를 제공합니다.

저자들은 이 방법이 임의의 강력한 변환 (예: 극단적인 순위 교란) 에 대해 무조건적으로 강건하지는 않으며, 키 공간 용량이 유한하고 테이블 차원에 의존한다는 점을 겸손하게 지적합니다. 또한 주파수 영역 수정 전략 최적화, 차분 프라이버시 통합, 특성 중요도에 따른 워터마크 강도 조정과 같은 향후 방향을 제시합니다.