It does what it says on the tin: safe synthetic data from coarsened margins

기술 요약: 조대화된 마진(Coarsened Margins)으로부터의 합성 데이터

문제 제기
본 논문은 국가통계기관(NSA)이 보유한 민감한 행정 데이터에 대한 접근성을 넓히면서도 개인의 프라이버시를 엄격하게 유지해야 하는 과제를 다룹 다. 현재의 완전 합성 데이터(Fully Synthetic Data, FSD) 생성 방식은 대개 어떤 변수 간의 관계가 보존되는지에 대한 투명성이 부족한 복잡한 머신러닝 모델에 의존하는 경우가 많다. 또한, 생성 과정이 엄격하게 통제되지 않을 경우 실제 데이터로부터 생성된 합성 데이터가 여전히 정보 노출 위험을 가질 수 있다는 우려가 커지고 있다. 신뢰 연구 환경(Trusted Research Environments, TRE)이 보안 솔루션을 제공하지만, 이는 접근이 어렵고 협업을 저해하며 연구 계획 및 코드 개발 속도를 늦추는 경우가 많다. 오직 단변량 분포만을 보존하는 기존의 저충실도(low-fidelity) 합성 데이터 방식은 연구 계획이나 교육용으로는 불충분하며, 고충실도 방식은 데이터가 정보 노출 위험으로부터 자유롭다는 보증을 제공하지 못하는 경우가 많다.

방법론
저자는 두 가지 주요 장점, 즉 '보존된 관계에 대한 투명성'과 '이미 정보 노출 위험이 없는 것으로 판단된 정보로부터 유래되었다는 보증'을 보장하는 합성 데이터(SD) 생성 방법을 제안한다. 프로세스는 다음 단계로 구성된다:

1. 데이터 큐레이션 및 공표 통제(SDC): 원본 실측치(Ground Truth, GT) 데이터에 표준 SDC 조치(예: 상한값 처리, 하한값 처리, 소규모 범주 결합)를 적용하여 처리한다.
2. 마진 정의: 합성 데이터에서 유지할 관계를 정의하기 위해 특정 주변 분포 표(변수 간 교차 분류표)를 선택한다. 본 논문은 모든 이원(two-way) 마진에서 시작할 것을 제안한다.
3. 조대화(Coarsening) 및 조정: 마진 자체가 비공표성을 갖도록 하기 위해, 표의 빈도수를 "조대화" 과정을 거친다. 모든 셀의 빈도는 특정 공표 제한치(예: 10)의 배수가 되도록 조정된다. 제한치 미만의 빈도는 제한치로 올림 처리되며, 이후 전체 마진의 총합이 원래 샘플 크기와 일치하도록(또는 편차를 최소화하기 위해 고정된 값을 차감하여) 추가적인 조정을 수행한다. 이 단계는 설령 마진이 공개되더라도, 차분(differencing)이나 뺄셈을 통해 개인이 식별될 위험을 방지한다.
4. 반복 비례 적합법(Iterative Proportional Fitting, IPF): 조정된 조대화 마진을 IPF 알고리즘의 제약 조건으로 사용한다. 이 알고리즘은 지정된 마진에 가장 잘 부합하는 결합 확률 분포를 생성한다.
5. 합성: IPF로 적합된 다항 분포로부터 샘플링하여 하나 이상의 합성 데이터셋을 생성한다.

주요 기여

• 투명성: "블랙박스" 형태의 머신러닝 합성 방식과 달리, 이 접근법은 어떤 변수 관계(마진)가 보존되는지를 명시적으로 정의한다. 사용자는 어떤 구조가 유지되는지 정확히 알 수 있다.
• 보장된 프라이비시: 이 방법은 합성 데이터가 이미 특정 공표 통제 표준을 충족하도록 처리된 마진으로부터 유래되었음을 보장한다. 빈도를 공표 제한치의 배수로 조대화함으로써, 표 차분을 통한 재식별 위험을 완화한다.
• 실용적인 워크플로우: 본 논문은 1901년 스코틀랜드 인구 조사 데이터를 사용하여 이러한 데이터를 만드는 구체적이고 단계적인 워크플로우를 제공한다. 이는 조대화/조정 과정으로 인해 마진 간에 기술적 불일치가 발생하더라도 IPF 알고리즘이 수렴할 수 있음을 보여준다.

결과
본 방법은 1901년 스코틀랜드 인구 조사 데이터(51,064개 레코드, 11개 변수)를 사용하여 테스트되었다. 세 가지 버전의 합성 데이터가 생성되어 실측치(GT)와 비교되었다:

1. 공표 통제형(Disclosure Controlled): 작은 셀을 고정된 값(9)으로 대체함.
2. 조대화형(Coarsened): 빈도를 10의 배수로 반올림함.
3. 조대화 및 조정형(Coarsened and Adjusted): 조대화된 빈도를 원래 샘플 크지에 맞게 추가 조정함.

• 유용성 지표: 유용성은 표준화된 성향 점수 평균 제곱 오차(SpMSE)를 사용하여 측정되었다. 모든 방법이 SpMSE 값 10 미만(10 초과는 주요한 차이를 의미)을 기록했다. "조대화 및 조정형" 방법이 가장 낮은 SpMSE 값을 나타내어, 원래 데이터 구조에 대한 가장 높은 충실도를 보였다.
• 모델 적합도: 가구 내 하인 고용을 예측하는 로지스틱 회귀 모델을 GT와 합성 데이터 모두에 적용했다. 결과적으로 계수의 부호와 신뢰 구간의 중첩(평균 68%)이 두 데이터셋 간에 일관되게 나타났다.
• 수렴성: 조대화 및 조정 단계에서 도입된 불일치에도 불구하고 IPF 알고리즘은 성공적으로 수렴하였다.

의의 및 주장
본 논문은 이 작업을 모든 합성 데이터 요구를 위한 결정적인 해결책이라기보다 하나의 "개념 증명(proof-of-concept)" 연습으로 규정한다. 저자는 이 방법이 신뢰 연구 환경 외부로 안전하게 공개할 수 있는 합성 데이터를 생성하기 위한 보수적이고 투명하며 계산 가능한 접근법을 제공한다고 주장한다.

이 연구의 의의는 다음과 같은 활동을 촉진할 수 있다는 점에 있다:

• 연구 계획: 연구자가 보안 환경에 접근하기 전에 변수 구조를 이해하고 계획을 수립할 수 있도록 한다.
• 교육: 실제 민감한 데이터에 노출되지 않고도 연구자들을 훈련시키기 위한 데이터셋을 생성한다.
• 코드 개발: GT 접근 권한을 얻기 전에 분석 코드를 작성하고 디버깅할 수 있게 한다.

본 논문은 고차원 교차 분류표에 필요한 계산 메모리(예시는 약 5천만 개의 셀 필요)나 강력한 알고리즘이 조대화된 표를 역공학할 수 있는 이론적 위험과 같은 한계를 인정한다. 그러나 저자는 방법론의 투명성과 사전 검증된 소스 마진의 안전성을 근거로, 이 방식이 현재의 고위험 또는 저유용성 합성 데이터 접근법에 대한 실행 가능한 대안이 될 수 있다고 주장한다. 또한, 이 방법이 맨체스터 그룹의 연구와 유사성을 공유하지만, 공표 통제 메커즘으로서 '마진의 조대화'에 특별히 초점을 맞추고 있음을 강조한다.