Adversarial Evaluation of a Two-Layer Anonymization Pipeline Against Record-Linkage Attacks

현대 사회에서는 건강 설문조사부터 금융 거래, 도시를 가로지르는 사람들의 이동 패턴에 이르기까지 방대한 양의 개인 정보가 매일 수집됩니다. 이러한 데이터는 연구와 공공 계획을 위해 엄청난 가치를 지니지만, 이를 공개하는 것은 개인을 재식별할 수 있는 상당한 위험을 수반합니다. 이름이나 식별 번호 같은 명백한 정보가 제거되더라도, 연령, 우편번호, 성별과 같은 다른 세부 사항들의 독특한 조합은 지문처럼 작용하여, 결연한 관찰자가 특정 기록을 실제 인간과 다시 연결할 수 있게 만듭니다. 이를 방지하기 위해 데이터 보호자들은 유사한 기록들을 함께 그룹화하거나 결과에 통계적 노이즈를 추가하는 등 이러한 세부 사항을 모호하게 만드는 다양한 방법들을 개발해 왔습니다. 그러나 서로 다른 방법들을 함께 사용할 때 이들이 잘 작동하는지, 아니면 새로운 취약점을 만들어내는지에 대한 근본적인 의문이 남아 있습니다.

할리치 대학교(Haliç University)의 모하메드 사이임 칼릴(Mohammed Sayim Khalil)이 이끄는 연구진은 데이터를 보호하기 위해 설계된 새로운 시스템을 구축하고 스트레스 테스트를 수행함으로써 이 질문을 해결했습니다. 그들의 연구는 두 가지 서로 다른 프라이버시 기술을 데이터의 서로 다른 부분에 별도로 적용하는 '2계층' 접근 방식에 초점을 맞춥니다. 첫 번째 계층은 기록들을 더 비슷하게 보이게 함으로써 개별 기록 자체를 보호하며, 두 번째 계층은 데이터에서 도출된 요약 통계에 수학적 불확실성을 더하여 이를 보호합니다. 연구자는 이 두 계층이 결합하여 완벽하고 깨뜨릴 수 없는 방패를 만든다고 주장하지 않았습니다. 실제로 그들은 공격자가 충분한 외부 정보를 가지고 있다면 그러한 완벽한 결합은 특정 조건 하에서 불가능하다는 것을 수학적으로 증명했습니다. 이론적인 안전의 약속에 의존하는 대신, 연구자는 현실적인 해커 시뮬레이션을 구축하고 이를 자신의 시스템과 맞붙여 실제 상황에서 얼마나 잘 버티는지 확인했습니다.

그들이 구축한 시스템은 데이터의 정교한 필터처럼 작동합니다. 먼저, 데이터셋의 모든 정보를 민감도에 따라 네 가지 범주로 분류합니다. 이름이나 사회보장번호와 같은 직접 식별자는 즉시 제거되거나 코드로 대체됩니다. 다음 범주는 생년월일이나 희귀한 직업명처럼 그 자체로는 무해해 보이지만 결합될 때 위험해질 수 있는 '준식별자(quasi-identifiers)'를 포함합니다. 이들은 시스템이 가장 열심히 보호해야 할 세부 사항들입니다. 세 번째 범주는 의료 상태와 같이 숨기거나 일반화해야 하는 민감한 정보를 다룹니다. 마지막 범주는 최소한의 변경만 거쳐 공개할 수 있는 비민감 데이터를 포함합니다. 연구자는 이 범주들에 일련의 규칙을 적용했습니다. 준식별자의 경우, 각 개인이 적어도 몇 명의 다른 사람들과 비슷해 보이도록 기록들을 그룹화하여 누구도 단독으로 특정할 수 없게 만들었습니다. 민감한 데이터의 경우, 이 그룹 내의 값의 분포가 전체 인구와 일치하도록 하여, 공격자가 특정 그룹에 속해 있다는 사실만으로 개인의 상태를 추측하는 것을 방지했습니다. 마지막으로 요약 통계에 대해서는 제어된 양의 무작위 노이즈를 추가하여, 결과가 분석에는 유용하면서도 특정 개인을 역설계하여 찾아내는 것은 불가능하도록 했습니다.

시스템이 실제로 작동하는지 테스트하기 위해, 연구자는 디지털 적대자를 만들었습니다. 이는 실제 사람이 아니라 숙련된 해커를 흉내 내도록 설계된 정교한 컴퓨터 프로그램이었습니다. 이 프로그램은 익명화된 데이터와, 실제 공격자가 신원을 추측하기 위해 공공 기록이나 소셜 미디어를 사용하는 것과 유사하게 배경 지식 역할을 하는 별도의 중복되지 않은 데이터셋에 접근할 수 있었습니다. 연구자는 세 가지 매우 다른 유형의 데이터, 즉 대규모 건강 설문조사, 수백만 건의 금융 거래, 그리고 사람들이 도시를 이동하는 경로를 보여주는 수백만 건의 이동 궤적을 대상으로 시스템을 테스트했습니다. 각 경우마다 연구자는 공격자가 가진 지식의 양을 아무것도 모르는 상태부터 모든 세부 사항을 알고 있는 상태까지 다양하게 변화시켰습니다.

결과는 두 계층 시스템이 각 방법을 단독으로 사용할 때보다 재식별을 방지하는 데 훨씬 더 효과적이라는 것을 보여주었습니다. 연구자가 건강 설문조사 데이터를 대상으로 시스템을 테스트했을 때, 공격자가 기록을 실제 인물과 매칭하는 데 성공할 확률은 2% 미만으로 떨어졌으며, 이는 다른 일반적인 방법들을 테스트했을 때보다 훨씬 낮은 수치였습니다. 금융 거래 테스트에서 시스템은 공격의 성공률을 5% 미만으로 낮추면서도 사기 탐지를 위한 데이터의 유용성은 유지했습니다. 가장 까다로운 테스트는 정보의 특성상 숨기기가 본질적으로 더 어려운 이동 데이터와 관련된 것이었습니다. 이 경우에도 시스템은 대안들보다 더 나은 성능을 보였으나, 연구자는 위치 정보 보호의 독특한 어려움을 반영하여 이 유형의 데이터에 대한 위험이 여전히 높다는 점을 언급했습니다.

연구의 핵심 발견은 이 두 가지 프라이버시 계층이 마법처럼 결합하여 단일하고 더 강력한 보장을 만들어내지는 않는다는 점을 확인한 것입니다. 연구자는 만약 공격자가 충분한 외부 정보를 가지고 있다면, 한 계층이 온전하게 유지되더라도 다른 계층의 보호를 깨뜨릴 수 있음을 입증했습니다. 이것이 연구자가 이론적인 증명에 의존하는 대신 직접적인 테스트를 통해 시스템을 평가하기로 선택한 이유입니다. 시스템을 현실적인 공격자와 대조하여 실행함으로써, 연구자는 정확히 어느 정도의 위험이 남아 있는지 측정하고 그에 따라 설정을 조정할 수 있었습니다. 그들은 가장 넓은 범위의 기록 그룹화에서 시작하여 필요할 때만 규칙을 완화하는 특정 작업 순서가 세 가지 유형의 데이터 모두에서 가장 효과적이라는 것을 발견했습니다. 이 접근 방식은 데이터를 분석에 유용하게 유지하면서도 재식별 위험을 낮게 유지할 수 있게 해주었습니다.

또한 이 연구는 중요한 한계점과 윤리적 고려 사항을 강조했습니다. 연구자는 자신의 시스템이 배치(batch) 단위로 작동한다는 점, 즉 실시간 스트림이 아닌 데이터를 한꺼번에 처리한다는 점을 인정하며, 이는 빠르게 움직이는 데이터에 대한 제약이 될 수 있다고 밝혔습니다. 또한 프라이버시를 보호하는 방법이 다수보다 소수 집단에 대해 데이터를 더 왜곡할 수 있다는 점을 들어, 프라이버시 보호가 공정하게 적용되는지 확인하는 체크 기능이 향후 버전에는 포함되어야 한다고 언급했습니다. 나아가, 시스템이 데이터를 훨씬 더 안전하게 만들기는 하지만, 일반 데이터 보호 규정(GDPR)과 같은 법규에서 요구하는 엄격한 의미의 '익명화'를 반드시 달성하는 것은 아니라고 강조했습니다. 대신, 데이터는 '가명화(pseudonymized)'된 상태, 즉 보호되고 있지만 여전히 일부 위험을 수반하고 있으므로 조직은 데이터를 공개하기 전에 이 위험을 신중하게 따져보아야 합니다.

궁극적으로, 이 연구는 개인의 프라이사를 침해하지 않으면서 데이터를 공유해야 하는 조직들을 위한 실질적인 로드맵을 제공합니다. 구조화된 데이터 분류 방식과 현실적인 공격자를 상대로 한 엄격한 테스트 과정을 결합함으로써, 연구자는 유용성과 안전성 사이의 균형을 맞추는 것이 가능하다는 것을 보여주었습니다. 이 시스템은 완벽한 방패를 제공하지는 않지만, 현재의 표준 관행보다 훨씬 뛰어난, 측정 가능하고 관리 가능한 수준의 보호를 제공합니다. 연구자는 자신의 코드와 도구를 공개하여 다른 이들이 자신의 방법을 테스트하고 개선할 수 있도록 함으로써, 데이터 프라이버시 분야가 새로운 위협에 대응하여 계속 진화할 수 있도록 했습니다.