당신이 거대하고 첨단 기술을 갖춘 성의 보안 책임자라고 상상해 보세요. 매일 수천 명의 사람들이 입장을 시도하며, 당신의 임무는 오직 적절한 사람들만 들어오게 하는 것입니다. 당신에게는 얼굴을 인식할 수 있는 마법의 거울이 있지만, 완벽하지는 않습니다. 때때로 거울은 낯선 사람이 거주자와 닮았다고 착각하기도 하고(오인식, "false match"), 거주자가 낯선 사람처럼 보인다고 생각하기도 합니다(미인식, "false non-match"). 성을 안전하게 지키기 위해, 당신은 매우 엄격한 규칙을 세워야 합니다: "거울이 그 사람이 소속된 것이 거의 100% 확실할 때만 들여보내라." 이 규칙을 "임계값(threshold)"이라고 부릅니다. 기준을 너무 낮게 잡으면 침입자가 들어올 것이고, 너무 높게 잡으면 당신의 친구들이 갇혀버릴 것입니다.

이제, 성을 개방하기 전에 거울을 테스트하고 싶다고 상상해 보세요. 실제 사람들이 나타나 실수를 할 때까지 기다리는 것은 너무 위험합니다. 그래서 당신은 완벽한 컴퓨터 생성형 "가짜" 사람들을 만들어 거울을 테스트하기로 했습니다. 이것이 바로 **합성 데이터(synthetic data)**의 세계입니다. AI가 만든 디지털 얼굴들은 실제처럼 보이지만 실제 인물은 아닙니다. 여기서 과학자들이 던지는 핵심 질문은 이것입니다: "우리가 이 가짜 얼굴들을 믿고 보안 기준을 설정해도 될까?" 만약 가짜 얼굴들이 실제 사람들과 다르게 행동한다면, 당신의 보안 시스템은 재앙이 될 수 있습니다. 이 논문은 바로 이 문제, 특히 극도로 정밀함이 요구되는 새로운 유럽 국경 통제 시스템을 위해 깊이 파고듭니다.

---

잘못된 디지털 리허설

이 연구에서 오울루 대학교의 아르토 아필라(Arto Apila)는 국경 수비대의 테스트 파일럿 역할을 맡기로 했습니다. 목표는 합성 얼굴 데이터(컴퓨터로 생성된 얼굴)를 사용하여 국경 통제 시스템의 보안 "임계값"을 설정하는 것이 실제 세계에서 작동할지 확인하는 것이었습니다. 이는 마치 비행 시뮬레이터와 같습니다. 조종사들은 비행법을 배우기 위해 시뮬레이터에서 훈련하지만, 만약 시뮬레이터의 물리 법칙이 약간이라도 어긋나 있다면, 조종사는 실제 비행기에 탔을 때 추락할 수도 있습니다. 연구진은 알고 싶었습니다. 그 "시뮬레이터"(합성 데이터)가 "실제 비행기"(실제 국경 통제)를 위한 규칙을 정하기에 충분히 좋은가?

그들은 EdgeFace라는 특정 유형의 AI 모델을 사용했습니다. 이는 공항 게이트에서 볼 수 있는 것과 같은 작은 장치에서도 작동하도록 설계된, 매우 똑똑한 얼굴 탐지기의 경량화된 버전입니다. 연구진은 두 가지 서로 다른 "가짜" 얼굴 세트(합병 데이터셋)를 사용하여 이 모델을 테스트했고, 이를 "실제" 얼굴 세트(통제된 환경 및 무질서한 실제 환경에서 촬영된 사진)와 비교했습니다.

이야기의 "꼬리"

여기서 이 논문이 밝혀내는 까다로운 부분이 있습니다. 얼굴 인식 시스템이 사람을 점수 매기는 방식을 보면, 그것은 마치 그래프와 같습니다. 대부분의 사람은 중간 부분(명확한 일치 또는 명확한 불일치)에 위치합니다. 하지만 위험 지대는 그래프의 맨 끝, 즉 "꼬리(tails)" 부분에 있습니다. 이곳은 시스템이 혼란을 겪고 낯선 사람을 친구로 착각할 수 있는 구간입니다.

연구진은 합성 데이터가 그래프의 중간 부분에서는 훌륭해 보이지만, 꼬리 부분은 완전히 틀리게 만든다는 것을 발견했습니다. 이는 마치 평온한 리허설을 관찰함으로써 군중이 패닉 상태에서 어떻게 행동할지 예측하려는 것과 같습니다. 가짜 얼굴들은 실제 사람들이 가진 "최악의 시나리오"를 갖추고 있지 않았습니다.

연구진이 가짜 얼굴로부터 배운 규칙(임계값)을 실제 사람들에게 적용했을 때, 상황은 엉망이 되었습니다:

• "너무 엄격한" 문제: 때때로 시스템은 기준을 너무 높게 잡아 실제 여행객들을 거부하기 시작했습니다. 한 테스트에서, 극도로 엄격하게 설정했을 때(오류율 0.001%를 목표로 했을 때), 시스템은 통과시켜야 할 실제 사람들의 거의 **26%**를 거부했습니다!
• "너무 느슨한" 문제: 다른 경우에는 시스템이 너무 신뢰를 보냈습니다. 침입자를 허용하는 비율이 안전 한계치를 훨씬 초과했습니다.
• "모프(Morph)" 공격: 연구진은 두 얼굴을 하나로 섞어 만드는 "모프" 공격(blending two faces together)을 시도했을 때 어떤 일이 발생하는지도 테스트했습니다. 그들은 가짜 데이터로부터 도출된 설정이 이러한 속임수에 훨씬 더 취약하게 만든다는 것을 발견했습니다. 만약 가짜 데이터를 기준으로 규칙을 정한다면, 섞인 얼굴이 문을 통해 슬쩍 빠져나갈 수 있습니다.

결 결론: 최종 결정을 위해 시뮬레이터만을 믿지 마라

이 논문의 주요 발견은 빠르고 쉬운 해결책을 기대하던 이들에게는 다소 실망스러운 소식입니다. 이는 국경 통제와 같이 높은 수준의 정밀도가 필요한 시스템의 보안 규칙을 설정할 때, 합성 데이터만을 믿어서는 안 된다는 것을 시사합니다. 특히 매우 정밀한 설정(낮은 오인식률)이 필요할 때 더욱 그렇습니다.

저자들은 두 종류의 서로 다른 합성 데이터를 사용하더라도, 각각 다른 답을 내놓는다는 것을 발견했습니다. 이는 마치 두 명의 기상 예보관에게 허리케인을 예측해 달라고 요청하는 것과 같습니다. 한 명은 "우산을 챙기라"고 하고, 다른 한 명은 "벙커를 지으라"고 말합니다. 실제 폭풍이 오기 전까지는 누구의 말이 맞는지 알 수 없습니다.

이 연구는 단순히 백만 개의 가짜 얼굴을 생성하고, 테스트를 실행한 뒤, 오직 그 데이터에만 기반하여 국경 보안 규칙을 설정할 수 있다는 생각에 명시적으로 반대합니다. 데이터의 "꼬리" 부분에서의 "불일치"는 실제 인간에게 적용될 때 규칙이 틀리게 될 것임을 의미합니다. 그러나 이 논문이 합성 데이터가 쓸모없다고 말하는 것은 아닙니다. 대신, 이를 초기 단계의 개발 및 예비 교정(calibration) 용도로 사용하는 것을 권장하며, 최종적이고 결정적인 임계값 선택은 반드시 실제 데이터를 통해 검증되어야 한다고 강조합니다.

대신 무엇을 해야 하는가?

그렇다면 합성 데이터는 쓸모없는 것일까요? 전혀 그렇지 않습니다! 논문은 합성 데이터가 시스템 구축의 초기 단계에서는 여전히 훌는 훌륭한 도구라고 제안합니다. AI를 훈련시키고, 코드가 제대로 작동하는지 확인하며, 대략적인 점검을 하는 데 사용할 수 있습니다. 하지만 최종적이고 생사가 달린 보안 임계값을 설정할 때는, 반드시 실제 데이터를 사용해야 합니다.

이는 케이크를 굽는 것과 같습니다. 레시피 북(합성 데이터)을 사용하여 재료를 섞고 테스트 배치를 구워보는 법을 배울 수 있습니다. 하지만 왕에게 케이크를 내놓기 전에는, 실제 재료로 만든 실제 케이크를 맛보아야 합니다. 만약 맛을 보지 않고 책만 믿는다면, 너무 짜거나 너무 단 케이크를 내놓게 될 수도 있습니다.

연구진은 유럽의 입출국 시스템(EES)처럼 엄청난 보안이 필요한 시스템의 경우, 컴퓨터로 생성된 얼굴에만 의존하는 것은 위험한 도박이라고 결론짓습니다. "가짜" 얼굴은 실제 세계의 복잡하고 예측 불가능한 인간의 얼굴을 충분히 포착하지 못하며, 따라서 실제 세계를 위한 규칙을 설정하기에는 부족합니다. 국경을 안전하게 지키기 위해서는, 특히 최종 결정을 내릴 때, 디지털 쌍둥이가 아닌 실제 사람들을 대상으로 시스템을 테스트해야 합니다.