Causality-Constrained Generative Adversarial Networks for Bias-Resilient Data Synthesis

현대 생활의 조용하고 보이지 않는 기계 장치 속에서, 알고리즘은 누가 대출을 받을지, 누가 의학적 진단을 받을지, 그리고 누가 직업을 얻게 될지를 결정합니다. 이 시스템들은 미래를 예측하는 패턴을 찾기 위해 방대한 역사의 바다를 연구하며 학습합니다. 하지만 역사는 중립적인 기록이 아닙니다. 역사는 오래된 편견, 구조적 불평등, 그리고 개인의 진정한 잠재력과는 아무런 관련이 없는 우연한 상관관계들로 가득 차 있습니다. 컴퓨터가 이 결함 있는 역사로부터 학습할 때, 그것은 종종 사실과 함께 편향까지도 함께 학습하여, 객관적인 계산이라는 가면 아래 과거의 실수를 반복합니다. 이를 해결하기 위해 연구자들은 생성적 적대 신경망(generative adversarial networks)이라 불리는 도구들을 개발해 왔는데, 이는 본질적으로 무에서부터 새롭고 현실적인 데이터를 만들어내도록 설계된 인공지능 시스템입니다. 새로운 데이터를 생성함으로써 더 공정한 알고리즘을 훈련할 수 있다는 것이 희망입니다. 그러나 이 분야에 대한 새로운 검토는 우려스러운 진실을 드러냅니다. 단순히 새로운 데이터를 만드는 것만으로는 충분하지 않다는 것입니다. 만약 기계가 진정한 원인과 오해의 소지가 있는 우연 사이의 차이를 이해하도록 배우지 못한다면, 기계는 우리가 지우고자 하는 바로 그 차별을 충실하게 재현할 것입니다.

핵리 문제는 이러한 기계들이 세상을 바라보는 방식에 있습니다. 표준적인 데이터 생성기는 개념을 이해하지 못한 채 교과서를 암기하는 학생과 같습니다. 그들은 자신이 보는 패턴을 암송할 수는 있지만, 그것이 진정한 규칙인지 아니면 단순한 일시적 현상인지 구분하지 못합니다. 예를 들어, 한 은행의 과거 데이터가 특정 지역 출신 사람들에게 대출을 더 자주 거부했다는 것을 보여준다면, 표준적인 생성기는 그 지역에 사는 것이 대출을 거절하는 이유라고 학습할 수 있습니다. 설령 실제 이유는 과거의 금융 서비스 접근성 부족과 같이 전혀 다른 것이었을지라도 말입니다. 여기서 인과관계(causality)의 개념이 필수적이 됩니다. 인과관계는 무엇이 실제로 무엇을 일으키는지 연구하며, 직접적인 연결과 제3의 숨겨진 요인 때문에 발생하는 연결을 구분합니다. 연구자들은 이러한 이해를 통합하는 새로운 종류의 인공지능을 구축하기 시작했으며, 이는 기계가 데이터를 만들기 시작하기 전에 인과 관계의 구조를 먼저 학습하도록 강제합니다. 인과 관계 제약 생성(causality-constrained generation)이라고 알려진 이 접근 방식은, 어떤 영향의 경로가 정당하고 어떤 것이 차별적인지를 아는 시스템을 구축하여, 인간의 권리를 존중하면서도 다른 시스템을 훈련하는 데 유용한 합성 데이터를 생성하는 것을 목표로 합니다.

2019년에서 2025년 사이에 발표된 50개 이상의 연구를 다룬 포괄적인 검토는 과학자들이 이 문제를 해결하기 위해 어떻게 노력하고 있는지를 그려냅니다. 사이 두нди 코타팔리(Sai Doondi Kothapalli)가 이끄는 저자는 가장 유망한 해결책이 데이터 생성기의 심장부에 인과 관계의 지도를 직접 삽입하는 것을 포함한다는 것을 발견했습니다. 기계가 어떤 패턴이 중요한지 추측하게 두는 대신, 이 새로운 시스템에는 변수들이 서로 어떻게 영향을 미치는지에 대한 청사진 역할을 하는 '인과 그래프(causal graph)'라는 구조적 가이드가 주어집니다. 이 청사진 안에서 기계는 인종이나 성별과 같은 민감한 특성의 직접적이고 해로운 영향과, 소득이나 교육과 같은 다른 요인을 통해 전달되는 간접적이고 정당한 영향을 분리하는 법을 배웁니다. 이렇게 함으로써 생성기는 민감한 특성이 변하더라도 결과는 공정하게 유지되는 새로운 데이터 포인트를 생성할 수 있으며, 이는 차별이 존재하지 않는 세상을 효과적으로 시뮬레이션하는 것입니다. 이는 단순히 출력값에서 다양한 집단의 숫자를 균형 있게 맞추려고 했던 기존 방식으로부터의 중대한 전환이며, 기존 방식은 불공정함의 근본 원인을 해결하는 데 자주 실패했습니다.

이 검토는 연구자들이 이를 달성한 몇 가지 구체적인 방법을 강조합니다. 한 가지 접근 방식은 두 개의 경쟁하는 네트워크를 사용하는 것인데, 하나는 데이터를 생성하려고 하고 다른 하나는 불공정한 패턴을 찾아내려 노력하지만, 여기에 결정적인 추가 사항이 있습니다. 두 번째 네트워크는 데이터가 인과 지도의 규칙을 따르는지 확인하는 임무도 부여받습니다. 또 다른 방법은 인과 그래프의 순서에 따라 데이터를 조각조각 쌓아 올리는 것으로, 각 새로운 정보가 관련 없는 상관관계가 아니라 오직 진정한 원인에 기반하여 생성되도록 합니다. 일부 연구자들은 심지어 "이 사람의 배경이 달랐다면 어떤 일이 일어났을까?"라는 질문을 던지는 상상의 시나리오인 '역사실적(counterfactual)' 사례를 생성하는 고급 기술을 사용하기도 했습니다. 이러한 대안적 현실을 생성함으로써, 시스템은 원래의 결과에 영향을 미쳤을 불공정한 편향을 무시하는 법을 배울 수 있습니다. 증거에 따르면, 이러한 인과 관계를 인식하는 시스템은 데이터의 유용한 실제 세계 관계를 보존하면서도 해로운 관계는 제거하는 데 더 뛰어나며, 이전 방식보다 공정성과 정확성 사이의 더 나은 균형을 제공합니다.

그러나 앞으로 나아가는 길에는 장애물도 존재합니다. 검토 결과, 이러한 고급 시스템들은 시작 단계에서 정확한 인과 관계 지도를 갖추는 것에 크게 의존한다는 점이 명확해졌습니다. 만약 연구자들이 데이터의 실제 구조를 알지 못하거나 제공한 지도가 틀렸다면, 시스템은 공정성을 보장할 수 없습니다. 복잡한 의료 기록이나 사회 과학 데이터와 같은 많은 실제 상황에서는 이 지도가 확실하게 알려져 있지 않으며, 이를 추측하려는 시도는 새로운 오류를 초래할 수 있습니다. 또한, 이러한 정교한 시스템을 훈련하는 것은 어렵습니다. 이들은 불안정하기 쉽고 현대의 이미지 및 텍로 생성에 사용되는 거대하고 비정형화된 데이터셋으로 확장하는 데 어려움을 겪는 경우가 많습니다. 검토된 연구들은 주로 숫자 테이블과 같은 작은 규모의 구조화된 데이터셋에 집중되어 있으며, 사진이나 자유 형식의 텍text에서 발견되는 고차원적이고 무질서한 데이터에 대해서도 이 방법들이 잘 작동하는지에 대한 증거는 아직 거의 없습니다. 저자는 또한 이 분야에 성공을 측정하는 표준적인 방법이 부족하다고 지적하며, 서로 다른 연구들이 서로 다른 테스트와 데이터셋을 사용하고 있어 결과를 비교하거나 어떤 방법이 정말 최선인지 확실히 알기 어렵다고 언급했습니다.

이러한 도전 과제에도 불구하고, 연구의 방향은 분명합니다. 분야는 단순한 통계적 처방에서 벗어나 더 깊고 구조적인 이해로 나아가고 있습니다. 검토는 우리가 아직 이러한 도구들을 위험 없이 어디에나 배치할 수 있는 단계는 아니지만, 이론적 토대는 견고하다고 결론짓습니다. 정당한 원인과 차별적인 지름길을 구분하는 능력은 표준적인 기계가 결여하고 있는 강력한 역량입니다. 사회가 자동화된 시스템에 공정성과 투명성을 요구하는 압박을 높임에 따라, 인간 인과 관계의 복잡한 망을 존중하는 데이터를 생성하는 능력은 필수적이 될 것입니다. 여기서 검토된 작업은 기계에게 패턴을 보는 것과 왜 그것이 존재하는지를 이해하는 것의 차이를 가르침으로써, 우리가 단순히 우리의 역사를 모방하는 것이 아니라 더 공정한 미래를 상상하도록 돕는 새로운 세대의 인공지능을 구축하기 시작할 수 있음을 시사합니다. 여정은 계속되고 있고 길은 험난하지만, 데이터 합성이 정의를 훼손하는 것이 아니라 정의를 실현하는 세상을 향한 목적지는 점점 더 뚜렷해지고 있습니다.