Stable and Privacy-Preserving Synthetic Educational Data with Empirical Marginals: A Copula-Based Approach

Título: Dados Educacionais Sintéticos Estáveis e Preservadores de Privacidade com Marginais Empíricos: Uma Abordagem Baseada em Copulas

1. O Problema

A mineração de dados educacionais (EDM) e a análise de aprendizagem enfrentam um dilema crítico: a necessidade de dados de alta qualidade para treinar modelos (especialmente com o advento de IA generativa) versus as rigorosas regulamentações de privacidade que impedem o compartilhamento de registros reais de estudantes.

• Limitações das Soluções Atuais: Métodos existentes de geração de dados sintéticos, baseados em Deep Learning (como GANs e VAEs) ou abordagens paramétricas, sofrem de dois problemas principais:
  1. Distorção Marginal: Eles frequentemente falham em preservar as distribuições empíricas originais das variáveis (marginais), especialmente em dados educacionais que são assimétricos, multimodais ou discretos.
  2. Instabilidade em Ciclos Iterativos (Model Collapse): Quando dados sintéticos são usados para treinar novos modelos (um "Ciclo de Feedback Sintético" ou SFL), ocorre uma degradação progressiva da variância e perda de suporte da distribuição. Isso leva a um "colapso de modelo", onde a diversidade dos dados desaparece ao longo das iterações.
• Consequência: A falta de estabilidade e fidelidade marginal compromete a confiabilidade das análises subsequentes, a reprodutibilidade e a validade de estudos sobre subgrupos minoritários.

2. Metodologia: NPGC (Non-Parametric Gaussian Copula)

Os autores propõem o NPGC, um método de síntese "plug-and-play" que substitui a otimização de aprendizado profundo por uma ancoragem estatística empírica. O método baseia-se no Teorema de Sklar e opera em três etapas principais:

1. Transformação Marginal (X → Z):

   • Cada variável é mapeada para um espaço gaussiano latente usando uma Transformada Integral de Probabilidade Empírica.
   • Diferente de métodos paramétricos, o NPGC não assume uma distribuição teórica (como Gaussiana ou Beta). Ele utiliza a Função de Distribuição Acumulada (CDF) empírica dos dados reais.
   • Tratamento de Dados Faltantes: Valores ausentes são tratados como um estado explícito, preservando padrões de ausência informativos (ex: falta de dados em subgrupos específicos).
   • Privacidade (DP): Ruído calibrado (Mecanismo de Laplace) é injetado nas contagens dos histogramas e nas estimativas de correlação para garantir Privacidade Diferencial (DP) tanto nas marginais quanto na estrutura de dependência.

2. Modelagem de Dependência e Amostragem:

   • Após a transformação para o espaço gaussiano, a matriz de correlação empírica é estimada.
   • Ruído DP é adicionado à matriz de correlação, seguida por uma correção para garantir que a matriz seja Semidefinida Positiva (PSD).
   • Amostras sintéticas são geradas no espaço gaussiano utilizando a fatoração de Cholesky da matriz de correlação perturbada.

3. Reconstrução Marginal (Zsyn → Xsyn):

   • As amostras gaussianas são mapeadas de volta ao espaço original dos dados usando a inversa da CDF empírica (armazenada durante o ajuste).
   • Isso garante que as distribuições marginais dos dados sintéticos sejam idênticas (ou estatisticamente indistinguíveis, dado o ruído DP) às dos dados originais, preservando a forma exata das distribuições observadas.

3. Contribuições Chave

• Ancoragem Empírica Não-Paramétrica: O NPGC é o primeiro método a garantir a preservação exata das marginais empíricas (incluindo dados categóricos, inteiros e contínuos) sem assumir famílias paramétricas, resolvendo o problema de mismatch marginal.
• Estabilidade em Ciclos de Feedback (SFL): Ao forçar a preservação das marginais a cada iteração, o NPGC mitiga o fenômeno de colapso de modelo, mantendo a estabilidade estatística mesmo após múltiplos ciclos de regeneração.
• Privacidade Integrada: Incorpora Privacidade Diferencial diretamente na estimativa de marginais e correlações, oferecendo garantias formais de privacidade.
• Eficiência Computacional: Elimina a necessidade de treinamento de redes neurais profundas, resultando em tempos de treinamento ordens de magnitude menores.
• Validação em Cenário Real: Implementação e teste bem-sucedido em logs de interação de uma plataforma de aprendizado online em larga escala, lidando com desequilíbrio severo de classes.

4. Resultados Experimentais

O NPGC foi avaliado em cinco conjuntos de dados do repositório UCI (incluindo Adult, Student Dropout e Student Performance) e comparado com baselines como CTGAN, TVAE, Copula-GAN e Gaussian Copula Paramétrica (PGC).

• Fidelidade: O NPGC alcançou a pontuação mais alta em Fidelidade Geral (0.962), superando todos os baselines. Ele preservou perfeitamente as formas univariadas e as tendências de pares, enquanto modelos de Deep Learning distorceram significativamente as marginais (ver Figuras 1 e 4 do artigo).
• Privacidade: O NPGC obteve o melhor desempenho em privacidade, com o menor AUC do Discriminador (0.801) e menor Distance to Closest Record (DCR), indicando menor risco de reidentificação e memorização.
• Utilidade (TSTR): Embora o TVAE tenha tido uma queda de acurácia ligeiramente menor (8.66% vs 16.99% do NPGC) em tarefas de classificação, o NPGC ofereceu utilidade competitiva com garantias de privacidade superiores e custos computacionais drasticamente menores.
• Estabilidade de Regeneração: Em um teste de 10 iterações de feedback sintético (SFL):
  • O NPGC manteve sua pontuação de fidelidade quase constante (queda de apenas 1.16 pontos percentuais).
  • Os baselines de Deep Learning e híbridos sofreram degradação severa (ex: Copula-GAN caiu de 88.9% para 49.2%), demonstrando colapso de modelo.
• Desempenho Computacional: O tempo de treinamento do NPGC foi de 0.65 segundos, comparado a mais de 790 segundos para CTGAN e Copula-GAN.

5. Significado e Impacto

Este trabalho é fundamental para o avanço da pesquisa em Educação e Mineração de Dados (EDM) por várias razões:

1. Proteção de Sinais Raros: Ao preservar as marginais empíricas, o NPGC evita que subgrupos minoritários (estudantes com comportamentos raros ou demografias sub-representadas) sejam "suavizados" ou apagados pelos geradores sintéticos, o que é crucial para análises de equidade.
2. Viabilidade de Compartilhamento: Permite que instituições compartilhem dados sintéticos de alta qualidade para fins de benchmarking e reprodutibilidade sem violar a privacidade dos alunos.
3. Alternativa Leve e Robusta: Oferece uma alternativa estatística robusta e computacionalmente eficiente aos modelos de IA generativa pesados, que muitas vezes são instáveis e difíceis de auditar em ambientes regulados.
4. Solução para o "Colapso de Modelo": Estabelece um novo padrão para a geração de dados sintéticos que devem ser usados iterativamente, garantindo que a qualidade dos dados não se degrade ao longo do tempo.

Em resumo, o NPGC resolve o trade-off entre fidelidade estatística, privacidade e estabilidade, oferecendo uma ferramenta prática e confiável para a comunidade de pesquisa educacional.