Shape of Memory: a Geometric Analysis of Machine Unlearning in Second-Order Optimizers

Resumo Técnico: A Forma da Memória (Shape of Memory)

O artigo "Shape of Memory: a Geometric Analysis of Machine Unlearning in Second-Order Optimizers" investiga uma lacuna crítica na literatura de machine unlearning (desaprendizado de máquina): a negligência do estado interno de otimizadores de segunda ordem.

1. O Problema: A Insuficiência das Definições Atuais

Atualmente, o sucesso do desaprendizado é medido quase exclusivamente pela similaridade dos parâmetros ($\mathbf{w}$) do modelo em relação a um modelo ideal (treinado sem os dados deletados). O autor argumenta que essa definição é subespecificada para otimizadores de segunda ordem (como o Online Newton Step - ONS).

Diferente dos métodos de primeira ordem (como o Gradiente Descendente), que descartam o histórico após cada atualização, os métodos de segunda ordem mantêm um estado auxiliar ($\mathbf{A}_t$) que codifica a curvatura da superfície de perda e a trajetória de aprendizado. O problema central é que, mesmo que os parâmetros do modelo pareçam corretos após uma deleção, a "memória geométrica" (a curvatura armazenada no otimizador) pode ainda conter informações residuais sobre os dados deletados, criando uma forma de histerese geométrica.

2. Metodologia

O estudo utiliza um ambiente de Otimização Convexa Online (OCO) sob ataques de deleção adversária. Foram comparados dois modelos:

• Baseline (Primeira Ordem): Online Gradient Descent (OGD).
• Alvo (Segunda Ordem): Online Newton Step (ONS), que mantém uma matriz de precondicionamento $\mathbf{A}_t$ que representa a geometria do espaço de parâmetros.

Configuração Experimental:

• Cenários: Fluxos de dados estacionários e com deriva (drifting).
• Intervenções de Estado: Para tentar "esquecer" os dados no ONS, o autor aplicou tratamentos espectrais à matriz de estado $\mathbf{A}_t$ no momento da deleção:
  1. Partial Reset ($\alpha$): Subtração de um valor constante dos autovalores.
  2. Eigenvalue Decay ($\beta$): Reescalonamento do espectro de autovalores.
• Métricas: Regret acumulado, erro de rastreamento (tracking error), choque de parâmetros (parameter shock) e diagnósticos espectrais (número de condição e similaridade de cosseno do estado).

3. Principais Contribuições e Resultados

O estudo revela três descobertas fundamentais que desafiam a visão convencional de unlearning:

• A Ilusão da Recuperação via Regret: O ONS demonstra uma recuperação quase imediata em termos de regret (desempenho de perda) após a deleção. No entanto, isso é enganoso. Embora o modelo volte a performar bem, ele não retorna à trajetória que teria seguido se os dados nunca tivessem existido. O desempenho mascara a discrepância do estado interno.
• Persistência da Volatilidade Geométrica: Enquanto o OGD (primeira ordem) recupera sua trajetória de parâmetros após um tempo, o ONS apresenta uma divergência persistente no erro de rastreamento. As intervenções espectrais alteram a geometria do otimizador de forma muito mais profunda do que alteram o desempenho preditivo externo.
• O Papel das Intervenções Espectrais: O autor demonstra que a "estabilidade" e a perda de informação só são recuperadas sob perturbações controladas do estado. Intervenções mais agressivas (como o decay de autovalores) aumentam a sensibilidade do modelo, mas são necessárias para alinhar o estado interno com o modelo contrafactual.

4. Significância e Conclusão

A importância deste trabalho reside na mudança de paradigma: o desaprendizado em sistemas de segunda ordem não é um problema de performance, mas um problema de alinhamento de estado.

Implicações:

1. Privacidade: Métricas baseadas apenas em erro de predição ou distância de parâmetros são insuficientes para garantir que dados sensíveis foram realmente removidos de otimizadores complexos.
2. Segurança de Dados: Existe um "rastro" de informação escondido na curvatura do otimizador que pode ser explorado.
3. Direção Futura: O autor propõe que o campo de machine unlearning deve evoluir de uma análise centrada em parâmetros para uma análise centrada em estados de informação de ordem superior, tratando o problema como um desafio de alinhamento de geometria em processos de decisão de Markov.