Interaction-Aware Influence Functions for Group Attribution

Resumo Técnico: Funções de Influência Conscientes de Interação para Atribuição de Grupo

Declaração do Problema
As funções de influência são uma ferramenta fundamental para aproximar como a remoção de um exemplo de treinamento altera uma função alvo, como uma perda em dados de validação. A prática padrão para estimar a influência de um grupo de exemplos é somar as influências individuais de seus membros. No entanto, essa abordagem aditiva assume que os exemplos contribuem independentemente, falhando em capturar efeitos conjuntos. Na realidade, os exemplos podem ser redundantes (e.g., quase-duplicatas) ou complementares (e.g., características semelhantes com rótulos diferentes). Somar influências individuais conta duas vezes exemplos redundantes e ignora os efeitos sinérgicos de exemplos complementares, levando a uma atribuição de grupo deficiente e à seleção de dados subótima (e.g., seleção de subconjuntos altamente redundantes). Tentativas anteriores de abordar isso, como correções de segunda ordem para deslocamentos de parâmetros, frequentemente ignoram como a própria função alvo responde a esses deslocamentos.

Metodologia
Os autores propõem uma função de influência consciente de interação que caracteriza como as interações entre exemplos afetam conjuntamente uma função alvo. A inovação central é expandir a função alvo $f$ até a segunda ordem em torno dos parâmetros treinados $\hat{\theta}$, em vez de apenas linearizar o deslocamento de parâmetros.

1. Expansão de Segunda Ordem:
   O efeito exato de deixar o grupo de fora $I^-(S) = f(\hat{\theta}_{D\setminus S}) - f(\hat{\theta})$ é aproximado expandindo $f$ até a segunda ordem:
   $$\hat{I}^-(S) \approx \underbrace{\frac{1}{N} \nabla_\theta f(\hat{\theta})^\top u_S}_{\text{Influência de primeira ordem}} + \underbrace{\frac{1}{2N^2} u_S^\top H_f u_S}_{\text{Termo de interação}}$$
   Aqui, $u_S = \sum_{z_i \in S} u_i$ é o deslocamento agregado de parâmetros, onde $u_i = H^{-1}\nabla_\theta \ell(z_i, \hat{\theta})$, e $H_f = \nabla^2_\theta f(\hat{\theta})$ é a Hessiana da função alvo.

2. Termo de Interação Par a Par:
   O segundo termo (o termo de interação) decompõe-se em uma soma de contribuições par a par $\kappa(z_i, z_j) = u_i^\top H_f u_j$.

   • Interpretação: Se $H_f$ é definida positiva, $\kappa(z_i, z_j)$ atua como um produto interno medindo o alinhamento dos efeitos de dois exemplos na função alvo.
   • Redundância vs. Complementaridade: O termo é positivo quando os exemplos empurram o modelo em direções semelhantes (redundância, retornos decrescentes) e negativo quando os empurram em direções opostas (complementaridade, efeito conjunto benéfico).
   • Fatoração em Forma Fechada: Para regressão logística binária, os autores provam que $\kappa(a, b) = (\sigma_a - y_a)(\sigma_b - y_b) \cdot \langle x_a, x_b \rangle_M$. Isso recupera formalmente o princípio de que exemplos semelhantes com rótulos diferentes são complementares, enquanto exemplos semelhantes com o mesmo rótulo são redundantes.

3. Seleção de Dados Gananciosa:
   Para aplicar isso à seleção de dados (encontrar um subconjunto $S$ que minimize o alvo quando adicionado), os autores derivam uma pontuação marginal $m(z_i | S)$ para adicionar um candidato $z_i$ a um conjunto já selecionado $S$. Essa pontuação inclui um termo $u_S^\top H_f u_i$ que penaliza candidatos semelhantes aos já selecionados, equilibrando efetivamente a qualidade individual com a diversidade do grupo sem exigir uma heurística de diversidade externa.

Principais Contribuições

• Estrutura Teórica: Um novo estimador de função de influência que amplia a soma padrão de primeira ordem com um termo de interação par a par derivado de uma expansão de segunda ordem da função alvo. Isso difere de trabalhos anteriores que expandiram o deslocamento de parâmetros (e.g., Basu et al. [5]), oferecendo uma estrutura par a par mais estável e interpretável.
• Garantias Teóricas: Prova de que o termo de interação codifica princípios clássicos de aprendizado supervisionado (complementaridade de pares semelhantes de classes cruzadas, redundância de pares semelhantes da mesma classe) em uma fatoração em forma fechada para regressão logística, extensível a classificadores profundos de múltiplas classes.
• Eficiência Algorítmica: Um procedimento de seleção gananciosa (Algoritmo 1) com complexidade $O(KPd)$ que pré-computa quantidades necessárias e atualiza um acumulador, tornando-o escalável para grandes conjuntos de dados e modelos.

Resultados Experimentais
O método foi avaliado em dois cenários principais:

1. Fidelidade ao Retreinamento (Modelos de Pequena Escala):

   • Configuração: Avaliado em seis pares conjunto de dados-modelo (Regressão Logística, MLPs, ResNet-9) em tarefas de classificação e regressão.
   • Métrica: Correlação de posto de Spearman entre a influência estimada e os efeitos reais de re-treinamento deixando o grupo de fora.
   • Resultado: O estimador consciente de interação (F+I) alcançou a maior correlação em todos os cenários, superando significativamente a influência de primeira ordem padrão (F) e a correção de deslocamento de parâmetro de segunda ordem (F+B). Notavelmente, F+B mostrou instabilidade, confirmando o mau condicionamento teórico de expandir o deslocamento de parâmetro em cenários não convexos.

2. Seleção de Subconjuntos (Pequena Escala e LLMs):

   • Pequena Escala (MLPs): Em MNIST e FashionMNIST, a seleção baseada em influência padrão (F) colapsou para poucas classes, performando pior que a seleção aleatória. O método consciente de interação manteve a entropia de classes comparável à seleção aleatória e alcançou a menor perda de teste em dados de validação.
   • Modelos de Linguagem Grandes (Llama-3.1-8B): Aplicado à seleção de dados de ajuste de instrução a partir de um pool de ~270k exemplos.
   • Resultado: O método proposto superou a seleção aleatória em todas as sete tarefas downstream (GSM8K, AQuA, ARC-E, HellaSwag, PIQA, ECQA, SQuAD). Alcançou o melhor desempenho geral em cinco das sete tarefas, superando tanto as bases baseadas em influência (Additive IF, LESS) quanto as bases de similaridade de representação (RDS+, NV-Embed). Crucialmente, a seleção baseada em influência padrão (Additive IF) performou pior que a seleção aleatória na maioria das tarefas, destacando a falha da pontuação aditiva neste regime.

Significado e Alegações
O artigo alega que a atribuição de grupo é fundamentalmente sobre como os exemplos de treinamento afetam o alvo, e não apenas o deslocamento de parâmetros. Ao caracterizar interações através de seu efeito conjunto no alvo, o método proposto aborda o "ponto cego" da pontuação aditiva, que leva à seleção de dados redundante. Os autores demonstram que levar em conta essas interações é crítico tanto para estimar com precisão a influência de grupo quanto para selecionar subconjuntos de treinamento diversos e eficazes. O método fornece uma correção de segunda ordem principial que emerge naturalmente da curvatura da função alvo, em vez de depender de penalidades de diversidade impostas externamente.

Limitações
Os autores notam duas limitações principais:

1. O procedimento de seleção gananciosa, embora eficaz, carece de garantias formais de otimalidade.
2. O estimador herda erros de aproximação das aproximações de Hessiana subjacentes (e.g., EK-FAC, projeções de baixo posto). Trabalhos futuros podem se beneficiar de avanços na estimação escalável de inversa-Hessiana.