Resumo Técnico: Barreiras à Atribuição de Crédito Contrafactual para Modelos Autoregressivos

Declaração do Problema

A IA generativa obscurece o vínculo entre entradas e saídas, complicando a prática de atribuir crédito a trabalhos anteriores. Embora a Atribuição de Crédito Contrafactual (CCA) tenha sido introduzida recentemente por Livni et al. [2024] como uma condição técnica para algoritmos de aprendizado (um relaxamento da privacidade diferencial que exige estabilidade em relação a entradas não creditadas), sua aplicação a modelos generativos permanece inexplorada.

Este artigo inicia o estudo da CCA para modelos de linguagem autoregressivos. Especificamente, aborda o desafio de atribuir crédito a um conjunto de dados no momento da implantação (por exemplo, uma base de dados RAG ou exemplos de aprendizado em contexto) em vez do conjunto de dados de treinamento. O objetivo é projetar modelos que produzam tanto uma sequência gerada quanto um conjunto de crédito $C \subseteq S$, satisfazendo a condição CCA: se um documento $s_i$ não for creditado, a distribuição de saída deve ser indistinguível da distribuição onde $s_i$ foi excluído da entrada.

Metodologia

Os autores investigam duas abordagens naturais para a construção de modelos autoregressivos compatíveis com CCA:

1. Composição Autoregressiva: Projetar um preditor de próximo token compatível com CCA e executá-lo para gerar sequências, agregando os conjuntos de crédito dos tokens individuais.
2. Readequação (Retrofitting): Pegar um modelo existente que não atribui crédito e envolvê-lo com um algoritmo que adiciona um conjunto de crédito às suas saídas, preservando a distribuição de geração original.

O artigo emprega análise teórica, incluindo contraexemplos, provas de limite inferior e argumentos de complexidade de oráculo, para avaliar a viabilidade dessas abordagens.

Principais Contribuições e Resultados

1. Não Composição da CCA Autoregressiva

O primeiro resultado importante desafia a abordagem padrão usada para Privacidade Diferencial (DP) em LLMs, onde um preditor de próximo token privado é composto autoregressivamente para garantir privacidade de ponta a ponta.

• Descoberta: A CCA não se compõe autoregressivamente.
• Teorema 4.2: Os autores constroem um contraexemplo mostrando que, para qualquer $\epsilon \ge 0$ e $\delta < 1$, existe um preditor de próximo token $\tilde{M}$ que satisfaz a condição $(0,0)$-CCA mais estrita, mas cuja execução autoregressiva $G_{\tilde{M}}$ falha em satisfazer $(\epsilon, \delta)$-CCA.
• Teorema 4.3: Um limite inferior geral é provado para o parâmetro CCA $\epsilon'$ de uma execução gerada por um preditor $\epsilon$-CCA. Contra-intuitivamente, à medida que o $\epsilon$ do preditor base se aproxima de 0 (tornando-se "melhor" na atribuição), o limite inferior no $\epsilon'$ da execução pode aumentar, tornando a garantia de composição mais fraca. Isso contrasta fortemente com a DP, onde a composição é bem compreendida e gerenciável.

2. Inviabilidade da Readequação (Retrofitting) de CCA

A segunda abordagem, a readequação, envolve adicionar uma camada de atribuição de crédito a um modelo pré-existente via acesso de caixa preta.

• Descoberta: A readequação de CCA é computacionalmente inviável no pior caso.
• Teorema 5.5: Os autores provam que qualquer algoritmo que tente readequar um modelo para ser $(\epsilon, 0)$-CCA (com $\delta=0$) e ótimo em crédito (minimizando o número esperado de itens creditados) requer consultas exponenciais ao modelo base em termos do comprimento de saída $\ell$.
• Construção de Dificuldade: Eles constroem uma família de modelos $\{M_z\}$ indexada por uma string oculta $z \in \{0,1\}^\ell$. Para satisfazer a CCA, o algoritmo de readequação deve efetivamente identificar $z$. Enquanto encontrar $z$ a partir do modelo base requer $\Omega(2^\ell)$ consultas, encontrar $z$ a partir de uma augmentação CCA ótima requer apenas consultas polinomiais. Essa lacuna implica que qualquer algoritmo de readequação de caixa preta deve fazer consultas exponenciais ao modelo base para alcançar a aproximação necessária.
• Paradoxo do Impacto Desvanecente: A análise revela uma questão conceitual: os modelos construídos são funcionalmente indistinguíveis em relação ao documento de entrada (a distância de variação total desvanece como $2^{-\ell}$), no entanto, a augmentação CCA ótima é necessária para creditar o documento com uma probabilidade constante $\gamma > 0$. Isso sugere que definições estritas de CCA podem forçar a atribuição para entradas com impacto negligenciável.

Significado e Alegações

O artigo alega ser o primeiro a estudar formalmente a CCA no contexto de modelos generativos autoregressivos. Seu principal significado reside na identificação de barreiras fundamentais para duas estratégias intuitivas de implementação de atribuição de crédito:

1. Desacoplamento da DP: Diferentemente da Privacidade Diferencial, a CCA não se compõe sob geração autoregressiva. Isso implica que simplesmente treinar um preditor de próximo token "que atribui crédito" é insuficiente para garantir CCA para o texto gerado completo.
2. Limites Computacionais: A readequação de modelos existentes para satisfazer a CCA é computacionalmente proibitiva (complexidade de consulta exponencial) sob suposições padrão de caixa preta e requisitos estritos de otimalidade.

Os autores concluem que esses resultados destacam a dificuldade de formalizar a atribuição de crédito para IA generativa. Eles sugerem que relaxar a definição (por exemplo, permitindo $\delta > 0$ ou relaxando o requisito de que o modelo aumentado preserve exatamente a distribuição de saída original) pode ser necessário para alcançar soluções viáveis, embora tais relaxamentos sejam deixados para trabalhos futuros. O artigo não propõe novos algoritmos ou validações experimentais, mas delineia os limites teóricos do atual framework CCA quando aplicado à geração autoregressiva.