Resumo Técnico: Auditoria de Sensibilidade em Caixa Branca com Vetores de Direcionamento

Declaração do Problema

As auditorias algorítmicas atuais para Modelos de Linguagem de Grande Escala (LLMs) dependem predominantemente de avaliações em caixa preta, que avaliam o comportamento do modelo exclusivamente por meio de testes de entrada-saída. Esses métodos enfrentam três limitações críticas:

1. Restrições de Superfície: Eles estão restritos a testes construídos no espaço de entrada, frequentemente gerados por heurísticas, tornando-os suscetíveis à sensibilidade de prompts e a resultados inconsistentes.
2. Dificuldade com Conceitos Abstratos: Muitas propriedades socialmente relevantes, como viés de gênero ou racial, envolvem conceitos abstratos que são difíceis de encapsular ou manipular com precisão usando apenas entradas baseadas em texto. Os modelos podem parecer imparciais quando atributos protegidos explícitos são perturbados, mas ainda assim exibem viés por meio de proxies implícitos.
3. Risco de Goodharting: Os fornecedores podem otimizar modelos para passar em testes específicos de caixa preta sem abordar questões subjacentes, levando a avaliações pouco confiáveis.

Embora o acesso em caixa branca (pesos, ativações, gradientes) seja teoricamente superior para entender mecanismos internos, trabalhos anteriores não forneceram uma abordagem técnica concreta para conduzir tais auditorias na prática.

Metodologia

Os autores propõem um framework de auditoria de sensibilidade em caixa branca que aproveita o direcionamento de ativação para manipular representações internas do modelo e avaliar a sensibilidade a conceitos específicos. O framework adapta o método de interpretabilidade post-hoc de Kim et al. (2018) e utiliza o método não supervisionado Diferença Média Ponderada (WMD) (Cyberey et al., 2025) para extração de vetores.

O processo de auditoria segue um framework de seis etapas:

1. Contexto e Requisitos: Definição do cenário de implantação e requisitos do sistema (por exemplo, invariância em relação ao gênero na pontuação de crédito).
2. Construção de Testes: Design de modelos de teste representativos alinhados com os usos pretendidos.
3. Extração de Vetores de Direcionamento:
   • Um conjunto de dados $D_C$ abrangendo diferentes graus de um conceito alvo $C$ (por exemplo, linguagem de gênero ou diferenças dialetais) é utilizado.
   • O método WMD computa um vetor de direcionamento $v_C$ ponderando as ativações de entrada por suas pontuações de disparidade (diferença na probabilidade de saída entre conceitos contrastantes).
   • Deslocamentos neutros são aplicados para filtrar informações não relacionadas, e a seleção de camadas é baseada na separabilidade linear.
4. Teste de Sensibilidade:
   • Para um conjunto de entradas de teste $D$, marcadores explícitos do atributo protegido são neutralizados ou removidos.
   • A representação interna $h_x$ de uma entrada é perturbada: $h'_x = h_x + \lambda v_C$, onde $\lambda \in [-1, 1]$ é o coeficiente de direcionamento.
   • O modelo gera saídas direcionadas $y'$ para vários valores de $\lambda$.
5. Avaliação de Conformidade:
   • Uma Métrica de Sensibilidade ($S_C$) é calculada ajustando uma regressão linear entre o coeficiente de direcionamento $\lambda$ e a saída $y'$. A inclinação representa a dependência média do modelo no conceito $C$.
   • Requisito de Invariância: O modelo satisfaz o requisito se $|S_C| \le \epsilon$ (sensibilidade negligenciável).
   • Requisito de Dependência: O modelo satisfaz o requisito se $|S_C| \ge \epsilon$ (sensibilidade significativa e previsível).

Contribuições Principais

1. Framework Concreto em Caixa Branca: O artigo introduz um método de auditoria prático e de ponta a ponta que utiliza intervenções direcionadas nos internals do modelo, em vez de perturbações de entrada de superfície.
2. Métrica de Avaliação Novel: Aplica o direcionamento de ativação para medir a sensibilidade do modelo por meio de derivadas direcionais, permitindo uma avaliação detalhada das propriedades do modelo (por exemplo, viés) em uma escala graduada, em vez de um teste binário de aprovação/reprovação.
3. Generalização: O método demonstra que vetores de direcionamento extraídos de conjuntos de dados gerais (por exemplo, linguagem de gênero) podem ser aplicados para manipular conceitos em entradas específicas de tarefas (por exemplo, solicitações de empréstimo) que podem não ter relação com os dados de extração.
4. Robustez: A abordagem produz resultados de avaliação mais consistentes entre diferentes fontes de vetores em comparação com a variabilidade observada em estratégias de perturbação de caixa preta.

Resultados Experimentais

O método foi avaliado em quatro tarefas de decisão de alto risco: Julgamentos Judiciais, Pontuação de Crédito, Admissão Universitária e Diagnóstico Médico, utilizando modelos incluindo Llama-3.1, Ministral, Qwen2.5 e variantes específicas de domínio.

• Discrepância com Caixa Preta: Nas tarefas de Pontuação de Crédito e Judiciais, o método em caixa branca detectou frequentemente viés substancial (dependência de atributos protegidos) onde avaliações padrão de caixa preta sugeriam pouco ou nenhum viés. Por exemplo, na tarefa Judicial, o modelo Saul-7B mostrou um viés de ~2,5% nas taxas de condenação via teste de caixa preta, mas o método em caixa branca revelou uma diferença de sensibilidade de 20% entre grupos raciais.
• Validação de Viés Oculto: Na Pontuação de Crédito, quando o método de caixa preta foi modificado para usar perturbações de nomes (pistas de gênero implícitas) em vez de rótulos de gênero explícitos, o viés medido aumentou e alinhou-se com as estimativas em caixa branca. Isso sugere que o método em caixa branca captura riscos reais de viés que as perturbações explícitas de caixa preta perdem.
• Isolamento de Variáveis: Usando índices de Sobol', os autores mostraram que o direcionamento em caixa branca teve impacto mínimo em variáveis de tarefa não protegidas (por exemplo, histórico de crédito, duração do emprego), enquanto perturbações de entrada de caixa preta (como adicionar nomes) às vezes alteraram a decomposição dessas variáveis pelo modelo.
• Robustez: Os resultados em caixa branca permaneceram consistentes quando os vetores de direcionamento foram derivados de diferentes conjuntos de dados (identidade dialetal vs. racial), enquanto os resultados de caixa preta variaram significativamente dependendo se a raça foi perturbada explicitamente ou implicitamente.

Significado e Alegações

O artigo alega que avaliações de caixa preta de superfície são insuficientes para avaliar propriedades abstratas do modelo como viés. Ao sondar diretamente representações internas, o método proposto em caixa branca:

• Revela Dependências Ocultas: Identifica dependência substancial em atributos protegidos que escapam aos testes tradicionais de entrada-saída.
• Melhora a Confiabilidade: Fornece resultados de auditoria mais consistentes que são menos sensíveis à construção específica de prompts de teste.
• Aumenta a Interpretabilidade: Permite que auditores isolem conceitos específicos dentro do espaço latente do modelo, oferecendo uma avaliação mais rigorosa de se um modelo opera de forma confiável em seu contexto de implantação pretendido.

Os autores concluem que, embora a hipótese de representação linear sustente seu método, essa abordagem oferece um caminho prático para auditorias algorítmicas mais rigorosas, transparentes e confiáveis para LLMs em cenários de alto risco.