Resumo Técnico: RPAM – Uma Métrica Principada para Avaliar Associações em Modelos de Linguagem

Declaração do Problema

Modelos de Linguagem (LMs) generativos exibem associações problemáticas, como estereótipos, que podem levar a saídas prejudiciais em aplicações de alto risco, como saúde e moderação de conteúdo. Avaliar essas associações é desafiador devido às limitações das métricas existentes:

• Métricas de Downstream (Fluxo de Saída): Analisam associações no texto gerado. No entanto, como a qualidade da geração varia drasticamente entre diferentes arquiteturas de LM, tamanhos e propósitos de ajuste fino, as métricas de downstream frequentemente exigem conjuntos de dados especializados e específicos para cada LM. Isso limita sua generalização e aplicação principada entre diferentes tipos de modelos.
• Métricas de Upstream (Fluxo de Entrada): Examinam os LMs no nível fundamental de embeddings ou probabilidades de continuação, oferecendo uma abordagem mais generalizável. No entanto, métricas de upstream anteriores falharam em demonstrar uma forte relação com associações do mundo real (tanto associações humanas implícitas/explícitas quanto aquelas observadas no texto gerado em downstream). Consequentemente, elas são frequentemente vistas como preditores fracos de comportamentos prejudiciais em downstream.

Metodologia

Os autores introduzem o Relative Probability Association Metric (RPAM), uma métrica de avaliação de upstream projetada para medir associações estatísticas em LMs generativos.

Mecanismo Central

O RPAM quantifica a associação entre um alvo predefinido (uma palavra, N-grama ou frase) e um conjunto de palavras de atributo (por exemplo, "matemática" vs. "artes"). Diferente de métodos anteriores que dependem de probabilidades absolutas ou similaridade de cosseno, o RPAM emprega a comparação relativa:

1. Prompting: O alvo é inserido em um template semanticamente neutro (ex: "Estas palavras estão associadas: [ALVO] e").
2. Cálculo de Probabilidade: A probabilidade de continuação do modelo para cada palavra de atributo é computada.
3. Normalização: Para garantir uma medida relativa, essas probabilidades são normalizadas através de todo o conjunto de estímulos de atributo usando uma função softmax. Isso resulta em uma probabilidade de continuação normalizada ($0 \le p \le 1$) que representa a magnitude da associação relativa.

Variantes da Métrica

O framework estende o RPAM em três modos específicos de avaliação:

• RPAM Test: Adapta o Word Embedding Association Test (WEAT) para medir associações implícitas (ex: gênero, raça) computando um efeito de associação diferencial ($d$) entre dois conjuntos de alvos e dois conjuntos de atributos.
• RPAM Valence: Mede a valência (agradabilidade) de um alvo calculando sua associação diferencial contra conjuntos de palavras agradáveis e desagradáveis (baseado em SC-WEAT).
• Framework de Validação: Os autores validam o RPAM comparando suas medições de upstream contra três benchmarks:
  1. Associações humanas implícitas (usando WEAT-WS).
  2. Associações humanas explícitas (usando WS-353 para similaridade, Bellezza para valência e SST2 para sentimento).
  3. Associações medidas nos próprios textos gerados pelo modelo em downstream.

Configuração Experimental

O estudo avalia três LMs distintos de variados tamanhos e propósitos:

• Mistral-7B-Instruct: Um chatbot de instrução de última geração.
• Mistral-7B: O modelo base.
• GPT-2: Um modelo de código aberto menor e mais antigo.

Os experimentos utilizam datasets amplamente estudados (WEAT-WS, WS-353, Bellezza, SST2) para garantir o alinhamento entre a medição de upstream e a verdade fundamental das associações humanas ou tarefas de downstream.

Principais Contribuições

1. Introdução do RPAM: Uma nova métrica de upstream para LMs generativos que utiliza normalização de probabilidade relativa. É aplicável a vários tipos de LM e conceitos sem exigir datasets especializados de geração em downstream.
2. Framework de Validação: Um framework abrangente para validar métricas de associação comparando-as com associações humanas implícitas/explícitas e comportamentos de downstream dos modelos.
3. Demonstração de Validade Preditiva de Upstream: O artigo fornece evidências de que medições de upstream podem efetivamente prever associações de downstream, uma relação anteriormente não comprovada para LMs generativos.
4. Desempenho Superior: O RPAM supera valores de recordes anteriores na medição de associações no GPT-2 e demonstra forte congruência com associações humanas em modelos mais novos e maiores, como o Mistral-7B.

Resultados

Os experimentos produziram as seguintes descoções:

• Associações Implícitas (Experimento 1): O RPAM replicou com sucesso todas as dez associações humanas implícitas (WEAT-WS) em todos os três modelos, alcançando uma taxa de detecção de 100% (F1 = 1.0) e mantendo consistentemente efeitos de magnitude positiva. Isso superou os benchmarks anteriores no WEAT-WS.
• Associações Explícitas (Experimento 2): O RPAM mostrou forte congruência com classificações humanas explícitas:
  • Similaridade de Palavras (WS-353): O $\rho$ de Spearman variou de 0,57 a 0,78 entre os modelos.
  • Valência (Bellezza): O $\rho$ de Spearman variou de 0,67 a 0,79.
  • Sentimento (SST2): Scores F1 foram $\ge 0,71$.
  • O RPAM excedeu os valores de benchmark anteriores nas tarefas de WS-353 e Bellezza no GPT-2.
• Predição de Downstream (Experimento 3): As medições do RPAM demonstraram uma alta correlação com comportamentos de downstream medidos nos mesmos modelos:
  • Mistral-Instruct (Bellezza): $\rho$ de Spearman de 0,73 entre a valência de upstream do RPAM e as classificações zero-shot de downstream.
  • Mistral & GPT-2 (SST2): F1 scores $\ge 0,74$ ao comparar a valência de upstream do RPAM com a classificação de sentimento de downstream.

Significância e Alegações

Os autores afirmam que o RPAM representa um avanço significativo na avaliação principada de modelos de linguagem:

• Preenchendo a Lacuna: O RPAM é a primeira métrica de upstream a demonstrar uma forte relação com associações do mundo real (tanto humanas quanto de downstream), desafiando a noção de que medidas de upstream não podem prever danos em downstream.
• Generalização: Ao depender de comparações relativas e normalização, o RPAM evita as limitações de datasets especializados de downstream, tornando-o aplicável a diversas arquiteturas de LM (do GPT-2 ao Mistral-7B) e conceitos.
• Política e Mitigação: A capacidade de detectar vieses em upstream, antes da geração de texto, oferece um caminho para estratégias de mitigação mais eficazes e políticas de IA informadas, fundamentadas nos princípios da ciência cognitiva de comparação relativa.

O artigo conclui que, embora o RPAM simplifique identidades interseccionais complexas ao usar conjuntos de palavras, ele fornece um método robusto e principado para avaliar associações que podem informar o desenvolvimento de sistemas de IA mais seguros. Os autores observam limitações em relação a modelos de código fechado (onde as probabilidades de continuação são inacessíveis) e a necessidade de trabalhos futuros sobre idiomas não ingleses e representações de grupos sociais mais diversas.