Semantic Gradients Interactions in SSD: A Case Study in Racial Identity and Hate Speech

Resumo Técnico: Interações de Gradientes Semânticos em SSD

Declaração do Problema
O Diferencial Semântico Supervisionado (SSD) é um método misto quantitativo-interpretativo que modela como o significado de textos ou conceitos varia com resultados externos, traçando um gradiente semântico em um espaço de incorporação. No entanto, o modelo SSD canônico estima um único gradiente semântico para toda a amostra. Essa abordagem assume uma relação homogênea entre significado e resultado, o que pode obscurecer efeitos de moderação críticos, onde pistas semânticas preveem resultados de forma diferente entre grupos, identidades ou condições. Nas ciências sociais e na psicologia, o mesmo conteúdo textual pode carregar implicações avaliativas diferentes dependendo da identidade do julgador, ainda que o SSD padrão faça uma média sobre essas relações heterogêneas, falhando em capturar como as estruturas semânticas divergem entre subgrupos teoricamente significativos.

Metodologia: SSD de Interação
O artigo introduz o SSD de Interação, uma extensão do modelo canônico projetada para estimar como os gradientes semânticos variam em função de um moderador (por exemplo, pertencimento a grupo, traços ou condições experimentais).

1. Incorporação e Redução de Dimensionalidade:

   • Documentos são mapeados para vetores densos usando um modelo de incorporação fixo (por exemplo, GloVe) com média ponderada por SIF e remoção da componente principal superior para reduzir anisotropia.
   • A Análise de Componentes Principais (PCA) é aplicada para reduzir a dimensionalidade. O número de componentes retidos ($K$) é selecionado por meio de uma "varredura de PCA", otimizando para variância retida, coerência do vizinhança semântica local e estabilidade através de dimensionalidades próximas.

2. Modelo de Regressão:
   O método amplia a regressão SSD padrão com um efeito principal do moderador e um bloco de interação semântica. Seja $y_i$ o resultado padronizado, $\tilde{x}_i$ o vetor de documento reduzido por PCA de $K$ dimensões e $m_i$ o moderador padronizado. O modelo é especificado como:
   $$y_i = \alpha + \beta^\top \tilde{x}_i + \gamma m_i + \delta^\top (\tilde{x}_i m_i) + \epsilon_i$$

   • $\beta$: Captura a associação semântica de base com o resultado (o gradiente semântico principal).
   • $\gamma$: Captura o efeito principal não semântico do moderador.
   • $\delta$: Testa se a própria associação semântica muda em função do moderador (o gradiente de interação).

3. Teste Estatístico e Interpretação:

   • Significância: O bloco semântico ($\beta$) e o bloco de interação ($\delta$) são avaliados usando testes $F$ de Wald sobre seus respectivos $K$ coeficientes. O efeito principal do moderador ($\gamma$) é avaliado como um único coeficiente.
   • Retroprojeção: Vetores de coeficientes são retroprojetados do espaço de PCA para o espaço de incorporação original para produzir gradientes interpretáveis:
     • Gradiente Principal: $\hat{g}_{main} = P\beta$
     • Gradiente de Interação: $\hat{g}_{int} = P\delta$
     • Gradientes Condicionais: $\hat{g}(m^*) = \hat{g}_{main} + m^*\hat{g}_{int}$
   • Análise Qualitativa: Similar ao SSD padrão, os polos positivo e negativo desses gradientes são interpretados recuperando vizinhos mais próximos, agrupando-os e extraindo fragmentos de texto representativos.

Estudo de Caso e Resultados
O método foi aplicado ao corpus de Medição de Discurso de Ódio da UC Berkeley ($n=44.813$), analisando especificamente comentários direcionados a pessoas de cor (PDC). O moderador foi a identidade racial do anotador (binária: Branca vs. PDC).

• Achados Estatísticos:

  • O modelo explicou variância substancial nas pontuações de discurso de ódio ($R^2_{adj} = .662$).
  • O bloco semântico foi altamente significativo, confirmando uma estrutura semântica compartilhada.
  • O efeito principal da raça do anotador foi significativo ($\hat{\gamma} = .028$), com anotadores brancos atribuindo, em média, pontuações de discurso de ódio ligeiramente mais altas.
  • Crucialmente, o bloco de interação foi significativo ($F(62, 44687) = 13.76, p < 10^{-16}$), indicando que o eixo semântico preditivo dos julgamentos de discurso de ódio difere conforme a raça do anotador. O $R^2$ parcial para a interação foi .019, indicando um tamanho de efeito pequeno, mas estatisticamente robusto.

• Interpretação Semântica:

  • Gradiente Principal ($\hat{g}_{main}$): Revelou uma estrutura compartilhada contrastando discurso abertamente hostil (desdém baseado em insultos, categorização eliminacionista, metáforas de vermes) com contra-discurso de afirmação comunitária (discurso cívico diaspórico, engajamento reflexivo com raça, celebração de conquistas de PDC).
  • Gradiente de Interação ($\hat{g}_{int}$): Identificou onde os dois grupos divergiram da estrutura compartilhada.
    • Polo Positivo (Sensibilidade Branca): Organizado em torno de hostilidade explícita e marcada superficialmente, incluindo vocabulário de ataque, enquadramentos biomédicos/de contágio e termos raciais meta-discursivos.
    • Polo Negativo (Sensibilidade PDC): Organizado em torno de conteúdo dependente do contexto, incluindo comentários raciais afetivos e conflitos intra-comunitários em língua espanhola.
  • Gradientes Condicionais: Mostraram que, embora ambos os grupos compartilhassem polos de alta pontuação (hostilidade), a organização local dos polos negativos (contra-discurso) diferia, com anotadores PDC exibindo um esquema de contra-discurso estruturalmente mais elaborado.

• Robustez: Uma reanálise usando o modelo GloVe 840B do Common Crawl replicou a descoberta de moderação estatística ($p < 10^{-16}$) com um $R^2$ parcial similar (.017), embora os vizinhos semânticos específicos do gradiente de interação variassem com base na geometria da incorporação.

Contribuições Principais e Significado
A contribuição primária do artigo é metodológica: estende o SSD da estimativa de um único gradiente semântico interpretável para modelar efeitos de moderação semântica.

• Testabilidade e Interpretabilidade: O SSD de Interação torna as relações significado-resultado moderadas estatisticamente testáveis (via testes de Wald em blocos de interação) e semanticamente interpretáveis (via gradientes retroprojetados e análise de vizinhos mais próximos).
• Compreensão Nuanceada do Viés: O estudo de caso demonstra que, embora exista uma estrutura semântica compartilhada dominante para julgamentos de discurso de ódio, diferenças ligadas a grupos emergem como desvios confiáveis de segunda ordem. Isso permite que pesquisadores avancem além de perguntar se os grupos diferem para entender como as pistas semânticas que preveem julgamentos diferem.
• Utilidade Exploratória: Os autores posicionam o método como uma ferramenta para construção de teoria e geração de hipóteses. Eles observam que, como o gradiente de interação é estimado a partir de diferenças em relações condicionais, sua estrutura local de vizinhos mais próximos é menos estável do que a do gradiente principal. Portanto, é melhor usado para identificar onde associações semânticas moderadas podem ocorrer, em vez de como um sistema de classificação definitivo.

Limitações
Os autores observam explicitamente várias restrições:

• A análise trata registros de anotação como observações independentes, ignorando efeitos aleatórios cruzados de anotadores e comentários.
• O moderador binário Branca/PDC é um proxy grosseiro para posicionamento social e não captura heterogeneidade dentro do grupo.
• Os resultados são específicos ao conjunto de dados (inglês, baseado nos EUA, anotadores do MTurk) e podem não generalizar para outras línguas ou populações.
• A interpretação semântica do gradiente de interação é contingente à escolha do modelo de incorporação, significando que os vizinhos do gradiente devem ser vistos como mapas exploratórios da geometria de um modelo específico, em vez de fatos empíricos estáveis.