Resumo Técnico: Embeddings para Preferências, Não para Semântica

Declaração do Problema

Sistemas modernos de tomada de decisão coletiva (por exemplo, Polis, Remesh, escolha social generativa) permitem cada vez mais que os participantes expressem opiniões por meio de texto livre, em vez de votar em candidatos fixos. Uma abordagem natural para agregar essas opiniões é incorporar o texto em um espaço vetorial, permitindo a aplicação de algoritmos de localização de instalações e agrupamento justo. No entanto, os modelos padrão de incorporação de texto são treinados em tarefas semânticas (recuperação, similaridade textual, inferência em linguagem natural), onde a proximidade implica tópicos ou formulações compartilhados.

O problema central identificado é o descompasso entre similaridade semântica e similaridade preferencial. Na agregação de preferências, o acordo de um participante com uma declaração deve estar inversamente relacionado à sua distância em relação a ela. As incorporações padrão falham aqui porque confundem características de "incômodo" (estilo, formulação, tópico) com características de "preferência" (posição, valores). Em dados de deliberação natural, essas características estão correlacionadas observacionalmente (pessoas com a mesma posição frequentemente usam palavras semelhantes), mascarando a falha. Quando essa correlação se quebra — como quando duas declarações compartilham formulação, mas mantêm posições opostas — as incorporações padrão classificam incorretamente o distrator semântico como mais similar do que a alternativa alinhada à preferência.

Metodologia

Os autores diagnosticam isso como um problema de invariância: uma geometria de preferência válida deve ser invariante à formulação e ao estilo, mas sensível apenas à posição e aos valores. Eles propõem dois métodos para alinhar espaços de incorporação com a geometria de preferência.

1. Framework Formal e Diagnóstico

Os autores decompõem o espaço de incorporação $\mathbb{R}^d$ em um subespaço de preferência $S$ (que carrega a estrutura relevante para a posição) e um subespaço de incômodo $S^\perp$ (que carrega estilo/formulação).

• Utilidade de Ponto Ideal: A utilidade de uma declaração $j$ para um participante $v$ é modelada como o negativo do quadrado da distância euclidiana até o ponto ideal de $v$ dentro de $S$.
• Falha do Cosseno: A similaridade de cosseno padrão decompõe-se aditivamente em um termo de preferência ($\Delta_S$) e um termo de incômodo ($\Delta_T$). Em dados naturais, $\Delta_T$ correlaciona-se com $\Delta_S$, fazendo com que o cosseno pareça eficaz. No entanto, em cenários "difíceis" onde eles entram em conflito, $\Delta_T$ domina, causando erros.

2. Ajuste de Preferência Descorrelacionado (DPT)

Para corrigir a geometria, os autores introduzem um procedimento de treinamento sintético:

• Síntese de Triplets Difíceis: Eles geram triplets $(a, p, n)$ onde:
  • $a$: Âncora (texto original do participante).
  • $p$: Correspondência de Preferência (mesma posição/valores que $a$, mas vocabulário/estrutura diferentes).
  • $n$: Distrator Semântico (posição oposta a $a$, mas vocabulário/estrutura quase idênticos).
• Objetivo de Treinamento: O modelo é ajustado finamente usando a perda de Bradley-Terry nesses triplets. Os autores provam (Teorema 1) que treinar em uma distribuição onde a margem de incômodo $\Delta_T$ aponta na direção oposta à margem de preferência $\Delta_S$ diminui estritamente o risco em relação ao cosseno padrão, forçando efetivamente o modelo a reduzir o peso do subespaço de incômodo.
• Implementação: Eles aplicam Adaptação de Baixo RANK (LoRA) a codificadores pré-treinados (por exemplo, Sentence-T5-XL) usando esses dados sintéticos.

3. Embeddings Projetados por Tópico

Quando dados de votação por tópico estão disponíveis (comum em plataformas de deliberação), os autores propõem um método mais simples e específico por tópico:

• Projeção de Baixo RANK: Em vez de ajustar finamente o codificador, eles aprendem um mapa linear de baixo rank $L^\top$ que projeta as incorporações congeladas diretamente no subespaço de preferência $S$.
• Pontuação: A utilidade é calculada como a distância euclidiana ao quadrado neste espaço projetado. Este método recupera o sinal de preferência já presente no codificador congelado sem re-treinar o modelo base.

Principais Contribuições

1. Diagnóstico de Invariância: O artigo formaliza o descompasso entre similaridade semântica e preferencial como um problema de invariância, decompondo a margem de cosseno em componentes de sinal de preferência e de incômodo.
2. Síntese de Triplets Difíceis e Teoria: Eles introduzem um procedimento para gerar triplets difíceis contrafactuais que quebram a correlação entre formulação e posição. Eles fornecem uma prova teórica de que treinar nessas distribuições reduz estritamente o risco de Bradley-Terry ao suprimir a contribuição de incômodo.
3. Validação Empírica: O método demonstra ganhos substanciais em triplets difíceis e previsão de preferências em 11 conjuntos de dados de deliberação online (abrangendo plataformas Polis, Remesh e Escolha Social Generativa).
4. Eficiência de Projeção: Eles mostram que, quando votos específicos por tópico estão disponíveis, uma projeção de baixo rank de incorporações congeladas supera o ajuste completo de preferência, sugerindo que o codificador base já contém o sinal necessário, apenas obscurecido por dimensões de incômodo.

Resultados

• Desempenho em Triplets Difíceis: Codificadores padrão (por exemplo, Sentence-T5-XL, e5-large-v2) performam perto do acaso ou pior em triplets difíceis (por exemplo, 48,3% de precisão para ST5-XL, caindo para 6,3% para BGE-large). Modelos ajustados com DPT recuperam significativamente o desempenho (por exemplo, ST5-XL salta para 80,0%; e5-large-v2 salta para 78,7%).
• Desempenho em Dados Naturais: Os modelos ajustados com DPT também melhoram o desempenho em dados de deliberação natural, alcançando uma precisão média de triplets de 68,6% em 11 conjuntos de dados, superando a melhor linha de base (ST5-XL não ajustado em 65,2%) e outros modelos especializados (por exemplo, StanceAware-SBERT, BGE-SparseCL).
• Projeção vs. Ajuste: O embedding projetado por tópico (rank-20) alcança 77,6% de precisão em dados naturais e 81,1% em triplets difíceis, superando o cosseno ajustado com DPT universal. Isso indica que o sinal de preferência é acessível linearmente no espaço de incorporação congelado.
• Eficiência de Dados: A projeção por tópico requer apenas ~50 triplets rotulados para superar a linha de base universal DPT.

Significado e Alegações

O artigo afirma que, para sistemas de tomada de decisão coletiva que dependem de texto livre, embeddings semânticos padrão são insuficientes porque priorizam a similaridade superficial sobre o alinhamento de valores. Ao desacoplar explicitamente o incômodo (estilo/formulação) da preferência (posição), os métodos propostos permitem um agrupamento mais preciso de participantes e uma estimativa mais acurada da utilidade para declarações não votadas.

Os autores enfatizam que sua abordagem suporta aplicações downstream em localização de instalações e agrupamento justo para deliberação. Especificamente, uma geometria de preferência permite que plataformas:

• Formem grupos de deliberação com níveis ótimos de desacordo.
• Agreguem opiniões em listas representativas usando escolha social métrica (por exemplo, k-median, justiça proporcional).
• Guiem modelos de escolha social generativa a produzir declarações que representem melhor clusters específicos de usuários.

O artigo mantém um tom modesto quanto às limitações: a avaliação foca em classificações dentro do participante, em vez de distâncias absolutas calibradas, e a incorporação é uma aproximação empírica de preferências, não uma representação perfeita do julgamento individual. Eles alertam contra o uso dessas incorporações como base para decisões vinculativas.