Resumo Técnico: Direcionamento Cross-Lingual para Geração de Linguagem Figurada

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) multilíngues demonstram a capacidade de gerar linguagem figurada (ex: metáforas, expressões idiomáticas, ironia) em várias línguas. No entanto, permanece incerto se os sinais neurais internos que impulsionam esse comportamento são estritamente específicos de uma língua ou se contêm componentes reutilizáveis e cross-linguais. Distinguir entre essas possibilidades é crítico para compreender a extensão das representações semânticas compartilhadas em modelos multilíngues além do vocabulário e da sintaxe de superfície. Especificamente, o artigo investiga se direções de direcionamento (steering directions) derivadas de diferenças de ativação entre o figurado e o literal em uma língua podem induzir efetivamente uma geração figurada semelhante em uma língua alvo diferente, sem retreinamento ou ajuste fino (fine-tuning).

Metodologia

Os autores empregam o direcionamento por ativação (activation steering) como uma sonda baseada em intervenção para testar a portabilidade das representações de linguagem figurada. O pipeline experimental envolve três estáções principais:

1. Construção de Vetores:

   • Adição de Ativação Contrastiva (CAA): Para uma língua de origem $g$ e uma categoria figurada específica $c$, os autores constroem um vetor de direcionamento $\hat{v}^{(l)}_{g,c}$ calculando a diferença normalizada entre as médias das ativações dos estados ocultos de exemplos figurados ($D^+_{g,c}$) e exemplos literais ($D^-_{g}$) em uma camada específica do transformer $l$.
   • Dados: O estudo utiliza conjuntos balanceados de até 500 exemplos figurados e 500 legendas monolíngues literais (ex: legendas do COCO) por configuração de língua-categoria.
   • Línguas e Categorias: Os experimentos abrangem seis línguas (Inglês, Chinês, Bengali, Espanhol, Italiano, Alemão) e cinco categorias figuradas (idiomatismo, metáfora, símile, ironia, sarcasmo).

2. Intervenção:

   • Durante a fase de prefill da geração, o vetor de direcionamento é adicionado ao fluxo residual na camada selecionada para cada posição de token do prompt: $h^{(l)'}_t = h^{(l)}_t + \alpha \hat{v}^{(l)}_{g,c}$.
   • A intensidade da intervenção $\alpha$ é fixada em 1.0.
   • Direcionamento Monolíngue: Os vetores são aplicados a prompts na mesma língua da qual foram derivados.
   • Transferência Cross-Lingual Zero-Shot: Vetores derivados de uma língua de origem (ex: Chinês) são aplicados a prompts em uma língua alvo diferente (ex: Inglês) para testar a transferibilidade.

3. Intervenções Geométricas:

   • Agregação de Média de Língua: Os autores sintetizam uma direção cross-lingual central através da média de vetores normalizados de múltiplas línguas de origem (incluindo e excluindo a língua alvo, conhecido como Leave-Target-Out ou LTO).
   • Ablação de Resíduo: Para testar se um núcleo geométrico compartilhado impulsiona o comportamento, a componente de um vetor nativo da língua alvo que se alinha com o agregado cross-lingual é matematicamente removida (projetada para fora). O desempenho deste vetor residual é então avaliado.

4. Avaliação:

   • Taxa de Categoria Alvo (TCR): A proporção de continuações geradas que exibem o fenômeno figurado alvo, avaliada usando o DeepSeek-v4-flash como um LLM-como-juiz.
   • Coerência: Uma escala de 0 a 4 para relevância contextual e consistência lógica.
   • Análise Estatística: Diferenças de pontos percentuais pareados são relatadas com intervalos de confiança bootstrap de 95% e valores McNemar $q$ ajustados.

Principais Contribuições

O artigo apresenta três contribuições primárias:

1. Direcionamento Monolíngue Eficaz: Em configurações monolíngues, os vetores de direcionamento aumentam consistentemente a Taxa de Categoria Alvo (TCR) em comparação com baselines não direcionados e controles de vetores aleatórios. Este efeito é observado em 74 de 96 configurações, com maior robustez para figuras de linguagem estruturais como metáfora e símile.
2. Portabilidade Cross-Lingual Zero-Shot: Vetores de línguas de origem direcionam com sucesso a geração de línguas alvo em 369 de 416 configurações zero-shot. Notavelmente, em vários casos, vetores derivados de outras línguas igualam ou até superam o desempenho de vetores derivados diretamente da língua alvo. O alemão é identificado como um alvo particularmente receptivo, enquanto o bengali mostra uma forte capacidade de origem, mas baixa receptividade.
3. Uma Base Geométrica Compartilhada para Transferência:
   • Agregação: Agregados cross-linguais sintetizados (especificamente a média Leave-Target-Out) rivalizam sistematicamente ou superam os vetores de direcionamento da língua nativa.
   • Ablação: Remover a componente cross-lingual compartilhada dos vetores nativos (ablação de resíduo) reduz drasticamente as capacidades de geração figurada. Isso indica que o direcionamento transferível depende de um componente representacional comum e reutilizável, em vez de artefatos específicos da língua.

Resultados

• Dependência de Categoria: A transferibilidade dos sinais de direcionamento varia significativamente por categoria. Metáfora e símile exibem a transferência cross-lingual mais robusta, com a metáfora mostrando um ganho médio de +17,2 pontos percentuais entre as rotas. Em contraste, sarcasmo e ironia, que dependem fortemente de contexto pragmático e nuances culturais, mostram menor transferibilidade e são mais resistentes ao direcionamento cross-lingual.
• Assimetria: A transferência cross-lingual é assimétrica. Embora algumas línguas (como o alemão) sejam altamente receptivas a sinais de direcionamento externos, outras (como o bengali) são alvos pobres, apesar de serem fontes potentes. Isso sugere que a capacidade de receber um sinal figurado é limitada pelos vieses generativos (priors) da língua alvo.
• Geometria vs. Desempenho Nativo: Os vetores agregados "Leave-Target-Out" (LTO), construídos inteiramente sem dados da língua alvo, alcançam TCRs funcionalmente comparáveis aos vetores nativos na grande maioria dos cenários (85%–98% das configurações testadas).
• Coerência: Utilizar a geometria cross-lingual compartilhada não acarreta penalidades de coerência adicionais em relação ao direcionamento nativo. No entanto, ablar a parte compartilhada faz com que o modelo regrida para seu estado padrão altamente coerente e não direcionado, confirmando que a perda na geração figurada não se deve à incoerência, mas à remoção do sinal de direcionamento específico.

Significância e Alegações

O artigo afirma fornecer evidência direta de que LLMs multilíngues organizam a intenção figurada complexa através de um sinal cross-lingual reutilizável, porém dependente do alvo.

• Representação Compartilhada: Os achados sugerem que os mecanismos internos para gerar certos tipos de linguagem figurada (particularmente as estruturais, como a metáfora) não são isolados a línguas específicas, mas fundamentados em um núcleo geométrico comum e agnóstico à língua dentro do espaço de representação do modelo.
• Dependência Comportamental: O estudo estabelece que, embora o sinal seja reutilizável, a eficácia de sua aplicação é estritamente dependente da capacidade generativa da língua alvo. O modelo pode conceituar a intenção figurada através das línguas, mas a projeção bem-sucedida dessa intenção é restringida pelos viesos aprendidos da língua alvo.
• Implicações para Controle: Estes resultados demonstram que o direcionamento cross-lingual é um mecanismo viável para controlar comportamentos refinados em modelos multilíngues, oferecendo uma base estrutural para alinhamento e controle que transcende as fronteiras individuais das línguas.

Os autores mantêm uma postura modesta, observando que seus achados refletem padrões comportamentais observáveis sob a atual disponibilidade de dados e que o pleno desmembramento das representações específicas de categoria da variância de construção permanece um importante direcionamento para trabalhos futuros. Eles também destacam limitações quanto à escassez de conjuntos de dados paralelos para certas categorias (ex: símile) e os desafios de avaliar categorias pragmáticas como o sarcasmo em contextos de continuação de sentença.