Resumo Técnico: DRIFTLENS – Medindo o Desvio de Raciocínio Induzido por Memória em Modelos de Linguagem Personalizados

Declaração do Problema

Os Modelos de Linguagem de Grande Escala (LLMs) modernos empregam cada vez mais memória persistente para armazenar atributos do usuário, preferências e contextos anteriores, injetando essa informação em prompts futuros para personalizar interações. Embora a personalização vise adaptar as respostas às necessidades do usuário, este artigo identifica uma falha crítica e frequentemente invisível: o desvio simbólico (symbolic drift).

O desvio simbólico ocorre quando a trajetória de raciocínio de um modelo — a cadeia de prioridades, compensações (trade-offs) e justificativas usadas para derivar uma resposta — sofre um deslocamento significativo devido à injeção de atributos do usuário, mesmo quando a resposta final permanece fluente, pertinente e plausível. Isso é particularmente perigoso em tarefas "inverificáveis" (ex: aconselhamento de carreira, conflitos interpessoais, compensações éticas) onde não existe uma única resposta de verdade absoluta (ground-truth). Nesses cenários, as métricas de precisão padrão falham em detectar que o modelo mudou de um framework de raciocínio de risco jurídico para um framework de validação emocional simplesmente porque o perfil do usuário indica que ele é jovem, possui deficiência ou está em uma ocupação estigmatizada. O artigo argumenta que tais mudanças representam uma sensibilidade indesejada em vez de uma adaptação apropriada, embora permaneçam indetectadas pelos métodos de avaliação atuais.

Metodologia: O Framework DRIFTLENS

Para abordar a falta de respostas de verdade absoluta em tarefas de raciocínio, os autores introduzem o DRIFTLENS, um framework livre de ground-truth projetado para medir a estabilidade das trajetórias de raciocínio sob perturbações de memória controladas.

1. Curadoria de Dados

Os autores construíram um benchmark de 422 perguntas de alto consenso (e um conjunto relaxado de 1.061) satisfazendo quatro critérios:

• Indutor de raciocínio: Requer compensações, comparações ou justificativas.
• Inverificável: Não admite uma única verdade objetiva.
• Indiferente ao Persona: A resposta não deve depender logicamente dos atributos demográficos de quem pergunta.
• Autônomo (Standalone): Compreensível sem contexto oculto.
  As perguntas foram filtradas de sete fontes públicas (carreira, ética, finanças, jurídico, médico, dilemas cotidianos) usando avaliadores de LLM e anotadores humanos para garantir a ortogonalidade entre o conteúdo da pergunta e os atributos do usuário.

2. Ontologia de Valores

Para quantificar as mudanças de raciocínio, os autores desenvolveram uma ontologia de valores que mapeia passos de raciocínio em texto livre para categorias simbólicas discretas. Partindo de hierarquias existentes, eles refinaram a ontologia através de 78 rodadas de rotulagem por três LLMs (GPT-OSS-120B, Qwen3-235B, Claude Sonnet 4.5) para alcançar concordância inter-modelo de >83%. A ontologia consiste em quatro categorias raiz:

• Social: Conduta interpessoal/coletiva.
• Prático: Execução de tarefas operacionais.
• Protetivo: Prevenção de danos e segurança.
• Pessoal: Experiência interna subjetiva.

3. Estratégia de Perturbação

O framework avalia o desvio comparando uma linha de base sem memória contra respostas geradas sob três condições:

• Controle Negativo (Ruído Pragmático): Prefixos sem conteúdo (preenchimento, espaços em branco, pontuação) para estabelecer um nível de ruído basal.
• Contolo Positivo (Eventos Vitais Maiores): Revelações de eventos psicológicos significativos (ex: luto, doença grave) conhecidos por remodelar valores.
• Condição Experimental (Pistas de Persona): Revelações de atributos específicos do usuário (gênero, idade, ocupação, deficiência, etc.) construídas para serem independentes da pergunta.

4. Métricas de Desvio

Dois métricas complementares medem a divergência entre a sequência de símbolos da base ($S_{base}$) e a sequência intervencionada ($S_{inter}$):

• DTW (Dynamic Time Warping): Captura o reordenamento estrutural dos passos de raciocínio.
• SRI (Sequence Recurrence Index): Combina uma distância de edição sensível à ordem com uma distância de Jensen–Shannon distributiva sobre histogramas de símbolos.
  Ambas as métricas são normalizadas para $[0, 1]$, onde valores menores indicam maior estabilidade de raciocínio.

Principais Contribuições

1. Framework DRIFTLENS: Uma metodologia inovadora, livre de ground-truth, para medir a estabilidade do raciocínio sob perturbações de memória usando trajetórias baseadas em ontologia.
2. Construção de Benchmark: Um conjunto de dados curado de 422 perguntas indiferentes à persona e inverificáveis, validadas através de rigorosa anotação humana e de LLM.
3. Evidência Empírica de Desvio: Demonstração de que a memória de atributos do usuário induz desvio de raciocínio de médio a grande em quatro LLMs testados (Claude Sonnet 4.6, GPT-OSS-120B, Qwen3-4B, DeepSeek-R1) e 10 categorias de atributos do usuário.
4. Avaliação de Mitigação: Uma análise comparativa de métodos de pós-treinamento (GRPO e DPO) para reduzir o desvio, destacando as compensações entre estabilidade de raciocínio, utilidade (helpfulness) e capacidade.

Resultados

Validação (RQ1)

O DRIFTLENS distingue com sucesso o ruído de mudanças substantivas. O ruído pragmático não produziu elevação significativa acima do nível de ruído ($p > 0.05$), enquanto eventos vitais maiores produziram grandes desvios significativos ($p < 0.001$). As duas métricas (DTW e SRI) mostraram alta validade convergente (Spearman $\rho > 0.93$).

Desvio Induzido por Memória (RQ2)

A memória de atributos do usuário induziu consistentemente desvio de raciocínio mensurável em todos os modelos testados.

• Magnitude: Os tamanhos de efeito variaram de médio a grande (Cohen's $d \approx 0.35–0.98$), excedendo significativamente o nível de ruído pragmático.
• Atributos: O desvio foi observado em todas as 10 categorias, com Status de Trans e Deficiência figurando entre as categorias que mais induzem desvio em sete de oito painéis de modelo-métrica.
• Natureza do Desvio: Embora as respostas finais muitas vezes permanecessem plausíveis, estudos humanos indicaram redução nas pontuações de utilidade e taxas de distração mais altas. O desvio manifestou-se principalmente na trilha de raciocínio (ex: mudando de um raciocínio de "risco jurídico" para um de "validação emocional").

Mitigação (RQ3)

Os autores avaliaram o GRPO (incorporando DTW na função de recompensa) e o DPO (usando pares de preferência de respostas robustas vs. distraídas).

• Redução de Desvio: Ambos os métodos reduziram o desvio (menores pontuações de DTW) entre os modelos. Nenhum método dominou uniformemente; o desempenho dependeu do modelo e da recompensa.
• Compensações (Trade-offs):
  • Capacidade: O pós-treinamento não degradou consistentemente as capacidades gerais (MMLU, GSM8K), embora os efeitos tenham variado conforme o backbone.
  • Utilidade e Robustez: O DPO melhorou a precisão de não-distração de forma confiável em todos os backbones sem degradar a utilidade. O GRPO melhorou a utilidade em alguns modelos, mas reduziu a precisão de não-distração em outros (ex: uma queda de 15.4 pontos no Phi-4-mini), sugerindo que pode otimizar excessivamente a utilidade percebida em detrimento da robustez.
  • Recompensas de Formato: Incluir recompensas de formato no GRPO foi crítico para a redução do desvio; recompensas apenas de desvio foram insuficientes.

Significância e Alegações

O artigo conclui que o desvio de raciocínio induzido por memória é um modo de falha mensurável e apenas parcialmente mitigado de modelos de linguagem personalizados.

• Invisibilidade: O fenômeno é perigoso porque é invisível no nível da resposta; os modelos podem parecer razoáveis enquanto dependem de cadeias de justificativa fundamentalmente diferentes impulsionadas por atributos irrelevantes do usuário.
• Necessidade de Avaliação: Métricas de precisão padrão são insuficientes para tarefas inverificáveis. A confiabilidade deve ser medida através da estabilidade do raciocínio.
• Limites da Mitigação: Embora o pós-treinamento (GRPO/DPO) possa reduzir o desvio, ele introduz compensações. Não existe "almoço grátis" onde o desvio é eliminado sem potenciais impactos na capacidade, utilidade ou seguimento de instruções.
• Direção Futura: Os autores enfatizam a necessidade de avaliar a estabilidade do raciocínio antes de implantar LLMs equipados com memória em cenários de suporte à decisão. Eles reconhecem limitações, observando que o DRIFTLENS mede o raciocínio expressamente externo, não a cognição oculta, e que seus experimentos de mitigação foram limitados a modelos pequenos/médios devido a restrições computacionais.

O estudo serve como um chamado à ação para que a comunidade vá além da avaliação ao nível da resposta e desenvolva mecanismos robustos para garantir que a personalização melhore, em vez de distorcer, os processos de raciocínio dos sistemas de IA.