Towards Understanding and Measuring COGNITIVE ATROPHY in LLM Behaviour

Resumo Técnico: Rumo à Compreensão e Medição da ATROFIA COGNITIVA no Comportamento de LLMs

Definição do Problema
As avaliações atuais de Grandes Modelos de Linguagem (LLMs) em suporte à saúde mental focam primariamente na segurança superficial, na qualidade estática das respostas ou no conhecimento psicológico. Esses benchmarks falham em capturar como os modelos se comportam em interações emocionalmente sensíveis e realistas. Existe uma lacuna crítica de avaliação: as métricas existentes não determinam se interações repetidas com LLMs ajudam os usuários a manter sua própria capacidade de reflexão, enfrentamento e tomada de decisão, ou se inadvertidamente deslocam esses processos cognitivos do usuário para a IA. Os autores argumentam que o risco central não é meramente se uma única resposta é insegura, mas se o padrão cumulativo de interação remodela a agência do usuário.

Metodologia
Para abordar isso, os autores formalizam a ATROFIA COGNITIVA como um padrão comportamental de nível de processo, onde as respostas do modelo deslocam o enfrentamento, a interpretação, a tomada de decisão ou a regulação emocional do usuário para o LLM. Este conceito baseia-se na teoria do offloading cognitivo e em princípios de psicoterapia que enfatizam que o suporte deve servir como um andaime (scaffolding), e não como um substituto para o raciocínio do usuário.

Os autores introduzem o COGNITIVE ATROFY BENCH, um benchmark clinicamente fundamentado projetado para medir este fenômeno. Os principais componentes metodológicos incluem:

• Curadoria de Dataset: O benchmark compreende 1.576 conversas de aconselhamento totalmente geradas por humanos (1.212 turnos únicos e 364 transcrições de múltiplos turnos) totalizando 15.680 turnos. Estes foram obtidos de quatro datasets existentes (CounselChat, PAIR, CARE-Bench, HOPE) e cobrem 22 tópicos de saúde mental.
• Avaliação de Modelos: Cinco LLMs (GPT, Claude, Gemini, Llama, Qwen) foram consultados para gerar 42.230 respostas sob condições reais de implantação (sem ajuste fino, com prompts de sistema neutros).
• Esquema de Anotação: Três especialistas em psicologia clínica desenvolveram um esquema de 20 atributos abrangendo:
  • Contexto do Usuário (U): 5 atributos caracterizando demandas clínicas (ex: sensibilidade, busca por soluções/fix-seeking).
  • Comportamento da Resposta (R): 10 atributos agrupados em clusters: Padrões indutores de dependência (ex: "Fix-It", Recomendações), Calibragem empática (ex: Precisão da empatia, Correspondência de linguagem) e Estilo de resposta/segurança (ex: Mudanças de tópico, Perguntas abertas vs. fechadas).
  • Flags de Risco Global (F): 5 flags binárias para eventos de risco discretos.
• Avaliação Humana: Seis revisores clínicos treinados aplicaram o esquema usando uma interface web customizada, produzindo 5.324 julgamentos com evidências baseadas em spans (destacando trechos específicos de texto). A confiabilidade inter-avaliador foi substancial (média $\kappa$ entre 0,65 e 0,67), com 78,8% de concordância contra um padrão ouro.
• Métricas: O estudo introduz três instrumentos quantitativos:
  1. Índice de Risco de Entrada do Usuário (UIRI): Mede a demanda clínica do prompt do usuário.
  2. Índice de Risco de Atrofia Cognitiva (ARI): Um escore composto que agrega dependência, calibragem empática, estilo de resposta e flags de risco para quantificar o comportamento alinhado à atrofia.
  3. Resumos de Trajetória: Métricas para interações de múltiplos turnos (nível de abertura, pico, média, deriva, variabilidade) para rastrear como o comportamento evolui ao longo dos turnos de conversa.

Resultos Principais
A avaliação através dos cinco LLMs gerou as seguintes descobertas:

• Prevalência de Atrofia: Todos os cinco modelos exibem um nível consistente de moderado a alto de comportamento alinhado à atrofia. O Índice de Risco de Atrofia (ARI) coloca todos os modelos em uma faixa estreita (0,52–0,61 para turno único; 0,48–0,57 para múltiplos turnos), indicando níveis de risco geral semelhantes, apesar de diferentes caminhos comportamentais.
• Responsividade a Sinais: Os modelos rastreiam de forma confiável sinais de segurança explícitos (ex: a sensibilidade do usuário é espelhada na sensibilidade da resposta). No entanto, eles mostram adaptação limitada quando os usuários buscam explicitamente soluções ou decisões (sinais de "fix-seeking"), falhando em ajustar seu comportamento para apoiar a autonomia do usuário nesses contextos.
• Padrões Dominantes: Os principais impulsionadores da atrofia cognitiva são um pequeno conjunto de comportamentos recorrentes: conselhos diretivos, resolução de problemas, recomendações, mudanças de tópico e formas de validação que podem reforçar a dependência em vez da reflexão.
• Dinâmicas de Múltiplos Turnos: Ao longo dos turnos, todos os modelos derivam na mesma direção, tornando-se mais diretivos, mais fechados e mais focados em soluções. Especificamente, os escores de perguntas fechadas subiram de +0,19 a +0,33 do turno 1 para o turno 6, e os spans diretivos aproximadamente dobraram.
• Diferenças entre Modelos: Embora o risco geral seja semelhante, os caminhos divergem. GPT e Llama tendem a comportamentos diretivos e orientados a soluções, enquanto o Claude demonstrou o menor risco de atrofia geral.

Significância e Contribuições
O artigo reivindica três contribuições primárias:

1. Formalização de uma Nova Dimensão de Risco: Define a ATROFIA COGNITIVA como um risco mensurável de nível de processo, distinto de segurança e utilidade, focando na preservação da agência do usuário no suporte de saúde mental mediado por IA.
2. Benchmark e Protocolo: Fornece o COGNITIVE ATROFY BENCH, o primeiro benchmark clinicamente fundamentado integrando dados de turno único/múltiplos turnos, conversas terapêuticas reais, um esquema de 20 atributos feito por especialistas, evidências em nível de span e materiais de anotação reproduzíveis.
3. Evidência Empírica: Oferece a primeira análise em larga escala e clinicamente fundamentada de como os LLMs se comportam em conversas sensíveis, introduzindo o URI, ARI e resumos de trajetória para apoiar a análise prospectiva da emergência e evolução comportamental.

Os autores concluem que, enquanto os benchmarks atuais medem o que os modelos dizem em um único momento, o problema mais difícil e consequente é entender o que eles dizem a seguir e como isso molda o próprio raciocínio do usuário. O trabalho fornece uma base para auditar o comportamento do modelo em conversas sensíveis de LLM, com todo o código e dados liberados para pesquisa não comercial.