Resumo Técnico: Melhores Precisão, Pior Raciocínio

Declaração do Problema

A destilação de cadeia de pensamento (CoT) é uma técnica padrão para treinar modelos menores "estudantes" a imitar os rastros de raciocínio de modelos maiores "professores". Tradicionalmente, o sucesso dessa destilação é avaliado usando métricas de resposta final (por exemplo, precisão em benchmarks de múltipla escolha) e pontuações de calibração de confiança. Este artigo desafia a suposição de que melhorias na qualidade da resposta necessariamente se correlacionam com melhorias na confiabilidade factual das etapas intermediárias de raciocínio.

Os autores argumentam que, em domínios médicos, a resposta final é um alvo de baixa largura de banda (um único rótulo), enquanto a justificativa é um objeto de alta largura de banda contendo sintomas, mecanismos, exclusões e diagnósticos diferenciais. Se um modelo destilado melhorar sua seleção de respostas, mas degradar a precisão factual de sua justificativa escrita, isso representa um risco significativo: o modelo pode parecer mais competente enquanto gera raciocínio médico não confiável que poderia enganar leitores, monitores de segurança ou futuros conjuntos de dados de treinamento.

Metodologia

O estudo emprega um framework de auditoria controlada em nível de etapa para comparar um modelo estudante antes e após a destilação CoT.

• Modelos e Dados:

  • Professor: Modelo de API da família DeepSeek-V3 (DeepSeek-V3.2).
  • Estudante: Qwen3-8B, ajustado finamente usando LoRA em dados de treinamento MedQA-USMLE.
  • Controles: Variações incluem diferentes escalas de estudante (Qwen3-14B, 32B; Llama-3.1-8B), um professor mais fraco (Qwen3-14B) e um estudante base fraco (Mistral-7B).
  • Benchmarks: Avaliação principal no MedQA-USMLE; verificações de transferência no MedMCQA e MedBullets5; diagnósticos de fronteira no GSM8K, MATH e ARC-Challenge.

• Protocolo de Auditoria:

  • Segmentação: Cadeias CoT geradas são segmentadas em etapas individuais com base em enumeradores ou quebras de parágrafo.
  • Avaliação Cega ao Estilo: Cada etapa é julgada isoladamente por um juiz LLM (principal: Kimi-K2.6). O juiz é explicitamente instruído a ignorar tom, fluência e marcadores de confiança, avaliando apenas a correção factual dada a pergunta e a chave de resposta correta.
  • Métricas: A métrica principal é a "taxa de erro de etapa cometida" (erros / (erros + corretos)), excluindo julgamentos incertos.
  • Validação: Os resultados são cruzados com outros juízes LLM (GLM-4-32B, Hunyuan-A13B) e uma auditoria cega por um especialista clínico (150 etapas).

• Análise Diagnóstica:

  • Decomposição do Ganho de Resposta: Os autores analisam se os ganhos de precisão vêm de "salvar" perguntas difíceis ou de deslocar massa de probabilidade em perguntas onde a resposta correta já era alcançável.
  • Auditoria por Função: As etapas são classificadas por função (por exemplo, geração de hipótese, eliminação de opções, afirmação factual) para identificar onde ocorre a degradação.
  • Verificações de Mecanismo Interno: O artigo investiga "racionalização primeiro-resposta" (escolher uma resposta e depois justificá-la) e "canais de cautela" (comportamento de hedge) por meio de sondagem e intervenção de ativação.

Principais Resultados

1. A Divisão Precisão-Raciocínio

A descoberta central é uma divergência entre o desempenho em nível de resposta e a qualidade do rastro de raciocínio:

• Métricas de Resposta Melhoram: Após a destilação, a precisão gananciosa do estudante subiu de 72,9% para 76,3%, e a precisão da Auto-Consistência (SC@64) subiu de 74,7% para 84,4%. As métricas de calibração (ECE e pontuação Brier) também melhoraram significativamente.
• Rastro de Raciocínio Degrada: Sob a auditoria cega ao estilo, a taxa de erro em nível de etapa para etapas não abstenidas aumentou dramaticamente de 30,6% (BASE) para 50,3% (DESTILADO).
• Significância Estatística: Essa degradação é altamente significativa ($p < 10^{-65}$) e persiste entre diferentes juízes, regras de segmentação e condicionamento de resposta (mesmo quando a resposta final está correta, a justificativa destilada é mais ruidosa).

2. Generalização e Limites

• Escala e Família: A divisão persiste em modelos Qwen maiores (14B, 32B) e Llama-3.1-8B, embora a magnitude do aumento de erro seja menor do que no modelo 8B.
• Força do Professor: Um professor mais fraco (Qwen3-14B) produz uma inflação de erro menor (30,6% $\to$ 41,1%), sugerindo que o efeito é impulsionado pela capacidade do estudante de imitar a forma de um professor forte sem sua substância.
• Especificidade do Domínio:
  • Médico (Alto Risco): O efeito é pronunciado no MedQA, MedMCQA e MedBullets5, onde respostas curtas subconstringem justificativas clínicas ricas.
  • Não Médico (Baixo/Sem Risco): No GSM8K e MATH, os rastros do professor já eram mais ruidosos que a base, e a divisão não se manifestou como degradação. No ARC-Challenge (ciência), onde as respostas constringem estritamente a justificativa, nenhuma degradação significativa foi observada.
  • Base Fraca: Mistral-7B, começando de uma linha de base de precisão mais baixa, na verdade melhorou tanto a precisão quanto o erro de etapa, indicando que o regime de risco requer um estudante capaz capaz de imitar a forma de especialista.

3. Mecanismo de Degradação

• Fonte do Ganho de Precisão: A melhoria de precisão vem principalmente do deslocamento de massa de probabilidade em perguntas "próximas à fronteira" (onde a resposta correta era a segunda escolha do modelo base) em vez de resolver perguntas anteriormente impossíveis.
• Impacto por Função: A degradação é mais severa nas etapas de geração de hipótese e diagnóstico diferencial (a taxa de erro saltou de 31,1% para 61,8%), exatamente as etapas onde o julgamento clínico é mais crítico.
• Sinais Ocultos: Sinais padrão, como taxas agregadas de hedge e sondas internas de "verdade", falharam em detectar a mudança. O modelo continua a usar palavras de hedge adequadamente, mas a confiabilidade de base das afirmações que elas modificam caiu.
• Não é Primeiro-Resposta: O artigo descarta a hipótese de que o modelo simplesmente escolhe uma resposta e depois fabrica uma justificativa; as probabilidades de resposta pré-CoT na verdade diminuíram após a destilação.

Significado e Alegações

O artigo afirma identificar um modo de falha específico na destilação médica de CoT onde métricas em nível de resposta e factualidade em nível de rastro se movem em direções opostas.

• Diagnóstico em Nível de Processo: Os autores fornecem evidências de que receitas padrão de destilação podem ensinar um estudante a "parecer" um especialista (produzindo um rótulo final correto e um rastro fluente e estruturado) enquanto falham em fundamentar as afirmações factuais locais dentro desse rastro.
• Limitações da Avaliação Atual: O estudo demonstra que métricas em nível de resposta (precisão, calibração) e taxas agregadas de hedge são insuficientes para avaliar modelos de raciocínio destilados em domínios de alto risco como a medicina.
• Risco de Dados de Treinamento: Os autores destacam uma implicação crítica para a destilação recursiva: se rastros destilados forem usados como dados de treinamento para modelos futuros, o "ruído" nas etapas de raciocínio pode ser propagado, mesmo que as respostas finais estejam corretas.
• Condições de Fronteira: O risco é condicional. Surge quando uma resposta compacta constringe fracamente uma justificativa rica, e o estudante é capaz o suficiente para imitar os padrões discursivos do professor sem possuir o conhecimento do domínio para verificar cada afirmação local.

O artigo conclui que, para modelos de raciocínio médico, uma pequena auditoria de processo ao lado das métricas de resposta é necessária para garantir que o "processo escrito" permaneça um objeto confiável para leitura, supervisão e reutilização.