Resumo Técnico: Cadeia de Pensamento Confiável via Consistência de Prefixo

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) frequentemente melhoram a precisão do raciocínio gerando múltiplos traços de Cadeia de Pensamento (CoT) e agregando-os por meio de Votação Majoritária (VM), uma técnica conhecida como autoconsistência. No entanto, a VM Padrão trata todos os traços gerados igualmente, falhando quando a resposta correta está na minoria. Para abordar isso, métodos de Votação Majoritária Ponderada (VMP) atribuem pontuações de confiabilidade aos traços com base em sinais de confiança derivados de log-probabilidades de tokens (por exemplo, DeepConf, Auto-certeza) ou autoavaliações verbalizadas (por exemplo, P(True)).

Uma limitação crítica dos métodos de VMP existentes é que seus sinais de confiabilidade frequentemente falham em distinguir entre traços corretos e incorretos em problemas difíceis. Como demonstrado no artigo, em benchmarks desafiadores onde o Pass@1 é baixo (por exemplo, <50%), sinais de confiança de base frequentemente colocam traços corretos e errados em faixas sobrepostas, tornando-os ineficazes para reponderação exatamente quando é mais necessário. Além disso, muitos métodos existentes exigem acesso a log-probabilidades em nível de token, o que pode não estar disponível em todos os cenários de implantação.

Metodologia: Consistência de Prefixo

Os autores propõem a Consistência de Prefixo, um novo sinal de confiabilidade que não requer acesso a log-probabilidades de tokens. A observação central que motiva este método é que traços de raciocínio corretos tendem a ser mais reprodutíveis sob regeneração do que os incorretos.

O Mecanismo

1. Truncamento: Para cada traço de CoT gerado $y_i$ com resposta $a_i$, o método truncar o traço em uma fração fixa $\tau$ (por exemplo, 75% dos tokens), retendo o prefixo.
2. Regeneração: O modelo é solicitado a regenerar a continuação a partir deste prefixo truncado $K$ vezes, produzindo um conjunto de novas respostas $\{ \tilde{a}_{i,1}, \dots, \tilde{a}_{i,K} \}$.
3. Pontuação: Uma pontuação de consistência de prefixo $c_i(a)$ é calculada para cada resposta candidata $a$ dentro do grupo (resposta inicial + regenerações). A pontuação representa a frequência com que $a$ aparece no grupo:
   $$c_i(a) = \frac{|\{a' \in A_i^{(\tau, K)} : a' = a\}|}{K+1}$$
   Se a resposta inicial $a_i$ estiver correta, o processo de regeneração tende a reproduzir $a_i$ (alta $c_i(a_i)$). Se $a_i$ estiver incorreta, a regeneração frequentemente diverge para diferentes respostas incorretas, resultando em uma pontuação de consistência mais baixa para a resposta inicial errada.

Votação Majoritária Ponderada por Consistência de Prefixo (PC-VMP)

O método integra este sinal em um framework de Votação Majoritária Ponderada. Em vez de ponderar a amostra inicial uma única vez, a PC-VMP pondera cada resposta candidata distinta $a$ no grupo de regeneração com base em sua pontuação de reprodutibilidade $c_i(a)$. A previsão final é a resposta com o maior total de votos ponderados:
$$\hat{a}_{PC} = \arg \max_{a \in \mathcal{A}} \sum_{i=1}^N w(c_i(a))$$
onde $w: [0, 1] \to \mathbb{R}_{\ge 0}$ é uma função de ponderação (por exemplo, linear, quadrática ou cúbica).

Garantia Teórica: O artigo fornece uma análise assintótica (Teorema 1) mostrando que, se a lacuna de discriminação $D(\tau) = r_C(\tau) - r_W(\tau)$ for positiva (onde $r_C$ é a taxa de reprodução de respostas corretas e $r_W$ é a de respostas erradas), a PC-VMP pode recuperar a resposta correta mesmo quando o Pass@1 inicial está abaixo de 50% e a VM Padrão falharia. Especificamente, a PC-VMP converge para a resposta correta sempre que $\pi(a^*) > \frac{r_W}{r_C + r_W}$, um limiar estritamente inferior ao 0,5 exigido pela VM Padrão.

Contribuições Principais

1. Sinal de Confiabilidade Novel: A introdução da consistência de prefixo, um sinal baseado na reprodutibilidade de respostas sob regeneração que não requer acesso a log-probabilidades.
2. Predição de Corretude Superior: Evidência empírica em cinco modelos e quatro benchmarks (FrontierScience-Olympiad, HMMT Feb 2026, AIME 2025, Brumo 2025) mostrando que a consistência de prefixo supera as bases de VMP existentes (DeepConf, P(True), Auto-certeza) como preditor de corretude. Ela alcança a maior AUROC média macro em 15 de 20 configurações (modelo, benchmark).
3. Eficiência de Custo: A PC-VMP atinge o platô de precisão da VM Padrão usando significativamente menos tokens. Em comparações de custo equivalente, a PC-VMP alcança a mesma precisão que a VM Padrão com uma mediana de 4,6× menos tokens, com economias chegando a 21× em benchmarks difíceis.
4. Robustez à Dificuldade: Diferentemente de sinais de base que degradam em problemas difíceis, a consistência de prefixo mantém uma lacuna de discriminação positiva ($r_C > r_W$) mesmo quando o Pass@1 está abaixo de 50%, permitindo-lhe reponderar votos efetivamente em regimes onde a VM Padrão falha.

Resultados

• Lacuna de Discriminação: A Tabela 1 confirma que $r_C > r_W$ vale para todos os modelos e benchmarks. A lacuna de discriminação $D$ é substancial (por exemplo, 43,7% no FrontierScience-Olympiad para GPT-OSS-120B), indicando uma forte regularidade comportamental onde traços corretos são mais estáveis sob regeneração.
• Precisão vs. Custo: No benchmark FrontierScience-Olympiad com GPT-OSS-120B, a PC-cúbica (ponderação cúbica) atinge a precisão de platô da VM Padrão usando apenas 0,05× dos tokens exigidos pela VM Padrão (uma economia de 21×). Ganhos de eficiência semelhantes são observados no Ministral3-14B para o AIME 2025.
• Comparação com Parada Adaptativa: A PC-VMP é competitiva ou superior a bases de parada adaptativa (Consistência Adaptativa, Autoconsistência com Parada Antecipada) em termos de eficiência de tokens, particularmente em tarefas difíceis onde métodos adaptativos frequentemente falham em atingir metas de alta precisão dentro do orçamento.
• Sensibilidade a Hiperparâmetros: O método é robusto à escolha da fração de truncamento $\tau$ e da contagem de regeneração $K$. A configuração padrão ($\tau=0,75, K=1$) performa bem em diversos benchmarks sem ajuste extensivo.

Significado e Alegações

O artigo alega que a estabilidade de regeneração é um sinal útil no momento de teste para agregar votos, distinto e frequentemente superior a sinais baseados em confiança derivados de log-probabilidades ou autoavaliação.

• Utilidade Prática: O método oferece uma maneira custo-efetiva de melhorar a precisão do raciocínio, particularmente para problemas difíceis onde a autoconsistência padrão falha em encontrar a resposta correta.
• Insight Teórico: O trabalho destaca a "lacuna de discriminação" $D$ como a quantidade-chave que governa a eficácia do método. Ele demonstra que a assimetria na reprodutibilidade entre traços corretos e incorretos é uma propriedade fundamental dos modelos de raciocínio que pode ser explorada para agregação.
• Limitações: Os autores observam que o método assume acesso a um traço de CoT explícito que pode ser truncado e continuado, o que pode não se aplicar a modelos fechados com raciocínio oculto. Além disso, a eficácia depende da existência de uma lacuna significativa entre o Pass@1 e o platô da VM Padrão; se o Pass@1 já estiver próximo do platô, os ganhos com a reponderação são limitados.

Em resumo, o artigo estabelece que verificar a reprodutibilidade de respostas sob regeneração de prefixo fornece um sinal confiável, livre de log-probabilidades, que melhora significativamente a eficiência e a precisão da agregação de Cadeia de Pensamento.