Fixing Abstention with Token Probability: A Budget-Matched Causal Test Across Four Small Open-Weight Models
Este artigo demonstra que substituir a confiança verbalizada por uma política de abstenção de probabilidade de token com orçamento correspondente elimina causalmente um efeito específico de degradação da acurácia observado no modelo llama3.2:1b, mas falha em generalizar esse benefício para outros modelos pequenos de pesos abertos, indicando que tais correções são específicas do modelo e que a abstenção de orçamento fixo pode permanecer líquida prejudicial mesmo com um direcionamento melhorado.