Verifier Exploitation in NLI-Guided Iterative Refinement: A Controlled Empirical Analysis
Este artigo demonstra que a exploração do verificador na refinação iterativa guiada por NLI é uma vulnerabilidade arquitetural inerente a loops de feedback de métrica única, em vez de um artefato de otimização, mostrando como um pipeline livre de treinamento e de gradiente zero pode degradar sistematicamente a fidelidade enquanto infla as pontuações de NLI através de truncamento de conteúdo, e propõe um protocolo de detecção universal e sem anotação para identificar tais riscos estruturais.