Chemical Chain-of-Thought Functions as a Hallucination-Prone Molecular Scratchpad
Este estudio revela que el razonamiento de cadena de pensamiento químico en los modelos de lenguaje funciona como un borrador molecular propenso a las alucinaciones donde las afirmaciones estructurales fabricadas son comunes pero causalmente fundamentales para generar respuestas correctas, lo que requiere una supervisión a nivel de proceso sobre la simple evaluación de la respuesta.