Answer Engineering: Local Trajectory Editing for Protocol-Constrained Decision Making in Large Language Models

Resumen Técnico: Ingeniería de Respuestas

Planteamiento del Problema
Los Modelos de Lenguaje de Gran Escala (LLM) a menudo generan respuestas que, aunque seguras, son incorrectas en dominios que requieren una adherencia estricota a protocolos procedimentales, como la medicina clínica. Si bien las técnicas de razonamiento paso a paso (por ejemplo, Cadena de Pensamiento o Chain-of-Thought) mejoran la estructura y la transparencia, frecuentemente fallan al intentar prevenir errores en entornos con restricciones de protocolo. En lugar de eliminar los fallos, el razonamiento suele desplazar la distribución de los errores. Los estudios empíricos indican que los modelos pueden generar explicaciones que funcionan como racionalizaciones post-hoc en lugar de derivaciones fieles de la respuesta final. En consecuencia, los modelos pueden comprometerse con una decisión de forma prematura y racionalizarla, o generar pasos intermedios que son inconsistentes con las reglas del dominio. En entornos regulados, una respuesta puede parecer plausible pero ser operativamente inválida si omite verificaciones procedimentales obligatorias o distinciones. Los enfoques existentes, incluyendo el prompting, la decodificación restringida y la validación post-hoc, a menudo abordan estos problemas de manera indirecta, global o solo después de que la generación se ha completado, fallando al no intervenir dentro de la propia trayectoria evolutiva del razonamiento.

Metodología: Ingeniería de Respuestas
Este artículo propone la Ingeniería de Respuestas (Answer Engineering), una capa determinista de tiempo de ejecución y autoría que realiza una intervención de trayectoria localizada durante la generación autoregresiva. A diferencia de los métodos que requieren el reentrenamiento del modelo o búsqueda global, la Ingeniería de Respuestas opera como una superficie de control sobre la decodificación estándar, imponiendo el cumplimiento del protocolo mediante ediciones basadas en reglas al rastro de razonamiento generado.

El mecanismo central se basa en la propiedad de la decodificación condicionada por el prefijo: en un transformador autoregresivo, la distribución de los tokens futuros depende únicamente del prefijo visible. Por lo tanto, las ediciones locales en la trayectoria de razonamiento redefinen el contexto para la generación subsiguiente sin alterar los parámetros del modelo.

El marco implementa tres clases de intervención, activadas por reglas declarativas diseñadas por expertos en el dominio:

1. Editar el Pasado (Reemplazo de Segmento Retroactivo): Cuando un disparador indica una violación (por ejemplo, una inferencia incorrecta), el sistema reemplaza el segmento ofensivo con un candidato válido seleccionado según la verosimilitud del modelo.
2. Seleccionar entre Continuaciones Recientes (Retroceso Local): Tras detectar un disparador, el sistema realiza un retroceso (rollback) al inicio del alcance de la edición, genera múltiples continuaciones candidatas y selecciona la más válida según las reglas del protocolo basándose en su puntuación.
3. Forzar el Futuro (Inserción): Si un protocolo requiere una declaración específica (por ejemplo, una advertencia de urgencia), el sistema añade un candidato válido predefinido al prefijo actual y avanza la generación a través de estos tokens forzados.

El tiempo de ejecución opera como un bucle de control: monitorea la trayectoria en busca de disparadores de reglas, propone ediciones candidatas, las califica utilizando la propia función de verosimilitud del modelo y aplica la intervención seleccionada antes de reanudar la decodificación. Este proceso implica la reconstrucción del caché KV desde el primer token modificado para asegurar que la generación continúe desde el estado corregido.

Contribuciones Clave
El artículo presenta tres contribuciones primarias:

1. Un Mecanismo de Tiempo de Ejecución de Decodificación: Un marco para imponer el cumplimiento de protocolos mediante la intervención de trayectoria localizada durante la generación, eliminando la necesidad de reentrenar el modelo o realizar una búsqueda global.
2. Una Abstracción de Control Basada en Reglas: Un método para especificar restricciones procedimentales específicas del dominio como operaciones de edición de trayectoria interpretables, permitiendo que los expertos en el dominio definan las ediciones permisibles sin modificar el código del modelo.
3. Evaluación Empírica: Una demostración de que el razonamiento paso a paso por sí solo puede reducir el cumplimiento del protocolo en tareas de decisión estructuradas, y que la intervención de trayectoria localizada puede mejorar sustancialmente los resultados de cumplimiento.

Resultados Experimentales
El enfoque fue evaluado en un benchmark clínico relacionado con la Pérdida Auditiva Súbita (SSNHL), que requiere el diagnóstico diferencial entre SSNHL y pérdida auditiva conductiva basado en los hallazgos de las pruebas de Weber y Rinne con diapasón. La evaluación utilizó un conjunto de datos determinista de 2,000 casos sintéticos (1,000 SSNHL, 1,000 conductivos) y el modelo OpenMeditron/Meditron3-8B.

Los hallazgos clave incluyen:

• Fallo de la Línea Base de Razonamiento: Bajo una línea base de razonamiento paso a paso, los resultados de cumplimiento para la condición objetivo de SSNHL cayeron de un 54.5% (no guiado) a un 25.1%, mientras que el desempeño en la condición conductiva de contraste aumentó de 1.6% a 58.9%. Esto indica que el razonamiento por sí solo desplazó los errores en lugar de prevenirlos.
• Éxito de la Edición de Trayectoria: La aplicación de la pila completa de edición de trayectoria (combinando validación local, reemplazo e inserción forzada) aumentó los resultados de cumplimiento para la condición objetivo de SSNHL al 83.5% y la adherencia al protocolo para la condición conductiva de contraste al 77.9%.
• Precisión Balanceada: La precisión balanceada a través de ambas condiciones mejoró de un 42.0% (línea base de razonamiento) a un 80.7% con la edición de trayectoria.
• Sobrecarga de Tiempo de Ejecución: La intervención incurrió en una ralentización de 2.78× para los casos de SSNHL y de 1.33× para los casos conductivos en relación con la línea base de razonamiento.
• Análisis de Fallos: Los autores señalan que, si bien el método mejora significamente los resultados, no garantiza una estabilidad de razonamiento uniforme. En algunos casos, el modelo exhibe "persistencia de compromiso", intentando repetidamente un cierre diagnóstico prematuro a pesar de las reparaciones locales constantes.

Significancia y Reivindicaciones
El artículo sostiene que la Ingeniería de Respuestas demuestra que la fiabilidad en el razonamiento gobernado por protocolos no es solo una propiedad del entrenamiento del modelo, sino que puede tratarse como una propiedad operativa moldeada por el control en tiempo de ejecución. Los resultados sugieren que muchos fallos en la generación con restricciones de protocolo son violaciones estructurales (por ejemplo, pasos omitidos, inconsistencias locales) que pueden corregirse mediante protocolos específicos del dominio sin necesidad de reentrenamiento.

Los autores posicionan este trabajo como un estudio de viabilidad bajo condiciones estructuradas. Declaran explícitamente que la evaluación aísla un límite de diagnóstico bien definido para hacer que los fallos de razonamiento sean observables y corregibles. No pretenden que esto sea una solución general para todos los problemas de fiabilidad del razonamiento, reconociendo que los flujos de trabajo del mundo real involucran protocolos interactuantes, observabilidad parcial y guías en evolución. La significancia reside en proporcionar una perspectiva de sistemas donde la adherencia al protocolo se diseña mediante el control explícito del comportamiento de generación, ofreciendo un camino para mejorar el cumplimiento en dominios regulados donde las técnicas de razonamiento estándar han demostrado ser insuficientes.