Resumen Técnico: PACT – Aprendizaje de Estrategias de Diagnóstico Diversas mediante Síntesis Privilegiada y Consenso de Ramas

1. Planteamiento del Problema

El diagnóstico clínico es inherentemente una conversación de múltiples turnos y con incertidumbre que requiere que los médicos empleen de manera flexible múltiples paradigmas de razonamiento (por ejemplo, prueba de hipótesis paso a paso, diagnóstico diferencial paralelo, priorización basada en la urgencia o revisión impulsada por la evidencia) bajo información incompleta. Si bien los Modelos de Lenguaje de Gran Escala (LLMs) demuestran un sólido conocimiento médico, los agentes médicos existentes luchan por aprender estos diversos paradigmas de razonamiento simultáneamente sin interferencias.

Dos desafíos principales obstaculizan el desarrollo de agentes de diagnóstico robustos:

1. Síntesis de Datos: Generar diálogos diagnósticos de alta calidad y controlados es difícil debido a la "asimetría de información" entre médicos y pacientes. Un sistema de síntesis necesita Registros Médicos Electrónicos (EMRs) completos para el control de calidad, pero el agente médico simulado no debe ver las respuestas clínicas ocultas (por ejemplo, diagnóstico final, resultados de laboratorio) para evitar la filtración de información o el planteamiento de preguntas sugestivas. Los conjuntos de datos existentes suelen carecer de trayectorias controladas o sufren de alucinaciones cuando se generan mediante juegos de rol sin restricciones.
2. Entrenamiento del Modelo: Integrar múltiples paradigmas de razonamiento en un único modelo desplegable no es trivial. Simplemente mezclar diálogos para el Ajuste Fino Supervisado (SFT) desdibuja el aprendizaje específico de cada paradigma. Por el contrario, entrenar modelos separados (o adaptadores) para cada paradigma conduce a un "conflicto de gradiente", donde las ramas entrenadas de forma independiente actualizan en direcciones incompatibles, lo que las hace difíciles de fusionar en un solo modelo sin degradación del rendimiento.

2. Metodología

Los autores proponen PACT (Periodic Anchor Consensus Training - Entrenamiento de Consenso de Anclaje Periódico), un marco que acopla un nuevo módulo de síntesis de datos con una estrategia de entrenamiento basada en el consenso.

A. DPS: Síntesis de Datos Doctor-Paciente-Supervisor

Para abordar el desafío de la síntesis de datos, los autores introducen DPS, un módulo de destilación inspirado en el Aprendizaje utilizando Información Privilegiada (LUPI).

• Separación de Estados: Cada EMR se particiona en información visible para el paciente ($s_{vis}$: queja principal, síntomas) e información clínica privilegiada ($s_{priv}$: exámenes ocultos, diagnóstico objetivo).
• Generación Separada por Roles: El agente Médico genera preguntas basándose únicamente en la trayectoria acumulada y en $s_{vis}$, sin ver nunca $s_{priv}$. El agente Paciente responde basándose en $s_{vis}$.
• Validación del Supervisor: Dos supervisores (Supervisor del Médico y Supervisor del Paciente) utilizan el EMR completo ($s$) para validar el diálogo. Realizan una verificación de "APROBAR o REESCRIBIR" para corregir problemas como la filtración de información, el ritmo o la falta de preguntas de alto valor sin reescribir toda la respuesta.
• Condicionamiento de Paradigmas: Este proceso genera diálogos validados bajo cuatro distintos paradigmas de razonamiento clínico:
  1. Serial: Prueba de hipótesis paso a paso.
  2. Árbol (Tree): Mantenimiento de diagnósticos competidores para la indagación diferencial.
  3. Montículo (Heap): Priorización de preguntas por urgencia y valor de información esperado.
  4. Retroalimentación (Feedback): Realización de autocrítica antes de responder.

B. PACT: Entrenamiento de Consenso de Anclaje Periódico

Para abordar el desafío del entrenamiento, PACT evita la mezcla de datos o la fusión post-hoc. En su lugar, entrena un único modelo desplegable mediante agregación periódica.

• Entrenamiento de Ramas: El modelo entrena una Rama LoRA (adaptador) por cada paradigma de razonamiento.
• Regularización de Anclaje: Se mantiene un Ancla compartida ($\Delta_{anc}$) como el consenso desplegable. Durante el entrenamiento local, cada Rama minimiza una función de pérdida que comprende la pérdida de la tarea y un término de regularización L1 ($\lambda \|\Delta^{(k)} - \Delta_{anc}\|_1$) para mantener las ramas cerca del Ancla.
• Agregación Periódica: Cada $T^*$ épocas, el Ancla se actualiza mediante un proceso de consenso de signo:
  1. Recorte (Trim): Se eliminan las actualizaciones de baja magnitud (ruido).
  2. Elección (Elect): Un voto de mayoría determina el signo de cada dimensión de parámetros a través de las ramas.
  3. Fusión-Proyección (Merge-Project): Solo se promedian los valores consistentes en signo, y el resultado se proyecta de nuevo al rango de LoRA mediante SVD truncada para mantener la estructura de bajo rango.
• Despliegue: Después del entrenamiento, todos los adaptadores de las Ramas se descartan. El modelo final es simplemente el modelo base más el Ancla final ($M + \Delta_{anc}$), lo que no requiere cambios arquitectónicos ni mecanismos de enrutamiento durante la inferencia.

3. Contribuciones Clave

1. Módulo DPS: Un método de construcción de datos que sintetiza diálogos validados y de múltiples paradigmas mientras preserva estrictamente la asimetría de información médico-paciente, evitando la filtración de etiquetas.
2. Marco PACT: Un método de entrenamiento basado en el consenso que aprende ramas LoRA específicas de cada paradigma y las agrega periódicamente en un único modelo desplegable, evitando la interferencia del SFT mixto y la incompatibilidad del entrenamiento independiente.
3. Benchmark Dinámico: La introducción de un benchmark de diagnóstico médico en chino de múltiples turnos, diseñado para evaluar agentes en capacidades de consulta interactiva (recolección de evidencia, diagnóstico y recomendación de exámenes) en lugar de una simple QA de un solo turno estático.

4. Resultados Experimentales

Los autores evaluaron PACT en un benchmark dinámico de múltiples turnos utilizando un simulador de paciente impulsado por GPT-4o.

• Rendimiento: PACT (entrenado en Qwen3-8B) alcanzó un 55.31% de Precisión de Diagnóstico Estricto (DA) y un 76.16 de Puntuación Suave (Soft Score), superando significativamente al baseline propietario de zero-shot más fuerte (GPT-4.1) y a los LLMs especializados en medicina (ej. Doctor-R1, HuatuoGPT-o1).
  • Comparado con GPT-4.1, PACT mejoró la DA Estricta en +18.61 puntos y el F1 de Exámenes en +44.06 puntos.
  • Comparado con el modelo base Qwen3-8B, PACT mejoró la DA Estricta en +22.78 puntos.
• Estudios de Ablación:
  • Datos: Eliminar cualquiera de los cuatro paradigmas de razonamiento de los datos de entrenamiento redujo el F1 de Exámenes entre 5 y 6 puntos, lo que indica que los paradigmas proporcionan una supervisión complementaria.
  • Entrenamiento: PACT superó al Mixed-SFT, al Currículo Secuencial y a varias técnicas de fusión post-hoc (TIES, DARE-TIES). Notablemente, la fusión post-hoc estándar (TIES) degradó el rendimiento significativamente (40.41% de DA Estricta), validando la necesidad de la agregación periódica durante el entrenamiento.
• Generalización: El enfoque demostró generalización de arquitectura cruzada en Llama3.1-8B y Ministral-3-8B, y mostró transferibilidad a un entorno traducido al inglés.

5. Significado y Reivindicaciones

El artículo afirma que PACT aborda con éxito los desafíos duales de la asimetría de datos y la interferencia de paradigmas en la IA médica.

• Eficiencia: A diferencia de los métodos que requieren enrutamiento complejo o múltiples modelos, PACT produce un modelo LoRA único estándar sin sobrecarga adicional de inferencia.
• Efectividad: Al modelar explícitamente diversas estrategias de razonamiento clínico y forzar el consenso durante el entrenamiento, PACT logra un rendimiento de vanguardia en escenarios de diagnóstico interactivo, superando tanto a los LLMs de propósito general como a los especializados en medicina.
• Escalabilidad: El marco demuestra que diversas estrategias de diagnóstico pueden aprenderse dentro de un solo modelo sin el "olvido catastrófico" o el "conflicto de gradiente" típicamente asociados con el aprendizaje multitarea en dominios médicos.

Los autores enfatizan que, si bien la recolección de síntomas es importante (donde GPT-4.1 funcionó ligeramente mejor), el razonamiento diagnóstico estructurado adquirido mediante el entrenamiento de consenso de múltiples paradigmas es el factor crítico que impulsa la precisión diagnóstica superior y la calidad de la recomendación de exámenes.