💻 computer science

Structured Inference with Large Language Gibbs

El artículo propone "Large Language Gibbs", un método de inferencia probabilística iterativa que aprovecha las distribuciones condicionales de un LLM como operadores de transición para remuestrear variables, superando así los sesgos dependientes del orden de la generación autorregresiva de una sola pasada para lograr un razonamiento estructurado coherente.

Autores originales: Sanghyeok Choi, Henry Gouk, Esmeralda S. Whitammer

Publicado 2026-06-19

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Sanghyeok Choi, Henry Gouk, Esmeralda S. Whitammer

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes a un bibliotecario muy inteligente y culto (el Modelo de Lenguaje Grande, o LLM) que sabe una cantidad enorme de cosas sobre el mundo. Le pides a este bibliotecario que cree una lista de hechos sobre una situación compleja, como describir la raza, el pelaje, la edad y los hábitos de sueño de un gato, todo a la vez.

El Problema: El error del "un solo intento" (One-Shot)
Normalmente, cuando le pedimos esto a un LLM, le pedimos que escriba toda la lista de izquierda a derecha de un solo tirón. Este artículo argumenta que esto es como pedirle a un chef que cocine una comida completa sin probar nada hasta el final. Debido a que el chef tiene que decidir el primer plato antes de conocer el último, podría tomar una decisión al principio que obligue al resto de la comida a ser extraña solo para encajar. En términos del artículo, esto crea "sesgos dependientes del orden". Si le pides al bibliotecario que enumere primero la edad del gato y luego la raza, la respuesta para la raza podría verse sutilmente sesgada por cómo se escribió la edad, incluso si la edad y la raza no deberían afectarse entre sí.

La Solución: "Large Language Gibbs" (El método de "Editar y Refinar")
Los autores proponen una nueva forma de usar al bibliotecario llamada Large Language Gibbs. En lugar de pedir la lista completa de una vez, tratan la lista como un grupo de amigos sentados alrededor de una mesa, y les piden a ellos que se turnen para repensar su respuesta basándose en lo que todos los demás acaban de decir.

Así es como funciona, usando una analogía simple:

La Configuración: Imagina que tienes un grupo de variables (como la Raza, el Pelaje, la Edad y el Sueño de un gato). Comienzas con una suposición aleatoria para todas ellas.
El Turno de Ronda (Round-Robin): En lugar de escribir toda la historia, eliges una variable al azar (por ejemplo, "Pelaje"). Le dices al bibliotecario: "Todos los demás han decidido sus valores (la Raza es 'Pelo Corto', la Edad es 3, el Sueño son 12 horas). Dados estos hechos específicos, ¿cuál es el pelaje más probable?".
La Mezcla: Crucialmente, no preguntas por las variables en el mismo orden cada vez. A veces preguntas primero por la Edad, otras veces por el Pelaje. Esto evita que el bibliotecario se quede atrapado en un "hábito" específico de responder.
El Bucle: Repites este proceso muchas veces. Cada vez que actualizas una variable, utilizas la nueva información para actualizar la siguiente.
El Resultado: Eventualmente, todo el grupo de respuestas se asienta en un estado donde todo tiene sentido entre sí. El artículo llama a esto una "distribución estacionaria". Es como un grupo de amigos discutiendo hasta que todos se ponen de acuerdo en una historia que se siente perfectamente consistente, en lugar de una historia que simplemente sucedió porque empezó con una frase específica.

¿Por qué es esto mejor?
El artículo muestra que este método de "editar y refinar" soluciona dos grandes problemas:

Sesgo: Evita que el modelo favorezca respuestas solo porque aparecieron al principio de la lista.
Inconsistencia: Ayuda al modelo a darse cuenta de que, si "Polaris" es la Estrella del Norte, entonces "Sirio" no puede ser la estrella más brillante al mismo tiempo. Al mezclar las preguntas, el modelo puede corregir sus propios errores.

Pruebas del Mundo Real en el Artículo
Los autores probaron esta idea de tres maneras específicas:

Generación de Números Aleatorios: Le pidieron al modelo que eligiera números aleatorios (como lanzar un dado). La forma antigua (un solo intento) era mala para elegir números de manera uniforme. El nuevo método "Gibbs" fue mucho mejor para elegir números que parecieran verdaderamente aleatorios e independientes.
Razonamiento Consistente: Les dieron al modelo un conjunto de preguntas donde las respuestas debían estar de acuerdo entre sí (por ejemplo, "¿Es la Estrella del Norte la más brillante?" y "¿Es Sirio la más brillante?"). El nuevo método ayudó al modelo a dar respuestas que no se contradicen entre sí, funcionando mejor que simplemente hacer las preguntas una por una.
Aprendizaje a partir de Datos: Utilizaron al modelo para generar datos "falsos" para ayudar a los científicos a entender cómo se conectan diferentes cosas (como la relación entre el tratamiento de la tuberculosis y la edad del paciente). Al usar el método "Gibbs" para generar estos datos falsos, obtuvieron mejores resultados que si simplemente le pidieran al modelo que escribiera un conjunto de datos falsos de un solo golpe.

La Conclusión
El artículo sugiere que, en lugar de tratar a un LLM como una máquina que simplemente escribe una historia de principio a fin, debemos tratarlo como una herramienta de refinamiento iterativo. Al dejar que el modelo verifique y vuelva a verificar constantemente sus propias respuestas entre sí en un orden aleatorio, obtenemos un resultado mucho más confiable, consistente y "probabilísticamente correcto". Esto convierte al modelo de un narrador de una sola vez en un editor colaborativo que ayuda a encontrar la verdad.

Resumen Técnico: Inferencia Estructurada con Large Language Gibbs

Declaración del Problema

Los Modelos de Lenguaje de Gran Escala (LLMs) se utilizan cada vez más para representar distribuciones sobre objetos estructurados, tales como asignaciones de etiquetas, registros tabulares y objetos combinatorios. Sin embargo, acceder al conocimiento codificado en los LLMs para la inferencia probabilística estructurada presenta un desafío significativo. El enfoque estándar de generar objetos estructurados mediante la decodificación autoregresiva de una sola pasada introduce sesgos dependientes del orden, como efectos de recencia o ignorancia del contexto, que distorsionan la distribución conjunta pretendida. Además, los LLMs suelen fallar al muestrear correctamente de distribuciones simples (por ejemplo, uniformes o gaussianas) cuando generan muestras de forma independiente o en lotes, exhibiendo ya sea un alto sesgo o una alta autocorrelación. El problema central es cómo aprovechar las creencias condicionales de los LLMs sobre variables individuales para extraer más información y producir muestras conjuntas coherentes sin los artefactos de los órdenes de generación fijos.

Metodología: Large Language Gibbs

Los autores proponen Large Language Gibbs, un marco para la inferencia probabilística estructurada que trata las distribuciones condicionales de un LLM como operadores de transición dentro de un esquema de muestreo de Gibbs. En lugar de generar un objeto completo en una sola pasada, el método remuestrea iterativamente variables individuales condicionadas a los valores actuales de todas las demás variables.

Mecanismo Central

El enfoque define una cadena de Markov donde el estado es un conjunto de variables $X = (X_1, \dots, X_n)$ . En cada paso, se selecciona y remuestrea una variable $X_i$ a partir de una distribución condicional aproximada $q_i(X_i | X_{-i})$ derivada del LLM.

1. Basic Large Language Gibbs (Sección 3.1):
Para definir el núcleo de remuestreo $q^{LM}_i(X_i | X_{-i})$ , el método aborda el hecho de que los LLMs autoregresivos solo proporcionan probabilidades de siguiente token para un orden de secuencia específico. Los autores proponen definir el núcleo como la esperanza de los núcleos autoregresivos bajo permutaciones aleatorias de las variables restantes:
$q^{LM}_i(X_i | X_{-i}) \triangleq \mathbb{E}_{\sigma_{-i}} \left[ p_{LM}(X_i | \text{seq}(X_{-i}, \sigma_{-i}) \oplus [c_i]) \right]$
donde $\sigma_{-i}$ es una biyección aleatoria que desordena las otras variables, y $c_i$ es el contexto de lenguaje natural que describe a $X_i$ . Este desorden aleatorio elimina los sesgos dependientes del orden, con el objetivo de alcanzar una distribución estacionaria que refleje un compromiso entre todos los condicionales locales.

2. Núcleos Discriminativos (Sección 3.2):
Reconociendo que los LLMs pueden ser mejores en discriminación que en generación (especialmente tras el ajuste fino por refuerzo), los autores introducen dos variantes que utilizan la salida discriminativa del LLM para aceptar o rechazar candidatos:

Barker Gibbs: Utiliza el LLM para elegir entre el valor actual y un valor candidato. Si el LLM está calibrado según la regla de Barker, la distribución estacionaria se preserva.
Gambling Gibbs: Enmarca la decisión de aceptación como una apuesta. Se le pregunta al LLM si apostaría a que el candidato es más plausible que el valor actual. Esto permite el uso de decodificación codiciosa (juicio de umbral determinista) en lugar de depender de probabilidades calibradas.

3. Variantes Prácticas (Sección 3.3):
El marco soporta Sweeping Gibbs (ciclar a través de variables en un orden fijo) y Block Gibbs (remuestrear conjuntos de $B > 1$ variables simultáneamente) para mejorar la convergencia o escapar de modos locales.

Contribuciones Clave

Un Nuevo Esquema de Inferencia: El artículo introduce Large Language Gibbs, un método que transforma los LLMs en operadores de transición para la inferencia probabilística estructurada, yendo más allá de la generación autoregresiva de una sola pasada.
Análisis Teórico: Los autores proporcionan un marco teórico que establece la existencia de una distribución estacionaria única para la cadena de Gibbs. Identifican una condición suficiente (Supuesto 3.1) bajo la cual la distribución estacionaria corresponde a una distribución conjunta simetrizada del LLM, demostrando que el desorden aleatorio es esencial para eliminar los sesgos de ordenación.
Variantes Algorítmicas: La propuesta de los núcleos Barker y Gambling Gibbs ofrece alternativas para escenarios donde las probabilidades generativas están mal calibradas, aprovechando las capacidades discriminativas del LLM.
Validación Empírica: El método se aplica a tres dominios distintos:
- Distribuciones Sintéticas: Muestreo de distribuciones uniformes y gaussianas.
- Razonamiento Consistente: Resolución de conjuntos de preguntas relacionadas (TruthfulQA, GSM8K) para encontrar respuestas coherentes.
- Aprendizaje de Estructura Bayesiana: Uso de datos sintéticos generados por LLM para informar las distribuciones a priori en el descubrimiento de grafos causales.

Resultados

Los experimentos demuestran que Large Language Gibbs mitiga eficazmente las limitaciones del muestreo estándar de LLM:

Distribuciones Simples: En tareas sintéticas (uniforme y gaussiana), el muestreo independiente mostró un alto sesgo, y el muestreo por lotes mostró una alta autocorrelación. El muestreo de Gibbs corrigió sustancialmente ambos problemas, produciendo muestras con menor sesgo y menor autocorrelación que los métodos de referencia.
Razonamiento Consistente: En TruthfulQA y GSM8K-Verification, las actualizaciones condicionales iterativas mediante el muestreo de Gibbs superaron al zero-shot, a la generación autoregresiva de una sola pasada e incluso a la Maximización de Coherencia Interna (ICM). Los resultados sugieren que el desorden de las variables durante el remuestreo conduce a una mejor consistencia entre preguntas relacionadas.
Aprendizaje de Estructura Bayesiana: Cuando se utilizó para generar datos sintéticos ( $D_{LLM}$ ) para definir una a priori basada en el conocimiento del mundo, Large Language Gibbs mejoró el rendimiento del aprendizaje de estructuras (medido por la Distancia de Hamming Estructural Esperada y el AUROC) en conjuntos de datos reales en comparación con las a prioris uniformes y el muestreo autoregresivo directo. El método aprovechó con éxito los metadatos para desambiguar las estructuras causales.

Significancia y Reivindicaciones

El artículo sostiene que el uso de los condicionales de los LLM dentro de un marco de Monte Carlo por Cadenas de Markov (MCMC) es una alternativa práctica a la generación de una sola pasada para la inferencia probabilística estructurada. Los autores argumentan que este enfoque permite extraer más información de las creencias internas del modelo de lo que permite la generación autoregresiva.

La significancia radica en proporcionar un marco probabilístico principista para manejar los condicionales "ruidosos" de los LLMs. Al remuestrear iterativamente y promediar sobre los ordenamientos de las variables, el método produce una distribución estacionaria que representa un compromiso entre los condicionales locales, eliminando eficazmente el sesgo de cualquier orden de generación fijo. Los autores posicionan esto como un paso hacia el tratamiento de los LLMs como distribuciones a priori dentro de programas probabilísticos, particularmente para tareas que requieren consistencia a través de múltiples variables o pasos de razonamiento.

El artículo se mantiene modesto respecto a sus limitaciones, señalando que el enfoque requiere más computación que la generación de una sola pasada y que actualmente está limitado a modelos relativamente pequeños (hasta 32B de parámetros) debido a restricciones computacionales. También reconoce que la calidad de los resultados depende fuertemente de la capacidad informativa de los metadatos proporcionados al LLM.