When Models Know More Than They Say: Probing Analogical Reasoning in LLMs

Resumen Técnico: Cuando los Modelos Saben Más de lo que Dicen

1. Planteamiento del Problema

El razonamiento analógico es una facultad cognitiva fundamental para la comprensión narrativa, que implica identificar similitudes estructurales entre situaciones conocidas (fuente) y nuevas (objetivo), más allá de la similitud superficial. Aunque los Modelos de Lenguaje Grande (LLMs) han avanzado notablemente, existe una incertidumbre sobre si realmente internalizan estructuras tipológicas (esquemas narrativos y funciones retóricas) o si simplemente explotan correlaciones superficiales a gran escala.

El problema central que aborda el artículo es la discrepancia entre lo que un modelo "sabe" internamente (representaciones latentes) y lo que puede "hacer" o expresar mediante instrucciones (prompting). Específicamente, se investiga si los LLMs pueden acceder a información analógica compleja cuando se les pide explícitamente, en comparación con la información que es decodificable de sus estados internos mediante técnicas de sonda (probing).

2. Metodología

Los autores introducen NARB (Narrative Analogical Reasoning Benchmark), un conjunto de tareas de evaluación diseñado para sondear el razonamiento analógico en textos literarios.

• Tareas de Evaluación:

  1. Paralelismo Narrativo: Evalúa la capacidad de reconocer correspondencias estructurales sistemáticas entre narrativas completas (ej. dos historias diferentes que ilustran el mismo proverbio o esquema temático), independientemente de la similitud superficial (vocabulario, personajes). Se utiliza el dataset Analogical Reasoning over Narratives (ARN).
  2. Paralelismo Retórico: Evalúa la capacidad de reconocer simetrías estilísticas y semánticas localizadas dentro de un documento (ej. inversión sintáctica, paradojas). Se utiliza el dataset Augustinian Sermon Parallelism (ASP).

• Enfoque Experimental:

  • Sondeo (Probing): Se extraen activaciones de modelos decoder-only (familia LLaMA 3: 1B, 3B, 8B) en todas las capas. Se entrenan clasificadores de baja capacidad (regresión logística, MLP) sobre estas representaciones para predecir la analogía. También se utiliza una mezcla escalar (ScalarMix) para ponderar las capas.
  • Prompting: Se comparan los resultados del sondeo con el rendimiento de los mismos modelos (y modelos cerrados como GPT-5.2 y Claude Opus) cuando se les pide realizar la tarea mediante instrucciones (ranking de candidatos).
  • Métricas: Se utilizan métricas de recuperación de información, principalmente MAP (Precision Promedio Medio) y MRR (Rank Recíproco Medio), dado que la tarea se formula como un problema de clasificación/ranking de candidatos.

3. Contribuciones Clave

1. Benchmark NARB: Un nuevo conjunto de tareas jerárquicas que va desde la identificación de roles narrativos básicos hasta el paralelismo retórico y estructural complejo.
2. Diagnóstico de Asimetría: La aplicación de sondas interpretativas para comparar directamente las representaciones internas con el comportamiento inducido por prompting.
3. Hallazgo de Dependencia de la Tarea: La demostración de que la relación entre las representaciones internas y el comportamiento externo no es uniforme; varía drásticamente según la naturaleza de la tarea (narrativa vs. retórica).

4. Resultados Principales

Los experimentos revelan una asimetría task-dependente (dependiente de la tarea) significativa:

• Paralelismo Retórico:

  • Sondeo: Los modelos de código abierto (LLaMA-3.2-1B) alcanzan un rendimiento excepcional (MAP ≈ 0.93), indicando que la información estructural está fuertemente codificada y es linealmente decodificable, especialmente en capas tardías (8-15).
  • Prompting: El mismo modelo cae drásticamente (MAP ≈ 0.18).
  • Conclusión: Existe una brecha de cinco veces. El modelo "sabe" la estructura retórica, pero no puede acceder a ella o generarla mediante instrucciones. Curiosamente, los modelos cerrados (GPT-5.2, Claude Opus) logran un rendimiento de sondeo (~0.90) mediante prompting, sugiriendo que el fallo es específico de cómo los modelos de código abierto acceden a su conocimiento.

• Paralelismo Narrativo:

  • Sondeo: El rendimiento es moderado y consistente (MAP ≈ 0.35). La información está distribuida uniformemente a través de las capas.
  • Prompting: Los modelos de código abierto obtienen resultados similares al sondeo (MAP ≈ 0.35).
  • Conclusión: La analogía narrativa es genuinamente más difícil. Tanto la codificación interna como el acceso mediante prompting son débiles. Incluso los modelos cerrados (MAP ≈ 0.82) no alcanzan el rendimiento perfecto observado en tareas retóricas, lo que sugiere que la abstracción narrativa requiere capacidades que aún no dominan completamente.

• Análisis de Capas:

  • El paralelismo retórico muestra una progresión clara de capas tempranas a tardías, con una fuerte dependencia de la proximidad espacial (localidad).
  • El paralelismo narrativo no requiere integración de múltiples capas de la misma manera; la información es accesible desde capas individuales.

5. Significado e Implicaciones

El estudio ofrece conclusiones críticas para la evaluación y comprensión de los LLMs:

1. Limitaciones del Prompting: Evaluar las capacidades de un modelo únicamente mediante prompting puede subestimar significativamente lo que el modelo realmente sabe, especialmente en tareas estructurales o retóricas donde la información está codificada pero inaccesible mediante instrucciones estándar.
2. Validez del Sondeo: El sondeo es una herramienta válida, pero su interpretación debe ser matizada. En tareas donde el sondeo y el prompting coinciden (narrativa), ambos reflejan una limitación real de capacidad. Donde divergen (retórica), el sondeo revela conocimiento latente oculto.
3. Acceso al Conocimiento: La brecha entre "saber" (probing) y "hacer" (prompting) en modelos de código abierto sugiere un problema en la arquitectura o el entrenamiento que impide la recuperación de información estructurada, un problema que los modelos cerrados más grandes parecen haber resuelto parcialmente.
4. Futuro de la Investigación: Se propone que la evaluación de modelos debe integrar tanto el sondeo como el prompting para obtener una imagen completa de cómo se representa y accede al conocimiento en los sistemas de IA.

En resumen, el paper demuestra que los modelos pueden poseer representaciones ricas de analogías complejas que son invisibles para el usuario promedio que interactúa mediante texto, revelando una desconexión fundamental entre la representación interna y la capacidad de generación en ciertos contextos.