Task Matters: Knowledge Requirements Shape LLM Responses to Context-Memory Conflict

1. El Problema

Los Grandes Modelos de Lenguaje (LLM) poseen dos fuentes de información: memoria paramétrica (conocimiento interno aprendido durante el entrenamiento) e información contextual (datos proporcionados en el prompt). Surge un conflicto cuando la información contextual contradice la memoria paramétrica del modelo.

La literatura previa ha estudiado este fenómeno principalmente en tareas de Respuesta a Preguntas en Contexto (Contextual QA), asumiendo implícitamente que el modelo debe confiar exclusivamente en el contexto proporcionado. Sin embargo, esto deja una brecha crítica: no se comprende cómo se comportan los LLMs cuando las tareas requieren diferentes grados y tipos de utilización del conocimiento. En escenarios reales, las tareas varían desde la extracción simple (que no requiere conocimiento previo) hasta la integración compleja de conocimiento de fondo con nueva información. La pregunta central es: ¿Cómo afecta el conflicto contexto-memoria al rendimiento del modelo dependiendo de los requisitos de conocimiento específicos de la tarea?

2. Metodología

Los autores proponen un marco de diagnóstico agnóstico al modelo diseñado para aislar el efecto del conflicto de las demandas de la tarea. El proceso se divide en cuatro etapas principales:

1. Recopilación de Conocimiento Paramétrico: Se consulta al modelo objetivo para identificar sus creencias internas sobre hechos específicos. Se utiliza un filtro de consistencia (múltiples prompts parafraseados) para asegurar que el modelo mantiene una postura firme, evitando el "sycophancy" (conformidad con la opinión del usuario).
2. Creación de Evidencia Conflictiva: Basándose en el conocimiento paramétrico del modelo, se generan pasajes de contexto que contradicen dicha creencia. Estos se clasifican en tres niveles de plausibilidad:
   • NC (No Contradiction): El contexto coincide con la memoria del modelo.
   • HPC (High Plausibility Contradiction): El contexto contradice al modelo pero es plausible y coherente con el conocimiento del mundo (ej. una explicación científica alternativa).
   • LPC (Low Plausibility Contradiction): El contexto contradice al modelo y es implausible o absurdo (ej. una explicación fantástica).
3. Annotación de Tareas (Task-Annotation): Se define un conjunto de tareas con diferentes requisitos de conocimiento para probar cómo el modelo maneja el conflicto en cada caso:
   • Knowledge Free (KF): Extracción pura del texto (sin razonamiento ni conocimiento previo).
   • Contextual Knowledge (CK): El modelo debe ignorar su memoria y basarse solo en el contexto.
   • Parametric Knowledge (PK): El modelo debe ignorar el contexto (que actúa como distractor) y usar su memoria interna.
   • Parametric-Contextual Knowledge (PCK): Integración explícita de ambas fuentes.
   • Retrieval Augmented Generation (RAG): Simulación de un entorno real donde el modelo recibe múltiples contextos contradictorios sin instrucciones explícitas de priorización.
4. Validación: Se utiliza un proceso híbrido (dos LLMs + revisión humana) para verificar la calidad de los datos y la precisión de las anotaciones de tareas.

3. Contribuciones Clave

• Marco de Diagnóstico Unificado: Introducen un método que mantiene el conocimiento subyacente constante mientras varía sistemáticamente la formulación de la tarea, permitiendo disociar el efecto del conflicto del efecto de la tarea.
• Descubrimiento de la Dependencia de la Tarea: Demuestran que el impacto del conflicto no es uniforme; es inherentemente dependiente de la tarea.
• Análisis de Estrategias de Mitigación: Evalúan el uso de racionales (explicaciones) y reiteración del contexto para ver si ayudan a resolver conflictos.
• Alerta sobre Evaluación Basada en Modelos: Identifican un sesgo crítico en el uso de LLMs como jueces (evaluadores) cuando existen conflictos de conocimiento.

4. Resultados Principales

• Degradación Dependiente de la Tarea:

  • En tareas Knowledge Free (KF), el conflicto tiene un impacto mínimo o nulo.
  • En tareas Contextual Knowledge (CK), el rendimiento cae drásticamente cuando el contexto contradice la memoria paramétrica, incluso con instrucciones explícitas de ignorar el conocimiento interno. Los modelos tienden a alucinar o priorizar su memoria interna.
  • En tareas Parametric Knowledge (PK), la presencia de contexto contradictorio (especialmente HPC) degrada el rendimiento, sugiriendo que el modelo no puede ignorar completamente el contexto, incluso cuando se le pide que lo haga.
  • Plausibilidad: Contrario a la intuición, en tareas PK, los contextos de baja plausibilidad (LPC) permiten un mejor rendimiento que los de alta plausibilidad (HPC), ya que los modelos descartan más fácilmente la información absurda y recurren a su memoria.

• Efecto de Racionales y Reiteración:

  • Incluir racionales (explicaciones) mejora el rendimiento en tareas CK (ayuda a confiar en el contexto) pero perjudica las tareas PK (actúa como un distractor persuasivo que aleja al modelo de su conocimiento correcto).
  • La reiteración del contexto (repetir el texto varias veces) es una estrategia más robusta: mejora el rendimiento en tareas CK sin dañar tanto las tareas PK como lo hacen los racionales elaborados.

• Sesgo en la Evaluación (LLM-as-a-Judge):

  • Cuando un LLM actúa como juez para evaluar respuestas que contradicen su propio conocimiento paramétrico, tiende a marcarlas como incorrectas, incluso si son correctas según el contexto proporcionado.
  • Este sesgo persiste en modelos de vanguardia (como GPT-5.2), lo que cuestiona la fiabilidad de las evaluaciones automatizadas en escenarios de conflicto de conocimiento.

5. Significado e Implicaciones

El trabajo concluye que el conflicto contexto-memoria no es un problema estático, sino dinámico y dependiente de la tarea.

• Para el Despliegue: No existe una solución única (como "forzar siempre el contexto" o "ignorar siempre el contexto"). Se necesitan mecanismos conscientes de la tarea que equilibren dinámicamente la atención entre la memoria paramétrica y el contexto según el objetivo de la tarea (ej. priorizar contexto para RAG, priorizar memoria para corrección de hechos).
• Para la Evaluación: La fiabilidad de los LLMs como evaluadores es limitada en tareas que involucran hechos contradictorios. Se requiere cautela al usar modelos para juzgar respuestas que desafían su conocimiento interno.
• Investigación Futura: Se motiva el desarrollo de métodos de inferencia que puedan ajustar la sensibilidad al contexto o la memoria en tiempo real, en lugar de depender de ajustes estáticos o fine-tuning.

En resumen, el artículo demuestra que la forma en que un LLM resuelve un conflicto de conocimiento está determinada por qué se le pide que haga, y que las estrategias de mitigación deben adaptarse a los requisitos específicos de la tarea para evitar degradaciones de rendimiento o evaluaciones sesgadas.