Revisiting Non-Verbatim Memorization in Large Language Models: The Role of Entity Surface Forms

1. Problema

Los Grandes Modelos de Lenguaje (LLMs) almacenan una vasta cantidad de conocimiento factual en sus parámetros. Sin embargo, evaluar qué conocimientos memorizan y bajo qué condiciones pueden acceder a ellos es crucial para determinar su fiabilidad.

El problema central identificado por los autores es que las evaluaciones tradicionales de memorización no literal (non-verbatim memorization) basadas en preguntas y respuestas (QA) sobre entidades suelen utilizar una única forma superficial canónica (el nombre oficial o más común) para consultar cada entidad. Esto genera una ambigüedad crítica:

• ¿El modelo ha memorizado el hecho sobre la entidad?
• ¿O simplemente puede acceder a ese hecho solo cuando se le presenta con ese nombre específico?

Si un modelo responde correctamente a "Pelé" pero falla al usar su nombre de nacimiento "Edson Arantes do Nascimento", no está claro si ha fallado en la memorización del hecho o si su acceso al conocimiento es dependiente de la forma superficial específica. Las evaluaciones actuales no logran disociar estos dos factores.

2. Metodología

Para abordar este problema, los autores introducen RedirectQA, un nuevo conjunto de datos de QA basado en entidades diseñado para analizar la consistencia del acceso al conocimiento factual frente a variaciones en la forma superficial de la entidad.

Construcción del Dataset (RedirectQA)

• Fuente de datos: Se utilizan triples factuales de Wikidata (sujeto, relación, objeto) y se vinculan con información de redirección de Wikipedia.
• Diseño de control: Para cada triple factual, se mantiene fija la relación y la respuesta dorada (gold answer), pero se varía sistemáticamente la forma superficial del sujeto.
• Tipos de formas superficiales:
  • Canónica: El título principal del artículo de Wikipedia.
  • Redirección: Títulos de páginas que redirigen al artículo principal, categorizados en:
    1. Nombres alternativos y abreviaturas (ej. "NYT" vs "The New York Times").
    2. Variantes ortográficas (ej. diferencias en diacríticos o mayúsculas).
    3. Errores típicos (ej. errores de ortografía comunes o nombres incorrectos).
• Estructura: El dataset contiene 30,560 instancias de formas superficiales derivadas de 14,672 triples factuales, generando un total de 61,120 realizaciones de preguntas (usando dos plantillas diferentes por relación para reducir sesgos de formulación).

Experimentos

• Modelos evaluados: Se probaron 13 LLMs de diferentes tamaños y niveles de transparencia (Pythia, OpenSciRef, OLMo 2, Llama 3.1, Qwen 3 y GPT-4o-mini).
• Protocolo: Se evaluó la consistencia de las predicciones entre pares canónico-redirección. Una pareja se considera inconsistente si el modelo acierta en una forma superficial pero falla en la otra (o viceversa), a pesar de que el hecho subyacente es idéntico.
• Análisis de Frecuencia: Se realizó un análisis correlacional utilizando frecuencias de tokens en los corpus de preentrenamiento (The Pile, OLMo Mix) para determinar si la precisión depende de la frecuencia de la forma superficial específica o de la frecuencia agregada de la entidad.

3. Contribuciones Clave

1. Introducción de RedirectQA: Un recurso controlado que desacopla la memorización del hecho de la accesibilidad a través de un nombre específico, permitiendo estudiar la dependencia de la forma superficial.
2. Evidencia de Inconsistencia Superficial: Demostración empírica de que el acceso a conocimientos memorizados no es invariante a la superficie; cambiar el nombre de la entidad altera significativamente la capacidad del modelo para recuperar el hecho.
3. Análisis de Categorías: Identificación de que la robustez del modelo depende del tipo de variación léxica (ortográfica vs. semántica/alias).
4. Descomposición de Frecuencias: Un análisis que separa la frecuencia de la entidad de la frecuencia de la forma superficial, revelando un "acoplamiento cruzado" en el acceso a los hechos.

4. Resultados Principales

Consistencia de Predicciones

• Inconsistencia General: En todos los modelos probados, cambiar la forma superficial de la entidad provoca cambios en la corrección de la respuesta. Incluso modelos potentes y ajustados por instrucciones (como GPT-4o-mini) no logran una consistencia perfecta.
• Dependencia de la Categoría:
  • Variantes Ortográficas: Los modelos son relativamente robustos a cambios menores (diacríticos, puntuación, mayúsculas). La consistencia es alta.
  • Nombres Alternativos y Abreviaturas: La consistencia cae drásticamente. Los modelos luchan por conectar abreviaturas (ej. "NYT") o nombres de nacimiento con sus entidades canónicas.
  • Errores Típicos: La consistencia es intermedia, mostrando una fragilidad parcial ante errores comunes.
• Asimetría: En muchos casos, el modelo falla con el título canónico de Wikipedia pero acierta con una forma de redirección, lo que sugiere que la "canonicidad" humana no coincide necesariamente con la ruta de acceso más fiable del LLM.

Análisis de Frecuencia

• Correlación Positiva: Tanto la frecuencia de la forma superficial específica como la frecuencia agregada de la entidad se correlacionan positivamente con la precisión.
• Acoplamiento Cruzado: Mediante análisis de correlación parcial, se descubrió que la frecuencia de la entidad contribuye a la precisión más allá de la frecuencia de la forma superficial específica.
  • Para formas canónicas, la frecuencia de la entidad es un predictor mucho más fuerte que la frecuencia de la forma superficial en sí.
  • Esto indica que la memorización no es puramente independiente para cada forma superficial, sino que existe una conexión entre las diferentes formas de referirse a una misma entidad en la memoria del modelo.

5. Significado e Implicaciones

• Reevaluación de la Memorización: Los hallazgos desafían la visión de que la memorización factual es completamente invariante a la superficie. El acceso al conocimiento es parcialmente dependiente de la forma superficial.
• Limitaciones de las Evaluaciones Actuales: Evaluar la memorización de LLMs utilizando únicamente nombres canónicos puede pasar por alto fallos críticos en el acceso al conocimiento cuando se usan alias, abreviaturas o nombres alternativos.
• Importancia de la Diversidad: Para una evaluación robusta de la fiabilidad de los LLMs, es esencial incluir una diversidad de formas superficiales (no solo el nombre oficial) en los conjuntos de datos de prueba.
• Mecanismos Internos: Los resultados sugieren que los modelos no memorizan cada variante de nombre de forma totalmente independiente, sino que existe algún nivel de acoplamiento semántico o de representación que une las diferentes formas superficiales de una entidad, aunque este acoplamiento es frágil ante variaciones léxicas grandes.

En conclusión, el trabajo de Nishida et al. proporciona una herramienta metodológica y empírica para entender que la "memoria" de un LLM es sensible a cómo se formula la entidad, lo que tiene implicaciones directas para el diseño de sistemas de QA, la evaluación de alucinaciones y la comprensión de la arquitectura interna de los modelos de lenguaje.