💬 NLP

Pretraining Exposure Explains Popularity Judgments in Large Language Models

Al aprovechar el corpus Dolma totalmente observable y los modelos OLMo, este estudio demuestra que los juicios de popularidad de los modelos de lenguaje grandes están impulsados principalmente por las estadísticas de exposición durante el preentrenamiento en lugar de señales externas de popularidad en el mundo real, siendo la exposición un predictor más preciso del sesgo del modelo que las visualizaciones de páginas de Wikipedia.

Autores originales: Jamshid Mozafari, Bhawna Piryani, Adam Jatowt

Publicado 2026-05-13

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Jamshid Mozafari, Bhawna Piryani, Adam Jatowt

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un cerebro digital gigante (un Modelo de Lenguaje Grande, o LLM) que ha leído casi todo lo que hay en internet. Le preguntas a este cerebro: "¿Quién es más famoso: una panadería local específica o una estrella pop de fama mundial?" El cerebro casi siempre responde que la estrella pop. Durante mucho tiempo hemos asumido que esto se debe a que el cerebro "sabe" que la estrella pop es popular en el mundo real.

Pero este artículo plantea una pregunta diferente: ¿El cerebro está realmente juzgando la fama en el mundo real, o simplemente está recordando qué nombres vio con mayor frecuencia mientras estudiaba?

Para encontrar la respuesta, los investigadores utilizaron un cerebro especial, totalmente de código abierto, llamado OLMo. A diferencia de la mayoría de los cerebros de IA, podemos ver exactamente qué libros y sitios web leyó OLMo durante su "educación" (preentrenamiento). Esto es como tener toda la biblioteca de las tareas de un estudiante, en lugar de solo adivinar lo que leyó basándose en sus calificaciones.

Aquí está el desglose de su experimento y hallazgos, utilizando algunas analogías simples:

1. La Configuración: Contando las "Miradas"

Los investigadores trataron los datos de entrenamiento de la IA como una biblioteca masiva. Utilizaron una herramienta especial (Infini-Gram) para contar exactamente cuántas veces aparecieron 2.000 cosas diferentes (personas, lugares, marcas, canciones) en los libros que leyó la IA.

La Puntuación de "Exposición": Esto es simplemente un recuento de cuántas veces la IA "miró" un nombre. Si la IA vio "Taylor Swift" 1 millón de veces y "Panadero Local Bob" 5 veces, Taylor Swift tiene una puntuación de exposición alta.

2. Los Tres Competidores

Los investigadores querían ver qué "puntuación" predecía mejor cómo respondería la IA a las preguntas sobre popularidad. Compararon tres cosas:

La Puntuación del Mundo Real (Wikipedia): Observaron cuántas personas visitaron realmente las páginas de Wikipedia de estas entidades. Esta es la "verdad fundamental" de la fama en el mundo real.
La Adivinanza "Directa": Le preguntaron a la IA: "En una escala de 0 a 1000, ¿qué tan famosa es Taylor Swift?"
El Enfrentamiento "Cara a Cara": Le preguntaron a la IA: "¿Quién es más famoso: Taylor Swift o el Panadero Local Bob?" (Esto es como un cuadro de torneo).

3. El Gran Descubrimiento: Se Trata de lo Que Se Leyó, No de lo Que Se Sabe

Los resultados fueron sorprendentes y claros:

La "Memoria" de la IA coincide con la Biblioteca: La idea que tiene la IA sobre lo que es famoso coincidió mucho más con su "Puntuación de Exposición" (con qué frecuencia vio el nombre) que con los números reales de Wikipedia del mundo real.
El "Cara a Cara" es el Mejor Espejo: Cuando se le pidió a la IA que comparara dos cosas directamente (como en un torneo), sus respuestas coincidieron casi perfectamente con la frecuencia con la que había visto esos nombres en sus libros de entrenamiento. Fue incluso una coincidencia mejor que los datos reales de Wikipedia.
El Problema de la "Cola Larga": Para cosas muy oscuras (como "Panadero Local Bob"), los datos de Wikipedia a menudo son desordenados o inexistentes (nadie visita esas páginas). Sin embargo, la IA aún tenía una opinión clara sobre quién era más famoso. ¿Por qué? Porque incluso si la IA solo vio "Panadero Local Bob" 5 veces y "Otro Panadero" 2 veces, sabía que el primero era "más famoso" simplemente porque vio el nombre ligeramente más a menudo. La IA no estaba utilizando conocimiento del mundo real; simplemente estaba contando sus tareas.

4. Cerebros Más Grandes = Memorias Más Fuertes

Los investigadores probaron un cerebro más pequeño (7 mil millones de parámetros) y uno más grande (32 mil millones de parámetros).

El cerebro más grande estaba incluso más obsesionado con sus datos de entrenamiento. Sus respuestas se alinearon aún más estrechamente con la "Puntuación de Exposición" que las del cerebro más pequeño.
Esto sugiere que a medida que la IA se vuelve más inteligente y grande, no necesariamente se vuelve más "consciente" del mundo real; simplemente se vuelve mejor recordando exactamente lo que se le alimentó durante el entrenamiento.

La Conclusión

El artículo concluye que cuando una IA te dice quién es famoso, no necesariamente te está dando un informe sobre la sociedad del mundo real. Te está dando un informe sobre su propia lista de lectura.

Piénsalo como un estudiante que solo ha leído una revista específica. Si le preguntas a ese estudiante: "¿Quién es la persona más famosa del mundo?", no te dirá a la persona realmente más famosa; te dirá a la persona que apareció en la portada de esa revista la mayor cantidad de veces. El "sesgo de popularidad" de la IA es simplemente un reflejo de la frecuencia de las palabras en sus datos de entrenamiento, no una comprensión verdadera del mundo.

Resumen Técnico: La Exposición en el Preentrenamiento Explica los Juicios de Popularidad en los Modelos de Lenguaje Grandes

Enunciado del Problema
Los Modelos de Lenguaje Grandes (LLM) exhiben preferencias sistemáticas por entidades bien conocidas, un fenómeno ampliamente atribuido al "sesgo de popularidad". Sin embargo, el origen de estas preferencias sigue siendo ambiguo: no está claro si reflejan una popularidad real genuina o meramente la frecuencia estadística de las entidades dentro del corpus de preentrenamiento. Investigaciones anteriores han tenido dificultades para resolver esto porque los datos de entrenamiento de la mayoría de los LLMs publicados son inaccesibles, lo que obliga a depender de evidencia indirecta o comportamientos posteriores que confunden la exposición con otros factores de confusión.

Metodología
Este estudio proporciona el primer análisis directo y a gran escala del sesgo de popularidad aprovechando los modelos OLMo totalmente abiertos y su corpus completo de preentrenamiento, Dolma. La metodología procede a través de los siguientes pasos:

Indexación de Datos y Cálculo de Exposición: Los autores indexaron todo el corpus de preentrenamiento de OLMo (compuesto por los conjuntos de datos de Preentrenamiento, Entrenamiento Intermedio y Contexto Largo, con un total de 7,4 billones de tokens) utilizando el toolkit Infini-Gram.
Muestreo y Validación de Entidades: A partir de un volcado de Wikidata (con fecha del 24 de enero de 2026), se muestrearon 5.000 entidades para cada uno de cinco tipos: Persona, Ubicación, Organización, Arte y Producto. Para garantizar un recuento preciso de frecuencias, todos los alias candidatos fueron validados mediante GPT-4.1 para filtrar referencias ambiguas, reteniendo únicamente aquellas que se refieren exclusivamente a la entidad objetivo.
Puntuación de Exposición: Para cada una de las 2.000 entidades seleccionadas (400 por tipo, divididas equitativamente entre 200 entidades de baja frecuencia "dispersas" y 200 de alta frecuencia "populares"), se calculó una puntuación de exposición basada en la frecuencia de la entidad y sus alias validados en el corpus indexado.
Comparación de Señales de Popularidad: El estudio comparó tres señales distintas contra las puntuaciones de exposición en el preentrenamiento:
- Vistas de Página de Wikipedia: Un proxy externo para la popularidad en el mundo real, agregado desde el 1 de julio de 2015 hasta el 31 de diciembre de 2024 (coincidiendo con el corte del corpus).
- Estimación Escalar Directa: Se solicitó al modelo OLMo (variantes de 7B y 32B) que asignara una puntuación de popularidad (0–1000) a entidades individuales.
- Comparación Pareada: Se solicitó al modelo que determinara cuál de dos entidades era más popular. Estas preferencias pareadas se convirtieron en puntuaciones listwise utilizando el modelo Bradley–Terry.

Resultados Clave
El análisis, basado en correlaciones de rango de Spearman ( $\rho$ ), arrojó los siguientes hallazgos:

Exposición como Proxy de Popularidad Real: La exposición en el preentrenamiento se correlaciona fuertemente con las vistas de página de Wikipedia en todos los tipos de entidades (promedio $\rho \approx 0.755$ ), validando la exposición como un proxy significativo para la saliencia en el mundo real durante el período de entrenamiento.
Los Juicios de los LLM se Alinean Más con la Exposición que con Wikipedia: Las señales de popularidad generadas por los LLM se alinean más estrechamente con la exposición en el preentrenamiento que con las vistas de página de Wikipedia. Esto es particularmente evidente en el método de Comparación Pareada, que logró la correlación más alta con la exposición (promedio $\rho \approx 0.795$ para el modelo de 32B), superando tanto a la estimación escalar directa como a la línea base de Wikipedia.
El Régimen de Cola Larga: Para entidades "dispersas" (de baja frecuencia), las vistas de página de Wikipedia se vuelven poco fiables, mostrando correlaciones cercanas a cero o negativas con la exposición ( $\rho \approx 0.10$ ). En contraste, los juicios de popularidad de los LLM (especialmente mediante comparación pareada) mantienen una correlación positiva con la exposición ( $\rho \approx 0.31$ para el modelo de 32B), lo que sugiere que para entidades raras, los priores del modelo están gobernados casi en su totalidad por la frecuencia en el preentrenamiento.
Efectos de la Escala del Modelo: Aumentar la escala del modelo de 7B a 32B mejora sistemáticamente la alineación entre los juicios de los LLM y la exposición en el preentrenamiento. El modelo de 32B demuestra priores basados en la exposición más nítidos y consistentes, particularmente en tareas de estimación escalar directa.

Significado y Afirmaciones
El artículo afirma ofrecer la primera evidencia directa y a gran escala de que los priores de popularidad en los LLM están moldeados principalmente por estadísticas de preentrenamiento en lugar de señales externas de popularidad. Los autores argumentan que la "exposición a datos" juega un papel central en la impulsión del sesgo de popularidad. Específicamente, los hallazgos demuestran que:

Los LLM no reflejan meramente métricas externas de popularidad; sus preferencias internas de clasificación están profundamente arraigadas en la distribución estadística de sus datos de entrenamiento.
La elicitación pareada es un método más fiable para descubrir estos priores basados en la exposición que la estimación escalar directa.
El "sesgo de popularidad" observado en los LLM no es necesariamente un fallo de razonamiento, sino un reflejo directo de los patrones de frecuencia inherentes al corpus de preentrenamiento.

Los autores concluyen que estos sesgos son propiedades medibles de los datos de entrenamiento y sugieren que el trabajo futuro debería investigar estrategias de mitigación para mejorar la equidad y la diversidad en los resultados del modelo.