💬 NLP

Latent Knowledge as a Predictor of Fact Acquisition in Fine-Tuned Large Language Models

Este estudio demuestra que el conocimiento latente —hechos biomédicos almacenados en los pesos de un modelo pero inicialmente inaccesibles— es el predictor más fuerte de la rapidez con la que los grandes modelos de lenguaje adquieren nuevos hechos durante el ajuste fino y su capacidad para generalizar a mapeos de ontologías no vistos, al tiempo que revela que los mapeos previamente correctos son más propensos a la degradación cuando no se refuerzan durante el entrenamiento.

Autores originales: Daniel B. Hier, Tayo Obafemi-Ajayi

Publicado 2026-01-27

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Daniel B. Hier, Tayo Obafemi-Ajayi

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un Modelo de Lenguaje Grande (como el utilizado en este estudio) como una biblioteca gigante y caótica que fue construida leyendo millones de libros. Antes de que los investigadores comenzaran su experimento, la biblioteca ya estaba llena de hechos, pero estaban almacenados de una manera desordenada. Algunos hechos estaban escritos con letras brillantes y negritas en la portada (fáciles de encontrar), mientras que otros estaban garabateados con tinta invisible en la parte trasera de un libro polvoriento (difíciles de encontrar, pero aún allí).

Los investigadores querían saber: Si le damos a esta biblioteca una "guía de estudio" específica (ajuste fino o fine-tuning), ¿qué tan rápido aprenderá nuevos hechos? ¿Y qué determina si los aprende rápido o si olvida los antiguos?

Aquí está la historia de sus hallazgos, desglosada en conceptos simples:

1. El descubrimiento de la "Tinta Invisible" (Conocimiento Latente)

Los investigadores descubrieron que la biblioteca tenía un secreto. Algunos hechos estaban escritos en "tinta invisible". Si le preguntabas a la biblioteca una pregunta de forma normal, diría: "No lo sé". Pero si le preguntabas de una manera ligeramente diferente y más aleatoria (usando una técnica llamada decodificación estocástica), la biblioteca de repente decía: "¡Ah! ¡En realidad sí lo sé!".

Ellos llamaron a esto Conocimiento Latente. Es como un estudiante que conoce una fórmula matemática pero está demasiado nervioso para escribirla durante un examen. El conocimiento está ahí, solo que oculto.

El Gran Hallazgo:

Los hechos con "Tinta Invisible" se aprendieron súper rápido. Cuando los investigadores comenzaron la "guía de estudio" (fine-tuning), el modelo aprendió estos hechos casi de inmediato. Era como si el estudiante solo necesitara un pequeño empujón para recordar lo que ya sabía.
Los hechos SIN "Tinta Invisible" fueron aprendices lentos. Si la biblioteca nunca había visto un hecho antes (o era muy raro), el modelo tenía que aprenderlo desde cero. Esto tomó mucho más tiempo y ocurrió a un ritmo más lento.

2. Los Tres Resultados del Estudio

Los investigadores observaron la biblioteca durante 20 "sesiones de estudio" (épocas o epochs) y rastrearon tres cosas específicas:

Memorización (Aprender lo que ves): El modelo aprendió los hechos que se le enseñaron explícitamente.
- Resultado: Aprendió aproximadamente el 72% de los hechos que se le enseñaron. Pero, de nuevo, los que "medio conocía" (conocimiento latente) fueron aprendidos primero y más rápido.
Generalización (Adivinar lo no visto): Los investigadores le dieron al modelo una lista de hechos que nunca había visto antes y le preguntaron si podía deducirlos simplemente estudiando los similares.
- Resultado: Esto fue muy raro (solo aproximadamente el 6% de las veces). Sin embargo, el modelo solo tuvo éxito al adivinar estos nuevos hechos si ya tenía esa "tinta invisible" (conocimiento latente) sobre ellos. Si tenía cero exposición previa, no podía adivinar los nuevos hechos.
Degradación (Olvidar lo que sabías): Esta es la parte aterradora. A veces, mientras el modelo estudiaba cosas nuevas, olvidaba hechos que conocía perfectamente al principio.
- Resultado: El modelo tenía mucha más probabilidad de olvidar hechos que no le habían sido enseñados durante las sesiones de estudio. Los hechos que sí se le enseñaron estaban protegidos, como un escudo. Es como estudiar para un examen de historia y accidentalmente olvidar tu propio número de teléfono porque estabas tan concentrado en el nuevo material.

3. El Factor de la "Popularidad"

Los investigadores también comprobaron si el hecho de qué tan "popular" era un dato en el mundo real (con qué frecuencia aparecía en libros médicos) importaba.

La Sorpresa: Qué tan seguido aparecía una palabra específica no importaba mucho.
El Verdadero Ganador: Qué tan seguido aparecía el identificador (el código específico para el hecho) importaba mucho.
El Campeón: La "Tinta Invisible" (Conocimiento Latente) fue el predictor más fuerte por mucho. Importaba más que la popularidad o la frecuencia.

La Metáfora de Conclusión

Piensa en el modelo como un jardinero y en los hechos como semillas.

El Conocimiento Latente es como una semilla que ya ha brotado una pequeña raíz bajo la tierra. Cuando la riegas (ajuste fino), se convierte en una planta instantáneamente.
Sin Conocimiento Latente, es una semilla que está completamente latente. Tienes que regarla durante mucho tiempo antes de que siquiera piense en crecer.
La Generalización es intentar cultivar una planta de una semilla que nunca has visto. Solo puedes hacer esto si el suelo (el cerebro del modelo) ya tiene los nutrientes adecuados (conocimiento latente) para sostenerla.
La Degradación es como si el jardinero se concentrara tanto en plantar flores nuevas que accidentalmente pisa las viejas. Las flores que estás regando actualmente (el conjunto de entrenamiento) se mantienen a salvo, pero las que ignoras (el conjunto no visto) son pisoteadas.

Resumen

El artículo concluye que no puedes simplemente forzar a un modelo a aprender cualquier cosa instantáneamente.

Si el modelo ya tiene un "pista" del conocimiento (conocimiento latente), aprende rápido y puede incluso adivinar cosas nuevas similares.
Si el modelo no tiene ninguna pista en absoluto, el aprendizaje es lento y no podrá adivinar cosas nuevas.
Para evitar que el modelo olvide los hechos antiguos, debes seguir practicando esos hechos específicos durante el entrenamiento.

Esto ayuda a los científicos a entender cuándo entrenar un modelo y qué esperar, en lugar de simplemente esperar que aprenda todo mágicamente.

Resumen Técnico: El conocimiento latente como predictor de la adquisición de hechos en modelos de lenguaje de gran tamaño ajustados mediante fine-tuning

Planteamiento del problema
Los modelos de lenguaje de gran tamaño (LLM) codifican hechos biomédicos con una fuerza desigual tras el preentrenamiento, reflejando a menudo la distribución de cola larga de sus corpus de entrenamiento. Mientras que algunos hechos están codificados pero son inaccesibles bajo un decodificado determinista (denominados "conocimiento latente"), otros están mínimamente representados. La investigación actual suele tratar la adquisición de hechos durante el ajuste fino (fine-tuning) como un resultado binario (aprendido vs. no aprendido), fallando al no cuantificar la tasa de adquisición, la dinámica de la generalización a hechos no vistos o los mecanismos de degradación del conocimiento. Además, no está claro cómo las representaciones derivadas del preentrenamiento, específicamente el conocimiento latente, influyen en la eficiencia del fine-tuning para inyectar hechos de ontologías estructuradas (pares término–identificador) en los LLM.

Metodología
Los autores emplearon un marco de análisis de supervivencia para modelar la adquisición de hechos como un proceso de tiempo hasta un evento, tratando el epoch del fine-tuning como el tiempo y la primera ocurrencia de un identificador correcto como el evento.

Modelo y Datos: El estudio utilizó el modelo Llama-3.1-8B-Instruct. Dos ontologías biomédicas sirvieron como bancos de prueba estructurados: la Ontología del Fenotipo Humano (HPO) y la Ontología Génica (GO).
- HPO: Se utilizaron 800 pares término–identificador como datos de entrenamiento (términos vistos).
- GO: 400 pares se dividieron en 400 de entrenamiento (vistos) y 400 retenidos (no vistos) para evaluar la generalización.
Detección de Conocimiento Latente: El conocimiento latente se identificó mediante decodificación estocástica (muestreo con temperatura 1.0). Un término poseía conocimiento latente si al menos una de las 50 muestras estocásticas producía el identificador correcto antes del fine-tuning.
Protocolo de Fine-Tuning: El modelo fue sometido a fine-tuning durante 20 epochs utilizando Low-Rank Adaptation (LoRA). Para HPO, se entrenaron todos los 800 pares. Para GO, solo se entrenaron los 400 pares vistos, mientras que los 400 pares no vistos se evaluaron para la generalización.
Marco Analítico:
- Adquisición/Generalización: Modelado mediante estimadores de Kaplan–Meier para generar curvas de acumulación ( $F(t)$ ) y curvas de velocidad ( $V(t)$ ).
- Predictores: Se utilizaron modelos de riesgos proporcionales de Cox para cuantificar el impacto de las covariables sobre las tasas de adquisición. Las covariables incluyeron el estado de conocimiento latente, la frecuencia del identificador en PubMed Central (PMC), la frecuencia del término en PMC y el recuento de anotaciones curadas.
- Degradación: Analizada mediante el seguimiento de términos que eran correctos en el nivel base (epoch 0) pero que se volvieron incorrectos durante el entrenamiento.

Contribuciones Clave

Marco Basado en Tasas: El artículo introduce un enfoque de análisis de supervivencia para caracterizar el aprendizaje de hechos, yendo más allá de las métricas de precisión binaria para cuantificar la velocidad de adquisición, el tiempo de convergencia y el riesgo de degradación.
El Conocimiento Latente como Predictor Primario: El estudio establece que el conocimiento latente (información presente en los pesos pero inaccesible determinísticamente) es el predictor más fuerte de la velocidad de adquisición de hechos y del éxito de la generalización.
Dinámicas Asimétricas del Fine-Tuning: El trabajo delinea tres resultados distintos del fine-tuning:
- Memorización: Adquisición rápida de hechos vistos, altamente dependiente del conocimiento latente.
- Generalización: Poco común (5.8% en este estudio) pero predecible generalización a hechos no vistos, ocurriendo casi exclusivamente cuando existe conocimiento latente.
- Degradación: La pérdida de hechos previamente correctos, la cual se mitiga significativamente solo mediante la exposición continua durante el entrenamiento, no por el conocimiento latente.

Resultados

Velocidad de Adquisición: En el nivel base, el modelo recordó correctamente el 2.8% de los pares de HPO. Después de 20 epochs, el 71.9% fue adquirido. Los términos con conocimiento latente fueron adquiridos significativamente más rápido (tiempo medio de 2.9 epochs) en comparación con aquellos sin él (11.4 epochs). El conocimiento latente aumentó la razón de riesgo (HR) de adquisición en 2.6 ( $p < 0.001$ ).
Efecto de Dosis-Respuesta: Se observó una relación graduada; los términos con conocimiento latente "alto" (precisión estocástica $\ge$ 10%) convergieron antes y con velocidades pico más altas que aquellos con conocimiento latente "moderado".
Generalización: La generalización a términos de GO no vistos fue poco común (5.8% de 379 términos). Sin embargo, el conocimiento latente fue el predictor dominante, aumentando el riesgo de generalización por un factor de 13.67 ( $p < 0.005$ ). La frecuencia del identificador en PMC también predijo positivamente la generalización (HR = 3.39).
Degradación: De los 43 términos de GO que eran correctos en el nivel base, el 55.8% se degradó durante el entrenamiento. La degradación fue significativamente más probable para los términos no vistos que para los vistos (HR = 0.10 para términos vistos, indicando un efecto protector del entrenamiento). Notablemente, el conocimiento latente no protegió contra la degradación de los hechos que ya eran correctos.

Significancia y Reivindicaciones
El artículo sostiene que la estructura derivada del preentrenamiento, específicamente el conocimiento latente, moldea fundamentalmente la eficiencia del fine-tuning. Postula que el conocimiento latente estrecha el espacio de búsqueda efectivo del modelo, permitiendo que el fine-tuning ajuste asociaciones existentes débiles en lugar de descubrir nuevas desde cero. En consecuencia, el fine-tuning es más eficiente para inyectar hechos de ontologías donde el modelo ya posee "medio conocimiento".

Los autores concluyen que este marco ofrece un método principista para:

Identificar "desiertos de ontologías" (térmos sin conocimiento latente) donde el fine-tuning es probablemente ineficiente en términos de datos.
Predecir qué hechos no vistos son susceptibles de generalización.
Diseñar currículos que prioricen el refuerzo de hechos clínicamente importantes para prevenir el olvido catastrófico, ya que la resistencia a la degradación depende de la exposición al entrenamiento y no de la saliencia del preentrenamiento.

El estudio enfatiza que estos hallazgos son específicos de las curvas de aprendizaje observadas y no pretenden explicar los cambios mecánicos internos (por ejemplo, la redistribución de logits) que impulsan estos cambios, sugiriendo que el trabajo futuro debería integrar el análisis mecánico con este marco basado en tasas.

1. El descubrimiento de la "Tinta Invisible" (Conocimiento Latente)

2. Los Tres Resultados del Estudio

3. El Factor de la "Popularidad"

La Metáfora de Conclusión

Resumen

Más como este