Rethinking Layer Redundancy in Large Language Models: Calibration Objectives and Search for Depth Pruning

A continuación se presenta un resumen técnico detallado del artículo "Replanteando la redundancia de capas en los Modelos de Lenguaje Grandes: Objetivos de calibración y búsqueda para el podado de profundidad".

1. Planteamiento del Problema

Los Modelos de Lenguaje Grandes (LLM) incurren en costos significativos de despliegue debido a su escala. El podado de profundidad, que elimina bloques completos de Transformer, es una técnica de compresión estructurada que reduce los costos de inferencia de forma lineal con el número de capas retenidas.

La investigación previa en podado de profundidad ha operado en gran medida bajo una "visión estructural" de la redundancia. Esta perspectiva asume que la importancia de una capa es una propiedad intrínseca de la red preentrenada, independiente de la tarea downstream. En consecuencia, trabajos anteriores se centran en encontrar una única clasificación "universal" de capas (mediante criterios de importancia como la similitud del coseno o la magnitud) y aplicar algoritmos de búsqueda sofisticados para identificar el subconjunto óptimo de capas a eliminar.

La Pregunta Central: ¿Es la redundancia de capas realmente una propiedad estructural del modelo, o es una propiedad funcional determinada conjuntamente por el modelo y el objetivo de evaluación específico (pérdida de calibración)? Los autores hipotetizan que una capa considerada redundante para el modelado de lenguaje (perplejidad) podría ser crítica para el razonamiento downstream, lo que sugiere que una clasificación universal es insuficiente.

2. Metodología

Para probar empíricamente las visiones estructural versus funcional, los autores diseñaron un experimento controlado que desenreda dos ejes clave del podado de profundidad: el Objetivo de Calibración y el Algoritmo de Búsqueda.

• Formulación del Problema: El podado de profundidad se enmarca como un problema de selección de subconjuntos:
  $$S^* = \arg \min_{|S|=k} \mathcal{L}(D; f_{\theta_0} \odot m_S)$$
  Donde $S$ es el conjunto de capas eliminadas, $\mathcal{L}$ es la función de pérdida y $D$ es el conjunto de datos de calibración.
• Variables Experimentales:
  • Modelos: Tres familias de LLM de pesos abiertos (LLaMA3 8B, LLaMA3.1 8B, Qwen3 8B) con pipelines de entrenamiento variables pero escalas comparables.
  • Objetivos de Calibración ($\mathcal{L}$):
    1. Perplejidad (Agnóstica a la Tarea): Log-verosimilitud negativa en el conjunto de datos C4.
    2. Margen de Log-verosimilitud de la Tarea (Centrado en la Tarea): La brecha de log-verosimilitud entre respuestas correctas e incorrectas en Commonsense 170k.
  • Algoritmos de Búsqueda: Se probaron siete algoritmos distintos bajo cada objetivo para aislar el impacto de la estrategia de búsqueda:
    1. Selección top-k de un solo paso (One-shot)
    2. Eliminación iterativa voraz (Greedy)
    3. Búsqueda en haz (Beam search)
    4. Algoritmo Genético (GA) guiado por prioridades
    5. Optimización Bayesiana (BO) guiada por prioridades
    6. Optimización Binaria Constrained (CBO)
    7. Selección rápida de bloques (Fast-block-select)
• Evaluación:
  • Los modelos podados mediante Perplejidad se evaluaron en WikiText-2, C4 y LAMBADA.
  • Los modelos podados mediante Margen de Log-verosimilitud de la Tarea se evaluaron en cero disparos (zero-shot) en benchmarks de razonamiento de sentido común (HellaSwag, WinoGrande, ARC, PIQA, BoolQ).
  • Presupuestos de Podado: Dos niveles de compresión ($M=7$ y $M=9$ capas eliminadas).

3. Contribuciones Clave

1. Visión Funcional de la Redundancia: El artículo articula y valida empíricamente que la redundancia de capas no es una propiedad estructural intrínseca, sino una propiedad funcional dependiente del objetivo de evaluación.
2. Desenredado de Búsqueda y Objetivo: Al mantener una variable fija mientras se varía la otra a través de tres familias de modelos, los autores aíslan la fuente de las ganancias de rendimiento, abordando el "confundidor métrica-búsqueda" común en la literatura previa.
3. Desalineación Sistemática: Los autores identifican una desconexión sistemática entre la perplejidad de calibración y la precisión del razonamiento downstream, demostrando que optimizar para uno no garantiza la optimización para el otro.

4. Resultados Clave

A. Los Objetivos Moldean los Patrones de Podado (Sección 5.1)

• Calibración por Perplejidad: Los patrones de podado fueron altamente consistentes entre diferentes algoritmos de búsqueda. Las eliminaciones se concentraron en grupos contiguos de capas medias a tardías (por ejemplo, capas 9–12 y 22–26 en LLaMA3).
• Calibración por Log-verosimilitud de la Tarea: Los patrones de podado se dispersaron a través de la red y variaron significativamente dependiendo del algoritmo de búsqueda utilizado.
• Conclusión: Los dos objetivos producen conjuntos estructuralmente diferentes de capas "redundantes", refutando la idea de un único mapa universal de redundancia.

B. Desalineación entre Perplejidad y Precisión (Sección 5.2)

• Los autores compararon la clasificación de los modelos podados basada en la perplejidad de calibración contra su precisión de razonamiento downstream.
• Resultado: Las correlaciones de Spearman oscilaron entre $\rho = -0.78$ y cerca de cero. En la mayoría de las condiciones, la correlación fue negativa.
• Implicación: La configuración del modelo que minimiza la perplejidad a menudo no es la que maximiza la precisión del razonamiento downstream.

C. Los Algoritmos de Búsqueda son Secundarios (Sección 5.3)

• Varianza Dentro del Objetivo: Cuando el objetivo de calibración se mantuvo fijo, diferentes algoritmos de búsqueda convergieron a soluciones con un rendimiento muy similar.
  • Para el podado por log-verosimilitud de la tarea, las diferencias de precisión entre los algoritmos de búsqueda mejor y peor fueron típicamente de 1–3 puntos porcentuales.
  • Incluso los métodos complejos (como BO o GA) ofrecieron rendimientos decrecientes en comparación con métodos más simples (como One-shot o Greedy) una vez que el objetivo se fijó.
• Costo-Beneficio: Los métodos simples (One-shot, Selección rápida de bloques) lograron resultados casi óptimos en minutos, mientras que los métodos complejos tardaron horas por ganancias marginales.
• Conclusión: La elección del objetivo de calibración tiene una influencia mucho mayor en el rendimiento y la estructura final del modelo que la elección del algoritmo de búsqueda.

5. Significado e Implicaciones

• Cambio de Paradigma: El artículo desafía la premisa predominante de que la importancia de las capas es estática. Sugiere que los investigadores deben dejar de buscar una clasificación "universal" de capas y centrarse en la redundancia condicionada al objetivo.
• Eficiencia Práctica: Para los practicantes, los resultados implican que invertir recursos computacionales en algoritmos de búsqueda complejos (por ejemplo, búsqueda evolutiva, optimización bayesiana) produce beneficios limitados si el objetivo de calibración es subóptimo.
• Prioridad de Diseño: La decisión de diseño más crítica en el podado de profundidad es el objetivo de calibración. Seleccionar un objetivo que se alinee con la tarea downstream pretendida (por ejemplo, usar una pérdida de margen específica de la tarea para tareas de razonamiento en lugar de perplejidad genérica) tiene un impacto mayor que refinar la estrategia de búsqueda.
• Futuras Direcciones: El trabajo futuro debería priorizar el diseño de objetivos de calibración y el estudio de cómo diferentes tareas definen la redundancia, en lugar de centrarse únicamente en mejorar las heurísticas de búsqueda.

En resumen, el artículo demuestra que en el podado de profundidad de LLM, el objetivo define el paisaje, mientras que el algoritmo de búsqueda simplemente lo navega. Un objetivo deficiente no puede ser corregido por una búsqueda sofisticada, pero un objetivo bien elegido permite que incluso métodos de búsqueda simples encuentren soluciones de alta calidad.