Resumen Técnico: Curación de Datos Eficiente para el Razonamiento Multimodal bajo Protocolos de Entrenamiento Fijos

Declaración del Problema

La curación de datos es crítica para el razonamiento multimodal, sin embargo, su impacto específico suele verse oscurecido por cambios concurrentes en la arquitectura del modelo, las recetas de entrenamiento y los estilos de supervisión. Este artículo aborda una pregunta más estrecha y controlada: Cuando el modelo base, el optimizador, el esquema de entrenamiento y el pipeline de evaluación se mantienen constantes, ¿qué elecciones de curación de datos generan las mejoras más significativas en las tareas posteriores?

Los autores utilizan el desafío NeurIPS 2025 Data Curation for Vision–Language Reasoning (DCVLR) como banco de pruebas, el cual fija el protocolo de entrenamiento (utilizando el modelo base Qwen2.5-VL-7B-Instruct) y varía únicamente el conjunto de datos de entrenamiento curado, permitiendo así aislar los efectos de la selección de datos bajo restricciones de recursos realistas.

Metodología

El estudio emplea un marco de ablación controlado centrado en el corpus Walton Multimodal Cold Start, seleccionado como la fuente primaria debido a su alineación con la distribución de QA académica del benchmark y el espacio de incrustaciones (embeddings) del modelo base.

Intervenciones Principales

1. Alineación de la Fuente: Los autores establecen que seleccionar un corpus de origen alineado con el benchmark objetivo (mediante proximidad de embeddings) es un prerrequisito para una curación efectiva.
2. Filtrado de Dificultad Relativa al Modelo:
   • En lugar de la dificultad humana intrínseca, la dificultad se define por la consistencia del modelo base.
   • Para cada ejemplo, el modelo genera 16 ejecuciones estocásticas (temperatura 0.7, top-p 0.9).
   • La puntuación de dificultad ($k$) es el recuento de respuestas correctas de entre 16.
   • Estrategia de Selección: Los ejemplos se filtran en grupos de dificultad "moderada" (por ejemplo, $k \le 8$), que representan desafíos que son aprendibles pero no triviales, evitando tanto los extremos de "fáciles" ($k \ge 15$) como de "solo difíciles" ($k \le 3$).
3. Heurísticas Alternativas: Los autores prueban y comparan el filtrado de dificultad contra:
   • Muestreo aleatorio.
   • Estrategias de diversidad (balanceo de clusters de embeddings, balanceo de nivel de categoría, exclusión de temas).
   • Mezclas de datos sintéticos (ejemplos de CoSyn-400K reescritos con GPT-4o para preservar las respuestas pero extender los rastros de razonamiento).
4. Validación entre Modelos: Las puntuaciones de dificultad derivadas de Qwen2.5-VL se aplican para entrenar diferentes familias de modelos (Molmo-7B, Phi-4, Gemma3-4B) para probar la transferibilidad de la señal.

Resultados Clave

1. El Filtrado de Dificultad es la Señal Dominante

En un entorno de escala fija (1,000 ejemplos), el filtrado de dificultad en un corpus de origen alineado supera significativamente al muestreo aleatorio y a otras heurísticas.

• Rendimiento: El subconjunto curado de 1k mejoró la puntuación agregada de DCVLR del 38.4% (base) al 46.0%.
• Umbralización: Un umbral de dificultad "moderada" ($k \le 8$) arrojó los mejores resultados (0.491), superando al muestreo aleatorio (0.475), la selección de solo fáciles (0.440) y la selección estricta de solo difíciles (0.472). Esto sugiere que la señal óptima reside en ejemplos que son desafiantes pero no están más allá de la capacidad actual del modelo.

2. Las Ganancias no se Deben Únicamente al Pesaje del Benchmark

Aunque la mejora en LiveXivTQA (un benchmark dominante) fue sustancial (56.8% $\to$ 74.5%), el análisis de descomposición reveló que la ganancia agregada no fue simplemente un artefacto de pesaje.

• La mayor mejora absoluta sobre el muestreo aleatorio ocurrió en OlympiadBench (el benchmark más grande después de LiveXivTQA), contribuyendo aproximadamente con +0.011 a la puntuación general, frente a +0.004 de LiveXivTQA.

3. El Tamaño del Conjunto de Datos Afecta la Estabilidad, No el Rendimiento Medio

Aumentar el tamaño del conjunto de datos más allá de aproximadamente 1,000 ejemplos alineados no mejoró consistentemente el rendimiento medio bajo la receta fija.

• Escalamiento: La precisión se estancó alrededor de 1k ejemplos (0.475). Aumentar a 10k ejemplos resultó en una ligera disminución de la precisión media (0.467), pero una reducción significativa en la varianza entre ejecuciones.
• Especialización: Añadir más datos condujo a una especialización en el benchmark alineado (LiveXivTQA), mostrando una ligera degradación en benchmarks no incluidos en el entrenamiento como OlympiadBench y Physics.

4. Resultados Negativos para Diversidad y Mezclas Sintéticas

• Diversidad: El clustering de embeddings y el balanceo de categorías no superaron al baseline de filtrado de dificultad.
• Datos Sintéticos: La mezcla de ejemplos de CoSyn reescritos (rastros de razonamiento más largos) con el corpus de Walton tuvo un rendimiento inferior al baseline de Walton con filtrado de dificultad. Esto sugiere un desajuste de distribución o de estilo de supervisión para este régimen específico de protocolo fijo.

5. Transferencia Parcial entre Modelos

Las puntuaciones de dificultad derivadas de Qwen2.5-VL se transfirieron parcialmente a otras arquitecturas:

• Molmo-7B y Phi-4 mostraron mejoras cuando fueron entrenados con subconjuntos filtrados por dificultad.
• Gemma3-4B no mejoró (0.307 vs. 0.316 aleatorio).
• Entrenar Phi-4 con datos puntuados por el propio Phi-4 produjo resultados similares a las puntuaciones derivadas de Qwen, lo que indica que la señal es transferible pero dependiente de la arquitectura.

Significancia y Reivindicaciones

El artículo enmarca explícitamente sus contribuciones como una receta empírica acotada en lugar de una ley universal de selección de datos.

• Reivindicación Principal: Bajo un protocolo de entrenamiento fijo (modelo, optimizador y esquema fijos), el filtrado de dificultad en un corpus de origen alineado es la señal de curación de datos más fuerte entre las probadas.
• Guía Práctica: Los autores proponen un flujo de trabajo para el razonamiento multimodal con restricciones de datos:
  1. Seleccionar el corpus de origen disponible más alineado.
  2. Puntuación de ejemplos usando la dificultad relativa al modelo y seleccionar una región "desafiante pero aprendible".
  3. Tratar el tamaño del conjunto de datos como un control de estabilidad una vez que el rendimiento medio se satura (aprox. 1k ejemplos).
  4. Validar la diversidad y la aumentación sintética mediante ablaciones de escala coincidente en lugar de asumir beneficios aditivos.
• Limitaciones: Los autores advierten que estos hallazgos se aplican específicamente al régimen de ajuste fino de protocolo fijo. No afirman que la dificultad sea universalmente dominante en el preentrenamiento, el entrenamiento intermedio o los escenarios de post-entrenamiento sin restricciones donde la propia receta de entrenamiento podría ser ajustada. Del mismo modo, los resultados negativos sobre diversidad y datos sintéticos son específicos de las heurísticas y mezclas probadas, no un rechazo de estas estrategias en todos los contextos.