Resumen Técnico: Modelos de Lenguaje Grande como Generadores Amortizados de Frentes de Pareto para Optimización Convexa Bi-Objetivo con Restricciones

1. Planteamiento del Problema

El artículo aborda el desafío de generar frentes de Pareto factibles para la optimización continua bi-objetivo con restricciones. A diferencia de los problemas de un solo objetivo que producen un único óptimo, los problemas bi-objetivo requieren identificar un conjunto de soluciones (el frente de Pareto) que capturen las compensaciones entre dos objetivos en competencia.

Los enfoques existentes suelen depender de la escalarización iterativa, algoritmos evolutivos o solucionadores numéricos específicos del problema. Estos métodos requieren optimizaciones repetidas y un diseño algorítmico significativo para cada nueva instancia del problema. Aunque los Modelos de Lenguaje Grande (LLM) han demostrado ser prometedores en optimización, las aplicaciones actuales funcionan en gran medida como herramientas de asistencia (por ejemplo, generación de código, propuesta de heurísticas) o se limitan a entornos combinatorios discretos. Los autores identifican una brecha: no existe un método efectivo para utilizar LLM como solucionadores amortizados de extremo a extremo que mapeen directamente una descripción del problema a un conjunto ordenado de vectores de decisión continuos factibles que aproximen el frente de Pareto.

Los desafíos específicos en este dominio incluyen:

• Salida Continua: Generar secuencias decimales crudas es difícil para los modelos autoregresivos debido a la longitud, la irregularidad y la confusión entre precisión y formato.
• Factibilidad Numérica: Cada vector generado debe satisfacer las restricciones (límites de caja e inecuaciones lineales) y mantener la precisión numérica.
• Geometría Global: Todo el conjunto de vectores debe preservar la geometría global de compensación del frente, no solo la precisión de puntos individuales.

2. Metodología: El Marco DIPS

Los autores proponen DIPS (Solucionador de Pareto Discretizado, Inicializado y Optimizado por Currículo), un marco unificado que adapta LLM preentrenados en generadores amortizados de frentes de Pareto. El marco consta de cinco componentes clave:

A. Esquema de Discretización

Para cerrar la brecha entre el modelado de lenguaje y la optimización continua, DIPS reemplaza la serialización decimal cruda con una codificación compacta de dos tokens para valores de precisión de cuatro decimales.

• Cada escalar $v$ se codifica como <sXiXXX><dXXX>.
• El primer token (<sXiXXX>) almacena el signo, la parte entera y el primer dígito decimal.
• El segundo token (<dXXX>) almacena los tres dígitos decimales restantes.
• Esto reduce la longitud de la secuencia en aproximadamente un 70% y regulariza la estructura de salida.

B. Inicialización de Tokens Basada en Fundamentos Numéricos (NGTI)

Introducir nuevos tokens numéricos en un vocabulario preentrenado a menudo conduce a inestabilidad. DIPS emplea NGTI para iniciar en caliente estos nuevos tokens.

• En lugar de una inicialización aleatoria, NGTI compone las incrustaciones de los nuevos tokens reutilizando la estructura de incrustación numérica existente del modelo preentrenado (dígitos, signos, puntos decimales).
• Se aplican pesos dependientes de la posición y pequeñas perturbaciones dependientes del valor para asegurar que los tokens numéricamente cercanos comiencen con incrustaciones cercanas, preservando el orden numérico local.

C. Optimización del Currículo en Tres Fases (TPCO)

La pérdida de entropía cruzada (CE) estándar es insuficiente ya que trata todos los errores de tokens por igual, ignorando la proximidad numérica. Por el contrario, imponer pérdidas numéricas inmediatamente desestabiliza el entrenamiento. DIPS introduce un Currículo en Tres Fases:

1. Fase 1 (Aprendizaje Estructural): El modelo aprende el formato de serialización y la estructura global del frente utilizando únicamente la pérdida de entropía cruzada.
2. Fase 2 (Alineación Grosera): Se introduce una alineación numérica grosera, dirigiendo la masa de probabilidad hacia la región numérica correcta (por ejemplo, signo correcto y parte entera).
3. Fase 3 (Alineación Fina): Se añade una alineación numérica fina para refinar la precisión restante (dígitos decimales).
   Este enfoque escalonado asegura que se establezca la competencia estructural antes de exigir precisión numérica.

D. Fusión de Pareto de Múltiples Pasos (MPPF)

En el momento de la inferencia, una sola pasada de decodificación puede omitir partes del frente. DIPS emplea un procedimiento ligero de Fusión de Pareto de Múltiples Pasos:

• El modelo genera múltiples frentes candidatos ($N$ pasadas).
• Los candidatos se redondean, se eliminan duplicados y se filtran por factibilidad.
• Se realiza una clasificación de no dominancia y se seleccionan las soluciones mediante muestreo uniforme de longitud de arco en el espacio de objetivos normalizado para garantizar una cobertura densa.

3. Contribuciones Clave

1. Formulación: El artículo formula la generación de frentes de Pareto de extremo a extremo para la optimización convexa bi-objetivo con restricciones como un problema de modelado de lenguaje autoregresivo, presentando al LLM como un solucionador amortizado.
2. Marco DIPS: Los autores proponen un marco novedoso que combina discretización, NGTI y TPCO para hacer que la generación continua de frentes de Pareto sea aprendible para LLM preentrenados.
3. Rendimiento: El método demuestra que un LLM de 7 mil millones de parámetros ajustado puede superar a LLM de propósito general y de razonamiento sustancialmente más grandes, así como a fuertes métodos clásicos de escalarización, bajo presupuestos de tiempo equivalentes.

4. Resultados Experimentales

Los autores evaluaron DIPS en cinco familias de problemas convexos bi-objetivo con restricciones (Cuadrática Bi-objetivo General, Cuadrática Separable, Mínimos Cuadrados tipo Ridge, Regresión Huber y objetivos basados en Softplus) con dimensiones de decisión $n \in [10, 20]$.

Métricas de Rendimiento:

• Factibilidad: DIPS+MPPF logró una factibilidad del 100% en las cinco familias de problemas.
• Relación de Hipervolumen (HV): DIPS+MPPF logró relaciones de hipervolumen normalizadas de 96.2%–99.8% con respecto a los frentes de referencia.
• Tiempo de Inferencia: Con inferencia acelerada por vLLM, DIPS resuelve una sola instancia en tan solo 0.16 segundos (pasada única) y 0.49 segundos (con MPPF).

Comparaciones:

• vs. LLM de Propósito General: Incluso los modelos de propósito general más fuertes (por ejemplo, GPT-5.2, Claude Sonnet 4.5) no lograron producir de manera fiable frentes de alta calidad factibles (factibilidad < 82%, HV < 0.61) y requirieron tiempos de inferencia significativamente más largos (de segundos a minutos).
• vs. LLM de Razonamiento: Los modelos de razonamiento (por ejemplo, DeepSeek-R1, GPT-5.2 Thinking) mostraron mejoras marginales en la factibilidad pero requirieron de 1.8 a 6 minutos por instancia, fallando en escalar eficazmente a salidas continuas de valor conjunto.
• vs. Optimizadores Clásicos: Bajo un presupuesto de tiempo de reloj de 0.5 segundos equivalente, DIPS+MPPF fue competitivo con los métodos clásicos de escalarización más fuertes (Suma Ponderada, NBI, NC) en calidad del frente y superior en factibilidad. Aunque los métodos clásicos podrían lograr un HV ligeramente mayor con tiempo de computación ilimitado, DIPS proporcionó calidad comparable con la mayor factibilidad bajo la restricción de tiempo estricta sin llamadas al solucionador por instancia.

Estudios de Ablación:

• Eliminar la discretización (Decimal Crudo) causó el colapso del entrenamiento.
• La inicialización aleatoria de tokens numéricos condujo a inestabilidad y un rendimiento deficiente en familias complejas.
• El uso exclusivo de Entropía Cruzada (sin TPCO) resultó en una menor calidad del frente, confirmando la necesidad de supervisión numérica consciente de la métrica.

5. Significado y Afirmaciones

El artículo afirma que los LLM pueden servir como generadores amortizados efectivos para la aproximación de frentes de Pareto continuos, ofreciendo una alternativa impulsada por el lenguaje a la invocación repetida de solucionadores para la clase estudiada de problemas de optimización.

• Interfaz Unificada: DIPS proporciona una interfaz de optimización unificada que mapea descripciones de problemas directamente a soluciones, eliminando la necesidad de que los usuarios seleccionen algoritmos o invoquen software especializado.
• Eficiencia: El enfoque logra resultados de alta calidad en milisegundos, órdenes de magnitud más rápido que las estrategias basadas en prompts o los optimizadores clásicos bajo presupuestos de tiempo ajustados.
• Generalización: El marco se generaliza a dimensiones no vistas ($n=21, 22, 23$) y diferentes familias de problemas cuando se entrena en un conjunto de datos unificado, lo que sugiere que los LLM pueden internalizar la estructura geométrica de la tarea de optimización.

Limitaciones y Direcciones Futuras:
Los autores reconocen que el estudio se llevó a cabo en un régimen controlado generado por solucionadores. El trabajo futuro incluye extender DIPS a puntos de referencia más amplios, clases de restricciones más ricas, espacios de objetivos de mayor dimensión y funciones objetivo no convexas. El marco actual se limita a entornos convexos.