Resumen Técnico: MO-CAPO: Optimización de Prompts Consciente del Costo Multi-Objetivo

1. Enunciado del Problema

Los Modelos de Lenguaje Grandes (LLM) demuestran un rendimiento sólido en diversas tareas, pero siguen siendo altamente sensibles al diseño de los prompts, lo que hace necesaria una optimización automática de estos. Si bien los métodos existentes se centran principalmente en maximizar el rendimiento, a menudo ignoran objetivos en competencia como el costo de inferencia y la latencia. Además, el propio proceso de optimización es costoso, requiriendo numerosas llamadas a LLM.

Los enfoques actuales enfrentan dos limitaciones principales:

1. Enfoque de Objetivo Único: La mayoría de los optimizadores (por ejemplo, CAPO, GEPA) optimizan únicamente el rendimiento o utilizan la escalarización con un peso de compensación fijo y preelegido para penalizar la longitud del prompt. Este enfoque no logra capturar el espectro completo de compensaciones entre rendimiento y costo, y requiere que los usuarios ajusten manualmente los pesos, lo cual no es trivial.
2. Métodos Multi-Objetivo Ineficientes: Los optimizadores de prompts multi-objetivo existentes suelen depender de algoritmos comerciales como NSGA-II. Estos métodos a menudo carecen de eficiencia de costos en sus procedimientos de optimización, evaluando candidatos en conjuntos de datos completos sin mecanismos para descartar soluciones poco prometedoras tempranamente. Además, suelen utilizar la longitud del prompt como un proxy para el costo, ignorando los perfiles computacionales distintos de los tokens de entrada frente a los de salida en los LLM modernos (donde la generación de salida es significativamente más costosa).

El problema central es desarrollar un algoritmo de optimización de prompts que optimice conjuntamente el rendimiento y el costo de inferencia, descubra un conjunto diverso de soluciones Pareto-óptimas (la frontera de Pareto) y lo haga de manera eficiente bajo un presupuesto de evaluación limitado.

2. Metodología: MO-CAPO

Los autores proponen MO-CAPO (Optimización de Prompts Consciente del Costo Multi-Objetivo), un algoritmo que extiende la estrategia evolutiva de CAPO para manejar múltiples objetivos explícitamente mientras integra mecanismos de asignación de presupuesto.

2.1 Objetivo de Costo

MO-CAPO introduce un objetivo de costo orientado al despliegue que tiene en cuenta el perfil computacional completo de la inferencia de LLM. A diferencia de los métodos anteriores que penalizan solo la longitud del prompt, MO-CAPO define el costo como una suma ponderada de tokens de entrada y salida:
$$c_\Phi(p, x) = w_{in} \cdot tok_{in}(p; x) + w_{out} \cdot tok_{out}(p; x)$$
Donde $w_{in}$ y $w_{out}$ son pesos específicos del modelo derivados de precios de API o métricas de latencia. Esta formulación refleja la realidad de que los tokens de salida suelen ser más costosos debido a la decodificación autoregresiva secuencial.

2.2 Marco Algorítmico

MO-CAPO opera como un algoritmo genético con una población de prompts que consisten en instrucciones y ejemplos de pocos disparos (few-shot). Integra conceptos de NSGA-II y el método de configuración automática de algoritmos multi-objetivo MO-SMAC.

• Conjunto de Incumbentes y Población: El algoritmo mantiene una población ($P_\mu$) y un conjunto dedicado de incumbentes ($P_{inc}$) que representa la aproximación actual de la frontera de Pareto.
• Selección de Padres: A diferencia de la selección aleatoria de CAPO, MO-CAPO utiliza una selección por torneo binario adaptada para niveles de evaluación heterogéneos. Favorece a los incumbentes (soluciones en la frontera de Pareto) y utiliza la distancia de hacinamiento (CD) para mantener la diversidad. Para los no incumbentes con diferentes niveles de evaluación, aplica un criterio de dominancia más débil para garantizar una comparación justa.
• Intensificación (Asignación de Presupuesto): Este es el mecanismo central de eficiencia. En lugar de evaluar a cada candidato en el conjunto de desarrollo completo, los retadores se evalúan progresivamente en bloques de datos.
  • Un retador se compara con el incumbente más cercano en el espacio de objetivos.
  • Si el retador es dominado por el incumbente en el subconjunto de datos evaluado hasta ese momento, su evaluación se termina anticipadamente ("rechazado"), ahorrando presupuesto.
  • Si sobrevive, se evalúa en más bloques hasta que domine a un incumbente o complete la evaluación en todos los bloques compartidos.
  • Los retadores que sobreviven se agregan a la población y potencialmente al conjunto de incumbentes.
• Selección Ambiental: Para mantener el tamaño de la población, se eliminan los candidatos dominados. Si los candidatos tienen niveles de evaluación heterogéneos, aquellos con menos evaluaciones se descartan primero para evitar sesgos.

3. Contribuciones Clave

El artículo describe cuatro contribuciones principales:

1. Algoritmo MO-CAPO: Un nuevo algoritmo de optimización de prompts multi-objetivo que descubre aproximaciones completas de la frontera de Pareto equilibrando el rendimiento y el costo de inferencia, manteniendo al mismo tiempo la eficiencia de costos mediante un mecanismo de intensificación.
2. Objetivo de Costo Realista: Una nueva función objetivo que pondera los tokens de entrada y salida por separado, proporcionando una medida realista de los costos de despliegue para LLM modernos, superando los simples proxies de longitud de prompt.
3. Protocolo de Evaluación Riguroso: La primera evaluación a gran escala de la optimización de prompts multi-objetivo que considera la generalización y la robustez utilizando:
   • R2 Ruidoso (nR2): Mide la robustez de la selección simulando la selección de preferencias del usuario en el conjunto de desarrollo y evaluando en el conjunto de prueba.
   • Brecha de Aproximación: Cuantifica la diferencia entre las fronteras de Pareto optimistas (no dominadas en el conjunto de prueba) y pesimistas (no dominadas en el conjunto de desarrollo).
   • Superficies de Logro Empírico (EAS): Visualiza la estabilidad del rendimiento a través de múltiples ejecuciones.
4. Comparativa Exhaustiva: Una comparación contra optimizadores de objetivo único de última generación (CAPO, GEPA, EvoPromptGA) y una línea base basada en NSGA-II en tres LLM y cuatro tareas, demostrando superioridad en métricas multi-objetivo y eficiencia.

4. Resultados Experimentales

Los autores evaluaron MO-CAPO en tres LLM (GPT-OSS-120B, Qwen3-30B, Mistral-3.2-24B) y cuatro tareas (AG News, GSM8K, Subj, MBPP) con un presupuesto de tokens de 7.5 millones.

• Rendimiento Multi-Objetivo: MO-CAPO superó a la línea base basada en NSGA-II en 8 de 12 combinaciones de modelo-conjunto de datos con respecto a la métrica R2 ruidoso. Identificó consistentemente aproximaciones de la frontera de Pareto fuertes, robustas y diversas.
• Eficiencia: MO-CAPO demostró una eficiencia significativamente mayor. Encontró conjuntos de soluciones competitivos con presupuestos mucho más bajos (a menudo requiriendo menos de 1/3 del presupuesto para alcanzar el 80% del rendimiento final) en comparación con NSGA-II-PO. El mecanismo de intensificación permitió a MO-CAPO evaluar hasta 5.7 veces más candidatos que la línea base.
• Diversidad de Soluciones: Los conjuntos de soluciones descubiertos abarcaron compensaciones diversas entre rendimiento y costo, incluidas soluciones de bajo costo omitidas por optimizadores de objetivo único y soluciones de alto rendimiento. Los prompts variaron en el detalle de las instrucciones, el número de ejemplos de pocos disparos y las proporciones de tokens de entrada/salida.
• Competitividad con Métodos de Objetivo Único: A pesar de optimizar para el costo, los candidatos de mejor rendimiento encontrados por MO-CAPO permanecieron competitivos con los optimizadores de objetivo único de última generación. En términos de clasificaciones de precisión, MO-CAPO fue estadísticamente indistinguible de CAPO y GEPA en muchos escenarios y superó significativamente a EvoPrompt y a las instrucciones iniciales.
• Estudios de Ablación:
  • Intensificación: Eliminar este mecanismo (volviendo a NSGA-II-PO) resultó en una convergencia más lenta y un mayor consumo de tokens.
  • Pesos de Costo: Se encontró que el peso del token de entrada ($w_{in}$) fue el motor dominante para controlar el costo del prompt. Su eliminación condujo a un aumento dramático en el uso de tokens de entrada y degradó la calidad de la optimización (nR2).

5. Significado y Afirmaciones

El artículo afirma que MO-CAPO permite a los profesionales seleccionar de un conjunto eficientemente descubierto de múltiples prompts que ofrecen diferentes compensaciones entre rendimiento y costo, en lugar de verse forzados a una única solución o a una escalarización ajustada manualmente.

Las afirmaciones clave sobre el significado incluyen:

• Eficiencia: La integración de la asignación de presupuesto multi-objetivo (intensificación) en la optimización evolutiva de prompts permite el descubrimiento de fronteras de Pareto robustas bajo presupuestos computacionales ajustados.
• Realismo: Al modelar explícitamente los costos de los tokens de entrada y salida, el método proporciona una representación más precisa de los costos reales de despliegue que los proxies basados en longitud.
• Robustez: El uso de brechas de aproximación y métricas R2 ruidosas proporciona una evaluación más realista de la calidad de la solución, teniendo en cuenta errores de generalización y variabilidad estocástica a menudo enmascarados por métricas estándar como el Hipervolumen.
• Utilidad Práctica: El método ofrece un conjunto diverso de alternativas viables de bajo costo que son ignoradas por los métodos centrados únicamente en el rendimiento, abordando la realidad práctica de que las ganancias marginales de precisión a menudo no justifican aumentos sustanciales en los costos de inferencia.

Los autores posicionan este trabajo como la primera evaluación exhaustiva de la optimización multi-objetivo para el aprendizaje automático que extiende metodologías preliminares a la optimización de prompts, enfatizando la necesidad de métricas robustas y conscientes de la generalización en este dominio.