💬 NLP

Making Prompts First-Class Citizens for Adaptive LLM Pipelines

El artículo presenta SPEAR, un enfoque que trata las instrucciones (prompts) como ciudadanos de primera clase en los pipelines de LLM mediante gestión estructurada, refinamiento adaptativo y control basado en políticas para superar sus limitaciones actuales de rigidez y opacidad.

Autores originales: Ugur Cetintemel, Shu Chen, Alexander W. Lee, Deepti Raghavan, Duo Lu, Andrew Crotty

Publicado 2026-04-07

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Ugur Cetintemel, Shu Chen, Alexander W. Lee, Deepti Raghavan, Duo Lu, Andrew Crotty

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás dirigiendo una obra de teatro muy compleja donde el actor principal es una Inteligencia Artificial (IA) muy inteligente, pero un poco caprichosa.

Hasta ahora, la forma de trabajar con estas IAs era como si el director (el programador) tuviera que escribirle una nota en un post-it cada vez que quería darle una instrucción. Si la nota no funcionaba, el director tenía que borrarla, reescribirla a mano, pegarla de nuevo y esperar a ver qué pasaba. Si la nota se manchaba o se perdía, ¡no había forma de saber qué decía originalmente! Además, si la obra cambiaba de escenario a mitad de la función, la nota en el post-it seguía siendo la misma, sin importar si ya no servía.

El paper que acabas de leer presenta una idea revolucionaria llamada SPEAR.

¿Qué es SPEAR?

SPEAR es como convertir esos "post-its" en personajes principales de la obra. En lugar de ser simples trozos de papel pegados al azar, las instrucciones (los "prompts") se convierten en objetos vivos, organizados y con memoria.

Aquí te explico cómo funciona con tres analogías sencillas:

1. Las Instrucciones son como "Recetas de Cocina" (Gestión Estructurada)

Antes, si querías hacer un pastel, tenías una receta escrita en un papel arrugado. Si querías hacer un pastel de chocolate, tenías que buscar otro papel arrugado.
Con SPEAR, las recetas son digitales y modulares.

Tienes una "vista" (un archivo) llamada Resumen de Medicamentos.
Puedes crear una receta nueva que diga: "Toma la receta de Resumen, pero si el paciente está en el hospital, añade el paso de Revisar Interacciones".
La magia: Si te equivocas en la receta, puedes ver el historial de cambios (como en Google Docs), saber quién la editó y volver a la versión anterior. Ya no es un papel borrable, es un archivo de datos que puedes estudiar y mejorar.

2. El Director que Corrige en Vivo (Refinamiento Adaptativo)

Imagina que la obra de teatro está en vivo. De repente, el actor (la IA) empieza a balbucear o a dar respuestas que no tienen sentido.

El método antiguo: El director tendría que detener la obra, salir al escenario, gritar una nueva instrucción y esperar a que el actor se calme.
El método SPEAR: El sistema tiene un "director de escena" automático. Si ve que el actor se confunde, cambia las instrucciones en tiempo real sin detener la obra.
- Ejemplo: Si la IA dice "No estoy seguro", el sistema le envía automáticamente una nueva nota que dice: "¡Tranquilo! Si no estás seguro, di 'F' y llamaremos a un actor más experto".
- Esto permite que la IA se adapte a lo que está pasando ahora mismo, no solo a lo que pensábamos que pasaría ayer.

3. Las Reglas del Juego (Control por Políticas)

SPEAR permite al programador escribir reglas simples tipo "Si pasa esto, haz aquello".

Regla: "SI la respuesta es muy lenta, ENTONCES usa una IA más rápida pero menos inteligente".
Regla: "SI el actor da una respuesta con poca confianza, ENTONCES pide ayuda a un actor más experto".
Lo genial es que estas reglas también son "vivas". Si una regla deja de funcionar bien, el sistema puede aprender a cambiarla o mejorarla automáticamente.

¿Por qué es importante esto? (Los Resultados)

Los autores probaron su sistema con un caso real: ayudar a médicos a leer historiales clínicos y responder preguntas.

Antes: Las IAs a menudo escribían respuestas muy largas y confusas, o se negaban a seguir instrucciones simples.
Con SPEAR: Al tratar las instrucciones como datos organizados y permitir que el sistema las corrija al vuelo, lograron:
1. Mejores respuestas: Los médicos obtuvieron información más precisa.
2. Ahorro de dinero: El sistema aprendió a usar IAs pequeñas y baratas para preguntas fáciles, y solo usó las IAs grandes y costosas cuando realmente era necesario (como un taxista que usa un coche pequeño para ir al centro, pero un camión solo si lleva una carga pesada).
3. Menos errores: Como las instrucciones son transparentes, es fácil saber por qué falló algo y arreglarlo.

En resumen

SPEAR es como pasar de manejar un coche de juguete con una cuerda (donde todo es rígido y se rompe fácil) a manejar un coche autónomo moderno.

El coche (la aplicación) no solo sigue un camino fijo.
Tiene sensores que miran el tráfico (la ejecución en tiempo real).
Si ve un bache, cambia la ruta automáticamente.
Si la carretera está vacía, acelera para ahorrar tiempo.
Y todo esto lo hace siguiendo un mapa digital que se puede editar, guardar y mejorar para la próxima vez.

El objetivo final es que los programadores dejen de pelear con "papelitos" y empiecen a construir sistemas inteligentes que se arreglan solos y aprenden de sus propios errores.

1. El Problema

A medida que los Modelos de Lenguaje Grande (LLM) se integran en sistemas complejos, los pipelines de LLM han evolucionado hacia aplicaciones centradas en datos que recuperan información, corrigen errores y coordinan agentes. Sin embargo, el elemento central que controla este proceso: el prompt, sigue siendo tratado como una cadena de texto frágil, opaca y estática.

Las limitaciones actuales incluyen:

Desconexión lógica: Los prompts están completamente desconectados de la lógica del programa circundante.
Falta de gestión: Se crean manualmente mediante prueba y error, sin un versionado sistemático ni seguimiento de su evolución.
Opacidad: Son "cajas negras" para los motores de optimización y ejecución, lo que impide la reutilización, la optimización y la adaptabilidad en tiempo de ejecución.
Limitaciones de frameworks existentes: Herramientas como LangChain o DSPy facilitan la construcción de pipelines, pero DSPy se centra principalmente en la optimización offline, dejando poco espacio para el refinamiento dinámico durante la ejecución.

2. Metodología: SPEAR

Los autores proponen SPEAR (Structured Prompt Execution and Adaptive Refinement), un nuevo enfoque que trata los prompts como ciudadanos de primera clase dentro del modelo de ejecución. La metodología se basa en tres pilares fundamentales:

A. Gestión Estructurada de Prompts

En lugar de cadenas de texto, los prompts se tratan como objetos de datos estructurados con metadatos (estadísticas de tiempo de ejecución, historial de versiones).

Vistas de Prompt (Prompt Views): Similar a las vistas en SQL, los prompts se definen como vistas lógicas nombradas que encapsulan lógica reutilizable. Pueden ser composibles (definidas en términos de otras vistas) y parametrizadas.
Álgebra de Prompts: SPEAR introduce un álgebra ejecutable cerrada bajo composición. Los operadores consumen y producen una tripleta $(P, C, M)$ $(P, C, M)$ :
- $P$ : Conjunto de vistas de prompts.
- $C$ : Almacén de contexto (datos de entrada, salida, resultados intermedios).
- $M$ : Metadatos de tiempo de ejecución (presupuesto de tokens, latencia, etc.).
Operadores clave: GEN (generar salida con LLM), RET (recuperar datos externos) y SWITCH (control de flujo condicional).

B. Refinamiento Adaptativo de Prompts

Los prompts no son plantillas estáticas, sino parte del estado del sistema que evoluciona dinámicamente.

Operadores de Refinamiento (REF): Permiten modificar la lógica del prompt en tiempo de ejecución basándose en señales de retroalimentación.
Modos de Refinamiento:
1. Manual: El desarrollador edita explícitamente el texto del prompt.
2. Asistido: El desarrollador define una intención de alto nivel (ej. "incluir detalles de dosis") y el sistema genera la versión refinada.
3. Automático: El sistema monitorea el estado y aplica refinamientos automáticamente según condiciones específicas.

C. Control Basado en Políticas

SPEAR introduce reglas del tipo WHEN-THEN para gestionar cuándo y cómo se aplican los refinamientos automáticos.

Condiciones de Entrada (Before): Se evalúan antes de ejecutar un operador (ej. seleccionar una vista de prompt específica según el tipo de paciente).
Condiciones de Salida (After): Se evalúan tras la ejecución (ej. si la confianza del resultado es baja, reintentar con un prompt diferente o un modelo más grande).
Control Plane Adaptativo: Las propias políticas pueden ser prompts que se refinan adaptativamente, creando un bucle de auto-mejora.

3. Contribuciones Clave

Abstracción de Datos: Elevar los prompts de cadenas opacas a objetos de datos estructurados y versionados.
Álgebra Ejecutable: Un modelo formal que permite la composición, introspección y optimización de pipelines de prompts.
Refinamiento en Tiempo Real: Capacidad única para adaptar la lógica del prompt durante la ejecución basándose en señales en vivo (latencia, calidad de respuesta, presupuesto de tokens), diferenciándose de las optimizaciones puramente offline.
Mecanismo de Políticas Unificado: Un sistema para orquestar estrategias de refinamiento (manual, asistido, automático) bajo reglas definidas por el usuario.

4. Resultados Preliminares

Los autores evaluaron SPEAR utilizando el conjunto de datos EHRNoteQA (preguntas sobre notas clínicas electrónicas) y modelos de la familia Gemma 3 (1B, 4B, 12B, 27B).

Comparativa: SPEAR superó consistentemente a la línea base (prompts simples) y a frameworks como DSPy y DSPy-CoT.
- DSPy tuvo dificultades para restringir estrictamente la salida en modelos "charlatanes" (chatty) en contextos largos, generando errores de análisis.
- SPEAR permitió cambios estructurales explícitos y transparentes (como reordenar componentes del prompt) que mejoraron drásticamente la precisión.
Estrategias de Refinamiento:
- R3 (Estructura): Reordenar los componentes del prompt (evidencia clínica primero, luego la pregunta) logró el salto de rendimiento más significativo.
- R4 (Enrutamiento Automático): Usar un modelo pequeño (1B) para clasificar la dificultad de la pregunta y enrutarla a modelos más grandes solo si es necesario. Logró un 83.5% de precisión (igual que un modelo 12B standalone) con un costo mucho menor.
- R5 (Cascada Automática): Un sistema que comienza con un modelo mediano (12B) y escala a uno grande (27B) solo si el modelo inicial indica incertidumbre. Logró un 86.7% de precisión (comparable al 27B standalone) con casi la mitad del costo ($0.046 vs $0.087).
Eficiencia: La capacidad de SPEAR para aplicar técnicas como el caching de prefijos, el batching de entradas y la fusión de operadores demostró reducciones significativas en costos y latencia.

5. Significado e Impacto

El trabajo de SPEAR representa un cambio de paradigma en la ingeniería de prompts:

De Estático a Dinámico: Transforma los prompts de artefactos estáticos en componentes activos del sistema que pueden evolucionar y optimizarse en tiempo real.
Optimización de Extremo a Extremo: Permite a los desarrolladores y sistemas optimizar no solo el modelo, sino la interacción completa entre datos, lógica de prompts y modelos.
Complementariedad: SPEAR no reemplaza a frameworks existentes como DSPy, sino que complementa el ecosistema al abordar la dimensión de adaptabilidad en tiempo de ejecución, algo que las herramientas actuales descuidan.
Futuro: Abre la puerta a sistemas de LLM auto-optimizantes donde la lógica de control (políticas) y la lógica de ejecución (prompts) se refinan mutuamente basándose en el feedback acumulado, mejorando la robustez, eficiencia y productividad del desarrollador.

En resumen, SPEAR propone una arquitectura donde los prompts son gestionados como datos estructurados, permitiendo una orquestación inteligente, adaptable y eficiente de pipelines de LLM complejos.