💬 NLP

Structured Prompt Language: Declarative Context Management for LLMs

El artículo presenta SPL (Structured Prompt Language), un lenguaje declarativo inspirado en SQL que gestiona el contexto de los modelos de lenguaje mediante optimización automática de tokens, integración nativa de RAG y memoria persistente, y una capa de orquestación agencial resiliente (SPL-flow) que reduce la complejidad del código, optimiza costos y permite la ejecución transparente de scripts en múltiples proveedores de modelos.

Autores originales: Wen G. Gong

Publicado 2026-02-26

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Wen G. Gong

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un chef genio (la Inteligencia Artificial) que puede cocinar cualquier plato del mundo. Pero hay un problema: el chef solo tiene una mesa de trabajo muy pequeña (la "ventana de contexto"). Si intentas ponerle todos los ingredientes del supermercado de una sola vez, la mesa se desborda, el chef se confunde y el plato sale mal.

Hasta ahora, los programadores tenían que hacer de "ayudantes de cocina" manuales: medían cada ingrediente con una regla, cortaban lo que sobraba con tijeras y esperaban a que el chef intentara cocinar. Si la mesa se llenaba, ¡desastre!

El paper que presentas introduce SPL (Structured Prompt Language), que es como darle al chef un planificador de banquetes inteligente que funciona como un menú de restaurante moderno.

Aquí tienes la explicación sencilla, paso a paso:

1. El Problema: La Mesa Pequeña

Antes, si querías que el chef usara información de un libro, de tu memoria y de una noticia reciente, tenías que escribir código complicado para decidir: "Corto el libro aquí, borro la noticia allá, espero que quepa". Era como intentar meter un elefante en un coche pequeño sin saber si las puertas cerrarán.

2. La Solución: SPL (El Menú Inteligente)

SPL es un nuevo idioma que te permite decirle al chef QUÉ quieres, no CÓMO meterlo todo en la mesa.

Con SQL (el lenguaje de bases de datos): Decías "Dame los datos de la tabla X".
Con SPL: Dices: "Chef, aquí tienes 8,000 espacios en la mesa. Usa 200 para la pregunta, 3,000 para el libro, 500 para mi memoria, y el resto para cocinar la respuesta".

SPL actúa como un maestro de ceremonias que organiza los ingredientes antes de que lleguen a la mesa.

3. Las 5 Magias de SPL

🧠 A. El "EXPLAIN" (La Radiografía)

En los restaurantes de antes, pedías la comida y esperabas a ver si salía bien. Con SPL, puedes pedir una "Radiografía del Plato" antes de cocinar.

Te dice: "Oye, si pones todo esto, te sobrarán 2,000 espacios. Si quitas un poco del libro, te ahorrarás dinero. Aquí está el costo estimado".
Es como ver el mapa del tesoro antes de cavar: sabes exactamente cuánto te costará y si cabe en la caja.

📦 B. El "Mapa-Reduce" (Cortar la Pizza)

¿Qué pasa si tienes un libro de 1,000 páginas y la mesa es pequeña?

Antes: Intentabas meter el libro entero y fallabas.
Con SPL: El sistema corta el libro en 4 pedazos (como una pizza), le pide al chef que resuma cada pedazo por separado, y luego une los resúmenes para contar la historia completa.
La ventaja: Es más rápido, más barato y no se desborda la mesa. Es como pedir a 4 ayudantes que resuman capítulos en lugar de pedirle a un solo chef que lea todo el libro de golpe.

🔄 C. El "Cambio de Chef" Automático

A veces necesitas un chef experto en sushi, y otras veces uno experto en pasteles.

SPL tiene un director de orquesta. Si la pregunta es sobre matemáticas, envía la tarea a un "chef matemático". Si es sobre poesía, la envía a un "chef poeta".
Tú no tienes que saber qué chef es mejor; el sistema lo decide automáticamente según lo que pides.

🛡️ D. El "Plan B" (Resiliencia)

Imagina que el chef principal se enferma o la cocina se va a la luz.

SPL tiene un sistema de seguridad: Si el chef local (gratuito) falla, automáticamente llama al chef de la nube (de pago) sin que tú tengas que mover un dedo. Tu pedido se cumple igual, sin que te des cuenta del problema.

🏆 E. El "Concurso de Cocineros"

¿No sabes qué chef hace mejor el trabajo?

SPL puede pedirle a 5 chefs diferentes que cocinen el mismo plato al mismo tiempo. Luego, un juez (otro chef) elige al ganador y guarda su nombre para que, la próxima vez, solo llames al ganador. ¡Ahorras tiempo y dinero!

4. ¿Por qué es un cambio gigante?

De "Código de Soldado" a "Lenguaje de Jefe": Antes tenías que escribir líneas y líneas de código para contar palabras y cortar textos. Ahora escribes un "menú" claro y el sistema hace el trabajo sucio.
Ahorro Real: Te permite usar modelos pequeños y baratos (que corren en tu propia computadora) en lugar de pagar por los modelos gigantes de la nube, porque el sistema sabe cómo organizar la información para que quepa.
Para todos: Si sabes usar Excel o bases de datos, puedes usar esto. No necesitas ser un experto en programación compleja.

En resumen

SPL es como pasar de construir un coche a mano, pieza por pieza, a usar un coche con piloto automático. Tú le dices el destino (la pregunta), y el sistema (SPL) decide qué ruta tomar, qué combustible usar, qué copiloto llamar y cómo asegurar que llegues sin quedarte sin gasolina (sin exceder el límite de memoria).

Es la herramienta que convierte el caos de "intentar a ver si cabe" en una ciencia precisa y eficiente.

Resumen Técnico: Structured Prompt Language (SPL)

1. El Problema: La Gestión del Contexto como Recurso Consciente

El artículo identifica un desafío crítico en la ingeniería de software actual: la gestión del ventana de contexto de los Modelos de Lenguaje Grande (LLM). A medida que los LLMs se convierten en motores de razonamiento general, los ingenieros enfrentan problemas análogos a los de la programación de bases de datos antes de la llegada del SQL:

Enfoque Imperativo: La ingeniería de prompts actual es mayoritariamente imperativa (código Python/JS que concatena cadenas, cuenta tokens manualmente y aplica truncamientos ad hoc).
Falta de Visibilidad: No existe una forma estándar de inspeccionar cómo se asignan los tokens en un prompt antes de la ejecución.
Desperdicio de Recursos: Sin una disciplina de presupuesto, los desbordamientos de tokens ocurren en tiempo de ejecución, y las estrategias de truncamiento son crudas.
Acoplamiento y No Composición: Los prompts están fuertemente acoplados a la lógica de la aplicación y son monolíticos, dificultando la reutilización modular.
Bloqueo de Proveedores: El código de prompts suele estar atado a APIs específicas de LLM, encareciendo la migración.

El autor propone tratar el contexto del LLM no como un simple buffer de entrada, sino como un recurso limitado y optimizable, similar al I/O en bases de datos relacionales.

2. Metodología: SPL (Structured Prompt Language)

SPL es un lenguaje de consulta declarativo inspirado en SQL, diseñado para gestionar el presupuesto de tokens y la orquestación de contextos. Su filosofía central es separar la especificación lógica de "qué contexto se necesita" de la ejecución física de "cómo se optimiza y se envía".

Principios Clave del Diseño:

Modelo de Base de Conocimiento Generativa: SPL trata al LLM como una base de datos generativa donde los pesos entrenados son las "tablas" y el contexto es la consulta.
Arquitectura Dual (SELECT + GENERATE):
- SELECT: Recopila y filtra contexto de fuentes heterogéneas (RAG, memoria, entrada de usuario) respetando límites de tokens.
- GENERATE: Dispara la síntesis del contenido basándose en el contexto recopilado.
Gestión Explícita del Presupuesto: Cada consulta declara un WITH BUDGET (presupuesto total) y LIMIT por fuente. El optimizador asigna tokens automáticamente.
Transparencia (EXPLAIN): Al igual que SQL, SPL ofrece un comando EXPLAIN que genera un plan de ejecución detallado, mostrando la asignación de tokens, el estado de la caché y el costo estimado antes de gastar un solo token.

Componentes Técnicos:

Optimizador de Presupuesto: Un algoritmo que asigna tokens a fuentes de contexto (memoria > caché > RAG > contexto externo). Si se excede el presupuesto, aplica compresión proporcional (reduciendo primero los elementos más grandes) en lugar de truncar arbitrariamente.
Motor de Ejecución: Un pipeline de compilador (Lexer, Parser, Analizador Semántico, Optimizador, Ejecutor) que transforma el script .spl en un plan de ejecución.
Adaptadores de Proveedores: Interfaz agnóstica que soporta Ollama (local), OpenRouter (agregador en la nube) y APIs directas (Claude, GPT), permitiendo la portabilidad total.
Almacenamiento Integrado: Uso nativo de SQLite para memoria persistente y FAISS/ChromaDB para recuperación semántica (RAG).

3. Contribuciones Clave y Extensiones

El paper presenta cinco extensiones que demuestran la versatilidad de SPL más allá de un prototipo de investigación:

Text2SPL: Una interfaz multilingüe (NL→SPL) que traduce consultas en lenguaje natural a scripts SPL válidos, utilizando un bucle de validación y reintento automático.
Enrutamiento Mixture-of-Models (MoM): Un sistema que asigna dinámicamente cada sub-tarea (PROMPT o CTE) a un modelo especialista (ej. Qwen para chino, DeepSeek para código, Claude para razonamiento) basado en palabras clave, sin intervención del desarrollador.
Fragmentación Lógica (Logical Chunking): Utiliza la sintaxis CTE (Common Table Expressions) de SQL para implementar un patrón Map-Reduce declarativo. Divide documentos largos en fragmentos procesables en paralelo, reduciendo el costo de atención de $O(N^2)$ a $O(N^2/k)$ , permitiendo ejecutar flujos complejos en hardware local de bajo costo o en paralelo en la nube.
SPL-flow: Una capa de orquestación de agentes resiliente con una estrategia de fallback de tres niveles (Ollama local → OpenRouter → reintento auto-sanante), transparente al script .spl.
BENCHMARK: Sintaxis para ejecutar la misma consulta en múltiples modelos en paralelo, seleccionando automáticamente al "ganador" basado en costo, latencia o calidad, y persistiendo la elección para ejecuciones futuras.

4. Resultados y Evaluación

Los experimentos realizados demuestran la eficacia de SPL en comparación con enfoques imperativos y otros frameworks (Prompty, DSPy, LMQL):

Reducción de Código: SPL reduce el código (LoC) en un 65% en promedio en comparación con implementaciones imperativas en Python, eliminando la necesidad de contar tokens manualmente.
Visibilidad de Costos: El comando EXPLAIN revela una variación de costos de 68x entre modelos (ej. $0.0034 vs $0.2316 para la misma consulta), permitiendo decisiones informadas antes de la ejecución.
Optimización de Presupuesto: El optimizador ajusta dinámicamente la asignación de tokens. En pruebas de estrés, logra una degradación elegante, comprimiendo proporcionalmente las fuentes más grandes cuando el contexto excede el presupuesto.
Ejecución Multi-Modelo: En experimentos de fragmentación lógica, se logró una aceleración de tiempo de pared de 4x al procesar documentos largos en paralelo, manteniendo el mismo script ejecutable tanto en la nube como en un GPU local de consumo (modo secuencial).
Validación Formal: Se proporciona una gramática EBNF completa y un parser recursivo de descendencia sin dependencias externas, validado con una suite de 40 pruebas.

5. Significado e Implicaciones

El trabajo de SPL representa un cambio de paradigma en la ingeniería de LLMs:

De la Ingeniería de Prompts a la Ingeniería de Consultas: Eleva la disciplina de "escribir texto que engañe al modelo" a "declarar qué contexto y salida se necesitan", permitiendo la optimización automática.
Alternativa a la Escalada de Ventanas de Contexto: La técnica de Logical Chunking sugiere que es posible manejar contextos masivos dividiéndolos lógicamente y usando modelos más pequeños y especializados, reduciendo drásticamente el costo computacional y energético en lugar de depender exclusivamente de ventanas de contexto de millones de tokens.
Accesibilidad para Expertos en Datos: SPL ofrece una ruta de entrada natural para los millones de ingenieros de datos y analistas que ya dominan SQL, permitiéndoles aplicar sus modelos mentales existentes al dominio de la IA generativa.
Seguridad y Gobernanza: La naturaleza declarativa y la separación de roles (sistema vs. contexto de usuario) proporcionan una base más sólida para la auditoría de prompts, la prevención de inyecciones y el cumplimiento normativo que los enfoques imperativos actuales.

En conclusión, SPL propone un marco unificado donde la gestión de recursos (tokens), la orquestación de modelos y la recuperación de información se manejan mediante un lenguaje estandarizado, transparente y optimizable, similar a cómo SQL revolucionó la gestión de datos relacionales.