🤖 AI

Multi-Sample Prompting and Actor-Critic Prompt Optimization for Diverse Synthetic Data Generation

El artículo presenta Synthline, un generador de datos sintéticos que integra el prompting de múltiples muestras y la optimización Actor-Critic para mejorar la diversidad y el rendimiento en tareas de ingeniería de requisitos, demostrando que los datos generados pueden igualar o superar a los humanos en escenarios con escasez de datos reales.

Autores originales: Abdelkarim El-Hajjami, Camille Salinesi

Publicado 2026-03-31

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Abdelkarim El-Hajjami, Camille Salinesi

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que quieres enseñar a un robot a reconocer diferentes tipos de problemas en un manual de instrucciones (como saber si una frase es confusa, si falta un detalle o si es un requisito de seguridad). Para que el robot aprenda bien, necesitas darle miles de ejemplos. Pero, a menudo, esos ejemplos reales son difíciles de conseguir: están ocultos por privacidad, son caros o simplemente no existen en cantidad suficiente.

Aquí es donde entran los Modelos de Lenguaje Grandes (LLMs), como el cerebro de un robot muy avanzado que puede inventar esos ejemplos por ti. El problema es que estos robots, al inventar, tienden a ser un poco "aburridos" y repetitivos. Si les pides "inventar 5 problemas", a menudo te darán 5 problemas que suenan casi idénticos, como si hubieran copiado y pegado.

Este paper presenta una solución con dos trucos mágicos para hacer que los datos inventados sean más variados y útiles. Vamos a explicarlo con analogías sencillas:

1. El Truco del "Pedido Familiar" (Multi-Sample Prompting)

Imagina que vas a una pastelería y le pides al pastelero: "Quiero un pastel de chocolate". Él te da uno. Si le pides otro, probablemente te dará uno muy parecido al primero.

Ahora, imagina que le dices: "Quiero una caja con 20 pasteles de chocolate, pero asegúrate de que cada uno tenga un diseño un poco diferente".

Qué hace el robot: En lugar de pedirle al robot que invente un ejemplo a la vez, le pedimos que invente 20 ejemplos en una sola orden.
El resultado: Al tener que pensar en 20 cosas a la vez, el robot se ve obligado a ser más creativo y menos repetitivo. Es como si el robot pensara: "Bueno, si tengo que hacer 20, el primero será normal, el segundo será un poco más largo, el tercero usará palabras diferentes...".
La ventaja: No solo los datos son más variados (menos aburridos), sino que el robot que aprende con ellos funciona mucho mejor. En el estudio, esto mejoró la capacidad de clasificación entre un 6% y un 43% (¡un salto enorme!). Además, es más rápido y barato, porque haces una sola llamada al robot en lugar de 20.

2. El Truco del "Entrenador y el Crítico" (PACE)

Este es un poco más complejo, pero imagina un actor de teatro que está ensayando para un papel.

El Actor (Actor): Es el robot que escribe los ejemplos.
El Crítico (Critic): Es otro robot muy inteligente que lee lo que escribió el Actor y le dice: "Oye, este ejemplo suena muy igual al anterior. Intenta usar palabras más raras o cambia la estructura".
El proceso: El Actor escribe, el Crítico lo critica, el Actor reescribe basándose en la crítica, y repiten esto varias veces antes de generar los datos finales.
Qué pasó en el estudio:
- Lo bueno: Este método hizo que el vocabulario fuera mucho más variado (el Actor aprendió a usar sinónimos y estructuras diferentes).
- Lo malo: A veces, el Crítico se obsesionó tanto con que las frases fueran diferentes, que el Actor empezó a escribir cosas raras que no tenían sentido para el trabajo real. En algunos casos, esto empeoró el rendimiento del robot final.
- La lección: Optimizar solo para que las cosas sean "diferentes" no siempre es bueno. A veces, la variedad debe tener un propósito específico.

3. ¿Puede lo inventado ser mejor que lo real?

La pregunta final era: ¿Podemos usar estos datos inventados para entrenar a nuestros robots y que funcionen tan bien (o incluso mejor) que si usáramos datos reales hechos por humanos?

La respuesta es un sí rotundo en ciertos casos.
Donde los datos reales eran escasos (como en la clasificación de "defectos" o errores), los datos inventados con el primer truco (el pedido familiar) funcionaron mejor que los datos reales. ¡El robot humano hizo un 15% mejor trabajo con datos inventados!
¿Por qué? Porque los humanos a veces son desordenados y los datos reales son desbalanceados (hay muchos ejemplos de un tipo y pocos de otro). El robot puede crear datos perfectamente equilibrados y limpios, lo cual es un superpoder para el aprendizaje.

En resumen

El paper nos dice que para crear datos de entrenamiento con Inteligencia Artificial:

No pidas uno a uno: Pide lotes grandes en una sola orden para evitar la repetición y ahorrar tiempo.
Cuidado con la obsesión por la variedad: Hacer que las cosas sean diferentes no siempre las hace mejores. A veces, la variedad debe estar guiada por lo que realmente necesita aprender el robot, no solo por ser diferente.
El futuro es brillante: En áreas donde faltan datos reales (como en medicina o ingeniería de requisitos), podemos generar datos sintéticos de alta calidad que, en muchos casos, superan a los datos humanos.

Es como si aprendiéramos a cocinar no solo siguiendo recetas reales, sino creando nuevas recetas variadas y equilibradas que, paradójicamente, hacen que el chef (el modelo de IA) cocine mejor que nunca.

Título del Artículo

Prompting Multi-Muestra y Optimización de Prompts Actor-Critic para la Generación de Datos Sintéticos Diversos

1. El Problema

La generación de datos sintéticos (SDG) mediante Modelos de Lenguaje Grande (LLM) enfrenta una limitación crítica: la baja diversidad y la repetitividad de los datos generados. Aunque los LLMs son prometedores para crear conjuntos de datos etiquetados en dominios con escasez de datos (como la Ingeniería de Requisitos o la salud), tienden a producir salidas estereotipadas debido a los sesgos de alineación post-entrenamiento (sesgo de "tipicalidad").

Esto genera dos problemas principales:

Falta de diversidad: Los datos generados no capturan la variabilidad del mundo real, lo que limita la capacidad de generalización de los clasificadores entrenados con ellos.
Compensación Diversidad-Utilidad: Las técnicas existentes para aumentar la diversidad (como el muestreo por temperatura) a menudo degradan la precisión de las etiquetas, reduciendo la utilidad de los datos para tareas de clasificación posteriores.

El objetivo del estudio es determinar cómo mejorar la diversidad de los datos sintéticos generados por LLMs sin sacrificar, e incluso mejorando, su utilidad para tareas de clasificación.

2. Metodología

Los autores integraron dos mecanismos en Synthline, un generador de datos sintéticos configurable basado en Modelos de Características (Feature Models - FM), y los evaluaron en cuatro tareas de clasificación de Ingeniería de Requisitos (Defectos, Funcional vs. No Funcional, Calidad, Seguridad).

Mecanismos Propuestos:

Prompting Multi-Muestra (Multi-Sample Prompting):
- En lugar de solicitar una sola muestra por prompt, el sistema solicita múltiples muestras (ej. 20) en una sola llamada al LLM.
- Mecanismo: Aprovecha la "conciencia dentro del contexto" (within-context awareness) del LLM para reducir la repetición, ya que el modelo debe generar variaciones distintas dentro de la misma ventana de contexto.
- Ventaja adicional: Reduce drásticamente el número de llamadas a la API (1 llamada para $n$ muestras), mejorando la eficiencia.
Optimización de Prompts con Actor-Critic (PACE):
- Implementación del enfoque PACE (Prompt with Actor-Critic Editing) como un bucle de optimización pre-generación.
- Proceso:
  - Actor: Genera un lote de muestras candidatas basado en el prompt actual.
  - Critic: Evalúa el lote y proporciona retroalimentación en lenguaje natural.
  - Refinamiento: El Actor utiliza esta retroalimentación para generar un nuevo prompt candidato.
- Función de puntuación: Se configuró para maximizar la distancia coseno promedio entre las incrustaciones (embeddings) de Sentence-BERT de las muestras dentro de un lote, con el objetivo explícito de maximizar la diversidad léxica y semántica.

Configuración Experimental:

Modelo LLM: GPT-4.1-nano-2025-04-14.
Tareas: Clasificación de defectos, requisitos funcionales/no funcionales, calidad y seguridad.
Variantes evaluadas:
- synthetic_1: 1 muestra por prompt (baseline).
- synthetic_20: 20 muestras por prompt.
- synthetic_20_pace: 20 muestras + optimización PACE.
Evaluación:
- Diversidad: Métricas léxicas (INGF - Frecuencia de N-gramas) y semánticas (APS - Similitud Promedio Pareada).
- Utilidad: Entrenamiento de clasificadores BERT en datos sintéticos y prueba en datos reales (paradigma train-on-synthetic, test-on-real). Se midió la F1-score ponderada.

3. Contribuciones Clave

Evaluación Empírica: Primer estudio que evalúa sistemáticamente el impacto del multi-sample prompting y PACE en la generación de datos sintéticos para clasificación.
Herramienta Synthline: Presentación y publicación de un generador configurable que integra estos mecanismos, permitiendo la reproducibilidad.
Hallazgo sobre Diversidad vs. Utilidad: Demostración de que optimizar exclusivamente para diversidad (mediante PACE) no garantiza una mejor utilidad en tareas downstream y puede incluso ser perjudicial dependiendo de la tarea.
Validación de Datos Sintéticos: Evidencia de que los datos sintéticos pueden igualar o superar a los datos humanos en tareas con escasez extrema de datos reales.

4. Resultados Principales

Impacto del Prompting Multi-Muestra (RQ1):

Diversidad: Reducción significativa de la repetición léxica (25-28% menos en INGF) y mayor diversidad semántica (22-28% menos en APS) en comparación con la generación de una sola muestra.
Utilidad: Mejora consistente en el rendimiento de los clasificadores. La F1-score aumentó entre 6 y 43.8 puntos porcentuales en todas las tareas.
Conclusión: Esta técnica mejora simultáneamente la diversidad y la utilidad sin infraestructura adicional.

Impacto de la Optimización PACE (RQ2):

Diversidad: PACE mejoró consistentemente la diversidad léxica (10-19% menos en INGF) en todas las tareas.
Utilidad (Dependiente de la Tarea):
- Mejora: Clasificación de requisitos Funcionales (+32.5 puntos F1) y Calidad (+1.9 puntos).
- Deterioro: Clasificación de Seguridad (-4.5 puntos F1) y Defectos (-7.8 puntos F1).
Conclusión: Optimizar solo para diversidad (distancia coseno) es insuficiente y riesgoso; la función de puntuación debe equilibrar diversidad con señales de utilidad específicas de la tarea.

Comparación con Datos Humanos (RQ3):

En tareas con datos reales muy limitados (ej. Clasificación de Defectos con solo 131 muestras reales), los datos sintéticos superaron a los datos humanos con un aumento de 15.4 puntos en F1-score.
En tareas con más datos reales (ej. Funcionales), los datos humanos siguieron siendo superiores, pero los datos sintéticos ofrecieron un rendimiento competitivo.
Razón del éxito: Capacidad de generar distribuciones de clases balanceadas y escalar el tamaño del conjunto de datos bajo demanda.

5. Significado e Implicaciones

Para la Práctica: El multi-sample prompting es una técnica de bajo costo y alto impacto que debe adoptarse inmediatamente para mejorar la calidad de los datos sintéticos.
Para la Investigación: La optimización automática de prompts (como PACE) requiere funciones de puntuación más sofisticadas que no solo midan la diversidad, sino que también consideren la utilidad para la tarea final. Optimizar ciegamente para la diversidad puede ser contraproducente.
Escalabilidad: Los datos sintéticos son una solución viable para dominios con restricciones de privacidad o escasez de datos (salud, legal, ingeniería de requisitos), permitiendo entrenar modelos robustos donde los datos reales son insuficientes.
Eficiencia: La generación multi-muestra reduce los costos de API y el tiempo de inferencia al agrupar solicitudes.

En resumen, el artículo demuestra que la estrategia de "generar más en un solo prompt" es superior a la optimización iterativa ciega para la diversidad, y que los datos sintéticos bien generados pueden ser una alternativa superior a los datos humanos en escenarios de escasez extrema.