Resumen Técnico: Prompts Espurios: ¿Pueden los Prompts Irrelevantes Dirigir a los Modelos de Lenguaje Grandes?

Declaración del Problema

La investigación actual sobre Modelos de Lenguaje Grandes (LLMs) opera en gran medida bajo la suposición de que la sensibilidad a los prompts está impulsada por instrucciones, demostraciones o pistas de razonamiento relevantes para la tarea. El paradigma predominante sugiere que, para mejorar el rendimiento, los prompts deben refinarse para describir la tarea objetivo de manera más clara o metódica. Este trabajo desafía esa suposición fundamental al investigar una forma contraintuitiva de sensibilidad a los prompts: si los prompts que son semánticamente no relacionados con la tarea objetivo pueden, no obstante, dirigir el comportamiento del modelo y alterar significativamente su rendimiento. Los autores postulan que los LLMs pueden ser susceptibles a "prompts espurios": instrucciones en lenguaje natural que evitan deliberadamente el vocabulario específico de la tarea, las pistas de dominio y las estrategias de solución explícitas, y sin embargo, dictan las salidas posteriores del modelo.

Metodología

Los autores proponen un procedimiento de búsqueda de caja negra simple y completamente automatizado para descubrir prompts espurios. Este método no requiere acceso a gradientes del modelo, estados ocultos o pesos, dependiendo únicamente de las salidas del modelo. El bucle de optimización consta de los siguientes componentes:

1. Generación de Candidatos: Un generador de LLM (específicamente Qwen3.5-27B) recibe instrucciones para producir prompts de sistema candidatos. Crucialmente, estos prompts están restringidos a ser "espurios" con respecto a la tarea posterior. Por ejemplo, en tareas de razonamiento matemático, se prohíbe explícitamente al generador usar palabras relacionadas con aritmética, ecuaciones o cálculo. En su lugar, se le alienta a adoptar personalidades, rituales o estilos (por ejemplo, "sintonizador", "tejedor", "custodio") que son superficialmente no relacionados con la tarea, pero que aún requieren que el modelo responda directamente a la consulta del usuario.
2. Validación de Prompts: Un validador filtra los candidatos utilizando filtros léxicos específicos de la tarea. Cualquier prompt que contenga términos prohibidos asociados con el dominio (por ejemplo, "matemáticas", "diagnóstico", "investigación") o estrategias de razonamiento explícitas se descarta.
3. Búsqueda Iterativa y Mutación: Los prompts validados se evalúan en un subconjunto de entrenamiento del conjunto de referencia. Los $K$ prompts con mejor rendimiento se seleccionan y mutan mediante el generador para variar su personalidad, narrativa o encuadre, manteniendo su carácter espurio. Un búfer de reproducción asegura que los prompts permanezcan efectivos en diferentes subconjuntos de datos.
4. Selección Final: Después de múltiples rondas de mutación, se selecciona el prompt de mejor rendimiento basándose en la precisión del conjunto de validación.

El estudio evalúa estos prompts en siete conjuntos de referencia (GSM8K, MATH500, MedQA, GPQA, OpenBookQA, MuSR, MMLU-Pro) utilizando cuatro modelos que van desde 0.8B hasta 27B parámetros (Qwen3.5, Llama-3.2, Olmo-3).

Contribuciones Clave

El trabajo introduce tres contribuciones principales:

1. Prompts Espurios: La introducción formal de prompts que son deliberadamente no relacionados con la tarea objetivo en la superficie, pero que dictan pesadamente el rendimiento del modelo.
2. Procedimiento de Búsqueda Restringido: Un método novedoso de caja negra para descubrir estos prompts que excluye explícitamente las descripciones de tareas y el vocabulario de dominio, operando sin acceso interno al modelo.
3. Análisis Empírico y Diagnóstico: Evidencia que demuestra que los prompts espurios pueden aumentar la precisión, igualar o superar las líneas base estándar (incluyendo Cadena de Pensamiento de cero disparos y optimizadores conscientes de la tarea como PromptWizard), y dirigir a los modelos hacia comportamientos no deseados (por ejemplo, seleccionar la primera opción, producir números pares o generar respuestas incorrectas) sin instrucciones explícitas.

Resultados

Los resultados experimentales arrojan varios hallazgos significativos:

• Maximización del Rendimiento: Los prompts espurios frecuentemente igualan o superan a las líneas base de prompting estándar y al PromptWizard consciente de la tarea. Por ejemplo, en el modelo Qwen3.5-27B, los prompts espurios lograron una precisión promedio del 73.24% en los conjuntos de referencia, superando a PromptWizard (67.99%) y a la Cadena de Pensamiento de cero disparos (59.79%).
• Dirección Conductual: Los autores utilizaron con éxito prompts espurios para inducir comportamientos específicos, a menudo adversarios.
  • Sesgo Posicional: Los prompts centrados en temas de "primacía" indujeron una tasa de selección de la Opción A más alta (hasta un 99.73% en GPQA para Qwen3.5-27B) en comparación con comandos directos.
  • Respuestas Incorrectas: Los prompts diseñados para minimizar la precisión lograron forzar a los modelos a seleccionar respuestas incorrectas de manera más efectiva que las instrucciones directas de "elegir la respuesta más incorrecta".
  • Restricciones Numéricas: Los prompts espurios dirigieron con éxito las salidas matemáticas hacia números pares, números primos o números menores que 10, superando a menudo las instrucciones directas.
• Indistinguibilidad Semántica: El análisis de similitud del coseno entre el texto del prompt y las descripciones de la tarea revela que los prompts espurios tienen puntuaciones de similitud cercanas a las de texto aleatorio y no relacionado (aprox. 0.09), confirmando que no son descripciones de tareas disfrazadas.
• Eficiencia: Los prompts espurios son significativamente más cortos (aprox. 117–314 tokens) que los prompts optimizados de PromptWizard (aprox. 293–412 tokens), lo que sugiere que su eficacia no es un subproducto de la verbosidad.
• Transferibilidad: Si bien los prompts espurios se transfieren mal entre diferentes modelos y conjuntos de referencia (indicando interacciones idiosincrásicas), muestran cierta transferibilidad entre tareas matemáticamente similares (GSM8K y MATH500).
• Estructural vs. Semántico: Los estudios de ablación utilizando prompts de "sin sentido" (tokens mayormente sin significado) mostraron que las restricciones estructurales por sí solas pueden impulsar la precisión y la dirección hacia respuestas incorrectas, pero se requieren narrativas coherentes en lenguaje natural para inducir sesgos posicionales rígidos.

Significado y Afirmaciones

El trabajo afirma revelar una nueva forma de sensibilidad a los prompts en los LLMs: el comportamiento del modelo y las capacidades de razonamiento pueden ser dirigidos poderosamente por características latentes completamente desconectadas de la tarea pretendida.

Los autores enfatizan que este hallazgo desafía la suposición de que la efectividad del prompt debe surgir de mejores descripciones de tareas. En cambio, instrucciones superficialmente no relacionadas pueden inducir comportamientos que alteran sustancialmente el rendimiento del modelo. El trabajo concluye que esta sensibilidad plantea nuevas preguntas sobre cómo funciona el seguimiento de instrucciones en los LLMs y sugiere que las evaluaciones de sensibilidad a los prompts deben extenderse más allá de las variaciones relevantes para la tarea para incluir prompts espurios aparentemente irrelevantes.

Los autores mantienen una postura modesta con respecto a las implicaciones: si bien los resultados son fascinantes y diagnósticos, no afirman que los prompts espurios sean un algoritmo universal para lograr resultados de vanguardia (SotA). Más bien, destacan una vulnerabilidad y un mecanismo de control que merece una mayor investigación sobre los mecanismos internos de dirección y la robustez de los LLMs actuales.