Resumo Técnico: Prompts Espúrios: Prompts Irrelevantes Podem Orientar Grandes Modelos de Linguagem?

Declaração do Problema

A pesquisa atual sobre Grandes Modelos de Linguagem (LLMs) opera amplamente sob a premissa de que a sensibilidade a prompts é impulsionada por instruções, demonstrações ou pistas de raciocínio relevantes para a tarefa. O paradigma predominante sugere que, para melhorar o desempenho, os prompts devem ser refinados para descrever a tarefa-alvo de forma mais clara ou metódica. Este artigo desafia essa premissa fundamental ao investigar uma forma contra-intuitiva de sensibilidade a prompts: se prompts que são semanticamente não relacionados à tarefa-alvo podem, nevertheless, orientar o comportamento do modelo e alterar significativamente o desempenho. Os autores postulam que os LLMs podem ser suscetíveis a "prompts espúrios" — instruções em linguagem natural que evitam deliberadamente vocabulário específico da tarefa, pistas de domínio e estratégias de solução explícitas, mas ainda assim ditam as saídas subsequentes do modelo.

Metodologia

Os autores propõem um procedimento de busca simples e totalmente caixa-preta para descobrir prompts espúrios. Este método não requer acesso a gradientes do modelo, estados ocultos ou pesos, dependendo exclusivamente das saídas do modelo. O loop de otimização consiste nos seguintes componentes:

1. Geração de Candidatos: Um gerador de LLM (especificamente Qwen3.5-27B) é instruído a produzir prompts de sistema candidatos. Crucialmente, esses prompts são restritos a serem "espúrios" em relação à tarefa subsequente. Por exemplo, em tarefas de raciocínio matemático, ao gerador é explicitamente proibido usar palavras relacionadas a aritmética, equações ou cálculo. Em vez disso, é encorajado a adotar personas, rituais ou estilos (por exemplo, "sintonizador", "tecelão", "guardião") que são superficialmente não relacionados à tarefa, mas ainda exigem que o modelo responda diretamente à consulta do usuário.
2. Validação de Prompt: Um validador filtra os candidatos usando filtros lexicais específicos da tarefa. Qualquer prompt contendo termos proibidos associados ao domínio (por exemplo, "matemática", "diagnóstico", "investigação") ou estratégias de raciocínio explícitas é descartado.
3. Busca Iterativa e Mutação: Prompts validados são avaliados em um subconjunto de treinamento do benchmark. Os prompts de melhor desempenho (top-$K$) são selecionados e mutados pelo gerador para variar sua persona, narrativa ou enquadramento, mantendo seu caráter espúrio. Um buffer de replay garante que os prompts permaneçam eficazes em diferentes subconjuntos de dados.
4. Seleção Final: Após múltiplas rodadas de mutação, o prompt de melhor desempenho é selecionado com base na precisão do conjunto de validação.

O estudo avalia esses prompts em sete benchmarks (GSM8K, MATH500, MedQA, GPQA, OpenBookQA, MuSR, MMLU-Pro) usando quatro modelos com faixas de 0,8B a 27B parâmetros (Qwen3.5, Llama-3.2, Olmo-3).

Contribuições Principais

O artigo apresenta três contribuições primárias:

1. Prompts Espúrios: A introdução formal de prompts que são deliberadamente não relacionados à tarefa-alvo na superfície, mas ditam fortemente o desempenho do modelo.
2. Procedimento de Busca Restrito: Um método novo, em caixa-preta, para descobrir esses prompts que exclui explicitamente descrições de tarefas e vocabulário de domínio, operando sem acesso interno ao modelo.
3. Análise Empírica e Diagnóstica: Evidências demonstrando que prompts espúrios podem aumentar a precisão, igualar ou superar baselines padrão (incluindo Cadeia de Pensamento de Zero-shot e otimizadores conscientes da tarefa como o PromptWizard), e orientar modelos para comportamentos não intencionais (por exemplo, selecionar a primeira opção, produzir números pares ou gerar respostas incorretas) sem instrução explícita.

Resultados

Os resultados experimentais produzem várias descobertas significativas:

• Maximização de Desempenho: Prompts espúrios frequentemente igualam ou superam baselines de prompting padrão e o PromptWizard consciente da tarefa. Por exemplo, no modelo Qwen3.5-27B, prompts espúrios alcançaram uma precisão média de 73,24% em todos os benchmarks, superando o PromptWizard (67,99%) e a Cadeia de Pensamento de Zero-shot (59,79%).
• Orientação Comportamental: Os autores usaram com sucesso prompts espúrios para induzir comportamentos específicos, muitas vezes adversariais.
  • Viés Posicional: Prompts focados em temas de "primazia" induziram uma taxa de seleção mais alta da Opção A (até 99,73% no GPQA para Qwen3.5-27B) em comparação com comandos diretos.
  • Respostas Incorretas: Prompts projetados para minimizar a precisão forçaram com sucesso os modelos a selecionar respostas erradas de forma mais eficaz do que instruções diretas para "escolher a resposta mais incorreta".
  • Restrições Numéricas: Prompts espúrios orientaram com sucesso saídas matemáticas para números pares, números primos ou números menores que 10, frequentemente superando instruções diretas.
• Indistinguibilidade Semântica: A análise de similaridade de cosseno entre o texto do prompt e as descrições da tarefa revela que prompts espúrios têm pontuações de similaridade próximas ao texto aleatório e não relacionado (aprox. 0,09), confirmando que não são descrições de tarefas disfarçadas.
• Eficiência: Prompts espúrios são significativamente mais curtos (aprox. 117–314 tokens) do que prompts otimizados do PromptWizard (aprox. 293–412 tokens), sugerindo que sua eficácia não é um subproduto da verbosidade.
• Transferibilidade: Embora prompts espúrios transfiram mal entre diferentes modelos e benchmarks (indicando interações idiossincráticas), eles mostram alguma transferibilidade entre tarefas matematicamente semelhantes (GSM8K e MATH500).
• Estrutural vs. Semântico: Estudos de ablação usando prompts "sem sentido" (tokens majoritariamente sem significado) mostraram que apenas restrições estruturais podem impulsionar a precisão e a orientação para respostas incorretas, mas narrativas coerentes em linguagem natural são necessárias para induzir viéses posicionais rígidos.

Significado e Alegações

O artigo afirma revelar uma nova espécie de sensibilidade a prompts em LLMs: o comportamento do modelo e as capacidades de raciocínio podem ser poderosamente orientados por características latentes completamente desconectadas da tarefa pretendida.

Os autores enfatizam que essa descoberta desafia a premissa de que a eficácia do prompt deve surgir de melhores descrições de tarefas. Em vez disso, instruções superficialmente não relacionadas podem induzir comportamentos que alteram substancialmente o desempenho do modelo. O artigo conclui que essa sensibilidade levanta novas questões sobre como a seguimento de instruções funciona em LLMs e sugere que as avaliações de sensibilidade a prompts devem se estender além de variações relevantes para a tarefa para incluir prompts espúrios aparentemente irrelevantes.

Os autores mantêm uma postura modesta em relação às implicações: embora os resultados sejam fascinantes e diagnósticos, eles não afirmam que prompts espúrios são um algoritmo universal para alcançar resultados de Estado da Arte (SotA). Em vez disso, destacam uma vulnerabilidade e um mecanismo de controle que merecem investigação adicional sobre os mecanismos internos de orientação e a robustez dos LLMs atuais.