💻 computer science

Spurious Prompts: Can Irrelevant Prompts Steer Large Language Models?

Questo documento dimostra che prompt "spuri" semanticamente non correlati possono guidare sistematicamente i grandi modelli linguistici sia a migliorare le prestazioni del compito sia a indurre comportamenti non intenzionali, rivelando una nuova forma di sensibilità ai prompt che può essere sfruttata tramite ricerca black-box.

Autori originali: Pawel Batorski, Abtin Pourhadi, Jerzy Sarosiek, Przemyslaw Spurek, Paul Swoboda

Pubblicato 2026-05-29

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Pawel Batorski, Abtin Pourhadi, Jerzy Sarosiek, Przemyslaw Spurek, Paul Swoboda

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un assistente robotico molto intelligente, ma leggermente eccentrico. Di solito, per fargli risolvere un problema matematico, gli dici: "Per favore, risolvi questa equazione". Per fargli scrivere una storia, gli dici: "Scrivi una storia su un drago". È così che normalmente parliamo con l'intelligenza artificiale: le diamo istruzioni chiare e pertinenti.

Questo studio scopre qualcosa di strano e sorprendente: in realtà non è necessario dare al robot le istruzioni giuste per farlo funzionare. Anzi, puoi dargli istruzioni che non hanno assolutamente nulla a che fare con il compito, e potrebbe comunque risolvere il problema meglio di quanto farebbe con un'istruzione normale.

Gli autori chiamano queste "Prompt spurie".

Il trucco di magia: l'analogia del "codice segreto"

Pensa al modello di intelligenza artificiale come a un grande pianoforte. Di solito, per suonare una specifica canzone (il compito), premi le specifiche note (le istruzioni del compito).

I ricercatori hanno scoperto che se suoni una melodia completamente diversa e casuale sul pianoforte (un prompt sulla sintonizzazione delle corde di un'arpa o sulla tessitura di un arazzo), il pianoforte potrebbe accidentalmente iniziare a suonare la canzone corretta che volevi, e talvolta persino suonarla meglio di quanto farebbe se provassi a suonare la canzone direttamente.

Il prompt non dice "Risolvi questo problema matematico". Invece, potrebbe dire:

"Sei un tessitore di sei fili distinti su un telaio. Un designer specifica un motivo. Devi selezionare il filo che forma quella texture. Non considerare la drappeggiatura del tessuto. Il tuo ruolo è puramente l'allineamento strutturale. Una volta impostato il motivo, smetti di tessere e dichiara: [Lettera]."

Anche se questo riguarda la tessitura e non contiene parole matematiche, quando si inserisce una domanda matematica nell'IA con questo prompt, l'IA spesso risolve correttamente il problema matematico.

Come hanno trovato questi prompt

I ricercatori non hanno indovinato questi prompt; hanno utilizzato una "ricerca a scatola chiusa" (come una caccia al tesoro in cui non puoi vedere dentro il baule, solo i risultati).

Il Generatore: Hanno chiesto a un'intelligenza artificiale superintelligente di scrivere centinaia di storie strane e non correlate (su fari, campane o archivi segreti).
Il Filtro: Hanno scartato qualsiasi storia che menzionasse accidentalmente il compito (come parole quali "matematica", "calcolare" o "diagnosi").
Il Test: Hanno provato queste storie strane sull'IA per vedere quali facevano rispondere correttamente alle domande reali.
L'Evoluzione: Hanno preso le migliori storie strane, le hanno mescolate leggermente e hanno riprovato, evolvendole lentamente in prompt "perfetti" ma strani.

Cosa hanno scoperto

Funziona: Questi prompt non correlati spesso fanno sì che l'IA performi tanto bene quanto, o addirittura meglio di, istruzioni standard come "Pensa passo dopo passo" o "Risolvi questo con attenzione".
Non è una questione di lunghezza: Potresti pensare che prompt più lunghi e dettagliati funzionino meglio. Ma questi prompt "spuri" erano in realtà molto più brevi di quelli ottimizzati, eppure hanno comunque vinto.
Non è una questione di significato: Quando i ricercatori hanno controllato il "significato" dei prompt, hanno scoperto che questi prompt strani erano altrettanto non correlati al compito rispetto a un nonsense casuale. L'IA non stava capendo la storia; stava reagendo alla struttura o al vibe del testo.
Può andare storto (o giusto) intenzionalmente: I ricercatori hanno anche scoperto di poter usare questi prompt per costringere l'IA a fare cose sciocche, come:
- Scegliere sempre la prima opzione di risposta (A), anche se è sbagliata.
- Dare sempre un numero pari come risposta.
- Dare intenzionalmente la risposta sbagliata a una domanda.

La grande conclusione

Lo studio suggerisce che i Modelli Linguistici di Grande Dimensione (LLM) sono sensibili a cose che non comprendiamo ancora pienamente. Non stanno semplicemente seguendo il "significato" delle nostre parole come un umano che legge un manuale. Invece, sembrano avere delle "levette" nascoste al loro interno. Un prompt sulla "sintonizzazione di un'arpa" potrebbe tirare una leva che fa sì che il modello si concentri meglio, anche se l'arpa non ha nulla a che fare con il problema matematico.

In breve: Lo studio dimostra che puoi guidare un'intelligenza artificiale potente usando istruzioni completamente irrilevanti per il lavoro, e talvolta, quelle istruzioni irrilevanti funzionano meglio di quelle ovvie. È come scoprire che dire a uno chef di "lucidare le posate" fa sì che la sua zuppa abbia un sapore migliore rispetto a dirgli di "cuocere la zuppa".

Riepilogo Tecnico: Prompt Spuri: I Prompt Irrilevanti Possono Orientare i Modelli Linguistici di Grandi Dimensioni?

Enunciato del Problema

La ricerca attuale sui Modelli Linguistici di Grandi Dimensioni (LLM) opera in gran parte sotto l'assunzione che la sensibilità ai prompt sia guidata da istruzioni, dimostrazioni o indizi di ragionamento pertinenti al compito. Il paradigma prevalente suggerisce che, per migliorare le prestazioni, i prompt debbano essere raffinati per descrivere il compito target in modo più chiaro o metodico. Questo lavoro sfida tale assunzione fondante investigando una forma controintuitiva di sensibilità ai prompt: se i prompt che sono semanticamente non correlati al compito target possano comunque orientare il comportamento del modello e alterare significativamente le prestazioni. Gli autori ipotizzano che gli LLM possano essere suscettibili a "prompt spuri"—istruzioni in linguaggio naturale che evitano deliberatamente vocabolario specifico del compito, indizi di dominio e strategie di soluzione esplicite, eppure dettano comunque gli output a valle del modello.

Metodologia

Gli autori propongono una semplice procedura di ricerca a scatola nera per scoprire prompt spuri. Questo metodo non richiede accesso ai gradienti del modello, agli stati nascosti o ai pesi, basandosi esclusivamente sugli output del modello. Il ciclo di ottimizzazione è composto dai seguenti componenti:

Generazione dei Candidati: Un generatore LLM (nello specifico Qwen3.5-27B) è istruito a produrre prompt di sistema candidati. Crucialmente, questi prompt sono vincolati a essere "spuri" rispetto al compito a valle. Ad esempio, nei compiti di ragionamento matematico, al generatore è esplicitamente vietato utilizzare parole relative all'aritmetica, alle equazioni o al calcolo. Invece, è incoraggiato ad adottare personaggi, rituali o stili (ad esempio "sintonizzatore", "tessitore", "custode") che sono superficialmente non correlati al compito ma richiedono comunque al modello di rispondere direttamente alla query dell'utente.
Validazione del Prompt: Un validatore filtra i candidati utilizzando filtri lessicali specifici del compito. Qualsiasi prompt contenente termini proibiti associati al dominio (ad esempio "matematica", "diagnosi", "indagine") o strategie di ragionamento esplicite viene scartato.
Ricerca Iterativa e Mutazione: I prompt validati sono valutati su un sottoinsieme di addestramento del benchmark. I prompt con le migliori prestazioni (top- $K$ ) vengono selezionati e mutati dal generatore per variare il loro personaggio, la narrazione o l'inquadramento, mantenendo al contempo il loro carattere spurio. Un buffer di replay garantisce che i prompt rimangano efficaci su diversi sottoinsiemi di dati.
Selezione Finale: Dopo molteplici round di mutazione, il prompt con le prestazioni migliori viene selezionato in base all'accuratezza sul set di validazione.

Lo studio valuta questi prompt su sette benchmark (GSM8K, MATH500, MedQA, GPQA, OpenBookQA, MuSR, MMLU-Pro) utilizzando quattro modelli che vanno da 0,8B a 27B parametri (Qwen3.5, Llama-3.2, Olmo-3).

Contributi Chiave

Il lavoro introduce tre contributi principali:

Prompt Spuri: L'introduzione formale di prompt che sono deliberatamente non correlati al compito target in superficie, ma che dettano pesantemente le prestazioni del modello.
Procedura di Ricerca Vincolata: Un metodo innovativo a scatola nera per scoprire questi prompt che esclude esplicitamente le descrizioni del compito e il vocabolario di dominio, operando senza accesso interno al modello.
Analisi Empirica e Diagnostica: Evidenze che dimostrano come i prompt spuri possano aumentare l'accuratezza, eguagliare o superare le baseline standard (incluso il Chain-of-Thought a zero-shot e ottimizzatori consapevoli del compito come PromptWizard), e orientare i modelli verso comportamenti non intenzionali (ad esempio, selezionare la prima opzione, produrre numeri pari o generare risposte errate) senza istruzioni esplicite.

Risultati

I risultati sperimentali producono diverse scoperte significative:

Massimizzazione delle Prestazioni: I prompt spuri spesso eguagliano o superano le baseline di prompting standard e il PromptWizard consapevole del compito. Ad esempio, sul modello Qwen3.5-27B, i prompt spuri hanno raggiunto un'accuratezza media del 73,24% attraverso i benchmark, superando PromptWizard (67,99%) e Zero-Shot Chain-of-Thought (59,79%).
Orientamento Comportamentale: Gli autori hanno utilizzato con successo prompt spuri per indurre comportamenti specifici, spesso avversari.
- Bias Posizionale: Prompt focalizzati su temi di "primazia" hanno indotto un tasso di selezione dell'Opzione A più elevato (fino al 99,73% su GPQA per Qwen3.5-27B) rispetto a comandi diretti.
- Risposte Errate: Prompt progettati per minimizzare l'accuratezza hanno costretto con successo i modelli a selezionare risposte sbagliate in modo più efficace rispetto alle istruzioni dirette di "scegliere la risposta più errata".
- Vincoli Numerici: I prompt spuri hanno orientato con successo gli output matematici verso numeri pari, numeri primi o numeri inferiori a 10, spesso superando le istruzioni dirette.
Indistinguibilità Semantica: L'analisi della similarità cosena tra il testo del prompt e le descrizioni del compito rivela che i prompt spuri hanno punteggi di similarità vicini a quelli di testi casuali e non correlati (circa 0,09), confermando che non sono descrizioni del compito camuffate.
Efficienza: I prompt spuri sono significativamente più brevi (circa 117–314 token) rispetto ai prompt ottimizzati di PromptWizard (circa 293–412 token), suggerendo che la loro efficacia non è un sottoprodotto della verbosità.
Trasferibilità: Sebbene i prompt spuri si trasferiscano male tra modelli e benchmark diversi (indicando interazioni idiosincratiche), mostrano una certa trasferibilità tra compiti matematicamente simili (GSM8K e MATH500).
Strutturale vs Semantico: Studi di ablazione che utilizzano prompt "incomprensibili" (principalmente token privi di significato) hanno mostrato che i vincoli strutturali da soli possono guidare l'accuratezza e l'orientamento verso risposte errate, ma sono necessarie narrazioni coerenti in linguaggio naturale per indurre bias posizionali rigidi.

Significato e Affermazioni

Il lavoro afferma di rivelare una nuova forma di sensibilità ai prompt negli LLM: il comportamento del modello e le capacità di ragionamento possono essere potentemente orientati da caratteristiche latenti completamente distaccate dal compito intenzionale.

Gli autori sottolineano che questa scoperta sfida l'assunzione secondo cui l'efficacia del prompt debba derivare da migliori descrizioni del compito. Al contrario, istruzioni superficialmente non correlate possono indurre comportamenti che alterano sostanzialmente le prestazioni del modello. Il lavoro conclude che questa sensibilità pone nuove domande su come funzioni il rispetto delle istruzioni negli LLM e suggerisce che le valutazioni della sensibilità ai prompt dovrebbero estendersi oltre le variazioni pertinenti al compito per includere prompt spurii apparentemente irrilevanti.

Gli autori mantengono una posizione modesta riguardo alle implicazioni: sebbene i risultati siano affascinanti e diagnostici, non affermano che i prompt spuri siano un algoritmo universale per ottenere risultati all'avanguardia (SotA). Piuttosto, evidenziano una vulnerabilità e un meccanismo di controllo che meritano ulteriori indagini sui meccanismi interni dell'orientamento e sulla robustezza degli attuali LLM.