🤖 AI

SearchSkill: Teaching LLMs to Use Search Tools with Evolving Skill Banks

Il documento propone SearchSkill, un framework che potenzia la risposta a domande a dominio aperto dei modelli linguistici pianificando esplicitamente le query attraverso una SkillBank in evoluzione di abilità di ricerca riutilizzabili, il che migliora l'efficienza del recupero e l'accuratezza delle risposte riducendo i budget di ricerca sprecati e promuovendo query atomiche e focalizzate.

Autori originali: Jinchao Hu, Meizhi Zhong, Kehai Chen, Min Zhang

Pubblicato 2026-05-12

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Jinchao Hu, Meizhi Zhong, Kehai Chen, Min Zhang

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un bibliotecario molto intelligente (l'IA) che conosce molti fatti a memoria, ma si blocca quando gli vengono chieste notizie recenti o dettagli molto specifici e complessi. Per aiutarlo, gli dai una tessera bibliotecaria che gli permette di chiedere a un motore di ricerca le risposte.

Il problema non è che il bibliotecario non può usare la tessera; è che spesso fa le domande sbagliate. Invece di chiedere: "Chi era il sindaco di New York nel 1990?", potrebbe semplicemente copiare e incollare l'intera domanda confusa nella barra di ricerca, come se stesse urlando: "Dimmi tutto sul primo sindaco afroamericano della città più grande degli Stati Uniti!". Questo spreca tempo, confonde il motore di ricerca e spesso porta alla risposta sbagliata.

SEARCHSKILL è un nuovo metodo di addestramento che insegna al bibliotecario un modo migliore per usare la tessera bibliotecaria. Ecco come funziona, utilizzando semplici analogie:

1. Il "Menu delle Abilità" (The SkillBank)

Invece di lasciare che il bibliotecario indovini cosa fare, SEARCHSKILL gli fornisce un menu fisico di Abilità di Ricerca. Pensa a questo come al libro di ricette di uno chef o al kit di attrezzi di un meccanico.

Vecchio Metodo: Il bibliotecario dice semplicemente: "Vai a cercare!" e spera nel meglio.
Metodo SEARCHSKILL: Prima di cercare, il bibliotecario deve scegliere uno strumento specifico dal menu, come ad esempio:
- Il "Costruttore di Ponti": Usato quando devi trovare un passaggio intermedio nascosto (es. "Chi è la madre di X?" -> Prima trova X, poi trova la madre di X).
- Il "Comparatore": Usato quando devi controllare due cose fianco a fianco (es. "Chi è morto per primo, la Persona A o la Persona B?").
- Il "Verificatore di Fatti": Usato per verificare se due pezzi di evidenza si contraddicono a vicenda.

2. La "Danza in Due Passi"

Ogni volta che il bibliotecario deve trovare una risposta, segue una routine rigorosa in due passaggi:

Scegli un'Abilità: Guarda il menu e dice: "Ho bisogno dello strumento Costruttore di Ponti proprio ora".
Esegui l'Azione: Basandosi su quello strumento, pone al motore di ricerca una domanda molto specifica e mirata.

Questo costringe il bibliotecario a pensare: "Qual è il pezzo di informazione mancante di cui ho bisogno proprio ora?" invece di semplicemente scaricare l'intero problema sul motore di ricerca.

3. Il "Ciclo di Pratica" (Evoluzione del Menu)

Il documento descrive un modo intelligente per costruire questo menu. Non l'hanno scritto una volta sola e dimenticato. Hanno fatto eseguire al bibliotecario migliaia di problemi di pratica.

L'Errore: Quando il bibliotecario falliva (ad esempio, otteneva la risposta sbagliata perché aveva fatto una domanda scarsa), il sistema analizzava perché aveva fallito.
La Correzione: Se il bibliotecario continuava a fallire su un tipo specifico di rompicapo (come collegare due fatti distanti), il sistema aggiungeva una nuova "Carta Abilità" al menu specificamente per quel problema.
Il Risultato: Il menu è cresciuto e migliorato nel tempo, diventando una raccolta di strategie riutilizzabili che il bibliotecario poteva applicare a nuovi problemi simili.

4. I Risultati

I ricercatori hanno testato questo metodo su diversi modelli di IA (sia open-source che proprietari).

Risposte Migliori: I modelli hanno ottenuto risposte correttamente significativamente più spesso, specialmente su domande complesse e a più passaggi.
Meno Sforzo Sprecato: Hanno fatto meno domande, ma migliori. Invece di fare 5 domande vaghe, ne hanno fatte 2 o 3 precise.
Nessuna "Magia" Richiesta: Hanno ottenuto questi risultati utilizzando metodi di addestramento standard (Fine-Tuning Supervisionato) piuttosto che costosi e complessi metodi di prova ed errore (Apprendimento per Rinforzo) usati da altri sistemi.

In Sintesi

SEARCHSKILL è come dare a un'IA una lista di controllo di strategie di ricerca invece di un semplice pulsante di ricerca. Costringe l'IA a fermarsi, scegliere la strategia giusta per il problema specifico e poi porre una domanda intelligente e mirata. Questo rende l'IA più intelligente, più veloce e molto meno propensa a perdersi nei propri risultati di ricerca.

Riepilogo Tecnico: SEARCHSKILL

Enunciato del Problema

I Large Language Models (LLM) possiedono una conoscenza parametrica ampia ma rimangono fondamentalmente statici, spesso mancando dei fatti a lunga coda o delle informazioni aggiornate necessari per compiti ad alta intensità di conoscenza come la risposta a domande (QA) in dominio aperto e multi-hop. Sebbene i framework di Retrieval-Augmented Generation (RAG) e di utilizzo degli strumenti (ad esempio, ReAct, Toolformer) abbiano permesso agli LLM di interagire con i motori di ricerca, rimane un collo di bottiglia critico: la qualità della query.

I metodi esistenti spesso insegnano ai modelli cosa cercare, ma non come formulare query di alta qualità. In contesti multi-hop, i modelli emettono frequentemente query ampie, copiate o ridondanti (ad esempio, incollando l'intera domanda nella barra di ricerca). Ciò porta a uno spreco del budget di recupero, a evidenze rumorose, a chiamate agli strumenti ridondanti e a una ridotta accuratezza del ragionamento. Inoltre, gli attuali framework di "abilità" per gli agenti non definiscono esplicitamente come le abilità debbano essere rappresentate, invocate o aggiornate nel contesto specifico delle traiettorie di ricerca, in particolare per quanto riguarda come un'abilità plasmi la prossima query, il comportamento di verifica e le decisioni di arresto.

Metodologia: SEARCHSKILL

Gli autori propongono SEARCHSKILL, un framework che rende esplicito l'uso degli strumenti di ricerca fattorizzando ogni passo di interazione in selezione dell'abilità seguita da esecuzione basata sull'abilità. L'innovazione centrale è una SkillBank in evoluzione che funge da prior esterno e riutilizzabile per le strategie di ricerca.

1. L'Interfaccia Condizionata all'Abilità

Invece di trattare la ricerca come un'azione indifferenziata, SEARCHSKILL impone un protocollo a livello di token:

Selezione dell'Abilità: Il modello emette un tag <skill>...</skill> per dichiarare la specifica strategia riutilizzabile che impiegherà (ad esempio, bridge-entity-search, parallel-attribute-compare).
Esecuzione: Condizionato alla scheda dell'abilità selezionata, il modello genera una query <search>...</search> o una risposta <answer>...</answer>.
Feedback: Le evidenze recuperate vengono restituite tramite tag <information>...</information>.

Questa interfaccia rende la scelta della strategia una variabile di controllo esplicita e addestrabile prima di ogni azione di recupero o risposta.

2. SkillBank in Evoluzione

La SkillBank non è statica; evolve attraverso un ciclo esterno guidato dai fallimenti allineato all'aumento della difficoltà del compito (da dataset single-hop a complessi dataset multi-hop come MuSiQue):

Inizializzazione: Inizia con una banca di semi compatta ( $B_0$ ) contenente abilità generali di recupero e grounding.
Raffinamento: In ogni fase, il sistema analizza i pattern di fallimento ricorrenti dalle espansioni del modello. Un modello insegnante (GPT-5.4) propone nuove abilità o raffinamenti di quelle esistenti basandosi su questi fallimenti (ad esempio, aggiungendo bridge-entity-search per il ragionamento multi-hop).
Ricostruzione: Dopo aver accettato un aggiornamento della banca, le traiettorie interessate vengono ricostruite per garantire la coerenza.
Tassonomia: La banca finale ( $B_4$ ) include abilità per la ricerca diretta, la risoluzione dei ponti, la decomposizione delle catene di relazioni, l'ancoraggio temporale, il controllo dei conflitti e il grounding della risposta.

3. Affinamento Supervisionato in Due Fasi (SFT)

La ricetta di addestramento allinea il modello al protocollo di inferenza:

Fase 1 (Esecuzione): Il modello apprende il formato di base dell'azione: emettere un tag <skill> seguito da un tag <search> o <answer>. Questa fase utilizza un pool di traiettorie insegnanti validate per insegnare la pianificazione delle query con tag di abilità e l'arresto grounded.
Fase 2 (Instradamento): Il modello impara a selezionare le abilità dall'indice della SkillBank. Ogni turno di azione originale viene suddiviso in un turno di selezione dell'abilità, un turno utente contenente il contenuto della scheda dell'abilità selezionata e il turno di azione originale. Il modello deve instradare attraverso la SkillBank senza indizi specifici della domanda, condizionando la sua prossima azione sul contenuto della scheda selezionata.

4. Apprendimento per Rinforzo (Ausiliario)

Gli autori esplorano anche una fase leggera di GRPO (Group Relative Policy Optimization) post-SFT per affinare ulteriormente il comportamento di ricerca, prendendo di mira specificamente l'uso delle evidenze, il grounding della risposta e il comportamento di arresto, sebbene i guadagni principali siano attribuiti al processo SFT.

Contributi Chiave

Interfaccia Condizionata all'Abilità: Un framework innovativo che migliora la formulazione delle query costringendo il modello a selezionare una strategia di ricerca riutilizzabile prima di ogni chiamata agli strumenti, affrontando il fallimento nell'emissione di query multi-hop ampie o copiate.
SkillBank di Ricerca Evolvibile: Un repository dinamico aggiornato attraverso analisi dei fallimenti, operazioni di aggiunta/raffinamento e ricostruzione delle traiettorie. Fornisce un prior riutilizzabile per l'uso degli strumenti che va oltre il contesto QA specifico.
Ricetta SFT in Due Fasi: Una metodologia di addestramento che raggiunge prestazioni comparabili o superiori rispetto ad agenti di ricerca basati su RL su larga scala (come Search-R1), evitando l'alto costo computazionale delle espansioni RL.
Generalizzabilità: Efficacia dimostrata sia su modelli open-source (Qwen2.5 3B/7B) che su modelli closed-source. La SkillBank congelata può servire come guida di pianificazione esterna per modelli proprietari senza fine-tuning.

Risultati Sperimentali

Il framework è stato valutato su sette benchmark che coprono QA single-hop (Natural Questions, TriviaQA, PopQA) e multi-hop (HotpotQA, 2WikiMultiHopQA, MuSiQue, Bamboogle).

Prestazioni: SEARCHSKILL ha ottenuto i migliori punteggi macro-medio di Exact Match (EM) sia su Qwen2.5-7B (42,34%) che su Qwen2.5-3B (36,94%), superando forti baseline inclusi Search-R1 (basato su RL) e ZeroSearch.
Comportamento delle Query: Il metodo ha ridotto significativamente i tassi di "copia della prima query" (dove il modello copia l'intera domanda) e ha aumentato le query "focalizzate sull'hop atomico". Ha raggiunto una maggiore accuratezza entro un piccolo budget di ricerca (ad esempio, Correct@≤3 ricerche).
Studi di Ablazione:
- Rimuovere la SkillBank (banca vuota) ha causato cali di prestazioni, confermando il valore dell'instradamento esplicito delle abilità.
- Rimuovere il contenuto delle schede delle abilità (mantenendo solo gli ID) ha ridotto anch'esso le prestazioni, indicando che il contenuto semantico delle abilità è cruciale.
- Sostituire la banca evoluta con la banca di semi ( $B_0$ ) ha degradato le prestazioni, evidenziando l'importanza del raffinamento iterativo.
Trasferimento su Modelli Closed-Source: Applicare la SkillBank congelata come guida di pianificazione a modelli proprietari (GPT-4o-mini, Gemini 2.5 Flash Lite, Claude Haiku 4.5) ha prodotto guadagni macro costanti, dimostrando la trasferibilità dei priori di ricerca appresi.

Significato e Affermazioni

Il documento sostiene che la pianificazione esplicita delle query condizionata all'abilità è un'alternativa leggera ed efficace al trattamento della ricerca come un'azione indifferenziata. Rendendo esplicita e addestrabile la strategia di ricerca, SEARCHSKILL affronta la causa radice dell'inefficienza nel recupero: la scarsa formulazione delle query.

Gli autori affermano che questo approccio:

Disaccoppia strategia ed esecuzione: La SkillBank agisce come un prior esterno, permettendo al modello di imparare come cercare senza dover riscoprire implicitamente questi pattern durante l'SFT.
Migliora l'efficienza: Riduce le ricerche ridondanti e migliora la qualità delle evidenze recuperate, portando a risposte migliori entro budget più stretti.
Offre un percorso di addestramento scalabile: La ricetta SFT in due fasi fornisce un modo economicamente efficiente per addestrare agenti di ricerca, evitando l'instabilità e gli alti costi computazionali associati all'addestramento del comportamento di ricerca principalmente attraverso l'Apprendimento per Rinforzo.

Il lavoro suggerisce che, sebbene il RL possa ulteriormente affinare le abitudini di esecuzione (ad esempio, il comportamento di arresto), la capacità fondamentale per una ricerca intelligente è meglio stabilita attraverso una supervisione strutturata e condizionata all'abilità.