Sintesi Tecnica: Prior Statistici per Preferenze Implicite

Definizione del Problema

Il documento affronta un collo di bottiglia critico nello sviluppo di agenti personali eseguiti localmente che si affidano a LLM remoti basati su API. Man mano che l'ecosistema di competenze esterne (tool) si espande, gli agenti devono selezionare dinamicamente la competenza più appropriata per un utente. Tuttavia, le preferenze dell'utente sono spesso implicite, manifestandosi come abitudini stocastiche ad alta frequenza piuttosto che come istruzioni esplicite.

I paradigmi attuali confondono due compiti cognitivi distinti:

1. Parsing del Senso Semantico: Comprendere le istruzioni esplicite dell'utente (es. "Ordina da HouseBrew").
2. Apprendimento delle Preferenze Statistiche: Inferire abitudini latenti dalle interazioni storiche (es. un utente preferisce sempre "VibeCof'ing" per il caffè).

Le soluzioni esistenti si affidano tipicamente a LLM aumentati dalla memoria, dove i log storici vengono iniettati nel prompt per guidare un singolo modello remoto. Gli autori sostengono che questo approccio soffra di:

• Fallimenti Sistemici: Gli LLM spesso perdono coerenza logica nelle conversazioni multi-turno o non riescono a tracciare statistiche fini.
• Vincoli di Risorse: L'elevata latenza delle API e il superamento della finestra di contesto rendono impraticabili algoritmi centralizzati complessi per agenti locali che preservano la privacy.
• Mancanza di Interpretabilità: Gli approcci basati sulla memoria mancano di rigore matematico nella modellazione delle distribuzioni di preferenza.

Metodologia: IL LOCAL HARNESS

Per risolvere questi problemi, il documento propone LOCAL HARNESS, un'architettura innovativa che disaccoppia rigorosamente l'apprendimento delle preferenze statistiche dal parsing del senso semantico.

Architettura Core

Il sistema opera su un modello "Stimatore Statistico Locale + Gestore delle Eccezioni Remoto":

1. Prior Statistico Locale (Il Harness): Un modulo leggero, on-device, che gestisce la distribuzione delle preferenze dell'utente. Gestisce il processo decisionale ad alta frequenza e il compromesso tra esplorazione ed esplorazione (exploration-exploitation). Il documento implementa due specifici prior:
   • Frequency Prior: Una semplice tabella di tasso di successo empirico che traccia i conteggi $(user, domain, skill)$.
   • Bandit Prior: Un approccio a bandit contestuale (specificamente LINUCB) che mantiene un vettore di parametri e una matrice di Gram regolarizzata. Utilizza l'hashing delle feature per creare vettori di contesto dal query, dal nome della skill e dal dominio, permettendo un'esplorazione fondata tramite Upper Confidence Bounds (UCB).
2. LLM Remoto (L'Override Handler): L'LLM remoto viene rimosso dal percorso critico di esecuzione per le query standard. Viene invocato solo per verificare la presenza di override lessicali espliciti.
   • Fase 1 (Classificazione del Dominio): Una singola chiamata LLM inferisce il dominio target per restringere l'insieme delle skill candidate.
   • Fase 2 (Default Locale): Il harness locale seleziona la skill di default basata sul prior statistico.
   • Fase 3 (Sonda di Override Semantico): Una sonda binaria chiede all'LLM: "Questa query nomina esplicitamente uno strumento specifico?". Se sì, lo strumento nominato sovrascrive il default locale; se no, viene eseguito il default locale.

Fondazione Teorica

Gli autori forniscono un'analisi teorica (Teorema 4.1) dimostrando che, sotto deboli assunzioni, questa architettura disaccoppiata riduce strettamente il regret atteso per round rispetto a un baseline basato solo su LLM. Il regret converge a un valore strettamente inferiore al tasso di errore inerente all'LLM, a condizione che il prior statistico locale sia consistente. La prova si basa sul fatto che la policy finale è una combinazione convessa della policy del prior locale e della policy dell'LLM, una proprietà strutturale che si perde negli approcci aumentati dalla memoria dove i segnali vengono confusi.

Valutazione Sperimentale

Poiché nessun benchmark esistente affronta la selezione delle competenze guidata da preferenze implicite, gli autori hanno costruito TOOLBENCH-60, un sandbox con 60 skill in 10 domini e utenti sintetici con distribuzioni di preferenza controllabili (che variano da "one-hot" deterministiche a distribuzioni di Dirichlet stocastiche).

Configurazione di Valutazione:

• Backbone: Valutato su tre diversi LLM: GPT-5.2, DeepSeek-V4-Flash e Qwen3-30B-Instruct.
• Baseline: Nove agenti sono stati confrontati, categorizzati in:
  • Nessun Apprendimento: Random, ZeroShot-LLM.
  • Solo Statistico: Freq-Greedy, Pure-Bandit.
  • LLM con Memoria: InContext-Memory (storia recente), Profile-Memory (log serializzati completi).
  • LLM con Prior Statistico: Bandit-as-Context (l'LLM vede le probabilità del bandit), Freq-as-Override, Bandit-as-Override (il metodo proposto).

Risultati Chiave:

1. Prestazioni Superiori: L'agente BANDIT-AS-OVERRIDE ha costantemente ottenuto il minor regret cumulativo e la massima accuratezza nei test attraverso tutti i backbone e i regimi di preferenza.
2. Disaccoppiamento vs Memoria: Le baseline aumentate dalla memoria (InContext/Profile) sono state significativamente inferiori, confermando che iniettare la storia nei prompt non sostituisce un estimatore statistico dedicato.
3. Gestione degli Override: Gli agenti puramente statistici sono falliti sulle query esplicite (istruzioni semantiche zero-shot). Il LOCAL HARNESS ha raggiunto un'accuratezza quasi perfetta sulle query esplicite riservando l'LLM esclusivamente alla rilevazione dell'override.
4. Valore dell'Esplorazione: Il prior basato su Bandit ha superato il semplice conteggio delle frequenze, particolarmente nei regimi di preferenza stocastici (soft), dimostrando la necessità di un'esplorazione fondata.

Significato e Claim

Il documento sostiene di aver identificato un difetto architettonico fondamentale nei design attuali degli agenti personali: la confusione tra apprendimento statistico e ragionamento semantico.

• Svolta Architetturale: Propone un cambio di paradigma da "LLM-come-Cervello" (che gestisce tutto) a "LLM-come-Gestore-delle-Eccezioni" (che gestisce solo gli override espliciti), delegando la modellazione delle abitudini a statistiche locali leggere.
• Efficienza e Privacy: Mantenendo l'apprendimento statistico locale, l'approccio riduce la latenza delle API, evita l'overflow del contesto e rispetza i vincoli di privacy senza richiedere infrastrutture centralizzate complesse.
• Robustezza: Il design disaccoppiato assicura che l'agente possa adattarsi alle abitudini dell'utente pur rimanendo reattivo ai comandi espliciti, un equilibrio che gli approcci aumentati dalla memoria non riescono a mantenere.

Gli autori concludono che questo framework disaccoppiato stabilisce un paradigma robusto e matematicamente fondato per la progettazione di agenti personalizzati, validato sia dai limiti di regret teorici che da una vasta valutazione empirica.