Factored Reasoning with Inner Speech and Persistent Memory for Evidence-Grounded Human-Robot Interaction

Sintesi Tecnica: Ragionamento Fattorizzato con Discorso Interiore e Memoria Persistente per l'Interazione Uomo-Robot Basata su Evidenze

Problematica
La transizione dei robot assistenziali da dimostrazioni controllate a un impiego reale a lungo termine (ad esempio, in contesti sanitari o domestici) richiede sistemi in grado di mantenere un comportamento coerente nell'arco di giorni o mesi, non solo di singole sessioni. Le attuali architetture cognitive basate su Large Language Models (LLM) faticano spesso a gestire tre vincoli critici nelle interazioni a lungo orizzonte: (i) rilevare quando mancano informazioni essenziali, (ii) distinguere le evidenze recuperate dalle inferenze non supportate e (iii) decidere quando richiedere chiarimenti invece di procedere con piani sottospecificati. Una sfida significativa è la tensione tra "espressività e controllo"; sebbene gli LLM offrano un potente ragionamento, spesso collassano la deliberazione, l'invocazione di strumenti e la spiegazione in un unico passaggio di generazione. Questo accoppiamento rende difficile verificare le decisioni intermedie, rischia di accumulare assunzioni non verificate nei modelli utente e può portare a risposte "sicure ma errate" che minano la fiducia e la sicurezza.

Metodologia: L'Architettura JANUS
Il documento introduce JANX, un'architettura cognitiva progettata per affrontare queste sfide modellando l'interazione uomo-robot come un Processo Decisionale di Markov Parzialmente Osservabile (POMDP). L'innovazione principale è un controller fattorizzato che decompone l'interazione in moduli specializzati e tipizzati con interfacce esplicite, separando la logica di controllo interna dalla comunicazione esterna.

I componenti chiave dell'architettura includono:

1. Pipeline di Ragionamento Fattorizzato: Il sistema decompone la mappatura input-output in un grafo computazionale di agenti:

   • Rilevamento dello Scope (Ambito): Identifica il dominio di interazione attivo.
   • Riconoscimento dell'Intento e Post-processing: Mappa le richieste in linguaggio libero in schemi di task strutturati con parametri tipizzati.
   • Agente di Memoria: Un componente stato-dipendente che gestisce una struttura di memoria a tre livelli: un buffer di cronologia recente limitato ($H_t$), una memoria centrale compatta ($C_t$) e un archivio ($A_t$). Utilizza un gate di sufficienza informativa per decidere se il recupero dall'archivio è necessario, garantendo che il contesto di lavoro ($W_t$) rimanga limitato e coerente.
   • Discorso Interiore (Inner Speech): Un canale di controllo interno che valida l'intento, controlla la completezza dei parametri e impone la prontezza di esecuzione. Decide se il robot debba procedere, chiedere chiarimenti, cambiare dominio o rifiutare una richiesta. Fondamentalmente, questo canale è distinto dall'output verso l'utente.
   • Generazione di Query: Produce chiamate a strumenti eseguibili (ad esempio, query a database) solo quando sono richieste evidenze esterne.
   • Discorso Esterno (Outer Speech): Genera risposte rivolte all'essere umano condizionate da un pacchetto di evidenze ($B_t = W_t \cup E_t$), assicurando che le affermazioni siano fondate sui dati recuperati o esplicitamente contrassegnate come default sicuri.

2. Discorso Interiore e Controllo: Ispirato alle teorie cognitive, il "Discorso Interiore" in JANUS funge da flusso testuale orientato al controllo per la gestione interna. Esso valida che tutti i parametri richiesti per uno schema di task siano presenti prima di consentire l'ancoraggio (grounding). Se le informazioni mancano, innesca un turno di chiarimento tramite il Discorso Esterno anziché allucinare valori di default.

3. Gestione della Memoria: La memoria è trattata come una risorsa gestita piuttosto che come un log illimitato. Il sistema utilizza politiche di consolidamento e revisione controllate. Quando il buffer storico eccede la capacità, le tracce vengono riassunte e incorporate nella memoria centrale; quando la memoria centrale eccede il proprio budget, i fatti a bassa priorità vengono trasferiti all'archivio. Ciò assicura che la persistenza sia limitata, coerente e verificabile.

4. Livello di Personalizzazione: Per supportare operazioni multi-dominio, JANUS include un livello di personalizzazione a runtime che incapsula schemi, strumenti e prompt specifici del dominio senza alterare la logica di ragionamento centrale. Ciò consente al sistema di passare tra i domini (ad esempio, consigli dietetici, pianificazione viaggi) dinamicamente.

Contributi Principali
Il documento rivendica tre contributi primari:

1. Un'Architettura Fattorizzata Modulare e Aumentata dalla Memoria: JANUS separa esplicitamente il discorso interiore (controllo/verifica) dal discorso esterno (comunicazione). Questa separazione permette di ottimizzare la deliberazione interna per la verifica e la prontezza, mentre la comunicazione esterna è ottimizzata per chiarezza e calibrazione della fiducia.
2. Un'Interfaccia di Gestione del Dialogo per il Cambio di Dominio: L'architettura consente il passaggio a runtime tra i domini incapsulando schemi e strumenti specifici, mantenendo invarianti i moduli di ragionamento centrale.
3. Un Agente di Memoria Dedicato: Un componente stato-dipendente con capacità di consolidamento gerarchico che tratta la persistenza come un modulo gestito con esplicite politiche di aggiornamento, prevenendo l'accumulo di cronologie non strutturate.

Valutazione Sperimentale e Risultati
Gli autori hanno valutato JANUS utilizzando test unitari a livello di modulo in un dominio di assistenza dietetica (il dominio "Advisor"), basato su un grafo di conoscenza (Neo4j). La valutazione si è concentrata sulla correttezza delle variabili intermedie piuttosto che sulla sola qualità della risposta end-to-end.

• Risultati Quantitativi:
  • Rilevamento dello Scope: Ha raggiunto un'accuratezza del 98,50% su 11 domini più un fallback, mantenendo alte prestazioni anche con domini semanticamente sovrapponibili.
  • Riconoscimento dell'Intento: Ha raggiunto un'accuratezza del 100,00% nella selezione del task e un punteggio F1 di 1,00 per l'estrazione dei parametri.
  • Discorso Interiore: Ha ottenuto un'accurateità del 100,00% nel determinare la prontezza di esecuzione (ovvero, identificando correttamente quando è necessario un chiarimento).
  • Generazione di Query: Ha generato query Cypher con una validità del 100,00% (tutte eseguite con successo) e un punteggio di sovrapposizione del 96,70% rispetto ai risultati di riferimento curati.
• Latenza ed Efficienza: I tempi di risposta mediani per turno sono variati da 0,26s (Riconoscimento Intento) a 0,81s (Discorso Interiore). Il sistema ha notato che la latenza dipende dallo scenario; le risposte supportate da evidenze richiedono circa 2,46s. La Generazione di Query è stato il modulo più dispendioso in termini di token.
• Valutazione Qualitativa: Un protocollo misto (valutazioni umane e giudizio automatico G-Eval) ha valutato gli output testuali. I risultati hanno confermato l'ipotesi architettonica: il Discorso Esterno è stato valutato più alto per chiarezza e utilità, mentre il Discorso Interiore e il Rilevamento dello Scope (tracce di controllo) sono stati valutati più bassamente quando giudicati come testo autonomo. Ciò supporta l'affermazione che il testo di controllo interno è ottimizzato per il processo decisionale, non per la leggibilità umana. Il giudizio automatico (G-Eval) è risultato sistematicamente sovrastimare la qualità delle tracce orientate al controllo rispetto ai valutatori umani.

Significato e Rivendicazioni
Il documento sostiene che il ragionamento fattorizzato sia una strada promettente verso un'assistenza robotica scalabile, verificabile e basata su evidenze. Separando esplicitamente le decisioni di controllo dalla comunicazione, JANUS mira a:

• Prevenire l'accumulo di assunzioni non verificate nei modelli utente a lungo termine.
• Assicurare che le affermazioni del robot siano legate a un pacchetto di evidenze, migliorando la fedeltà e la calibrazione della fiducia.
• Fornire un ciclo di controllo verificabile in cui le decisioni intermedie (selezione del dominio, intento, prontezza) possano essere ispezionate e misurate.

Gli autori rimangono modesti riguardo all'attuale portata, notando che la valutazione si basa su test unitari curati e su un singolo dominio. Riconoscono che i risultati non catturano ancora i feedback multi-turno, il recupero da errori a monte o la dinamica della fiducia nelle implementazioni embodied nel mondo reale. È identificato come necessario un lavoro futuro per valutare questi fattori attraverso studi longitudinali end-to-end con utenti reali.