LLM Enhancement with Domain Expert Mental Model to Reduce LLM Hallucination with Causal Prompt Engineering

Nel mondo dell'intelligenza artificiale, i grandi modelli linguistici sono diventati straordinariamente abili nel leggere, scrivere e riassumere enormi quantità di informazioni. Possono spiegare complesse teorie scientifiche, redigere documenti legali e persino scrivere codice. Tuttavia, questi sistemi hanno un punto cieco fondamentale: possono lavorare solo con la conoscenza che è già stata scritta e inserita nei loro dati di addestramento. Quando si trovano di fronte a una decisione che si basa su un'intuizione non scritta, su un contesto organizzativo specifico o su una combinazione unica di circostanze che non è mai stata registrata, il modello non si limita ad ammettere di non sapere. Al contrario, spesso inventa una risposta sicura ma falsa, un fenomeno noto come allucinazione. Questa non è una falla che può essere risolta cercando più documenti; è un limite strutturale. Se la conoscenza non esiste in un database, la macchina non può trovarla. Per le decisioni ad alto rischio in campi come la medicina, la sicurezza nazionale o il finanziamento della ricerca, questo divario tra ciò che la macchina sa e ciò che sa un esperto umano può essere pericoloso.

I ricercatori Boris Kovalerchuk e Brent D. Fegley hanno proposto un nuovo modo per colmare questo divario. Invece di cercare di rendere l'intelligenza artificiale più intelligente o di darle più libri da leggere, suggeriscono di costruire una mappa specifica e strutturata di come pensa realmente un esperto umano. Lo chiamano Modello Mentale dell'Esperto (Expert Mental Model). L'idea centrale è di smettere di chiedere alla macchina di indovinare la risposta e utilizzare invece la macchina come uno strumento per aiutare l'esperto ad articolare la propria logica decisionale. Trasformando il giudizio intuitivo di un essere umano in un insieme chiaro e sequenziale di regole, il sistema può quindi applicare quelle regole a nuove situazioni senza mai dover allucinare. Questo approccio tratta il problema non come un fallimento della memoria della macchina, ma come un fallimento nel catturare il processo di ragionamento specifico dell'uomo.

I ricercatori hanno testato questa idea in tre campi molto diversi: decidere se presentare una domanda di sovvenzione per la ricerca, progettare un sistema di cybersicurezza e prendere diagnosi cliniche. Nel primo scenario, un team di ricercatori doveva decidere se dedicare mesi alla stesura di una proposta per un ente di finanziamento. La decisione dipendeva da molti fattori, come se il team avesse le competenze giuste, se il progetto fosse in linea con gli obiettivi dell'ente e se avessero tempo a sufficienza. Un'intelligenza artificiale standard potrebbe generare un elenco di domande da porre, ma non potrebbe determinare come pesare tali risposte. Se il team dicesse "sì" al possesso delle competenze ma "no" al budget, la macchina potrebbe ipotizzare che il progetto sia ancora fattibile, oppure potrebbe ipotizzare che non lo sia. La macchina non aveva modo di sapere che, per questo specifico team, il budget era un fattore determinante, mentre per un altro team, potrebbe essere un ostacolo minore.

Per risolvere questo problema, i ricercatori hanno utilizzato un metodo che si basa su un principio semplice: se una situazione è sufficientemente buona per dire "sì", migliorare qualsiasi sua parte non dovrebbe trasformare la risposta in "no". Questo è chiamato monotonicità. Immaginate un team di esperti che risponde a una serie di domande con risposta sì-o-no su un progetto. Se decidono che un progetto con un'ottima idea ma senza fondi è un "no", allora un progetto con un'ottima idea, senza fondi e anche senza membri del team deve essere necessariamente un "no". Utilizzando questa logica, i ricercatori sono riusciti a porre agli esperti molte meno domande di quelle che sarebbero normalmente necessarie. Invece di chiedere informazioni su ogni possibile combinazione di fattori — che potrebbero essere milioni per una decisione complessa — hanno posto un set di domande accuratamente selezionate. Le risposte a queste domande hanno permesso loro di inferire automaticamente le riszioni per migliaia di altri scenari.

Nell'esempio della proposta di sovvenzione, il team è partito con venti potenziali domande. Un'intelligenza artificiale ha aiutato a organizzarle in una gerarchia, raggruppando le domande correlate. Successivamente, l'esperto umano ha risposto a un piccolo numero di domande generalizzate. Ad esempio, invece di rispondere a ogni singolo dettaglio sulle risorse, l'esperto potrebbe rispondere a una domanda ampia sul fatto che il team fosse pronto. Se la risposta era "no", il sistema sapeva immediatamente che non erano necessarie ulteriori spiegazioni per rifiutare il progetto. Se la risposta era "sì", il sistema approfondiva i dettagli specifici. Attraverso solo quattro round di domande, i ricercatori sono stati in grado di mappare la logica decisionale dell'esperto per oltre il 60 percento di tutti i possibili scenari. Gli scenari rimanenti erano raggruppati attorno ai casi limite più difficili, dove la decisione era incerta, ed è esattamente qui che il giudizio umano è più prezioso.

I ricercatori hanno testato questo metodo anche nella cybersicurezza, dove le regole sono spesso definite da standard governativi. In questo caso, l'intelligenza artificiale poteva estrarre le regole standard da un documento, ma aveva comunque bisogno di un esperto umano per applicare tali regole ai dati specifici di una particolare organizzazione. Il sistema ha aiutato l'esperto a determinare l'impatto di una violazione della sicurezza sulla propria rete specifica, traducendo preoccupazioni vaghe in un modello strutturato. Nel terzo ambito, quello sanitario, i ricercatori hanno esaminato studi passati in cui erano stati utilizzati metodi simili per diagnosticare il tumore al seno. Hanno scoperto che quando le regole decisionali venivano estratte direttamente dai radiologi utilizzando questo approccio strutturato, i modelli risultanti erano più accurati e coerenti rispetto a quelli costruiti puramente sui dati. I modelli potevano spiegare perché veniva presa una decisione, tracciandola fino a fattori specifici, il che è fondamentale per i medici che devono fidarsi del sistema.

Una parte critica di questo lavoro è stata misurare quanto spesso l'intelligenza artificiale sbagliava se lasciata a se stessa. I ricercatori hanno creato simulazioni in cui hanno confrontato le decisioni di un esperto umano con le ipotesi di un'intelligenza artificiale. Hanno scoperto che, sebbene il tasso di errore complessivo potesse sembrare piccolo, gli errori erano concentrati nei casi più importanti. Quando l'esperto avrebbe detto "sì" a un progetto, l'intelligenza artificiale spesso diceva "no", perdendo l'opportunità interamente. In alcune simulazioni, il tasso di errore per queste opportunità mancate si avvicinava al 100 percento. Ciò ha rivelato che il pericolo dell'allucinazione non è solo fare errori casuali; si tratta di fallire sistematicamente nel riconoscere i casi rari e di alto valore che richiedono una conoscenza specifica e non scritta.

I ricercatori sostengono che la soluzione non sia cercare di rendere l'intelligenza artificiale più simile a un essere umano, ma usare l'intelligenza artificiale per aiutare gli umani a codificare il proprio pensiero. La macchina è eccellente nel generare elenchi di fattori, nell'organizzarli in gruppi logici e nel controllare la coerenza. È terribile nel sapere cosa sia importante per un team o un'organizzazione specifica. Combinando i due, si crea uno strumento di supporto decisionale che è sia computazionalmente efficiente che radicato nella reale competenza umana. L'intelligenza artificiale gestisce il lavoro pesante di struttura e organizzazione, mentre l'umano fornisce i valori specifici e la logica che rendono significativa la decisione.

Questo approccio aiuta anche a prevenire un rischio sottile noto come omogeneizzazione cognitiva, in cui tutti iniziano a prendere decisioni nello stesso modo perché utilizzano tutti la stessa intelligenza artificiale. Se un'organizzazione si affida esclusivamente a un modello generico, potrebbe perdere la propria prospettiva unica e le intuizioni specifiche derivanti dalla propria esperienza. Costruendo il proprio Modello Mentale dell'Esperto, un'organizzazione preserva il proprio modo distintivo di pensare. Il modello diventa un registro portabile della loro saggezza collettiva, sopravvivendo anche se gli esperti che lo hanno creato lasciano l'organizzazione. Garantisce che il processo decisionale rimanga trasparente e responsabile, piuttosto che una scatola nera che produce risposte che nessuno può spiegare.

Lo studio non pretende di aver risolto ogni problema. Il metodo funziona meglio quando la logica decisionale segue il principio per cui migliorare una situazione non rende mai l'esito peggiore. Richiede inoltre che gli esperti siano disposti a dedicare tempo ad articolare i propri pensieri, il che può essere una sfida. In alcuni casi, gli esperti potrebbero avere difficoltà a rispondere a domande astratte senza vedere i dettagli specifici, e il sistema deve essere abbastanza flessibile da gestire tale incertezza. Inoltre, sebbene il metodo sia stato testato in simulazioni e revisionato rispetto a studi passati, i ricercatori riconoscono che sono necessari ulteriori test nel mondo reale per vedere come si comporta in contesti clinici reali o con vere proposte di sovvenzione.

Nonostante queste limitazioni, i risultati offrono una via chiara per l'uso dell'intelligenza artificiale in campi critici. La chiave di volta è che la macchina non deve essere il decisore. Inveve, deve essere l'architetto del processo decisionale, aiutando a costruire una struttura che catturi accuratamente il giudizio umano. In questo modo, evita la trappola dell'allucinazione e fornisce uno strumento che è sia potente che affidabile. Il risultato è un sistema che non sostituisce l'esperto, ma ne amplifica la capacità di prendere decisioni solide, coerenti e spiegabili, anche di fronte a situazioni complesse e incerte.