Self-evolving Agentic Customer Support System at LinkedIn
LinkedIn presenta un sistema di assistenza clienti agente auto-evolvente che combina la generazione aumentata dal recupero con l'auto-prompting evolutivo e un framework di valutazione modulare per ottenere miglioramenti continui e sicuri senza riaddestrare i modelli di fondazione, risultando in guadagni significativi nella risoluzione self-serve e nell'accuratezza del routing durante i test A/B in produzione.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di cercare di insegnare a un robot come essere il perfetto agente di assistenza clienti per un'azienda enorme e in continuo mutamento. Potresti pensare: "Dagli semplicemente un grande cervello e un libro di regole!". Ma ecco il problema: i prodotti, le regole e persino il linguaggio utilizzati dall'azienda cambiano ogni singolo giorno. Se dessi al robot solo un libro di regole statico, si confonderebbe rapidamente, inizierebbe a inventare cose o a dare consigli obsoleti. Questo è il problema dell'IA "statica" in un mondo dinamico. Per risolverlo, gli scienziati stanno sperimentando alcune idee chiave. Primo, c'è la Generazione Aumentata dalla Recupero (RAG), che è come dare al robot una tessera della biblioteca affinché possa cercare fatti in un database invece di indovinare dalla sua memoria. Secondo, c'è il Prompt Engineering, ovvero l'arte di scrivere il set perfetto di istruzioni (un "prompt") per dire al robot come pensare e agire. Infine, c'è la Ricerca Evolutiva, un metodo ispirato alla natura dove si creano molte versioni leggermente diverse di una soluzione, le si testa e si tengono le migliori per creare la generazione successiva. La grande domanda che i ricercatori si pongono è: possiamo combinare questi strumenti per costruire un agente IA che non si limiti a seguire le regole, ma che in realtà impari e si migliori automaticamente man mano che il mondo cambia, senza che un essere umano debba riscrivere il suo codice ogni settimana?
Questo è esattamente ciò che il team di LinkedIn si è proposto di costruire: un Sistema di Assistenza Clienti Agente Auto-Evolutivo. Pensatelo come a un robot del servizio clienti che ha un "coach" e una "palestra" integrati. Invece di un ingegnere umano che passa settimane a perfezionare le istruzioni del robot, il sistema esegue un ciclo continuo di formazione, test e aggiornamento di se stesso.
Ecco come avviene la magia. Il sistema tratta le istruzioni del robot (il "prompt") come un organismo vivente. Utilizza un Motore di Auto-Prompt che funge da algoritmo genetico. Immaginate un coach che scrive 100 versioni leggermente diverse di un manuale per il robot. Il robot le prova tutte su domande di pratica. Il coach utilizza poi un team di robot "giudici" per valutare la prestazione. I migliori manuali vengono mescolati (crossover) e leggermente modificati (mutazione) per creare una nuova generazione di istruzioni più intelligenti. Questo avviene automaticamente, ancora e ancora, garantendo che le istruzioni del robot rimangano perfette anche quando i prodotti di LinkedIn cambiano.
Fondamentalmente, questo robot non si limita a indovinare le risposte. È dotato di uno strumento RAG che può scegliere di utilizzare. Quando un utente pone una domanda, il robot decide: "Lo so già, o devo cercarlo?". Se deve cercarlo, interroga una versione datata della libreria di articoli di aiuto e documenti di prodotto. Questo evita che il robot abbia "allucinazioni" (inventare cose). Infatti, nei loro test, questo robot intelligente ha avuto allucinazioni meno dello 0,1% delle volte, rispetto a circa il 5-6% dei sistemi standard che si limitano a leggere un documento e indovinare.
Il team non si è limitato a costruire questo sistema; lo ha testato nel mondo reale. Hanno condotto un esperimento di due settimane in cui metà degli utenti reali di LinkedIn ha utilizzato il vecchio robot statico e l'altra metà ha utilizzato il nuovo robot auto-evolutivo. I risultati sono stati una vittoria enorme per il nuovo sistema. Il robot auto-evolutivo ha aiutato gli utenti a risolvere i propri problemi senza bisogno di un agente umano 9,0 punti percentuali in più. Ha anche aiutato gli utenti a cancellare gli abbonamenti autonomamente 4,8 punti percentuali in più. Forse in modo ancora più impressionante, è diventato molto più bravo a capire a quale dipartimento umano un utente dovesse rivolgersi, migliorando l'accuratezza del routing di 30,6 punti percentuali.
Il documento chiarisce che questo non è un bacchetta magica che risolve tutto. Il sistema dipende comunque dal fatto di avere buone informazioni nella propria libreria; se la libreria non ha la risposta, il robot non la inventerà. Inoltre, il processo di "evoluzione" richiede tempo e potenza di calcolo, operando su un ciclo settimanale piuttosto che istantaneo. Ma lo studio dimostra un punto vitale: trattando i prompt, il recupero e la valutazione come un ciclo chiuso e controllato da versioni, possiamo costruire agenti IA che non restano lì ad invecchiare. Possono crescere, adattarsi e diventare più intelligenti da soli, tenendo il passo con il mondo frenetico del supporto aziendale.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.