Riepilogo Tecnico: Eluna – Un Sistema LLM Agente per l'Automazione delle Operazioni di Magazzino

Definizione del Problema

Le moderne operazioni di magazzino si affidano a Procedure Operative Standard (SOP) che codificano una logica decisionale complessa e multi-sistema. Questi flussi di lavoro, come la diagnosi della conveyance robotica o l'elaborazione dei ticket di inventario, richiedono un rigoroso rispetto dei vincoli procedurali, soglie quantitative e un ragionamento multi-step attraverso decine di sistemi. L'esecuzione attuale è spesso manuale, lenta e soggetta a errori, portando a un degrado del throughput.

Sebbene i Large Language Models (LLM) dimostrino forti capacità di ragionamento, gli attuali framework agentici (es. ReAct, Reflexion) faticano con la conformità alle SOP. Essi si affidano a promptamente strutturati che mancano di meccanismi per imporre vincoli procedurali deterministici, causando la deviazione dei modelli capaci dai percorsi decisionali prescritti. Un collo di bottiglia primario è il sovraccarico di contesto (context overload): quando le specifiche complete delle SOP vengono presentate al modello, le prestazioni degradano poiché i workflow complessi sovraccaricano la capacità del modello di selezionare azioni rilevanti. Questo plateau delle prestazioni persiste indipendentemente dalla scala del modello, e il solo prompting è insufficiente senza un addestramento specifico per il dominio.

Metodologia: Il Framework Eluna

Eluna è un sistema multi-agente guidato da grafi e distribuito in produzione, progettato per garantire un'esecuzione affidabile delle SOP. Affronta il sovraccarico di contesto e la generalità dei casi d'uso attraverso tre componenti architettoniche core:

1. Rappresentazione delle SOP guidata da Grafi e Divulgazione Progressiva

Le SOP sono codificate come Grafi Aciclici Diretti (DAG) contenenti cinque tipi di nodi: osservazioni, cause radici, calcoli, vincoli e azioni.

• Divulgazione Progressiva: Invece di presentare l'intero grafo, il sistema divulga il grafo in due livelli:
  1. Uno strumento di retrieval esegue una ricerca in ampiezza (Breadth-First Search - BFS) dal nodo attivato per restituire solo il sottografo raggiungibile (struttura e brevi descrizioni).
  2. Le specifiche procedurali complete (logica di valutazione, chiamate a strumenti, soglie) per un nodo specifico vengono recuperate solo quando l'agente inizia a valutare quel nodo.
• Questo approccio limita il contesto di lavoro a un singolo nodo alla volta, impedendo all'agente di gonfiare i rami o esplorare sottoalberi irrilevanti.

2. Architettura Multi-Agente Gerarchica

Eluna impiega una gerarchia a due livelli per gestire la complessità e il parallelismo:

• Agente Principale (Orchestratore): Detiene il sottografo recuperato, seleziona i nodi successivi da valutare in base alle dipendenze degli archi ed emette chiamate di delega. Mantiene lo stato a livello di grafo per la sequenziazione e il controllo dei vincoli.
• Sotto-Agenti Paralleli: Sotto-agenti indipendenti vengono delegati per valutare nodi specifici in parallelo. Ogni sotto-agente opera in un contesto isolato contenente solo la specifica del nodo assegnato, le istruzioni di ruolo e gli strumenti.
• Ecosistema di Strumenti: I sotto-agenti utilizzano un interprete di codice persistente (paradigma CodeAct) per la manipolazione dei dati e il Model Context Protocol (MCP) per l'accesso ai dati in tempo reale. Solo conclusioni strutturate vengono restituite all'agente principale, prevenendo il bloat del contesto.

3. Packaging delle Competenze (Skill Packaging)

Per evitare conflitti nello spazio degli strumenti e il sovraccarico di contesto derivante dal caricamento simultaneo di tutti i casi d'uso, ogni workflow è confezionato come una Skill autonoma. Una skill include il grafo decisionale, strumenti specifici, specifiche dei nodi, funzioni CodeAct e istruzioni di esecuzione. Le skill vengono caricate su richiesta al runtime, permettendo allo stesso motore di agenti di servire diversi casi d'uso operativi.

4. Strategia di Addestramento: Distillazione Episodica Asimmetrica

Riconoscendo che il solo prompting non è sufficiente, Eluna utilizza una pipeline di addestramento centrata sulle traiettorie:

• Miglioramento della Traiettoria del Teacher: Un modello teacher forte genera traiettorie all'interno del framework. L'Apprendimento Episodico (Episodic Learning) corregge iterativamente gli errori del teacher utilizzando la memoria e la riflessione senza aggiornare i pesi del modello.
• Distillazione Asimmetrica: Un modello student più piccolo e a bassa latenza viene sottoposto a fine-tuning sulle traiettorie corrette. Fondamentalmente, la memoria episodica viene rimossa durante l'addestramento e l'inferenza dello student. Lo student deve interiorizzare le correzioni nei suoi pesi piuttosto che fare affidamento sulla memoria a runtime. Ciò elimina la dipendenza dalla memoria e l'overhead durante l'inferenza.
• Elaborazione dei Dati: Le traiettorie sono scomposte turno per turno, e il campionamento per rifiuto (rejection sampling) con un LLM judge filtra la correttezza prima del fine-tuning.

Contributi Chiave

Il documento delinea tre contributi primari:

1. Un Framework basato su Skill e guidato da Grafi: Codifica le SOP come DAG con divulgazione progressiva e utilizza l'esecuzione multi-agente gerarchica con delega di sotto-agenti paralleli per ottenere un ragionamento scalabile e conforme alle procedure.
2. Pipeline di Distillazione Episodica Asimmetrica: Un metodo di addestramento in cui l'apprendimento episodico migliora le traiettorie del teacher, e uno student model viene sottoposto a fine-tuning su queste traiettorie corrette e prive di memoria, interiorizzando la logica procedurale senza overhead di memoria a runtime.
3. Prestazioni nel Mondo Reale: Dimostra che un modello da 32B sottoposto a fine-tuning supera i baseline off-the-shelf (OTS) più grandi e eguaglia un modello teacher molto più grande su benchmark operativi e applicazioni in produzione.

Risultati Sperimentali

Benchmark di Ragionamento Operativo

Valutato su un benchmark di 13 task che coprono capacità quali l'analisi della catena causale, il rilevamento dei trend metrici e la sintesi della conoscenza cross-sistema:

• Eluna-G (fine-tuned GLM-4.5-Air) ed Eluna-Q (fine-tuned Qwen3-32B) hanno migliorato la performance media rispettivamente del +6,5% e del +6,0% rispetto al baseline GLM-4.5-Air.
• Qwen3-32B OTS ha performato il 38,0% peggio rispetto al baseline, evidenziando la necessità di un addestramento specifico per il dominio.
• Eluna-Q, nonostante sia un'architettura diversa e più piccola del teacher (GLM-4.7), ha eguagliato le prestazioni del teacher, dimostrando un efficace trasferimento del ragionamento operativo tra famiglie di modelli.

Applicazioni in Produzione

1. Conveyance Robotica (Critica per la Latenza):

   • Il sistema ha elaborato circa 8.000 trigger in produzione.
   • I modelli fine-tuned hanno migliorato la correttezza binaria delle osservazioni di >49% e la correttezza della causa radice di >73% rispetto al baseline.
   • I tassi di corrispondenza esatta sono migliorati di +165% per le azioni.
   • La latenza mediana di esecuzione è stata ridotta di circa il 54% rispetto al grande modello teacher, rispettando gli SLA diagnostici in tempo reale.
   • Le revisioni degli esperti (SME) hanno indicato una quasi perfetta aderenza alle SOP, con errori attribuiti a lacune nelle specifiche delle SOP piuttosto che al ragionamento dell'agente.

2. Elaborazione Ticket (Ragionamento Complesso):

   • Applicato a una SOP di consolidamento dell'inventario a 46 nodi.
   • Un modello da 355B sottoposto a fine-tuning (Eluna-G-XL) ha raggiunto una correttezza stimata del 94,4% rispetto alle annotazioni degli esperti.
   • Il sistema ha automatizzato il triage digitale per i ticket che precedentemente richiedevano circa 6 minuti di elaborazione manuale, con un tempo di generazione mediano di 187 secondi.

Studi di Ablazione

Gli esperimenti hanno confermato che la distillazione asimmetrica è critica. Applicando l'apprendimento episodico (EL) solo al teacher, si sono ottenuti guadagni significativi (+16,2% a +28,6%). Tuttavia, addestrando lo student con EL ma rimuovendolo all'inferenza, si è verificato un crollo catastrofico delle prestazioni (−52,7%), provando che la conoscenza episodica deve essere interiorizzata nei pesi piuttosto che esposta come una dipendenza di runtime fragile.

Significato e Rivendicazioni

Il documento afferma che Eluna dimostra due lezioni generalizzabili per il deployment di sistemi agentici in produzione:

1. La Distillazione Batte la Scala per la Conformità: All'interno di un framework guidato da grafi, un modello da 32B sottoposto a fine-tuning può eguagliare un teacher significativamente più grande e superare tutti i modelli off-the-shelf testati. Le prestazioni dei modelli OTS raggiungono un plateau indipendentemente dalle dimensioni, mentre l'addestramento su traiettorie strutturate produce risultati superiori.
2. I Vincoli di Latenza Guidano l'Architettura: La necessità di un'inferenza a bassa latenza sotto gli SLA di produzione ha reso necessaria l'architettura di distillazione asimmetrica. Fare affidamento sulla memoria episodica all'inferenza si è rivelato una dipendenza fragile piuttosto che un puro guadagno di accuratezza.

Gli autori notano che gli errori residui nel sistema derivano da lacune nelle specifiche delle SOP e nella qualità dei dati a monte, identificando l'autoria delle SOP e la pipeline di integrità dei dati come il prossimo collo di bottiglia per l'automazione operativa affidabile. Il sistema è attualmente distribuito in due domini operativi, mentre la validazione empirica del trasferimento in ambienti sostanzialmente diversi rimane da completare.