COMPASS: The explainable agentic framework for Sovereignty, Sustainability, Compliance, and Ethics

Each language version is independently generated for its own context, not a direct translation.

Immagina di voler costruire un robot molto intelligente (un "agente AI") capace di fare compiti complessi per noi, come gestire le finanze di un'azienda o rispondere alle domande dei clienti. Il problema è: se questo robot è troppo libero, potrebbe fare cose che violano le leggi, sprecano troppa energia, rubano i dati o sono semplicemente scorretti.

Il paper introduce COMPASS non come un semplice robot, ma come un sistema di navigazione e controllo per questi agenti. Ecco come funziona, usando delle metafore quotidiane.

1. Il Problema: Il Robot Senza Bussola

Attualmente, molti robot AI sono come automobili sportive senza freni e senza mappa. Sono velocissimi e fanno tutto, ma potrebbero:

Guidare in un paese dove non hanno il permesso (mancanza di Sovranità Digitale).
Consumare benzina a palate, inquinando l'ambiente (Sostenibilità Ambientale).
Ignorare il codice della strada locale (Conformità Legale).
Comportarsi in modo scortese o ingiusto (Etica).

Spesso, queste regole si scontrano. Ad esempio, la legge di un paese potrebbe richiedere che i dati rimangano lì (Sovranità), ma l'unico server locale è vecchio e consuma molta energia (Sostenibilità). Come fa il robot a decidere?

2. La Soluzione: COMPASS (La Bussola Magica)

COMPASS è un nuovo sistema che agisce come un controllore di volo in tempo reale per questi robot. Non aspetta che il robot finisca il lavoro per dirgli "bravo" o "brutto" (come fanno i controlli a terra dopo il volo). Invece, interviene mentre il robot sta pensando.

Il sistema è composto da un Capo (l'Orchestratore) e 4 Esperti Specializzati (i Sub-agent), ognuno con un compito preciso:

L'Esperto di Sovranità (Il Custode dei Confini): Controlla che i dati non escano dal paese e che la tecnologia usata sia locale o sicura. È come un doganiere che controlla i passaporti.
L'Esperto di Sostenibilità (Il Guardiano dell'Energia): Calcola quanta "benzina" (energia elettrica) sta consumando il robot. Se il compito è troppo pesante, suggerisce di farlo in modo più leggero.
L'Esperto di Leggi (L'Avvocato): Legge le regole del paese in cui il robot sta operando (es. le leggi canadesi o europee) e assicura che nessuno le infranga.
L'Esperto di Etica (Il Giudice Morale): Si assicura che le azioni siano giuste, eque e rispettose delle persone.

3. Come Funziona la Magia: Il "Libro delle Regole" (RAG)

C'è un trucco fondamentale. Questi esperti non si basano solo sulla loro "memoria" (che potrebbe essere vecchia o sbagliata, come un robot che allucina cose).
Ogni esperto ha accesso a un enorme archivio digitale aggiornato (chiamato RAG).

Metafora: Immagina che l'Esperto di Leggi non debba ricordare a memoria tutte le leggi, ma possa consultare istantaneamente il codice civile aggiornato di oggi.
Quando il robot vuole fare qualcosa, gli esperti consultano questo archivio, leggono i documenti veri e dicono: "Ok, questa azione va bene perché è scritta a pagina 45 del documento X". Questo evita che il robot inventi regole che non esistono.

4. Il Giudice AI (LLM-as-a-Judge)

Come fa il sistema a decidere se un'azione è buona o cattiva? Usa un altro Intelligenza Artificiale che funge da Giudice.

Il Giudice legge la proposta del robot, controlla i pareri dei 4 esperti e assegna un punteggio (da 0 a 100) e una spiegazione chiara.
Esempio: "Ho dato un punteggio di 80/100. L'azione è etica, ma consuma troppa energia per il server locale. Ti consiglio di aspettare un'ora quando l'energia è più pulita."

5. Il Risultato: Un Robot Responsabile

Grazie a COMPASS, il robot finale non è più un "selvaggio". È un cittadino modello:

Rispetta le leggi del posto.
Non spreca energia.
Protegge i dati.
Agisce in modo etico.

Se c'è un conflitto (es. "Devo usare un server locale per la legge, ma consuma troppa energia"), il sistema COMPASS trova il compromesso migliore o avvisa l'utente, invece di ignorare il problema.

In Sintesi

Il paper COMPASS ci dice che non basta creare robot intelligenti; dobbiamo creare robot consapevoli.
È come passare da un'automobile guidata da un bambino che preme l'acceleratore a caso, a un'auto con un co-pilota esperto che controlla la mappa, il carburante, le leggi stradali e il comportamento, assicurandosi che il viaggio arrivi a destinazione in modo sicuro, legale e rispettoso dell'ambiente.

Il futuro: Gli autori dicono che ora hanno costruito la bussola e i sensori. Nel futuro, vorranno aggiungere la capacità di far girare l'auto da soli in modo sicuro, e far controllare tutto anche da esseri umani per essere sicuri al 100%.

Each language version is independently generated for its own context, not a direct translation.

1. Il Problema

La rapida proliferazione di sistemi agentic basati su Large Language Models (LLM) solleva preoccupazioni critiche riguardanti quattro dimensioni fondamentali che spesso entrano in conflitto tra loro:

Sovranità Digitale: La dipendenza tecnologica da fornitori esteri e la mancanza di controllo su infrastrutture e dati.
Sostenibilità Ambientale: L'impatto energetico e le emissioni di carbonio, specialmente durante la fase di inferenza e ragionamento iterativo degli agenti.
Conformità Normativa (Compliance): La necessità di aderire a quadri legislativi locali eterogenei (es. AIDA in Canada, AI Act in UE) che variano geograficamente.
Etica: L'allineamento dei valori operativi con principi quali equità, privacy e benessere, andando oltre il semplice rispetto delle leggi.

I framework esistenti tendono ad affrontare queste dimensioni in isolamento o tramite audit post-hoc (dopo l'esecuzione), senza un'architettura unificata che integri sistematicamente questi imperativi nei processi decisionali degli agenti autonomi in tempo reale.

2. Metodologia: Il Framework COMPASS

Il paper introduce COMPASS (Compliance and Orchestration for Multi-dimensional Principles in Autonomous Systems with Sovereignty), un sistema di orchestrazione multi-agente progettato per garantire un'IA allineata ai valori attraverso meccanismi di governance modulari ed estensibili.

Architettura del Sistema

Il framework si basa su un'architettura a composizione (Composition Pattern) piuttosto che su un hard-coding rigido:

Orchestrator (Agente Sincronizzatore): È il componente centrale che intercetta l'intento dell'utente prima dell'esecuzione. Non genera una risposta immediata, ma distribuisce la richiesta a quattro sub-agenti specializzati.
Quattro Sub-Agenti Specializzati:
1. Sovranità Digitale: Valuta la localizzazione dei dati, l'origine del fornitore e il controllo tecnologico.
2. Carbon-Aware Computing: Analizza l'intensità energetica e l'impronta di carbonio.
3. Compliance AI: Verifica la conformità alle leggi locali e nazionali.
4. Etica AI: Valuta l'allineamento con principi etici operativi.
Integrazione RAG (Retrieval-Augmented Generation): Ogni sub-agente utilizza RAG per interrogare basi di conoscenza dinamiche (Vector DB) contenenti documenti verificati e contestuali (es. testi di legge, report energetici, dichiarazioni etiche). Questo "ancoraggio" riduce il rischio di allucinazioni.
Sintesi e Risoluzione dei Conflitti: Gli agenti restituiscono vincoli e punteggi quantitativi. L'Orchestratore aggrega questi input, identifica conflitti (es. un'azione sovrana ma ad alto consumo energetico) e applica un meccanismo di punteggio ponderato per generare un'azione finale ottimizzata che soddisfi le soglie critiche di tutte e quattro le dimensioni.

Tecnica "LLM-as-a-Judge"

Il sistema impiega un LLM (nel caso di studio, Mistral-7B-Instruct-v0.2) come giudice automatizzato.

Il modello riceve prompt di sistema e utente contenenti criteri di valutazione specifici e i dati recuperati via RAG.
Produce un punteggio numerico (scala 0.0 - 1.0) e una giustificazione testuale spiegabile in formato JSON.
L'uso di RAG personalizza il giudizio in base ai valori definiti dall'utente e al contesto geografico di deployment.

Design Estensibile

Il framework è progettato per essere ereditato. Gli agenti applicativi concreti (es. un bot bancario o un sistema HR) estendono la classe base Orchestrator, ereditando automaticamente i metodi di sincronizzazione e controllo etico, rendendo tecnicamente impossibile bypassare i controlli di sovranità o etica a livello di applicazione.

3. Risultati Sperimentali

Gli esperimenti hanno valutato le capacità dei quattro sub-agenti confrontando le prestazioni con e senza l'integrazione RAG.

Metriche Utilizzate:
- Punteggio (Score): Valutazione quantitativa assegnata dal LLM-as-a-Judge.
- $\Delta$ Score: Variazione tra il punteggio senza RAG e con RAG.
- Similarità (BERTScore): Misura della coerenza semantica tra le spiegazioni generate dal modello con e senza RAG, rispetto a un riferimento.
Principali Findings:
- Miglioramento della Coerenza Semantica: L'integrazione di RAG ha significativamente aumentato la coerenza semantica delle spiegazioni (misurata tramite BERTScore), con valori di similarità che oscillano tra il 67% e il 90% a seconda della categoria.
- Riduzione delle Allucinazioni: Senza RAG, il modello tendeva a generare giustificazioni generiche o allucinazioni su normative locali inesistenti. Con RAG, le valutazioni sono basate su documenti verificati.
- Variazione dei Punteggi: In molti casi (es. Sovranità Digitale), l'aggiunta di RAG ha modificato i punteggi (es. da 0.25 a 0.50), dimostrando che l'accesso a informazioni contestuali specifiche cambia la valutazione della conformità.
- Visualizzazione: Il sistema genera grafici a barre e radar per visualizzare il compromesso tra le diverse dimensioni (es. un'azione potrebbe essere etica ma poco sostenibile energeticamente).

4. Contributi Chiave

Orchestrazione in Tempo Reale: A differenza dei sistemi di audit post-deployment, COMPASS interviene prima dell'esecuzione, mediando tra intento utente e conformità normativa/etica.
Architettura Multi-Dimensionale Unificata: È il primo framework che integra simultaneamente Sovranità, Sostenibilità, Compliance ed Etica in un unico flusso decisionale.
Grounding Dinamico tramite RAG: Sposta la valutazione da un approccio probabilistico basato sui pesi del modello a un approccio basato su evidenze documentali aggiornate.
Design "Governance by Design": Attraverso l'ereditarietà delle classi, garantisce che qualsiasi agente derivato sia intrinsecamente allineato ai principi del framework, rendendo il bypass dei controlli impossibile a livello di codice.
Spiegabilità (Explainability): Fornisce non solo un punteggio, ma una giustificazione testuale dettagliata e tracciabile per ogni decisione.

5. Significato e Limiti

Significato:
Il framework COMPASS fornisce una base metodologica robusta per il dispiegamento responsabile dell'IA. Dimostra che è possibile integrare vincoli normativi ed etici complessi direttamente nell'architettura degli agenti autonomi, facilitando l'adozione sociale dell'IA in settori sensibili (sanità, pubblica amministrazione) dove la fiducia e la conformità sono critiche.

Limiti e Lavori Futuri:

Validazione Umana: Lo studio attuale si basa esclusivamente su valutazioni automatizzate (LLM-as-a-Judge). Manca una validazione "Human-in-the-loop" per confermare l'affidabilità rispetto al consenso degli esperti.
Selezione delle Azioni: Attualmente il sistema genera punteggi e spiegazioni, ma la capacità di selezionare e eseguire attivamente azioni correttive (es. cambiare modello LLM, bloccare una richiesta) è ancora in fase di sviluppo.
Gestione dei Conflitti: La risoluzione di conflitti complessi (es. sovranità dei dati vs. efficienza energetica) richiede strategie di orchestrazione più sofisticate.
Analisi a Livello di Codice: Il futuro lavoro includerà l'estensione dell'analisi etica al codice sorgente degli agenti stessi, non solo all'output testuale.

In sintesi, COMPASS rappresenta un passo fondamentale verso l'armonizzazione dell'autonomia operativa degli agenti AI con i vincoli normativi ed etici necessari per una società digitale sostenibile e sovrana.