💻 computer science

A Unified Framework for Human AI Collaboration in Security Operations Centers with Trusted Autonomy

Questo articolo propone un nuovo framework strutturato a livelli per la collaborazione uomo-IA nei Security Operations Center che mappa dinamicamente cinque livelli di autonomia dell'IA su specifici ruoli di Human-in-the-Loop e soglie di fiducia, abilitando così un processo decisionale adattivo e spiegabile che potenzia piuttosto che sostituire la supervisione umana nella difesa cibernetica.

Autori originali: Ahmad Mohsin, Helge Janicke, Ahmed Ibrahim, Iqbal H. Sarker, Seyit Camtepe

Pubblicato 2026-08-05

📖 7 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Ahmad Mohsin, Helge Janicke, Ahmed Ibrahim, Iqbal H. Sarker, Seyit Camtepe

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immaginate l'internet come una città gigantesca e frenetica, dove i dati scorrono come il traffico e le persone vivono in case digitali. In questa città, ci sono sempre dei malintenzionati che cercano di scassinare case, rubare posta o causare il caos. Per tenere tutti al sicuro, abbiamo delle speciali stazioni di polizia chiamate Security Operations Centers (SOC). Questi non sono solo stanze con dei computer; sono centri di comando dove squadre di detective umani osservano schermi, analizzano indizi e fermano i criminali informatici prima che possano causare danni reali. Ma ecco il problema: la città sta diventando più grande, e i cattivi stanno diventando più intelligenti, veloci e furtivi. Le stazioni di polizia stanno annegando in un'alluvione di allarmi — migliaia ogni singolo giorno. La maggior parte di questi allarmi è falsa, come un rilevatore di fumo che scatta perché qualcuno ha bruciato del pane tostato, ma i detective devono controllare ognuno di essi. Questo porta alla "alert fatigue" (affaticamento da allerta), dove gli umani si stancano e si sentano sopraffatti al punto da poter perdere l'incendio vero e proprio.

Per risolvere questo problema, abbiamo iniziato a portare dei robot aiutanti alimentati dall'Intelligenza Artificiale (IA). Questi robot possono scansionare milioni di indizi in una frazione di secondo, molto più velocemente di qualsiasi essere umano. Ma c'è un trucco: se lasciamo che i robot gestiscano tutto il gioco, potrebbero commettere errori che non comprendiamo, o potrebbero essere ingannati da hacker astuti. Se non li lasciamo aiutare abbastanza, torniamo a essere sopraffatti. Quindi, la grande domanda per gli scienziati è: Come possiamo costruire una collaborazione perfetta dove i detective umani e i robot IA si fidino l'uno dell'altro, sappiano esattamente chi sta facendo cosa e lavorino insieme senza che nessuno finisca in burnout o commetta un errore enorme? Questo è il puzzle che un team di ricercatori australiani si è posto l'obiettivo di risolvere.

La Grande Idea del Documento: Una Guida per la Collaborazione tra Umani e Detective Robot

Il documento che state leggendo, intitolato "A Unified Framework for Human–AI Collaboration in Security Operations Centers with Trusted Autonomy", è essenzialmente un libro di regole per costruire quel team perfetto. Gli autori, Ahmad Mohsin e i suoi colleghi, sostengono che non possiamo semplicemente applicare un'IA a un sistema di sicurezza sperando nel meglio. Invece, propongono un modo strutturato per mescolare il cervello umano con la velocità dei robot, basandosi su quanto ci fidiamo del robot e su quanto sia complicoso il lavoro.

Pensatelo come l'insegnare a un nuovo studente guida. Non permetereste a un principiante di guidare su un'autostrada trafficata il suo primissimo giorno (sarebbe troppo rischioso). Iniziate in un parcheggio vuoto (Livello 1: L'IA aiuta, ma l'umano tiene il volante). Man mano che migliorano e vi fidate di più di loro, li lasciate guidare su strade tranquille (Livello 2: L'IA guida, ma l'umano osserva attentamente). Infine, se dimostrano di essere eccezionali e la strada è sicura, potreste lasciarli guidare da soli mentre voi fate un pisolino sul sedile posteriore (Livello 4: L'IA è completamente al comando).

Il documento suggerisce che i centri di sicurezza dovrebbero usare questo stesso sistema di "salire di livello". Hanno creato un framework con cinque livelli di autonomia (quanto l'IA è indipendente):

Livello 0: L'umano fa tutto. L'IA è solo uno strumento, come una calcolatrice.
Livello 1: L'IA suggerisce cosa fare, ma l'umano deve dire "sì" prima che accada qualcosa.
Livello 2: L'IA gestisce i compiti di routine automaticamente ma chiede il permesso prima di fare qualsiasi cosa importante.
Livello 3: L'IA fa la maggior parte delle cose da sola, e l'umano interviene solo se succede qualcosa di strano o pericoloso.
Livello 4: L'IA gestisce l'intero show per le attività di routine, e l'umano controlla solo i rapporti in un secondo momento.

La chiave di questo sistema è la Fiducia. Il documento spiega che non si può dare le chiavi al robot immediatamente. La fiducia si costruisce nel tempo, come un'amicizia. Se l'IA prende buone decisioni e spiega perché le ha prese (così l'umano capisce), l'umano si fida di più, e l'IA può svolgere più lavoro. Se l'IA è una "scatola nera" che non si spiega, l'umano mantiene il controllo e il robot fa meno lavoro.

Il Test Drive dell' "Avatar Robot"

Per vedere se la loro idea funziona davvero, i ricercatori non si sono limitati alla teoria; hanno costruito un test. Hanno creato un "cyber range" simulato, che è come un mondo di un videogioco progettato per sembrare esattamente la rete informatica di una vera azienda. In questo gioco, hanno impostato un team di detective umani e un assistente speciale IA chiamato CyberAlly. CyberAlly era un cervello robotico super intelligente (basato su un tipo di IA chiamata Large Language Model) che era stato addestrato su due anni di falsi attacchi informatici e dati di sicurezza.

Hanno eseguito una serie di "wargames" in cui un team di hacker (il Red Team) cercava di violare il sistema, e il team umano-IA (il Blue Team) cercava di fermarli. Gli scenari erano realistici, coinvolgendo cose come hacker che cercavano di manomettere i sensori che controllano la profondità di una nave o di bloccare un treno che trasporta rifornimenti.

Ecco cosa è successo nella simulazione:

L'IA ha aiutato a filtrare il rumore: All'inizio, l'IA ha agito come un assistente di Livello 1. Ha guardato migliaia di avvisi e ha detto agli umani: "Ehi, il 70% di questi sono solo falsi allarmi, ignorateli". Questo ha reso istantaneamente il lavoro degli umani più facile.
Il team è diventato più veloce: Quando gli hacker hanno attaccato, l'IA ha aiutato gli umani a capire cosa stesse succedendo molto più velocemente. In un test, il tempo necessario per investigare su un problema è sceso da tre ore a solo un'ora. Si tratta di un miglioramento del 67%.
Il tempo di risposta è decollato: Quando si è trattato di fermare l'attacco (come bloccare un hacker cattivo o chiudere una porta), l'IA ha aiutato a ridurre il tempo necessario per risolvere il problema da 8 ore a 90 minuti.
La fiducia è cresciuta naturalmente: All'inizio, gli umani controllavano tutto ciò che l'IA diceva. Ma man mano che l'IA continuava a prendere decisioni corrette e a spiegare chiaramente il proprio ragionamento, gli umani hanno iniziato a fidarsi di più. Hanno lasciato che l'IA gestisse più compiti di routine automaticamente, liberandoli per concentrarsi sui problemi davvero difficili e complicati.

Cosa Significa per il Futuro

Il documento suggerisce che questo framework di "Autonomia Fidata" è un modo vincente per gestire il futuro della cybersecurity. Dimostra che non dobbiamo scegliere tra "solo umani" (che è troppo lento) e "solo robot" (che è troppo rischioso). Inveve, possiamo costruire una partnership dove il robot gestisce le cose noiose, veloci e ripetitive, e l'umano gestisce le decisioni complesse, spaventose e importanti.

I ricercatori hanno scoperto che, accoppiando attentamente l'indipendenza dell'IA con il livello di fiducia dell'umano, i team di sicurezza possono smettere di essere sopraffatti dai falsi allarmi e iniziare a catturare le minacce reali molto più velocemente. Lo hanno dimostrato nella loro simulazione, mostrando che l'affaticamento da allerta è diminuito e i tempi di risposta sono aumentati. Tuttavia, sono cauti nell'affermare che questo era un test in un ambiente finto. Sebbene i risultati siano molto promettenti, i centri di sicurezza del mondo reale hanno sistemi disordinati e complicati che potrebbero essere più difficili da sistemare rispetto a un videogioco.

In breve, questo documento ci fornisce un progetto per il futuro delle stazioni di polizia informatiche: un luogo in cui umani e IA sono migliori amici, ognuno facendo ciò per cui è più portato, lavorando insieme per mantenere sicura la nostra città digitale. Non si tratta di sostituire il detective umano con un robot; si tratta di dare al detective un compagno super-potenziato che non si stanca mai, non perde mai un indizio e sa sempre quando chiedere rinforzi.

Sintesi Tecnica: Un Framework Unificato per la Collaborazione Uomo-IA nei Security Operations Center con Autonomia Fidata

Definizione del Problema

I Security Operations Center (SOC) affrontano sfide operative critiche guidate dalla crescente sofisticazione delle minacce informatiche e dai limiti delle attuali strategie di automazione. Nonostante l'integrazione di strumenti di Security Information and Event Management (SIEM), Security Orchestration, Automation, and Response (SOAR) ed Endpoint Detection and Response (EDR), i SOC lottano con la fatica da allerta, gli alti tassi di falsi positivi (fino al 99% in alcuni studi) e il burnout degli analisti. Gli attuali framework si affidano spesso a impostazioni di autonomia statiche o binarie (completamente manuali o completamente automatizzate), non riuscendo a tenere conto della variabile complessità, criticità e rischio associati a diverse attività del SOC. Inoltre, gli approcci attuali mancano spesso di strutture sistematiche per gestire il processo decisionale Human-in-the-Loop (HITL), la calibrazione della fiducia e l'autonomia scalabile. Questa lacuna si traduce in flussi di lavoro inefficienti in cui gli analisti umani sono sopraffatti dal rumore, mentre i sistemi di IA mancano della necessaria supervisione per incidenti ad alto rischio, nuovi o ambigui.

Metodologia

Gli autori propongono un Framework di Collaborazione Unificato Uomo-IA basato su una relazione triadica tra Autonomia, Fiducia e coinvolgimento Human-in-the-Loop (HITL). La metodologia prevede tre componenti principali:

Modellazione Teorica di Autonomia e Fiducia:
- Autonomia ( $A$ ): Definita come un valore scalare $A \in [0, 1]$ , modellata come una funzione della complessità del compito ( $C$ ), del rischio ( $R$ ) e della fiducia ( $T$ ): $A = 1 - (\lambda_1 C + \lambda_2 R)(1 - T)$ . Questa equazione postula che l'autonomia diminuisca con l'aumentare della complessità e del rischio, ma aumenti con una maggiore fiducia.
- Coinvolgimento HITL ( $H$ ): Definito come l'inverso dell'autonomia ( $H = 1 - A$ ), che varia dal controllo umano totale alla piena autonomia dell'IA.
- Fiducia ( $T$ ): Modellata come una somma pesata di spiegabilità ( $E$ ), cronologia delle prestazioni ( $P$ ) e incertezza ( $U$ ): $T = \alpha_1 E + \alpha_2 P + \alpha_3(1 - U)$ .
Framework di Autonomia a Cinque Livelli:
Ispirandosi allo standard SAE J3016 per l'automazione dei veicoli, gli autori mappano le operazioni del SOC su cinque distinti livelli di autonomia (0–4), allineandoli ai livelli degli analisti SOC (Tier 1–4) e alle funzioni del NIST Cybersecurity Framework (Identify, Protect, Detect, Respond, Recover):
- Livello 0 (Manuale): Nessuna automazione; gli analisti gestiscono tutte le attività.
- Livello 1 (Assistito da IA): L'IA fornisce supporto decisionale (es. punteggio degli avvisi); gli umani mantengono il pieno controllo.
- Livello 2 (Semi-autonomo): L'IA esegue compiti di routine ma richiede l'approvazione esplicita di un umano per azioni critiche.
- Livello 3 (Condizionalmente autonomo): L'IA esegue compiti definiti autonomamente; gli umani supervisionano (Human-on-the-Loop) e intervengono solo per eccezioni.
- Livello 4 (Completamente autonomo): L'IA gestisce funzioni complete con una supervisione umana minima (Human-out-of-the-Loop), concentrandosi sulla governance e sull'audit.
Integrazione della Consapevolezza Situazionale (SA):
Il framework incorpora la SA come mediatore centrale, scomponendola in auto-consapevolezza (riconoscere i propri limiti), consapevolezza del compagno di squadra (comprendere ruoli e stati cognitivi) e consapevolezza del mondo (mantenere una visione coerente del panorama delle minacce). Ciò garantisce che gli insight dell'IA siano interpretati all'interno dei modelli mentali umani.
Validazione Empirica (Caso di Studio):
Il framework è stato validato utilizzando un cyber range simulato (ACDC Cyber Range) caratterizzato da un agente LLM (Large Language Model) raffinato chiamato CyberAlly. CyberAlly, dotato di Retrieval-Augmented Generation (RAG) e grafi di conoscenza, operava all'interno di un esercizio Red Team vs. Blue Team coinvolgente ambienti IT/OT (sistemi portuali marittimi). L'agente interagiva con SIEM (Wazuh), SOAR e analisti tramite un'interfaccia chat, progredendo attraverso i livelli di autonomia in base alla complessità dell'incidente e alla fiducia stabilita.

Contributi Chiave

Framework Triadico: Il documento formalizza l'interazione tra Autonomia, Fiducia e HITL, offrendo un approccio strutturato per l'allocazione dinamica dei compiti nei SOC.
Scala di Autonomia a Livelli: Introduce un modello di autonomia granulare a cinque livelli che va oltre l'automazione binaria, permettendo una delega adattiva basata sul rischio del compito e sulla fiducia dell'analista.
Allineamento dei Ruoli: Il framework mappa specifici tier di analisti SOC (Tier 1–4) ai corrispondenti livelli di autonomia e configurazioni HITL, chiarendo le responsabilità dal triage iniziale alla governance strategica.
Design del Workflow Operativo: Dettaglia i workflow collaborativi per la Gestione degli Alert, la Gestione delle Minacce e la Risposta e Recupero, dimostrando come l'IA e gli umani possano co-investigare e co-decidere.
Evidenza Empirica: Attraverso il caso di studio CyberAlly, il documento fornisce una dimostrazione pratica della fattibilità del framework, mostrando come un agente basato su LLM possa ridurre i falsi positivi e accelerare i tempi di risposta mantenendo la supervisione umana.

Risultati

Il caso di studio riguardante l'agente CyberAlly nel cyber range ACDC ha prodotto i seguenti risultati quantitativi e qualitativi:

Riduzione dei Falsi Positivi: L'agente IA ha ridotto gli avvisi falsi positivi dal 70% al 35%, migliorando significativamente il rapporto segnale-rumore.
Efficienza di Investigazione: I tempi di investigazione per incidenti complessi (es. uso improprio di credenziali, manipolazione OT) sono stati ridotti da 3 ore a 1 ora (un miglioramento del 67%).
Tempo di Risposta (MTTR): Il tempo medio di risposta è stato ridotto da 8 ore a 90 minuti (una riduzione dell'80%) in scenari specifici che coinvolgevano l'isolamento degli endpoint e il contenimento delle minacce.
Scala di Automazione: L'automazione dei ticket è aumentata dal 10% al 75% del totale degli incidenti.
Calibrazione della Fiducia: Lo studio ha dimostato che la fiducia non è statica; essa si è evoluta man mano che l'IA forniva giustificazioni spiegabili e prestazioni coerenti, permettendo una transizione graduale dal livello 1 (Full HITL) all'autonomia di livello 2/3 (Human-on-the-Loop).

Significato e Rivendicazioni

Il documento sostiene che la sua importanza primaria risieda nel fornire un approccio strutturato, scalabile e teoricamente fondato per integrare l'IA nei SOC senza sostituire l'esperienza umana. Affrontando la natura "black box" dell'IA e la rigidità dell'attuale automazione, il framework abilita i SOC Cognitivi dove l'IA agisce come un potenziamento affidabile del processo decisionale umano.

Gli autori affermano che il loro framework:

Colma il Divario: Collega i modelli teorici di autonomia e fiducia con l'implementazione pratica nei workflow del SOC.
Mitiga il Rischio: Calibrando l'autonomia in base alla fiducia e al rischio, previene il bias di automazione e garantisce la responsabilità per le decisioni critiche.
Aumenta la Resilienza: Permette ai SOC di scalare le operazioni e gestire il volume delle moderne minacce informatiche riducendo al contempo il burnout e il carico cognitivo degli analisti.
Facilita l'Evoluzione: Il framework supporta la transizione da SOC reattivi e basati su regole a centri di operazioni di sicurezza proattivi, adattivi e orientati all'apprendimento.

Il documento conclude che, sebbene rimangano sfide riguardanti il drift del modello, la spiegabilità e l'adozione organizzativa, il framework proposto offre una via percorribile per progettare architetture SOC di prossima generazione che sfruttino l'IA per un'autonomia fidata.