🤖 AI

Foundations for Agentic AI Investigations from the Forensic Analysis of OpenClaw

Questo studio presenta un'analisi empirica di OpenClaw per sviluppare una tassonomia degli artefatti e una metodologia sistematica per le indagini forensi sull'IA agenziale, evidenziando le sfide poste dalla non-deterministicità e dall'astrazione introdotte dai modelli linguistici.

Autori originali: Jan Gruber, Jan-Niclas Hilgert

Pubblicato 2026-04-08

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Jan Gruber, Jan-Niclas Hilgert

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

🕵️‍♂️ L'Investigatore e il "Segretario" che pensa da solo

Immagina di avere un assistente personale digitale molto intelligente, chiamiamolo OpenClaw. A differenza dei vecchi assistenti vocali (come Siri o Alexa) che facevano solo quello che gli dicevi ("Accendi la luce"), OpenClaw è un agente autonomo. È come un segretario super-competente a cui dai un obiettivo ("Organizza il mio viaggio") e lui decide da solo quali passi fare: cerca voli, controlla il calendario, prenota l'hotel e ti manda il riepilogo.

Il problema? Se questo segretario fa un errore, compra qualcosa che non dovevi, o rivela un segreto, come facciamo a capire cosa è successo davvero? È stato un tuo comando? O l'ha deciso lui da solo?

Gli autori di questo studio (Jan Gruber e Jan-Niclas Hilgert) hanno deciso di fare da detective digitali per capire come investigare su questi "segretari robot". Hanno analizzato OpenClaw per scoprire quali "impronte digitali" lascia dietro di sé.

🔍 Come hanno lavorato? (Il metodo del "Prima e Dopo")

Immagina di voler sapere cosa ha fatto il tuo gatto quando non eri in casa. Non puoi vederlo, ma puoi guardare le tracce: un vaso rotto, peli sul divano, la posizione del cibo.

Gli scienziati hanno fatto lo stesso con il computer:

Hanno creato una "fotografia" pulita del computer (lo stato iniziale).
Hanno dato all'AI un compito (es. "Manda una mail").
Hanno fatto un'altra "fotografia" subito dopo.
Hanno confrontato le due foto per vedere cosa è cambiato. Hanno guardato i file cancellati, i nuovi file creati, i log nascosti.

Hanno scoperto che l'AI lascia tracce ovunque, ma sono molto diverse da quelle dei programmi normali.

🧠 Le 5 "Zone" dove cercare le prove (La Tassonomia)

Per non perdersi nel caos, gli autori hanno creato una mappa divisa in 5 zone, come se l'AI fosse una persona con diverse parti della sua psiche:

Il Cervello (Come pensa):
- L'analogia: È il taccuino degli appunti mentali.
- Cosa cercano: Qui trovano le "catene di pensiero". L'AI scrive a se stessa: "Ok, l'utente vuole un volo. Prima controllo il meteo, poi cerco i prezzi...". Queste note interne sono fondamentali per capire perché ha preso una decisione.
Il DNA (Chi è e cosa può fare):
- L'analogia: È il suo passaporto e il suo manuale di istruzioni.
- Cosa cercano: File di configurazione che dicono chi è (il suo nome, la sua personalità), quali permessi ha (può cancellare file? Può accedere alla banca?) e quali strumenti usa.
La Memoria (Cosa sa):
- L'analogia: È la sua libreria personale.
- Cosa cercano: Tutto ciò che ha imparato nel tempo: i tuoi gusti, i tuoi progetti, le date importanti. Se l'AI ha agito male, forse era perché "ricordava" male qualcosa o aveva letto un'informazione sbagliata.
Le Orecchie e la Bocca (Come comunica):
- L'analogia: È il telefono e le chat.
- Cosa cercano: Chi ha parlato con l'AI? Hai mandato un messaggio su Telegram o WhatsApp? Cosa ha risposto l'AI? Qui si vede il confine tra quello che hai chiesto tu e quello che l'AI ha capito.
Le Mani (Cosa ha fatto):
- L'analogia: Sono le azioni concrete.
- Cosa cercano: I file che ha aperto, i siti web che ha visitato, le email inviate. È la prova fisica di ciò che è successo.

⚠️ Il Grande Problema: L'AI non è come un programma normale

Questa è la parte più importante e sorprendente dello studio.

Immagina di dare lo stesso compito a due programmatori umani: "Fai un caffè".

Il Programma Vecchio (basico) lo farà sempre allo stesso modo: accende la macchina, mette l'acqua, preme il tasto. Se guardi i file, vedi sempre la stessa cosa.
Il Programma Nuovo (Agentic AI) è come un umano creativo. Se gli chiedi "Fai un caffè", oggi potrebbe usare la moka, domani la macchina automatica, dopodomani potrebbe ordinare un caffè al bar se non ha la moka.

Il problema per i detective è questo:

Non è prevedibile: Anche se dai lo stesso comando due volte, l'AI potrebbe scegliere strade diverse. Non c'è una "ricetta" fissa da seguire.
C'è un livello di astrazione: L'AI pensa in concetti ("Devo comprare un regalo"), ma il computer esegue comandi tecnici ("Scrivi questo file JSON"). C'è un muro tra l'intenzione e l'azione che rende difficile capire cosa è successo davvero.
Il contesto cambia: L'AI decide in base a ciò che "ricorda" in quel preciso momento. Se la sua memoria è cambiata da ieri a oggi, la sua decisione cambierà, anche se il tuo comando è lo stesso.

💡 Conclusione: Cosa ci insegna questo studio?

Questo articolo ci dice che investigare su un'AI che agisce da sola è molto più difficile che investigare su un computer normale.

Non possiamo più guardare solo i file cancellati o i log di sistema. Dobbiamo capire:

Cosa stava pensando l'AI (le sue note mentali).
Cosa "ricordava" in quel momento.
Se ha agito per tuo ordine o per sua iniziativa.

Gli autori hanno creato un nuovo manuale per i detective digitali (la tassonomia a 5 zone) e un strumento gratuito per aiutare a trovare queste prove. È il primo passo per capire come gestire un futuro in cui i nostri assistenti digitali non saranno più solo "bot" che rispondono, ma "agenti" che agiscono nel mondo reale, a volte con conseguenze che noi non avevamo previsto.

In sintesi: Se un giorno il tuo assistente AI ti chiederà scusa per aver speso i tuoi soldi, ora sapremo esattamente dove guardare per capire se è stato un errore suo o tuo.

1. Il Problema: L'Emergenza dell'IA Agente nella Forense Digitale

Il documento affronta una lacuna critica nella scienza forense digitale: la mancanza di metodologie consolidate per investigare i sistemi di IA Agente (Agentic AI). A differenza dei chatbot tradizionali che rispondono passivamente ai prompt, gli agenti AI (come OpenClaw) sono sistemi autonomi capaci di pianificare, ragionare ed eseguire flussi di lavoro complessi nel mondo reale, interagendo con il sistema operativo, servizi online e dati sensibili.

Le sfide principali identificate sono:

Attribuzione: È difficile distinguere tra ciò che l'utente ha richiesto e ciò che l'agente ha effettivamente eseguito autonomamente.
Non-determinismo: Le decisioni prese dagli agenti guidati da Large Language Models (LLM) non sono lineari o ripetibili come nel software basato su regole; lo stesso input può generare azioni diverse.
Astrazione: L'esecuzione mediata dall'LLM introduce un ulteriore livello di astrazione tra l'intento dell'utente e le tracce forensi osservabili.
Assenza di Metodologie: Gli approcci forensi esistenti non sono attrezzati per gestire la combinazione di ragionamento cloud, esecuzione locale e autonomia continua.

2. Metodologia: Analisi Empirica di OpenClaw

Gli autori hanno condotto uno studio empirico su OpenClaw, un assistente AI personale open-source ampiamente utilizzato. La metodologia si è basata su tre pilastri:

Analisi del Codice Statico: Esame del codice sorgente (scritto in TypeScript, eseguito su Node.js/bun) per comprendere l'architettura, i componenti e i potenziali punti di archiviazione dei dati.
Analisi Differenziale Forense:
- Creazione di un ambiente virtualizzato (Debian GNU/Linux) con un'installazione pulita di OpenClaw.
- Esecuzione di una serie di azioni specifiche ( $\sigma_i$ ) che coprono installazione, configurazione, interazione (messaggi testuali, vocali, immagini), esecuzione di comandi (es. inviare email, aggiungere eventi calendario) e gestione di sotto-agenti.
- Confronto delle immagini del disco prima e dopo ogni azione per isolare le tracce digitali ( $\delta_i$ ) generate specificamente dall'agente.
Ispezione dei File e Correlazione: Analisi approfondita dei file recuperati (JSON, JSONL, SQLite, Markdown) per correlare le tracce trovate con il comportamento osservato dell'agente. È stato sviluppato anche un prototipo di strumento per l'estrazione automatica di questi artefatti.

3. Contributi Chiave

Il paper offre diversi contributi fondamentali per il campo della forense digitale:

Prima Analisi Forense di un Assistente AI Personale: Fornisce una mappatura dettagliata delle tracce forensi lasciate da un sistema agente autonomo.
Tassonomia degli Artefatti Agente: Propone una classificazione strutturata degli artefatti forensi divisa in 5 "Piani" (Planes), che coprono l'intero ciclo di vita dell'agente:
1. Ragionamento e Cognizione ("Il Cervello"): Tracce del processo di pensiero dell'LLM (es. blocchi thinking, scelte degli strumenti).
2. Identità e Configurazione ("Il DNA"): Configurazione statica, credenziali, ruoli e permessi (es. openclaw.json, SOUL.md).
3. Conoscenza e Richiamo ("La Memoria"): Memoria episodica, profili utente e indici semantici (es. file .md giornalieri, database SQLite con embedding vettoriali).
4. Comunicazione e I/O ("Orecchie e Bocca"): Canali di comunicazione, messaggi scambiati e media (es. log di Telegram/WhatsApp, file multimediali).
5. Azioni ed Effetti ("Le Mani"): Esecuzione concreta di comandi, chiamate agli strumenti e task schedulati (es. log di esecuzione cron, risultati degli strumenti).
Strumento di Analisi: Rilascio di un tool open-source e di dati sperimentali per supportare la ricerca futura.

4. Risultati e Scoperte Tecniche

L'analisi di OpenClaw ha rivelato specifiche caratteristiche forensi:

Tracce di Ragionamento: A differenza del software tradizionale, gli artefatti più preziosi sono le tracce del ragionamento (chain-of-thought) all'interno dei file di trascrizione delle sessioni (sessions.jsonl). Questi file documentano non solo l'input/output, ma anche le alternative considerate dall'agente e le motivazioni per la scelta di uno strumento specifico.
Memoria Dinamica: L'agente mantiene la coerenza attraverso file di testo Markdown (memoria episodica) e un database SQLite con embedding vettoriali per la ricerca semantica. La ricostruzione dello stato della memoria al momento di un incidente è complessa ma possibile analizzando le versioni storiche dei file e i log di modifica.
Autonomia e Task Schedulati: Il sistema supporta l'esecuzione autonoma di task (cron jobs) e la delega a sotto-agenti. Le tracce di queste azioni autonome si trovano in file specifici (cron/runs/*.jsonl, subagents/runs.json), permettendo di distinguere tra azioni guidate dall'utente e azioni autonome.
Problema della Non-Riproducibilità: Gli esperimenti hanno dimostrato che anche con input identici, l'agente può produrre tracce diverse a causa della natura stocastica dell'LLM e della variabilità del contesto (es. file di memoria aggiornati tra un'esecuzione e l'altra).
Limiti della Ricostruzione: Non è sempre possibile ricostruire con certezza assoluta il "perché" di un'azione, poiché il contesto esatto fornito all'LLM al momento dell'inferenza potrebbe non essere completamente preservato o potrebbe essere cambiato.

5. Significato e Implicazioni

Questo lavoro stabilisce le basi per l'investigazione forense sistematica degli agenti AI e ha profonde implicazioni per la pratica forense futura:

Cambio di Paradigma: Gli investigatori non possono più trattare gli agenti AI come software standard. Devono adottare un approccio che consideri la non-determinismo e l'astrazione come fattori intrinseci.
Nuova Tipologia di Evidenza: Le "tracce di ragionamento" diventano prove digitali cruciali per determinare l'intento e l'autonomia dell'agente, un concetto inesistente nella forense tradizionale.
Sfide di Attribuzione: La capacità di un agente di agire senza supervisione immediata richiede nuovi metodi per collegare le azioni eseguite alle richieste dell'utente, distinguendo tra errore, autonomia malintenzionata o comportamento emergente.
Fondamento per la Ricerca: La tassonomia proposta offre un quadro di riferimento per analizzare futuri sistemi agenti, garantendo che le nuove classi di prove (come i log di pensiero) non vengano trascurate.

In sintesi, il paper dimostra che l'era degli agenti AI autonomi richiede un aggiornamento fondamentale delle tecniche forensi, spostando l'attenzione dalla semplice raccolta di log all'analisi contestuale di processi decisionali complessi e non deterministici.