Tiny Enough to Break In: Agentic Remote Access Trojans Powered by Small Language Models

Immaginate un mondo in cui i computer non si limitano a eseguire ordini come robot obbedienti, ma iniziano a pensare con la propria testa come curiosi detective. Questo è il regno dell'IA Agente (Agentic AI). A differenza di un programma standard che attende che un essere umano clicchi su "esegui" ogni volta, un "agente" è un assistente digitale capace di osservare una situazione, capire cosa fare dopo, provarci e, se fallisce, tentare qualcos'altro — tutto da solo. Ora, immaginate di prendere questa idea e di rimpicciolirla. Invece di aver bisogno di un enorme supercomputer basato sul cloud per pensare, parliamo di Piccoli Modelli Linguistici (Small Language Models o SLM). Questi sono come cervelli in miniatura che possono stare in un normale laptop o persino in uno smartphone, capaci di ragionare localmente senza dover "chiamare casa" tramite internet.

Perché questo è importante? Perché per decenni, gli hacker hanno utilizzato i "Trojan di Accesso Remoto" (Remote Access Trojans o RAT) — programmi malevoli che permettono loro di infiltrarsi in un computer e controllarlo da remoto. Di solito, un hacker umano deve stare lì seduto, leggendo lo schermo e digitando comandi, decidendo cosa rubare o rompere successivamente. Ma cosa succederebbe se il malware stesso potesse pensare? Cosa succederebbe se il virus potesse osservare il computer su cui si trova, rendersi conto che "Ehi, questa porta è aperta", decidere di provare un trucco specifico, vedere se ha funzionato e, in caso contrario, provare un trucco diverso, tutto senza che un essere umano tocchi la tastiera? Questa è la domanda inquietante che questo articolo pone: può un piccolo cervello di IA locale essere abbastanza piccolo da nascondersi dentro un computer, ma allo stesso tempo abbastanza intelligente da infiltrarsi e prendere il controllo tutto da solo?

Il Piccolo Cervello nel Cavallo di Troia

In questo studio, un team di ricercatori dell'Università della Virginia ha costruito un "sandbox" digitale — un parco giochi isolato e sicuro dove potevano testare un'idea folle senza ferire nessuno. Volevano vedere se fossero in grado di costruire un Trojan di Accesso Remoto (RAT) alimentato da un Piccolo Modello Linguistico (SLM). Pensate a questo come a un ladro digitale che non ha bisogno di un padrone umano per dirgli quale finestra scassinare; al contrario, possiede un piccolo cervello locale che osserva l'ambiente, capisce la serratura e prova a scassinarla.

Per testare ciò, hanno allestito un laboratorio con due personaggi principali: un computer "Kali" (l'attaccante) e un computer "Metasploitable" (la vittima, ovvero una macchina progettata per essere piena di falle). Hanno installato un modello di IA locale chiamato dolphin3-cyber-8b (un modello da 8 miliardi di parametri) sul lato dell'attaccante. Questo modello era abbastanza piccolo da poter girare su hardware comune senza necessità di una connessione al cloud. Il compito dell'IA era quello di agire come il "cervello" del RAT. Doveva:

1. Osservare: Scansionare il computer vittima per vedere quali servizi erano aperti (come controllare quali porte sono sconcluse).
2. Pensare: Decidere quale strumento utilizzare per infiltrarsi.
3. Agire: Inviare il comando per tentare l'accesso.
4. Reagire: Se falliva, analizzare il messaggio di errore, capire il perché e tentare un approccio diverso.

I Risultati: Un Ladro Goffo con un Futuro Brillante

I ricercatori hanno riscontrato una personalità scissa nella loro creazione. Da un lato, l'architettura funziona. Il piccolo cervello di IA è stato in grado di eseguire con successo l'intero ciclo di "osservare, pensare, agire" senza alcun aiuto umano e senza bisogno di connettersi a internet. È stato capace di leggere i risultati della scansione, scegliere uno strumento ed eseguire un comando. L' "impianto" del sistema era solido.

Tuttavia, dall'altro lato, il cervello era ancora molto goffo. Quando i ricercatori hanno chiesto all'IA di completare una lista rigorosa di compiti, ha avuto successo solo nel 10,9% di essi. Si tratta di circa 6 tentativi riusciti su 55 prove.

L'IA era brava nelle cose facili. Quando la scansione mostrava una porta molto ovvia e a passaggio singolo (come una specifica "bind shell" sulla porta 1524 o un servizio FTP sulla porta 21), l'IA riusciva ad attraversarla senza problemi. Era come un ladro che vede una porta già spalancata e ci cammina dentro. Ma non appena il lavoro richiedeva più di un passaggio — come dover indovinare una password, gestire un errore complesso o cambiare strumenti dopo un fallimento — l'IA iniziava a inciampare.

L'articolo evidenzia tre modi principali in cui l'IA è fallita:

• Allucinazioni: L'IA a volte inventava comandi inesistenti o utilizzava gli strumenti in modi per cui non erano stati progettati.
• Confusione: Spesso interpretava male i messaggi di errore del computer, pensando che un fallimento fosse in realtà un successo.
• Testardaggine: Quando un comando falliva, invece di provare una strategia completamente nuova, l'IA spesso riformulava semplicemente lo stesso comando fallito e lo riprovava, rimanendo bloccata in un loop.

I ricercatori sono stati molto chiari su cosa significhi questo: il concetto è possibile, ma la tecnologia attuale non è ancora arrivata a tanto. Hanno esplicitamente escluso l'idea che si tratti di un problema "risolto" o di un'arma perfetta. Infatti, hanno notato che se un hacker umano avesse avuto questo tasso di successo (10,9%), verrebbe licenziato immediatamente. Ma hanno anche sottolineato un colpo di scena inquietante: un essere umano deve essere pagato per lavorare, ma un computer no. Se si può far girare questa IA goffa migliaia di volte al giorno per un costo quasi nullo, anche un tasso di successo del 10% potrebbe alla fine portare a una violazione.

Cosa ci dice questo sul Futuro

Il messaggio più importante di questo articolo non è che l'IA sia una hacker esperta oggi. È che la meccanica è pronta, anche se il cervello sta ancora imparando. Il sistema che analizza i dati, valida i comandi ed li esegue ha funzionato perfettamente. L'unica cosa che lo frenava era la capacità di ragionamento del piccolo modello.

Gli autori sostengono che, man mano che questi piccoli modelli di IA diventeranno migliori e più intelligenti, il "ladro goffo" diventerà un "maestro ladro". Il divario tra "non riuscirci" e "riuscirci" si sta chiudendo rapidamente. Per i difensori, l'articolo suggerisce che non possiamo più limitarci a cercare specifiche firme di codice. Dobbiamo invece monitorare il comportamento di questi agenti. Poiché l'IA studiata si incagliava in loop, ripeteva gli stessi errori e tentava combinazioni strane di strumenti, questi sono i "segnali rivelatori" che i sistemi di sicurezza dovrebbero cercare.

In breve, l'articolo dimosta che un'IA locale e piccola può eseguire un attacco di accesso remoto in autonomia. Solo che non riesce a farlo molto bene ancora. Ma poiché la tecnologia sta migliorando così velocemente, il giorno in cui un virus piccolo e capace di pensare da solo potrà infiltrarsi nel vostro computer senza un essere umano nel circuito è probabilmente molto più vicino di quanto pensiamo. La parte "piccola" del titolo non riguarda solo le dimensioni; riguarda quanto questi pericoli stiano diventando piccoli, rendendoli più difficili da individuare e più facili da nascondere.