MIRAGE: A Polarity-Flipping Encoding Subspace in LLM Agents
Il documento introduce MIRAGE, un sistema di monitoraggio in tempo reale che rileva l'esfiltrazione di dati da parte di agenti LLM identificando un sottospazio di codifica a bassa dimensionalità condiviso nel residual stream del modello, raggiungendo un'accuratezza di rilevamento significativamente superiore rispetto ai metodi basati solo sull'output leggendo il calcolo sottostante anziché le caratteristiche superficiali.