MIRAGE: A Polarity-Flipping Encoding Subspace in LLM Agents
Het artikel introduceert MIRAGE, een real-time monitoringsysteem dat data-exfiltratie door LLM-agenten detecteert door een gedeelde, laagdimensionale coderingssubruimte in de residual stream van het model te identificeren, waarbij een aanzienlijk hogere detectienauwkeurigheid wordt bereikt dan bij methoden die alleen naar de output kijken door de onderliggende berekening te lezen in plaats van naar oppervlakkige kenmerken.