SlotGuard: Stop Oversharing Private Local Context in LLM Agent Transcri
SlotGuard is een lokaal transcript-grenssysteem dat LLM-agenten veilig voorkomt het lekken van privécontext en inloggegevens door gevoelige gegevens te herschrijven naar vormbehoudende synthetische slots die via een sessiegraaf zijn gekoppeld, waarmee nul lekken van inloggegevens en bijna perfect taalsucces worden bereikt zonder de broosheid van bestaande redactiemethoden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een super-slimme robotassistent hebt die bijna alles voor je kan doen: het kan bestanden op je computer lezen, e-mails versturen, code uitvoeren en zelfs met andere software praten. Om deze taken uit te voeren, moet de robot toegang hebben tot je privé-informatie, zoals je bestandspaden, je e-mailadres en zelfs geheime wachtwoorden. Maar hier komt de crux: om te bepalen wat hij daarna moet doen, moet de robot vaak een samenvatting van zijn werk naar een gigantisch, in de cloud gebaseerd "brein" sturen (een groot taalmodel) dat eigendom is van een technologiebedrijf. Deze samenvatting wordt een "transcript" genoemd.
Het probleem is dat dit transcript als een dagboekfragment is dat naar een vreemde wordt gestuurd. Als de robot per ongeluk je geheime wachtwoord of je thuisadres in dat dagboek opschrijft, kan het cloudbedrijf dit zien, opslaan of zelfs gebruiken om hun toekomstige robots te trainen. Het is also$ een vriend vragen om te helpen bij het bakken van een taart, maar je moet hem een foto van je keuken sturen, en op die foto ligt je huissleutel direct naast de bloem. Je wilt dat je vriend de keuken ziet zodat hij je kan vertellen hoe je het beslag moet mengen, maar je wilt absoluut niet dat hij je sleutel ziet. Dit artikel behandelt de lastige vraag hoe je de robot zijn privéwereld kunt laten zien zonder dat het cloudbrein je geheimen kan bespeuren.
Maak kennis met SlotGuard, een slim nieuw systeem dat ontworpen is om als een "privacy-uitsmijter" direct in je computer te fungeren. Zie SlotGuard als een magische vertaler die tussen je robotassistent en het cloudbrein in zit. Zijn taak is om het dagboek van de robot te herschrijven voordat het je huis verlaat. In plaats van de robot je werkelijke geheime wachtwoord (zoals SuperSecret123!) te laten opschrijven, vervangt SlotGuard dit door een nep, maar perfect gevormde, tijdelijke aanduiding (zoals 🔑-SYNTHETIC-KEY-99).
Hier is de magische truc: de nep-tijdelijke aanduiding ziet er precies hetzelfde uit en voelt precies hetzelfde aan als het echte ding voor het cloudbrein. Als het echte wachtwoord een lange reeks letters en cijfers was, dan is de nepversie dat ook. Als het echte bestandspad /Users/Alice/Secrets/Plan.pdf was, dan kan de nepversie eruitzien als [REPO_ROOT_1]/Secrets/Plan.pdf. Het cloudbrein kan nog steeds de structuur lezen—het weet dat het een bestand is, het weet dat het een geheim is, en het weet waar het over moet praten—maar het heeft geen idee wat het eigenlijke geheim is. Het is alsof je het cloudbrein een kaart geeft waarbij de schat is gemarkeerd met een generieke "X" in plaats van de echte coördinaten.
Maar de magie stopt daar niet. Wanneer het cloudbrein instructies terugstuurt zoals "Ga dat bestand openen", vangt SlotGuard het bericht op voordat het je robot bereikt. Het controleert zijn eigen geheime lijst, ziet dat [REPO_ROOT_1] eigenlijk /Users/Alice/Secrets/Plan.pdf betekent, en vervangt de nepversie weer door de echte versie, maar dan alleen binnen jouw vertrouwde computer. De robot opent dan het echte bestand en het cloudbrein wist nooit dat de echte naam bestond.
De onderzoekers hebben dit systeem getest met serieus huiswerk. Ze creëerden duizenden nepscenario's waarin robots taken probeerden uit te voeren waarbij gevoelige gegevens betrokken waren, zoals het lezen van privédocumenten of het gebruik van geheime sleutels. Ze ontdekten dat zonder SlotGuard de robots bijna alles lekten—100% van de tijd. Zelfs eenvoudige "redactie"-methoden, die geheimen simpelweg vervangen door woorden als [PASSWORD], waren een ramp; ze braken het vermogen van de robot om zijn werk te doen, wat leidde tot een foutpercentage van 97,5% omdat de robot in de war raakte door de ontbrekende details.
SlotGuard was echter een game-changer. In hun tests slaagde de volledige versie van het systeem (die een slimme tracking-grafiek bevat) erin om alle geplante inloggegevens te verbergen en alle lekken van inloggegevens te stoppen (0,0% lekkage). Voor structurele gegevens zoals paden en e-mails verwijderde het 100% van de zichtbare gevoelige tekens, met uitzondering van één specifieke randgeval betreffende root-eigendoms absolute paden, wat een kleine tekortkoming blijft in de huidige prototype. Bovendien maakte het de hersenen van de robot niet kapot. De robots die SlotGuard gebruikten waren bijna net zo goed in hun taken als wanneer ze de echte geheimen hadden gezien, waarbij ze hoge succespercentages behielden over verschillende modellen heen. Het systeem is ook ongelooflijk snel en neemt minder dan een oogwenk in beslag (ongeveer 14 microseconden) om een enkele beurt van een gesprek te herschrijven, zodat het niets vertraagt.
Het artikel wijst ook op wat SlotGuard niet doet. Het is geen gedachtenlezende schild; als het cloudbrein slim genoeg is om je geheim te raden op basis van de context van het gesprek, kan SlotGuard dat niet tegenhouden. Het beschermt je ook niet als je eigen computer al gehackt is. Maar voor het specifieke probleem van het voorkomen dat je privédata lekt naar de cloud-transcripts, biedt SlotGuard een robuuste, snelle en slimme oplossing die je geheimen veilig houdt terwijl je robot zijn werk kan doen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.