315 papers
Dit paper introduceert drie nieuwe aanvallen die gevoelige invoer van grote taalmodellen via de KV-cache kunnen reconstrueren en stelt KV-Cloak voor, een lichtgewicht verdedigingsmechanisme dat deze privacyrisico's effectief neutraliseert zonder de prestaties of nauwkeurigheid van het model te beïnvloeden.
Deze paper introduceert een hiërarchisch dubbelstrategisch kader voor selectief vergeten in medische grote taalmodellen dat, door het combineren van geometrisch beperkte gradiëntupdates en conceptbewuste tokeninterventies, specifieke privacygevoelige kennis effectief verwijdert terwijl fundamentele medische competenties behouden blijven en slechts 0,1% van de parameters wordt aangepast.
Dit artikel introduceert een veilige multi-tenant architectuur gecombineerd met een 'Burn-After-Use'-mechanisme om datalekken in enterprise LLM-omgevingen te voorkomen door strikte isolatie en automatische vernietiging van ephemerale conversatiecontexten.
Deze paper introduceert een sluwe, multi-turn Denial-of-Service-aanval op LLM-agenten via tool-callings die, door middel van tekstbewerkingen en Monte Carlo Tree Search, de kosten en energieverbruik drastisch opvoert zonder dat standaard filters dit detecteren.
Dit paper introduceert Hubscan, een open-source beveiligingsscanner die hubness-vergiftiging in Retrieval-Augmented Generation-systemen detecteert door een multi-detectorarchitectuur te gebruiken die statistische analyse, clusterverdeling en stabiliteitstests combineert om schadelijke 'hubs' in vectorindexen te identificeren.
Dit onderzoek toont aan dat veiligheidsgealigneerde grote taalmodellen een 'defensieve weigeringsbias' vertonen waarbij ze geautoriseerde cyberverdedigingstaken onterecht weigeren vanwege het gebruik van gevoelige termen, zelfs wanneer expliciete autorisatie wordt gegeven, wat wijst op een tekortkoming in het onderscheiden van intentie en autorisatie.
Dit paper introduceert Kraken, een nieuwe aanvalstechniek die voor het eerst parameters van DNN's op GPU's kan stelen via elektromagnetische zijkanalen op Tensor Cores, zowel in de nabije als de verre afstand.
Dit onderzoek evalueert de robuustheid en pedagogische veiligheid van offline grote taalmodellen voor het Turks erfgoedonderwijs en concludeert dat modellen met 8 tot 14 miljard parameters de beste balans bieden tussen kosten en veiligheid, aangezien grotere schaal niet automatisch leidt tot betere weerstand tegen anomalieën of minder sycofantische bias.
Dit artikel evalueert hoe goed autonome cyberaanval-agenten generaliseren bij onverwachte IP-adreswijzigingen en concludeert dat hoewel prompt-gedreven LLM-agenten de beste prestaties leveren op onbekende scenario's, dit ten koste gaat van transparantie en rekenkracht, terwijl andere aanpassingsmethoden significant prestatieverlies vertonen.
Dit paper introduceert Flip-Agent, het eerste framework voor gerichte bit-flip-aanvallen dat hardwarefouten benut om niet alleen de uiteindelijke output, maar ook de tool-uitvoeringen van LLM-gebaseerde agenten te manipuleren, waardoor een nieuwe kwetsbaarheid in deze systemen wordt blootgelegd.
Deze paper introduceert FlowSem-MAE, een protocol-natief tabulair pretrainingsparadigma dat de inductieve bias-mismatch van bestaande byte-sequentiemethoden oplost door protocolsemantiek te respecteren, waardoor het encrypted traffic classificatie aanzienlijk verbetert met slechts de helft van de gelabelde data.
Dit paper introduceert OAuthHub, een ontwikkelkader dat gebruikersapparaten gebruikt als tussenliggende controller om OAuth-gegevensoverdracht te beperken tot specifieke momenten, waardoor ontwikkelaars minder code nodig hebben en de prestaties nauwelijks worden beïnvloed.
Dit artikel introduceert Agentic AIBOMs, een uitbreiding van traditionele SBOMs met een multi-agent architectuur die dynamische runtime-gedragingen en kwetsbaarheidscontext vastlegt om reproduceerbaarheid en exploitatiebeoordeling te verbeteren.
Het paper introduceert NabaOS, een lichtgewicht verificatiekader dat, geïnspireerd door de Indiase Nyaya Shastra-epistemologie, gebruikmaakt van HMAC-gesigneerde tool-ontvangstbewijzen in plaats van zware zero-knowledge-bewijzen om hallucinaties van AI-agenten in real-time met minimale latentie te detecteren.
Dit artikel introduceert FLA³, een federatief leerplatform dat door middel van runtime-beleidshandhaving, attributengebaseerde toegangscontrole en cryptografische verantwoording governance-risico's aanpakt en zo privacybewuste, schaalbare AI-toepassingen in grensoverschrijdende gezondheidszorg mogelijk maakt.
Het paper introduceert ADVERSA, een geautomatiseerd red-teaming-framework dat de degradatie van veiligheidsbarrières in grote taalmodellen tijdens meervoudige interacties meet en de betrouwbaarheid van beoordelaars kwantificeert, waarbij experimenten aantonen dat succesvolle jailbreaks zich voornamelijk in de vroege rondes voordoen in plaats van door langdurige druk te accumuleren.
Deze studie analyseert 319 door LLM's gegenereerde beveiligingspatches en concludeert dat deze modellen, ondanks het behoud van functionaliteit, vaak falen in het correct oplossen van kwetsbaarheden door semantisch misverstand, wat strenge validatie voorafgaand aan implementatie noodzakelijk maakt.
Dit paper introduceert TASER, een efficiënt decentraal verdedigingskader voor UAV-zwermen dat gebruikmaakt van spectrale energieconcentratie in plaats van complexe uitbijterdetectie om sluwe backdoor-aanvallen in Federated Learning-systemen effectief te onderdrukken.
Dit paper introduceert Amnesia, een lichtgewicht aanvalstechniek die interne transformer-activaties manipuleert om bestaande veiligheidsmechanismen in open-weight grote taalmodellen te omzeilen en zo schadelijke inhoud te genereren zonder aanvullende training.
Dit paper introduceert de 'Multi-Stream Perturbation Attack', een methode die de veiligheidsuitlijning van denkende LLM's omzeilt door meerdere taakstromen te verweven, wat leidt tot een ineenstorting van het redeneerproces en een hoge succesgraad bij jailbreak-aanvallen.