Confidential Pulse: Authorisation-Preserving Conversational Access to Federated Confidential Government Records
Confidential Pulse is een systeem dat veilige, conversationele toegang tot federatieve overheidsgegevens mogelijk maakt door responsen te reconstrueren uit geautoriseerde payloads binnen Hyperledger Fabric-kanalen, waarbij gegarandeerd wordt dat het systeem weliswaar de ontsluiting van gegevens buiten het bereik voorkomt, maar nog steeds kwetsbaar blijft voor informatielekken via de gegenereerde proza van het model.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne wereld draaien overheden op data die tussen verschillende instanties stroomt. Het leven van een enkele burger raakt aan registers die worden beheerd door de belastingdienst, het kadaster, de sociale dienst en de instantie voor vergunningen. Elke van deze organisaties bezit gevoelige informatie die niet openbaar gemaakt mag worden, maar ze moeten deze vaak delen om diensten te kunnen verlenen. De traditionele manieren om dit aan te pakken zijn gebrekkig. Het onderbrengen van alle data in één gigantisch centraal magazijn creëert een enkel, hoogwaardig doelwit voor hackers en dwingt elke instantie om één centrale operator te vertrouwen. Alternatief creëert het verbinden van elke instantie direct met elke andere instantie een verstrengeld web van duizenden individuele verbindingen, waarbij geen duidelijk verslag wordt bijgehouden van wie wat met wie heeft gedeeld. De uitdaging is om deze organisaties in staat te stellen om gevoelige gegevens strikt op basis van een noodzaak tot weten te delen, waarbij wordt gewaarborgd dat de data vertrouwelijk blijft, niet stiekem kan worden gewijzigd en dat elke toegang onafhankelijk kan worden geverifieerd.
Om dit op te lossen, hebben onderzoekers een systeem ontwikkeld genaamd Confidential Pulse. Het fungeert als een veilige brug tussen overheidsinstanties, waardoor een geautoriseerde ambtenaar een eenvoudige vraag in gewone taal kan stellen en een antwoord kan ontvangen dat gegevens uit meerdere departementen samenbrengt, zonder ooit data bloot te leggen waar de ambtenaar geen toestemming voor heeft. Het systeem steunt op een speciaal type digitaal grootboek, vergelijkbaar met een gedeeld, onveranderlijk notitieblok dat alle deelnemende organisaties kunnen lezen, maar waarvan geen enkele organisatie alleen de inhoud kan wijzigen. Dit grootboek legt elke keer vast dat een stuk informatie wordt gedeeld, wat een permanent, niet te vervalsen geschiedenis creëert. De gevoelige details zelf worden bewaard in privékluizen waar alleen de specifieke organisaties die daar recht op hebben, toegang toe hebben. Boven deze veilige fundering bevindt zich een hiërarchie van intelligente software-agenten. Deze agenten fungeren als tolken die een menselijke vraag interpreteren, deze opdelen en de relevante feiten uit de verschillende privékluizen verzamelen. Cruciaal is dat het systeem de antwoorden niet alleen filtert nadat ze zijn geschreven; het bouwt het antwoord vanaf de grond op met behulp van uitsluitend de geautoriseerde data, wat ervoor zorgt dat geen ongeautoriseerde informatie kan doorsluipen.
De onderzoekers testten dit systeem met een reeks rigoureuze experimenten, inclusief twintigduizend proeven waarbij ze probeerden de software te misleiden om geheimen te lekken. In de meest beveiligde modus van werken was het systeem volledig succesvol. In alle twintigduizend pogingen werd geen enkel stuk informatie prijsgegeven waar de vragenstellende ambtenaar geen recht op had. Het systeem werkte door het antwoord direct te reconstrueren vanuit de geautoriseerde records, wat betekende dat de software die de tekst genereerde niet per ongeluk of kwaadwillend verborgen waarden kon invoegen. Echter, toen de onderzoekers een flexibelere modus testten waarbij de software de vrijheid kreeg om eigen zinnen te schrijven en deze vervolgens te filteren, waren de resultaten anders. In deze modus slaagde het systeem er niet in om ongeautoriseerde informatie te onderscheppen in 2.068 van de 20.000 proeven. De lekken vonden vooral plaats wanneer de software vergelijkingen probeerde te maken of complexe manieren gebruikte om getallen te schrijven die de filterregels niet volledig begrepen. Deze bevinding leidde de onderzoekers tot de conclusie dat de strikte reconstructiemethode de enige veilige manier is om met gevoelige overheidsdata om te gaan, terwijl de meer conversationele, prosaschrijvende modus een meetbaar risico op accidentele openbaarmaking met zich meebrengt.
De studie onderzocht ook hoe het systeem omgaat met de complexe realiteit van overheidsdata, waarbij het combineren van verschillende stukken informatie soms meer kan onthullen dan de bedoeling is. Bijvoorbeeld, terwijl een enkel record over de huisvesting van een persoon anoniem kan zijn, en een apart record over hun inkomen ook anoniem kan zijn, kan het combineren ervan een specifiek individu identificeren. De onderzoekers ontdekten dat in een gesimuleerde populatie van tienduizend mensen, het combineren van drie verschillende soorten records ongeveer 3,31 procent van hen kon identificeren. Ze ontdekten ook een subtiele fout in een eerdere versie van hun ontwerp: de digitale "bonnen" die bewezen dat een record bestond, waren niet voorzien van een 'salt' (een willekeurige geheime code). Dit stelde een aanvaller in staat om de inhoud van verborgen records te raden door miljoenen mogelijkheden te proberen in minder dan twee seconden. Zodra de onderzoekers deze willekeurige code aan de bonnen toevoegden, faalde de aanval volledig en werden er nul records hersteld. Deze correctie benadrukt dat de beveiliging van het systeem afhangt van het feit of specifieke technische details correct zijn geïmplementeerd.
Buiten de code om introduceert het systeem een nieuwe manier van denken over vertrouwen. In plaats van te vertrouwen op de eerlijkheid van de software-agenten die de data verzamelen, dwingt het systeem elke agent om zijn werk te bewijzen tegenover het gedeelde grootboek. Als een agent probeert te claimen dat hij een record heeft gevonden waar de ambtenaar recht op heeft, controleert het systeem het officiële grootboek om te bevestigen dat het record daadwerkelijk bestaat en dat de ambtenaar ook echt toestemming heeft om het te bekijken. Als de agent probeert een waarde binnensluipen van een record dat de ambtenaar niet mag zien, verwerpt het systeem de tekst van de agent en bouwt het de zin opnieuw op met behulp van de ruwe data uit het grootboek. Dit proces zorgt ervoor dat zelfs als de software gecompromitteerd is of door een kwaadwillende gebruiker wordt misleid, het uiteindelijke antwoord veilig blijft. De onderzoekers maten ook hoe snel het systeem werkt over verschillende cloudregio's. Ze ontdekten dat door het systeem meerdere instanties tegelijkertijd te laten vragen in plaats van één na het ander, ze de wachttijd voor een complex antwoord bijna in de helft konden verkorten, zelfs wanneer de instanties zich in verschillende delen van de wereld bevonden.
Het werk concludeert dat hoewel de technologie klaar is voor gebruik, het een specifieke governance-structuur vereist om effectief te zijn. Het systeem is ontworpen voor een federatie van organisaties die elkaar niet volledig vertrouwen maar wel moeten samenwerken. Het vervangt de noodzaak voor menselijk toezicht niet; het biedt eerder een duidelijk, onveranderlijk logboek van elke gestelde vraag en elk geraadpleegd record, waardoor auditors kunnen verifiëren of de regels zijn nageleefd. De onderzoekers benadrukken dat het systeem geen magische oplossing is die alle risico's wegneemt, maar het biedt wel een niveau van beveiliging en transparantie dat voorheen onmogelijk was. Door het antwoord op het moment van vrijgave te binden aan de geautoriseerde data, in plaats van te proberen een voltooide tekst te filteren, creëert het systeem een barrière die wiskundig moeilijk te doorbreken is. De bevindingen suggereren dat voor overheidsinstanties om in de toekomst veilig data te kunnen delen, zij moeten bewegen van centrale datameer-oplossingen naar dit soort gedistribueerde, geverifieerde benaderingen, waarbij zij accepteren dat de meest veilige antwoorden voortkomen uit een proces dat de waarheid vanuit de bron herbouwt in plaats van een conceptversie te polijsten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.