Agentic Retrieval-Augmented Generation for Verifiable Regulatory Compliance in Urban Cyber-Physical Systems
Dit artikel stelt een Verification-First Agentic RAG-framework voor dat deterministische validatieagenten integreert om de regelgevende nauwkeurigheid te waarborgen en hallucinaties in Urban Cyber-Physical Systems te voorkomen, waarbij een superieure prestatie wordt aangetoond op het gebied van supersessiedetectie en nalevingsredenering in vergelijking met bestaande methoden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Steden worden steeds meer complexe organismen, waarbij fysieke infrastructuur zoals wegen en waterleidingen diep verweven zijn met digitale netwerken van sensoren, software en kunstmatige intelligentie. Deze onderling verbonden systemen, bekend als stedelijke cyber-fysieke systemen, beloven onze steden duurzamer en veerkrachtiger te maken. Ze kunnen de luchtkwaliteit in realtime monitoren, het energieverbruik optimaliseren en de verkeersstroom beheren met een niveau van intelligentie dat voorheen onmogelijk was. Echter, naarmate deze digitale breinen krachtiger worden, moeten ze ook een doolhof van regels navigeren. Elke stad opereert onder een dicht web van milieuwetten, veiligheidsvoorschriften en planningsregels die frequent veranderen en van plaats tot plaats verschillen. Voor een stad om veilig en legaal te kunnen functioneren, moeten haar geautomatiseerde systemen niet alleen deze regels begrijpen, maar ook precies weten welke versie van een regel momenteel van kracht is. Als een systeem vertrouwt op een verouderde wet of een regel die niet langer van toepassing is op een specifieke buurt, kunnen de gevolgen variëren van inefficiënt gebruik van middelen tot ernstige juridische overtredingen die het publieke vertrouwen ondermijnen.
De uitdaging ligt in de vraag hoe we computers leren te redeneren over deze wetten. In de afgelopen jaren is een technologie genaamd retrieval-augmented generation opgekomen als een krachtig hulpmiddel voor deze taak. Stel je een computer voor die instantaan door miljoenen juridische documenten kan zoeken om het antwoord op een vraag te vinden, om vervolgens een heldere uitleg te schrijven op basis van wat hij heeft gevonden. Deze aanpak heeft veelbelovende resultaten getoond, maar heeft een kritiek gebrek: de computer kan vaak het verschil niet zien tussen een wet die momenteel actief is en een die jaren geleden is vervangen. Omdat de oude en nieuwe wetten qua bewoording vaak erg op elkaar lijken, kan het systeem vol vertrouwen een regel citeren die is ingetrokken, wat leidt tot gevaarig of onjuist advies. Dit is bijzonder riskant in de context van smart cities, waar beslissingen over infrastructuur en openbare veiligheid absoluut betrouwbaar moeten zijn.
Onderzoekers aan de York St John University hebben een nieuwe aanpak ontwikkeld om dit probleem op te lossen, waarbij ze een systeem hebben gecreëerd dat prioriteit geeft aan verificatie voordat het ooit een antwoord probeert te genereren. In plaats van de kunstmatige intelligentie te laten raden welke wetten geldig zijn, hebben zij een framework gebouwd dat fungeert als een strikte auditor. Het systeem zoekt eerst naar relevante regelgeving, maar voordat het de hoofd-AI toestaat een reactie te schrijven, controleert een apart, gespecialiseerd onderdeel de juridische status van elk gevonden document. Deze component kijkt naar specifieke metadata, zoals de datum waarop een wet is aangenomen en of er een nieuwere versie officieel door heeft vervangen. Het fungeert als een poortwachter, die ervoor zorgt dat alleen actuele, juridisch afdwingbare en toepasbare regelgeving wordt gebruikt om het uiteindelijke advies te vormen. Als het systeem geen geldige, actuele regel kan vinden, is het ontworpen om toe te geven dat het het antwoord niet weet, in plaats van een antwoord te verzinnen.
In hun studie testten de onderzoekers dit nieuwe framework tegenover verschillende bestaande methoden met behulp van een collectie echte Europese regelgeving en internationale standaarden. Ze creëerden een set van 78 specifieke vragen die de systemen probeerden te misleiden, inclus_ief scenario's waarin een oude wet bijna identiek leek aan een nieuwe. De resultaten toonden aan dat het nieuwe, verificatie-eerst systeem superieur was in het opsporen van verouderde regels. Het identificeerde vervangen regelgeving correct in 88 procent van de gevallen, een significante verbetering ten opzichte van de andere methoden, die moeite hadden met het detecteren van deze wijzigingen en vaak vertrouwden op de verouderde informatie. Het systeem bleek ook zeer accuraat in het bepalen of een regel van toepassing was op de specifieke jurisdictie in kwestie, waardoor de veelvoorkomende fout van het citeren van wetten uit de verkeerde regio werd vermeden.
Misschien wel het belangrijkste is dat het systeem geen snelheid of efficiëntie heeft opgeofferd voor deze extra laag van veiligheid. Hoewel het proces van het controleren van elk document een extra stap toevoegt, vonden de onderzoekers dat het systeem snel genoeg bleef voor praktisch gebruik in echt stedelijk beheer. Het verwerkte queries met een snelheid die concurrerend was met, en in sommige gevallen sneller dan, de andere geteste geavanceerde methoden. De studie toonde aan dat door de taak van het vinden van informatie te scheiden van de taak van het verifiëren van de juridische geldigheid, het systeem betrouwbaar, transparant en controleerbaar advies kan bieden. Dit betekent dat stadsplanners en geautomatiseerde systemen met een veel grotere mate van vertrouwen op de output kunnen rekenen, wetende dat de aanbevelingen gebaseerd zijn op wetten die vandaag de dag daadwerkelijk van kracht zijn.
De onderzoekers benadrukken dat deze aanpak een verschuiving vertegenwoordigt in hoe we kunstmatige intelligentie bouwen voor omgevingen met een hoog risico. In plaats van te vertrouwen op de intuïtieve intelligentie van de AI om het complexe en verschuivende landschap van de menselijke wet te begrijpen, gebruikt het systeem een deterministische, op regels gebaseerde controle om feiten te bevestigen voordat er enige redenering plaatsvindt. Dit zorgt ervoor dat de uiteindelijke output niet alleen een vloeiend klinkende paragraaf is, maar een juridisch sluitende aanbeveling. Hoewel de huidige tests zich richtten op Europese regelgeving, is het framework ontworpen om aanpasbaar te zijn aan andere rechtssystemen en jurisdicties. De studie concludeert dat voor smart cities om echt duurzaam en betrouwbaar te worden, hun digitale besluitvormers uitgerust moeten zijn met dit soort rigoureuze verificatie, om te garanderen dat de wetten die onze stedelijke toekomst leiden altijd actueel, accuraat en toepasbaar zijn.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.