Law as Code in Autonomous Drone Perception: Active Inference for Context-Dependent Legal Compliance
Dit artikel stelt een Legal Actuator Layer (LAL) voor die Active Inference integreert om autonome drones in staat te stellen in realtime dynamisch conflicterende juridische verplichtingen te balanceren en af te dwingen, waarbij het rigide regelgebaseerde systemen in complexe scenario's overtreft terwijl de computationele efficiëntie behouden blijft en fundamentele beperkingen in het leren van compliance-relevante gegevens worden geadresseerd.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een drone voor die over een stad vliegt, met zijn camera's die de straten beneden observeren. De drone moet zich aan een strikte set regels houden: hij mag niet over privéterrein vliegen, hij mag niet de gezichten van mensen vastleggen die niet hebben ingestemd om gefilmd te worden, en hij moet binnen aangewezen vliegroutes blijven. Voor een menselijke operator zijn dit duidelijke instructies. Maar voor een machine die in een fractie van een seconde beslissingen neemt, is de situatie veel complexer. Wat gebeurt er als er een medisch noodgeval optreedt, waarbij de drone een verboden zone moet binnenvliegen om hulp te bieden, terwijl hij tegelijkertijd een privacywet overtreedt? Een eenvoudig computerprogramma dat een rigide lijst van "als dit, dan dat"-opdrachten volgt, zou waarschijnlijk bevriezen of een fout maken, omdat het niet in staat is om de urgentie van het redden van een leven af te wegen tegen de regel om buiten een no-fly zone te blijven. Dit is de centrale uitdaging bij het reguleren van autonome machines: wetten zijn niet alleen statische lijsten met regels; het zijn flexibele principes die veranderen afhankelijk van de context.
Onderzoekers aan de Université du Québec à Montréal en het Max Planck Instituut voor menselijke cognitieve en hersenwetenschappen hebben een nieuwe manier voorgesteld om dit probleem op te lossen. In plaats van een drone te programmeren met een hardgecodeerde lijst van regels, bouwden zij een systeem dat wetten behandelt als voorkeuren. In deze aanpak controleert de drone niet simpelweg of een actie is toegestaan door een vakje aan te vinken; hij berekent voortdurend wat hij "wil" doen op basis van een hiërarchie van waarden. Als de drone zich in een normale situatie bevindt, geeft hij er sterk de voorkeur aan om verboden zones te vermijden en de privacy van mensen te beschermen. Maar als hij een medisch noodgeval detecteert, verschuiven die voorkeuren. De drang om het doel te bereiken wordt zo sterk dat deze de voorkeur om weg te blijven overstijgt, waardoor de drone op een legale manier kan handelen die een rigide computerprogramma niet zou kunnen. De onderzoekers testten dit idee in een reeks computersimulaties, waarbij ze een digitale laag tussen de ogen van de drone en zijn motoren creëerden die fungeert als een juridisch geweten.
Het team, onder leiding van Mahault Albarracin en Nicolás Hinrichs, noemt dit systeem de Legal Actuator Layer. Ze ontwierpen het zo dat het tussen de waarneming van de drone en de fysieke bewegingen van de drone zit. In een standaardopstelling volgt een drone misschien simpelweg een doel, zonder er rekening mee te houden of hij over een menigte vliegt of een verboden gebied binnengaat. De Legal Actuator Layer onderschept deze commando's. Voordat de drone beweegt, stelt deze laag een reeks vragen op basis van wat hij ziet: Is er een noodsituatie? Zijn er omstanders in de buurt? Is het luchtruim beperkt? Vervolgens weegt hij de antwoorden af tegen een reeks juridische doelen. Deze doelen zijn niet geschreven als strikte commando's, maar als voorkeuren. Bijvoorbeeld: de drone heeft een sterke voorkeur om de gezichten van vreemden niet vast te leggen, maar heeft een nog sterkere voorkeur om een botsing te vermijden of een persoon in nood te bereiken.
Om te testen of dit systeem werkt, voerden de onderzoekers negen verschillende experimenten in simulaties uit. In één scenario vroegen ze de drone om een persoon te volgen terwijl hij de gezichten van omstanders vermeed. Een standaard regelgebaseerd systeem zou ofwel altijd de video vervagen om veilig te zijn, wat het lastiger maakt om het doelwit te volgen, of het zou nooit de video vervagen, wat het risico op privacyschendingen met zich meebrengt. Het nieuwe systeem keek echter naar de situatie. Als de camera alleen het doelwit zag, hield het de video helder. Als het een menigte zag, vervaagde het de gezichten. Wanneer het systeem niet zeker wist wat het zag, koos het de veiligere optie en vervaagde het de video om de privacy te beschermen. Dit gedrag kwam overeen met de prestaties van een door een mens geschreven regel, maar werd bereikt door een flexibeler proces dat zich kon aanpassen aan onzekerheid.
De meest kritieke test kwam toen de regels met elkaar botsten. De onderzoekers creëerden een scenario waarin een drone een verboden zone moest betreden om iemand te helpen bij een medisch noodgeval. Een rigide regelgebaseerd systeem dat het betreden van verboden zones strikt verbiedt, zou falen in het helpen van de persoon. Een systeem met een eenvoudige "uitzondering bij nood" zou de drone de zone in laten vliegen, maar het zou ook in de zone vliegen bij elk vals alarm, waardoor het in normale situaties 56 procent van de tijd de regels overtrad. Het nieuwe systeem reageerde echter anders. Het hoorde het noodsignaal, maar vloog niet direct naar binnen. In plaats daarvan pauzeerde het om meer bewijs te verzamelen, door de sensoren te controleren om zeker te weten dat de noodsituatie echt was. Zodra het er zeker van was, betrad het de verboden zone om de missie te voltooien. In elk enkel geval waarin de noodsituatie echt was, slaagde het. In elk geval waarin er geen noodsituatie was, bleef het buiten. Het slaagde erin om de balans te vinden tussen de behoefte aan snelheid en de behoefte aan voorzichtigheid op een manier die de andere systemen niet konden.
De onderzoekers ontdekten ook een verrassende beperking in hoe deze systemen leren. Ze probeerden de drone de regels te leren door hem te laten leren van zijn eigen ervaringen, vergelijkbaar met hoe een kind leert door vallen en opstaan. Deze aanpak mislukte. De drone kon de regels over privacy en verboden zones niet leren omdat hij, om ze te leren, eerst de regels zou moeten breken. Een drone die de wet naleeft, ervaart nooit de gevolgen van het overtreden ervan, en leert dus nooit wat die gevolgen zijn. De onderzoekers ontdekten dat het systeem alleen werkte wanneer de meest kritieke sensoren — die de drone vertellen waar hij is en of er een noodsituatie is — vooraf door mensen waren gekalibreerd. De drone kon leren de omgeving te herkennen, maar kon de wetten zelf niet vanaf nul leren.
Ondanks deze beperking bleek het systeem snel genoeg voor gebruik in de echte wereld. De onderzoekers maten hoe lang het de drone kostte om een juridische beslissing te nemen. Het hele proces, van het zien van de wereld tot het beslissen over een beweging, duurde slechts 0,31 milliseconden. Dit is snel genoeg om te draaien op de kleine computers die op echte drones te vinden zijn, waardoor het juridische geweten in realtime kan werken zonder de vlucht te vertragen. Het systeem vertoonde ook een natuurlijk veiligheidsmechanisme: wanneer de sensoren erg ruisig waren en de drone niet zeker wist wat er aan de hand was, stopte hij simpelweg met handelen. Hij zou liever op zijn plek blijven zweven dan het risico lopen een wet te overtreden door te gokken.
De studie concludeert dat het coderen van wetten als flexibele voorkeuren in plaats van rigide regels autonome machines in staat stelt om complexe, reële situaties aan te kunnen. Door juridische verplichtingen te behandelt als een reeks concurrerende verlangens die veranderen op basis van de context, kan de drone beslissingen nemen die zowel effectief als compliant zijn. Het systeem hoeft geen perfecte advocaat te zijn; het hoeft alleen maar te begrijpen dat sommige regels belangrijker zijn dan andere, en dat het juiste doen soms afhangt van wat er op dit moment gebeurt. Deze aanpak biedt een pad voor het bouwen van machines die door de chaotische, tegenstrijdige eisen van de menselijke samenleving kunnen navigeren zonder dat er een mens nodig is om voor elke beslissing op een knop te drukken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.