Law as Code in Autonomous Drone Perception: Active Inference for Context-Dependent Legal Compliance
Dieses Paper schlägt eine Legal Actuator Layer (LAL) vor, die Active Inference integriert, um autonome Drohnen zu befähigen, widersprüchliche rechtliche Verpflichtungen in Echtzeit dynamisch abzuwägen und durchzusetzen, wobei sie starre regelbasierte Systeme in komplexen Szenarien übertrifft und gleichzeitig die Recheneffizienz wahrt sowie grundlegende Grenzen beim Erlernen compliance-relevanter Daten adressiert.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Drohne vor, die über einer Stadt fliegt, deren Kameras die Straßen unter ihr beobachten. Sie muss einen strengen Regeln folgen: Sie darf nicht über Privatgrundstücke fliegen, sie darf nicht die Gesichter von Menschen aufzeichnen, die der Filmaufnahme nicht zugestimmt haben, und sie muss innerhalb festgelegter Flugpfade bleiben. Für einen menschlichen Bediener sind dies klare Anweisungen. Aber für eine Maschine, die Entscheidungen in einem Bruchteil einer Sekunde trifft, ist die Situation weitaus komplexer. Was passiert, wenn ein medizinischer Notfall eintritt, der die Drohne erfordert, in eine Sperrzone zu fliegen, um Hilfe zu leisten, während sie gleichzeitig ein Datenschutzgesetz verletzt? Ein einfaches Computerprogramm, das einer starren Liste von „Wenn dies, dann das“-Befehlen folgt, würde wahrscheinlich einfrieren oder einen Fehler machen, unfähig dazu, die Dringlichkeit der Rettung eines Lebens gegen die Regel des Fernbleibens von einer Flugverbotszone abzuwägen. Dies ist die zentrale Herausforderung bei der Regulierung autonomer Maschinen: Gesetze sind nicht nur statische Listen von Regeln; sie sind flexible Prinzipien, die sich je nach Kontext ändern.
Forscher der Université du Québec à Montréal und des Max-Planck-Instituts für Kognitions- und Neurowissenschaften haben einen neuen Weg vorgeschlagen, um dieses Problem zu lösen. Anstatt eine Drohne mit einer fest codierten Liste von Regeln zu programmieren, bauten sie ein System, das Gesetze wie Präferenzen behandelt. Bei diesem Ansatz prüft die Drohne nicht nur per Häkchen, ob eine Aktion erlaubt ist; sie berechnet ständig, was sie „will“, basierend auf einer Hierarchie von Werten. Wenn sich die Drohne in einer normalen Situation befindet, bevorzugt sie es stark, Sperrzonen zu meiden und die Privatsphäre der Menschen zu schützen. Aber wenn sie einen medizinischen Notfall erkennt, verschieben sich diese Präferenzen. Der Wunsch, das Ziel zu erreichen, wird so stark, dass er die Präferenz, fern zu bleiben, übersteuert, was es der Drohne ermöglicht, auf eine Weise rechtmäßig zu handeln, die ein starres Computerprogramm nicht könnte. Die Forscher testeten diese Idee in einer Reihe von Computersimulationen und schufen eine digitale Schicht zwischen den Augen der Drohne und ihren Motoren, die als juristisches Gewissen fungiert.
Das Team unter der Leitung von Mahault Albarracin und Nicolás Hinrichs nennt dieses System die „Legal Actuator Layer“ (Rechtlicher Aktuatorschicht). Sie entwarfen es so, dass es zwischen der Wahrnehmung der Drohne der Welt und ihren physischen Bewegungen sitzt. In einem Standardaufbau würde eine Drohne einem Ziel einfach folgen und dabei ignorieren, ob sie über einer Menschenmenge oder in einem verbotenen Bereich fliegt. Die „Legal Actuator Layer“ fängt diese Befehle ab. Bevor die Drohne sich bewegt, stellt diese Schicht eine Reihe von Fragen basierend auf dem, was sie sieht: Gibt es einen Notfall? Sind Passanten in der Nähe? Ist der Luftraum beschränkt? Sie wiegt die Antworten dann gegen eine Reihe von rechtlichen Zielen ab. Diese Ziele sind nicht als strikte Befehle geschrieben, sondern als Präferenzen. Zum Beispiel hat die Drohne eine starke Präferenz dafür, nicht die Gesichter von Fremden zu erfassen, aber sie hat eine noch stärkere Präferenz dafür, eine Kollision zu vermeiden oder eine Person in Not zu erreichen.
Um zu testen, ob dieses System funktioniert, führten die Forscher neun verschiedene Experiment-Simulationen durch. In einem Szenario baten sie die Drohne, einer Person zu folgen und gleichzeitig die Gesichter von Passanten zu vermeiden. Ein standardmäßiges regelbasiertes System würde entweder immer das Video unkenntlich machen, um auf der sicheren Seite zu sein – was es schwieriger macht, das Ziel zu verfolzhalten –, oder es würde das Video niemals unkenntlich machen und damit das Risiko von Datenschutzverletzungen eingehen. Das neue System hingegen betrachtete die Situation. Wenn die Kamera nur das Ziel sah, hielt es das Video klar. Wenn es eine Menge sah, machte es die Gesichter unkenntlich. Wenn sich das System unsicher war, was es sah, entschied es sich für die sicherere Option und machte das Video unkenntlich, um die Privatsphäre zu schützen. Dieses Verhalten entsprach der Leistung einer menschengeschriebenen Regel, wurde aber durch einen flexibleren Prozess erreicht, der an Unsicherheit angepasst werden konnte.
Der kritischste Test kam, als die Regeln kollidierten. Die Forscher kreierten ein Szenario, in dem eine Drohne eine Sperrzone betreten müsste, um jemandem in einem medizinischen Notfall zu helfen. Ein starres regelbasiertes System, das das Betreten von Sperrzonen strikt verbietet, würde der Person nicht helfen können. Ein System mit einer einfachen „Notfall-Ausnahme“ würde die Drohne zwar hineinfliegen lassen, aber sie würde auch immer dann hineinfliegen, wenn sie einen Fehlalarm hörte, was in normalen Situationen zu 56 Prozent der Fälle gegen die Regeln verstieß. Das neue System handelte jedoch anders. Es hörte das Notfallsignal, flog aber nicht sofort hinein. Stattdessen hielt es inne, um mehr Beweise zu sammeln und seine Sensoren zu prüfen, um sicherzuge- sein, dass der Notfall real war. Sobald es sich sicher war, betrat es die Sperrzone, um die Mission zu erfüllen. In jedem einzelnen Versuch, in dem der Notfall real war, war es erfolgreich. In jedem Versuch, in dem es keinen Notfall gab, blieb es draußen. Es gelang ihm, das Gleichgewicht zwischen der Notwendigkeit der Geschwindigkeit und der Notwendigkeit der Vorsicht so zu halten, dass die anderen Systeme es nicht konnten.
Die Forscher entdeckten auch eine überraschende Einschränkung in der Art und Weise, wie diese Systeme lernen. Sie versuchten, die Drohne die Regeln lehren zu lassen, indem sie sie aus eigener Erfahrung lernen ließen, ähnlich wie ein Kind durch Versuch und Irrtum lernt. Dieser Ansatz schlug fehl. Die Drohne konnte die Regeln über Privatsphäre und Sperrzonen nicht lernen, weil sie, um sie zu lernen, zuerst gegen sie verstoßen müsste. Eine Drohne, die das Gesetz befolgt, erlebt niemals die Konsequenzen eines Verstoßes, also lernt sie nie, wie diese Konsequenzen aussehen. Die Forscher fanden heraus, dass das System nur funktionierte, wenn die kritischsten Sensoren – jene, die der Drohne sagen, wo sie ist und ob ein Notfall real ist – von Menschen vorkalibriert wurden. Die Drohne konnte lernen, die Umgebung zu erkennen, aber sie konnte die Gesetze selbst nicht von Grund auf lernen.
Trotz dieser Einschränkung erwies sich das System als schnell genug für den realen Einsatz. Die Forscher maßen, wie lange die Drohne für eine rechtliche Entscheidung benötigte. Der gesamte Prozess, vom Sehen der Welt bis zur Entscheidung über eine Bewegung, dauerte nur 0,31 Millisekunden. Das ist schnell genug, um auf den kleinen Computern, die man in echten Drohnen findet, zu laufen, sodass das rechtliche Gewissen in Echtzeit operieren kann, ohne den Flug zu verlangsamen. Das System zeigte auch einen natürlichen Sicherheitsmechanismus: Wenn die Sensoren sehr verrauscht waren und die Drohne nicht sicher war, was geschah, hörte sie einfach auf zu handeln. Sie würde lieber an Ort und Stelle schweben, als durch Raten gegen ein Gesetz zu verstoßen.
Die Studie kommt zu dem Schluss, dass die Kodierung von Gesetzen als flexible Präferenzen statt als starre Regeln es autonomen Maschinen ermöglicht, komplexe, reale Situationen zu bewältigen. Indem sie rechtliche Verpflichtungen als einen Satz konkurrierender Wünsche behandelt, die sich je nach Kontext ändern, kann die Drohne Entscheidungen treffen, die sowohl effektiv als auch regelkonform sind. Das System muss kein perfekter Anwalt sein; es muss nur verstehen, dass einige Regeln wichtiger sind als andere und dass das Richtige manchmal davon abhängt, was gerade im Moment geschieht. Dieser Ansatz bietet einen Weg nach vorn, um Maschinen zu bauen, die durch die chaotischen, widersprüchlichen Anforderungen der menschlichen Gesellschaft navigieren können, ohne dass ein Mensch für jede einzelne Entscheidung einen Knopf drücken muss.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.