Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence
Dit artikel presenteert een Wolfram Language-implementatie van Reified Input/Output Logic voor AI-governance, waarbij de bekwaamheid wordt aangetoond om juridische normen te vertalen naar uitvoerbare code voor controleerbaar gedrag van agenten, terwijl tegelijkertijd de huidige beperkingen worden belicht bij het gebruik van grote taalmodellen om dit formaliseringsproces te automatiseren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een superintelligent robot probeert te leren hoe hij zich moet gedragen in een wereld vol regels. Het probleem is dat het brein van de robot een "black box" is. Je kunt niet in de black box kijken om te zien hoe hij precies denkt of waarom hij een beslissing neemt. Het is alsoals een goochelaar vragen om een truc uit te leggen terwijl hij nog aan het optreden is. Meestal proberen we dit op te lossen door te hopen dat de robot leert denken als een mens, maar dat is riskant omdat menselijke taal rommelig is, vol verborgen betekenissen zit en vol mazen in de wet zit.
Dit is waar Computational Law (Computationeel Recht) om de hoek komt kijken. Denk aan het omzetten van een rommelig, handgeschreven regelboek in een strikt computerprogramma. In plaats van te schrijven "Wees niet gemeen," schrijf je code die zegt: "Als Actie X gebeurt, dan moet Resultaat Y optreden." Dit vakgebied probeert juridische regels zo precies te maken dat een computer ze kan lezen, kan opvolgen en kan bewijzen dat hij ze heeft opgevolgd. Het paper dat we bekijken onderzoekt een specifieke manier om dit te doen met behulp van een speciale programmeertaal genaamd Wolfram Language. Deze behandelt wetten als wiskundige vergelijkingen waarbij je kunt controleren of een robot de regels naleeft, zelfs als je niet begrijpt hoe het brein van de robot werkt. De grote vraag is: kunnen we gewoon een superintelligente AI (zoals de AI die deze tekst schrijft) vragen om onze rommelige Engelse wetten te vertalen naar perfecte computercode?
Het Grote Experiment van het Paper: Kan AI de Regels Schrijven?
De auteur, James K. Wiles, besloot dit idee te testen. Hij bouwde een systeem in de Wolfram Language dat fungeert als een "juridische vertaler". Dit systeem gebruikt een speciale logica genaamd Reified Input/Output Logic. Om dit te begrijpen, stel je een verkoopautomaat voor. Je stopt er een muntje in (Input), en de machine geeft je een frisdrank (Output). In dit juridische systeem is de "Input" een feit (zoals "Het is nacht") en de "Output" is een regel (zoals "Je moet stoppen"). Het systeem gaat ook om met complexe ideeën zoals "reificatie", wat gewoon een chique manier is om een gebeurtenis (zoals "Alice die een boek aan Bob geeft") te veranderen in een fysiek object dat de computer kan vasthouden, meten en waarover hij kan praten.
De auteur vroeg vervolgens aan een krachtige AI (GPT-4) om de vertaler te zijn. Hij gaf de AI vier eenvoudige Engelse juridische zinnen en vroeg de AI om deze om te zetten in de computercode die het systeem nodig heeft.
De Resultaten: Een Mix van Magie en Glitches
Het experiment toonde aan dat hoewel de AI snel is en code kan schrijven die er correct uitziet, het nog niet veilig is om er alleen op te vertrouwen. Dit is wat er gebeurde met de vier testzinnen:
- De "Tie and Blond" Test: De AI kreeg de opdracht om een regel te vertalen over mensen die geen stropdas dragen of blond zijn en de kamer moeten verlaten. De AI schreef code die leek te werken. Echter, toen de auteur de wiskunde controleerde, vond hij een stille fout: de code was op een manier kapot waardoor deze "True" zei voor iedereen, zelfs voor mensen die wel een stropdas droegen en donker haar hadden. De AI had een regel gecreëerd die eigenlijk niets controleerde.
- De "Every Man" Test: De AI kreeg de opdracht om te vertalen: "Elke man is verplicht om te rennen." De AI schreef code die werkte, maar maakte een fout in de definitie van "man". In plaats van te controleren of een persoon daadwerkelijk een man was, nam de code simpelweg aan dat de persoon een man was omdat de regel dat zei. Dit is als een uitsmijter bij een club die iedereen binnenlaat omdat hij heeft besloten dat iedereen een VIP is, in plaats van ID-bewijzen te controleren.
- De "Manager and Secretary" Test: De AI probeerde een regel te vertalen waarbij een secretaresse de taken van een manager moet opschrijven. De AI schreef code die er perfect uitzag en voegde zelfs een opmerking toe: "Dave is geen manager, dus geen verplichting." Maar toen de code daadwerkelijk draaide, dwong het de secretaresse toch om de taak op te schrijven, waarbij de opmerking werd genegeerd. De code van de AI en de eigen uitleg van de AI waren tegenstrijdig.
- De "Satellite" Test: De AI kreeg de opdracht om een regel te schrijven dat een satelliet 200 kilometer verwijderd moet blijven van het Internationale Ruimtestation. De AI schreef code die gebruikmaakte van echte satellietgegevens, wat indrukwekkend was. Maar de wiskunde klopte niet: het mat de afstand langs het aardoppervlak (zoals rijden op een weg) in plaats van de rechte lijn door de ruimte. Twee satellieten konden verticaal 400 kilometer uit elkaar liggen, maar de code zou zeggen dat ze elkaar raakten.
Het Oordeel
Het paper concludeert dat AI een geweldige assistent is, maar een verschrikkelijke baas. Het kan de regels snel opstellen, maar het maakt "stille fouten" — fouten die het programma niet laten crashen, maar de robot wel het verkeerde laten doen. De auteur stelt dat we de AI niet zomaar de wetten voor andere AI's kunnen laten schrijven. In plaats daarvan hebben we een teamaanpak nodig: de AI ontwerpt de code, maar mensen moeten elke regel controleren met strikte tests om te zorgen dat de logica standhoudt.
De "Fluffy" Casusstudie: Een Robot-waakhond
Om te laten zien hoe dit er in de echte wereld uitziet, creëerde de auteur een casusstudie van een robot-waakhond genaamd Fluffy. Fluffy is eigendom van een AI-bedrijf en werkt onder een "computationeel contract". Dit is geen papieren contract; de regels zijn direct in Flulffy's brein geschreven.
Het contract bevatte drie eenvoudige regels:
- Indringers stoppen: Als iemand binnen 100 meter van het huis komt tijdens de nacht, moet Fluffy hen stoppen.
- Dichtbij blijven: Fluffy moet binnen 200 meter van het huis blijven.
- Toestemming voor geweld: Fluffy mag zijn taser gebruiken, maar is niet verplicht dat te doen.
Het coole deel is dat de acties van Fluffy auditbaar zijn. Als Fluffy zijn taser gebruikt, zegt het systeem niet alleen "Ik deed het." Het produceert een symbolisch bonnetje dat zegt: "Ik gebruikte de taser vanwege: Feit A (Persoon op 80m) + Feit B (Het is Nacht) + Regel 1 = Verplichting om te Stoppen." Dit creëert een duidelijk, onveranderlijk dossier dat bewijst dat de robot de wet heeft nageleefd.
Waarom dit ertoe doet
Het paper betoogt dat we moeten stoppen met hopen dat robots onze wetten "begrijpen" en moeten beginnen met het geven van wetten die ze kunnen uitvoeren. We kunnen niet wachten tot we in staat zijn om in de black box van een AI-brein te kijken. In plaats daarvan moeten we de black box omringen met een kooi van uitvoerbare regels.
De auteur suggereert dat we hoewel we niet elke wet in code kunnen omzetten (sommige dingen zijn te vaag, zoals "redelijk zijn"), we zeker wel kunnen en moeten overgaan tot het omzetten van de regels voor veiligheidskritische machines in code. Het doel is niet om menselijke rechters te vervangen, maar om ons instrumenten te geven waarmee we kunnen controleren of een robot de regels op dit moment naleeft.
Het paper eindigt met een waarschuwing: we bouwen krachtige machines, en als we ze geen duidelijke, uitvoerbare regels geven, eindigen we misschien in een toekomst waarin een robot een verschrikkelijke beslissing neemt en wij geen idee hebben waarom. Door computationeel recht te gebruiken, kunnen we ervoor zorgen dat zelfs als de robot een black box is, zijn regels kristalhelder zijn en kunnen we altijd controleren of hij heeft gedaan wat hij moest doen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.