Alignment as Jurisprudence
Dit essay betoogt dat rechtsfilosofie en AI-uitlijning een fundamentele structuur delen in het voorspellen en vormgeven van de beslissingen van machtige actoren via taal, en stelt dat interdisciplinaire inzichten uit juridische theorieën zoals Dworkins interpretativisme en Sunsteins analogisch redeneren AI-uitlijningsstrategieën kunnen verfijnen, terwijl AI-vooruitgang op zijn beurt nieuwe perspectieven biedt voor het verbeteren van de juridische theorie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Idee: Twee Werelden, Eén Probleem
Stel je twee heel verschillende banen voor:
- Een Rechter: Iemand die kijkt naar oude zaken (precedenten) en wetten om te beslissen hoe een gloednieuwe situatie moet worden aangepakt.
- Een AI-trainer: Iemand die probeert een superslimme robot (een AI) aan te leren zich op een manier te gedragen die mensen leuk vinden, met behulp van oude data en regels.
De auteur betoogt dat deze twee banen eigenlijk tweeling zijn. Ze staan beiden voor exact hetzelfde raadsel: Hoe nemen we een reeks van voorbeelden en regels uit het verleden en gebruiken die om een eerlijke beslissing te nemen over iets dat nog nooit is gebeurd?
Het artikel suggereert dat advocaten en AI-onderzoekers van gedachten moeten wisselen. Advocaten lossen dit probleem van "toekomstvoorspelling" al eeuwen op, terwijl AI-onderzoekers er pas net mee beginnen.
Deel 1: Hoe AI wordt onderwezen (De "Trainingsfase")
Momenteel zijn AI-modellen als studenten die het hele internet hebben gelezen. Ze weten hoe ze het volgende woord in een zin moeten voorspellen, maar ze weten niet wat er "goed" of "slecht" is om te zeggen. Om dit op te lossen, gebruiken onderzoekers Alignment-technieken.
De Oude Manier (RLHF): Stel je een leraar voor die een student een toets geeft. De leraar beoordeelt elk antwoord: "Goed gedaan!" of "Probeer het opnieuw." De student leert door duizenden van deze beoordelingen te ontvangen. Dit heet Versterkend Leren uit Menselijke Feedback (RLHF).
- Het Probleem: Het is duur, traag en afhankelijk van de specifieke meningen van een kleine groep leraren (de crowdworkers). Als de leraren bevooroordeeld zijn, leert de student vooroordelen.
De Nieuwe Manier (Constitutionele AI): In plaats van dat een leraar elk enkel antwoord beoordeelt, krijgt de student een Grondwet – een korte lijst met regels zoals "Wees behulpzaam", "Wees niet gemeen" en "Respecteer mensenrechten". De AI wordt vervolgens aangeleerd om zichzelf te beoordelen op basis van deze regels.
- Het Probleem: De regels zijn vaag. Wat betekent "Wees behulpzaam" eigenlijk in een rare, nieuwe situatie?
De Casus-gebaseerde Manier: Dit is als het onderwijzen van een student door hen een bibliotheek met specifieke verhalen (zaken) te tonen en te vragen: "Als dit gebeurde, wat zou je doen?" De student leert door nieuwe situaties te vergelijken met deze specifieke verhalen.
Deel 2: De Juridische Theorieën (Het "Brein" van het Artikel)
De auteur haalt twee beroemde juridische denkers erbij om de AI-problemen op te lossen.
1. Ronald Dworkin: De "Principe"-Rechter
Dworkin gelooft dat wanneer een rechter een nieuwe zaak tegenkomt, ze niet alleen naar de regels moeten kijken; ze moeten kijken naar de onderliggende waarden (zoals rechtvaardigheid en billijkheid).
- De Analogie: Stel je een chef-kok voor die een receptenboek heeft (de wet). Als een klant een gerecht bestelt dat niet in het boek staat, gokt de chef niet zomaar. Ze vragen: "Wat is de geest van deze keuken? Wat betekent 'lekker' in deze cultuur?" Ze gebruiken hoogwaardige principes om hun koken te sturen.
- De Les voor AI: AI mag niet alleen een lijst met "doe-niet"-regels volgen. Het moet de geest van de regels begrijpen (zoals "mensenrechten") zodat het goede beslissingen kan nemen, zelfs als de regels vaag zijn.
2. Cass Sunstein: De "Analogie"-Rechter
Sunstein gelooft dat rechters geen grote, abstracte theorieën hoeven te hebben. Ze hoeven alleen maar te kijken naar soortgelijke zaken uit het verleden.
- De Analogie: Stel je voor dat je moet beslissen of een nieuw fruit een appel is. Je hebt geen PhD in botanie nodig. Je kijkt gewoon naar een foto van een rood fruit dat je weet dat een appel is en zegt: "Dit lijkt op die." Je hoeft het niet eens te zijn over waarom het een appel is, alleen dat het een appel is. Dit heet een "Onvolledig Getheoretiseerd Akkoord".
- De Les voor AI: AI hoeft het niet eens te zijn over de diepe betekenis van "rechtvaardigheid". Het hoeft alleen maar overeen te komen over hoe het omgaat met specifieke, concrete voorbeelden. Als we de AI genoeg voorbeelden van "eerlijke" en "on eerlijke" situaties laten zien, kan het het patroon leren zonder een filosofiediploma te nodig te hebben.
Deel 3: Het Voorgestelde Oplossing (Het Maken van de Twee)
Het artikel betoogt dat de beste manier om AI te trainen, is door Dworkins "Principes" te mengen met Sunsteins "Voorbeelden".
- De Hybride Aanpak:
- Geef de AI een Grondwet (Dworkins principes) zodat het de hoogwaardige doelen kent (bijv. "Bescherm mensenrechten").
- Geef de AI een Bibliotheek met Zaken (Sunsteins voorbeelden) zodat het ziet hoe die principes in het echte leven werken.
- De Magische Stap: Laat mensen debatteren en beslissen over specifieke voorbeelden. Bijvoorbeeld: "Is het eerlijk om een 12-jarige een videospel te laten kopen?" De AI leert van deze debatten.
- Het Resultaat: De AI leert niet alleen wat de regel is, maar hoe deze toe te passen op nieuwe, rare situaties door te kijken naar de "vorm" van eerdere beslissingen.
Dit creëert een systeem dat democratisch is (omdat mensen de voorbeelden beslissen) en flexibel (omdat de AI de logica kan toepassen op nieuwe situaties).
Deel 4: Hoe AI de Wet Kan Helpen
Het artikel suggereert ook dat AI advocaten kan helpen, niet alleen andersom.
- De "Tweede Mening"-Machine: Stel je voor dat een rechter een beslissing neemt. Een AI, getraind op duizenden zaken uit het verleden, zou direct kunnen zeggen: "Hé, deze beslissing lijkt erg verschillend van 50 vergelijkbare zaken die je eerder hebt genomen. Weet je zeker dat je deze weg wilt inslaan?" Het fungeert als een controle om ervoor te zorgen dat rechters niet alleen hun eigen persoonlijke vooroordelen volgen.
- De "Tijdsreis"-Vertaler: AI zou oude wetten kunnen analyseren en ons vertellen wat woorden toen betekenden (oorspronkelijke betekenis) versus wat ze nu betekenen, waardoor advocaten de ware bedoeling van oude wetten beter kunnen begrijpen.
- De "Super-Agent": In de toekomst kan AI fungeren als een persoonlijke advocaat voor iedereen. Als je een huis wilt kopen of een contract wilt tekenen, kan je AI-agent voor je onderhandelen, ervoor zorgen dat de deal eerlijk is, en het recht toegankelijk maken voor gewone mensen, niet alleen voor de rijken.
De Conclusie
Het artikel beweert dat Recht en AI-Alignment hetzelfde spel zijn, gespeeld met verschillende stukken.
- Advocaten spelen dit spel al eeuwen, en proberen uit te zoeken hoe ze regels en verhalen moeten gebruiken om de toekomst te beslissen.
- AI-onderzoekers proberen robots hetzelfde spel te leren spelen.
Door AI-onderzoekers te leren denken als rechters (met behulp van principes en voorbeelden), kunnen we veiligere, slimmere en eerlijkere AI bouwen. En door AI te laten helpen bij advocaten, kunnen we het rechtssysteem transparanter en eerlijker maken voor iedereen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.