ApplE: A Modular Ontology of Applied Ethics and Event Context for Ethical Decision Modeling
Dit artikel introduceert ApplE, een modulaire ontologie ontwikkeld met de SAMOD-methodologie die ethische theorieën en gebeurteniscontexten verenigt om gestructureerde, machine-interpreteerbare redenering voor ethische besluitvorming in domeinspecifieke toepassingen zoals de gezondheidszorg mogelijk te maken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin je broodrooster kan beslissen of hij je brood verbrandt op basis van een morele regel, of dat een zelfrijdende auto moet kiezen tussen het raken van een voetganger of het tegen een muur aanrijden. Dit is niet alleen sciencefiction; het is de grens van Kunstmatige Intelligentie (AI). Decennialang hebben we machines geleerd om slim, snel en sterk te zijn, maar we hebben er moeite mee gehad om ze te leren om goed te zijn. De grote vraag is: hoe krijgen we een computer te begrijpen dat sommige dingen juist zijn en andere fout, vooral wanneer de regels ingewikkeld worden?
Om dit te beantwoorden, moeten we twee hoofdbestanddelen begrijpen. Ten eerste is er Ethiek, de studie van wat een handeling "goed" of "slecht" maakt. Denk aan een regelboek voor het leven, maar in plaats van slechts één regelboek, zijn er vele verschillende. Sommigen zeggen "vertel altijd de waarheid" (Deontologie), anderen zeggen "doe wat de meeste mensen helpt" (Utilitarisme), en weer anderen zeggen "wees een deugdzaam persoon" (Deugdethiek). Ten tweede is er Context, de specifieke situatie waarin een beslissing plaatsvindt. Het is het verschil tussen het stelen van een brood om een hongerig kind te voeden versus het stelen van een brood omdat je je verveelt. Dezelfde handeling kan totaal anders zijn afhankelijk van de "wie, wat, waar en waarom".
De uitdaging is dat computers verschrikkelijk zijn in het begrijpen van deze complexe, menselijke nuances. Ze hebben meestal zeer duidelijke, rigide instructies nodig. Als we willen dat AI ethische beslissingen neemt in de echte wereld — zoals in ziekenhuizen, bedrijven of op de wegen — hebben we een manier nodig om deze vage menselijke ideeën te vertalen naar een taal die de machine daadwerkelijk kan lezen en ermee kan redeneren. Dat is waar dit artikel inspringt.
Het "ApplE"-recept: Robots leren denken als mensen
Maak kennis met ApplE (Applied Ethics and Event Context). Zie het niet als een robotbrein, maar als een enorme, supergeorganiseerde bibliotheek van "ethische bouwstenen", specifelijk ontworpen voor computers. De auteurs, een team van onderzoekers uit India, realiseerden zich dat hoewel we veel theorieën over ethiek hebben, we geen standaardmethode hebben om ze op te schrijven zodat machines ze kunnen gebruiken. Dus bouwden zij een Modulaire Ontologie.
Laat het chique woord "ontologie" je niet afschrikken. In eenvoudige bewoordingen is een ontologie als een gedetailleerde kaart of een woordenboek dat definieert hoe verschillende dingen met elkaar samenhangen. Stel je voor dat je een LEGO-kasteel bouwt. Je hebt een doos met blokjes (de concepten), maar zonder handleiding weet je niet welk blokje waar hoort. ApplE is die handleiding. Het breekt de complexe wereld van de ethiek af in twee hoofdsecties die perfect in elkaar klikken:
- De "Theorie"-module: Dit is de bibliotheek van regels. Het bevat de verschillende ethische filosofieën, zoals de "Niet Schaden"-regel of de "Grootste Goed"-regel.
- De "Context"-module: Dit is het verhalenboek. Het bevat de details van een specifieke gebeurtenis: Wie deed het? (De Agent), Wat hebben ze gedaan? (De Handeling), Wanneer en waar gebeurde het? (Tijd en Plaats), en wat was het resultaat? (Het Gevolg).
De magie van ApplE is dat het deze twee verbindt. Het stelt een computer in staat om naar een specif으로 verhaal te kijken (zoals een arts die medicijnen voorschrijft) en dit te controleren tegen het regelboek om te zien of de handeling binnen de regels past.
De "Morele Rekentool" en het Opioïd-verhaal
Om te bewijzen dat hun kaart werkt, hebben de onderzoekers niet alleen code geschreven; ze hebben het getest met een echt, complex scenario uit de medische wereld. Ze keken naar een verhaal over een arts in het begin van de jaren 2000 die een sterke pijnstiller (OxyContin) voorschreef aan een tienerpatiënt. De arts had goede bedoelingen: ze wilden de pijn van het kind stoppen en voorkomen dat het steeds terug naar de kliniek moest komen.
Echter, het langetermijngevolg was slecht: de tiener raakte verslaafd aan het middel.
Hier blinkt ApplE uit. Een simpele computer zou misschien alleen naar de "goede intentie" kijken en zeggen: "Goed gedaan!" of alleen naar het "slechte resultaat" kijken en zeggen: "Slecht gedaan!" Maar ApplE is slimmer. Het gebruikt een speciale set instructies genaamd SWRL-regels (denk aan deze als een complex recept voor morele wiskunde). Het weegt de goede korte termijn pijnstilling af tegen de verschrikkelijke langetermijnverslaving. Het controleert de plicht van de arts om de risico's van het middel te kennen.
Het resultaat? De computer, gebruikmakend van de ApplE-kaart, identificeerde de handeling van de arts correct als "Moreel Verwerpelijk". De computer gokte niet alleen; het redeneerde dat de handeling, hoewel de intentie goed was, de ethische principes van "Nonmaleficence" (niet schaden) en de verantwoordelijkheid van de arts schond. Het systeem kon uitleggen waarom het tot die conclusie kwam door te wijzen op de specifieke regels en feiten die het gebruikte.
Waarom dit ertoe doet (en wat het niet is)
De auteurs zijn heel duidelijk over wat ApplE wel en niet kan doen. Ze beweren niet dat ze een robot hebben gebouwd die plotseling schuldgevoel kan voelen of uit zichzelf perfecte morele keuzes kan maken. In plaats daarvan hebben ze een instrument gebouwd dat mensen en machines helpt om samen te werken.
Ze spreken zich uit tegen het idee dat we een computer simpelweg "ethiek kunnen leren" door het miljoenen verhalen te voeren en het het antwoord te laten raden (een methode die machine learning wordt genoemd). Ze wijzen erop dat als je een computer alleen maar data voert, de computer de slechte gewoonten of vooroordelen kan aanleren die in die data verborgen zitten, en dat het niet in staat zal zijn om uit te leggen waarom het een keuze heeft gemaakt. Het zou zijn als een student die de antwoorden heeft uit het hoofd geleerd, maar de wiskunde erachter niet begrijpt. ApplE daarentegen is als een student die de regels van het spel begrijpt en de berekeningen kan laten zien.
Het team testte hun kaart met een rigoureus proces genaamd SAMOD, waarbij experts het werk herhaaldelijk controleren. Ze doorliepen "competentievragen" (zoals een quiz) om te controleren of de kaart accuraat was. Ze ontdekten dat ApplE verschillende soorten ethische dilemma's kon afhandelen, van medische gevallen tot zakelijke beslissingen (zoals een bedrijf dat autistische werknemers aanneemt) en zelfs milieuproblemen (zo zoals het kappen van bomen voor ontwikkeling).
Uiteindelijk is ApplE een fundamentele stap. Het suggereert dat door AI een gestructureerde, duidelijke en modulaire manier te geven om zowel de regels van de ethiek als de details van de echte situaties te begrijpen, we kunnen beginnen met het bouwen van machines die niet alleen handelen, maar ook ethisch handelen. Het is geen toverstaf die elk moreel probleem oplost, maar het is een zeer sterke zaklamp in een zeer donkere kamer, die ons helpt het pad vooruit te zien voor ethische AI.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.