Agents of ViTAL: Ethics Missions -- A Narrative-Centered Learning Environment with a Co-Designed Conversational Agent for Middle School AI Ethics

In het moderne klaslokaal is technologie niet langer slechts een hulpmiddel voor het verzorgen van lessen; het wordt een deelnemer aan het leerproces zelf. Kunstmatige intelligentiesystemen zijn steeds beter in staat om studentgedrag te analyseren, feedback te geven en zelfs toekomstige prestaties te voorspellen. Hoewel deze tools efficiëntie en personalisatie beloven, introduceren ze ook complexe vragen over privacy, eerlijkheid en de verborgen kosten van rekenkracht. Voor jongeren die opgroeien in een wereld die verzadigd is met algoritmen, is het begrijpen van hoe deze systemen werken en welke ethische afwegingen zij met zich meebrengen, even essentieel geworden als lezen of schrijven. De uitdaging voor docenten is niet simpelweg het onderwijzen van de mechanica van code, maar het helpen van studenten bij het navigeren door de moeilijke beslissingen die ontstaan wanneer technologie en menselijke waarden elkaar ontmoeten. Dit vereist een ruimte waar leerlingen in de schoenen van besluitvormers kunnen stappen, tegenstrijdige belangen kunnen afwegen en de kunst van ethisch redeneren kunnen oefenen in een setting die echt aanvoelt, zelfs als het scenario verzonnen is.

Een team van onderzoekers van universiteiten door heel de Verenigde Staten heeft een nieuwe manier ontwikkeld om deze abstracte concepten naar het middenbare schoolniveau te brengen. Ze creëerden een digitale leeromgeving genaamd "Agents of ViTAL: Ethics Missions", een browsergebaseerde ervaring waarbij studenten samenwerken om een fictief probleem op te lossen. In dit scenario overweegt een middelbare school of zij een nieuw kunstmatig intelligentiesysteem genaamd PresenterPal moet adopteren, ontworpen om directe feedback te geven op klasdiscussies. De studenten zijn geen passieve luisteraars; zij zijn de besluitvormers. Ze betreden een virtuele ruimte die de rustige orde van een bibliotheek combineert met het experimentele karakter van een laboratorium, bekend als de "Libratory". Hier ontmoeten ze digitale gidsen die het toneel bereiden voor hun missie: onderzoeken of de school met deze technologie van plan is door te gaan.

Zodra het onderzoek begint, verkennen de studenten een gesimuleerde versie van de school en verzamelen zij informatie van verschillende mensen die door het nieuwe systeem geraakt zouden worden. Ze spreken met docenten, studenten, bestuurders en IT-personeel, en verzamelen bewijsmateriaal zoals nieuwsberichten over datalekken of aantekeningen over budgetbeperkingen. Terwijl ze door de simulatie bewegen, komen ze specifieke situaties tegen die hen dwingen de drie belangrijkste ethische dimensies van kunstmatige intelligentie onder ogen te zien: privacy, bias en milieu-impact. Wanneer ze bijvoorbeeld het systeem configureren, moeten de studenten beslissen of ze gegevens over interacties van studenten opslaan op lokale servers binnen de school of op cloudservers elders. Deze keuze is niet louter technisch; het draagt gewicht met zich mee. Het lokaal opslaan van gegevens kan de privacy beschermen maar legt een druk op het beperkte budget van de school, terwijl het gebruik van de cloud betere beveiliging kan bieden maar zorgen oproept over wie er nog meer toegang heeft tot de informatie. Deze momenten zijn ontworpen om te laten zien dat er zelden een perfecte oplossing is, alleen een reeks moeilijke compromissen.

Na het verzamelen van hun bewijsmateriaal gaan de studenten over naar een collaboratieve fase die de Ranking Challenge wordt genoemd. In dit deel van de ervaring moet de groep tot een consensus komen over welke risico's en voordelen van het AI-systeem het belangrijkst zijn. Ze gebruiken een gedeeld digitaal bord om deze factoren te rangschikken en bespreken hun redenering in een geïntegreerd chatvenster. Dit bord fungeert als een visueel verslag van hun collectieve denken en helpt hen te zien hoe hun individuele standpunten verschuiven terwijl ze naar elkaar luisteren. Het doel is niet om één "juist" antwoord te vinden, maar om de vaardigheid te oefenen om afwegingen te rechtvaardigen met behulp van het eerder gevonden bewijs. Ze moeten verwoorden waarom ze privacy boven gemak waarderen, of waarom ze geloven dat milieukosten belangrijker zijn dan onmiddellijke efficiëntie, en vervolgens een definitieve aanbeveling voor de school formuleren.

Deze hele procedure wordt ondersteund door een digitale metgezel genaamd EthicsBot. In tegen tegenstelling tot een traditionele docent of een zoekmachine die antwoorden geeft, is EthicsBot ontworpen om te fungeren als een soort gelijke denkpartner. Het vertelt de studenten niet wat ze moeten denken; in plaats daarvan stelt het vragen die hen stimuleren om alternatieve perspectieven te overwegen, hun eigen redenering te verhelderen en na te denken over het ethische gewicht van hun keuzes. Het systeem is gebouwd met een unieke benadering bij de creatie ervan: de studenten hebben de bot zelf mede ontworpen. Door een proces van co-design hebben middelbare scholieren feedback gegeven die de manier waarop de bot spreekt, wat hij suggereert en de veiligheidsgrenzen die hij volgt om te voorkomen dat hij misleidende informatie geeft, heeft gevormd. Dit zorgt ervoor dat de tool relevant aanvoelt voor de leerlingen en hun stem respecteert in de ontwikkeling van de technologie die zij bestuderen.

De onderzoekers testten deze omgeving met vier negende klasjes, waarbij tachtig studenten betrokken waren die toestemming hadden gegeven om deel te nemen. De resultaten lieten zien dat de studenten diep betrokken waren bij het materiaal. Ze speelden niet alleen een spel; ze toonden een vermogen tot substantiële ethische redenering en verbonden de fictieve scenario's in de simulatie met hun eigen echte ervaringen met technologie. De studenten waren in staat om complexe kwesties zoals gegevensbeveiliging en algoritmische bias te bespreken met een niveau van nuance dat suggereert dat de narratieve aanpak effectief is. Door studenten de rol van actieve deelnemers te geven in plaats van passieve ontvangers van informatie, helpt het systeem hen het zelfvertrouwen en de vaardigheden op te bouwen die nodig zijn om te navigeren in een steeds meer geautomatiseerde wereld. Het project suggereert dat wanneer jongeren de ruimte krijgen om deze dilemma's gezamenlijk te verkennen, zij een verfijnd begrip kunnen ontwikkelen van het ethische landschap van kunstmatige intelligentie.