Understanding How University Guidelines Address Privacy and Security Issues of Generative AI in Academic Settings
Dit artikel presenteert een kwalitatieve analyse van de richtlijnen voor het gebruik van GenAI van 43 universiteiten in 12 landen om te identificeren hoe instellingen voor hoger onderwijs de privacy- en beveiligingsuitdagingen die door propriëtaire AI-systemen worden veroorzaakt aanpakken, terwijl zij een balans zoeken tussen innovatie en academische integriteit.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat het klaslokaal van de toekomst niet alleen een kamer met banken is, maar een bruisende digitale speeltuin waar zojuist een nieuw soort superintelligent robotmaatje is gearriveerd. Deze robot, genaamd Generatieve AI (of GenAI), kan essays schrijven, wiskundeproblemen oplossen en zelfs sneller videogames programmeren dan wie dan ook. Het is alsof je een magische encyclopedie hebt die terug kan praten en alles kan creëren wat je er maar om vraagt. Maar hier zit de adder onder het gras: deze robot is gebouwd en wordt bezeten door een paar grote commerciële bedrijven, niet door de scholen zelf. We weten niet volledig wat hij doet met de geheimen die je hem toevertrouwt. Schrijft hij ze op in een schriftje om ervan te leren? Deelt hij ze met vrienden? Dit is de grote zorg in de wereld van "privacy en beveiliging". Privacy gaat over het veilig houden van je persoonlijke dagboek voor nieuwsgierige ogen, en beveiliging gaat over het zorgen dat de sloten op je digitale deur sterk genoeg zijn om hackers buiten te houden. Terwijl scholen zich haasten om leerlingen deze magische robot te laten gebruiken, proberen ze uit te vogelen hoe ze de pret kunnen laten plaatsvinden zonder dat de robot de geheimen van de leerlingen steelt of dat kwaadwillenden de digitale kluis van de school kunnen kraken.
Een team van onderzoekers besloot achter het gordijn te kijken om te zien hoe universiteiten met deze lastige situatie omgaan. Ze gokten niet zomaar; ze lazen de officiële regelboeken en veiligheidsgidsen van 43 topuniversiteiten uit 12 verschillende landen. Denk aan deze gidsen als de "gebruiksaanwijzingen" die scholen voor zichzelf schrijven om te zeggen: "Oké, dit is hoe we je de robot laten gebruiken, en dit is hoe we proemen om je gegevens veilig te houden."
De onderzoekers ontdekten dat hoewel scholen zich zeker zorgen maken over de robot, hun veiligheidsplannen een beetje lijken op een lappendeken — sommige delen zijn heel sterk, en andere hebben gaten. Ten eerste maken de scholen zich vooral zorgen over leerlingen die per ongeluk hun geheimen verklappen. Ze weten dat als een leerling zijn huiswerk of een privaat onderzoeksidee in de robot typt, het bedrijf dat de robot bezit die informatie kan bewaren om zijn brein te trainen. De onderzoekers merkten echter op dat de scholen zich minder zorgen maken over de robot die zelf gehackt of misleid wordt door slechte mensen. Het is also hetzij alsof de scholen heel voorzichtig zijn met het niet laten vallen van hun zakgeld op de stoep, maar nog niet helemaal hebben uitgezocht hoe ze een zakkenroller moeten stoppen die de portemonnee probeert te stelen.
Wat betreft het oplossen van deze problemen, gebruiken de scholen een mix van hoogtechnologische sloten en eenvoudige regels. Sommige universiteiten hebben speciale "enterprise"-versies van de robot gekocht die beloven geen gegevens van leerlingen op te slaan, een beetje zoals het huren van een privéruimte in plaats van het gebruik van een openbaar park. Maar veel scholen zeggen simpelweg tegen leerlingen: "Hé, wees voorzichtig! Typ je geheimen daar niet in." De onderzoekers vonden dat dit een enorme last legt bij de leerlingen en docenten om zelf de beveiligers te zijn. De scholen proberen ook oude veiligheidsregels die bedoeld waren voor gewone computers te gebruiken om deze nieuwe, magische robot te beschermen, wat een beetje is als het proberen te vergrendelen van een ruimteschip met een fietsketting. Het zal misschien een tijdje werken, maar het is niet gebouwd voor deze taak.
De studie suggereert dat hoewel universiteiten hun best doen, ze nog steeds aan het uitzoeken zijn wat de beste manier is om de geweldige dingen die deze robot kan doen te balanceren met de noodzaak om iedereen veilig te houden. Ze schrijven deze regels terwijl ze bezig zijn, waarbij ze vaak ideeën lenen van andere scholen of de wetten van hun regeringen volgen. De onderzoekers concluderen dat we betere, specifiekere veiligheidsplannen nodig hebben die precies begrijpen hoe deze nieuwe robot werkt, in plaats van alleen maar te hopen dat de oude regels standhouden. Het is een werk in uitvoering, en iedereen moet blijven praten om ervoor te zorgen dat de magische robot ons helpt leren zonder onze geheimen te stelen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.