What We Know about Responsible AI Practices in Industry: A Half Decade of Empirical Research
Dit artikel synthetiseert bevindingen uit 161 empirische studies over een periode van zes jaar om een uitgebreid overzicht te bieden van de vooruitgang, professionalisering en hardnekkige uitdagingen binnen de praktijken van Verantwoorde AI binnen de technologie-industrie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een gigantisch, onzichtbaar robotbrein bouwt dat verhalen kan schrijven, ziekten kan diagnosticeren of je volgende favoriete nummer kan aanbevelen. Dit vakgebied wordt Kunstmatige Intelligentie (AI) genoemd. Maar net als een echt brein, kan dit robotbrein soms in de war raken, oneerlijke keuzes maken of per ongeluk mensen pijn doen. Om dit te stoppen, hebben wetenschappers en bedrijven een set regels bedacht die "Verantwoorde AI" (RAI) wordt genoemd. Denk aan RAI als het morele kompas en de veiligheidsinstructies van de robot. Het gaat niet alleen om het slim maken van de robot; het gaat erom dat hij vriendelijk, eerlijk en veilig is voor iedereen. Een lange tijd vroegen mensen zich af: "Weten de mensen die deze robots daadwerkelijk bouwen wel hoe ze dit morele kompas moeten gebruiken? Volgen ze de regels wel, of negeren ze ze gewoon?" Dit is de grote vraag die een team van onderzoekers besloot te onderzoeken.
Om het antwoord te vinden, hebben de onderzoekers niet simpelweg geraden of naar computercode gekeken. In plaats daarvan traden ze op als digitale detectives, waarbij ze door een enorme stapel van 161 verschillende wetenschappelijke studies uit de afgelopen zes jaar groetten. Deze studies bestonden allemaal uit interviews, enquêtes en observaties van echte mensen die werkzaam zijn in techbedrijven, waarbij geprobeerd werd te achterhalen hoe zij deze morele regels in hun dagelijkse baan daadwerkelijk hanteren. Ze wilden zien of de "Verantwoorde AI"-beweging slechts een hippe slogan op een muur was, of dat het de manier waarop robots worden gebouwd echt aan het veranderen was.
Het Detectiverapport: Wat ze vonden
Het rapport van de onderzoekers, getiteld "What We Know about Responsible AI Practices in Industry," onthult het verhaal van een bedrijf dat langzaam, onhandig, maar zeker probeert volwassen te worden.
Het Goede Nieuws: De lichten gaan aan
Een paar jaar geleden wisten veel werknemers die AI bouwden niet eens dat het morele kompas bestond. Ze waren zo gefocust op het snel en slim maken van de robot, dat ze vergaten te controleren of de robot niet gemeen was. Maar het artikel suggereert dat er dingen veranderen. Steeds meer werknemers beseffen nu dat "Verantwoorde AI" een echt ding is en dat het ertoe doet. Het is als een klas waar in het begin niemand wist dat er regels waren over delen, maar nu iedereen weet dat die regels bestaan.
Bedrijven worden ook organisatorischer. In plaats van één persoon die zich stilletjes zorgen maakt over eerlijkheid, beginnen bedrijven speciale "RAI-experts" aan te nemen en officiële functietitels te creëren voor mensen die het gedrag van de robot controleren. Ze beginnen ook checklists en softwaretools te gebruiken om hen te helpen fouten te vinden voordat de robot de wereld in gaat. Het is een beetje zoals een chef die eindelijk een thermometer koopt om te controleren of de cake gebakken is, in plaats van gewoon te gokken.
Het Slechte Nieuws: Het kompas is nog steeds kapot
Echter, het rapport maakt heel duidelijk dat alleen omdat mensen de regels kennen, betekent het niet dat ze ze ook kunnen volgen. De onderzoekers ontdekten dat veel werknemers zich verloren voelen. Ze weten dat ze eerlijk moeten zijn, maar ze hebben niet de juiste training of de juiste tools om het te doen. Het is alsof je iemand vertelt dat hij een racewagen moet besturen, maar hem geen rijbewijs of een kaart geeft.
Een van de grootste problemen is dat de tools die bedrijven gebruiken vaak te vaag zijn. Stel je een kookboek voor dat zegt: "Voeg wat kruiden toe." Dat is niet handig als je een specifiek taartje probeert te bakken. Op dezelfde manier geven veel AI-tools algemeen advies, maar vertellen ze een werknemer niet precies wat hij moet doen wanneer hij een specifieke functie voor een specifiek product bouwt. De werknemers laten over aan het vertalen van abstracte ideeën naar echte code, vaak zonder genoeg tijd of geld om het goed te doen.
Het Baasprobleem: "Doe het later"
Het artikel belicht ook een grote hindernis: de baas. In veel bedrijven geven de mensen in de leiding meer om hoe snel ze een nieuw product kunnen lanceren dan om hoe veilig het is. De onderzoekers ontdekten dat werknemers vaak de opdracht krijgen om "het veiligheidsvakje aan te vinken" aan het einde van het project, wanneer er geen tijd meer over is om problemen op te lossen. Dit verandert "Verantwoorde AI" in een saaie papierwinkel, zoals het invullen van een formulier om een stempel te krijgen, in plaats van de robot daadwerkelijk veiliger te maken. Het artikel suggereert dat zonder voldoende personeel, tijd en geld die aan deze veiligheidscontroles worden toegewezen, zelfs de beste tools in de wereld niet zullen helpen.
De Ontbrekende Stukken
Ten slotte merkten de onderzoekers op dat bedrijven nog steeds moeite hebben met het luisteren naar de mensen die de robot niet bouwen. Dit omvat de mensen die de data labelen (de werkers die de robot leren hoe een "kat" eruitziet), de mensen die de robot gebruiken, en experts uit andere vakgebieden zoals artsen of juristen. Het rapport suggereert dat hoewel bedrijven om hulp beginnen te vragen, ze vaak niet weten hoe ze goed moeten luisteren, of ze hebben niet de juiste systemen om deze buitenstaanders de kans te geven om hun stem te laten horen wanneer er iets misgaat.
De Kern van het Verhaal
Dus, wat betekent dit allemaal? Het artikel suggereert dat de AI-industrie zich in een fase van "groeipijnen" bevindt. Iedereen is het erover eens dat verantwoordelijkheid belangrijk is, en de tools om dit te doen beginnen te verschijnen. Maar er is een enorme kloof tussen weten wat je moet doen en het daadwerkelijk goed doen. De onderzoekers concluderen dat voor Verantwoorde AI echt te werken, bedrijven het niet als een bijproject of een checklist moeten behandelen. Ze moeten het in de kern van hun werk integreren, hun werknemers echte training geven en luisteren naar de mensen die door de robots worden beïnvloed die ze bouwen. Tot die tijd is het morele kompas van de robot nog steeds een beetje wankel, en moeten we blijven werken om het te stabiliseren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.