Competing Visions of Ethical AI: A Case Study of OpenAI
Deze casestudy van OpenAI onthult dat hoewel het publieke discours van de organisatie sterk de nadruk legt op veiligheid en risico, het opvallend genoeg nalaat om academische en belangenbehartigende ethische kaders te integreren, wat zorgen oproept over potentiële ethics-washing en de noodzaak voor verbeterd bestuur.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je de wereld van Kunstmatige Intelligentie (AI) voor als een enorme, drukke bouwplaats. De machines die hier worden gebouwd zijn ongelooflijk krachtig en in staat om verhalen te schrijven, complexe wiskundige problemen op te lossen en zelfs kunst te creëren. Maar omdat deze machines zo nieuw en zo snel zijn, zijn de mensen die ze bouwen nog volop bezig met het uitzoeken van het regelboek. In dit vakgebied is er een groot debat over hoe je ervoor kunt zorgen dat deze slimme machines "goed" zijn. Sommige mensen praten over "ethiek", wat als een moreel kompas is—een reeks diepe vragen over goed en kwaad, eerlijkheid en rechtvaardigheid. Anderen praten over "veiligheid", wat meer lijkt op een harde helm en een autogordel—praktische stappen om te voorkomen dat de machine crasht of iemand pijn doet. Hoewel iedereen het erover eens is dat we beide nodig hebben, is de vraag: wie praat er eigenlijk over wat, en volgen zij echt de regels die ze hebben vastgesteld?
Dit artikel werpt een nauwkeurige blik op een van de grootste bouwploegen in de AI-wereld, een bedrijf genaamd OpenAI. De onderzoekers wilden zien hoe dit bedrijf door de tijd heen over deze grote ideeën praat. Ze luisterden niet alleen naar wat het bedrijf zei; ze gedroegen zich als digitale detectives, waarbij ze duizenden documenten, blogposts en onderzoeksartikelen scanten om precies te tellen hoe vaak het bedrijf woorden als "ethiek", "veiligheid", "risico" en "alignment" gebruikte. Ze behandelden de publieke stem van het bedrijf als een enorme bibliotheek, waarbij ze de planken controleerden om te zien welke boeken het meest werden gelezen en welke stof aan het verzamelen waren.
Het verhaal dat de data vertelt, is een beetje verrassend. Wanneer de onderzoekers naar de publieke website van OpenAI keken—de plek waar ze praten met gewone mensen—vonden ze dat het woord "ethiek" vrijwel onzichtbaar was. Het kwam in minder dan 4% van hun artikelen voor. Het was alsoast een huis binnenlopen waar de eigenaar constant praat over "brandveiligheid" en "nooduitgangen", maar nooit één keer het woord "vuur" zelf noemt, ook al zijn zij degene die de lucifers vasthouden. Sterker nog, het woord "veiligheid" kwam bijna 700 keer voor in slechts één jaar, terwijl "ethiek" slechts zeven keer voorkwam.
In plaats van de diepe, filosofische taal van ethiek te gebruiken, werd de publieke boodschap van OpenAI gedomineerd door technische termen zoals "veiligheid", "risico" en "alignment". De onderzoekers ontdekten dat wanneer het bedrijf het woord "ethiek" wel gebruikte, het vaak slechts een vluchtige vermelding was, zoals een zijdelingse opmerking in een kop of een enkele zin in een paragraaf, in plaats van een serieuze discussie. Het was alsof ze het woord gebruikten als decoratie aan de muur in plaats van als een instrument om mee te bouwen. Interessant genoeg merkten de onderzoekers op dat de eigen labels en tags van het bedrijf verschuifden. Soms werd een artikel gelabeld als "Ethiek & Veiligheid", maar de tekst erin noemde ethiek nauwelijks. Dit suggereert dat de labels mogelijk veranderen om verschillende dingen aan het publiek te signaleren, in plaats van een diepere verandering te weerspiegelen in hoe het bedrijf over morele vragen denkt.
Echter, het verhaal was iets anders wanneer de onderzoekers naar de academische papers van het bedrijf keken—de serieuze, technische documenten geschreven voor andere wetenschappers. Hier kwam het woord "ethiek" vaker voor, met een verschijning in ongeveer 17% van de papers. Maar zelfs in deze serieuze documenten werd het woord vaak gebruikt in de marges, in voetnoten of in korte lijsten van waarden, in plaats van als het hoofdonderwerp van het onderzoek. De onderzoekers suggereren dat hoewel het bedrijf zeer goed is in het praten over technische veiligheid en het beheersen van risico's, het de zware morele gesprekken over "ethiek" de neiging heeft om aan de zijlijn te houden, waarbij het ze meer behandelt als een reputatiebadge dan als een strikt regelboek voor hoe ze hun machines bouwen.
Kortom, het artikel suggereert dat OpenAI een zeer luid megafoon heeft gebouwd om over "veiligheid" en "risico" te praten, maar zijn stem zeer stil heeft gehouden wanneer het gaat om "ethiek". Ze negeren het idee van het goede doen niet, maar ze kaderen het op een manier die zich richt op technische oplossingen en het vermijden van gevaar, in plaats van op de diepere vragen over eerlijkheid en rechtvaardigheid. De onderzoekers concluderen dat deze manier van spreken het bedrijf verantwoordelijk kan laten lijken, maar dat het ook betekent dat de harde, complexe vragen over wat werkelijk "goed" en "fout" is in AI naar de achtergrond worden gedrukt, verborgen achter een muur van technisch veiligheidstale.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.