Pushing the Limits: A Framework to Reform Institutional Ethics Review of Environmentally-Impactful Computing Research
Dit artikel stelt een kader voor om de institutionele ethische toetsing te hervormen door specifieke afbakening- en bewijskriteria vast te stellen om te waarborgen dat rekenintensief onderzoek wordt geëvalueerd op de milieu-impact en de afstemming met planetaire grenzen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een universiteit voor als een enorme, bruisende keuken. Binnenin creëren chefs (onderzoekers) nieuwe recepten (wetenschappelijke ontdekkingen) met behulp van enorme ovens en mixers (computers en AI). Soms moeten deze chefs de grootste, meest energieverslindende apparaten die men zich kan voorstellen gebruiken om hun gerechten te bereiden.
Het probleem is, volgens dit artikel, dat de "Gezondheids- en Veiligheidsinspecteur" van de keuken (de Ethische Commissie) heel goed is in controleren of de chefs mensen pijn doen of gevaarlijke ingrediënten gebruiken. Maar ze missen vaak het feit dat de chefs de volledige elektriciteitstoevoer van de hele stad verbruiken om slechts één enkele pan water te koken.
De auteurs, Nicolas Gold en Ross Purves, betogen dat we het regelboek van de Inspecteur moeten bijwerken zodat deze de milieu-impact van deze hoogtechnologische experimenten kan controleren, niet alleen de menselijke veiligheid.
Hier is een eenvoudige uiteenzetting van hun voorstel:
1. Het Probleem: De "Onzichtbare Rook"
Momenteel hoeven onderzoekers, als ze een massaal AI-model willen trainen (zoals een gigantisch digitaal brein), vaak geen toestemming te vragen aan de Ethische Commissie, tenzij ze menselijke data gebruiken. De Commissie gaat ervan uit dat omdat er geen mensen worden getest, er geen ethisch probleem is.
Maar de auteurs zeggen dat dit is alsoals het negeren van de rook die uit een schoorsteen komt, simpelweg omdat er niemand in de rook staat. De "rook" is hier de enorme hoeveelheid energie en middelen die door computers worden verbruikt. Omdat de computers vaak in verre, onzichtbare "cloud" datacenters staan, zien de onderzoekers de milieuschade die ze veroorzaken niet. Ze zijn "ethisch afstandelijk" van de schade.
2. De Oplossing: Een Nieuw Regelboek voor de Keuken
Het artikel stelt een driestappenplan voor om dit op te lossen, waarbij drie groepen betrokken zijn: de Inspecteurs (Ethische Commissies), de Beoordelaars (de mensen die de aanvragen controleren) en de Chefs (de Onderzoekers).
Stap A: De Poortwachters (De Ethische Commissie)
Het Doel: Beslissen welke experimenten een speciale "Milieucheck" nodig hebben.
De Analogie: Stel je een uitsmijter bij de deur van een club voor. Momenteel houdt hij alleen mensen tegen die wapens dragen. De auteurs suggereren dat de uitsmijter een nieuwe checklist nodig heeft om mensen tegen te houden die te veel brandstof meebrengen.
De Nieuwe Regel: Als een onderzoeksproject een van de volgende zaken omvat, moet het worden beoordeeld op milieueffecten:
- Het gebruik van speciale, zware computerchips (zoals GPU's).
- Het huren van enorme cloud computing kracht omdat het te groot is voor de eigen computer.
- Het gebruik van algoritmen die veel complexer zijn dan standaard desktopsoftware.
- Het gebruik van diensten die op het bovenstaande vertrouwen (zoals een gigantische AI vragen om code te schrijven).
Als het antwoord op een van deze punten "Ja" is, krijgt het project groen licht om het ethische beoordelingsproces te betreden.
Stap B: De Beoordelaars (De Checkers)
Het Doel: De mensen die de aanvragen controleren voorzien van een duidelijke lijst met vragen die zij moeten stellen.
De Analogie: Denk aan een autokeuring. Je kijkt niet alleen naar de motor; je controleert ook de banden, de remmen en de olie. De auteurs stellen 7 specifieke vragen voor die de beoordelaars de onderzoeker moeten stellen:
- Datavolume: Gebruik je de kleinst mogelijke hoeveelheid data?
- Noodzakelijkheid: Heb je echt een supercomputer nodig, of zou een gewone laptop het werk ook kunnen doen?
- Opslag: Hoe lang ga je deze data bewaren? Is het de energie waard om dit voor altijd op te slaan?
- Computerkracht: Gebruik je de meest efficiënte code die mogelijk is?
- Toeleveringsketen: Weet je waar je elektriciteit vandaan komt? Is het groen?
- Impact: Heb je berekend hoeveel CO2 jouw project zal uitstoten?
- Hergebruik: Gebruik je oude apparatuur, of moet je nieuwe, energieverslindende machines kopen?
Stap C: De Onderzoekers (De Chefs)
Het Doel: Onderzoekers helpen om diep na te denken over hun eigen impact voordat ze zelfs maar een aanvraag indienen.
De Analogie: Stel je een chef voor die een kaart moet tekenen van de reis van zijn recept. Hij moet een tijdlijn tekenen die zowel naar voren kijkt (wat gebeurt er over 5 of 10 jaar?) als naar achteren (wat hebben we 10 jaar geleden gedaan dat hiertoe heeft geleid?).
Het Instrument: De auteurs stellen een eenvoudige "Oorzaak en Impact"-tabel voor.
- Vooruitkijken: Onderzoekers vullen een raster in om te zien of hun project zal leiden tot "Infrastructuuruitbreiding" (het bouwen van meer datacenters) of "Afval" (het weggooien van oude computers) in de toekomst.
- De "Wat als"-test: Vervolgens doen ze een "Reality Check". Ze doen alsof de wereld geen extra energie meer te geven heeft. Als hun project zonder die extra energie uit elkaar valt, moeten ze toegeven dat hun onderzoek afhankelijk is van "oneindige groei", wat wellicht niet mogelijk is.
- Terugkijken: Ze kijken ook naar het verleden. Heeft hun onderzoek voortgebouwd op eerdere projecten die al verspillend waren? Dit helpt hen om de "langzame geweldloosheid" (slow violence) van kleine, cumulatieve milieuschade te zien die zich in de loop van de tijd voltrekt, in plaats van slechts één grote explosie.
Waarom dit ertoe doet
De auteurs proberen de wetenschap niet te stoppen. Ze willen ervoor zorgen dat wetenschap duurzaam is.
Ze betogen dat als we de regels nu niet veranderen, onderzoekers steeds grotere en grotere digitale machines zullen blijven bouwen zonder te beseffen dat ze tegen een muur aanlopen (de grenzen van de planeet). Door milieueffecten een standaard onderdeel te maken van de ethische check — net zoals het controleren op menselijke veiligheid — dwingen we iedereen om na te denken over de "kosten" van hun ideeën voordat ze beginnen met koken.
Kortom: Alleen omdat je iets kunt berekenen, betekent niet dat je het moet doen, tenzij je hebt nagedacht over de kosten voor de planeet.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.