Pushing the Limits: A Framework to Reform Institutional Ethics Review of Environmentally-Impactful Computing Research
Dieses Paper schlägt einen Rahmen zur Reform der institutionellen Ethikprüfung vor, indem es spezifische Abgrenzungs- und Evidenzkriterien festlegt, um sicherzustellen, dass rechenintensive Forschung auf ihre Umweltauswirkungen und ihre Übereinstimmung mit planetaren Grenzen hin bewertet wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Universität wie eine riesige, geschäftige Küche vor. Im Inneren kreieren Köche (Forscher) neue Rezepte (wissenschaftliche Entdeckungen) unter Verwendung massiver Öfen und Mixer (Computer und KI). Manchmal müssen diese Köche die größten, energiehungrigsten Geräte vorstellen, die man sich vorstellen kann, um ihre Gerichte zuzubereiten.
Das Problem ist laut diesem Papier, dass der „Gesundheits- und Sicherheitsinspektor“ der Küche (der Ethikrat) sehr gut darin ist zu prüfen, ob die Köche Menschen verletzen oder gefährliche Zutaten verwenden. Aber sie übersehen oft die Tatsache, dass die Köche den gesamten Strombedarf einer ganzen Stadt verbrauchen, nur um einen einzigen Topf Wasser zum Kochen zu bringen.
Die Autoren, Nicolas Gold und Ross Purves, argumenten, dass wir das Regelbuch des Inspektors aktualisieren müssen, damit dieser auch die Umweltkosten dieser hochtechnologischen Experimente prüfen kann, nicht nur die menschliche Sicherheit.
Hier ist eine einfache Aufschlüsselung ihres Vorschlags:
1. Das Problem: Der „unsichtbare Rauch“
Derzeit müssen Forscher, wenn sie ein massives KI-Modell trainieren wollen (wie ein riesiges digitales Gehirn), oft keine Erlaubnis beim Ethikrat einholen, es sei denn, sie verwenden menschliche Daten. Der Rat geht davon aus, dass es kein ethisches Problem gibt, solange keine Menschen getestet werden.
Doch die Autoren sagen, das sei so, als würde man den Rauch aus einem Schornstein ignorieren, nur weil niemand direkt im Rauch steht. Der „Rauch“ ist hier die massive Menge an Energie und Ressourcen, die von Computern verbraucht werden. Da die Computer oft in weit entfernten, unsichtbaren „Cloud“-Rechenzentren stehen, sehen die Forscher den Umweltschaden, den sie verursachen, nicht. Sie sind von dem Schaden „ethisch distanziert“.
2. Die Lösung: Ein neues Regelbuch für die Küche
Das Papier schlägt ein dreistufiges Framework vor, das drei Gruppen einbezieht: die Inspektoren (Ethikkommissionen), die Prüfer (die Personen, die die Anträge kontrollieren) und die Köche (die Forscher).
Schritt A: Die Torwächter (Die Ethikkommission)
Das Ziel: Entscheiden, welche Experimente eine spezielle „Umweltprüfung“ benötigen.
Die Analogie: Stellen Sie sich einen Türsteher vor einem Club vor. Derzeit hält er nur Leute auf, die Waffen tragen. Die Autoren schlagen vor, dass der Türsteher eine neue Checkliste benötigt, um Leute aufzuhalten, die zu viel Brennstoff mitbringen.
Die neue Regel: Wenn ein Forschungsprojekt eines der folgenden Kriterien erfüllt, muss es auf seine Umweltauswirkungen geprüft werden:
- Verwendung spezieller, leistungsstarker Computerchips (wie GPUs).
- Miete massiver Cloud-Rechenleistung, weil sie zu groß für den eigenen Computer ist.
- Verwendung von Algorithmen, die wesentlich komplexer sind als Standard-Desktop-Software.
- Nutzung von Diensten, die auf oben Genanntem basieren (wie die Anfrage an eine riesige KI, um Code zu schreiben).
Wenn die Antwort auf eines dieser Kriterien „Ja“ lautet, erhält das Projekt grünes Licht für den Ethikprüfungsprozess.
Schritt B: Die Prüfer (Die Kontrollierenden)
Das Ziel: Den Personen, die die Anträge prüfen, eine klare Liste mit Fragen an die Hand zu geben.
Die Analogie: Denken Sie an eine Autountersuchung. Man schaut nicht nur auf den Motor; man prüft auch Reifen, Bremsen und Öl. Die Autoren schlagen 7 spezifische Fragen vor, die die Prüfer dem Forscher stellen müssen:
- Datenvolumen: Verwenden Sie so wenig Daten wie möglich?
- Notwendigkeit: Benötigen Sie wirklich einen Supercomputer, oder könnte eine normale Laptop die Aufgabe erledigen?
- Speicherung: Wie lange werden Sie diese Daten aufbewahren? Ist es die Energie wert, sie ewig zu speichern?
- Rechenleistung: Verwenden Sie den effizientesten Code, der möglich ist?
- Lieferkette: Wissen Sie, woher Ihr Strom kommt? Ist er grün?
- Auswirkung: Haben Sie berechnet, wie viel Kohlenstoff Ihr Projekt emittieren wird?
- Wiederverwendung: Nutzen Sie alte Ausrüstung oder müssen Sie neue, energiehungrige Maschinen kaufen?
Schritt C: Die Forscher (Die Köche)
Das Ziel: Den Forschern helfen, tief über ihre eigenen Auswirkungen nachzudenken, noch bevor sie sich überhaupt bewerben.
Die Analogie: Stellen Sie sich einen Koch vor, der den Weg seines Rezepts zeichnen muss. Er muss eine Zeitlinie zeichnen, die sowohl nach vorne (was passiert in 5 oder 10 Jahren?) als auch nach hinten (was haben wir vor 10 Jahren getan, das dazu führte?) geht.
Das Werkzeug: Die Autoren schlagen eine einfache „Ursache-und-Wirkung“-Tabelle vor.
- Vorausschauend: Forscher füllen ein Raster aus, um zu sehen, ob ihr Projekt in der Zukunft zu „Infrastrukturausbau“ (Bau von mehr Rechenzentren) oder „Abfall“ (Wegwerfen alter Computer) führen wird.
- Der „Was-wäre-wenn“-Test: Dann machen sie einen „Realitätscheck“. Sie stellen sich vor, die Welt hätte keine zusätzliche Energie mehr zur Verfügung. Wenn ihr Projekt ohne diese zusätzliche Energie zusammenbrechen würde, müssen sie zugeben, dass ihre Forschung von „unendlichem Wachstum“ abhängt, was vielleicht nicht möglich ist.
- Rückblickend: Sie schauen auch in die Vergangenheit. Hat ihre Forschung auf früheren Projekten aufgebaut, die bereits verschwenderisch waren? Dies hilft ihnen, die „langsame Gewalt“ (slow violence) kleiner, kumulativer Umweltschäden zu erkennen, die über die Zeit hinweg geschehen, statt nur einer einzigen großen Explosion.
Warum das wichtig ist
Die Autoren versuchen nicht, die Wissenschaft aufzuhalten. Sie wollen sicherstellen, dass die Wissenschaft nachhaltig ist.
Sie argumenten, dass wir, wenn wir die Regeln jetzt nicht ändern, die Wissenschaft nicht stoppen können, aber die Forscher immer größere digitale Maschinen bauen werden, ohne zu merken, dass sie gegen eine Wand (die Grenzen des Planeten) laufen. Indem sie die Umweltauswirkungen zu einem Standardteil der Ethikprüfung machen – genau wie die Prüfung der menschlichen Sicherheit – zwingen sie alle dazu, über die „Kosten“ ihrer Ideen nachzudenken, bevor sie mit dem Kochen beginnen.
Kurz gesagt: Nur weil man etwas berechnen kann, bedeutet das nicht, dass man es auch tun sollte, es sei denn, man hat über die Kosten für den Planeten nachgedacht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.