Can Data Work be Reparative?
Diese ethnografische Studie argumentiert, dass eine Neuausrichtung der Datenarbeit durch einen feministischen, kollaborativen Ansatz, der jene in das Zentrum stellt, die am stärksten von Online-Schäden betroffen sind, essenziell ist, um reparative Gerechtigkeit in der KI zu erreichen, was einen grundlegenden Reset der Rechenschaftspflichtsverhältnisse und der kollektiven Governance über Datensätze erfordert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Idee: Das Reparieren des kaputten Fließbands
Stellen Sie sich vor, Sie bauen einen riesigen, superintelligenten Roboter (eine KI), der lernen muss, die menschliche Sprache zu verstehen – insbesondere dann, wenn Menschen online gemein oder schädlich sind. Um diesen Roboter zu lehren, benötigen Sie eine riesige Bibliothek mit Beispielen (einen Datensatz).
Normalerweise wird diese Bibliothek auf einem kaputten Fließband erstellt. Unternehmen stellen tausende von Mitarbeitern ein, die Knöpfe drücken und Wörter labeln. Diese Arbeiter werden oft sehr schlecht bezahlt, wie austauschbare Zahnräder in einer Maschine behandelt und gezwungen, schreckliche, toxische Inhalte ohne jegliche Unterstützung anzusehen. Die Menschen, die eigentlich wissen, wie sich der Schaden anfühlt – die Opfer und die Experten – sind selten diejenigen, die die Bibliothek aufbauen.
Diese Arbeit stellt eine große Frage: Können wir dieses Fließband so umbauen, dass es nicht nur Daten erzeugt, sondern tatsächlich den Schaden heilt, der durch die alte Arbeitsweise entstanden ist?
Die Autoren untersuchten eine Gruppe namens Tattle Civic Tech in Indien, um zu sehen, ob dies möglich ist. Sie fanden heraus, dass es zwar schwierig ist, aber es gibt einen Weg nach vorn.
Die Geschichte von Tattle: Die „Gemeinschaftsküche“ vs. die „Fast-Food-Fabrik“
Stellen Sie sich die traditionelle Art der Datenerstellung für KI wie eine Fast-Food-Fabrik vor.
- Der Prozess: Man bekommt ein Menü mit Aufgaben (markiere diesen Tweet als „schlecht“). Man erledigt sie schnell, allein und für ein paar Cent.
- Das Ergebnis: Das Essen (die Daten) ist standardisiert, schmeckt aber oft falsch, weil die Köche die lokale Kultur oder den spezifischen Schmerz der Kunden nicht verstanden haben.
Schauen wir uns nun an, was Tattle zu tun versucht. Sie betreiben eine Gemeinschaftsküche.
- Der Prozess: Anstatt Fremde einzustellen, die Knöpfe drücken, laden sie Menschen ein, die tatsächlich selbst Online-Belästigung, Hassrede oder geschlechtsspezifische Gewalt erlebt haben. Das sind Sozialarbeiter, Journalisten, Aktivisten und Psychologen.
- Die Methode: Sie bitten sie nicht einfach nur, Daten zu labeln. Sie setzen sich gemeinsam zusammen (in virtuellen Workshops), um darüber zu diskuttieren, warum ein Wort verletzend ist, wie es sich anfühlt und welcher Kontext fehlt. Sie „kochen“ die Daten gemeinsam.
- Das Ziel: Einen Datensatz zu erstellen, der die Nuancen von Schaden in indischen Sprachen wirklich versteht, anstatt nur englische Regeln auf eine andere Kultur zu übertragen.
Die zwei großen Hürden (Die „Spannungsfelder“)
Obwohl Tattle versucht, das Richtige zu tun, stößt die Gruppe auf zwei große Mauern. Die Arbeit argumentiert, dass das Überwinden dieser Mauern der Schlüssel zu „reparativer“ Arbeit ist.
1. Das Gehaltsproblem: „Expertise vs. Arbeit“
Im alten System werden Datenarbeiter wie Fabrikarbeiter bezahlt. In Tattles Küche sind die Mitwirkenden Experten mit tiefem, gelebtem Wissen.
- Der Konflikt: Tattle möchte sie wie Experten bezahlen (was teurer ist), aber die KI-Industrie ist daran gewöhnt, Pfennige zu zahlen.
- Die Realität: Einige Mitwirkende sind wohlhabende Akademiker, die dies als einen „Dienst“ an die Gesellschaft sehen. Andere sind Freiberufler, die das Geld zum Überleben brauchen. Tattle versuchte, alle mit einem fairen, hohen Satz zu bezahlen (etwa das Zehnfache des Branchenstandards), aber auch das war schwierig.
- Die Lehre: Man kann die gelebte Erfahrung der Menschen nicht als „Expertenwissen“ bezeichnen, wenn man sie mit Mindestlohn bezahlt. Wahre Reparatur bedeutet, den Menschen zu bezahlen, was ihre Expertise tatsächlich wert ist, auch wenn dies das Projekt teurer macht.
2. Das Eigentumsproblem: „Wem gehört das Rezept?“
Im alten System gehört die einmal erstellte Datenmenge dem großen Tech-Unternehmen für immer. Sie können die Daten verwenden, wie sie wollen, selbst wenn sie die Menschen, die dabei geholfen haben, ignorieren.
- Der Konflikt: Die Mitwirkenden von Tattle sind besorgt: „Wenn wir diese Daten an große Tech-Unternehmen (wie Instagram oder X) geben, werden sie sie nutzen, um uns tatsächlich zu helfen, oder werden sie sie einfach nehmen und uns wieder ignorieren?“
- Die Realität: Die meisten Mitwirkenden hatten das Gefühl, dass Online-Sicherheit nur ein kleiner Teil ihrer größeren Kämpfe (wie physische Gewalt oder Kastendiskriminierung) war. Sie waren bereit, die Daten an große Unternehmen abzugeben, weil sie das Gefühl hatten, dass dies der einzige Weg zu Ergebnissen sei, selbst wenn es sich unfair anfühlte.
- Die Lehre: Die Arbeit argumentiert, dass wir eine neue Form der Governance (Verwaltung/Regelung) brauchen. Es geht nicht nur darum, wer die Daten besitzt, sondern wer darüber entscheidet, wie sie verwendet werden. Wenn die Menschen, die den Schaden erlitten haben, kein Mitspracherecht bei den Regeln haben, ist die Arbeit nicht wirklich „reparativ“.
Die Kernbotschaft: Den Fokus auf die „Rechenschaftspflicht“ richten
Die Autoren verwenden das Konzept der „Reparativen Gerechtigkeit“ (Reparative Justice).
- Der alte Weg: „Wir haben den Roboter repariert. Wir haben mehr Daten hinzugefügt. Wir sind fertig.“
- Der reparative Weg: „Wir haben den Roboter repariert, aber wir haben auch die Beziehung zwischen den Roboter-Machern und den Menschen, die verletzt wurden, repariert.“
Die Arbeit kommt zu dem Schluss, dass Datenarbeit reparativ sein kann, wenn wir aufhören, die KI oder den Datensatz als die Hauptfiguren zu betrachten. Stattdessen müssen wir die Menschen, die geschädigt wurden, in das Zentrum stellen.
Es ist wie das Reparieren einer kaputten Brücke.
- Der alte Weg: Einfach mehr Beton (Daten) in die Risse gießen.
- Der reparative Weg: Die Menschen fragen, die durch die Brücke gefallen sind, was schiefgelaufen ist, sie für ihre Zeit bezahlen, um beim Reparieren zu helfen, und ihnen die Schlüssel zur Baustelle geben, damit sie sicherstellen können, dass dies nie wieder passiert.
Zusammenfassung
Die Arbeit argumentiert, dass wir aufhören müssen, Datenarbeiter wie unsichtbare Maschinen zu behandeln, wenn wir KI wirklich sicher und fair machen wollen. Wir müssen:
- Sie wie Experten bezahlen, die über wertvolles Wissen verfügen, und nicht bloß wie Arbeitskräfte.
- Ihnen eine Stimme geben, wie ihre Daten verwendet und verwaltet werden.
- Den Fokus auf die Menschen legen, die durch die Technologie verletzt wurden, und sie zum Zentrum der Lösung machen, statt sie nur als Quelle für Daten zu nutzen.
Dies ist eine kühne Vision. Sie legt nahe, dass der Weg zu „verantwortungsbewusster KI“ nicht nur aus besserem Code besteht, sondern aus besseren, gerechteren und menschlicheren Beziehungen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.