What We Know about Responsible AI Practices in Industry: A Half Decade of Empirical Research
Diese Arbeit synthetisiert die Ergebnisse von 161 empirischen Studien über einen Zeitraum von sechs Jahren, um einen umfassenden Überblick über die Fortschritte, die Professionalisierung und die anhaltenden Herausforderungen bei den Praktiken der verantwortungsvollen KI innerhalb der Technologiebranche zu geben.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie bauen ein riesiges, unsichtbares Robotergehirn, das Geschichten schreiben, Krankheiten diagnostizieren oder Ihren nächsten Lieblingssong empfehlen kann. Dieses Feld wird Künstliche Intelligenz (KI) genannt. Aber genau wie ein echtes Gehirn kann dieses Robotergehirn manchmal verwirrt sein, unfaire Entscheidungen treffen oder versehentlich Menschen verletzen. Um dies zu verhindern, haben Wissenschaftler und Unternehmen eine Reihe von Regeln namens „Responsible AI“ (Verantwortungsbewusste KI) entwickelt. Betrachten Sie Responsible AI als den moralischen Kompass und das Sicherheitshandbuch des Roboters. Es geht nicht nur darum, den Roboter intelligent zu machen; es geht darum, sicherzustellen, dass er freundlich, fair und sicher für alle ist. Lange Zeit fragten sich die Menschen: „Wissen die Menschen, die diese Roboter tatsächlich bauen, überhaupt, wie man diesen moralischen Kompass benutzt? Befolgen sie die Regeln oder ignorieren sie sie einfach?“ Dies ist die große Frage, die ein Forscherteam untersuchen wollte.
Um die Antwort zu finden, haben die Forscher nicht einfach geraten oder Computercode analysiert. Stattdessen agierten sie wie digitale Detektive und durchwühlten einen riesigen Stapel von 161 verschiedenen wissenschaftlichen Studien, die in den letzten sechs Jahren veröffentlicht wurden. Diese Studien waren Interviews, Umfragen und Beobachtungen von echten Menschen, die in Technologieunternehmen arbeiten, um herauszufinden, wie sie diese moralischen Regeln in ihrem täglichen Job tatsächlich handhaben. Sie wollten sehen, ob die „Responsible AI“-Bewegung nur ein schicker Slogan an der Wand war oder ob sie den Bau der Roboter wirklich verändert hat.
Der Detektivbericht: Was sie herausgefunden haben
Der Bericht der Forscher mit dem Titel „What We Know about Responsible AI Practices in Industry“ (Was wir über Praktiken der verantwortungsbewussten KI in der Industrie wissen) offenbart die Geschichte eines Unternehmens, das langsam, tollpatschig, aber definitiv versucht, erwachsen zu werden.
Die guten Nachrichten: Die Lichter gehen an
Vor einigen Jahren wussten viele Arbeiter, die KI bauten, nicht einmal, dass der moralische Kompass existierte. Sie waren so darauf konzentriert, den Roboter schnell und intelligent zu machen, dass sie vergaßen zu prüfen, ob er auch nett war. Aber die Arbeit legt nahe, dass sich die Dinge ändern. Immer mehr Arbeiter erkennen nun, dass „Responsible AI“ eine reale Sache ist und dass sie wichtig ist. Es ist wie in einem Klassenzimmer, in dem anfangs niemand wusste, dass es Regeln zum Teilen gibt, aber jetzt weiß jeder, dass sie existieren.
Unternehmen werden auch organisierter. Anstatt dass eine einzelne Person im Stillen über Fairness nachdenkt, beginnen Unternehmen, spezielle „RAI-Experten“ einzustellen und offizielle Jobtitel für Menschen zu schaffen, die das Verhalten des Roboters überprüfen. Sie beginnen auch, Checklisten und Software-Tools einzusetzen, um Fehler zu finden, bevor der Roboter in die Welt hinausgeht. Es ist ein bisschen so, als würde ein Koch endlich ein Thermometer kaufen, um zu prüfen, ob der Kuchen gebacken ist, anstatt nur zu raten.
Die schlechten Nachrichten: Der Kompass ist noch kaputt
Der Bericht macht jedoch sehr deutlich: Nur weil die Menschen die Regeln kennen, heißt das noch lange nicht, dass sie sie auch befolgen können. Die Forscher fanden heraus, dass sich viele Arbeiter verloren fühlen. Sie wissen, dass sie fair sein sollten, aber sie haben weder das richtige Training noch die richtigen Werkzeuge, um es zu tun. Es ist, als würde man jemandem sagen, er solle ein Rennauto fahren, ihm aber nicht den Führerschein oder eine Karte geben.
Eines der größten Probleme ist, dass die Werkzeuge, die Unternehmen verwenden, oft zu vage sind. Stellen Sie sich ein Kochbuch vor, das sagt: „Fügen Sie etwas Würze hinzu.“ Das ist nicht hilfreich, wenn Sie versuchen, einen ganz bestimmten Kuchen zu backen. Ähnlich verhält es sich mit vielen KI-Tools, die allgemeine Ratschläge geben, aber den Arbeitern nicht genau sagen, was sie tun sollen, wenn sie ein spezifisches Feature für ein spezifisches Produkt bauen. Die Arbeiter sind darauf angewiesen, abstrakte Ideen in echten Code zu übersetzen, oft ohne genügend Zeit oder Geld, um es richtig zu machen.
Das Boss-Problem: „Mach es später“
Das Papier hebt auch eine große Hürde hervor: den Chef. In vielen Unternehmen kümmern sich die Verantwortlichen mehr darum, wie schnell sie ein neues Produkt auf den Markt bringen können, als darum, wie sicher es ist. Die Forscher fanden heraus, dass Arbeiter oft angewiesen werden, die „Sicherheitsbox ganz am Ende des Projekts abzuhaken“, wenn keine Zeit mehr bleibt, um Probleme zu beheben. Dies verwandelt „Responsible AI“ in eine langweilige Papierarbeit, wie das Ausfüllen eines Formulars, nur um einen Stempel zu erhalten, anstatt den Roboter tatsächlich sicherer zu machen. Das Papier legt nahe, dass die besten Werkzeuge der Welt nicht helfen werden, wenn nicht genügend Personal, Zeit und Geld für diese Sicherheitsprüfungen bereitgestellt werden.
Die fehlenden Teile
Schließlich bemerkten die Forscher, dass Unternehmen immer noch Schwierigkeiten haben, den Menschen zuzuhören, die den Roboter nicht bauen. Dazu gehören die Menschen, die die Daten kennzeichnen (die Arbeiter, die dem Roboter beibringen, wie eine „Katze“ aussieht), die Menschen, die den Roboter benutzen, und Experten aus anderen Fachbereichen wie Ärzte oder Anwälte. Der Bericht deutet darauf an, dass Unternehmen zwar anfangen, um Hilfe zu bitten, aber oft nicht wissen, wie sie richtig zuhören sollen, oder dass sie nicht die richtigen Systeme haben, um diese Außenstehenden sprechen zu lassen, wenn etwas falsch läuft.
Das Fazsit
Was bedeutet das also alles? Das Papier legt nahe, dass sich die KI-Branche in einer Phase der „Wachstumsschmerzen“ befindet. Alle sind sich einig, dass verantwortungsbewusstes Handeln wichtig ist, und die Werkzeuge, um dies zu tun, tauchen allmählich auf. Aber es klafft eine riesige Lücke zwischen dem Wissen, was zu tun ist, und dem tatsächlichen, guten Tun. Die Forscher kommen zu dem Schluss, dass Responsible AI wirklich funktionieren kann, wenn Unternehmen aufhören, es als Nebenprojekt oder Checkliste zu behandeln. Sie müssen es in das Fundament ihrer Arbeit einbauen, ihren Mitarbeitern echte Ausbildung bieten und den Menschen zuhören, die von den Robotern, die sie bauen, betroffen sein werden. Bis dahin ist der moralische Kompass des Roboters noch etwas wackelig, und wir müssen weiter daran arbeiten, ihn zu stabilisieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.