The Creation and Analysis of Government AI Transparency Statements in Australia
Dieser Beitrag stellt den ersten Datensatz australischer staatlicher KI-Transparency-Erklärungen (AITS-101) vor und führt eine umfassende multiprojektive Analyse durch, um signifikante Unterschiede in den Offenlegungspraktiken sowie Diskrepanzen zwischen politischer Absicht und Umsetzung aufzudecken.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Das „Speisekarte"-Konzept für staatliche KI
Stellen Sie sich die australische Regierung als riesiges Restaurant vor. Kürzlich haben sie beschlossen, einen neuen, leistungsstarken Küchenroboter (Künstliche Intelligenz) einzusetzen, um bei der Zubereitung von Mahlzeiten und der Bedienung der Gäste zu helfen. Da dieser Roboter Entscheidungen trifft, die echte Menschen betreffen, hat die Regierung der Öffentlichkeit versprochen: „Wir werden genau aufschreiben, wie wir diesen Roboter einsetzen."
Dieses Versprechen nimmt die Form eines Dokuments an, das als KI-Transparenzerklärung (AITS) bezeichnet wird. Denken Sie an diese Erklärungen als die „Speisekarte" oder das „Rezept" des Restaurants für die Öffentlichkeit.
Dieses Papier ist das erste Mal, dass jemand all diese Speisekarten (101 davon, die die Autoren als AITS-101 bezeichnen) gesammelt und sich hingesetzt hat, um sie sorgfältig zu lesen und zu prüfen, ob sie tatsächlich hilfreich sind oder ob sie nur verwirrenden Fachjargon enthalten.
Was die Forscher getan haben
Die Autoren agierten wie Food-Kritiker und Detektive. Sie haben die Speisekarten nicht nur gelesen; sie haben sie auf drei spezifische Arten analysiert:
- Der „Stil-Check" (Stylometrische Analyse): Sie untersuchten, wie die Speisekarten geschrieben sind. Sind sie kurz und knackig oder lang und langweilig? Sind sie in einfacher Sprache verfasst oder voller verwirrenden „Beamten-Sprech"?
- Die „Zutaten-Zählung" (Quantitative Analyse): Sie prüften, ob die Speisekarten tatsächlich die wichtigen Zutaten auflisten. Hat die Regierung angegeben, was der Roboter tut? Wo wird er eingesetzt? Wie überwachen sie ihn, um sicherzustellen, dass er nichts falsch macht?
- Die „Geschichtsmuster" (Qualitative Analyse): Sie suchten nach wiederkehrenden Themen. Wie gehen verschiedene Regierungsabteilungen mit denselben Regeln um?
Was sie herausfanden
Hier sind die wichtigsten Entdeckungen, einfach erklärt:
1. Die Speisekarten sind kurz, aber immer noch schwer zu lesen
Die Entdeckung: Die KI-Transparenzerklärungen sind viel kürzer als Datenschutzbestimmungen (die normalerweise riesige, langweilige juristische Dokumente sind). Dennoch sind sie auf einem Leseniveau für Hochschulabsolventen verfasst.
Die Analogie: Stellen Sie sich eine Speisekarte vor, die nur eine Seite lang ist, aber in einem Geheimschrift verfasst ist, die nur ein Universitätsprofessor verstehen kann. Der durchschnittliche Gast, der das Restaurant betritt, kann sie tatsächlich nicht lesen.
Das Problem: Die Regierung hat versprochen, „einfache Sprache" zu verwenden, aber die Forscher stellten fest, dass die meisten Speisekarten immer noch elegante, abstrakte Wörter (wie „nutzen" statt „gebrauchen") und technischen Fachjargon verwenden, den die Öffentlichkeit nicht versteht.
2. Das „Was wir tun" vs. das „Was wir nicht tun"
Die Entdeckung: Die meisten Speisekarten sind sehr gut darin zu sagen: „Wir halten uns an die Regeln" und „Wir haben einen Chef, der den Roboter überwacht." Aber sie sind sehr schlecht darin zu erklären, was der Roboter eigentlich ist.
Die Analogie: Wenn Sie einen Koch fragen: „Was für ein Roboter ist das?" und er antwortet: „Es ist kein Toaster und kein Mixer", aber er sagt Ihnen nie wirklich, ob es ein Pizzaofen oder eine Friteuse ist, wissen Sie nicht wirklich, was Sie bekommen.
Die Realität: Viele Behörden haben nicht definiert, was sie unter „KI" verstehen. Sie haben einfach angenommen, dass jeder Bescheid weiß. Dies erzeugt Verwirrung.
3. Das „menschliche Sicherheitsnetz" ist vage
Die Entdeckung: Viele Behörden (insbesondere diejenigen, die mit schutzbedürftigen Menschen, wie etwa im Sozialwesen, zu tun haben), sagen: „Wir lassen den Roboter keine endgültigen Entscheidungen treffen; ein Mensch prüft immer."
Die Analogie: Es ist wie ein Restaurant, das sagt: „Unser Küchenroboter serviert das Essen nie; ein Mensch probiert es immer zuerst." Aber sie sagen nicht, wie der Mensch es probiert. Probieren sie jedes einzelne Teller? Oder probieren sie nur eines von hundert? Die Erklärung sagt „Ein Mensch ist anwesend", aber sie erklärt nicht, ob dieser Mensch tatsächlich einen guten Job macht.
4. Das „Eltern-Kind"-Spiel von Telefon
Die Entdeckung: Viele kleine Regierungsbehörden schreiben ihre eigenen, einzigartigen Speisekarten nicht. Stattdessen kopieren sie einfach die Speisekarte der großen „Eltern"-Abteilung.
Die Analogie: Stellen Sie sich einen kleinen Imbisswagen vor, der von einer großen Restaurantkette betrieben wird. Die Speisekarte des Imbisswagens lautet einfach: „Für Details siehe die Speisekarte des Hauptrestaurants." Dies macht es schwierig für Sie zu wissen, ob der Imbisswagen einen bestimmten Roboter für seinen spezifischen Standort verwendet oder ob er einfach nur die generischen Regeln der großen Kette nutzt.
5. Der „Copilot"-Standard
Die Entdeckung: Das häufigste, was Behörden zugeben, zu verwenden, ist Microsoft 365 Copilot (ein KI-Tool zum Schreiben von E-Mails und Dokumenten).
Die Analogie: Fast jedes Regierungsamt hat denselben „intelligenten Assistenten" zum Schreiben von Briefen. Das Risiko liegt nicht im Werkzeug selbst (da es ein Standardprodukt ist), sondern darin, wie einzelne Mitarbeiter es verwenden. Es ist wie jedem eine leistungsstarke Akkubohrschrauber zu geben; das Werkzeug ist sicher, aber wenn jemand es benutzt, um ein Haus zu bauen, anstatt ein Regal zu reparieren, ist dies ein Risiko, das die Speisekarte nicht vollständig erfasst.
Das Fazit
Das Papier kommt zu dem Schluss, dass das aktuelle System der KI-Transparenzerklärungen für die staatliche Rechenschaftspflicht (das Abhaken von Kästchen, um zu zeigen, dass sie die Regeln einhalten) gut funktioniert, aber beim Verständnis der Öffentlichkeit versagt.
Die abschließende Metapher:
Die Regierung hat einen sehr ordentlichen, organisierten Aktenschrank (die AITS) gebaut, um zu beweisen, dass sie verantwortungsvoll handelt. Aber wenn Sie die Schublade öffnen, sind die Dokumente darin in einer Sprache verfasst, die die Öffentlichkeit nicht entschlüsseln kann. Die Regierung sagt uns: „Wir sind sicher", aber sie sagt uns nicht wirklich: „Hier ist genau, wie wir sicher sind."
Die Autoren schlagen vor, dass die Öffentlichkeit diesen Systemen nur dann wirklich vertrauen kann, wenn die „Speisekarten" in einfacher, klarer Sprache neu geschrieben werden, die die Technologie tatsächlich erklärt, anstatt nur die rechtliche Konformität aufzulisten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.