Are Algorithm Registers Transparent? Perspectives from Germany
Dit artikel evalueert de transparantie van de gefragmenteerde algoritmeregisters van Duitsland door een conceptueel voorstel aan te passen tot een auditframework, waarbij significante tekortkomingen in bestaande initiatieven zoals MaKI en Lernende Systeme worden blootgelegd en concrete verbeteringen en visualisatiemethoden worden voorgesteld om hun effectiviteit te vergroten.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat de overheid speciale computerprogramma's (algoritmen) gebruikt om beslissingen te nemen die invloed hebben op je leven, zoals het goedkeuren van een lening, het sorteren van sollicitatiebrieven of het beheren van het verkeer.
Algoritme-registers zijn als openbare "gele pagina's" of een "menu" waar de overheid deze programma's zou moeten vermelden, waarbij wordt uitgelegd wat ze doen, wie ze heeft gemaakt en welke risico's ze met zich meebrengen. Het idee is dat als je het menu kunt zien, je het restaurant kunt vertrouwen.
Dit artikel, geschreven door onderzoekers van Duitse universiteiten, stelt een simpele vraag: "Is het Duitse menu daadwerkelijk transparant, of is het slechts een fancy deksel met lege pagina's?"
Hier is de uitsplitsing van hun bevindingen met behulp van eenvoudige analogieën:
1. Het Probleem: Een kapotte keuken met vijf verschillende menu's
Duitsland heeft niet één enkel, officieel nationaal menu. In plaats daarvan heeft het een gefragmenteerd landschap met ten minste vijf verschillende "keukens" (platforms) die proberen deze computerprogramma's te vermelden.
- MaKI: Een platform dat door de federale overheid wordt beheerd voor eigen intern gebruik.
- Lernende Systeme: Een platform dat gericht is op onderzoek en innovatie, gefinancieerd door het ministerie van onderwijs.
- Overige: Kleinere regionale of projectgebaseerde lijsten.
De onderzoekers besloten deze twee belangrijkste platforms te testen tegen een "Gouden Standaard"-blauwdruk. Deze blauwdruk is een recent voorstel van een onderzoeker genaamd Lorenz, die beschreef hoe een perfect, betrouwbaar Duits AI-register er precies uit zou moeten zien.
2. De Audit: Het menu controleren tegen de blauwdruk
De onderzoekers behandelden het voorstel van Lorenz als een checklist voor een gezondheidsinspecteur. Ze hebben geen nieuw register gebouwd; ze zijn gewoon de bestaande registers (MaKI en Lernende Systeme) binnengegaan en hebben gecontroleerd of ze de vereiste ingrediënten hadden.
Ze zochten naar drie belangrijke zaken:
- Omvang: Staat alles op de lijst? (Of zijn de enge programma's verstopt in de achterkamer?)
- Informatie: Is de beschrijving gedetailleerd genoeg? (Zegt het alleen "We gebruiken AI", of legt het uit hoe en welke data het gebruikt?)
- Effectiviteit: Kan een gewone persoon het daadwerkelijk begrijpen en gebruiken om de overheid ter verantwoording te roepen?
3. De Bevindingen: "Ethiek-theater" versus echte transparantie
De audit toonde aan dat hoewel de registers bestaan, het vooral lege hulzen zijn. Dit is wat ze vonden:
De "Ontbrekende Ingrediënten" (Risico & Data):
Stel je voor dat je een taart bestelt, maar het menu zegt alleen "Taart" zonder de ingrediënten te vermelden. De onderzoekers vonden dat de Duitse registers zelden de trainingsdata (de ingrediënten waarvan de AI heeft geleerd) of de risicobeoordelingen (wat er gebeurt als de taart aanbrandt) vermelden. Zonder dit kun je niet weten of de taart veilig is om te eten.- MaKI vermeldde enkele risico's, maar gaf geen details.
- Lernende Systeme vermeldde helemaal geen risico's.
De "Gesloten Keuken" (Geen Feedback):
Een goed restaurant heeft een complimentenkaart. Deze registers hebben dat niet. Er is geen manier voor een burger om te zeggen: "Hé, deze AI-beslissing lijkt niet correct," of om een vraag te stellen. De onderzoekers vonden geen burgerfora of feedbackloops. Het is een eenrichtingsverkeer waarbij de overheid praat, maar niemand kan terugpraten.Het "Interne Memo"-probleem:
De onderzoekers realiseerden zich dat MaKI lijkt te zijn ontworpen voor overheidsmedewerkers om aantekeningen met elkaar te delen, niet voor het publiek om te lezen. Het is alsof het logboek van de keukenpersoneel toevallig op een openbare plank staat, maar geschreven is in een taal die alleen de chefs begrijpen. Lernende Systeme gaat meer over het laten zien van coole technologische innovaties dan over verantwoording.De "Ontbrekende Chef" (Governance):
Er is geen enkele, onafhankelijke "gezondheidsinspecteur" (een specifieke toezichthoudende AI-autoriteit) die het werk controleert. De platforms vertrouwen erop dat de overheid zichzelf controleert, wat is also wordt gevraagd aan de chef om zijn eigen kookkunsten te beoordelen.
4. De Conclusie: We hebben een menu, maar geen maaltijd
Het artikel concludeert dat Duitsland momenteel beschikt over gefragmenteerde initiatieven die lijken op transparantieregisters, maar functioneren als interne administratieve instrumenten of promotionele brochures.
- Ze zijn niet "transparant" op de manier die ertoe doet: Je kunt de naam van het algoritme zien, maar je kunt niet zien hoe het werkt of welke risico's het met zich meebrengt.
- Ze missen een "kritisch publiek": Omdat de informatie vaag is en er geen manier is om vragen te stellen, kunnen gewone mensen deze registers niet gebruiken om de overheid ter verantwoording te roepen.
De Kern van de zaak:
De onderzoekers betogen dat het simpelweg hebben van een lijst niet genoeg is. Om deze registers echt nuttig te maken, moet Duitsland:
- De gaten opvullen: Voeg gedetailleerde informatie toe over data en risico's.
- De deuren openzetten: Creëer manieren voor burgers om vragen te stellen en feedback te geven.
- Een leider kiezen: Consolideer deze verspreide lijsten tot één duidelijk, verplicht nationaal register dat de publieke zaak dient, en niet alleen de overheid.
Tot die tijd is de "transparantie" grotendeels een uitvoering — wat de auteurs "ethiek-theater" noemen — waarbij de overheid lijkt open te zijn, maar het publiek het optreden eigenlijk niet kan zien.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.