Towards an AI-Enabled Inclusive Educational Leadership (AIIEL) Framework: Integrating Responsible AI Governance, Disability Inclusion, and Gender Equality in Higher Education

Universiteiten bevinden zich momenteel midden in een stille revolutie. Decennialang hebben deze instellingen vertrouwd op menselijk oordeel om te beslissen wie wordt toegelaten, hoe docenten worden gepromoveerd en hoe studenten worden ondersteund. Nu stapt kunstmatige intelligentie in die rollen, met de belofte om aanmeldingen te sorteren, essays te beoordelen en roosters te beheren met snelheid en efficiëntie. Maar naarmate deze digitale hulpmiddelen deel uitmaken van het dagelijkse weefsel van het hoger onderwijs, is een verontrustende vraag ontstaan: maken ze het systeem eerlijker, of versterken ze stilletjes oude ongelijkheden? De kern van het probleem is dat technologie snel beweegt, terwijl de mensen die de leiding hebben vaak onvoorbereid zijn om het te sturen. Ze vrezen dat zonder zorgvuldig toezicht deze slimme systemen per ongeluk vrouwen, mensen met een beperking of andere gemarginaliseerde groepen onrechtvaardig kunnen behandelen, simpelweg omdat de data waarvan ze leren, het verleden met al zijn vooroordelen weerspiegelen. De uitdaging is niet alleen om de technologie te gebruiken, maar om ervoor te zorgen dat deze iedereen gelijk dient.

Twee onderzoekers, Wafa Muhammed Alajaji en Obby Phiri, zijn naar voren getreden om dit gat te dichten. Zij stellen dat universiteiten niet simpelweg nieuwe software kunnen kopen en op het beste kunnen hopen; ze hebben een nieuwe manier van denken over leiderschap nodig. In hun recente werk stellen zij een uitgebreid plan voor genaamd het AI-Enabled Inclusive Educational Leadership-framework. Dit is geen stuk software of een reeks regels voor codering. In plaats daarvan is het een gids voor de mensen die universiteiten leiden, ontworpen om hen te helpen beslissingen te nemen die rechtvaardigheid beschermen terwijl innovatie wordt omarmd. De auteurs suggereren dat de huidige aanpak van het beheer van kunstmatige intelligentie in scholen te gefragmenteerd is. Bestaande gidsen behandelen diversiteit en inclusie vaak slechts als één klein item op een lange checklist, gescheiden van het hoofdwerk van bestuur. Alajaji en Phiri geloven dat dit een fout is. Zij stellen dat inclusie verweven moet zijn in elke beslissing, van het moment dat een nieuw hulpmiddel wordt bedacht tot de dag dat het in een klaslokaal wordt gebruikt.

Om deze nieuwe aanpak op te bouwen, hebben de onderzoekers gekeken naar zes verschillende studiegebieden die voorheen gescheiden werden gehouden. Ze onderzochten hoe leiders inclusieve culturen opbouwen, hoe kunstmatige intelligentie in scholen wordt gebruikt, hoe inclusie voor mensen met een beperking werkt, hoe gendergelijkheid wordt gehandhaafd, hoe technologie verantwoord wordt bestuurd en hoe universiteiten digitaal transformeren. Door deze afzonderlijke draden samen te brengen, creëerden ze een vierlaags model dat fungeert als een cyclus van besluitvorming. De eerste laag richt zich op de mensen en de visie. Het vraagt leiders om te overwegen wie er aan tafel zit wanneer een nieuw systeem wordt gekozen. Worden studenten met een beperking en vrouwelijke docenten om hun input gevraagd voordat een hulpmiddel wordt gekocht, of worden zij pas geraadpleegd nadat de schade is aangericht? Deze laag benadrukt dat leiderschap gaat over het opbouwen van vertrouwen en het waarborgen dat iedereen een stem heeft.

De tweede laag gaat over het ontwerp van de hulpmiddelen zelf. Hier stelt het framework een eenvoudige maar diepgaande vraag: helpt dit systeem een student met een beperking daadwerkelijk om te slagen, of doet het alleen alsof het hen toelaat? De onderzoekers putten uit het idee van "vermogen" (capability), wat betekent dat men verder kijkt dan formele toegang om te zien of een persoon werkelijk de vrijheid heeft om een middel te gebruiken om hun doelen te bereiken. Bijvoorbeeld: een geautomatiseerd beoordelingssysteem accepteert technisch gezien misschien een essay van een student met een visuele beperking, maar als het systeem het gespecialiseerde formaat dat de student gebruikt niet kan lezen, dan heeft het hulpmiddel gefaald. Deze laag eist dat leiders technologie evalueren op basis van de vraag of het echte kansen voor iedereen vergroot, en niet alleen of het aan een minimale wettelijke vereiste voldoet.

De derde laag richt zich op hoe de technologie wordt bestuurd en gecontroleerd. Het vraagt of de mens nog steeds in de bestuurdersstoel zit. Het framework suggereert dat er voor beslissingen met grote impact, zoals het aannemen van een professor of het weigeren van een diploma, een duidelijke lijn moet zijn waar een mens kan ingrijpen en de machine kan overrulen. Het kijkt ook naar hoe de technologie is gebouwd, en dringt bij leiders aan om ervoor te zorgen dat de mensen die door het systeem worden beïnvloed, ook bij de creatie ervan betrokken waren. Dit voorkomt de situatie waarin een hulpmiddel in een lab door een kleine groep ingenieurs wordt gebouwd en vervolgens zonder enige test op eerlijkheid op een diverse universiteitspopulatie wordt gedropt. De laatste laag kijkt naar de resultaten. Het vraagt leiders om de data te volgen, maar niet alleen in algemene cijfers. Ze moeten nauwlettend kijken naar hoe het systeem verschillende groepen mensen tegelijkertijd beïnvloedt, zoals vrouwen met een beperking, om te zien of het hulpmiddel nieuwe barrières creëert of oude problemen oplost.

Naast dit hoofdframework stellen de auteurs twee praktische instrumenten voor om universiteiten te helpen de ideeën in de praktijk te brengen. Het eerste is een lijst met vaardigheden die universiteitsleiders moeten leren. Dit zijn niet alleen technische vaardigheden over hoe computers werken, maar menselijke vaardigheden over hoe je vooroordelen herkent, hoe je naar gemarginaliseerde stemmen luistert en hoe je data interpreteert op een manier die verborgen ongelijkheden blootlegt. Het tweede instrument is een volwassenheidsmodel, dat fungeert als een kaart voor de reis van een instelling. Het beschrijft vijf stadia, beginnend bij een plek waar een universiteit zich niet bewust is van de risico's en geen plan heeft, bewegend door stadia waarin ze reageren op problemen zodra ze zich voordoen, en uiteindelijk bereikend bij een stadium van "inclusieve excellentie". Op dit hoogste niveau is de universiteit niet alleen bezig met het vermijden van schade; het gebruikt kunstmatige intelligentie actief om de instelling beter te maken voor iedereen, en het kan dit met data bewijzen.

De onderzoekers benadrukken dat hun werk een voorstel is, en geen voltooid product dat in de echte wereld is getest. Ze erkennen dat hun ideeën zijn gebaseerd op bestaande theorieën en dat ze nog niet hebben gezien of deze specifieke modellen in de praktijk werken bij verschillende soorten universiteiten. Ze merken op dat veel van het huidige onderzoek afkomstig is uit rijke landen, en zij weten nog niet of hun framework ook zal werken in plaatsen met minder middelen of andere culturele normen. Toch betogen zij dat de huidige situatie te riskant is om te wachten op perfect bewijs. De snelheid waarmee universiteiten kunstmatige intelligentie adopteren, overtreft de ontwikkeling van leiderschapsskills, en zonder een duidelijke gids loopt de sector het risico de kloof tussen de geprivilegieerden en de kwetsbaren te vergroten.

Uiteindelijk is dit artikel een oproep tot actie voor de mensen die universiteiten leiden. Het suggereert dat de toekomst van het hoger onderwijs minder afhangt van de verfijning van de algoritmen en meer van de wijsheid van de leiders die hen kiezen. Door inclusie als een centraal onderdeel van leiderschap te behandelen in plaats van als een bijzaak, kunnen universiteiten ervoor zorgen dat de opkomst van kunstmatige intelligentie iedereen omhoog tilt, in plaats van sommigen achter te laten. De auteurs bieden een routekaart voor deze reis, een die de menselijke waardigheid en rechtvaardigheid prioriteit geeft in een steeds meer geautomatiseerde wereld. Hoewel de weg vooruit meer onderzoek en testen vereist, is de richting duidelijk: inclusief leiderschap is de enige manier om de belofte van kunstmatige intelligentie voor iedereen waar te maken.