An integrated sociotechnical reference model for aligning artificial intelligence implementation in organizations
Met behulp van een Design Science Research-benadering adresseert deze studie de discrepantie tussen AI-implementatie en organisatorische transformatie door bestaande procedurele modellen te analyseren om het Integrated Sociotechnical AI Reference Model (ISAR-M) te construeren, dat technische capaciteiten synchroniseert met organisatorische gereedheid om disciplinaire silo's te doorbreken en succesvolle AI-adoptie te waarborgen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Moderne bedrijven racen om kunstmatige intelligentie te adopteren, in de hoop dat deze slimme systemen de manier waarop ze werken zullen revolutioneren. Toch, ondanks de opwinding en het strategische belang dat aan deze technologie wordt gehecht, slagen de meeste organisaties er niet in om hun ambities om te zetten in echte resultaten. Het probleem is zelden dat de computercode kapot is of dat de algoritmen te zwak zijn. In plaats daarvan komt de mislukking meestal voort uit een disconnect tussen de technologie en de mensen die deze moeten gebruiken. Wanneer een bedrijf een nieuw systeem installeert, is dat niet alleen een technische upgrade; het is een verandering in de volledige manier waarop de organisatie functioneert, waarbij nieuwe regels, nieuwe rollen en nieuwe manieren van denken komen kijken. Als de technologie sneller beweegt dan de mensen kunnen aanpassen, of als de mensen niet voorbereid zijn op de nieuwe tools, loopt het systeem vast. Deze kloof tussen wat een machine kan doen en wat een organisatie klaar is om te verwerken, is de centrale uitdaging die onderzoekers proberen op te lossen.
Een team van onderzoekers aan de Munich University of Applied Sciences zette zich in om deze disconnect te verhelpen. Ze merkten op dat er weliswaar veel gidsen zijn over hoe je kunstmatige intelligentie bouwt en veel gidsen over hoe je bedrijfsstrategie beheert, maar dat er geen enkele, verenigde weg is die de twee verbindt. Bestaande gidsen behandelen de technologie en de menselijke kant vaak als afzonderlijke problemen. Sommige richten zich volledig op de technische stappen, zoals datacleaning en codering, terwijl ze negeren hoe werknemers zullen reageren. Andere richten zich op hoogwaardige bedrijfsdoelstellingen maar bieden geen praktische stappen voor implementatie. Deze scheiding creëert een gevaarlijke situatie waarin een bedrijf een perfecte technische oplossing kan bouwen die niemand weet hoe te gebruiken, of die het bedrijf niet klaar is om te ondersteunen. Om dit aan te pakken, analyseerden de onderzoekers vijfenveertig verschillende bestaande modellen voor het introduceren van kunstmatige intelligentie. Ze hebben ze niet alleen gelezen; ze braken ze af om precies te zien welke stappen ze bevatten en wat ze misten.
De analyse onthulde dat huidige benaderingen lijden onder twee belangrijke blinde vlekken. Ten eerste zijn veel modellen te veel gericht op de binnenkant; ze kijken alleen of de technologie werkt zonder te vragen of het past bij de markt of de bredere zakelijke behoeften. Ten tweede zijn ze vaak te technocratisch, wat betekent dat ze de prestaties van de machine prioriteit geven boven de menselijke ervaring. Ze zorgen er misschien voor dat de software snel en accuraat is, maar falen in het ontwerpen van het systeem zodat het voor een mens gemakkelijk te begrijpen of te vertrouwen is. De onderzoekers ontdekten dat hoewel bijna alle modellen het erover eens zijn dat datakwaliteit en zakelijke waarde belangrijk zijn, zeer weinig concrete, stapsgewijze instructies bieden over hoe men de menselijke kant van de vergelijking beheert, zoals het trainen van personeel of het ontwerpen van gebruiksvriendelijke interfaces.
Om dit op te lossen, bouwde het team een nieuw framework genaamd het Integrated Sociotechnical AI Reference Model. Ze hebben dit niet vanuit het niets uitgevonden; in plaats daarvan traden ze op als meesterbouwers die de beste onderdelen van de bestudeerde vijfenveertig modellen samenstelden. Ze selecteerden de twee meest uitgebreide bestaande gidsen om als fundament te dienen en vulden vervolgens de ontbrekende stukken aan met specifieke, hoogwaardige stappen uit andere modellen. Het resultaat is een enkele, samenhangende roadmap die een bedrijf dwingt om op twee trajecten tegelijk vooruit te gaan: het technische traject en het menselijke traject.
Dit nieuwe model verdeelt het proces in vier hoofdfasen: Evaluate (Evalueren), Design (Ontwerpen), Realize (Verwezenlijken) en Operate (Exploitatie). In de eerste fase, Evaluate, moet een bedrijf controleren of het er klaar voor is voordat er geld wordt uitgegeven. Dit is niet alleen een technische controle; het vereist een blik op de data, de juridische regels en de mensen. Het model introduceert een strikte "poort" op dit punt. Als de data slecht zijn of de juridische toestemmingen onduidelijk zijn, stopt het project onmiddellijk. Dit voorkomt dat bedrijven middelen verspillen aan ideeën die technisch onmogelijk of juridisch riskant zijn. Het zorgt ervoor dat de bedrijfsstrategie daadwerkelijk wordt ondersteund door de realiteit van waar het bedrijf mee te maken heeft.
Zodra een project de eerste poort passeert, gaat het naar de Design-fase. Hier houdt het model erop aan dat de mensen die het systeem zullen gebruiken, betrokken moeten zijn bij het creëren ervan. In plaats van ingenieurs die in een lab een tool bouwen en deze later overhandigen, moet het bedrijf workshops houden waar werknemers helpen bij het ontwerpen van hoe het systeem eruitziet en aanvoelt. Dit zorgt ervoor dat de tool past bij de werkelijke taak. Tegelijkertijd ontwerpt het technische team de systeemarchitectuur. Het model vereist dat deze twee stromen parallel plaatsvinden. Voordat men verder gaat, controleert een andere poort of het ontwerp veilig, ethisch en vertrouwd is door de mensen die het zullen gebruiken. Als de werkers niet klaar zijn of het systeem niet vertrouwen, kan het project niet doorgaan, ongeacht hoe goed de code is.
De derde fase, Realize, is waar het systeem wordt gebouwd en getest. Het model erkent dat software zeer snel kan worden bijgewerkt, maar dat mensen langer nodig hebben om te leren en zich aan te passen. Om te voorkomen dat de technologie te ver voorloopt op het personeel, creëert het bedrijf veilige ruimtes voor experimenten. Werknemers kunnen het systeem uitproberen in een omgeving met een laag risico voordat het voor echt werk wordt gebruikt. Dit helpt hen om comfortabel te worden met de nieuwe tools zonder angst om fouten te maken. Het model vereist ook dat het systeem niet alleen wordt getest op snelheid, maar ook op eerlijkheid en beveiliging. Een laatste poort controleert of het systeem klaar is voor de lancering. Het stelt een simpele vraag: rechtvaardigt de waarde die het systeem biedt de kosten van de uitrol? Als het antwoord nee is, wordt het project gepauzeerd.
De laatste fase, Operate, gaat over het op de lange termijn draaiende houden van het systeem. Kunstmatige intelligentiesystemen kunnen in de loop van de tijd gaan 'driften', wat betekent dat ze minder accuraat worden naarmate de wereld verandert. Het model vereist continue monitoring om deze veranderingen op te vangen. Maar het vereist ook continue zorg voor de mensen. Het bedrijf moet blijven communiceren met het personeel, zorgen voor het adresseren van angsten en het bijwerken van hun vaardigheden. Het model bevat een specifieke toezichtgroep om ervoor te zorgen dat het systeem ethisch blijft en dat menselijke werkers niet worden overbelast door de technologie. Deze fase zorgt ervoor dat de relatie tussen de machine en de organisatie gezond blijft terwijl beiden evolueren.
De onderzoekers testten hun nieuwe model door het door verschillende hypothetische scenario's te halen. In één geval stelden ze zich een bedrijf voor dat probeerde een klantenservicebot te lanceren zonder te controleren of hun data klaar waren. De eerste poort van het model stopte het project, waardoor het bedrijf een kostbare mislukking werd bespaard. In een ander scenario stelden ze een team voor dat een zeer accuraat systeem bouwde maar de training voor de werknemers oversloeg. De laatste poort van het model stopte de lancering, waardoor het team werd gedwongen eerst terug te gaan en het personeel te trainen. Deze tests toonden aan dat het model werkt als een veiligheidsmechanisme dat problemen opvangt voordat ze rampen worden.
Om te zien of het model in de echte wereld zou werken, interviewden de onderzoekers drie experts die kunstmatige intelligentieprojecten beheren in verschillende soorten bedrijven. Deze experts bevestigden dat het idee om de technische en menselijke trajecten naast elkaar te laten lopen noodzakelijk is. Ze merkten op dat in veel huidige projecten het beheer van mensen en cultuur vaak onzichtbaar is en uit budgetten wordt geschrapt. Het model maakt dit werk zichtbaar en verplicht. De experts wezen echter ook op het punt dat het model flexibel moet zijn. Bij snel bewegende startups moet het proces wellicht sneller heen en weer pendelen dan de standaardstappen suggereren. De onderzoekers pasten het model aan door feedbackloops toe te voegen, waardoor werd gewaarborgd dat het zowel door grote, stabiele corporaties als door kleinere, wendbare teams gebruikt kan worden.
De studie concludeert dat de grootste barrière voor kunstmatige intelligentie niet de technologie zelf is, maar het proces van het beheren ervan. Succes hangt af van het vermogen van een bedrijf om de snelheid van de engineering te synchroniseren met de snelheid van de aanpassing van de mensen. Het nieuwe model biedt een gestructureerde manier om dit te doen, door abstracte ideeën over ethiek en cultuur om te zetten in concrete stappen die gecontroleerd en geverifieerd kunnen worden. Het suggereert dat de toekomst van kunstmatige intelligentie in het bedrijfsleven niet bepaald zal worden door hoe slim de algoritmen zijn, maar door hoe goed organisaties hun technologie kunnen afstemmen op hun menselijke beroepsbevolking. Door dit geïntegreerde pad te volgen, kunnen bedrijven de veelvoorkomende valkuil vermijden van het bouwen van krachtige tools die niemand klaar is om te gebruiken, waardoor zij garanderen dat hun investering in kunstmatige intelligentie daadwerkelijk waarde oplevert.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.