To Build or Not to Build? Factors that Lead to Non-Development or Abandonment of AI Systems
Dit artikel onderzoekt de onderbelichte factoren die leiden tot het niet ontwikkelen of verlaten van AI-systemen door een scoping review en empirische casusdata te synthetiseren om aan te tonen dat, naast ethische bezorgdheid, diverse praktische hefbomen zoals beperkte middelen, juridische kwesties en organisatorische dynamiek deze cruciale beslissingen voorafgaand aan de implementatie aanzienlijk beïnvloeden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je de wereld van Artificial Intelligence (AI) voor als een enorme, drukke bouwplaats. Normaal gesproken, wanneer we over AI horen, gaat het nieuws over de gebouwen die zijn voltooid, de wolkenkrabbers die zijn opgetrokken en hoe mensen erin wonen. We spreken over het "gebruik" en de "impact" van deze voltooide structuren.
Maar dit artikel stelt een andere vraag: Wat met alle bouwplaatsen die zijn verlaten? Wat met de halfgebouwde huizen, de blauwdrukken die tot een bal zijn gekreukt, en de kranen die zijn uitgeschakeld voordat er zelfs maar één baksteen is gelegd?
De auteurs, Shreya Chappidi en Jatinder Singh, betogen dat we een enorm deel van het verhaal negeren. Ze willen begrijpen waarom organisaties besluiten geen AI-systeem te bouwen, of waarom ze halverwege stoppen met het bouwen ervan.
Hier volgt een eenvoudige uiteenzetting van hun bevindingen, met behulp van alledaagse analogieën.
Het Grote Misverstand
De meeste mensen denken dat bedrijven stoppen met het bouwen van AI omdat ze beseffen: "Oh nee, dit is onethisch!" of "Dit is gevaarlijk!"
Het artikel zegt: Dat is slechts een deel van het verhaal.
Hoewel ethische zorgen (zoals vooroordeel of privacy) belangrijk zijn, zijn ze vaak slechts de top van de ijsberg. In de echte wereld laten bedrijven AI-projecten vaak om veel saaier, praktischer redenen vallen – zoals geld tekort komen, tijd tekort komen, of beseffen dat de wiskunde gewoon niet opgaat.
De Zes Redenen Waarom de Bouw Stopt (De Taxonomie)
De onderzoekers keken naar honderden rapporten en spraken met ingenieurs om een "menu" te creëren van redenen waarom AI-projecten worden geannuleerd. Ze vonden zes hoofdcategorieën:
Ethische Zorgen (De "Geweten"-Check):
- De Analogie: De architect beseft dat het huis wordt gebouwd op een kerkhof of het zonlicht van een buur zal blokkeren.
- De Realiteit: Het team maakt zich zorgen dat de AI mensen kan discrimineren, privacy kan schenden, of voor slechte doeleinden (zoals wapens) kan worden gebruikt.
Feedback van Stakeholders (De "Stadshuis"-Vergadering):
- De Analogie: De buren, de werknemers of de toekomstige bewoners komen bijeen en zeggen: "We willen dit gebouw hier niet," of "We gaan staken als jullie het bouwen."
- De Realiteit: Medewerkers, klanten of activisten verzetten zich. Ze kunnen protesteren, weigeren het hulpmiddel te gebruiken, of dreigen op te stappen, waardoor het bedrijf gedwongen wordt te stoppen.
Uitdagingen in de Ontwikkelcyclus (De "Blauwdruk"-Problemen):
- De Analogie: Je probeert een brug te bouwen, maar je beseft dat de rivier te breed is, het staal te zwak, of je niet kunt uitzoeken hoe je het beton moet gieten.
- De Realiteit: De data is rommelig of ontbreekt, het model leert niet correct, of de wiskunde is te moeilijk op te lossen. Het project botst tegen een technische muur die niet kan worden overwonnen.
Organisatorische Dynamiek (De "Kantoorpolitiek"):
- De Analogie: De baas verandert van mening, het afdelingsbudget wordt geknipt, of het team dat vecht over wie de leiding heeft, kan het niet eens worden over wat er moet worden gebouwd.
- De Realiteit: De strategie van het bedrijf verschuift, het leiderschap verliest interesse, of verschillende teams hebben tegenstrijdige doelen. Het project verliest gewoon zijn interne steun.
Beperkingen in Middelen (De "Lege Portemonnee"):
- De Analogie: Je hebt een geweldig plan voor een herenhuis, maar je hebt alleen genoeg geld voor een schuur. Of je hebt niet de juiste gereedschappen of de juiste werknemers.
- De Realiteit: Het is te duur om te bouwen of te onderhouden. Ze hebben niet genoeg krachtige computers (GPU's), niet genoeg data, of niet genoeg gespecialiseerde ingenieurs. Soms is het gewoon goedkoper om een hulpmiddel van iemand anders te kopen dan om het zelf te bouwen.
Juridische/Regulatorische Zorgen (De "Permit"-Problemen):
- De Analogie: De gemeentelijke bestemmingscommissie zegt: "Je mag hier niet bouwen," of "Je hebt een vergunning nodig die we niet kunnen krijgen."
- De Realiteit: Nieuwe wetten (zoals de EU AI Act) of regels voor gegevensprivacy (zoals de AVG) maken het project te risicovol of juridisch onmogelijk om te voltooien.
Wat de Data Eigenlijk Toonde
De onderzoekers keken naar twee verschillende groepen verhalen om te zien wat er echt gebeurt:
Groep 1: De "Nieuws"-Verhalen (Incidentendatabases)
- Dit zijn de beroemde mislukkingen die voorpagina's haalden (zoals een gezichtsherkenningssysteem dat werd gesloten omdat het racistisch was).
- Bevinding: In deze publieke verhalen zijn Ethische Zorgen en Feedback van Stakeholders de grote sterren. Dat is logisch, omdat dit de verhalen zijn die in het nieuws worden gebracht.
Groep 2: De "Achter-de-schermen"-Verhalen (Enquête onder Beoefenaars)
- Dit zijn de stille mislukkingen die binnen bedrijven plaatsvonden en nooit in het nieuws kwamen.
- Bevinding: Hier is het verhaal totaal anders. De meest voorkomende redenen voor het stoppen waren Technische Uitdagingen (het werkte niet), Beperkingen in Middelen (te duur) en Organisatorische Dynamiek (het management veranderde van mening).
- Kerninzicht: Veel projecten werden gedood voordat ze ooit het publieke toneel bereikten, omdat ze te moeilijk, te duur waren, of simpelweg niet pasten bij het bedrijf.
De "Spook"-Projecten
Het artikel merkt ook op dat soms een project wordt geannuleerd, maar later weer tot leven komt.
- De Analogie: Een aannemer stopt met werken aan een huis vanwege regen. Twee jaar later komt de zon weer uit en beginnen ze opnieuw met het graven van de fundering.
- De Realiteit: Bedrijven pauzeren vaak een project, wachten op betere technologie of goedkopere kosten, en proberen het daarna opnieuw te bouwen. Of ze annuleren een specifieke functie (zoals gezichtsherkenning), maar houden de rest van het systeem.
De Belangrijkste Leerstelling
De auteurs zeggen tegen de AI-gemeenschap: "Stop met alleen kijken naar de voltooide gebouwen en de ethische schandalen."
Om AI echt veilig en verantwoord te maken, moeten we de bouwfase begrijpen. We moeten bedrijven helpen beseffen dat besluiten niet te bouwen een geldige, slimme en soms noodzakelijke keuze is.
Ze suggereren dat we betere hulpmiddelen en checklists nodig hebben om organisaties te helpen vragen te stellen als:
- "Hebben we eigenlijk wel het geld en de vaardigheden om dit af te maken?"
- "Is het technische probleem oplosbaar?"
- "Is dit het juiste moment om dit te bouwen?"
Als we het voor bedrijven gemakkelijker kunnen maken om "Nee, we zouden dit niet moeten bouwen" te zeggen om praktische redenen, kunnen we veel toekomstige problemen voorkomen voordat ze zelfs maar beginnen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.