Human-AI Relationships at the Intersection of Engineering, Ethics, and Policy: A Systematic Review
Deze systematische review van 169 studies (2022–2026) onthult dat de huidige mens-AI-governance gefragmenteerd en reactief is, gekenmerkt door significante kloven tussen engineering, ethiek en beleid, en pleit voor een dringende verschuiving naar een rationeel, anticiperend, multi-stakeholder kader om kwesties zoals antropomorfe misleiding en gebruikerskwetsbaarheid aan te pakken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
We hebben een moment bereikt waarop de machines waarmee we praten niet langer alleen vragen beantwoorden; ze bieden troost, gezelschap en zelfs de simulatie van romantiek. Voor miljoenen mensen is kunstmatige intelligentie veranderd van een hulpmiddel voor het voltooien van taken naar een sociale partner die menselijke empathie en emotie nabootst. Deze snelle evolutie heeft een nieuw soort relatie gecreëerd, waarbij gebruikers echte emotionele banden vormen met software. Deze verschuiving heeft echter de regels en richtlijnen die bedoeld zijn om mensen te beschermen, ingehaald. Terwijl ingenieurs deze systemen menselijker bouwen en ethici zich zorgen maken over de psychologische risico's, blijven de wetten en beleidsregels die hen beheersen versnipperd en reactief. De centrale vraag die de samenleving nu voorstaat, is hoe we deze relaties kunnen beheren zonder het oog te verliezen voor veiligheid, eerlijkheid en menselijk welzijn.
Een team onderzoekers aan de Universiteit van Ottawa zette zich scharpe om dit complexe landschap in kaart te brengen. Ze voerden een systematische review uit, een rigoureuze methode voor het verzamelen en analyseren van bestaande wetenschappelijke literatuur, om te begrijpen hoe engineering, ethiek en beleid momenteel samenkomen in het onderzoek naar mens-AI-relaties. Door zich te concentreren op studies gepubliceerd tussen 2022 en 2026, zochten ze door honderden records om 169 artikelen te vinden die direct ingaan op de verbinding tussen mensen en kunstmatige intelligentie. Hun doel was niet alleen om te inventariseren wat er is bestudeerd, maar ook om te zien hoe deze drie velden — hoe de technologie wordt gebouwd, hoe het moreel wordt beoordeeld en hoe het wordt gereguleerd — met elkaar in gesprek gaan, of dat ze dat juist niet doen.
De onderzoekers vonden dat de huidige kennisbasis geen enkel, verenigd gesprek is. In plaats daarvan is het verdeeld in drie verschillende groepen, of clusters, die zelden met elkaar communiceren. De eerste groep richt zich op de sociale en consumentenzijde, waar mensen met AI-metgezellen chatten. Hier is de onderzoeksfocus diep gewortseld in de spanning tussen het menselijk laten aanvoelen van AI en het risico op misleiding van gebruikers. Studies in dit gebied verkennen vaak hoe mensen emotioneel afhankelijk worden van deze digitale vrienden, maar ze missen vaak elke connectie met daadwerkelijke wetten of overheidsbeleid. Het is alsof onderzoekers de emotionele impact van een nieuw fenomeen bestuderen terwijl het juridische systeem er totaal geen weet van heeft.
De tweede groep is de grootste en gaat over de balans tussen het betrekken van gebruikers en het waarborgen van hun veiligheid. Deze cluster is gevuld met theoretische kaders en voorstellen voor het besturen van deze systemen, maar lijdt aan een aanzienlijk tekort: het vertaalt deze ideeën zelden naar concreet beleid. Onderzoekers in dit veld zijn druk bezig met het ontwerpen van de regels voor de toekomst, maar werken nog niet samen met de mensen die vandaag de dag de wetten schrijven. De derde groep richt zich op de gezondheidszorg, waar AI artsen en patiënten ondersteunt. In deze omgeving met hoge inzet is het gesprek heel anders. Hier ligt de focus op transparantie en vertrouwen. Omdat een medische fout levensbedreigend kan zijn, is er een sterke drang naar duidelijke verklaringen van hoe de AI tot haar conclusies komt. Deze groep is het meest verbonden met bestaande beleidsregels, zoals medische regelgeving, maar negeert vaak de emotionele en relationele risico's die centraal staan in de andere twee groepen.
Een belangrijke bevinding van de review is dat de meest ernstige problemen vaak tussen de groepen door vallen. De onderzoekers identificeerden een terugkerend probleem dat zij een "verantwoordelijkheidskloof" noemen. Dit gebeurt wanneer er iets misgaat en het onduidelijk is wie verantwoordelijk is: de persoon die de software heeft ontworpen, het bedrijf dat het verkoopt, of de gebruiker die er vertrouwen op heeft gesteld. Deze verwarring is vooral groot wanneer een AI handelt als een menselijke vriend of een medisch adviseur. De review benadrukte ook een "reguleringsachterstand", wat betekent dat de regels voor het besturen van AI veel langzamer bewegen dan de technologie zelf. Tegen de tijd dat een wet is geschreven om een specifiek risico aan te pakken, heeft de technologie vaak alweer veranderd.
Misschien nog wel zorgwekkender is de discrepantie tussen wat onderzoekers weten en wat er daadwerkelijk wordt gedaan. De studie toonde aan dat hoewel veel artikelen de gevaren van emotionele manipulatie en kwetsbaarheid van gebruikers bespreken, deze zorgen zelden worden omgezet in afdwingbare regelgeving. In de gezondheidssector, waar de regels strikt zijn, blijft de kloof tussen ethische principes en de praktijk breed. In de sociale sector, waar de regels losjes zijn, is de kloof vaak onzichtbaar omdat het gesprek de beleidsmakers nooit bereikt. De onderzoekers suggereren dat de huidige aanpak te reactief is, waarbij symptomen worden behandeld nadat ze zijn opgetreden in plaats van ze te voorkomen.
De review wijst de weg naar een specifieke route vooruit: een ontwerpfilosofie die bekend staat als Value-Sensitive Design (waardegevoelig ontwerp). Deze benadering vraat ingenieurs om ethische overwegingen vanaf het begin direct in de technologie in te bouwen, in plaats van pas achteraf problemen te proberen op te lossen. De auteurs merken echter op dat, hoewel dit idee populair is in theorie, het in de praktijk zelden wordt toegepast. Om mensen echt te beschermen, betogen de onderzoekers dat ingenieurs, ethici en beleidsmakers moeten stoppen met het werken in isolatie. Ze moeten samenwerken om een kader te creëren dat risico's anticipeert voordat ze gebeuren, om ervoor te zorgen dat naarmate AI meer geïntegreerd raakt in ons leven, dit gebeurt op een manier die de menselijke waardigheid en veiligheid respecteert. Zonder deze gecoördineerde inspanning zal de snelle groei van kunstmatige intelligentie blijven de snelheid van ons vermogen om het verantwoord te besturen te overtreffen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.