A Survey on Human-AI Collaboration with Large Foundation Models
Dit onderzoek onderzoekt de integratie van Large Foundation Models in mens-AI-samenwerking, waarbij de analyse wordt gestructureerd rond modelontwikkeling, ontwerpprincipes, ethiek en toepassingen met een hoge inzet, om te betogen dat het realiseren van het potentieel van deze systemen zorgvuldig, mensgericht ontwerp vereist om te waarborgen dat ze betrouwbaar, vertrouwenwekkend en voordelig zijn.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Al decennia lang is de droom van kunstmatige intelligentie geweest om machines te bouwen die denken zoals wij. Vroege pogingen, zoals een beroemde 18e-eeuwse schaakspelende automaat die stiekem een menselijke speler binnenin verborg, lieten zien dat we al lang gefascineerd zijn door technologie die ons eigen brein nabootst. Vandaag de dag zijn we veel verder gegaan dan verborgen menselijke operators. We beschikken over krachtige computersystemen die bekend staan als grote basismodellen (large foundation models). Dit zijn geen eenvoudige programma's die regel voor regel door ingenieurs zijn geschreven; het zijn massieve systemen die getraind zijn op enorme hoeveelheden tekst en afbeeldingen van het internet, waardoor ze patronen kunnen herkennen en menselijke taal, afbeeldingen en code kunnen genereren. Omdat deze systemen zo uitgestrekt en complex zijn, kunnen ze soms fouten maken, onvoorspelbaar handelen of de vooroordelen weerspiegelen die aanwezig zijn in de data waarop ze zijn gevoed. Dit heeft geleid tot een nieuw inzicht bij onderzoekers: de krachtigste manier om deze hulpmiddelen te gebruiken is niet door ze alleen te laten werken, maar door ze te koppelen aan menselijke intelligentie. Dit partnerschap, waarbij een persoon en een computer samenwerken om problemen op te lossen, staat centraal in een nieuw onderzoek door een team van onderzoekers aan de University of California, Santa Cruz. Zij gingen op zoek naar de manier waarop mensen en deze geavanceerde AI-systemen effectief, veilig en eerlijk kunnen samenwerken in verschillende gebieden van het leven.
De onderzoekers begonnen door te kijken naar hoe deze partnerschappen worden opgebouwd voordat de AI ooit een gebruiker ontmoet. Ze ontdekten dat dit proces niet alleen gaat over het voeren van data aan een machine en wachten op een resultaat. In plaats daarvan spelen mensen een actieve rol in elke fase van de ontwikkeling van de AI. Ten eerste cureren mensen de data waar de AI van leert, waarbij ze zorgvuldig voorbeelden selecteren die het systeem leren wat goed en wat fout is. Ze treden op als leraren, die het model sturen om zich op specifieke taken te concentreren en schadelijke of misleidende informatie te filteren. Vervolgens vormen mensen de doelen van de AI. Door middel van een proces waarbij mensen verschillende antwoorden die de computer geeft rangschikken, leren zij het systeem welke reacties nuttig, veilig en ethisch zijn. Tot slot evalueren mensen het werk van de AI, niet alleen om te zien of het correct is, maar ook om te controleren of het betrouwbaar en eerlijk is. De enquête suggereert dat een succesvolle AI-partner niet het resultaat is van een sterker model alleen, maar van dit zorgvuldige, mensgerichte ontwerpproces waarbij mensen de machine constant bijsturen naar beter gedrag.
Zodra de AI is gebouwd en klaar is om te werken, verandert de aard van de samenwerking. De onderzoekers identificeerden verschillende duidelijke manieren waarop mensen en AI in de echte wereld met elkaar interageren. In sommige gevallen fungeert een persoon als piloot, die instructies en correcties geeft aan de AI terwijl deze werkt. In andere gevallen fungeert de AI als een krachtige assistent die ideeën suggereert of informatie samenvat voor een mens om te beoordelen. Er zijn ook situaties waarin zowel de mens als de AI om de beurt de leiding in het gesprek nemen, waarbij elk hun unieke sterktes bijdragen aan een gezamenlijke taak. Een nieuwer en complexer patroon komt naar voren waarbij de AI fungeert als een agent die zelfstandig een reeks stappen kan uitvoeren, zoals het gebruiken van tools of het browsen op het web. In deze scenario's verschuift de rol van de mens naar die van een supervisor die de doelen stelt, het plan beoordeelt en alleen ingrijpt wanneer dat nodig is. De enquête benadrukt dat de sleutel tot succes in deze interacties niet alleen de technologie is, maar het ontwerp van de interface. De tools moeten zo worden gebouwd dat mensen gemakkelijk kunnen begrijpen wat de AI doet, kunnen zien waar deze onzeker is en de controle kunnen overnemen wanneer er zaken misgaan.
Het artikel verkent ook de diepe ethische en sociale vragen die ontstaan wanneer mensen en machines samenwerken. De onderzoekers wijzen erop dat hoewel AI de productiviteit kan verhogen, het ook risico's met zich meebrengt. Er is een gevaar dat mensen de machine te veel vertrouwen, of dat het systeem onrechtvaardige beslissingen neemt op basis van verborgen vooroordelen in de training. Om dit te voorkomen, benadrukt de enquête de noodzaak van transparantie en duidelijke regels. Mensen moeten in de loop blijven (in the loop), in staat om de keuzes van de AI in twijfel te trekken en deze ter verantwoording te roepen. De onderzoekers stelden vast dat in sectoren met hoge belangen, zoals de gezondheidszorg, waar een fout antwoord een patiënt schade kan berokkenen, of in de beveiliging, waar een gemiste dreiging gevaarlijk kan zijn, de samenwerking zorgvuldig beheerd moet worden. In de geneeskunde bijvoorbeeld kan AI artsen helpen om ziekten sneller te diagnosticeren, maar de uiteindelijke beslissing moet altijd rusten bij de menselijke expert die de volledige context van de patiënt begrijpt. Op dezelfde manier, in het onderwijs, kunnen AI-tutoren zich aanpassen aan de behoeften van een leerling, maar moeten docenten ervoor zorgen dat de technologie het leren ondersteunt in plaats van de menselijke connectie te vervangen die essentieel is voor groei.
Kijkend naar de toekomst, identificeren de onderzoekers verschillende grote uitdagingen die opgelost moeten worden om deze partnerschappen werkelijk betrouwbaar te maken. Een van de grootste hindernissen is het opschalen van menselijke begeleiding. Naarmate deze modellen krachtiger worden, vereisen ze meer menselijke feedback om in lijn te blijven met menselijke waarden, maar het verzamelen van deze feedback van een diverse groep mensen is moeilijk. Als de feedback afkomstig is van slechts een smalle groep, zal de AI hun specifieke vooroordelen aanleren en anderen negeren. Een andere uitdaging is het creëren van interfaces die zowel natuurlijk als veilig zijn. Hoewel praten tegen een computer in gewone taal gemakkelijk aanvoelt, kan het soms de complexe stappen die de machine neemt verbergen, waardoor het voor een mens moeilijk wordt om te weten wanneer hij moet ingrijpen. De enquête suggereert dat toekomstige systemen hun werk duidelijk moeten tonen, zodat mensen kunnen pauzeren, controleren en de AI kunnen corrigeren voordat deze een definitieve beslissing neemt.
Het ultieme doel van dit onderzoek is om voorbij te gaan aan het idee van AI als een hulpmiddel dat simpelweg menselijke inspanning vervangt. In plaats daarvan zien de onderzoekers een toekomst voor zich waarin AI en mensen een echt partnerschap vormen, waarbij elk doet waar ze het beste in zijn. De computer kan enorme hoeveelheden informatie verwerken en patronen opsporen die mensen misschien missen, terwijl de mens oordeelsvorming, ethiek en creativiteit inbrengt. De enquête concludeert dat de toekomst van kunstmatige intelligentie niet bepaald zal worden door hoe autonoom de machines worden, maar door de kwaliteit van de relaties die we met hen opbouwen. Door te focussen op zorgvuldig ontwerp, ethisch bestuur en voortdurend menselijk toezicht, kunnen we de ruwe kracht van deze grote modellen omzetten in betrouwbare partners die de hele samenleving ten goede komen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.