Process-Constituted Intelligence: A Shared Criterion for Humans and Machines
Dit artikel betoogt dat ware intelligentie wordt gedefinieerd door het iteratieve cognitieve proces in plaats door de output, en stelt een kader van "sterke equivalentie" voor gebaseerd op zeven proceskenmerken om menselijke cognitie te onderscheiden van de huidige generatieve AI, die slechts outputsporen reproduceert, terwijl het ontwerpprincipes en audits aanbiedt om ervoor te zorgen dat AI-instrumenten menselijke generatieve capaciteiten aanvullen in plaats van eroderen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Intelligentie wordt vaak verward met het uiteindelijke resultaat: de opgeloste vergelijking, het voltooide schilderij, het juiste antwoord in een gesprek. Decennialang hebben wetenschappers gedebatteerd over de vraag of een machine die hetzelfde resultaat produceert als een mens, werkelijk denkt. Deze vraag is verschoven van de filosofie naar de dagelijkse realiteit van generatieve kunstmatige intelligentie, hulpmiddelen die essays kunnen schrijven, code kunnen genereren en afbeeldingen kunnen creëren die niet te onderscheiden zijn van menselijk werk. De kern van het probleem is niet alleen of de output goed is, maar hoe die tot stand is gekomen. In de studie van de geest bestaat er al lang een onderscheid tussen een systeem dat louter menselijk gedrag nabootst en een systeem dat daadwerkelijk de interne activiteit repliceert die nodig is om dat gedrag voort te brengen. De één is als een kaart die de bestemming laat zien; de ander is de reis zelf, met al haar verkeerde bochten, pauzes en momenten van twijfel. Het begrijpen van het verschil is niet langer een academische oefening, want wanneer mensen machines gebruiken om het denken voor hen te doen, kunnen ze de zeer stappen overslaan die hun eigen vermogen om te denken opbouwen.
Een team onderzoekers van Macquarie University en andere instellingen heeft een nieuwe manier voorgesteld om intelligentie te meten die zich volledig richt op deze reis. Zij stellen dat ware intelligentie wordt gevormd door het proces — de iteratieve activiteit van proberen, falen, herzien en leren — in plaats van door de output zelf. Om dit te testen, ontwikkelden zij een raamwerk dat kijkt naar zeven specifieke kenmerken van hoe een probleem wordt opgelost. Deze kenmerken omvatten de bereidheid om veel pogingen te genereren en de pogingen die falen weg te gooien, het vermogen om bij onzekerheid te blijven zonder naar een zelfverzekerd antwoord te haasten, en de capaciteit om te leren van de weerstand die het materiaal of de omgeving biedt. Ze kijken ook naar hoe een oplosser deelneemt aan een dialoog, zichzelf verantwoording laat afleggen aan anderen, en hoe de strijd zelf de persoon die het werk doet vormt. De onderzoekers suggereren dat voor een machine werkelijk gelijkwaardig te zijn aan een menselijke geest, deze niet alleen het juiste antwoord moet produceren, maar ook deze zeven kenmerken op zijn eigen manier moet vertonen.
Wanneer de onderzoekers dit raamwerk toepasten op de huidige generatieve AI, vonden zij een aanzienlijke kloof. Deze systemen zijn getraind op de "sporen" van het menselijk denken: voltooide papers, gepubliceerde code en bewerkte afbeeldingen. Ze leren het eindproduct te reproduceren door te steekproeven uit een enorme collectie van deze voltooide werken. Hoewel de output vaak lijkt op redeneren of creativiteit, is de interne activiteit die dit bij mensen genereert grotendeels afwezig. De machine worstelt niet met het probleem, noch ervaart het de langzame opeenhoping van oordeelsvorming die voortkomt uit jarenlange praktijk. Het voorspelt simpelweg het volgende waarschijnlijke woord of pixel op basis van patronen die het eerder heeft gezien. De onderzoekers beschrijven dit als "zwakke equivalentie": de machine komt overeen met de input en de output, maar het proces dat hen verbindt is afwezig of opaak. Zelfs wanneer deze systemen lijken te "denken" door hun werk te tonen, zoals het opsommen van stappen vóór een antwoord, is dit vaak slechts een cosmetische vertoning. De stappen drijven de berekening niet noodzakelijkerwijs aan; ze zijn slechts een andere laag output die ontworpen is om op redeneren te lijken.
De studie betoogt expliciet tegen het idee dat het simpelweg groter maken van deze modellen of het geven van meer data dit probleem zal oplossen. Het toevoegen van meer tekst aan de trainingsset levert slechts meer voltooide sporen op, niet meer van het rommelige, iteratieve proces dat intelligentie opbouwt. De onderzoekers verwerpen ook de opvatting dat machines de exacte biologische architectuur van het menselijk brein moeten kopiëren om intelligent te zijn. Ze stellen een middenweg voor genaamd "sterke equivalentie". Dit vereist niet dat een machine dezelfde algoritmen gebruikt als een menselijk brein, wat noch mogelijk, noch wenselijk is. In plaats daarvan vereist het dat het gedrag van de machine wordt georganieerd door dezelfde zeven proceskenmerken, zelfs als de fysieke machinerie anders is. Een machine kan bijvoorbeeld "engagement met onzekerheid" vertonen, niet door twijfel te voelen, maar door een mechanisme te hebben dat ambigue problemen signaleert en weigert een zelfverzekerd antwoord te geven totdat er meer informatie is verzameld.
De implicaties voor menselijke gebruikers zijn net zo cruciaal als de technische diagnose. De onderzoekers wijzen erop dat wanneer een persoon een hulpmiddel gebruikt dat het generatieve werk voor hen uitvoert, de capaciteit die dat werk zou hebben opgebouwd, nooit wordt gevormd. Bewijs uit studies naar studenten die AI gebruiken, suggereert dat zij weliswaar beter presteren met het hulpmiddel aanwezig zijn, maar vaak slechter presteren wanneer het wordt verwijderd, omdat ze de cognitieve inspanning die nodig is om te leren hebben overgeslagen. Het gevaar is niet alleen een verlies van vaardigheid, maar een falen van vorming. De moeilijke, onzekere en dialogische activiteiten die iemands oordeel en wijsheid vormen, zijn precies de zaken die AI-tools het meest geneigd zijn te omzeilen. Als een hulpmiddel een ambiguïteit voor een gebruiker oplost, leert de gebruiker nooit om met die onzekerheid te leven. Als een hulpmiddel het antwoord levert, oefent de gebruiker nooit de trial-and-error die nodig is om smaak en oordeelsvermogen te ontwikkelen.
Om dit aan te pakken, stellen de auteurs een nieuwe aanpak voor voor zowel het ontwerpen van AI als het gebruik ervan. Aan de kant van de machine suggereren zij architecturen die de machine dwingen zich met het proces bezig te houden, zoals agenten die hun aanpak moeten herzien wanneer ze door een andere agent worden uitgedaagd, in plaats van simpelweg te stemmen op een antwoord. Aan de menselijke kant pleiten zij voor "procesbehoudende" assistentie. Dit betekent hulpmiddelen die de volgende vraag of een tegenvoorbeeld leveren om het denken van de gebruiker uit te breiden, in plaats van het antwoord te leveren. Het doel is om de generatieve stappen bij de persoon te houden, zodat het hulpmiddel de activiteit van het denken ondersteunt in plaats van het te vervangen. De onderzoekers schetsen ook een methode voor "procesaudits", waarbij zowel mensen als machines op dezelfde taken worden getest met behulp van deze zeven kenmerken als een beoordelingsrubriek. Dit zou wetenschappers in staat stellen om te meten of een machine werkelijk betrokken is bij het proces of slechts de vorm ervan nabootst, en of menselijke gebruikers hun cognitieve capaciteiten behouden wanneer ze door deze hulpmiddelen worden bijgestaan.
Uiteindelijk suggereert het artikel dat het verschil tussen een systeem dat intelligentie produceert en een systeem dat het constitueert, het verschil is tussen een verslag van een gebeurtenis en de gebeurtenis zelf. Naarmate deze hulpmiddelen krachtiger worden, moet de focus verschuiven van het optimaliseren van de output naar het technisch vormgeven van het proces. De onderzoekers beweren niet de mysterie van intelligentie te hebben opgelost, noch zeggen zij dat de huidige AI nutteloos is. In plaats daarvan bieden zij een duidelijk criterium voor wat er ontbreekt en een pad vooruit om systemen te bouwen die het proces van denken respecteren, zowel in silicium als in de menselijke geest. Door te focussen op de activiteit in plaats van op het resultaat, kunnen we ervoor zorgen dat, naarmate machines in staat worden, ze niet onbedoeld de zeer menselijke capaciteiten uithollen die ze juist bedoeld zijn te ondersteunen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.