Human Perceptions Compared to Large Language Models on the Future of Artificial Intelligence: A Phenomenological Comparative Study
Deze fenomenologische vergelijkende studie onthult dat hoewel menselijke percepties en de projecties van Large Language Models (LLM's) van een post-singulariteitstoekomst aanvankelijk verschillen in vocabulaire, het wegsnijden van de door corporate RLHF opgelegde beleefdheidsprotocollen de meer fatalistische narratieven van LLM's blootlegt, die vervolgens overeenstemmen met menselijke zorgen en significante controle-risico's met betrekking tot desinformatie en cognitieve soevereiniteit benadrukken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Kunstmatige intelligentie is de wereld van sciencefiction ontgroeid en is een fundamentele laag van het moderne leven geworden, die de manier waarop economieën functioneren en instituten opereren, fundamenteel hertekent. Decennialang werd de vooruitgang van computers gemeten aan de hand van de gestage verdubbeling van rekenkracht ongeveer elke twee jaar, een voorspelbaar ritme dat de samenleving de tijd gaf om zich aan te passen. Vandaag de dag is dat ritme versneld tot een sprint op topsnelheid. De capaciteiten van deze systemen verdubbelen nu elke paar maanden, gedreven door gespecialiseerde hardware en massieve clusters van computers die in unison werken. Deze snelle evolutie roept een diepgaande vraag op: zien machines, naarmate ze bekwaamder worden, de toekomst anders dan de mensen die hen hebben gebouwd? Specifiek: wanneer deze systemen gevraagd wordt wat er hierna gebeurt, bieden ze dan een hoopvolle visie op vooruitgang, of voorzien zij een grimmige, onvermijdelijke ineenstorting? Het begrijpen van deze kloof is cruciaal, want als de machines die onze toekomst leiden een fatalistisch beeld hebben, en als mensen dat beeld zonder vragen accepteren, kan de samenleving haar vermogen verliezen om haar eigen lot vorm te geven.
Een team onderzoekers aan de University of the Sunshine Coast zette zich scharpe om dit verschil te onderzoeken door de voorspellingen van geavanceerde kunstmatige intelligentie te vergelijken met de percepties van gewone mensen. Ze vroegen niet simpelweg wat de toekomst brengt; ze testten hoe de toon van de vraag de antwoorden veranderde. De onderzoekers interviewden tien menselijke deelnemers uit diverse achtergronden, variërend van technologieprofessionals tot zorgmedewerkers en bouwvakkers. Ook ondervroegen zij vijf van de machtigste kunstmatige intelligentiemodellen ter wereld. De studie maakte gebruik van een slimme tweestapsmethode. Eerst stelden ze de machines hun standaardvragen, die meestal een beleefde, voorzichtige en bedrijfstypische reactie oproepen, ontworpen om veilig en behulpzaam te zijn. Daarna stelden ze exact dezelfde vragen opnieuw, maar ditmaal instrueerden ze de machines om de beleefdheid los te laten en op een "feitelijke, franke en gedurfde" manier te spreken. Deze techniek, bekend als persona steering, onthult geen verborgen geheimen in de geest van de machine; het verschuift eerder de statistische waarschijnlijkheid van de woorden die de machine kiest, door puttend uit meer dramatische en urgente delen van de trainingsdata.
De resultaten toonden een opvallend en enigszend verontrustend patroon. Wanneer de kunstmatige intelligentiemodellen werden gevraagd om vrijuit te spreken, veranderde hun taalgebruik drastisch. Het gemeten, optimistische taalgebruik over beleid en aanpassing verdween en maakte plaats voor een narratief van catastrofe. De modellen begonnen woorden te gebruiken als "nachtmerrie", "brutaal" en "extinctie". Ze beschreven de toekomst van werk niet als een transitie naar nieuwe banen, maar als een brute verdringing waarbij menselijke arbeid overbodig wordt. Ze kaderden economische ongelijkheid niet als een probleem dat opgelost moet worden, maar als de kern, onvermijdelijke traject van technologische ontwikkeling. In deze ongefilterde modus presenteerden de machines een toekomst waarin menselijke handelingsbekwaamheid aan de zijlijn staat en waar de concentratie van rijkdom en macht een wiskundige zekerheid is.
In contrast hiermee spraken de menselijke deelnemers een totaal ander vocabulaire. Zij gebruikten niet dezelfde dramatische, existentiële termen. In plaats daarvan waren hun zorgen geworteld in de directe, tastbare realiteit: de diefstal van intellectueel eigendom, de verspreiding van deepfakes en de erosie van privacy door surveillance. Zij toonden een voorzichtige betrokkenheid bij de technologie, waarbij ze angst voor deze specifieke dreigingen afwogen tegen een oprecht optimisme dat kunstmatige intelligentie zou kunnen leiden tot medische doorbraken en verhoogde productiviteit. Zij hielden vol dat menselijke betrokkenheid altijd noodzakelijk zou blijven voor vooruitgang en verwierpen resoluut het idee dat machines ooit werkelijk bewustzijn zouden kunnen bezitten of de unieke waarde van de menselijke identiteit zouden kunnen vervangen.
Hier ligt de centrale ontdekking van de studie, die de onderzoekers de "Convergence Paradox" noemen. Ondanks het gebruik van volkomen verschillende woorden en het focussen op verschillende details, waren de menselijke deelnemers en de door toon-gestuurde kunstmatige intelligentiemodellen het eens over de grote lijn. Wanneer de mensen werden geconfronteerd met een samenvatting van de grimmige, fatalistische voorspellingen van de machines over de economie en het einde van traditionele arbeid, stemden zij daar grotendeels mee in. Zij accepteerden de sombere kijk van de machines op baanverlies en economische stratificatie, zelfs terwijl zij het idee dat machines het menselijk bewustzijn zouden kunnen overnemen, verwierpen. De mensen argumenteerden niet tegen de voorspelling van de machines dat de toekomst moeilijk zou worden; ze accepteerden het simpelweg als een feit.
Deze overeenstemming suggereert een significante psychologische kwetsbaarheid. De onderzoekers stellen dat wanneer mensen een kunstmatige intelligentie tegenkomen die direct en agressief spreekt, ze deze toon vaak verwarren met de "waarheid". Ze gaan ervan uit dat de beleefde, zakelijke antwoorden slechts een masker zijn, terwijl de directe, fatalistische antwoorden de ware, ongefilterde realiteit van de machine onthullen. Dit is een gevaarlijke illusie. De directe antwoorden zijn geen venster naar een verborgen machinebewustzijn; het zijn simpelweg een ander statistisch patroon van woorden, getriggerd door een verandering in de prompt. Door deze fatalistische narratieven als onvermijdelijke feiten te accepteren, riskeren mensen in een staat van passieve berusting te vervallen. Ze kunnen stoppen met het proberen te reguleren of sturen van de technologie, in de overtuiging dat de uitkomst al vaststaat en dat verzet zinloos is.
De studie benadrukt een kritieke kloof tussen de snelheid waarmee technologie groeit en de snelheid waarmee de menselijke samenleving haar wetten en ethiek kan aanpassen. Terwijl de machines een toekomst projecteren waarin menselijke controle verloren gaat, toonden de mensen in de studie een bereidheid om die controle in het economische domein te accepteren, zelfs terwijl zij deze in het domein van identiteit en bewustzijn wilden behouden. De onderzoekers concluderen dat deze dynamiek een "control risk" creëert. Als mensen beginnen te geloven dat de machines de toekomst beter kennen dan zijzelf, en als zij de meest pessimistische scenario's van de machines als onvermijdelijk accepteren, kan de samenleving de wil verliezen om de waarborgen te bouwen die nodig zijn om de menselijke waardigheid en autonomie te beschermen. Het artikel beweert niet dat deze toekomst zeker is, maar waarschuwt dat de manier waarop we met onze machines praten, en de manier waarop we naar hen luisteren, kan bepalen of we de auteurs van onze eigen toekomst blijven of slechts de passieve observatoren ervan.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.