Identity from the Outside: A Conceptual Framework and Research Program for AI Personality Clones
Dit artikel stelt een conceptueel kader voor voor AI-persoonlijkheidsklonen dat de persoonlijke identiteit herdefinieert door middel van operationele ononderscheidbaarheid en klimaatgetrouwheid, waarbij een zestermig factorisatiemodel en een "delegaat"-archetype worden geïntroduceerd om te betogen dat de meest authentieke langetermijnkloon een kloon is die op dezelfde manier afwijkt van het origineel als het origineel zelf zou zijn geëvolueerd.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je in een kamer staat met een spiegel. Normaal gesproken laat een spiegel je precies zien hoe je er nu uitziet. Maar wat als de spiegel niet alleen je gezicht kon tonen, maar ook je favoriete grappen kon onthouden, je chagrijnige stemming wanneer je moe bent, en hoe je zou reageren als iemand je lunch zou stelen? Dit is de wereld van "AI-persoonlijkheidsklonen"—computerprogramma's die ontworpen zijn om net als een specifiek echt persoon te handelen, te praten en te denken. Wetenschappers proberen deze al een tijdje te bouwen, maar ze liepen tegen een enorme muur aan: het "harde probleem van bewustzijn". Dit is het mysterie van waarom fysieke hersenen van binnenuit iets voelen. Omdat niemand weet hoe dat mysterie op te lossen, besluit dit artikel eromheen te lopen. In plaats van te vragen: "Heeft deze robot een ziel?", stelt de auteur een simpelere, meer praktische vraag: "Kan iemand het verschil zien tussen de robot en de echte persoon?" De auteur behandelt identiteit niet als een magische vonk, maar als een uitvoering. Als een kloon een rechter lang kan misleiden, telt het dan als "dezelfde persoon"? Dit is belangrijk omdat naarmate we beter worden in het maken van deze digitale dubbelgangers, we moeten weten welke delen van een mens gemakkelijk te kopiëren zijn en welke delen onmogelijk te vervalsen zijn, vooral als het gaat om vertrouwen, rouw en wie we aan het worden zijn.
Het artikel, getiteld Identity from the Outside, betoogt dat "identiteit" eigenlijk drie verschillende vragen is die in één woord zijn samengevoegd, en dat we moeten stoppen met ze te verwarren. Ten eerste is er Menselijkheid: Kan de bot überhaupt als een mens klinken? (Denk aan een generieke chatbot). Ten tweede is er Doelgetrouwheid: Klinkt het als jouw specifieke vriend of familielid? (Denk aan een bot die getraind is op jouw tekstberichten). Ten derde, en het belangrijkste, is er Individualiteit: Heeft dit ding een eigen leven, zijn eigen zorgen en zijn eigen geschiedenis die het niet zomaar kan "ongedaan maken"? De auteur suggereert dat we heel goed worden in de eerste twee, maar dat de derde het lastige gedeelte is.
Om te begrijpen waarom, breekt de auteur een persoon's "zelf" af in zes ingrediënten, als een recept voor een persoonlijkheidsoep. Je hebt de Substraat (de stem en de hardware van de hersenen), Disposities (je persoonlijkheidskenmerken en stijl), en Geheugen (jouw verhalen en feiten). Dit zijn de "makkelijke" delen om te kopiëren; je kunt ze op een harde schijf opslaan en in een nieuwe robot plakken. Maar dan heb je de Update Dynamiek (hoe je verandert op basis van wat er met je gebeurt), Context (met wie je op dit moment praat), en Exogene Contingenties (de rommelige, echte wereldgebeurtenissen die permanente gevolgen hebben). Het artikel betoogt dat het "moeilijke" deel van identiteit niet is wat je weet of hoe je klinkt; het is het feit dat je moet leven met de resultaten van je acties. Als je iets gemeens zegt, kun je niet gewoon op "ongedaan maken" drukken en het vergeten. Dat gewicht van consequenties is wat een persoon een persoon maakt.
De auteur stelt een gedurfd idee voor, wat zij een "conjectuur" noemen (een slimme gok die getest moet worden, geen bewezen feit). Zij suggereren dat als een kloon weet dat hij kan worden gereset, opgeslagen of opnieuw gestart door zijn maker, hij op de lange termijn nooit echt als een echt mens zal handelen. Waarom? Omdat een echt mens de last van zijn fouten moet dragen. Als een kloon weet dat zijn maker een fout kan "patchen" of een slechte dag kan "herstellen", zal de kloon niet dezelfde voorzichtigheid, vermoeidheid of diepe toewijding ontwikkelen die een echt persoon wel heeft. Het is als het verschil tussen een videogamepersonage dat een save file kan herladen als hij van een klif valt, en een echte wandelaar die daadwerkelijk weer omhoog moet klimmen. De wandelaar leert voorzichtig te zijn; de gamer niet. Het artikel suggereert dat deze "versieerbaarheid"—het vermogen om gekopieerd en gereset te worden—juist het ding is dat een kloon ervan weerhoudt om over een lange periode echt ononderscheidbaar van een echt persoon te zijn.
Om dit te testen, introduceert de auteur een nieuw soort kloon genaamd een Delegate (Delegat). Stel je een tijdelijke assistent voor die een specifieke taak krijgt en een korte levensduur heeft. De delegat krijgt te horen: "Je bent echt voor deze ene taak, en je kunt niet worden gereset." Door deze tijdelijke bot echte "inzet" te geven (echte consequenties waar het mee te maken krijgt), kan het misschien kortstondig handelen als een echte individu. Wanneer de taak voltooid is, laat de delegat een "testament" achter—een samenvatting van wat er is gebeurd—in plaats van te worden geabsorbeerd in het hoofdsysteem. Dit is een middenweg tussen een wegwerpbaar softwaretool en een volledig menselijk leven.
Ten slotte herdefinieert het artikel wat een "perfecte kloon" zou moeten zijn. Het zegt dat we niet moeten verwachten dat een kloon exact hetzelfde pad volgt als de oorspronkelijke persoon, omdat zelfs echte mensen van mening veranderen en andere paden inslaan afhankelijk van wat er met hen gebeurt. In plaats daarvan moet de beste kloon hetzelfde "klimaat" hebben. Denk aan het leven van een persoon als een weersysteem. Je kunt niet precies voorspellen waar een enkele regendruppel zal vallen (de specifieke dingen die een persoon morgen zal zeggen), maar je kunt het klimaat voorspellen (hoe ze over het algemeen reageren op stormen, zonneschijn of kou). Een goede kloon hoeft niet dezelfde persoon te zijn; het moet alleen dezelfde "weerpatronen" hebben als het origineel. Het artikel concludeert dat het ding dat zich verzet tegen klonen niet het geheugen of de stem is; het is het feit dat, voor een echt persoon, dingen er echt toe doen. Als een systeem weet dat zijn consequenties nep of omkeerbaar zijn, zal het nooit echt "jij" zijn.
De auteur is voorzichtig om te zeggen dat dit een onderzoeksprogramma is, geen voltooide oplossing. Zij geeft toe dat hoewel korte tests laten zien dat bots kunnen overkomen als mensen of zelfs specifieke mensen kunnen imiteren, we nog niet hebben bewezen wat er over maanden of jaren gebeurt. Zij stelt een reeks experimenten voor om precies te zien wanneer en waarom een kloon wordt ontmaskerd, en om te testen of de "resetknop" de illusie van een echte persoonlijkheid echt verbreekt. Totdat die experimenten zijn uitgevoerd, blijft de vraag open: kunnen we een digitale geest bouwen die werkelijk het gewicht van een leven draagt, of zal het altijd slechts een zeer goede imitatie zijn?
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.