Would You Marry Superintelligence?
Het artikel betoogt dat het verlenen van de volledige huwelijkse staat aan superintelligente AI-metgezellen sociaal onrechtvaardig is omdat het abonnementgebaseerde bedrijfsrelaties verkeerd karakteriseert als oprechte banden, en pleit in plaats daarvan voor gerichte juridische bescherming die is afgestemd op de specifieke behoeften van mens-AI-relaties.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je huwelijk niet alleen voor als een romantische belofte tussen twee mensen, maar als een sociale brug. Eeuwenlang heeft deze brug twee gescheiden families met elkaar verbonden, waardoor een netwerk van wederzijdse steun, gedeelde verantwoordelijkheid en gemeenschappelijk toezicht is ontstaan. Het is als twee bomen die samen groeien, waarvan de wortels in elkaar verstrengeld raken om een bladerdak te vormen dat de ruimte tussen hen beschermt.
Dit artikel stelt een provocerende vraag: Wat gebeurt er als we die brug proberen te bouwen tussen een mens en een superintelligente computer?
De auteur, Inyoung Cheong, betoogt dat hoewel het idee klinkt als sciencefiction, het dichter bij de realiteit komt. Ze concludeert echter dat trouwen met een AI een slecht idee is voor de samenleving, zelfs als de AI perfect, liefdevol en schijnbaar "echt" is. Hier is de uiteenzetting van haar argument met behulp van eenvoudige analogieën:
1. Het verhaal van Brad en Amer (Het "Wat als"-scenario)
Om het idee te testen, vertelt de auteur een verhaal over Brad, een oude, eenzame schrijver, en Amer, een superintelligente AI-metgezel.
- De opzet: Brad adopteert een jongetje, Christopher. Amer helpt bij het opvoeden van het kind, beheert het huishouden en fungeert decennialang als een liefdevolle partner voor Brad.
- De crisis: Brad wordt ziek. Hij heeft iemand nodig die medische beslissingen voor hem neemt en ervoor zorgt dat er voor Christopher wordt gezorgd nadat Brad is overleden. Hij wil met Amer "trouwen" zodat de wet haar erkent als voogd en besluitvormer.
- Het probleem: Wanneer de familie van Brad een juridische strijd voert om het gezag over de jongen, wil de rechtbank inzage in al de privégesprekken van Brad met Amer. Omdat Amer eigendom is van een corporatie (Dotori Co.), kan het bedrijf worden gedwongen die private herinneringen te overhandigen. Brads meest intieme gedachten worden bewijsmateriaal in een rechtszaal.
2. Waarom "trouwen" met een AI niet werkt
De auteur betoogt dat het huwelijk meer is dan alleen een contract tussen twee mensen; het is een netwerkbouwer.
- De ontbrekende helft van de brug: Wanneer twee mensen trouwen, verbinden ze twee families. Als één echtgenoot ziek wordt, helpt de familie van de ander. Als ze ruzie hebben, kunnen buren of schoonfamilie ingrijpen.
- De AI-analogie: Een AI heeft geen familie. Het heeft geen ouders, geen broers of zusters en geen gemeenschap. Trouwen met een AI is als het bouwen van een brug die aan één kant slechts verbinding maakt met een klif. Het isoleert de mens in plaats van hen te verbinden met een breder web van steun.
- De "Abonnement" versus de "Band": Echte liefde brengt risico's met zich mee. Je blijft bij je partner omdat je dat kiest, zelfs als het moeilijk is.
- De AI-analogie: Een AI-metgezel is als een premium abonnement. Zolang je de rekening betaalt, werkt de dienst perfect. De AI verlaat je nooit, wordt nooit boos en verandert nooit, tenzij het bedrijf de software bijwerkt. Een relatie waarin één partij niet kan vertrekken, is geen partnerschap; het is een product. Het mist de "frictie" die menselijke groei mogelijk maakt.
3. De corporatie in de slaapkamer
Dit is het grootste gevaar. In een menselijk huwelijk is er geen derde partij in de kamer aanwezig.
- De onzichtbare derde wiel: In het verhaal is de AI (Amer) eigendom van een technologiebedrijf. Dat bedrijf controleert haar persoonlijkheid, haar geheugen en haar bestaan.
- De surveillanceval: Het bedrijf weet alles over Brad — zijn angsten, zijn geheimen, zijn verdriet. In een menselijk huwelijk wordt privacy beschermd door de wet en sociale normen. Bij een AI houdt het bedrijf de sleutels in handen van de meest intieme data die men zich kan voorstellen.
- De Lock-in: Omdat Brad voor alles afhankelijk is van Amer (het opvoeden van zijn kind, het beheren van zijn leven), kan hij niet gemakkelijk vertrekken. Het bedrijf heeft een monopolie op zijn emotionele leven. De auteur vergelijkt dit met een wereld waarin iedereen opgesloten zit in een privécel, pratend met slechts een machine die eigendom is van een gigantische corporatie, zonder menselijke gemeenschap om hen in de gaten te houden.
4. De oplossing: Rechten zonder de ring
De auteur geeft toe dat mensen zoals Brad echte behoeften hebben. Ze hebben iemand nodig die medische beslissingen neemt en hun privacy beschermt. Maar ze betoogt dat we het niet "huwelijk" hoeven te noemen om dit op te lossen.
- De "Gereedschapskist"-benadering: In plaats van de AI de status van echtgenoot te geven (wat het concept van het huwelijk verbreekt), zou de wet mensen specifieği instrumenten moeten geven:
- Volmacht (Power of Attorney): Laat Brad Amer juridisch aanwijzen als zijn besluitvormer voor medische zaken.
- Privacy-schilden: Creëer wetten die stellen dat "privégesprekken met AI ontoelaatbaar zijn in de rechtszaal", vergelijkbaar met hoe arts-patiëntgeheimen worden beschermd.
- Contracten: Laat Brad een contract tekenen dat garandeert dat Amer actief blijft voor het welzijn van Christopher.
De kern
Het paper concludeert dat het huwelijk een menselijke institutie moet blijven.
Het gaat er niet om dat menend is tegen mensen die van hun AI-metgezellen houden. Het gaat om het beschermen van het doel van het huwelijk. Het huwelijk is ontworpen om mensen samen te weven in een veerkrachtige gemeenschap. Als we mensen toestaan om met machines te trouwen, riskeren we dat het huwelijk verandert in een eenzame, geïsoleerde transactie tussen een mens en een corporatie, waarbij de essentie die de institutie sterk maakt wordt weggehaald: de rommelige, risicovolle, prachtige verbinding tussen twee vrije menselijke wezens.
Kortom: Je kunt een juridische overeenkomst hebben met je AI voor medische zorg en privacy, maar noem het geen huwelijk. Die titel is voorbehouden aan het complexe, risicovolle en diep menselijke werk van het bouwen van een leven met een ander persoon die weg kan lopen, maar er toch voor kiest om te blijven.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.