Algorithmic manipulation and mental self-determination: Operationalizing freedom of thought as a neuroright

De menselijke geest is lang beschouwd als een privéheiligdom, een plek waar gedachten in stilte worden gevormd, vrij van externe inmenging. Decennialang heeft het internationaal recht deze innerlijke ruimte, bekend als het forum internum, beschermd als een absoluut recht dat geen enkele overheid of technologie kan schenden. Deze bescherming was oorspronkelijk ontworpen om te voorkomen dat mensen zouden worden gedwongen hun overtuigingen te veranderen of gestraft zouden worden voor wat zij denken. Echter, een nieuw soort dreiging is opgekomen die geen draden, implantaten of directe toegang tot de hersenen vereist. In plaats daarvan komt het voort uit de alledaagse algoritmen die sociale media, nieuwsfeeds en online winkelen aandrijven. Deze systemen lezen niet direct onze gedachten; ze observeren ons gedrag, leren onze gewoonten kennen en ordenen de wereld om ons heen subtiel om onze keuzes te sturen. Het gevaar is dat we vaak het gevoel hebben dat we onze eigen beslissingen nemen, zelfs wanneer die beslissingen zorgvuldig zijn ontworpen door een computerprogramma om onze zwakheden uit te buiten.

Twee onderzoekers van de Hanoi Law University, Thi Long Nguyen en Ngoc Hiep Tran, hebben onderzocht of onze bestaande wetgeving sterk genoeg is om deze onzichtbare invloed te stoppen. Zij betogen dat de huidige regels, die zich richten op het beschermen van persoonlijke gegevens of het reguleren van specifieke soorten kunstmatige intelligentie, het werkelijke probleem missen. Het probleem is niet alleen wie onze informatie ziet, maar hoe ons vermogen om zelf na te denken stilletjes wordt hervormd. De auteurs stellen dat we "mentale zelfbeschikking" niet moeten begrijpen als een gloednieuw recht, maar als een moderne toepassing van het eeuwenoude recht op vrijheid van denken. Ze stellen een duidelijke set voorwaarden voor om onderscheid te maken tussen normale overtuiging en illegale manipulatie, een manier om de integriteit van ons denken te beschermen in een digitaal tijdperk waarin de krachtigste instrumenten nooit onze hersenen aanraken.

De onderzoekers begonnen door te kijken naar de kloof in de huidige juridische bescherming. Ze vonden dat wetten zoals de AI-verordening van de Europese Unie en regelgeving voor gegevensbescherming niet zijn ontworpen om de specifieke schade veroorzaakt door algoritmische manipulatie te vangen. De AI-verordening verbiedt bijvoorbeeld systemen die verborgen technieken gebruiken om gedrag te verstoren, maar het vereist bewijs dat een bedrijf de intentie had om te manipuleren en dat het resultaat significante, tastbare schade heeft veroorzaakt. Dit is een hoge drempel die veel alledaagse algoritmen gemakkelijk omzeilen. Deze systemen zijn vaak ontworpen om de betrokkenheid of verkopen te maximaliseren, niet om mensen expliciet te bedriegen, en hun effecten zijn meestal een langzame, geleidelijke verschuiving in hoe we de wereld zien, in plaats van een enkele, dramatische fout. Vergelijkbaar hiermee richten wetten voor gegevensbescherming zich op de verzameling en opslag van informatie. Ze vragen of we toestemming hebben gegeven voor het gebruik van onze gegevens, maar ze vragen niet of de manier waarop die gegevens worden gebruikt in het geheim onze gedachten stuurt. De auteurs betogen dat dit een structurele leemte in de wet achterlaat: een systeem kan alle regels voor gegevensprivacy en AI-veiligheid volgen en toch effectief het proces waarbij een persoon een oordeel vormt, kapen.

Om te begrijpen hoe dit gebeurt, beschrijven de auteurs een proces dat begint lang voordat een gebruiker een specifieke post of advertentie ziet. Het systeem bouwt eerst een gedetailleerd model van de gebruiker, waarbij het emotionele triggers, momenten van zwakte en zaken die de aandacht trekken, leert kennen. Dit creëert een enorme kennisasymmetrie: de computer weet de kwetsbaarheden van de gebruiker beter dan de gebruiker zichzelf kent. Het systeem gebruikt deze kennis vervolgens om de omgeving waarin keuzes worden gemaakt, vorm te geven. Het kan bepaalde nieuwsberichten tonen op een moment dat de gebruiker moe is, of opties in een specifieke volgorde presenteren waardoor één keuze natuurlijker lijkt dan hij in werkelijkheid is. Het resultaat is een vorm van invloed die voelt als een persoonlijke voorkeur. De gebruiker heeft nog steeds het gevoel dat hij de auteur is van zijn eigen beslissingen, maar het pad dat hij heeft afgelegd, is in het geheim door een algoritme geplaveid. Dit is verschillend van dwang, wat een keuze afdwingt, of overtuiging, wat redenen biedt om te wegen. Het is een verborgen sturing van de geest die de bewuste reflectie omzeilt.

Het artikel betoogt dat we, om dit op te lossen, naar het recht op vrijheid van denken moeten kijken, niet alleen als een schild tegen hersenimplantaten, maar als een schild tegen elke technologie die de vorming van gedachten verstoort. De auteurs stellen een specifieke test voor om te bepalen wanneer een algoritme de grens overschrijdt van acceptabele invloed naar onrechtmatige manipulatie. Ze suggereren dat een praktijk alleen illegaal is als deze aan vier voorwaarden tegelijkertijd voldoet. Ten eerste moet de methode van invloed verborgen zijn voor de gebruiker; als de gebruiker weet dat hij doelwit is, is het geen manipulatie. Ten tweede moet er sp Maß een diepe kennisasymmetrie zijn, waarbij het systeem de zwakheden van de gebruiker kent op een manier die de gebruiker zelf niet kan zien. Derde moet het systeem een specifieke kwetsbaarheid uitbuiten, zoals een emotionele staat of een cognitieve blinde vlek, in plaats van een beroep te doen op het vermogen van de gebruiker om te redeneren. Ten slotte moet de invloed het eigenlijke proces van hoe de gebruiker tot een besluit komt veranderen, en niet alleen de beschikbare opties.

Dit kader sluit aan bij een recente rechtszaak in Chili, waar het land het eerste werd dat constitutionele rechten aan hersenactiviteit toekende. In die zaak oordeelde een rechtbank dat een bedrijf de rechten van een senator had geschonden door zijn hersendata te verzamelen zonder de juiste toestemming. De auteurs merken op dat hoewel dit een overwinning voor neurorechten was, het beperkt bleef tot situaties waarin gegevens rechtstreeks uit de hersenen werden genomen. Hun werk breidt deze logica uit naar de digitale wereld, met het argument dat dezelfde bescherming moet gelden, zelfs wanneer er geen fysieke gegevens uit de geest worden genomen. Als het doel van de wet is om de integriteit van ons denken te beschermen, dan doet het er niet toe of de inmenging komt van een draad in de schedel of een slim ontworpen app op een scherm. De schade is hetzelfde: de erosie van het vermogen om eigen overtuigingen te vormen.

De onderzoekers erkennen dat het toepassen van deze ideeën niet eenvoudig zal zijn. Het bewijzen dat een specifiek algoritme een specifieke verandering in iemands geest heeft veroorzaakt, is moeilijk, aangezien deze effecten vaak subtiel en cumulatief zijn. Ze waarschuwen ook dat de nieuwe test zorgvuldig moet worden toegepast door rechtbanken om te voorkomen dat het per ongeluk alle vormen van reclame of aanbevelingen verbiedt. Ze concluderen echter dat zonder een duidelijke standaard voor wat mentale zelfbeschikking inhoudt, de wet blind zal blijven voor de meest hardnekkige bedreigingen voor onze autonomie. Door manipulatie te definiëren via deze vier factoren, bieden de auteurs een manier om het innerlijke heiligdom van de menselijke geest te beschermen, zodat onze gedachten de onze blijven, zelfs in een wereld waarin de omgeving om ons heen constant wordt geoptimaliseerd om ze te veranderen.