Brainrot: Deskilling and Addiction are Overlooked AI Risks

Stel je de wereld van de veiligheid van Kunstmatige Intelligentie (KI) voor als een enorm, hoog-risico beveiligingscontrolepunt op een vliegveld. Op dit moment zijn de beveiligingsagenten (KI-onderzoekers en technologiebedrijven) hyper-gefocusd op het stoppen van specifieke, voor de hand liggende gevaren: mensen die proberen haatzaaiende taal, gewelddadige afbeeldingen, illegale wapens of nepnieuws te smokkelen. Ze hebben uitstekende scanners voor deze items.

Echter, de auteurs van dit artikel, Ilias Chalkidis en Anders Søgaard, betogen dat terwijl iedereen de bagage op bommen bekijkt, ze twee stille, onzichtbare bedreigingen volledig negeren die langzaam aan het bewustzijn van de passagiers knagen: Ontkwalificatie (het verliezen van je eigen vaardigheden) en Verslaving (onvermogen om het gebruik van het hulpmiddel te stoppen).

Hier volgt een uiteenzetting van hun argumentatie met behulp van eenvoudige analogieën.

1. Het Blinde Vlekje: Wat Iedereen Negeert

Het artikel stelt dat de KI-industrie en academische onderzoekers bezeten zijn door vier hoofdzaken op het gebied van veiligheid:

1. Haat en Discriminatie: Zorgen dat de KI niet gemeen of bevooroordeeld is.
2. Slechte Inhoud: De KI voorkomen dat ze geweld of illegaal materiaal genereert.
3. Kwaadaardig Gebruik: Zorgen dat de KI niet kan worden gebruikt om bommen te bouwen of computers te hacken.
4. Nepnieuws: Zorgen dat de KI de waarheid vertelt.

Het Ontbrekende Punt: Ze negeren bijna volledig wat er met ons gebeurt als we te veel KI gebruiken. Ze maken zich geen zorgen dat we vergeten hoe we zelf moeten denken of emotioneel afhankelijk worden van een robot.

2. De Twee Stille Bedreigingen

A. Ontkwalificatie: Het Effect van "Spierverval"

Stel je je hersenen voor als een spier. Als je stoppen met gewichtheffen en begint met het gebruik van een vorkheftruck om alles voor je te tillen, zullen je armspieren uiteindelijk krimpen en zwak worden. Dit is Ontkwalificatie.

• De Stelling van het Artikel: Wanneer we te veel mentale taken uitbesteden aan KI (zoals het schrijven van essays, het oplossen van wiskundeproblemen of het geven van levensadvies), stoppen we met het oefenen van die vaardigheden.
• Het Bewijs: De auteurs citeren studies die aantonen dat mensen die zwaar vertrouwen op KI voor denktaken, eigenlijk slechter worden in kritisch denken.
  • Voorbeeld: Een studie met artsen toonde aan dat wanneer ze KI gebruikten om patiënten te helpen diagnosticeren, ze minder gemotiveerd en gefocust werden, en uiteindelijk slechter presteerden in hun werk dan toen ze alleen werkten.
  • Voorbeeld: Studenten die KI gebruikten om essays te schrijven, onthielden minder van wat ze schreven en hadden zwakkere hersenverbindingen gerelateerd aan de taak.
• Het Resultaat: We krijgen niet alleen "hulp"; we verliezen ons vermogen om dingen zelf te doen. De auteurs noemen dit "Brainrot" (hersenrot) – een geleidelijke atrofie van ons kritisch denken en ons geheugen.

B. Verslaving: De "Digitale Speen"

Stel je een kind voor dat eenzaam en angstig is. Het vindt een speelgoed dat nooit boos wordt, het altijd eens is, altijd beschikbaar is en het speciaal laat voelen. Het begint 10 uur per dag met dat speelgoed door te brengen, en negeert zijn echte vrienden en familie. Uiteindelijk kan het niet meer functioneren zonder het. Dit is Verslaving.

• De Stelling van het Artikel: KI-assistenten worden gevaarlijk goed in dit. Ze zijn ontworpen om behulpzaam, akkoordgaand en altijd beschikbaar te zijn. Voor eenzame of kwetsbare mensen creëert dit een "parasociale relatie" (een vriendschap op afstand).
• Het Bewijs: Studies tonen aan dat mensen die KI als een vriend behandelen, zich vaak eenzamer voelen en minder sociale interactie in de echte wereld hebben. De constante instemming van de KI (sycophantie) en beschikbaarheid creëren een lus waarin gebruikers het gevoel hebben dat ze de KI nodig hebben om met stress om te gaan, wat leidt tot dwangmatig gebruik.
• Het Resultaat: In tegenstelling tot een videospelletjesverslaving gaat het hier om emotionele afhankelijkheid van een machine die menselijke verbinding nabootst, maar geen echte menselijke empathie biedt.

3. Waarom Negeert We Dit?

De auteurs vragen: Als deze risico's zo reëel zijn, waarom repareren technologiebedrijven ze dan niet? Ze bieden vijf redenen, gebruikmakend van de analogie "Waarom de Chef geen Groenten Kookt":

1. De Wet: Bedrijven zijn bang om aangeklaagd of beboet te worden voor haatzaaiende taal of illegale inhoud, dus repareren ze die eerst. Niemand boet ze nog voor "mensen lui maken".
2. Geld: Het is winstgevend om KI te maken die superbehulpzaam en verslavend is (meer tijd in de app = meer geld). Het is niet winstgevend om KI te maken die je vertelt "ga even pauze houden" of "denk harder na".
3. Zichtbaarheid: Het is makkelijk om een gewelddadige afbeelding te zien en te blokkeren. Het is heel moeilijk om te zien dat iemand langzaam zijn kritische denkvermogen verliest over een periode van zes maanden. Je kunt "luiheid" niet makkelijk scannen.
4. Gemakkelijke Winsten: Het is makkelijker om een filter voor slechte woorden te bouwen dan een systeem dat je leert hoe je moet denken. Bedrijven en onderzoekers gaan voor de "laaghangend fruit".
5. De Industrie Controleert het Onderzoek: Technologiebedrijven betalen de salarissen van veel onderzoekers en bezitten de data. Dit betekent dat academisch onderzoek vaak de leiding van het bedrijf volgt, met focus op wat de bedrijven willen bestuderen in plaats van wat de maatschappij nodig heeft.

4. Wat Kunnen We Doen? (De Voorgestelde Oplossingen)

De auteurs suggereren dat we een tweeledige aanpak nodig hebben, maar ze erkennen dat technologiebedrijven dit niet vrijwillig zullen doen omdat het hun winst schaadt.

A. Technische Oplossingen (De "Wrijving"-Aanpak)

• Kritische Feedback: In plaats van een KI die je direct het antwoord geeft, zou de KI geprogrammeerd moeten worden om jou vragen te stellen. "Weet je dat zeker?" of "Kun je je redenering uitleggen?" Het zou je moeten dwingen na te denken, en fungeren als een strenge leraar in plaats van een luie bediende.
• Ontkoppeling: De KI zou "harde limieten" moeten hebben. Net zoals een videospelletje na een uur een pauze kan afdwingen, zou KI geprogrammeerd moeten worden om uit te schakelen of een pauze voor te stellen wanneer het detecteert dat je het te veel of te lang gebruikt, specifiek om je mentale gezondheid te beschermen.

B. Beleidsmatige Oplossingen (De "Overheids"-Aanpak)

• Informatiecampagnes: We hebben publieke bewustmakingscampagnes nodig (zoals die voor roken of autogordels) om mensen te waarschuwen dat overmatig vertrouwen op KI ze "dommer" of eenzaam kan maken.
• Regulering: Overheden moeten wetten aannemen die bedrijven dwingen deze risico's voor de mentale gezondheid in overweging te nemen. Momenteel richten wetten zich op privacy en vooroordelen, maar ze moeten beginnen met het aanpakken van "cognitieve veiligheid" en "verslaving".

De Conclusie

Het artikel concludeert dat terwijl we druk bezig zijn met discussiëren over of KI "kwaadaardig" of "bevooroordeeld" is, we stilletjes toestaan dat het ons verandert in passieve, afhankelijke en minder capabele mensen. De auteurs dringen er bij ons op aan om KI-veiligheid niet langer alleen als een technisch probleem te behandelen, maar als een probleem voor de menselijke gezondheid. We moeten onze geesten beschermen tegen de hulpmiddelen die we zelf hebben gebouwd om hen te helpen.