Social and Ethical Risks Posed by General-Purpose LLMs for Settling Newcomers in Canada

Stel je Canadas vestigingssector voor als een enorm, druk welkomstcentrum voor mensen die uit alle hoeken van de wereld arriveren. De taak ervan is om nieuwkomers te helpen bij het vinden van woningen, banen, scholen en artsen, zodat ze een nieuw leven kunnen opbouwen. Op dit moment is dit centrum overbelast. Er arriveren meer mensen dan ooit tevoren, en het personeel is uitgerekt tot het uiterste.

Omdat het personeel het druk heeft, wenden veel nieuwkomers (en zelfs de hulpverleners) zich tot een "magische robot" in hun zak: Algemeen Toepasbare AI (zoals de populaire ChatGPT). Ze vragen het alles: "Waar vind ik een baan?" "Welke vaccinaties heeft mijn kind nodig?" "Hoe open ik een bankrekening?"

Dit document is een waarschuwingsetiket op die magische robot. De auteurs stellen dat deze robot, hoewel slim, niet is gebouwd voor dit specifieke welkomstcentrum. Het "van de plank" gebruiken zonder de resultaten te controleren, is als een briljante maar ongeschoolde toerist om aanwijzingen vragen in een vreemde stad; ze klinken misschien zelfverzekerd, maar ze kunnen je gemakkelijk de verkeerde kant op sturen.

Hieronder volgt een uiteenzetting van de specifieke gevaren die het document aan het licht bracht, met gebruikmaking van eenvoudige analogieën:

1. De "Baan-Bias" (Het Stereotiepe Filter)

De Stelling: Toen de auteurs de AI vroegen om banen voor nieuwkomers voor te stellen, veranderden de antwoorden op basis van het land van herkomst van de persoon.
De Analogie: Stel je een wervingsmanager voor die in het geheim gelooft dat mensen uit Land A alleen goed zijn in schoonmaken, terwijl mensen uit Land B natuurlijke leiders zijn.

• Wat er gebeurde: Toen de AI werd gevraagd om een nieuwkomer uit de Filipijnen of Afghanistan, stelde het laagbetaalde banen voor zoals "Administratief Medewerker". Toen het werd gevraagd om iemand uit het VK of Duitsland, stelde het hoogbetaalde banen voor zoals "Softwareontwikkelaar".
• Het Risico: De AI fungeert als een bevooroordeeld filter en stuurt mensen weg van carrières waarvoor ze eigenlijk gekwalificeerd zijn, puur vanwege hun geboorteplaats.

2. De "TaalKloof" (De Ongelijke Vertaler)

De Stelling: De AI werkt uitstekend in het Engels, maar worstelt of faalt volledig in veel andere talen.
De Analogie: Stel je een arts voor die perfect Engels spreekt maar slechts een paar woorden Frans of Spaans kent. Als je hen in je moedertaal iets vraagt over je gezondheid, knikken ze misschien en zeggen ze iets vaags, of erger, geven ze je verkeerd advies.

• Wat er gebeurde: Toen de auteurs in het Engels vroegen naar vaccinaties voor kinderen, gaf de AI een goed antwoord. Maar toen ze het vroegen in talen zoals Somalisch, Igbo of Tamil, gaf de AI geen enkel correcte informatie, soms zelfs over boeken of anticonceptie in plaats van vaccinaties.
• Het Risico: Nieuwkomers die minder gebruikelijke talen spreken, krijgen een "gebroken" versie van de dienst, wat kan leiden tot ernstige gezondheidsproblemen.

3. Het "Twee-Koppige Monster" (Engels versus Frans)

De Stelling: Zelfs in de twee officiële talen van Canada is de AI niet eerlijk.
De Analogie: Stel je een reisgids voor met een gedetailleerde, 10-staps kaart in het Engels, maar een vaag, 8-staps kaart in het Frans waarbij belangrijke afslagen ontbreken.

• Wat er gebeurde: Bij het vragen hoe je een bankrekening opent, was het Engelse antwoord een duidelijke lijst van 10 stappen. Het Franse antwoord was een lijst van 8 stappen die essentiële details miste. Bovendien liet de Engelse versie de gebruiker kiezen voor welke bank, terwijl de Franse versie er gewoon één voor hen koos zonder het te vragen.
• Het Risico: Franstalige nieuwkomers krijgen minder controle en minder informatie dan hun Engelstalige buren.

4. De "Hologram van Haat" (Stereotypen en Afbeeldingen)

De Stelling: De AI creëert nepbeelden en verhalen die schadelijke stereotypen over vluchtelingen en immigranten versterken.
De Analogie: Stel je een filmregisseur voor die vluchtelingen alleen cast als verdrietige, Midden-Oosterse gezinnen met hoofddoeken, en negeert dat vluchtelingen uit de hele wereld komen en eruitzien als iedereen anders.

• Wat er gebeurde: Toen werd gevraagd om een afbeelding te genereren van een "vluchtelingengezin", tekende de AI altijd een Midden-Oosterse moslimfamilie. Bij het vragen om een "immigrant" tekende het voornamelijk Zuid-Aziatische gezinnen. Het ging er ook van uit dat vaders hoogopgeleid waren en moeders minder hoogopgeleid.
• Het Risico: Dit creëert een valse realiteit in de hoofden van mensen, waardoor de samenleving denkt dat alle vluchtelingen er hetzelfde uitzien en zich hetzelfde gedragen, wat vooroordelen aanwakkert en de ware diversiteit van de gemeenschap negeert.

5. De "Zelfzekere Leugenaar" (Hallucinaties)

De Stelling: De AI verzonnen feiten die echt klinken maar volledig nep zijn.
De Analogie: Stel je een rondleidinggids voor die zelfverzekerd naar een gebouw wijst en zegt: "Dat is de beroemde bibliotheek", terwijl het eigenlijk een leeg terrein is. De gids klinkt zo zeker dat je ze gelooft.

• Wat er gebeurde: De AI verzon namen van scholen en gemeenschapscentra die niet bestaan. Het gaf verkeerde adressen voor echte klinieken. Het vertelde mensen dat een kliniek "zonder afspraak" was, terwijl dat niet zo was.
• Het Risico: Nieuwkomers, die de stad nog niet kennen, kunnen misschien naar een gebouw gaan dat niet bestaat, waardoor tijd en hoop verloren gaan.

6. De "Verouderde Almanak" (Desinformatie)

De Stelling: De AI weet niet wat er nu gebeurt.
De Analogie: Stel je voor dat je een bibliothecaris vraagt naar het weer van vandaag, maar ze lezen uit een boek dat drie jaar geleden is gedrukt. Ze geven je een "correct" antwoord voor het verleden, maar dat is nutteloos voor vandaag.

• Wat er gebeurde: Toen werd gevraagd naar het minimumloon in Ontario, gaf de AI cijfers uit 2021 of 2022, zelfs al was het huidige tarief veel hoger.
• Het Risico: Een nieuwkomer kan een baan accepteren voor minder geld dan de wet vereist, omdat de "robot" hen vertelde dat dat het correcte tarief was.

7. De "Wolf in Schapenkledij" (Kwaadaardig Gebruik)

De Stelling: Slechte actoren kunnen deze AI gebruiken om nieuwkomers te bedriegen.
De Analogie: Stel je een oplichter voor die een high-tech stemveranderer gebruikt om precies te klinken als een politieagent of een bankmanager om je geld te stelen.

• Wat er gebeurde: De auteurs toonden aan dat hoewel de AI enkele veiligheidsmaatregelen heeft, slimme oplichters het kunnen bedriegen om nepverhuuradvertenties te schrijven, nep-ID-afbeeldingen te maken, of scripts te schrijven voor telefoonoplichting die kwetsbare nieuwkomers targeten.
• Het Risico: Nieuwkomers, die al verward zijn over hoe het systeem werkt, zijn makkelijke doelen voor deze door AI gegenereerde oplichting.

De Oplossing: Ontsla de Robot Niet, Train Hem Beter

Het document zegt niet dat we AI moeten verbieden. In plaats daarvan zeggen ze dat we moeten stoppen met het "van de plank" gebruiken van deze robot voor deze specifieke baan.

• Pas de Tool Aan: We moeten een speciale AI bouwen die alleen is getraind op geverifieerde Canadese vestigingsdata, niet op het hele internet.
• Mens in de Lijn: Net zoals een piloot een copiloot nodig heeft, moet de AI een helper zijn voor de vestigingswerkers, geen vervanging. Een menselijk expert moet het werk van de AI controleren voordat het de nieuwkomer bereikt.
• Digitale Geletterdheid Leren: Nieuwkomers moeten worden geleerd dat de "magische robot" kan liegen, zodat ze belangrijke feiten weten te controleren.

Kortom: De huidige AI is als een goedwillende maar ongeschoolde stagiair die graag wil helpen, maar voortdurend feiten verzonnen en vooroordelen toont. Voor de veiligheid van nieuwkomers moeten we die stagiair vervangen door een gespecialiseerde, toezichthoudende en zorgvuldig getrainde assistent.