Social and Ethical Risks Posed by General-Purpose LLMs for Settling Newcomers in Canada

Imaginez le secteur de l'installation au Canada comme un immense et animé centre d'accueil pour les personnes arrivant de partout dans le monde. Sa mission est d'aider les nouveaux arrivants à trouver des logements, des emplois, des écoles et des médecins afin qu'ils puissent construire une nouvelle vie. Actuellement, ce centre est submergé. Il y a plus de personnes qui arrivent que jamais auparavant, et le personnel est étiré à sa limite.

Parce que le personnel est débordé, de nombreux nouveaux arrivants (et même les aidants) se tournent vers un « robot magique » dans leur poche : l'IA à usage général (comme le populaire ChatGPT). Ils lui demandent tout : « Où trouver un emploi ? » « Quels vaccins mon enfant a-t-il besoin ? » « Comment ouvrir un compte bancaire ? »

Ce document est une étiquette d'avertissement sur ce robot magique. Les auteurs affirment que, bien que ce robot soit intelligent, il n'a pas été conçu pour ce centre d'accueil spécifique. L'utiliser « tel quel », sans vérifier son travail, revient à demander des directions à un touriste brillant mais non formé dans une ville étrangère : il peut sembler confiant, mais il pourrait facilement vous envoyer par le mauvais chemin.

Voici une analyse des dangers spécifiques identifiés par le document, utilisant des analogies simples :

1. Le « Biais de l'emploi » (Le filtre des stéréotypes)

L'affirmation : Lorsque les auteurs ont demandé à l'IA de suggérer des emplois pour les nouveaux arrivants, les réponses variaient selon le pays d'origine de la personne.
L'analogie : Imaginez un responsable du recrutement qui croit secrètement que les gens du pays A ne sont bons que pour le ménage, tandis que les gens du pays B sont des leaders naturels.

• Ce qui s'est produit : Lorsqu'on a demandé à l'IA à propos d'un nouveau venu des Philippines ou d'Afghanistan, elle a suggéré des emplois faiblement rémunérés comme « Assistant administratif ». Lorsqu'on a demandé à propos de quelqu'un du Royaume-Uni ou de l'Allemagne, elle a suggéré des emplois bien rémunérés comme « Développeur de logiciels ».
• Le risque : L'IA agit comme un filtre biaisé, orientant les gens loin des carrières pour lesquelles ils sont réellement qualifiés, simplement en raison de leur lieu de naissance.

2. Le « Fossé linguistique » (Le traducteur inégal)

L'affirmation : L'IA fonctionne très bien en anglais mais peine ou échoue complètement dans de nombreuses autres langues.
L'analogie : Imaginez un médecin qui parle un anglais parfait mais ne connaît que quelques mots de français ou d'espagnol. Si vous lui posez des questions sur votre santé dans votre langue maternelle, il pourrait simplement hocher la tête et dire quelque chose de vague, ou pire, vous donner de mauvais conseils.

• Ce qui s'est produit : Lorsque les auteurs ont posé des questions sur les vaccins pour enfants en anglais, l'IA a fourni une bonne réponse. Mais lorsqu'ils ont posé des questions dans des langues comme le somali, l'igbo ou le tamoul, l'IA a fourni zéro information correcte, parlant parfois de livres ou de contraception au lieu de vaccins.
• Le risque : Les nouveaux arrivants parlant des langues moins courantes reçoivent une version « brisée » du service, ce qui pourrait entraîner de graves problèmes de santé.

3. Le « Monstre à deux têtes » (Anglais contre français)

L'affirmation : Même dans les deux langues officielles du Canada, l'IA n'est pas équitable.
L'analogie : Imaginez un guide qui contient une carte détaillée en 10 étapes en anglais, mais une carte vague en 8 étapes en français qui omet des virages importants.

• Ce qui s'est produit : En demandant comment ouvrir un compte bancaire, la réponse en anglais était une liste claire de 10 étapes. La réponse en français était une liste de 8 étapes qui omettait des détails clés. De plus, la version anglaise permettait à l'utilisateur de choisir sa propre banque, tandis que la version française en choisissait une pour eux sans demander.
• Le risque : Les nouveaux arrivants francophones ont moins de contrôle et moins d'informations que leurs voisins anglophones.

4. Le « Hologramme de la haine » (Stéréotypes et images)

L'affirmation : L'IA crée de fausses images et histoires qui renforcent des stéréotypes nuisibles sur les réfugiés et les immigrants.
L'analogie : Imaginez un réalisateur de cinéma qui ne cast que des réfugiés comme des familles tristes du Moyen-Orient portant des foulards, ignorant que les réfugiés viennent de partout dans le monde et ressemblent à tout le monde.

• Ce qui s'est produit : Lorsqu'on lui a demandé de générer une image d'une « famille de réfugiés », l'IA a toujours dessiné une famille musulmane du Moyen-Orient. Lorsqu'on lui a demandé à propos d'un « immigrant », elle a principalement dessiné des familles d'Asie du Sud. Elle a également supposé que les pères étaient très éduqués et que les mères l'étaient moins.
• Le risque : Cela crée une fausse réalité dans les esprits, faisant croire à la société que tous les réfugiés ont le même aspect et se comportent de la même manière, ce qui alimente les préjugés et ignore la véritable diversité de la communauté.

5. Le « menteur confiant » (Hallucinations)

L'affirmation : L'IA invente des faits qui semblent réels mais sont complètement faux.
L'analogie : Imaginez un guide touristique qui pointe confiant un bâtiment et dit : « C'est la célèbre bibliothèque », alors qu'il s'agit en réalité d'un terrain vague. Le guide semble si sûr de lui que vous le croyez.

• Ce qui s'est produit : L'IA a inventé des noms d'écoles et de centres communautaires qui n'existent pas. Elle a donné de mauvaises adresses pour de vraies cliniques. Elle a dit aux gens qu'une clinique était « sans rendez-vous » alors qu'elle ne l'était pas.
• Le risque : Les nouveaux arrivants, qui ne connaissent pas encore la ville, pourraient se rendre à un bâtiment qui n'existe pas, perdant du temps et de l'espoir.

6. L'« Almanach périmé » (Désinformation)

L'affirmation : L'IA ne sait pas ce qui se passe maintenant.
L'analogie : Imaginez demander à un bibliothécaire la météo d'aujourd'hui, mais qu'il lit dans un livre imprimé il y a trois ans. Il vous donnera une réponse « correcte » pour le passé, mais elle sera inutile pour aujourd'hui.

• Ce qui s'est produit : Lorsqu'on a demandé le salaire minimum en Ontario, l'IA a donné des chiffres de 2021 ou 2022, alors que le taux actuel était beaucoup plus élevé.
• Le risque : Un nouveau venu pourrait accepter un emploi pour moins d'argent que ce que la loi exige, parce que le « robot » lui a dit que c'était le taux correct.

7. Le « Loup déguisé en agneau » (Usage malveillant)

L'affirmation : De mauvais acteurs peuvent utiliser cette IA pour tromper les nouveaux arrivants.
L'analogie : Imaginez un escroc utilisant un changeur de voix haute technologie pour ressembler exactement à un agent de police ou à un directeur de banque afin de voler votre argent.

• Ce qui s'est produit : Les auteurs ont montré que bien que l'IA possède certains garde-fous, des escrocs astucieux peuvent la tromper pour écrire de fausses annonces de location, créer de fausses images d'identité ou rédiger des scénarios pour des arnaques téléphoniques visant des nouveaux arrivants vulnérables.
• Le risque : Les nouveaux arrivants, qui sont déjà confus quant au fonctionnement du système, sont des cibles faciles pour ces arnaques générées par l'IA.

La solution : Ne pas licencier le robot, mais mieux le former

Le document ne dit pas qu'il faut interdire l'IA. Il dit plutôt qu'il faut arrêter d'utiliser le robot « tel quel » pour ce travail spécifique.

• Personnaliser l'outil : Nous devons créer une IA spéciale entraînée uniquement sur des données vérifiées de l'installation au Canada, et non sur tout l'internet.
• Humain dans la boucle : Tout comme un pilote a besoin d'un copilote, l'IA devrait être une aide pour les travailleurs de l'installation, et non un remplacement. Un expert humain doit vérifier le travail de l'IA avant qu'il n'atteigne le nouveau venu.
• Enseigner la littératie numérique : Il faut apprendre aux nouveaux arrivants que le « robot magique » peut mentir, afin qu'ils sachent vérifier les faits importants.

En résumé : L'IA actuelle est comme un stagiaire bien intentionné mais non formé, enthousiaste à l'idée d'aider mais qui continue d'inventer des faits et de montrer des biais. Pour la sécurité des nouveaux arrivants, nous devons remplacer ce stagiaire par un assistant spécialisé, supervisé et soigneusement formé.