AI Literacy: An Exercise in Power-Knowledge

La Bibliothèque Invisible et le Pouvoir de demander « Pourquoi ? »

Imaginez que vous entrez dans une immense bibliothèque magique. Autrefois, si vous vouliez apprendre quelque chose, vous deviez fouiller dans des étagères poussiéreuses, lire de nombreux livres et reconstituer l'histoire par vous-même. Aujourd'hui, nous avons un nouveau type de bibliothécaire : l'Intelligence Artificielle (IA). Ce n'est pas seulement un bibliothécaire qui trouve des livres ; c'est un bibliothécaire capable d'écrire instantanément une toute nouvelle histoire pour vous, en se basant sur tout ce qu'il a déjà lu. Mais attention : ce bibliothécaire ne se contente pas de vous donner des faits ; il décide quels faits vous raconter, comment les raconter et ce qu'il laisse de côté.

Pour comprendre pourquoi cela importe, nous devons examiner deux grandes idées qui nous aident à voir ce qui se passe réellement. Premièrement, il y a l'idée que « la connaissance est un pouvoir ». Cela signifie que celui qui décide de ce qui est vrai ou important détient un grand contrôle sur la façon dont nous perceons le monde. Deuxièmement, il y a l'idée de « conscience critique ». C'est la capacité de s'éveiller et de réaliser que les histoires que l'on nous raconte ne sont pas de simples faits neutres ; elles sont façonnées par les personnes et les systèmes qui les racontent. Si nous apprenons seulement à utiliser le bibliothécaire IA pour faire nos devoirs rapidement, nous risquons de manquer le fait que le bibliothécaire façonne discrètement nos pensées. Ce document pose une question fondamentale : formons-nous les gens à être de simples clients intelligents qui achètent ce que l'IA vend, ou les formons-nous à être les patrons qui comprennent comment le magasin est construit ?

Le Client contre l'Architecte

Cet article soutient que la manière dont nous enseignons actuellement l'IA oublie une pièce cruciale du puzzle. Actuellement, la plupart des écoles et des organisations traitent la « littératie en IA » comme un cours de code de la route. On vous apprend à diriger la voiture, à vérifier les rétroviseurs et à suivre les règles de la route pour ne pas avoir d'accident. Ils appellent cela la « compétence ». Il s'agit d'utiliser l'outil de manière sûre et efficace.

Les auteurs de cet article affirment que cela ne suffit pas. Ils soutiennent que traiter l'IA comme un simple outil revient à apprendre à quelqu'un à conduire une voiture sans jamais lui expliquer qui a construit les routes, pourquoi les routes passent par là où elles passent, ou qui décide de construire la prochaine route. Si vous savez seulement conduire, vous n'êtes qu'un consommateur du système. Vous arrivez là où vous devez aller, mais vous n'avez aucun mot à dire sur la destination.

L'article suggère que nous devons passer de l'enseignement de la « compétence » à l'enseignement de l'autonomisation (empowerment). Au lieu d'être simplement un bon conducteur, nous devons devenir des agents épistémiques. C'est une façon sophistiquée de dire des « agents de la connaissance » ou des « patrons de la connaissance ». Un agent ne se contente pas d'utiliser l'IA ; il comprend que l'IA est une machine construite par des humains avec des biais, des priorités et des angles morts spécifiques. Il sait que l'IA n'est pas une boule de cristal montrant la vérité absolue ; c'est un miroir reflétant le monde tel qu'il a été écrit par le passé, avec toutes les erreurs et les inégalités de ce passé incluses.

Les Trois Clés pour Déverrouiller l'IA

Pour transformer les utilisateurs de consommateurs passifs en agents actifs, les auteurs proposent un nouveau cadre en trois parties. Voyez cela comme un système de trois clés pour déverrouiller le plein potentiel de la littératie en IA.

1. L'Usage Contextuel : Le Carnet du Détective
La première clé concerne la façon dont nous utilisons l'outil. L'enseignement actuel dit : « Utilisez l'IA pour écrire votre essai ». La nouvelle approche dit : « Utilisez l'IA, mais sachez pourquoi vous l'utilisez et comment elle façonne votre réponse ».
Imaginez que vous êtes un détective. Si vous demandez à l'IA : « Qui est le meilleur détective ? », elle pourrait vous donner une liste de personnages de fiction célèbres issus de romans anglais. Un utilisateur « compétent » accepte cette liste. Un utilisateur « autonome » (utilisant l'usage contextuel) demande : « Attendez, pourquoi a-t-elle seulement choisi des personnages anglais ? Qu'en est-il des détectives d'autres cultures ou des enquêteurs de la vie réelle qui ne sont pas célèbres ? ». Ils comprennent que la réponse de l'IA dépend de ce qui lui a été injecté. Ils utilisent l'IA comme un partenaire de réflexion pour explorer leurs propres questions, et non comme une machine qui recrache des réponses. Ils savent que l'outil a des limites et que la « réponse » n'est qu'une version possible de l'histoire.

2. L'Interrogation Critique : La Vision à Rayons X
La deuxième clé concerne l'examen de l'intérieur de la machine. C'est ici que nous cessons de croire aveuglément l'IA pour commencer à demander : « Comment es-tu arrivée à cette conclusion ? ».
Les auteurs suggèrent que nous avons besoin d'une « vision à rayons X » pour voir les rouages invisibles qui tournent à l'intérieur de l'IA. Cela implique trois pratiques principales :

• L'Analyse Généalogique : Retracer l'arbre généalogique d'une réponse. Si l'IA affirme que quelque chose est vrai, nous demandons : « Quels livres ou sites web as-tu lus pour apprendre cela ? Qui les a écrits ? ».
• La Reconnaissance des Biais : Repérer les schémas. Si l'IA décrit toujours les médecins comme des hommes et les infirmières comme des femmes, ou si elle ne connaît l'histoire que d'un seul pays, nous devons reconnaître cela comme une faille dans son entraînement, et non comme un fait du monde.
• Le Contre-Prompting (Contre-incitation) : C'est comme jouer l'avocat du diable avec la machine. Vous demandez à l'IA d'expliquer un point de vue, puis vous lui demandez d'expliquer le point de vue opposé, puis vous demandez : « Quels points de vue manquent totalement à votre analyse ? ». Cela transforme l'utilisateur de récepteur d'information en analyste de la pensée de la machine.

3. La Gouvernance Participative : La Mairie
La troisième clé, et la plus ambitieuse, concerne le droit de participer aux règles. Actuellement, la plupart des gens se contentent d'utiliser l'IA ; ils n'ont pas leur mot à dire sur la façon dont elle est construite.
Les auteurs soutiennent que la littératie en IA doit inclure une « littératie civique ». Cela signifie comprendre que l'IA est un système public, comme un parc ou une route, et que nous devrions avoir une voix dans sa gestion. Il s'agit de savoir qui possède l'IA (généralement de grandes entreprises), comment le gouvernement la réglemente et comment les citoyens ordinaires peuvent s'exprimer.
L'article souligne que, bien que ce soit difficile, les gens commencent à le faire. Par exemple, dans l'Union européenne, les citoyens et les groupes de pression ont pu donner leur avis sur de nouvelles lois concernant l'IA. Les auteurs suggèrent que la littératie en IA devrait apprendre aux gens comment participer à ces conversations, comment exiger que les systèmes d'IA respectent leurs cultures et langues locales, et comment lutter pour un système qui fonctionne pour tout le monde, et pas seulement pour les riches ou les plus éduqués.

Le Fossé entre les Possédants et les Non-Possédants

L'article met également en lumière une réalité effrayante : l'écart entre ceux qui comprennent l'IA et ceux qui ne la comprennent pas s'élargit.
Actuellement, les personnes riches et celles ayant un haut niveau d'éducation ont accès aux meilleurs outils d'IA. Elles peuvent s'offrir les versions « premium » qui sont plus intelligentes et plus à jour. Plus important encore, elles ont l'éducation nécessaire pour savoir poser les bonnes questions et repérer les biais. Elles utilisent l'IA pour devenir encore plus intelligentes et puissantes.
D'un autre côté, les personnes ayant moins de moyens ou d'éducation n'obtiennent souvent que les versions gratuites et limitées. Elles utilisent l'IA pour obtenir des réponses simples, mais elles n'ont pas les compétences pour questionner les réponses ou changer le système. L'article suggère qu'au lieu de combler l'écart, l'IA pourrait en réalité l'accentuer. C'est comme donner un vélo super rapide à quelqu'un qui sait déjà en faire, tout en donnant un tricycle cassé à quelqu'un qui ne sait pas. Le premier personne file à toute allure ; le second tourne en rond.

L'Essentiel

Les auteurs concluent que nous ne pouvons pas nous contenter d'apprendre aux gens à être de « bons utilisateurs » de l'IA. Si nous faisons cela, nous les formons simplement à être de meilleurs consommateurs dans un système qu'ils ne contrôlent pas. Nous devons leur apprendre à être des agents — des personnes qui comprennent que l'IA est une force puissante qui façonne ce que nous savons, et qui possèdent les compétences pour la questionner, la contester et aider à la construire.

Il ne s'agit pas seulement d'apprendre une nouvelle compétence informatique. C'est une question politique : qui décide de ce qui est vrai dans notre monde ? L'article suggère que si nous ne corrigeons pas la façon dont nous enseignons la littératie en IA, nous risquons de créer un monde où quelques systèmes puissants décident de tout pour tout le monde. Mais si nous apprenons aux gens à être critiques, curieux et des participants actifs, nous pouvons transformer l'IA en un outil qui aide chacun à mieux comprendre le monde, plutôt qu'en un outil qui les contrôle. L'objectif est de passer du simple fait de conduire la voiture à celui d'aider à concevoir la route.