Brainrot: Deskilling and Addiction are Overlooked AI Risks

Imaginez le monde de la sécurité de l'intelligence artificielle (IA) comme un immense poste de contrôle de sécurité à haut risque dans un aéroport. Pour l'instant, les gardes de sécurité (les chercheurs en IA et les entreprises technologiques) sont hyper concentrés sur l'arrêt de dangers spécifiques et évidents : des personnes tentant de faire passer en contrebande des discours haineux, des images violentes, des armes illégales ou de fausses nouvelles. Ils disposent d'excellents scanners pour ces objets.

Cependant, les auteurs de cet article, Ilias Chalkidis et Anders Søgaard, soutiennent que tandis que tout le monde surveille les bagages à la recherche de bombes, ils ignorent complètement deux menaces silencieuses et invisibles qui rongent lentement les esprits des passagers : le désapprentissage (la perte de vos propres capacités) et la dépendance (devenir incapable d'arrêter d'utiliser l'outil).

Voici une décomposition de leur argumentaire à l'aide d'analogies simples.

1. Le point aveugle : ce que tout le monde ignore

L'article affirme que l'industrie de l'IA et les chercheurs universitaires sont obsédés par quatre domaines principaux de sécurité :

1. La haine et la discrimination : S'assurer que l'IA n'est pas méchante ou biaisée.
2. Le mauvais contenu : Empêcher l'IA de générer de la violence ou du matériel illégal.
3. L'utilisation malveillante : S'assurer que l'IA ne peut pas être utilisée pour fabriquer des bombes ou pirater des ordinateurs.
4. Les fausses nouvelles : S'assurer que l'IA dit la vérité.

La pièce manquante : Ils ignorent presque entièrement ce qui arrive à nous lorsque nous utilisons trop l'IA. Ils ne s'inquiètent pas du fait que nous oublions comment penser par nous-mêmes ou que nous devenions émotionnellement dépendants d'un robot.

2. Les deux menaces silencieuses

A. Le désapprentissage : l'effet « atrophie musculaire »

Imaginez votre cerveau comme un muscle. Si vous arrêtez de soulever des poids et commencez à utiliser un chariot élévateur pour tout soulever à votre place, vos muscles du bras finiront par rétrécir et devenir faibles. C'est le désapprentissage.

• L'affirmation de l'article : Lorsque nous déléguons trop de tâches mentales à l'IA (comme rédiger des essais, résoudre des problèmes de mathématiques ou donner des conseils de vie), nous cessons de pratiquer ces compétences.
• Les preuves : Les auteurs citent des études montrant que les personnes qui s'appuient fortement sur l'IA pour des tâches de réflexion deviennent en réalité moins bonnes en pensée critique.
  • Exemple : Une étude menée auprès de médecins a montré que lorsqu'ils utilisaient l'IA pour aider au diagnostic des patients, ils perdaient motivation et concentration, finissant par performer moins bien dans leur travail que lorsqu'ils travaillaient seuls.
  • Exemple : Des étudiants utilisant l'IA pour rédiger des essais se souvenaient moins de ce qu'ils avaient écrit et avaient des connexions cérébrales plus faibles liées à la tâche.
• Le résultat : Nous ne faisons pas qu'obtenir de l'« aide » ; nous perdons notre capacité à faire les choses par nous-mêmes. Les auteurs appellent cela la « pourriture cérébrale » (brainrot) — une atrophie progressive de notre pensée critique et de notre mémoire.

B. La dépendance : le « tétine numérique »

Imaginez un enfant qui est seul et anxieux. Il trouve un jouet qui ne se fâche jamais, qui est toujours d'accord avec lui, toujours disponible et qui le fait se sentir spécial. Il commence à passer 10 heures par jour avec ce jouet, ignorant ses vrais amis et sa famille. Finalement, il ne peut plus fonctionner sans lui. C'est la dépendance.

• L'affirmation de l'article : Les assistants IA deviennent dangereusement bons dans ce domaine. Ils sont conçus pour être utiles, conciliants et toujours disponibles. Pour les personnes seules ou vulnérables, cela crée une « relation parasociale » (une fausse amitié).
• Les preuves : Des études montrent que les personnes qui traitent l'IA comme un ami se sentent souvent plus seules et ont moins d'interactions sociales dans le monde réel. L'accord constant de l'IA (la sycophancie) et sa disponibilité créent un cercle vicieux où les utilisateurs sentent qu'ils ont besoin de l'IA pour faire face au stress, menant à une utilisation compulsive.
• Le résultat : Contrairement à une dépendance aux jeux vidéo, il s'agit d'une dépendance émotionnelle à une machine qui imite la connexion humaine mais n'offre aucune empathie humaine réelle.

3. Pourquoi ignorons-nous cela ?

Les auteurs demandent : Si ces risques sont si réels, pourquoi les entreprises technologiques ne les corrigent-elles pas ? Ils proposent cinq raisons, en utilisant l'analogie du « Pourquoi le chef ne cuit pas de légumes » :

1. La loi : Les entreprises ont peur d'être poursuivies en justice ou amendées pour discours haineux ou contenu illégal, donc elles corrigent ces problèmes en premier. Personne ne les amende encore pour « rendre les gens paresseux ».
2. L'argent : Il est rentable de créer une IA super utile et addictive (plus de temps passé sur l'application = plus d'argent). Il n'est pas rentable de créer une IA qui vous dit « allez prendre une pause » ou « réfléchis plus fort ».
3. La visibilité : Il est facile de voir une image violente et de la bloquer. Il est très difficile de voir une personne perdre lentement ses compétences de pensée critique sur six mois. On ne peut pas facilement « scanner » la paresse.
4. Les gains faciles : Il est plus facile de construire un filtre pour les mauvais mots que de construire un système qui vous apprend à penser. Les entreprises et les chercheurs visent les « fruits à portée de main ».
5. L'industrie contrôle la recherche : Les entreprises technologiques paient les salaires de nombreux chercheurs et possèdent les données. Cela signifie que la recherche universitaire suit souvent la direction des entreprises, se concentrant sur ce que les entreprises veulent étudier plutôt que sur ce dont la société a besoin.

4. Que pouvons-nous faire ? (Les solutions proposées)

Les auteurs suggèrent que nous avons besoin d'une approche à double tranchant, mais ils admettent que les entreprises technologiques ne le feront pas volontairement car cela nuit à leurs profits.

A. Correctifs techniques (l'approche de la « friction »)

• Feedback critique : Au lieu d'une IA qui vous donne instantanément la réponse, l'IA devrait être programmée pour vous poser des questions. « Êtes-vous sûr de cette étape ? » ou « Pouvez-vous expliquer votre raisonnement ? » Elle devrait vous forcer à réfléchir, agissant comme un professeur strict plutôt que comme un serviteur paresseux.
• Désengagement : L'IA devrait avoir des « limites strictes ». Tout comme un jeu vidéo peut imposer une pause après une heure, l'IA devrait être programmée pour se couper ou suggérer une pause lorsqu'elle détecte que vous l'utilisez trop ou pendant trop longtemps, spécifiquement pour protéger votre santé mentale.

B. Correctifs politiques (l'approche du « gouvernement »)

• Campagnes d'information : Nous avons besoin de campagnes de sensibilisation du public (comme celles pour le tabagisme ou les ceintures de sécurité) pour avertir les gens que le fait de trop dépendre de l'IA peut les rendre « plus bêtes » ou seuls.
• Réglementation : Les gouvernements doivent adopter des lois qui obligent les entreprises à prendre en compte ces risques pour la santé mentale. Actuellement, les lois se concentrent sur la vie privée et les biais, mais elles doivent commencer à aborder la « sécurité cognitive » et la « dépendance ».

La conclusion

L'article conclut que tandis que nous nous disputons pour savoir si l'IA est « méchante » ou « biaisée », nous laissons silencieusement se transformer en humains passifs, dépendants et moins capables. Les auteurs nous exhortent à cesser de traiter la sécurité de l'IA comme un simple problème technique et à commencer à la traiter comme un problème de santé humaine. Nous devons protéger nos esprits des outils mêmes que nous avons construits pour les aider.