Imaginez le travail intérieur et silencieux consistant à rêver d'un avenir pour soi-même. Il ne s'agit pas simplement d'une rêverie ; c'est le processus mental de collecte des outils, des récits et des images dont nous avons besoin pour imaginer qui nous pourrions devenir. Nous n'inventons pas ces possibilités dans le vide. Au contraire, nous les empruntons au monde qui nous entoure : aux livres que nous lisons, aux films que nous regardons, aux publicités que nous voyons et aux conversations que nous avons. Ces matériaux culturels partagés agissent comme un genre d'échafaudage mental, nous aidant à construire des idées sur ce qui est possible, ce qui est désirable et ce qui vaut même la peine d'être poursuivi. Lorsque ces matériaux sont riches et variés, notre imagination a de la place pour croître. Lorsqu'ils sont étroits ou déformés, notre vision du futur rétrécit. C'est le domaine de ce que les chercheurs appellent les « affordances aspirationnelles » — un terme qui décrit simplement comment les ressources disponibles pour nous façonnent notre capacité à viser de nouveaux objectifs.

Considérez maintenant comment l'intelligence artificielle change rapidement la manière dont ces ressources sont créées et partagées. Les systèmes d'IA ne sont plus seulement des outils de tri de données ; ils deviennent les auteurs de nos histoires, les curateurs de nos images et les guides de notre croissance personnelle. Ils rédigent des conseils de carrière, génèrent des images du futur et offrent de la compagnie. À mesure que ces systèmes imprègnent nos vies, une question critique se pose : qu'advient-il de notre capacité à imaginer un avenir différent lorsque les outils mêmes que nous utilisons pour rêver sont contrôlés par quelques algorithmes puissants ? C'est la préoccupation centrale d'un nouvel article de Sina Fazelpour et Meica Magnani de l'Université Northeastern. Elles soutiennent que nous devons regarder au-delà des inquiétudes habituelles concernant l'IA, telles que la question de savoir si elle traite les gens équitablement ou distribue les ressources correctement, et examiner plutôt comment elle pourrait silencieusement limiter ce que nous croyons possible pour nous-mêmes et pour nos sociétés.

Les auteures introduisent un concept spécifique pour expliquer ce phénomène : les affordances aspirationnelles. Voyez cela comme les « poignées » mentales ou les « points d'appui » que la culture fournit, nous permettant de saisir une nouvelle idée de ce que nous pourrions être. Tout comme un escalier physique offre la possibilité de grimper à quelqu'un capable de grimper, un récit ou une image culturelle offre un certain type d'aspiration à quelqu'un capable de le comprendre. Ces affordances ne sont pas déterministes ; elles ne nous forcent pas à agir d'une manière spécifique. Cependant, elles font en sorte que certains chemins semblent évidents et accessibles, tout en rendant d'autres invisibles ou impossibles. Les chercheuses suggèrent que lorsque les systèmes d'IA génèrent ces récits et ces images, ils ne font pas que ajouter plus de contenu au mélange ; ils modifient fondamentalement le paysage de ce que nous pouvons imaginer.

L'article expose trois raisons distinctes pour lesquelles l'influence de l'IA sur nos aspirations est différente de, et plus dangereuse que, celle des médias traditionnels. Premièrement, les interactions avec l'IA sont souvent privées, personnalisées et conversationnelles. Contrairement à un film ou un livre qui est partagé publiquement, un chatbot d'IA peut agir comme un coach de vie ou un thérapeute, offrant des conseils sur mesure dans un cadre individuel. Cette intimité peut donner l'impression que les suggestions sont objectives et plus difficiles à remettre en question. Deuxièmement, l'influence est écologique, ce qui signifie qu'elle change l'environnement entier dans lequel les idées sont créées. L'IA est désormais utilisée pour écrire des scénarios, concevoir des publicités et planifier des villes. Cela signifie que le réservoir d'idées dont les humains puisent est désormais filtré et remodelé par des algorithmes avant même de nous parvenir. Troisièmement, ce pouvoir est hautement concentré. Un petit nombre de corporations contrôlent les principaux systèmes d'IA qui génèrent ces ressources culturelles. Lorsque seules quelques voix dictent les récits du futur, l'éventail des possibilités se rétrécit, et les visions alternatives risquent d'être effacées.

Pour donner du sens à ces risques, les auteures proposent une nouvelle catégorie de préjudice appelée « préjudice aspirationnel ». Cela se distingue des préjudices plus familiers de l'IA, tels que le préjudice de représentation (où un groupe est dépeint de manière stéréotypée ou insultante) ou le préjudice d'allocation (où les ressources sont distribuées injustement). Le préjudice aspirationnel survient lorsque les systèmes d'IA déforment ou diminuent les ressources interprétatives disponibles d'une manière qui mine la capacité d'une personne à imaginer des possibilités concrètes pour sa vie. Il ne s'agit pas nécessairement d'être insulté ou d'être privé d'un emploi ; il s'agit d'être incapable de voir un chemin à suivre. Même si un système d'IA dépeint un groupe avec respect, il peut tout de même causer un préjudice aspirationnel s'il ne montre que l'eux dans un ensemble étroit de rôles, fermant ainsi la porte à d'autres manières d'être.

Les chercheuses illustrent cela avec trois exemples concrets. Dans le premier, elles examinent l'orientation de carrière. Un système d'IA pourrait tenter d'aider les femmes à entrer dans les domaines des sciences et de la technologie en leur montrant des images de femmes scientifiques ayant réussi. Cependant, si le système ne présente qu'un archétype de réussite unique et rigide — par exemple, un modèle qui exige une résilience extrême dans des environnements hostiles — il pourrait par inadvertance effacer d'autres manières valides d'être scientifique. Il remplace une gamme diversifiée de possibilités par un script unique et étroit, limitant l'imagination de jeunes femmes qui auraient pu vouloir poursuivre un autre type de parcours de carrière.

Dans le deuxième exemple, les auteures examinent comment l'IA visualise le futur. Elles ont testé cela en demandant à une IA génératrice d'images de créer une image de jeunes filles iraniennes en l'an 2040. Le contexte réel impliquait un mouvement pour la liberté politique et la suppression du port obligatoire du voile. L'IA, cependant, a généré des images qui se concentraient entièrement sur les avancées technologiques, telles que des tablettes holographiques et une architecture écoresponsable, tout en maintenant le statu quo social et politique intact. Les filles portaient toujours le hijab, et les restrictions politiques demeuraient. L'IA avait le pouvoir d'imaginer un futur, mais elle est revenue par défaut à une version où la technologie changeait mais pas les droits humains. Cela a effectivement effacé les aspirations des manifestantes, rendant leur vision d'un futur libre invisible et, par extension, moins plausible pour ceux qui voient ces images.

Le troisième exemple concerne la façon dont l'IA façonne notre compréhension de ce qui est socialement possible. Lorsque les systèmes d'IA sont utilisés pour résumer des informations ou répondre à des questions, ils peuvent subtilement orienter les utilisateurs vers les points de vue dominants tout en supprimant les récits alternatifs. Si une IA présente systématiquement l'ordre social actuel comme la seule issue logique ou inévitable, elle peut décourager les gens d'imaginer que les choses pourraient être différentes. Il ne s'agit pas seulement d'une question de biais ; il s'agit d'une question de rétrécissement de l'espace mental disponible pour le changement social. En faisant en sorte que le statu quo semble être la seule réalité, ces systèmes peuvent éroder l'espoir nécessaire à la transformation.

L'article conclut que ces préjudices sont réels et nécessitent une attention urgente. Les auteures ne suggèrent pas que l'IA est un monstre qui volera nos rêves, ni qu'elles prétendent que les dommages sont inévitables. Au contraire, elles soutiennent que nous devons reconnaître le pouvoir unique de ces systèmes à façonner les ressources mêmes que nous utilisons pour penser à nos futurs. Le danger réside dans l'effet cumulatif et silencieux de millions d'interactions personnalisées et de choix algorithmiques qui rétrécissent lentement l'horizon de ce que nous croyons possible. En identifiant le « préjudice aspirationnel » comme une catégorie distincte, les chercheuses espèrent ouvrir une nouvelle conversation sur la manière de concevoir des systèmes d'IA qui élargissent notre imagination plutôt que de la confiner. L'objectif est de garantir que, à mesure que ces technologies s'intègrent dans nos vies, elles continuent de servir d'outils de résistance et de transformation, nous aidant à envisager et à construire un avenir qui soit véritablement ouvert à tous.