The urban right to AI: Pluralistic co-design and governance of public space
Cette thèse plaide pour un « droit à l'IA » civique et un cadre de gouvernance pluraliste pour les espaces publics urbains, démontré par une recherche participative à Montréal qui utilise la vision par ordinateur et l'IA générative pour cartographier et préserver les valeurs communautaires contestées plutôt que de les moyenner en un objectif unique.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Les villes ont toujours été construites à partir de deux éléments : le monde physique des rues, des trottoirs et des bâtiments, et le monde invisible des règles, des cartes et des décisions qui dictent aux responsables comment les gérer. Pendant longtemps, ce monde invisible était fait de plans papier et de jugement humain. Aujourd'hui, cette couche invisible est de plus en plus composée de systèmes informatiques. Ces systèmes analysent des photos de rues, les évaluent selon leur aspect sécuritaire ou accueillant, et génèrent même de nouvelles images de ce à quoi une rue pourrait ressembler si elle était réaménagée. Lorsque ces systèmes sont traités comme de simples outils neutres, les choix qu'ils font concernant ce qu'il faut mesurer et la manière de pondérer les différents besoins restent cachés. Ils pourraient privilégier ce qui semble esthétique pour une caméra standard tout en ignorant ce qui semble sûr pour une personne en situation de handicap ou un parent avec une poussette. Le résultat est une ville où la version « bonne » de l'ordinateur devient la seule version qui importe, effaçant potentiellement les manières complexes et conflictuelles dont différentes personnes vivent réellement leurs quartiers.
C'est le problème qu'une nouvelle thèse doctorale de l'Université de Montréal cherche à résoudre. Le chercheur, Rashid Ahmad Mushkani, soutient que nous devons cesser de traiter ces systèmes informatiques comme de simples outils et commencer à les traiter comme une forme d'infrastructure civique, au même titre que les canalisations d'eau ou les réseaux électriques qui passent sous nos rues. Si une conduite d'eau casse, la ville dispose d'un processus pour la réparer. Si un système informatique prend une mauvaise décision sur la rue à réparer, la ville a besoin d'un processus similaire pour questionner, corriger et mettre à jour ce système. La thèse propose un « Droit à l'IA » pour les espaces publics, un ensemble de règles garantissant que les gens aient un mot à dire sur la façon dont ces systèmes sont construits, que les systèmes puissent être contestés lorsqu'ils se trompent, et que les désaccords complexes entre différents groupes de personnes ne soient pas lissés par un score informatique unique.
Pour tester cette idée, le chercheur s'est rendu dans les quartiers de Montréal et a demandé à un groupe diversifié de résidents de regarder des photos de rues locales. Au lieu de leur demander simplement de noter une rue comme « bonne » ou « mauvaise », le chercheur leur a demandé d'expliquer ce qui rendait une rue inclusive, sûre ou accessible. Les participants comprenaient des résidents de longue date, des nouveaux arrivants, des personnes en situation de handicap et des membres de diverses communautés culturelles. L'objectif était de voir si tout le monde était d'accord sur ce qu'une « bonne » rue représentait. Les conclusions étaient claires : les gens n'étaient pas d'accord. Une rue que l'un percevait comme vibrante et animée, un autre pouvait la percevoir comme chaotique et dangereuse. Une rue qui semblait accueillante pour un jeune adulte pouvait paraître isolante pour une personne âgée. L'étude a révélé que, bien que les gens puissent souvent s'accorder sur des choses simples et visibles comme un trottoir brisé, ils peinaient à s'accorder sur des sentiments sociaux complexes comme l'« inclusivité ». Lorsque le chercheur a réuni les participants pour discuter de ces différences, ils ont pu trouver certains points communs, mais des désaccords importants subsistaient. Ces désaccords n'étaient pas des erreurs à corriger ; ils étaient des signaux réels indiquant que différentes personnes ont des besoins et des valeurs différentes.
La recherche a ensuite utilisé ces intuitions humaines pour entraîner des modèles informatiques. Dans une partie de l'étude, le chercheur a construit un système appelé « Street Review » qui a appris à prédire comment différents groupes de personnes évalueraient une rue à partir de ses photos. Le système pouvait générer une carte de la ville montrant où différents groupes pourraient se sentir en sécurité ou exclus. Dans une autre partie, le chercheur a travaillé avec des organisations communautaires pour créer une vaste collection d'images et de préférences, appelée LIVS, afin d'apprendre à un ordinateur à générer de nouvelles images d'espaces publics respectant ces valeurs diverses. L'ordinateur devait choisir entre différentes options de conception, et les résultats ont montré quelque chose de surprenant : même après avoir été entraîné sur des milliers de préférences humaines, l'ordinateur ne pouvait souvent pas décider quelle option était la meilleure. Il restait « neutre », incapable de désigner un vainqueur.
Cette neutralité s'est avérée être une découverte cruciale. Le chercheur soutient que lorsqu'un ordinateur ne peut pas décider entre deux options, ce n'est pas un échec de la technologie. C'est le signe que les valeurs en jeu sont véritablement en conflit et ne peuvent être résolues par un simple calcul. Au lieu de forcer l'ordinateur à choisir un vainqueur, le système devrait signaler cette incertitude et renvoyer la décision aux humains. La thèse propose une nouvelle façon de faire fonctionner les villes : un cycle où les ordinateurs aident à visualiser les options, mais où les humains, organisés en petits groupes récurrents, prennent les décisions finales. Ces groupes examineraient les suggestions de l'ordinateur, discuteraient des désaccords et décideraient quelles rues réparer et comment. Ils auraient également le pouvoir de suspendre ou d'arrêter un système s'il commence à prendre des décisions préjudiciables.
Ce travail ne prétend pas avoir résolu le problème de la construction de villes parfaites. Il ne dit pas que les ordinateurs peuvent remplacer le jugement humain ni que nous pouvons trouver une définition unique d'une rue « parfaite » qui satisfasse tout le monde. Au contraire, il offre un cadre pratique pour gérer la tension entre la technologie et la diversité humaine. Il suggère que la meilleure façon d'utiliser l'IA dans nos villes n'est pas de la laisser prendre les décisions finales, mais de l'utiliser pour rendre nos désaccords visibles et gérables. En traitant la logique de l'ordinateur comme quelque chose qui doit être constamment vérifié, mis à jour et contesté, les villes peuvent s'assurer que leurs outils numériques servent tout le monde, plutôt que seulement la majorité ou les groupes les plus visibles. La recherche conclut qu'une ville qui veut être véritablement inclusive doit construire un système où le droit de questionner l'ordinateur est aussi important que le droit de marcher sur le trottoir.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.