To Build or Not to Build? Factors that Lead to Non-Development or Abandonment of AI Systems
Cet article examine les facteurs sous-étudiés conduisant au non-développement ou à l'abandon des systèmes d'IA en synthétisant une revue de portée et des données empiriques de cas pour révéler que, au-delà des préoccupations éthiques, divers leviers pratiques tels que les contraintes de ressources, les problèmes juridiques et les dynamiques organisationnelles influencent de manière significative ces décisions critiques préalables au déploiement.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez le monde de l'Intelligence Artificielle (IA) comme un immense chantier en plein essor. Habituellement, lorsque nous entendons parler de l'IA, les actualités se concentrent sur les bâtiments achevés, les gratte-ciel qui s'élèvent et la façon dont les gens y vivent. Nous parlons de l'« utilisation » et de l'« impact » de ces structures terminées.
Mais cet article pose une question différente : Que deviennent tous les chantiers abandonnés ? Que deviennent les maisons à moitié construites, les plans froissés et les grues éteintes avant même que la première brique ne soit posée ?
Les auteurs, Shreya Chappidi et Jatinder Singh, soutiennent que nous ignorons une grande partie de l'histoire. Ils souhaitent comprendre pourquoi les organisations décident de ne pas construire un système d'IA, ou pourquoi elles arrêtent la construction d'un système en cours de route.
Voici une explication simple de leurs résultats, utilisant quelques analogies du quotidien.
Le Grand Malentendu
La plupart des gens pensent que les entreprises arrêtent de construire des systèmes d'IA parce qu'elles réalisent : « Oh non, c'est contraire à l'éthique ! » ou « C'est dangereux ! »
L'article affirme : Ce n'est qu'une partie de l'histoire.
Bien que les préoccupations éthiques (comme les biais ou la vie privée) soient importantes, elles ne sont souvent que la partie émergée de l'iceberg. Dans le monde réel, les entreprises abandonnent souvent des projets d'IA pour des raisons beaucoup plus banales et pratiques : manque d'argent, manque de temps, ou prise de conscience que les mathématiques ne fonctionnent tout simplement pas.
Les Six Raisons pour lesquelles la Construction S'Arrête (La Taxonomie)
Les chercheurs ont examiné des centaines de rapports et interrogé des ingénieurs pour créer un « menu » de raisons expliquant l'annulation des projets d'IA. Ils ont identifié six catégories principales :
Préoccupations Éthiques (Le Contrôle de la « Conscience ») :
- L'Analogie : L'architecte réalise que la maison est construite sur un cimetière ou qu'elle bloquera la lumière du soleil d'un voisin.
- La Réalité : L'équipe s'inquiète que l'IA puisse discriminer des personnes, porter atteinte à la vie privée ou être utilisée à de mauvaises fins (comme des armes).
Retours des Parties Prenantes (La Réunion de la « Place Publique ») :
- L'Analogie : Les voisins, les travailleurs ou les futurs résidents se réunissent pour dire : « Nous ne voulons pas de ce bâtiment ici », ou « Nous ferons grève si vous le construisez ».
- La Réalité : Les employés, les clients ou les militants font pression. Ils peuvent protester, refuser d'utiliser l'outil ou menacer de démissionner, contraignant l'entreprise à arrêter.
Défis du Cycle de Développement (Les Problèmes de « Plans ») :
- L'Analogie : Vous essayez de construire un pont, mais vous réalisez que la rivière est trop large, que l'acier est trop faible, ou que vous ne parvenez pas à comprendre comment couler le béton.
- La Réalité : Les données sont désordonnées ou manquantes, le modèle n'apprend pas correctement, ou les mathématiques sont trop complexes à résoudre. Le projet heurte un mur technique infranchissable.
Dynamiques Organisationnelles (Les « Jeux de Pouvoir au Bureau ») :
- L'Analogie : Le patron change d'avis, le budget du département est réduit, ou l'équipe qui se bat pour savoir qui est le chef ne parvient pas à s'accorder sur ce qu'il faut construire.
- La Réalité : La stratégie de l'entreprise change, la direction perd de l'intérêt, ou différentes équipes ont des objectifs contradictoires. Le projet perd simplement son soutien interne.
Contraintes de Ressources (Le « Portefeuille Vide ») :
- L'Analogie : Vous avez un excellent projet pour un manoir, mais vous n'avez assez d'argent que pour un abri. Ou bien, vous n'avez pas les bons outils ou les bons ouvriers.
- La Réalité : C'est trop cher à construire ou à entretenir. Ils ne disposent pas d'ordinateurs assez puissants (GPU), de suffisamment de données ou d'ingénieurs qualifiés. Parfois, il est tout simplement moins cher d'acheter un outil à quelqu'un d'autre que de le construire soi-même.
Préoccupations Juridiques/Réglementaires (Les Problèmes de « Permis ») :
- L'Analogie : Le conseil d'urbanisme de la ville dit : « Vous ne pouvez pas construire ici », ou « Vous avez besoin d'un permis que nous ne pouvons pas obtenir ».
- La Réalité : De nouvelles lois (comme la Loi européenne sur l'IA) ou des règles de protection des données (comme le RGPD) rendent le projet trop risqué ou juridiquement impossible à terminer.
Ce que les Données Ont Réellement Montré
Les chercheurs ont examiné deux groupes différents d'histoires pour voir ce qui se passe réellement :
Groupe 1 : Les Histoires de « Presse » (Bases de données d'incidents)
- Ce sont les échecs célèbres qui ont fait les gros titres (comme un système de reconnaissance faciale arrêté parce qu'il était raciste).
- Résultat : Dans ces histoires publiques, les Préoccupations Éthiques et les Retours des Parties Prenantes sont les grandes vedettes. Cela a du sens, car ce sont les histoires qui sont rapportées dans les actualités.
Groupe 2 : Les Histoires de « Coulisses » (Enquête auprès des praticiens)
- Ce sont les échecs discrets survenus à l'intérieur des entreprises et qui n'ont jamais fait les gros titres.
- Résultat : Ici, l'histoire est totalement différente. Les raisons les plus courantes d'arrêt étaient les Défis Techniques (cela ne fonctionnait pas), les Contraintes de Ressources (trop cher) et les Dynamiques Organisationnelles (la direction a changé d'avis).
- Insight Clé : De nombreux projets ont été tués avant même d'atteindre la scène publique, car ils étaient trop difficiles, trop chers, ou simplement inadaptés à l'entreprise.
Les Projets « Fantômes »
L'article note également que parfois, un projet est annulé, puis revient à la vie plus tard.
- L'Analogie : Un constructeur arrête les travaux sur une maison à cause de la pluie. Deux ans plus tard, le soleil se lève, et ils recommencent à creuser les fondations.
- La Réalité : Les entreprises mettent souvent un projet en pause, attendent une meilleure technologie ou des coûts réduits, puis tentent de le reconstruire. Ou bien, elles peuvent annuler une fonctionnalité spécifique (comme la reconnaissance faciale) tout en conservant le reste du système.
La Conclusion Principale
Les auteurs disent à la communauté de l'IA : « Arrêtez de ne regarder que les bâtiments achevés et les scandales éthiques. »
Pour vraiment comprendre comment rendre l'IA sûre et responsable, nous devons comprendre la phase de construction. Nous devons aider les entreprises à réaliser que décider de ne pas construire est un choix valide, intelligent et parfois nécessaire.
Ils suggèrent que nous avons besoin de meilleurs outils et listes de contrôle pour aider les organisations à se demander :
- « Avons-nous réellement l'argent et les compétences pour finir cela ? »
- « Le problème technique est-il soluble ? »
- « Est-ce le bon moment pour construire cela ? »
Si nous pouvons faciliter la capacité des entreprises à dire « Non, nous ne devrions pas construire cela » pour des raisons pratiques, nous pourrions prévenir de nombreux problèmes futurs avant même qu'ils ne commencent.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.