What We Know about Responsible AI Practices in Industry: A Half Decade of Empirical Research
Cet article synthétise les conclusions de 161 études empiriques sur six ans afin de fournir un aperçu complet des progrès, de la professionnalisation et des défis persistants des pratiques d'IA responsable au sein de l'industrie technologique.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous êtes en train de construire un cerveau de robot géant et invisible qui peut écrire des histoires, diagnostiquer des maladies ou recommander votre prochaine chanson préférée. Ce domaine s'appelle l'Intelligence Artificielle (IA). Mais tout comme un vrai cerveau, ce cerveau de robot peut parfois s'embrouiller, faire des choix injustes ou accidentellement blesser des gens. Pour empêcher cela, des scientifiques et des entreprises ont élaboré un ensemble de règles appelées « IA Responsable » (IA-R). Voyez l'IA-R comme la boussole morale et le manuel de sécurité du robot. Il ne s'agit pas seulement de rendre le robot intelligent ; il s'agit de s'assurer qu'il est gentil, juste et sûr pour tout le monde. Pendant longtemps, les gens se sont demandé : « Est-ce que les personnes qui construisent réellement ces robots savent utiliser cette boussole morale ? Suivent-elles les règles, ou les ignorent-elles simplement ? » C'est la grande question à laquelle une équipe de chercheurs a décidé de répondre.
Pour trouver la réponse, les chercheurs n'ont pas simplement deviné ou regardé du code informatique. Au lieu de cela, ils ont agi comme des détectives numériques, fouillant dans une pile massive de 161 études scientifiques différentes publiées au cours des six dernières années. Ces études étaient toutes des entretiens, des sondages et des observations de personnes réelles travaillant dans des entreprises technologiques, tentant de comprendre comment elles gèrent réellement ces règles morales dans leur travail quotidien. Ils voulaient voir si le mouvement de l'« IA Responsable » n'était qu'un slogan élégant sur un mur, ou s'il changeait véritablement la façon dont les robots sont construits.
Le rapport du détective : Ce qu'ils ont trouvé
Le rapport des chercheurs, intitulé « Ce que nous savons des pratiques d'IA responsable dans l'industrie », révèle l'histoire d'une entreprise qui essaie lentement, maladroitement, mais certainement, de grandir.
Les bonnes nouvelles : Les lumières s'allument
Il y a quelques années, de nombreux travailleurs construisant l'IA ne savaient même pas que la boussole morale existait. Ils étaient tellement concentrés sur le fait de rendre le robot rapide et intelligent qu'ils oubliaient de vérifier s'il était méchant. Mais le document suggère que les choses changent. De plus en plus de travailleurs réalisent maintenant que l'« IA Responsable » est une réalité et que cela compte. C'est comme une salle de classe où, au début, personne ne savait qu'il y avait des règles sur le partage, mais maintenant, tout le monde sait qu'elles existent.
Les entreprises s'organisent également. Au lieu d'une seule personne s'inquiétant discrètement de l'équité, les entreprises commencent à embaucher des « experts en IA-R » spécialisés et à créer des titres de postes officiels pour les personnes qui vérifient le comportement du robot. Elles commencent également à utiliser des listes de contrôle et des outils logiciels pour les aider à trouver des erreurs avant que le robot ne soit lancé dans le monde. C'est un peu comme un chef qui achète enfin un thermomètre pour vérifier si le gâteau est cuit, au lieu de simplement deviner.
Les mauvaises nouvelles : La boussole est toujours cassée
Cependant, le rapport souligne très clairement que le fait de connaître les règles ne signifie pas qu'on peut les suivre. Les chercheurs ont constaté que de nombreux travailleurs se sentent perdus. Ils savent qu'ils doivent être équitables, mais ils n'ont pas la formation appropriée ni les outils adéquats pour le faire. C'est comme dire à quelqu'un de conduire une voiture de course sans lui donner de permis de conduire ou de carte.
L'un des plus gros problèmes est que les outils utilisés par les entreprises sont souvent trop vagues. Imaginez un livre de cuisine qui dit : « Ajoutez des épices ». Ce n'est pas très utile si vous essayez de cuire un gâteau spécifique. De même, de nombreux outils d'IA donnent des conseils généraux mais ne disent pas exactement à un travailleur quoi faire lorsqu'il construit une fonctionnalité spécifique pour un produit spécifique. Les travailleurs sont laissés à essayer de traduire des idées abstraites en code réel, souvent sans avoir assez de temps ou d'argent pour le faire correctement.
Le problème du patron : « Faites-le plus tard »
Le document met également en évidence un obstacle majeur : le patron. Dans de nombreuses entreprises, les personnes responsables se soucient plus de la rapidité avec laquelle elles peuvent lancer un nouveau produit que de sa sécurité. Les chercheurs ont découvert que les travailleurs reçoivent souvent l'ordre de « cocher la case de sécurité » à la toute fin du projet, lorsqu'il n'y a plus de temps pour corriger les problèmes. Cela transforme l'« IA Responsable » en un exercice administratif ennuyeux, comme remplir un formulaire juste pour obtenir un tampon, plutôt qu'en un moyen de rendre réellement le robot plus sûr. Le document suggère que sans personnel, temps et argent dédiés à ces vérifications de sécurité, même les meilleurs outils au monde ne serviront à rien.
Les pièces manquantes
Enfin, les chercheurs ont remarqué que les entreprises ont encore du mal à écouter les personnes qui ne construisent pas le robot. Cela inclut les personnes qui étiquettent les données (les travailleurs qui apprennent au robot à quoi ressemble un « chat »), les personnes qui utilisent le robot, et les experts d'autres domaines comme les médecins ou les avocats. Le rapport suggère que, bien que les entreprises commencent à demander de l'aide, elles ne savent souvent pas comment écouter correctement, ou n'ont pas les systèmes appropriés pour permettre à ces intervenants extérieurs de s'exprimer lorsqu'un problème survient.
Le mot de la fin
Alors, qu'est-ce que tout cela signifie ? Le document suggère que l'industrie de l'IA est dans une phase de « croissance douloureuse ». Tout le monde est d'accord sur le fait que la responsabilité est importante, et les outils pour le faire commencent à apparaître. Mais il existe un énorme fossé entre savoir quoi faire et le faire réellement bien. Les chercheurs concluent que pour que l'IA Responsable fonctionne vraiment, les entreprises doivent cesser de traiter cela comme un projet secondaire ou une simple liste de contrôle. Elles doivent l'intégrer à la base même de leur travail, donner de vraies formations à leurs travailleurs et écouter les personnes qui seront affectées par les robots qu'elles construisent. D'ici là, la boussole morale du robot est encore un peu vacillante, et nous devons continuer à travailler pour la stabiliser.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.