Building and Governing AI Systems: Advancing Social Workers' Roles across the Technology Industry, Human Service Organizations, and Policy Institutions
Cet article soutient que les travailleurs sociaux devraient élargir leur champ d'intervention professionnelle vers des rôles de prise de décision technologique dans l'industrie, les services sociaux et les politiques publiques, en faisant correspondre leurs compétences existantes et leurs cadres éthiques à la gouvernance de l'IA, avec un accent particulier sur la gestion de produits comme principal point d'entrée.
Article original placé dans le domaine public sous CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez le monde de la technologie comme une cuisine immense et trépidante où des robots apprennent à cuisiner. Pendant longtemps, les travailleurs sociaux — des professionnels qui aident les gens à traverser des crises, à trouver un logement et à obtenir un soutien en santé mentale — ont été ceux qui servaient la nourriture aux affamés. Mais maintenant, les robots sont en train de prendre le contrôle de la cuisine elle-même. Ils décident qui reçoit un repas, quelle est la taille de la portion et écrivent même les recettes. Ce nouveau domaine s'appelle l'Intelligence Artificielle (IA), et il s'immisce précisément dans les lieux où les travailleurs sociaux ont toujours travaillé, comme la protection de l'enfance, les lignes d'urgence ou les prestations gouvernementales.
Pour comprendre ce qui se passe, vous devez savoir quelques choses simples. Premièrement, l'IA n'est pas seulement une calculatrice intelligente ; c'est un système qui apprend à partir de données pour faire des prédictions ou des décisions, un peu comme un étudiant qui lit un million de livres d'histoire puis essaie de deviner la suite d'une histoire. Deuxièmement, ces systèmes sont construits par des équipes de personnes, pas seulement par un génie solitaire dans un laboratoire. Il y a des gens qui décident de ce qu'il faut construire, des gens qui décident de son apparence et des gens qui décident de quelles règles elle doit suivre. Enfin, il existe un concept appelé « déploiement ». C'est le moment où un outil quitte l'usine pour commencer à être utilisé dans le monde réel. C'est là que le caoutchouc rencontre la route, et que la décision erronée peut blesser une personne réelle. La grande question que tout le monde se pose est la suivante : si ces robots prennent des décisions de vie ou de mort pour des personnes vulnérables, qui est assis à la table pour s'assurer que les robots sont bienveillants, équitables et utiles ?
Cet article soutient que les travailleurs sociaux devraient cesser de simplement regarder les robots depuis la touche pour s'asseoir réellement à la table afin de les aider à les construire. Les auteurs, une équipe de chercheurs de l'Université du Michigan, suggèrent que les travailleurs sociaux sont particulièrement qualifiés pour être les « chefs » de ces systèmes d'IA, et non de simples serveurs. Ils soulignent qu'actuellement, les travailleurs sociaux sont souvent ceux qui utilisent les outils ou ceux dont les clients sont jugés par eux, mais ils sont rarement ceux qui décident du fonctionnement de ces outils. L'article introduit l'idée de la « Gestion de Produit » (Product Management) comme le métier parfait pour les travailleurs sociaux dans le monde de la technologie. Considérez un gestionnaire de produit comme le capitaine d'un navire qui décide de la destination du navire, des provisions nécessaires et de qui peut monter à bord. Les auteurs montrent que les compétences que les travailleurs sociaux apprennent à l'école — comme l'écoute des gens, la compréhension de leur environnement et la résolution de problèmes complexes — sont exactement les mêmes compétences nécessaires pour être un gestionnaire de produit pour un système d'IA.
L'article ne se contente pas de dire « les travailleurs sociaux devraient faire cela » ; il cartographie précisément comment. Il décompose l'équipe technique en différents rôles, comme les ingénieurs qui construisent le moteur, les designers qui peignent le navire et les chercheurs qui étudient les passagers. Ensuite, il montre comment la formation d'un travailleur social correspond au poste de gestionnaire de produit. Par exemple, un travailleur social apprend à évaluer les besoins d'une famille ; un gestionnaire de produit apprend à évaluer les besoins des utilisateurs d'une application. C'est la même compétence, utilisée simplement dans une pièce différente. Les auteurs avertissent également que savoir utiliser l'IA ne suffit pas. Les travailleurs sociaux ont besoin d'une « littératie de production », ce qui signifie comprendre comment l'IA a été entraînée, quelles données elle a « mangées » et comment lire les résultats pour ne pas être dupés par un vendeur d'algorithme de type « poudre de perlimpinpin ».
Crucialement, l'article s'oppose à l'idée selon laquelle les travailleurs sociaux devraient seulement être la « police de l'éthique » qui intervient après la construction du système pour dire : « Attendez, c'est injuste ». Les auteurs affirment que si vous ne faites pas partie du processus de décision dès le début, vous ne pouvez pas réellement empêcher le mal. Ils rejettent également l'idée que les travailleurs sociaux doivent devenir des programmeurs informatiques pour être impliqués. Vous n'avez pas besoin de savoir coder le moteur pour être le capitaine ; vous avez juste besoin de savoir diriger le navire et de comprendre la carte. L'article suggère que les travailleurs sociaux peuvent accéder à ces rôles via des parcours éducatifs existants, comme apprendre comment les produits sont fabriqués et comment lire des contrats, sans avoir besoin d'un second diplôme en ingénierie.
Les auteurs précisent avec prudence qu'il s'agit d'une proposition et d'une feuille de route, et non d'un fait accompli. Ils ne prétendent pas que les travailleurs sociaux dirigent déjà l'industrie technologique (ils ne le font pas), mais ils suggèrent que les compétences sont là et que le besoin est urgent. Ils soulignent que, bien que certaines entreprises technologiques aient commencé à embaucher des travailleurs sociaux pour des rôles de sécurité, cela reste rare. L'article se termine par un appel à la recherche pour voir si les travailleurs sociaux peuvent réellement réussir dans ces emplois à enjeux élevés et s'ils peuvent garder leur boussole éthique tout en travaillant dans un environnement technologique au rythme effréné. C'est un appel à l'action pour la profession afin qu'elle cesse de laisser les robots conduire le bus et commence à saisir le volant.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.