Bridging Technical AI, Societal Impacts, and Workforce Competencies in AI Education

Résumé technique : Réunir l'IA technique, les impacts sociétaux et les compétences professionnelles dans l'enseignement de l'IA

Énoncé du problème
Alors que l'intelligence artificielle (IA) s'intègre dans des secteurs critiques tels que le recrutement, la santé et le maintien de l'ordre, les conséquences des défaillances des systèmes dépassent les erreurs techniques pour inclure des préjudices sociétaux importants, notamment la discrimination et les inégalités structurelles. Malgré la prolifération des modules d'éthique de l'IA et des cours interdisciplinaires, l'enseignement de l'IA reste structurellement fragmenté. Les concepts techniques (modèles, optimisation) sont fréquemment enseignés de manière isolée de l'éthique, des politiques, de la conception centrée sur l'humain et du développement des compétences professionnelles. Cette séparation crée un fossé sociotechnique où l'abstraction technique occulte la manière dont les décisions de conception se traduisent en conséquences sociales, et où l'équité est souvent tentée par le biais de seules mesures techniques sans compréhension contextuelle. Il existe un manque de travaux empiriques examinant si l'instruction technique, les préjudices sociétaux et les compétences professionnelles sont systématiquement alignés au sein des programmes liés à l'IA.

Méthodologie
Ce travail en cours utilise une approche de cartographie curriculaire qualitative pour analyser l'alignement de trois dimensions : (1) les systèmes techniques, (2) les préjudices sociétaux et (3) les compétences professionnelles. L'étude utilise un modèle d'alignement en trois parties pour opérationnaliser ces dimensions.

• Construction du jeu de données : L'analyse a débuté avec trois cours coordonnés au sein d'un programme de diplôme en IA (Littératie de l'IA, IA centrée sur l'humain et Conception de technologies sociales). Pour atténuer le biais d'une institution unique, le jeu de données a été élargi à l'aide de registres publics de syllabus d'éthique technologique (par exemple, la collection de Casey Fiesler) et filtré à l'aide de mots-clés liés à l'IA (par exemple, apprentissage automatique, LLM, biais algorithmique).
• Critères de sélection : Les cours ont été inclus s'ils se concentraient sur les systèmes d'IA, abordaient les impacts sociétaux (biais, confidentialité, gouvernance) et fournissaient suffisamment de détails (syllabus, objectifs d'apprentissage, devoirs) pour une analyse structurée. Le jeu de données final pour ce rapport initial se compose de six cours cartographiés en profondeur, tirés d'un ensemble plus large de 16 cours confirmés comme pertinents pour l'IA.
• Analyse : Les supports de cours ont été codés de manière itérative pour identifier les modèles de cooccurrence et les lacunes. L'analyse s'est concentrée sur la question de savoir si les préjudices sociétaux étaient liés à des mécanismes techniques spécifiques et si les compétences professionnelles (par exemple, communication, raisonnement des parties prenantes, innovation responsable) étaient explicitement nommées et évaluées.

Principales contributions
Le document présente quatre contributions primaires :

1. Une approche de cartographie curriculaire inter-cours : Un cadre initial pour lier les systèmes techniques, les préjudices sociétaux et les compétences professionnelles à travers divers types de cours.
2. Un modèle d'alignement émergent : Un modèle basé sur des cas pour cartographier les structures curriculaires.
3. Des résultats empiriques préliminaires : Des preuves concernant l'état actuel de l'enseignement de l'IA, soulignant spécifiquement une couverture technique forte, une intégration inégale des préjudices sociétaux et une évaluation explicite limitée des compétences professionnelles.
4. Implications de conception : Des recommandations précoces pour la conception de l'enseignement de l'IA afin de mieux connecter la rigueur technique à la critique sociale et aux compétences professionnelles.

Résultats
L'analyse des six cours cartographiés en profondeur révèle quatre modèles récurrents :

• Profondeur technique variable : La couverture technique est généralement forte mais varie en profondeur. Certains cours (par exemple, Équité dans l'apprentissage automatique) relient directement des composants techniques spécifiques (plongements lexicaux, apprentissage supervisé) aux préjudices. D'autres (par exemple, Littératie de l'IA) discutent des systèmes d'IA à un niveau plus large (gouvernance des plateformes, modération de contenu). La conclusion critique n'est pas la profondeur elle-même, mais la question de savoir si le niveau de détail technique est connecté aux préjudices sociétaux et aux compétences professionnelles.
• Intégration inégale des préjudices sociétaux : Bien que tous les cours aient abordé des préjudices tels que le biais, la confidentialité et la désinformation, l'intégration était incohérente. Certains cours liaient les préjudices directement à la conception, aux données ou aux choix de modèles. D'autres se concentraient sur des critiques de niveau plateforme sans remonter les préjudices jusqu'à des mécanismes algorithmiques spécifiques. L'étude souligne qu'une connexion structurelle nécessite de clarifier comment les décisions techniques, organisationnelles et sociales interagissent pour produire un préjudice.
• Compétences professionnelles implicites : Les compétences telles que la communication, l'évaluation critique et la collaboration interdisciplinaire apparaissaient dans les cours mais étaient rarement évaluées explicitement. Elles étaient souvent impliquées par des projets ou des discussions plutôt que nommées comme résultats d'apprentissage. Un écart existe entre la présence de ces compétences et leur évaluation explicite.
• Désalignement de la rigueur et de la critique : Un décalage récurrent a été observé entre la rigueur technique et la critique sociale. Les cours présentant une forte profondeur algorithmique fournissaient souvent des explications claires des préjudices mais négligeaient les contextes de communication et de gouvernance. Inversement, les cours ayant une critique sociétale forte discutaient les préjudices en profondeur sans expliquer pleinement les mécanismes techniques sous-jacents. L'alignement le plus fort a été trouvé dans les cours basés sur des cas ou des projets qui intègrent les systèmes, les préjudices et les compétences au sein d'une structure de devoir unique.

Signification et affirmations
Le document soutient que les efforts de littératie de l'IA doivent évoluer au-delà de la simple sensibilisation aux concepts ou aux préjudices de l'IA. Une véritable littératie nécessite des compétences pour une action responsable dans des contextes assistés par l'IA. L'étude affirme que l'ajout de contenu éthique aux cursus techniques est insuffisant ; l'abstraction technique occulte souvent la production de préjudices, et l'équité ne peut être traitée par de simples mesures.

La signification de ce travail réside dans sa démonstration que l'enseignement de l'IA nécessite un alignement structurel délibéré entre les systèmes techniques, les impacts sociétaux et les compétences de prise de décision. Les auteurs postulent que séparer l'éthique de l'instruction technique limite la capacité des étudiants à relier les décisions de conception aux résultats réels. En mettant en évidence l'écart entre ce que les étudiants apprennent et ce qu'ils sont censés faire dans des contextes professionnels, le document préconise d'intégrer les compétences directement dans les devoirs techniques. De plus, il suggère que des approches transversales basées sur des cas et des projets communs peuvent rendre l'alignement des systèmes, des préjudices et des compétences plus visible et actionnable, faisant passer l'enseignement de l'IA vers une perspective plus intégrée et centrée sur l'humain.

Note : En tant que travail en cours, les auteurs reconnaissent que les conclusions actuelles sont basées sur un ensemble de données en évolution et ne constituent pas des affirmations définitives sur l'ensemble du paysage de l'enseignement de l'IA. Les étapes futures comprennent l'élargissement du jeu de données, l'affinement du schéma de codage et le développement de mesures d'alignement plus claires entre les institutions.