Sector-Specific Ethics in Artificial Intelligence: Clinical Applications, Military Automation, AutonomousVehicles, and Educational Technology

Imaginez un monde où les ordinateurs ne sont pas seulement des calculatrices ou des consoles de jeux, mais des décideurs. C'est le domaine de l'Intelligence Artificielle, ou IA. Voyez l'IA comme un apprenti super intelligent qui apprend en lisant des millions de livres et en regardant d'innombrables vidéos. Mais voici le piège : ce n'est pas parce qu'un apprenti est rapide et possède beaucoup de connaissances qu'il sait toujours ce qui est juste. Parfois, il peut apprendre de mauvaises habitudes à partir des livres qu'il lit, ou il peut faire un choix qui sauve une personne mais en blesse une autre. C'est là qu'intervient l'« éthique ». L'éthique est simplement le livre de règles pour faire ce qui est juste. Lorsque nous confions à ces apprentis super intelligents des tâches sérieuses — comme soigner des personnes malades, conduire des voitures ou même combattre dans des guerres — nous ne pouvons pas utiliser un seul livre de règles générique. Une règle qui fonctionne pour un jeu vidéo pourrait être un désastre pour un hôpital. C'est pourquoi les scientifiques et les penseurs se demandent : comment faire en sorte que nos apprentis IA se comportent bien dans chaque quartier spécifique qu'ils visitent ?

Ce document, écrit par Connor Nitchals, explore quatre quartiers très différents où l'IA travaille déjà : les hôpitaux, les champs de bataille, les routes et les écoles. L'auteur suggère que nous ne pouvons pas traiter toutes les IA de la même manière. Au lieu de cela, nous avons besoin d'une armure sur mesure pour chaque métier. Le document ne prétend pas avoir résolu tous les problèmes ou trouvé un bouton magique pour tout réparer. Au lieu de cela, il agit comme une carte, signalant les pièges et les dangers uniques de chaque secteur tout en mettant en évidence quelques règles de sécurité communes qui s'appliquent partout. Il suggère que pour que les choses restent sûres et équitables, nous devons être très prudents dans la façon dont nous concevons ces systèmes, en veillant à ce qu'ils soient transparents (nous savons comment ils pensent), sûrs (ils ne plantent pas ou ne blessent pas les gens) et protégés contre les détournements.

Commençons par l'Hôpital, ou l'IA Clinique. Imaginez un assistant de médecin qui a lu tous les journaux médicaux de l'histoire. Il peut aider à repérer des maladies ou planifier des traitements de manière incroyablement rapide. Mais, l'article prévient, si cet assistant a appris à partir de dossiers médicaux anciens qui étaient injustes envers certains groupes de personnes, il pourrait continuer à être injuste. C'est comme un étudiant qui n'aurait étudié que d'après un manuel écrit dans les années 1950 ; il pourrait penser que le monde n'a pas changé, même si c'est le cas. Le document suggère que pour que l'IA fonctionne dans les hôpitaux, nous devons vérifier ses « devoirs » constamment pour nous assurer qu'elle n'est pas biaisée. Nous devons également savoir comment elle est parvenue à une conclusion. Si l'IA est une « boîte noire » qui donne une réponse sans expliquer pourquoi, les médecins ne peuvent pas lui confier la vie d'un patient. L'auteur souligne que nous devons maintenir les médecins humains dans la boucle pour revérifier le travail de l'IA et garantir que la confidentialité des patients n'est jamais transgressée.

Ensuite, nous zoomons sur le Champ de Bataille, ou l'Automatisation Militaire. C'est le quartier le plus sérieux de tous. Ici, l'IA peut être utilisée pour conduire des chars, espionner des ennemis ou même décider de tirer une arme. Le document met en lumière une énorme inquiétude éthique : une machine devrait-elle un jour être autorisée à prendre la décision finale sur la vie et la mort ? L'auteur suggère que nous devons maintenir un « contrôle humain significatif » sur ces décisions. C'est comme dire qu'un robot peut conduire le char, mais qu'un humain doit être celui qui appuie sur le bouton. Le document soutient que si un robot fait une erreur et cause des dommages, il est très difficile de savoir qui est responsable — le programmeur, le soldat ou la machine elle-même. À cause de cela, le document suggère que nous avons besoin de règles strictes pour empêcher ces systèmes d'être piratés ou utilisés de manières qui violent les lois internationales. Bien que le secret soit nécessaire pour la sécurité nationale, l'auteur note qu'un excès de secret peut faire perdre la confiance du public, donc un équilibre est nécessaire.

Puis, nous sautons dans le Siège du Conducteur avec les Véhicules Autonomes (VA). Ce sont des voitures autonomes qui utilisent des caméras et des capteurs pour naviguer dans le monde. La promesse est de réduire les accidents de la route et de faciliter les déplacements. Cependant, le document souligne que ces voitures sont confrontées à des situations délicates, comme quoi faire si un accident est inévitable. Doit-elle dévier pour sauver un piéton mais blesser le passager ? Le document suggère que, bien que nous ne puissions pas résoudre parfaitement chaque scénario de type « et si », les ingénieurs doivent concevoir ces voitures pour qu'elles donnent la priorité à la vie humaine et minimisent les dommages. Il note également que nous avons besoin de nouvelles lois pour déterminer qui est responsable si une voiture autonome a un accident. Est-ce le propriétaire de la voiture, le fabricant du logiciel ou l'entreprise qui a construit la voiture ? L'auteur insiste sur le fait que pour que les gens aient confiance en ces voitures, les entreprises doivent être transparentes sur le fonctionnement de leurs véhicules et sur leurs limites.

Enfin, nous entrons dans la Classe avec la Technologie Éducative. Ici, l'IA aide les enseignants à corriger les copies, à personnaliser les leçons et à suivre la façon dont les élèves apprennent. Le document prévient que c'est une arme à double tranchant. D'un côté, cela peut aider chaque élève à apprendre à son propre rythme. De l'autre, cela collecte énormément de données privées sur les habitudes et le cerveau des élèves. L'auteur suggère que nous devons être très prudents pour ne pas utiliser ces données pour espionner les enfants ou les punir injustement. Si l'IA est entraînée sur des données qui favorisent les élèves riches, elle pourrait donner de mauvais conseils aux élèves pauvres, creusant ainsi davantage l'écart entre eux. Le document soutient que les écoles doivent être transparentes sur l'utilisation de ces données et s'assurer que l'IA soutient l'apprentissage plutôt que de simplement surveiller les élèves comme un surveillant de couloir strict.

Alors, quelle est la grande conclusion de tout cela ? Le document conclut que bien que les hôpitaux, les champs de bataille, les routes et les écoles soient très différents, ils partagent tous quelques règles de sécurité communes. Qu'il s'agisse d'un robot médecin ou d'un bus autonome, nous avons besoin de Transparence (savoir comment il fonctionne), de Sécurité (s'assurer qu'il ne se casse pas), de Prévention des détournements (empêcher les méchants de le pirater) et de Confidentialité (garder les données personnelles en sécurité). L'auteur suggère que nous ne pouvons pas simplement avoir un seul grand livre de règles pour toute l'IA. Au lieu de cela, nous avons besoin d'un cadre flexible qui respecte les règles uniques de chaque secteur tout en respectant ces valeurs fondamentales. Le document ne prétend pas détenir la réponse finale, mais il offre un point de départ solide pour que les gouvernements et les scientifiques construisent des systèmes d'IA meilleurs, plus sûrs et plus équitables pour l'avenir.