Bridging the Gap in the Responsible AI Divides

En analysant 3 550 articles, cette étude propose un modèle de « pont critique » pour surmonter les divisions entre l'éthique et la sécurité de l'IA en identifiant des problèmes de recherche communs tels que la transparence et la gouvernance, afin de favoriser une collaboration constructive.

L'essentiel

Imaginez que le développement de l'Intelligence Artificielle (IA) est comme la construction d'une ville futuriste immense et complexe. Dans cette ville, deux groupes d'architectes travaillent dur, mais ils parlent des langages très différents et ne se comprennent pas toujours.

Ce papier de recherche, écrit par Bálint Gyevnár et Atoosa Kasirzadeh, raconte l'histoire de ces deux groupes et propose un moyen de les faire enfin collaborer pour construire une ville sûre et juste.

Voici l'explication simple, avec quelques images pour vous aider à visualiser :

1. Les Deux Quartiers qui ne se parlent pas

Dans notre ville de l'IA, il y a deux quartiers principaux qui sont en tension :

• Le Quartier de l'Éthique (AI Ethics) : Imaginez des urbanistes et des sociologues. Ils s'inquiètent de la vie des gens aujourd'hui. Ils se demandent : « Est-ce que ce nouveau système de transport discrimine les pauvres ? Est-ce que les robots volent les emplois des ouvriers ? Est-ce que les décisions sont justes ? » Leur focus est sur l'humain, la justice sociale et les dommages immédiats.
• Le Quartier de la Sécurité (AI Safety) : Imaginez des ingénieurs en génie civil et des pompiers. Ils s'inquiètent de ce qui pourrait se passer demain ou dans un futur lointain. Ils se demandent : « Si ce robot devient trop intelligent, va-t-il nous détruire ? Est-ce que le code va bugger et causer une catastrophe ? » Leur focus est sur la robustesse technique, le contrôle et les risques existentiels.

Le problème ? Ils se parlent rarement. Parfois, ils se disputent, parfois ils s'ignorent, et parfois ils travaillent côte à côte sans vraiment se mélanger. C'est ce que les auteurs appellent les « divisions de l'IA responsable ».

2. Les Quatre Façons de Gérer la Dispute

Les auteurs ont observé comment ces deux groupes interagissent et ont identifié quatre modes de comportement, comme quatre façons de gérer un conflit de voisinage :

1. La Confrontation Radicale (Le Duel) : C'est comme deux boxeurs qui s'attaquent directement. L'un dit : « Ton éthique est inutile, tu ne comprends rien à la technique ! » et l'autre répond : « Ta sécurité est une excuse pour ignorer la justice sociale ! » Résultat : personne ne gagne, tout le monde est épuisé et la ville ne progresse pas.
2. Le Désengagement (Le Mur) : C'est comme si les voisins fermaient leurs rideaux et ne sortaient plus. « Je fais mon travail, tu fais le tien, on ne se mélange pas. » Résultat : on évite les disputes, mais on rate l'occasion de résoudre les vrais problèmes qui sont à la frontière des deux quartiers.
3. La Coexistence Compartimentée (Le Miroir) : C'est comme une réunion où tout le monde est assis à la même table, mais chacun parle dans sa propre langue. Ils disent « Bonjour » et « Au revoir » ensemble, mais ne discutent jamais vraiment. Ils travaillent sur des pistes parallèles qui ne se croisent jamais. Résultat : on a l'air uni, mais en réalité, on ne construit rien de commun.
4. Le Pont Critique (Le Pont) : C'est la solution que les auteurs proposent. Au lieu d'ignorer les différences ou de se battre, on construit un pont. On reconnaît que les deux côtés ont raison sur des choses différentes, et on cherche les problèmes où leurs compétences se chevauchent.

3. La Méthode : Cartographier la Ville

Pour prouver que le « Pont » est possible, les auteurs ont fait un travail de détective colossal. Ils ont analysé 3 550 articles scientifiques (comme s'ils avaient lu tous les plans de la ville). Ils ont utilisé des ordinateurs pour trier ces documents et voir de quoi parlait chaque groupe.

Ce qu'ils ont découvert :

• Les différences sont réelles : Le quartier Éthique parle beaucoup de « racisme », de « pauvreté » et de « justice ». Le quartier Sécurité parle beaucoup de « bugs », de « piratage » et de « contrôle des robots ».
• Mais il y a des zones de chevauchement (les ponts) : Ils ont trouvé des sujets où les deux groupes doivent absolument travailler ensemble. Par exemple :
  • La transparence : Les éthiciens veulent que les gens comprennent les décisions pour être justes. Les ingénieurs veulent comprendre le code pour éviter les bugs. C'est le même besoin vu sous deux angles.
  • La robustesse : Les éthiciens veulent que le système ne fasse pas de discriminations même quand les données changent. Les ingénieurs veulent que le système ne plante pas quand les données changent. Encore une fois, même problème, même solution.
  • La gouvernance : Comment surveiller ces systèmes ? Les deux groupes ont besoin de règles communes.

4. La Conclusion : Construire le Pont

L'idée centrale du papier est simple : Arrêtons de nous battre ou de nous ignorer.

Au lieu d'essayer de convaincre l'autre qu'il a tort, concentrons-nous sur les problèmes communs. Si un ingénieur en sécurité et un expert en éthique se mettent autour d'une table pour résoudre un problème de « biais dans les données », ils peuvent créer une solution qui est à la fois techniquement solide (sécurité) et socialement juste (éthique).

En résumé :
Imaginez que vous devez construire un pont entre deux rives.

• Les Éthiciens sont ceux qui s'assurent que le pont est accessible aux piétons, aux fauteuils roulants et qu'il ne s'effondre pas sous le poids des plus faibles.
• Les Ingénieurs Sécurité sont ceux qui s'assurent que le pont ne s'effondrera pas sous le vent, qu'il résiste aux tremblements de terre et qu'il est solide.

Ce papier nous dit : « Ne restez pas sur vos rives respectives en vous criant dessus. Venez construire le pont ensemble, pierre par pierre, en utilisant les forces de chacun. C'est la seule façon de traverser la rivière et d'arriver à un avenir où l'IA est vraiment responsable. »

C'est une invitation à passer de la guerre à la collaboration, en reconnaissant que pour une IA vraiment responsable, il faut à la fois de la justice et de la sécurité.

Résumé technique

1. Problématique

L'article identifie une tension croissante et structurelle entre deux domaines clés de la gouvernance de l'IA : l'Éthique de l'IA (AIE - AI Ethics) et la Sécurité de l'IA (AIS - AI Safety). Cette divergence, qualifiée d'« écart de l'IA responsable » (responsible AI divide), entrave le développement de cadres de gouvernance cohérents.

Les auteurs observent que ces deux communautés abordent les risques de l'IA avec des priorités, des méthodologies et des horizons temporels souvent incompatibles :

• AIE se concentre généralement sur les préjudices tangibles, actuels et systémiques (biais, injustice, exclusion, impact environnemental).
• AIS adopte une approche plus anticipatoire, axée sur la prévention des risques catastrophiques futurs liés aux capacités techniques (alignement, robustesse, contrôle des agents autonomes).

Le problème central est que cette division conduit à une fragmentation des ressources, à des stratégies de mitigation redondantes ou contradictoires, et à une incapacité à traiter les défis complexes de l'IA de manière holistique. L'article cherche à déterminer comment dépasser ces divisions pour favoriser une collaboration constructive.

2. Méthodologie

Les auteurs adoptent une approche mixte combinant analyse quantitative et qualitative sur un corpus de 3 550 articles scientifiques (publiés jusqu'au 9 juillet 2025).

• Données :
  • Corpus AIE (n=1 770) : Procédures complètes des conférences ACM AIES et FAccT depuis 2018.
  • Corpus AIS (n=1 780) : Données issues d'un corpus open-source existant, enrichi par des métadonnées de 35 laboratoires de sécurité et chercheurs individuels majeurs (ex: DeepMind, OpenAI, MIRI, etc.).
• Analyse Quantitative :
  • Utilisation de VOSViewer pour générer des graphes de co-occurrence de termes.
  • Utilisation de BERTopic (modélisation de sujets non supervisée avec embeddings SentenceBERT) pour regrouper les documents par similarité sémantique.
  • Calcul de la similarité cosinus temporelle pour observer l'évolution de la convergence sémantique entre les deux corpus.
• Analyse Qualitative (Codage Déductif) :
  • Élaboration d'une taxonomie à deux niveaux (catégories de haut niveau et sous-catégories granulaires) pour les risques et les stratégies d'atténuation.
  • Annotation manuelle des articles par un chercheur, assignant jusqu'à trois catégories par article.
  • Double approche d'annotation : (1) attribution de catégories uniquement selon la taxonomie du domaine d'origine, et (2) attribution selon la taxonomie complète (permettant d'identifier les chevauchements transversaux).

3. Contributions Clés

1. Modélisation des modes d'engagement : Les auteurs définissent quatre modes de résolution des tensions entre AIE et AIS (illustrés dans la Figure 1) :
   • Confrontation radicale : Tentative de discréditer l'autre camp.
   • Désengagement : Refus d'aborder les tensions sous couvert de neutralité.
   • Coexistence compartimentée : Participation aux mêmes forums sans intégration réelle.
   • Pont critique (Critical Bridging) : L'engagement structuré qui accepte les frictions tout en identifiant des terrains d'entente concrets.
2. Argument pour le "Pont des Problèmes" : L'article plaide spécifiquement pour la troisième interprétation du "pont" : le pont des problèmes (bridging problems). Il s'agit d'identifier des espaces de problèmes partagés où les deux communautés peuvent collaborer sans nécessairement résoudre leurs désaccords philosophiques fondamentaux.
3. Cartographie systématique : Création d'une carte visuelle et taxonomique des risques et des stratégies de mitigation, révélant à la fois les silos et les zones de convergence.

4. Résultats Principaux

A. Divisions Thématiques (Les Fossés)

L'analyse confirme des divergences marquées dans les préoccupations principales :

• AIE : Dominée par les risques de discrimination, d'exclusion et de toxicité (biais dans la prise de décision automatisée, métriques de justice, manque de recours). Elle s'intéresse aux impacts sociaux, économiques et environnementaux actuels (travail, climat, accès).
• AIS : Dominée par les risques de spécification système, de manque de contrôle et d'attaques adverses (mauvaise spécification des objectifs, exploration non sécurisée, attaques par injection, manque de robustesse aux distributions hors domaine). Elle se concentre sur la capacité technique et la prévention de scénarios catastrophiques à long terme.

B. Convergences et Chevauchements (Les Ponts)

Malgré les différences, l'analyse révèle des zones de chevauchement significatives où les deux communautés traitent des problèmes similaires, bien que sous des angles différents :

1. Interprétabilité et Explicabilité :
   • AIE se concentre sur l'explicabilité pour la confiance, la responsabilité et la justice (explications post-hoc, centrées sur l'humain).
   • AIS se concentre sur l'interprétabilité mécaniste pour le contrôle, la surveillance et la prévention des défaillances (analyse de circuits, auto-encodeurs clairsemés).
   • Pont : La nécessité d'explications intelligibles pour calibrer la confiance et détecter les biais.
2. Robustesse et Benchmarks :
   • Les deux communautés s'inquiètent de la fiabilité des benchmarks, de la fuite de données (benchmark leakage) et de la performance sous des distributions changeantes.
3. Gouvernance et Responsabilité :
   • Manque de coordination mondiale, lacunes en matière de responsabilité (liability gaps), et nécessité de cadres d'audit.
4. Sécurité et Mauvaise Utilisation :
   • Convergence croissante sur les risques de jailbreaking, de deepfakes et d'attaques par empoisonnement de données.
5. Alignement des Valeurs Humaines :
   • Les deux champs travaillent sur l'élucidation et l'encodage des préférences humaines (AIE via la délibération démocratique, AIS via l'apprentissage par renforcement à partir de feedback humain - RLHF).

C. Évolution Temporelle

Les résultats montrent une convergence sémantique croissante au fil du temps. Les documents du corpus AIS deviennent progressivement plus similaires à la moyenne du corpus AIE, suggérant que le domaine de la sécurité intègre de plus en plus des considérations éthiques et sociales, ou que le style d'écriture scientifique s'homogénéise.

5. Signification et Recommandations

L'article conclut que le "pont des problèmes" est la voie la plus pragmatique pour avancer vers une IA responsable. Plutôt que de tenter de fusionner les philosophies (ce qui est difficile), les auteurs recommandent de :

• Structurer la collaboration : Créer des ateliers adversariaux, définir conjointement les problèmes et co-concevoir des mécanismes de gouvernance.
• Éviter la redondance : Utiliser les chevauchements identifiés pour optimiser l'allocation des ressources de recherche.
• Institutionnaliser l'hybridité : Développer des structures (programmes de doctorat conjoints, comités de révision partagés) qui favorisent des communautés hybrides possédant à la fois une profondeur technique et une largeur sociologique.

Limites et Perspectives :
Les auteurs reconnaissent que leur approche ne résout pas les désaccords irréductibles sur les philosophies politiques ou morales (ex: long-termisme fort vs justice sociale immédiate). Ils soulignent la nécessité de recherches futures sur les interfaces sociotechniques et les moteurs économiques (financement) qui alimentent ces divisions.

En résumé, cet article fournit une base empirique solide pour passer d'une rivalité stérile entre l'Éthique et la Sécurité de l'IA à une collaboration ciblée sur des problèmes communs, offrant ainsi une feuille de route pour une gouvernance de l'IA plus robuste et intégrée.