COMPASS: The explainable agentic framework for Sovereignty, Sustainability, Compliance, and Ethics

Le papier présente le cadre COMPASS, une architecture multi-agents modulaire et explicable qui intègre de manière unifiée la souveraineté, la durabilité, la conformité et l'éthique dans les systèmes d'IA autonomes grâce à des mécanismes de gouvernance enrichis par la génération augmentée par récupération (RAG) pour garantir des décisions alignées sur les valeurs et traçables.

L'essentiel

🧭 COMPASS : Le "Capitaine de Navire" pour l'Intelligence Artificiale

Imaginez que vous construisez un robot très intelligent capable de faire des tâches complexes pour vous (comme gérer vos emails, organiser votre entreprise ou répondre à des clients). C'est ce qu'on appelle un agent IA.

Mais il y a un gros problème : si ce robot agit seul, il pourrait commettre des erreurs graves. Il pourrait :

1. Voler vos données et les envoyer à l'étranger (problème de Souveraineté).
2. Consommer autant d'électricité qu'une petite ville (problème de Durabilité).
3. Enfreindre des lois que vous ne connaissez pas (problème de Conformité).
4. Être injuste ou méchant avec les gens (problème d'Éthique).

C'est là qu'intervient COMPASS.

🏗️ Comment ça marche ? L'analogie du Conseil de Sages

Au lieu de laisser le robot décider tout seul, les auteurs ont créé un système qui ressemble à un Conseil de Sages ou à une équipe de contrôleurs de vol.

Le système COMPASS est composé d'un Chef d'orchestre (l'Orchestrator) et de 4 experts spécialisés qui travaillent ensemble avant que le robot n'agisse :

1. L'Expert Souveraineté (Le Gardien des Frontières) : Il vérifie : "Est-ce que nos données restent chez nous ? Est-ce que le logiciel est fait par des locaux ?" C'est comme un douanier qui s'assure que rien ne quitte le pays sans permission.
2. L'Expert Écologie (Le Gardien de l'Énergie) : Il regarde : "Combien de carbone va-t-il falloir pour faire cette tâche ?" C'est comme un compteur de calories pour l'ordinateur. Si l'action est trop "gourmande" en énergie, il la signale.
3. L'Expert Loi (Le Juge) : Il vérifie : "Est-ce que cette action respecte les lois du Canada (ou du pays concerné) ?" Il lit les règles officielles pour s'assurer qu'on ne les enfreint pas.
4. L'Expert Éthique (La Conscience) : Il se demande : "Est-ce que c'est juste ? Est-ce que ça respecte la dignité des gens ?" C'est la boussole morale du groupe.

📚 Le Secret : La "Bibliothèque Vivante" (RAG)

Le plus génial de COMPASS, c'est que ces experts ne devinent pas les réponses. Ils ont tous accès à une bibliothèque numérique à jour (appelée RAG).

• Sans bibliothèque : Le robot pourrait inventer des lois qui n'existent pas (ce qu'on appelle une "hallucination"). C'est comme un avocat qui invente un article de loi pour gagner un procès.
• Avec la bibliothèque : Avant de répondre, l'expert va chercher le texte de loi exact, le rapport sur l'énergie ou la règle de confidentialité dans sa bibliothèque. Il base sa décision sur des faits réels et vérifiés.

⚖️ Le Grand Arbitrage

Parfois, les experts ne sont pas d'accord !

• L'Expert Écologie dit : "Non, c'est trop énergivore !"
• L'Expert Souveraineté dit : "Si, c'est obligatoire de le faire ici !"

Le Chef d'orchestre (COMPASS) reçoit les avis de tous, compare les notes, et trouve le meilleur compromis. Il dit au robot : "Ok, tu peux le faire, mais seulement si tu utilises ce serveur local et que tu réduis la qualité de l'image pour économiser de l'énergie."

🎯 Pourquoi c'est important ?

Aujourd'hui, on utilise l'IA partout, mais on ne sait pas toujours si elle est "saine". COMPASS change la donne :

• Transparence : Il ne dit pas juste "Oui" ou "Non". Il explique pourquoi (ex: "J'ai refusé car cela enfreint la loi canadienne sur la protection des données").
• Adaptabilité : Si vous changez de pays, vous changez simplement la bibliothèque de lois, et le système s'adapte.
• Confiance : Cela permet de déployer des robots intelligents sans avoir peur qu'ils fassent des bêtises.

En résumé

COMPASS, c'est comme installer un système de sécurité et de navigation dans une voiture autonome. Avant que la voiture ne prenne la route, le système vérifie :

• Est-ce que le carburant est propre ? (Écologie)
• Est-ce que le trajet respecte le code de la route ? (Loi)
• Est-ce que le véhicule appartient bien à la bonne personne ? (Souveraineté)
• Est-ce que le trajet est sûr pour les passagers ? (Éthique)

Si tout est vert, la voiture roule. Sinon, le système trouve une solution alternative ou arrête le véhicule. C'est une façon intelligente de s'assurer que l'IA reste au service de l'humain et de la planète, et non l'inverse.

Résumé technique

Titre du papier

COMPASS : Le cadre agentique explicable pour la Souveraineté, la Durabilité, la Conformité et l'Éthique.

1. Problématique

L'essor rapide des systèmes agentiques basés sur les grands modèles de langage (LLM) soulève des préoccupations critiques concernant quatre dimensions majeures souvent traitées de manière isolée :

• La souveraineté numérique : La dépendance technologique envers des hyperscalers étrangers et la perte de contrôle sur les données et les infrastructures.
• La durabilité environnementale : L'empreinte carbone croissante liée à l'inférence des LLM et aux centres de données.
• La conformité réglementaire : La nécessité de s'aligner sur des cadres législatifs hétérogènes et locaux (ex: Loi sur l'IA et les données au Canada).
• L'éthique : La traduction de principes abstraits (équité, transparence) en contraintes opérationnelles pour les agents autonomes.

Le problème central réside dans l'absence d'une architecture unifiée capable d'intégrer systématiquement ces impératifs contradictoires dans le processus de prise de décision des agents autonomes en temps réel. Les solutions existantes se concentrent souvent sur une seule dimension ou opèrent une vérification a posteriori (post-hoc), ce qui est insuffisant pour garantir une acceptabilité sociale et une gouvernance responsable.

2. Méthodologie

Le papier propose COMPASS (Compliance and Orchestration for Multi-dimensional Principles in Autonomous Systems with Sovereignty), une architecture multi-agents orchestrée conçue pour intégrer la gouvernance normative directement dans le flux opérationnel.

Architecture Principale

Le système repose sur un Orchestrateur central qui coordonne quatre sous-agents spécialisés :

1. Agent de Souveraineté Numérique : Évalue la localisation des données, l'origine des fournisseurs et le contrôle technologique.
2. Agent de Calcul Soucieux du Carbone (Carbon-Aware) : Analyse l'intensité énergétique et l'empreinte carbone des tâches d'inférence.
3. Agent de Conformité (Compliance) : Vérifie l'alignement avec les lois locales (ex: AIDA au Canada, RGPD en Europe).
4. Agent d'Éthique : Contrôle l'alignement avec les principes éthiques (ex: Déclaration de Montréal).

Mécanismes Clés

• Orchestration par Composition : Contrairement au codage dur, le système utilise un motif de composition (Design Pattern) où l'Orchestrateur "possède" les modules de gouvernance. Les agents applicatifs héritent de ces contrôles, rendant techniquement impossible le contournement des vérifications éthiques ou de souveraineté.
• RAG (Retrieval-Augmented Generation) : Chaque sous-agent utilise le RAG pour interroger des bases de connaissances dynamiques (bases vectorielles) contenant des documents de référence actualisés (lois, rapports énergétiques, déclarations éthiques). Cela ancre les évaluations dans des faits vérifiés plutôt que dans la mémoire paramétrique du modèle.
• LLM-as-a-Judge : Un LLM (Mistral-7B dans l'étude) agit comme juge pour attribuer des scores quantitatifs (0.0 à 1.0) et générer des justifications explicables pour chaque dimension.
• Résolution de Conflits : L'Orchestrateur agrège les contraintes et les scores. Si des conflits surviennent (ex: une solution souveraine mais énergivore), le système tente de trouver un compromis ou bloque l'action si les seuils critiques ne sont pas respectés.

3. Contributions Clés

• Orchestration Multi-Dimensionnelle en Temps Réel : C'est la première architecture à intercepter les actions des agents avant l'exécution pour les évaluer simultanément sur les quatre piliers (Souveraineté, Durabilité, Conformité, Éthique).
• Intégration du RAG pour la Gouvernance : Utilisation du RAG pour réduire les hallucinations et garantir que les jugements de conformité et d'éthique sont basés sur des documents juridiques et techniques actualisés.
• Explicabilité et Traçabilité : Le système génère non seulement des scores, mais aussi des justifications textuelles et des visualisations (graphiques en radar, histogrammes) pour expliquer les décisions, favorisant la transparence.
• Architecture Agnostique et Extensible : La conception par composition permet d'intégrer ce cadre dans n'importe quel agent existant (bancaire, RH, etc.) sans refonte majeure du système hôte.

4. Résultats Expérimentaux

L'évaluation a été menée via une approche automatisée (LLM-as-a-Judge) comparant deux configurations : un agent "Vanilla" (sans RAG) et un agent "Augmenté" (avec RAG).

• Réduction des Hallucinations : L'intégration du RAG a significativement amélioré la cohérence sémantique des justifications. Les agents sans RAG tendaient à générer des justifications génériques ou à halluciner des lois inexistantes (ex: inventer une loi canadienne sur la vie privée).
• Amélioration des Scores (BERTScore) : L'analyse par BERTScore a montré une meilleure similarité sémantique entre les explications générées avec RAG et les documents de référence, confirmant que le raisonnement est désormais ancré dans des preuves factuelles.
• Variabilité des Scores : Les résultats montrent que l'ajout de RAG modifie les scores attribués (positivement ou négativement) selon le contexte. Par exemple, pour la conformité, le score a baissé lorsque le RAG a permis d'identifier des violations spécifiques que le modèle de base n'avait pas détectées.
• Visualisation : Le système a réussi à synthétiser les données en visualisations claires (diagrammes en barres et radar) pour résumer l'état de conformité d'une action donnée.

5. Signification et Perspectives

Signification :
Le cadre COMPASS marque un changement de paradigme : passer d'une gouvernance de l'IA qui est une vérification a posteriori (audit) à une gouvernance intrinsèque et en temps réel. Il offre une méthode méthodologique robuste pour déployer des agents IA responsables, capables de s'adapter aux contextes culturels et réglementaires locaux tout en respectant les limites planétaires.

Limites Actuelles :

• Absence de validation humaine en boucle (Human-in-the-loop) pour l'instant.
• Capacité limitée à sélectionner et exécuter automatiquement des actions correctives (le système évalue et explique, mais l'acte d'optimisation finale est encore en développement).
• Gestion des conflits complexes entre les sous-agents (ex: souveraineté vs efficacité carbone) nécessitant des stratégies d'orchestration plus sophistiquées.

Travaux Futurs :
Les auteurs prévoient d'intégrer des protocoles de validation hybrides (humains + IA), d'optimiser les stratégies de curation des documents pour le RAG, d'élargir l'analyse éthique au niveau du code source des agents, et d'explorer des approches de "mélange d'agents" (mixture-of-agents) pour renforcer la robustesse des évaluations.

En conclusion, COMPASS pose les bases d'une infrastructure essentielle pour l'avenir de l'IA agentique, assurant que l'autonomie opérationnelle ne se fasse pas au détriment des valeurs humaines, de la conformité légale et de la durabilité environnementale.