From Task Allocation to Risk Clearing: A Unifying Interface for Mixed Human-Agent Societies

Résumé Technique : Éclaircissement d'Options Sensibles au Risque (ROC)

Énoncé du Problème
À mesure que les humains, les robots et les agents logiciels opèrent de plus en plus dans des environnements partagés et critiques pour la sécurité (par exemple, la réponse aux catastrophes, les réseaux énergétiques, la maintenance urbaine), les mécanismes de coordination font face à un écart fondamental. Les cadres existants échouent à répondre simultanément à trois exigences critiques :

1. Ouverture : Les agents sont hétérogènes, conçus par différentes entités et manquent de représentations internes partagées.
2. Abstraction Temporelle : Les capacités ne sont pas des actions atomiques mais des compétences étendues se déroulant dans le temps.
3. Conscience Explicite du Risque : Les décisions doivent tenir compte de la probabilité de respecter les délais et les contraintes de sécurité, en raisonnant sur les queues de distribution plutôt que sur les moyennes uniquement.

Les approches actuelles sont insuffisantes : les planificateurs centralisés supposent des équipes statiques ; l'Apprentissage par Renforcement Multi-Agent (MARL) produit des politiques conjointes opaques ; les mécanismes d'enchère reposent sur des offres scalaires qui obscurcissent la structure temporelle et le risque ; et l'Apprentissage par Renforcement Distributionnel reste focalisé sur des agents individuels sans mécanisme pour coordonner des équipes ouvertes et hétérogènes.

Méthodologie : Éclaircissement d'Options Sensibles au Risque (ROC)
L'article propose l'Éclaircissement d'Options Sensibles au Risque (ROC), un mécanisme de coordination unifié qui traite les « options sensibles au risque » comme l'unité de base de la coordination. ROC fonctionne comme une interface standardisée plutôt que comme un algorithme monolithique.

• Architecture Principale :

  • Agents : Des participants hétérogènes (humains, robots, logiciels) exposent des Options ($o$), définies comme des compétences étendues dans le temps (suivant le cadre des options [27]), couplées à des Résumés de Risque ($Z$) qui prédisent les distributions de résultats.
  • Bourse de Compensation : Une entité centrale reçoit les tâches arrivantes ($\tau$) définies par des objectifs, un contexte, des délais et des contraintes. Elle assigne les tâches en optimisant une fonction d'utilité de mission ajustée au risque.
  • Boucle de Rétroaction : Les résultats réalisés ($G_\tau$) sont renvoyés pour mettre à jour les statistiques de calibration et les réputations des agents, pénalisant la surconfiance.

• Mécanisme Formel :

  • Tâches : Arrivent sous forme de tuples $\tau = (\ell_\tau, x_\tau, d_\tau, C_\tau)$, où $d_\tau$ est un délai et $C_\tau$ inclut des contraintes de sécurité/réglementaires.
  • Résultats : L'exécution produit un vecteur aléatoire $G_\tau = (T_\tau, S_\tau, R^{(k)}_\tau)$ représentant le temps, le succès et les métriques de risque.
  • Optimisation : La bourse de compensation sélectionne un ensemble de paires agent-option $S_\tau$ pour maximiser :
    $$\sum_{\tau \in T} \left( \mathbb{E}[U(G_\tau(S_\tau))] - \lambda \rho(G_\tau(S_\tau)) \right)$$
    sous réserve de contraintes. Ici, $U$ est l'utilité de mission, $\rho$ est une mesure de risque (par exemple, probabilité de violation de délai ou CVaR), et $\lambda$ contrôle l'appétit pour le risque.

• Famille de Mécanismes ROC :
  L'article définit ROC comme un spectre de niveaux de déploiement basé sur la granularité des informations échangées :

  1. ROC-Full : Les agents fournissent les distributions complètes des résultats ($Z^{(i)}_o(x_\tau)$) pour les options éligibles. La bourse de compensation les utilise pour une optimisation précise ajustée au risque.
  2. ROC-Lite : Les agents fournissent des résumés de risque simplifiés (par exemple, temps d'exécution attendu, probabilité de succès, quantiles grossiers) plutôt que des distributions complètes.
  3. ROC-Min : Les agents n'exposent que les métadonnées de capacité (options et contraintes de base). La bourse de compensation apprend des modèles de résultats empiriques ($\tilde{Z}$) à partir de données d'exécution journalisées, ne nécessitant aucune capacité prédictive de la part des agents eux-mêmes.

Contributions Clés

1. Interface Unifiée : ROC propose une interface standardisée « option–risque » permettant à des agents hétérogènes de se brancher à un processus décisionnel partagé sans partager leurs mécanismes internes.
2. Coordination Ajustée au Risque : Elle déplace le paradigme de coordination de l'allocation statique de tâches vers l'optimisation de l'utilité de mission face à des contraintes de risque explicites (délais, violations de sécurité) dans l'incertitude.
3. Architecture Évolutif : En découplant l'exécution/prédiction des options (locale aux agents) de la coordination (bourse de compensation centrale), ROC soutient des sociétés ouvertes où les agents peuvent être ajoutés ou supprimés dynamiquement.
4. Programme de Recherche : L'article trace une voie pour standardiser les métadonnées d'options, diviser les responsabilités de prédiction entre les agents et la bourse de compensation, et intégrer des interfaces humaines qui traduisent les actions en rapports d'options.

Résultats et Évaluation
L'article ne présente pas de résultats expérimentaux empiriques ni de comparaisons de référence. Il fournit plutôt des scénarios illustratifs pour démontrer l'applicabilité du cadre ROC :

• Réponse aux Catastrophes : Un scénario impliquant des médecins, des drones et des robots terrestres coordonnant sous des délais serrés. Il illustre comment ROC-Lite/Full permet d'assigner un drone (rapide, risqué) et un robot (lent, sûr) comme paires primaire/secouriste basées sur des paramètres de risque.
• Gestion de l'Énergie des Micro-réseaux : Démontre la coordination de bâtiments et de batteries pour atteindre les objectifs du réseau tout en respectant les contraintes de confort, en utilisant des prédictions probabilistes plutôt que des coûts scalaires.
• Maintenance Urbaine : Propose un déploiement hiérarchique où des entités locales (ROC-Min) gèrent la confidentialité et les journaux internes, tandis qu'un coordinateur au niveau de la ville (ROC-Lite) agrège des résumés de risque grossiers pour l'assignation de tâches de haut niveau.

Signification et Revendications
Les auteurs positionnent ROC non pas comme un algorithme fixe, mais comme un modèle d'ingénierie fondamental pour les sociétés mixtes humain-agent.

• Analogie de Standardisation : L'article revendique que ROC pourrait jouer un rôle similaire à TCP/IP pour l'échange de données, fournissant l'infrastructure permettant à des agents indépendants de coordonner dans l'incertitude.
• Pont entre Sous-domaines : ROC fait le lien entre l'allocation de tâches, l'apprentissage par renforcement multi-agent et les systèmes normatifs multi-agents en élevant des concepts comme l'Apprentissage par Renforcement Distributionnel et les options hiérarchiques de la machinerie interne des agents vers des protocoles de communication inter-agents.
• Compromis Pratiques : L'article reconnaît que si ROC-Full offre le raisonnement le plus expressif, ROC-Min est le plus déployable pour les systèmes où les agents ne peuvent ou ne veulent pas fournir de prédictions. Le cadre permet aux systèmes d'évoluer de Min vers Full à mesure que les capacités de calibration et de prédiction s'améliorent.

L'article conclut qu'en traitant les compétences étendues dans le temps et les prédictions sensibles au risque comme des objets d'interface de première classe, ROC offre une infrastructure évolutive et transparente pour les futures sociétés mixtes humain-agent, permettant une coordination robuste face à l'incertitude et adaptable à des participants hétérogènes.