NuHF Claw: A Risk Constrained Cognitive Agent Framework for Human Centered Procedure Support in Digital Nuclear Control Rooms

Each language version is independently generated for its own context, not a direct translation.

🏭 Le Problème : Le "Super-Pouvoir" qui devient un Piège

Imaginez que vous conduisez une voiture de course très ancienne avec des boutons en métal et des cadrans analogiques. C'est simple, direct. Maintenant, imaginez que cette voiture est remplacée par une Tesla futuriste avec un écran géant, des menus cachés dans des sous-menus et des assistants virtuels.

C'est ce qui est arrivé aux centrales nucléaires. Elles sont passées des vieux boutons physiques aux écrans numériques complexes.

Le bon côté : On a plus d'informations.
Le mauvais côté : Les opérateurs doivent maintenant "naviguer" dans des menus (ce qu'on appelle le "contrôle doux" ou soft control). C'est comme chercher une aiguille dans une botte de foin numérique. Cela crée de nouvelles erreurs : on se perd dans les menus, on oublie où on est, ou on est submergé par trop d'informations.

De plus, les chercheurs veulent utiliser l'Intelligence Artificielle (IA) pour aider les opérateurs. Mais l'IA actuelle a un défaut majeur : elle peut halluciner. Elle peut inventer des faits ou donner un conseil dangereux en toute confiance. Dans une centrale nucléaire, une hallucination peut être catastrophique.

🦁 La Solution : NuHF-Claw, le "Co-pilote de Prudence"

Les auteurs (de l'Université Tsinghua) ont créé un nouveau système appelé NuHF-Claw. Imaginez-le non pas comme un robot qui prend le volant, mais comme un co-pilote ultra-vigilant qui ne vous laisse jamais faire une bêtise.

Voici comment cela fonctionne, avec des analogies simples :

1. Le Jumeau Numérique (Le "Double" de l'opérateur) 🧠

Au lieu de juste regarder les boutons, le système crée un double virtuel de l'opérateur humain en temps réel.

L'analogie : C'est comme si vous aviez un jumeau invisible qui fait exactement ce que vous faites dans le jeu vidéo, mais qui calcule instantanément : "Attends, ton cerveau est fatigué, tu vas mettre 10 secondes de plus pour trouver ce bouton, et tu risques de te tromper."
Ce jumeau utilise une technologie appelée ACT-R (un modèle de la façon dont le cerveau humain pense) pour prédire vos erreurs avant même qu'elles n'arrivent.

2. Le Traducteur de Recettes (L'Agent Procédure) 📜

Les manuels de sécurité sont écrits en langage humain ("Vérifiez la température du réacteur"). L'IA doit savoir où cliquer sur l'écran pour le faire.

L'analogie : Imaginez un chef cuisinier (l'IA) qui lit une recette complexe et la transforme instantanément en un itinéraire GPS précis sur votre tableau de bord, vous montrant exactement quel bouton appuyer, sans jamais se tromper de menu.

3. Le Gardien de la Sécurité (La "Porte de Gouvernance") 🛡️

C'est la partie la plus importante. Le système ne laisse jamais l'IA agir seule.

L'analogie : Imaginez un gardien de sécurité à la porte d'une banque. L'IA (le client) dit : "Je veux ouvrir le coffre !". Le gardien (le système) vérifie deux choses :
1. Est-ce que le client est en train de paniquer ? (Charge cognitive).
2. Est-ce que le risque est trop élevé ?
  Si la réponse est "Oui, c'est trop risqué", le gardien dit : "STOP ! L'IA ne peut pas le faire seule. C'est à l'humain de valider."
  Cela empêche l'IA de devenir un "dictateur" et garantit que l'humain garde toujours le dernier mot.

🎯 Comment ça marche en pratique ?

Dans l'expérience décrite dans l'article, ils ont utilisé un simulateur de réacteur nucléaire très réaliste.

Détection : Le système voit qu'il y a un problème (ex: une panne de générateur).
Analyse : Le "Jumeau Numérique" calcule que l'opérateur est stressé et que trouver le bon bouton prendra trop de temps.
Action : Au lieu de cliquer tout seul, le système dit à l'opérateur : "Je vois que vous êtes sous pression. Voici le chemin le plus sûr pour aller au bouton, mais c'est à vous de le valider."

💡 Pourquoi c'est révolutionnaire ?

Avant, on utilisait des méthodes de sécurité "à froid" (on analyse les erreurs après coup, comme un médecin qui regarde une autopsie).
NuHF-Claw est comme un médecin de sport en direct : il surveille votre rythme cardiaque, votre fatigue et votre stress pendant que vous courez, et il vous dit : "Ralentis, tu vas faire une erreur dans 3 secondes" ou "C'est bon, tu peux continuer".

En résumé

NuHF-Claw est un cadre de travail intelligent qui :

Comprend comment le cerveau humain fonctionne sous pression.
Utilise l'IA pour aider, mais la bride court (elle ne peut pas agir seule).
Transforme les procédures écrites en actions numériques sûres.
Garantit que dans une centrale nucléaire, l'humain reste le capitaine, et l'IA n'est qu'un excellent navigateur qui ne laisse jamais le bateau s'échouer.

C'est un pas immense pour rendre les centrales nucléaires plus sûres à l'ère du tout-numérique, en utilisant l'IA non pas pour remplacer l'homme, mais pour protéger son esprit.

Each language version is independently generated for its own context, not a direct translation.

1. Problématique et Contexte

La numérisation des salles de contrôle principales (MCR) des centrales nucléaires a transformé les modes d'interaction des opérateurs, passant d'instruments analogiques à des interfaces numériques complexes. Cette transition a introduit un phénomène critique appelé « contrôle souple » (soft control), où les opérateurs doivent naviguer activement dans des interfaces pour collecter des informations et interpréter l'état du système.

Limites des méthodes actuelles : Les analyses de fiabilité humaine (HRA) traditionnelles sont largement passives, rétrospectives et statiques. Elles peinent à capturer les erreurs cognitives dynamiques (confusion de mode, surcharge cognitive, fatigue de recherche visuelle) inhérentes aux interfaces numériques.
Risques de l'IA autonome : Bien que les grands modèles de langage (LLM) et les agents autonomes offrent un potentiel de soutien décisionnel, leur déploiement direct dans des environnements critiques pose des risques majeurs :
- Hallucinations : Génération d'étapes opérationnelles plausibles mais factuellement incorrectes ou dangereuses.
- Érosion de l'autorité humaine : Risque que l'IA prenne le contrôle, violant le principe de défense en profondeur.
Besoins non satisfaits : Il existe un vide méthodologique pour un système capable de fournir un soutien décisionnel en temps réel, tout en étant contraint par des probabilités de risque dynamiques et en préservant l'autorité finale de l'opérateur humain.

2. Méthodologie : Le Cadre NuHF-Claw

NuHF-Claw est un cadre d'agent cognitif persistant conçu pour l'autonomie centrée sur l'humain. Il fonctionne comme un « runtime d'agent contraint par le risque », intégrant quatre modules synergiques fonctionnant en arrière-plan de la salle de contrôle numérique.

Architecture en Quatre Couches :

Environnement Jumeau Numérique (Perception) :
- Utilise un simulateur haute fidélité (HTR-PM) pour acquérir des données de télémétrie en temps réel.
- Un algorithme LSTM (Long Short-Term Memory) diagnostique automatiquement les événements initiaux (ex: déconnexion de générateur) pour déclencher les flux de travail des agents.
Agent Interface-Procédure (Modélisation de Tâches) :
- Utilise le framework AutoGraph pour analyser les procédures opérationnelles d'urgence (EOP) textuelles.
- Mappe automatiquement ces procédures sur un Graphe de Connaissance Intégré à l'Interface (IE-KG), transformant le texte en chemins opérationnels exécutables et coordonnés sur l'écran, évitant ainsi les déviations sémantiques des LLM.
Agent Jumeau Cognitif (Modélisation Humaine) :
- Implémente une architecture ACT-R (Adaptive Control of Thought—Rational) générée automatiquement par un LLM (éliminant le codage Lisp manuel complexe).
- Simule en temps réel la trajectoire cognitive de l'opérateur (recherche visuelle, récupération de mémoire, exécution motrice) pour prédire le temps requis ( $T_{reqd}$ ) et détecter les goulots d'étranglement cognitifs.
- Génère une distribution log-normale de la probabilité d'erreur liée au temps ( $P_t$ ).
Agent Risque Dynamique et Porte de Sécurité (Gouvernance) :
- Agent Risque : Utilise le framework KRAIL (basé sur LLM et IDHEAS-ECA) pour analyser les facteurs d'influence de la performance (PIF) dynamiques et calculer la probabilité d'erreur cognitive ( $P_c$ ).
- Porte de Sécurité (Governance Safety Gate) : Utilise un Réseau Bayésien pour fusionner $P_t$ et $P_c$ afin de calculer une probabilité d'erreur humaine systémique (HEP) en temps réel.
- Mécanisme de Contrôle : Si le risque dépasse un seuil prédéfini, l'agent ne exécute pas l'action. Il génère une suggestion informée par le risque et exige une validation humaine avant toute exécution, préservant ainsi l'autorité de décision de l'opérateur.

3. Contributions Clés

Modélisation du « Contrôle Souple » : Analyse systématique des modes d'erreur cognitive introduits par les interfaces numériques, en passant d'une automatisation passive à une simulation proactive des goulots d'étranglement cognitifs.
Architecture d'Agent Contrainte par le Risque : Premier cadre reliant l'HRA dynamique et les agents IA autonomes. Il restreint les décisions des LLM dans des limites de probabilité d'erreur humaine (HEP) dynamiquement calculées.
Génération Automatique de Jumeaux Cognitifs : Utilisation des LLM pour générer automatiquement du code Lisp ACT-R, surmontant le goulot d'étranglement historique de la modélisation manuelle et permettant un « Jumeau Humain » persistant et adaptable.
Autonomie Centrée sur l'Humain : Le système agit comme un copilote cognitif avancé plutôt que comme un dictateur autonome, garantissant que l'IA reste un outil de soutien soumis à une validation humaine stricte.

4. Résultats de l'Étude de Cas

L'étude a été validée sur un simulateur complet de réacteur à haute température (HTR-PM600) avec trois opérateurs (étudiants en génie nucléaire) lors d'un scénario d'arrêt d'urgence.

Alignement du Jumeau Cognitif : Les estimations de charge de travail et de temps d'exécution du modèle ACT-R (généré par LLM) correspondaient fortement aux données empiriques de suivi de la souris et aux questionnaires NASA-TLX post-expérience (Variance expliquée > 0,9).
Détection des Vulnérabilités : Le système a identifié avec précision les séquences à haut risque, notamment les navigations complexes sur l'écran (« Screen Navigation ») et les basculements de mode, qui augmentent la probabilité d'erreur.
Efficacité de la Gouvernance : La couche de gouvernance a réussi à filtrer les actions à risque élevé, forçant la confirmation humaine pour les étapes critiques, tout en permettant une assistance fluide pour les tâches à faible risque.
Performance Temporelle : Le module KRAIL a traité des scénarios dynamiques complexes en moins de 150 secondes, permettant une contrainte probabiliste en temps réel.

5. Signification et Perspectives

Signification :
NuHF-Claw représente un changement de paradigme fondamental dans la sûreté nucléaire : le passage d'une prédiction passive des erreurs humaines à une sauvegarde proactive et gouvernée par l'IA de la cognition humaine. Il offre une voie principielle pour intégrer des agents intelligents dans des environnements critiques sans compromettre la sécurité ou l'autorité humaine.

Perspectives Futures :

Calibration Multimodale : Intégration de données physiologiques (suivi oculaire, EEG) pour affiner les estimations de charge cognitive.
Optimisation de la Latence : Déploiement de modèles de substitution légers pour réduire la latence d'inférence à l'échelle de la microseconde.
Gouvernance d'Équipe : Extension du cadre pour modéliser la dynamique de groupe et la coordination entre plusieurs opérateurs.
Déploiement en Boucle Fermée : Validation à long terme avec des équipages réels dans des simulateurs pour passer du prototype de recherche à une plateforme industrielle.

En résumé, NuHF-Claw démontre qu'il est possible de créer des systèmes d'IA autonomes qui sont non seulement intelligents, mais aussi cognitivement conscients et strictement contraints par le risque, rendant leur utilisation viable dans les salles de contrôle nucléaires de nouvelle génération.