A Human-Centred Architecture for Large Language Models-Cognitive Assistants in Manufacturing within Quality Management Systems

Cette étude propose une architecture logicielle centrée sur l'humain pour intégrer des assistants cognitifs basés sur des modèles de langage dans les systèmes de gestion de la qualité du secteur manufacturier, comblant ainsi une lacune de la littérature et validant sa conception par des groupes d'experts pour en assurer la flexibilité et l'évolutivité.

L'essentiel

🏭 Le Problème : L'usine a besoin d'un cerveau, pas juste d'un robot

Imaginez une grande usine moderne. Elle est remplie de machines, de plans complexes et de règles strictes pour garantir que chaque produit est parfait (c'est ce qu'on appelle le Système de Management de la Qualité ou SMQ).

Maintenant, imaginez qu'on introduise un nouvel employé très intelligent : un Assistant Cognitif basé sur l'Intelligence Artificielle (comme un Chatbot très avancé, type ChatGPT). Ce nouvel employé peut lire des manuels, répondre aux questions des ouvriers et aider à résoudre des problèmes.

Le souci ?
Si on laisse cet IA travailler seule dans l'usine, c'est comme donner les clés de la voiture à un enfant qui ne connaît pas le code de la route.

1. Elle peut inventer des faits (hallucinations).
2. Elle peut oublier les règles de sécurité.
3. Elle ne sait pas comment se mettre à jour avec les nouvelles procédures de l'usine.

Les chercheurs de l'Université RWTH Aachen en Allemagne se sont dit : "Il nous faut une architecture logicielle spéciale, conçue pour l'humain, qui intègre cette IA dans le système de qualité de l'usine sans casser les règles."

---

🏗️ La Solution : Une "Tour de Contrôle" intelligente

Les auteurs ont conçu une architecture logicielle (une sorte de plan d'ingénierie) pour créer cet assistant. Pour faire simple, imaginez que ce n'est pas un seul robot, mais une équipe de spécialistes qui travaillent ensemble dans une tour de contrôle.

Voici les composants clés, expliqués avec des analogies :

1. Le Chef d'Orchestre (Le Contrôleur de Chat)

C'est le réceptionniste de l'usine. Quand un ouvrier pose une question (par écrit ou par voix), c'est lui qui l'accueille et la dirige vers le bon département. Il gère aussi la sécurité des accès (qui a le droit de demander quoi).

2. Le Bibliothécaire Ultra-Rapide (RAG - Récupération Augmentée)

Au lieu que l'IA devine la réponse, elle va chercher la réponse exacte dans les archives de l'usine.

• L'analogie : Imaginez un bibliothécaire qui, au lieu de se fier à sa mémoire, court immédiatement chercher le bon manuel technique, le plan de la machine ou la procédure de sécurité mise à jour hier. Il lit le document et le donne à l'IA pour qu'elle réponde. Cela évite les inventions.

3. Le Gardien de la Sécurité (Guardrailling)

C'est le garde du corps. Avant que l'IA ne réponde, le Gardien vérifie deux choses :

• Le test de "Jailbreak" : Est-ce que l'utilisateur essaie de piéger l'IA pour qu'elle dise des bêtises dangereuses ?
• Le test des faits : Est-ce que la réponse est cohérente avec la réalité de l'usine ?
  C'est comme un filtre à café qui ne laisse passer que le liquide propre, sans les impuretés.

4. Le Moteur d'Apprentissage (Fine-Tuning + Adaptateurs)

L'IA de base est comme un étudiant généraliste qui sait tout un peu partout, mais pas grand-chose sur votre usine spécifique.

• L'analogie : Les chercheurs ajoutent des "adaptateurs" (comme des lunettes spécialisées) à l'IA. Cela lui permet de comprendre le jargon spécifique de l'usine et de se comporter comme un expert du secteur, sans avoir besoin de réapprendre tout depuis zéro.

5. Le Cercle Vertueux (Feedback Humain)

C'est la partie la plus importante pour l'humain. Si l'IA donne une mauvaise réponse, l'ouvrier peut cliquer sur "Insuffisant" ou "À compléter".

• Le processus : Cette remarque devient un "ticket". Un superviseur (un humain) vérifie le ticket, corrige la réponse, et ajoute le nouveau document à la bibliothèque.
• Le résultat : L'IA apprend de ses erreurs, mais seulement après validation humaine. C'est comme un apprenti qui ne peut pas changer la recette du gâteau tant que le chef n'a pas goûté et validé la nouvelle version.

---

🧪 Comment ont-ils vérifié que ça marche ?

Les chercheurs n'ont pas juste dessiné le plan sur un coin de table. Ils ont organisé des réunions de groupe (focus groups) avec 7 experts (des profs, des développeurs, des spécialistes de la qualité).

• Étape 1 : Ils ont montré le plan. Les experts ont dit : "Ah, il manque un contrôle de sécurité ici !" ou "Il faut que ce soit plus facile à utiliser".
• Étape 2 : Ils ont corrigé le plan.
• Étape 3 : Ils ont montré la version améliorée. Les experts ont dit : "Ça, c'est bon, ça respecte les règles de l'industrie et ça aide vraiment les humains."

---

🎯 En résumé : Pourquoi c'est génial ?

Ce projet ne veut pas remplacer les humains par des robots. Au contraire, il veut donner des super-pouvoirs aux humains.

• Pour l'usine : C'est plus sûr, plus conforme aux règles (ISO 9001), et les connaissances ne se perdent pas quand un employé part à la retraite.
• Pour l'employé : Il a un assistant qui connaît tous les manuels par cœur, qui ne se trompe pas de procédure, et qui l'aide à travailler plus intelligemment.

La métaphore finale :
C'est comme si vous aviez un co-pilote dans votre voiture. Le co-pilote (l'IA) connaît toutes les règles de la route, lit la carte en temps réel et vous prévient des dangers. Mais c'est vous (l'humain) qui tenez le volant, qui décidez de la destination, et qui validez les actions. Ensemble, vous arrivez à destination plus vite et plus en sécurité.

Note : Pour l'instant, c'est une architecture théorique validée par des experts. Les chercheurs prévoient de la tester réellement dans de vraies usines bientôt pour voir comment elle se comporte sur le terrain.

Résumé technique

1. Problématique

L'intégration des Assistants Cognitifs basés sur les Grands Modèles de Langage (LLM-CA) dans les systèmes de gestion de la qualité (QMS) des environnements de fabrication pose plusieurs défis critiques qui ne sont pas résolus par les architectures logicielles actuelles :

• Absence d'architecture centrée sur l'humain : La littérature actuelle ne propose pas d'architecture logicielle holistique spécifiquement conçue pour intégrer les LLM-CA dans les QMS manufacturiers.
• Risques de fiabilité et de sécurité : Les solutions existantes souffrent de problèmes tels que les "hallucinations" (erreurs de raisonnement), le manque de vérification des faits, la vulnérabilité aux attaques par "jailbreak" (contournement des règles de sécurité) et l'absence de mécanismes de contrôle de conformité.
• Gestion des connaissances non structurée : Les QMS (selon la norme ISO 9001:2015) exigent une gestion rigoureuse, versionnée et auditable des documents (procédures, manuels, meilleures pratiques). Les architectures actuelles ne combinent pas efficacement l'apprentissage fin (fine-tuning), la génération augmentée par récupération (RAG) et les mises à jour hiérarchiques des bases de connaissances.
• Conflit entre innovation et conformité : Il est difficile d'implémenter des technologies d'IA avancées tout en respectant les contraintes strictes d'audit et de sécurité des données inhérentes aux systèmes de qualité industriels.

2. Méthodologie

Les auteurs ont développé une architecture logicielle en suivant un processus de développement logiciel itératif basé sur le Domain-Driven Design (DDD) (Conception Pilotée par le Domaine).

• Analyse des besoins : Les fonctionnalités requises (FR) et les exigences non fonctionnelles (NFR) ont été extraites d'une étude précédente et opérationnalisées (Tableau 1 de l'article). Ces besoins incluent la confiance en l'IA, la résistance aux entrées adverses, l'intégration de l'humain dans la boucle (Human-in-the-loop) et l'intégrité de la conformité.
• Conception Architecturale :
  • Utilisation du DDD pour définir des "contextes délimités" (Bounded Contexts) tels que : Chat, RAG, LLM, Base de connaissances, Feedback, etc.
  • Adoption d'une architecture microservices basée sur un système multi-agents (MAS). Chaque microservice agit comme un agent autonome.
  • Choix techniques clés : Combinaison de la RAG (pour l'accès aux connaissances à jour) et de l'apprentissage fin par adaptateurs (pour l'efficacité paramétrique et la spécialisation de domaine).
• Validation : L'architecture a été validée via deux groupes de discussion (focus groups) itératifs avec sept experts du domaine (académiques et industriels) spécialisés en développement logiciel, QMS et LLM. Les experts ont évalué la première version, proposé des améliorations, et validé la version finale.

3. Contributions Clés et Architecture Proposée

L'article propose une architecture logicielle modulaire, flexible et évolutive, orchestrée par un contrôleur central (ChatController). Les composants principaux sont :

• Agent Conversationnel (ConversationalAgent) : Gère les interactions multimodales (texte et voix) via des modules de compréhension (NLU) et de génération (NLG) de langage naturel.
• Agent LLM (LLMAgent) : Cœur du système contenant le modèle de langage et des adaptateurs de domaine. Il inclut un module de "Guardrailling" (surveillance) pour filtrer les contenus nuisibles et garantir le respect des règles éthiques et de conformité. Il supporte également l'appel de fonctions (function calling) pour des calculs techniques.
• RAG (RAGRetrieval) : Gère l'ingestion de documents (fichiers, retours d'expérience), leur segmentation (chunking), leur vectorisation et leur stockage. Il permet d'injecter des connaissances actualisées dans le LLM.
• Évaluation des Retours (FeedbackEvaluation) : Mécanisme crucial pour l'amélioration continue. Les utilisateurs peuvent signaler des réponses insuffisantes ou incomplètes. Ces tickets de feedback subissent deux vérifications de sécurité (Jailbreak Check et Fact Check) avant d'être intégrés dans la base de connaissances vectorielle.
• Contrôle d'Accès et Historique : Gestion des droits utilisateurs via une liste de contrôle d'accès (ACL) et stockage de l'historique des conversations pour la reprise de contexte.

4. Résultats

L'architecture conçue répond aux exigences initiales en offrant :

• Une gestion des connaissances auditable : Conformité avec les normes ISO 9001 grâce à la versionning des documents et aux processus de validation des mises à jour de la base de connaissances.
• Sécurité et Robustesse : Intégration de vérifications de "jailbreak" et de faits pour prévenir la propagation de fausses informations ou de comportements malveillants.
• Amélioration Continue : Le système permet une mise à jour hiérarchique des connaissances (ex: les superviseurs peuvent valider les corrections proposées par les opérateurs), favorisant ainsi l'apprentissage organisationnel.
• Flexibilité : La nature microservices permet de remplacer ou de mettre à jour des composants spécifiques (ex: changer le modèle LLM) sans affecter l'ensemble du système.

5. Signification et Perspectives

Cette étude comble un vide majeur dans la littérature en fournissant le premier cadre architectural conçu spécifiquement pour l'intégration des LLM-CA dans les QMS manufacturiers.

• Impact Industriel : Elle permet de transformer les LLM-CA d'outils expérimentaux en systèmes opérationnels fiables, capables de soutenir la prise de décision, la gestion des connaissances et l'amélioration des processus dans un environnement réglementé.
• Approche Centrée Humain : L'architecture place l'humain au cœur du processus, en augmentant ses capacités cognitives tout en maintenant un contrôle humain sur la validation des connaissances critiques.
• Limites et Futur : L'étude reste théorique et conceptuelle. Les auteurs prévoient d'opérationaliser l'architecture avec des partenaires industriels, de la tester sur des cas d'usage réels en fabrication et d'évaluer les performances de différents modèles LLM pour affiner l'architecture.

En résumé, cette architecture propose une voie viable pour déployer l'IA générative dans l'industrie 4.0 tout en respectant les rigueurs des systèmes de gestion de la qualité.