A Human-Centred Architecture for Large Language Models-Cognitive Assistants in Manufacturing within Quality Management Systems

该研究针对现有文献中缺乏面向制造业质量管理体系（QMS）的人本软件架构这一空白，设计并验证了一种可集成大语言模型认知助手（LLM-CA）的组件化架构，旨在通过增强工作流、提升灵活性与可扩展性来推动制造过程的持续改进。

要点

这篇论文讲述了一个非常有趣且实用的想法：如何给工厂里的“质量管理系统”装上一个超级聪明的 AI 助手，让它既能像老专家一样懂行，又能像新学徒一样不断学习，同时还能严格遵守工厂的“规矩”。

我们可以把这篇论文的核心内容想象成建造一个“工厂里的全能智能管家”。

1. 为什么要造这个管家？（背景与痛点）

想象一下，你是一家大工厂的经理。工厂里有一堆厚厚的“操作手册”、“最佳实践指南”和“机器说明书”（这就是质量管理体系 QMS）。

• 现状：工人们遇到问题，得去翻这些厚厚的书，或者问老员工。老员工可能忙，或者记性不好。
• 新技术：现在有了像 ChatGPT 这样的大语言模型（LLM），它们很聪明，能回答问题。
• 问题：但是，直接拿一个通用的 AI 进工厂很危险！
  • 它可能会“胡编乱造”（幻觉），比如告诉工人把机器温度调错，导致产品报废。
  • 它可能不懂工厂的“潜规则”或安全标准。
  • 工厂的数据是保密的，不能随便让 AI 乱用。

论文的目标：设计一套专门的软件架构，把这个聪明的 AI 变成工厂里听话、靠谱、懂规矩的“认知助手”。

2. 这个管家是怎么设计的？（核心架构）

作者没有直接给 AI 灌入所有知识，而是设计了一个像精密流水线一样的系统。我们可以把它比作一个**“智能图书馆 + 审核委员会 + 记忆库”**的组合：

A. 核心大脑：LLM 代理（The Brain）

这是管家的“大脑”。但它不是那种只会聊天的普通大脑，而是经过特训的。

• 比喻：就像给一个普通的大学毕业生（通用大模型）穿上了工厂专用的工装和护目镜（领域适配器）。这样它既保留了聪明的大脑，又专门懂工厂的术语和流程。

B. 实时知识库：RAG 检索（The Library）

工厂的规则和手册经常变。如果只靠大脑死记硬背，它很快就会过时。

• 比喻：这个系统给大脑配了一个**“超级图书管理员”**。当工人问问题时，大脑不会瞎编，而是先让图书管理员去最新的“文件柜”里找对应的说明书片段，然后结合片段回答。
• 好处：确保回答永远基于最新、最准确的工厂文档，而不是 AI 的“记忆”。

C. 安全卫士：护栏与审核（The Security Guard）

这是最关键的部分。工厂最怕 AI 乱说话或被人恶意利用。

• 比喻：在 AI 说话之前，有一个**“安检门”**（护栏检查）。
  • 防黑客：如果有人试图用奇怪的话术骗 AI 说出机密（越狱攻击），安检门会立刻拦截。
  • 防胡说：AI 生成的答案会经过“事实核查”，确保符合物理规律和工厂规定。
  • 合规性：确保回答符合 ISO 9001（国际质量标准）和法律法规。

D. 人类反馈环：师徒制（The Mentorship Loop）

系统不是完美的，需要人来教它。

• 比喻：这就像**“师徒制”**。
  • 如果工人觉得 AI 回答得不好，可以打个“差评”或“补充建议”（反馈票）。
  • 这些反馈票不会直接进大脑，而是先经过**“高级主管”**（特定权限的用户）审核。
  • 审核通过后，这些新知识才会被整理进“图书管理员”的数据库里。
  • 亮点：这保证了知识更新是受控的、有记录的，符合工厂审计的要求。

3. 这个系统有什么特别之处？（创新点）

以前的 AI 方案要么太简单（不安全），要么太复杂（没法用）。这个架构的巧妙之处在于：

1. 模块化（像乐高积木）：系统被拆分成很多小零件（微服务）。如果“图书管理员”坏了，换一个新的就行，不影响“大脑”工作。
2. 以人为本：它不是要取代工人，而是增强工人。工人是决策者，AI 是提供信息的助手。
3. 符合规矩：它天生就是为了符合 ISO 9001 标准设计的，所有的操作都有记录，随时可以接受“审计”。

4. 他们是怎么验证这个想法的？

作者没有只在电脑前空想，而是找了7 位专家（包括搞软件的、搞工厂管理的、搞质量管理的）开了两次“专家研讨会”（焦点小组）。

• 第一次：把设计图拿出来，大家挑刺：“这里不安全”、“那里太复杂”。
• 修改：作者根据意见修改设计。
• 第二次：再次展示，大家确认：“嗯，这个方案现在靠谱了，可以落地。”

5. 总结与未来

一句话总结：
这篇论文设计了一个**“戴着安全帽、拿着最新手册、有专人审核”的 AI 助手**，专门用来帮助工厂工人更好地管理质量、解决问题和持续改进。

未来的路：
目前这个设计还在“图纸”阶段（理论验证）。下一步，作者计划真的把它装进工厂，让真实的工人在真实的机器旁试用，看看它到底能不能帮工厂省钱、提效，并根据实际使用情况继续升级。

给普通人的启示：
在工业领域引入 AI，不能只追求“聪明”，更要追求“靠谱”和“守规矩”。最好的 AI 不是那个最会聊天的，而是那个最懂行、最安全、最能配合人类工作的。

技术摘要

论文技术总结：面向制造质量管理系统的人本大语言模型认知助手架构

1. 研究背景与问题 (Problem)

在制造业中，大语言模型认知助手（LLM-CAs）具有提升质量管理系统（QMS）性能、促进持续改进和知识管理的潜力。然而，现有文献存在以下关键缺口：

• 缺乏人本架构：目前尚无专门针对制造业 QMS 环境、以人为中心设计的软件架构来集成 LLM-CAs。
• 功能缺失：现有解决方案未能结合微调（Fine-tuning）与检索增强生成（RAG），缺乏基于专家知识的分层知识库更新机制，且未充分涵盖合规性检查、事实核查及防越狱（Jailbreak）检查等关键需求。
• QMS 整合不足：QMS（如 ISO 9001:2015）要求严格的文档管理和审计追踪，而现有 LLM 应用往往忽视了版本化数据语料库（如作业指导书、最佳实践）的整合，导致难以满足审计和合规要求。

核心研究问题：如何设计一种面向制造业 QMS 的人本 LLM-CA 系统架构？

2. 方法论 (Methodology)

本研究采用软件开发生命周期中的需求分析与设计阶段，具体方法如下：

• 领域驱动设计 (DDD)：利用 DDD 方法将复杂系统划分为多个有界上下文（Bounded Contexts），定义通用语言。
• 需求分析：基于前期研究 [1]，将需求分为功能性需求（FR）和非功能性需求（NFR）。关键需求包括：AI 可信度、抗对抗性输入、可扩展性、人机回环（Human-in-the-loop）、合规性完整性等（见表 1）。
• 高层设计决策：
  • 采用 RAG 模式 结合 领域适配器（Domain Adapters） 进行参数高效微调，以增强领域特定知识的输出。
  • 引入 对话代理（Conversational Agent） 支持多模态交互。
  • 实施 通用安全检查机制 以应对恶意输入和知识库污染。
• 架构验证：通过两轮迭代式专家焦点小组（Focus Groups） 进行定性评估。7 位来自学术界和工业界的专家（涵盖软件、QMS、LLM 领域）对架构草案进行评审，提出改进意见，最终确认架构方案。

3. 关键贡献与架构设计 (Key Contributions & Architecture)

本文提出了一种基于微服务架构的多智能体系统（Microservice-based Multi-Agent System, MAS）。该架构具有灵活性、可扩展性、模块化和工作增强特性。

核心组件与功能：

1. ChatController：作为用户界面（UI）的接口，协调各组件间的通信。
2. ConversationalAgent Controller：协调语音/文本交互，连接对话代理、LLM 代理和 RAG 检索模块。
3. LLMAgent (核心智能体)：
   • Guardrailling (护栏)：执行安全测量，识别有害提示和模型回复，确保符合伦理、合规指南（如政府法规、员工平等政策）。
   • LLM with Adapters：包含通用大模型及多个领域适配器，支持函数调用（Function Calling），允许用户执行过程特定的计算和数据分析（如优化产品设置时间）。
4. RAGRetrieval (检索增强生成)：
   • 管理文档加载（文件系统或反馈工单）。
   • 执行文档分析（布局、表格结构）、统一格式、分块（Chunking）、向量化并存储至向量数据库。
   • 根据查询检索相关文档块注入 LLM。
5. FeedbackEvaluation (反馈评估)：
   • 人机回环机制：用户可对回答标记为“不足”或“扩展”，生成反馈工单。
   • 分层更新：特定用户组（如主管，User Group k-1）可重写答案或更新文档。
   • 双重安全检查：在将反馈知识注入向量库前，必须通过越狱检查（防止对抗性输入）和事实核查（确保知识在上下文中准确）。
   • 持续学习：反馈工单被存储并可供管理层（User Group k）检索，用于分析知识缺口和系统质量。
6. Access Control List (ACL)：管理不同用户组的权限。
7. ConversationHistory：存储所有对话记录以支持会话恢复。

4. 结果 (Results)

• 架构成型：成功设计并验证了一个包含上述组件的完整软件架构图（见图 1）。
• 专家认可：经过两轮焦点小组讨论，架构在灵活性、安全性（防越狱、事实核查）、合规性（审计追踪、版本控制）以及人机协作方面获得了领域专家的认可。
• 功能实现：架构明确了如何通过微服务实现 LLM 的领域适配、安全护栏、动态知识库更新以及基于反馈的持续改进流程。

5. 意义与展望 (Significance & Outlook)

• 理论意义：填补了制造业 QMS 背景下 LLM-CAs 软件架构设计的空白，提出了将 AI 能力与 ISO 9001 等工业标准深度融合的解决方案。
• 实践价值：
  • 增强员工能力：使员工成为持续改进的关键参与者，同时提供数据分析、文档版本控制等技术辅助。
  • 合规与可信：通过内置的护栏、事实核查和分层审批机制，解决了 LLM 在工业应用中常见的幻觉、数据安全和合规性难题。
  • 可审计性：符合 QMS 对文档管理和审计追踪的严格要求。
• 局限性与未来工作：
  • 目前研究处于理论设计阶段，尚未在实际制造场景中进行全功能测试。
  • 未来计划在实际制造用例中部署该架构，进行性能评估，并测试不同 LLM 模型的表现，以进一步优化架构。

总结：该论文提出了一种严谨的、以人为中心的软件架构，旨在解决 LLM 在制造业质量管理系统中落地的关键障碍，通过结合 RAG、微调、安全检查和分层反馈机制，为构建可信、合规且高效的工业 AI 助手提供了蓝图。