A Human-Centred Architecture for Large Language Models-Cognitive Assistants in Manufacturing within Quality Management Systems

Este estudo preenche uma lacuna na literatura ao propor uma arquitetura de software centrada no ser humano, baseada em componentes e validada por especialistas, que permite a integração de Assistentes Cognitivos de Modelos de Linguagem (LLM-AC) nos Sistemas de Gestão da Qualidade (SGQ) da indústria manufatureira para aprimorar a gestão do conhecimento e a melhoria contínua dos processos.

O essencial

Imagine que você está trabalhando em uma grande fábrica de carros ou de eletrônicos. O trabalho lá é complexo: há milhares de manuais, regras de segurança, dicas de especialistas e históricos de máquinas. Antigamente, se um funcionário tivesse uma dúvida, ele teria que procurar em pilhas de papel ou perguntar a alguém que talvez não estivesse disponível.

Agora, imagine que a fábrica ganha um "Assistente Virtual Superinteligente" (chamado no texto de Assistente Cognitivo com IA). Ele é como um bibliotecário que leu todos os manuais do mundo em segundos e pode conversar com você como um colega de trabalho.

O Problema:
O artigo diz que, embora essa tecnologia seja incrível, ninguém sabia como construí-la de forma segura e organizada dentro das regras rígidas de uma fábrica. É como tentar colocar um carro voador em uma garagem antiga: você precisa de uma estrutura nova para que ele não caia e quebra tudo. Além disso, a IA às vezes "alucina" (inventa coisas) e precisa de supervisão humana.

A Solução Proposta (A Arquitetura):
Os autores criaram um "projeto de construção" (arquitetura de software) para esse assistente, focado em Qualidade e Segurança. Eles chamam isso de "Arquitetura Centrada no Humano".

Para explicar como funciona, vamos usar uma analogia de uma Cozinha de Restaurante de Luxo:

1. O Chefe de Cozinha (O Controlador de Chat):
   Ele é o gerente que recebe o pedido do cliente (o funcionário da fábrica). Ele não cozinha nada, mas organiza quem faz o quê. Ele garante que o pedido chegue ao lugar certo.

2. O Prato do Dia (O Agente Conversacional):
   É a parte que fala com o cliente. Ele entende se você pediu em português, inglês ou até se você está gritando (voz). Ele transforma seu pedido em algo que a cozinha entende.

3. A Despensa Inteligente (RAG - Recuperação de Informação):
   Em vez de a IA tentar lembrar de tudo de cabeça (o que pode gerar erros), ela vai até a despensa pegar os ingredientes frescos. Na fábrica, isso significa que, se você perguntar sobre uma máquina específica, o sistema vai buscar o manual atualizado daquela máquina, e não uma versão antiga que estava na internet. Isso garante que a informação esteja sempre correta.

4. O Chefe de Segurança (Guardrails e Verificações):
   Antes de qualquer prato sair da cozinha, ele passa por um inspetor.

   • Checagem de "Jailbreak": Impede que alguém tente enganar a IA para que ela diga coisas proibidas ou perigosas.
   • Checagem de Fatos: Garante que o prato (a resposta) realmente use os ingredientes corretos (dados reais) e não inventos.

5. O Livro de Receitas Vivo (Base de Conhecimento):
   Aqui está a mágica da qualidade. Se um funcionário percebe que uma resposta do assistente estava incompleta, ele pode dar um "feedback" (como um bilhete de reclamação ou sugestão).

   • Hierarquia: Um funcionário comum pode sugerir uma mudança, mas só o Supervisor (o Chef) pode aprovar e colocar essa nova receita no livro oficial. Isso evita que informações erradas se espalhem.
   • Aprendizado Contínuo: O sistema aprende com esses erros e acertos, ficando mais inteligente com o tempo, mas sempre sob supervisão humana.

6. O Livro de Anotações (Histórico):
   Tudo o que foi conversado é guardado. Se você voltar amanhã, o assistente lembra do que vocês conversaram hoje. Isso é crucial para resolver problemas complexos que levam tempo.

Por que isso é importante?
A maioria das IAs hoje é como um "gênio desastrado": sabe muita coisa, mas pode inventar fatos ou não seguir regras. Este projeto cria um sistema de qualidade (baseado na norma ISO 9001) para a IA.

• Segurança: Ninguém pode "quebrar" o sistema para fazer o que quer.
• Confiança: Os trabalhadores sabem que a informação vem de fontes verificadas.
• Melhoria Contínua: A fábrica não fica parada; ela usa a IA para encontrar falhas e melhorar processos, mas o ser humano continua no comando das decisões importantes.

Resumo Final:
Os autores criaram um "projeto de engenharia" para que a Inteligência Artificial possa trabalhar em fábricas sem causar caos. Eles combinaram a inteligência da IA com as regras rígidas de controle de qualidade, garantindo que o assistente seja útil, seguro e que aprenda com os erros, sempre com um olho humano vigilante. É como ter um estagiário superinteligente que nunca dorme, mas que só age depois de receber a aprovação do seu chefe.

Resumo técnico

Título do Estudo

Uma Arquitetura Centrada no Humano para Assistentes Cognitivos de Modelos de Linguagem Grande (LLM-CAs) na Manufatura dentro de Sistemas de Gestão da Qualidade (QMS)

---

1. Problema e Lacuna de Pesquisa

O estudo identifica que, embora os Modelos de Linguagem Grande com Assistentes Cognitivos (LLM-CAs) tenham o potencial de melhorar o desempenho operacional e a gestão do conhecimento em Sistemas de Gestão da Qualidade (QMS) na manufatura, não existe uma arquitetura de software centrada no ser humano focada especificamente na integração desses sistemas dentro de um QMS na literatura atual.

As principais lacunas e desafios abordados incluem:

• Falta de Integração Holística: Soluções existentes não combinam fine-tuning (ajuste fino), Geração Aumentada por Recuperação (RAG), atualizações hierárquicas de bases de conhecimento baseadas em expertise e verificações de conformidade/fatos.
• Riscos de Segurança e Qualidade: Preocupações com alucinações, falta de privacidade de dados, vulnerabilidade a ataques de "jailbreak" e a necessidade de garantir que o conhecimento seja auditável (requisito crítico do ISO 9001:2015).
• Gestão de Documentação: A implementação de LLMs em QMS exige uma abordagem estruturada de gestão de documentos (versões, instruções de trabalho, manuais), algo que muitas arquiteturas atuais de IA ignoram.

2. Metodologia

A arquitetura foi desenvolvida utilizando um processo de desenvolvimento de software baseado em Design Orientado a Domínio (DDD) e estruturada como um Sistema Multi-Agente (MAS) baseado em microsserviços.

• Análise de Requisitos:
  • Derivada de trabalhos anteriores (Galdino et al.) e dividida em Requisitos Funcionais (RF) e Não Funcionais (RNF).
  • Requisitos chave incluem: confiabilidade da IA, resistência a entradas adversárias, adaptabilidade, uso de human-in-the-loop (humano no ciclo) e integridade de conformidade.
• Processo de Design:
  • Utilização da estratégia "English informal" para mapear requisitos em contextos delimitados (bounded contexts).
  • Definição de contextos delimitados: Chat, Retriever, LLM, Knowledge base, Feedback, Conversational Agent, User.
  • Decisões de alto nível: Uso de padrões RAG, adapters de domínio para fine-tuning eficiente e um agente conversacional multimodal.
• Validação:
  • Realizada através de dois grupos focais iterativos com sete especialistas de domínio (academia e indústria) com experiência em desenvolvimento de software, QMS e LLMs.
  • O processo envolveu apresentação da arquitetura, identificação de limitações, refinamento e aceitação final da versão aprimorada.

3. Contribuições Principais (A Arquitetura Proposta)

O resultado central é uma arquitetura de software modular e escalável composta por microsserviços que funcionam simultaneamente como agentes. Os componentes-chave são:

1. Controlador de Chat (ChatController): Orquestra a comunicação e serve como interface com a UI do usuário.
2. Agente Conversacional (ConversationalAgent): Gerencia interações multimodais (texto e voz), utilizando NLU (Compreensão de Linguagem Natural) e NLG (Geração de Linguagem Natural).
3. Agente LLM (LLMAgent): O núcleo de processamento, contendo:
   • Guardrails (Guarda-costas): Mecanismo de segurança para detectar conteúdo prejudicial e garantir conformidade ética e regulatória.
   • LLM com Adapters: Um modelo de linguagem geral ajustado com adapters específicos de domínio para tarefas específicas, permitindo function calling (chamada de funções) para cálculos e análise de dados.
4. Recuperação Aumentada (RAGRetrieval):
   • Gerencia o carregamento, análise (layout, tabelas), fragmentação (chunking) e armazenamento em vetor de documentos (instruções, manuais).
   • Permite a injeção de conhecimento atualizado no LLM.
5. Avaliação de Feedback (FeedbackEvaluation):
   • Permite que os usuários sinalizem respostas como "insuficientes" ou "necessitam de extensão".
   • Cria "tickets de feedback" que passam por duas verificações de segurança (verificação de jailbreak e verificação de fatos) antes de serem integrados à base de conhecimento.
   • Suporta uma hierarquia de permissões (ex: supervisores podem reescrever respostas).
6. Histórico de Conversa (ConversationHistory): Armazena interações para retomada e análise de lacunas de conhecimento.
7. Controle de Acesso (ACL): Gerencia autorizações baseadas em grupos de usuários.

4. Resultados

• Arquitetura Validada: A arquitetura proposta foi aceita pelos especialistas após as iterações, demonstrando viabilidade técnica e alinhamento com as necessidades da indústria.
• Funcionalidades Implementadas: O design garante:
  • Flexibilidade e Escalabilidade: Graças à natureza de microsserviços.
  • Segurança e Conformidade: Mecanismos robustos contra hallucinations, jailbreaks e verificação de fatos, essenciais para auditorias ISO 9001.
  • Aprimoramento Contínuo: O ciclo de feedback humano permite que o sistema aprenda e atualize sua base de conhecimento de forma controlada e hierárquica.
  • Suporte à Tomada de Decisão: Capacidade de realizar cálculos e análises de dados específicos do processo através de function calling.

5. Significado e Impacto

• Ponte entre IA e Manufatura: O estudo preenche a lacuna entre a tecnologia emergente de LLMs e os requisitos rigorosos e estruturados dos Sistemas de Gestão da Qualidade.
• Centrado no Humano: A arquitetura coloca os funcionários como protagonistas, permitindo que eles realizem melhorias de processos e gestão do conhecimento, enquanto a tecnologia atua como suporte (análise de dados, controle de versão, verificações de conformidade).
• Viabilidade Operacional: Paveia o caminho para a implementação prática com parceiros industriais, oferecendo um modelo para integrar IA generativa em ambientes de manufatura sem comprometer a segurança, a privacidade ou a conformidade regulatória.
• Próximos Passos: O estudo reconhece que a arquitetura é teórica e planeja a operacionalização e avaliação em casos de uso reais de manufatura para refinar o desempenho de diferentes LLMs.

Em resumo, o artigo propõe uma solução estruturada para transformar LLMs em ferramentas seguras, auditáveis e eficazes para a melhoria contínua na indústria 4.0, respeitando as normas de qualidade estabelecidas.