A Human-Centred Architecture for Large Language Models-Cognitive Assistants in Manufacturing within Quality Management Systems

Este estudio aborda la falta de una arquitectura centrada en el humano para integrar Asistentes Cognitivos de Modelos de Lenguaje (LLM-CA) en los Sistemas de Gestión de la Calidad (SGC) de la fabricación, proponiendo y validando mediante grupos focales expertos un diseño modular y escalable que mejora la gestión del conocimiento y la mejora continua de los procesos.

Lo esencial

Imagina que una fábrica es como un gigantesco orquesta donde cada máquina, cada operario y cada documento de instrucciones es un músico. Para que la música salga perfecta (productos de calidad), todos deben seguir la misma partitura y saber exactamente qué hacer.

Aquí es donde entra este estudio. Los autores proponen un nuevo "director de orquesta" digital, pero no uno cualquiera: es un Asistente Cognitivo impulsado por Inteligencia Artificial (IA) diseñado específicamente para ayudar a los humanos en la fábrica, siguiendo las estrictas reglas de calidad (llamadas QMS).

Aquí tienes la explicación de cómo funciona, usando analogías sencillas:

1. El Problema: Un genio sin mapa

Hasta ahora, teníamos IAs muy inteligentes (como los modelos de lenguaje grandes) que podían hablar y escribir como humanos. Pero en una fábrica, soltar un "genio" sin supervisión es peligroso.

• El riesgo: La IA podría alucinar (inventar datos), dar instrucciones peligrosas o olvidar las normas de seguridad.
• La solución: No queremos que la IA sea el jefe que toma decisiones por su cuenta; queremos que sea un asistente de confianza que ayuda al operario humano, pero que siempre sigue las reglas del manual de la fábrica.

2. La Arquitectura: El "Cerebro" con capas de seguridad

Los autores diseñaron un sistema de software que funciona como un equipo de especialistas en lugar de una sola máquina. Imagina que es una oficina muy organizada:

• El Recepcionista (El Agente Conversacional): Es la cara del sistema. Habla contigo, ya sea por texto o por voz. Entiende lo que le preguntas y te responde de forma natural.
• La Biblioteca Viva (RAG - Recuperación de Información): La IA no se basa solo en lo que "aprendió" en la escuela (sus datos de entrenamiento), sino que tiene acceso a una biblioteca en tiempo real. Si un operario pregunta "¿Cómo arreglo esta máquina?", la IA va a buscar el manual actualizado, las instrucciones de ayer y los consejos de los expertos, y te da la respuesta exacta basada en documentos reales, no en invenciones.
• Los Guardias de Seguridad (Guardrailling): Antes de que la IA te diga algo, pasa por un filtro de seguridad. Imagina a dos guardias en la puerta:
  1. El guardia de la ética: Se asegura de que la respuesta no sea peligrosa, ilegal o contraria a las normas de la empresa.
  2. El guardia de los hechos: Verifica que la información sea cierta y no una invención de la IA.
• El Sistema de Feedback (El bucle de mejora): Aquí está la parte más humana. Si un operario dice: "Esa respuesta no me sirvió" o "Falta un detalle", el sistema crea una "tarjeta de mejora".
  • Un supervisor (un humano) revisa esa tarjeta, corrige la información y la añade a la biblioteca.
  • Así, la IA aprende de sus errores y de la experiencia de los trabajadores, pero siempre bajo supervisión humana.

3. ¿Por qué es diferente a lo que ya existe?

La mayoría de las IAs actuales son como cajas negras: las usas y esperas que funcione.
Este sistema es como un laboratorio de cocina con receta:

• Auditable: Todo lo que hace la IA queda registrado. Si algo sale mal, puedes revisar quién dio la orden y qué documento usó. Esto es vital para las normas de calidad (ISO 9001).
• Humano en el centro: No reemplaza al operario; lo potencia. El humano sigue siendo el jefe, y la IA es su herramienta para tomar mejores decisiones más rápido.
• Seguro: Tiene controles para evitar que alguien intente engañar a la IA para que haga cosas malas (lo que se llama "jailbreak" o ruptura de seguridad).

4. ¿Cómo lo probaron?

Los investigadores no solo lo diseñaron en un ordenador. Llamaron a 7 expertos (profesores, ingenieros y desarrolladores) y les mostraron el plano.

• Primera ronda: "¿Qué le falta? ¿Qué está mal?"
• Segunda ronda: Les mostraron la versión mejorada.
• Resultado: Todos estuvieron de acuerdo en que el diseño era sólido, seguro y útil para una fábrica real.

En resumen

Este papel propone construir un asistente de IA para fábricas que no es un robot rebelde, sino un socio de confianza. Funciona como un equipo donde la IA busca información, verifica la seguridad, y los humanos supervisan y mejoran el conocimiento. El objetivo es que la fábrica sea más eficiente, segura y que los trabajadores tengan una herramienta inteligente que respete las reglas de calidad y los ayude a mejorar cada día.

Es como darle a cada trabajador un superpoder: la capacidad de consultar a todos los expertos y manuales de la empresa en un segundo, pero con la seguridad de que un supervisor humano siempre revisa el trabajo final.

Resumen técnico

A continuación se presenta un resumen técnico detallado del artículo en español, estructurado según los puntos solicitados:

Título: Una Arquitectura Centrada en el Humano para Asistentes Cognitivos de Modelos de Lenguaje Grande (LLM-CA) en la Manufactura dentro de Sistemas de Gestión de la Calidad (SGC)

1. Problema Identificado

A pesar del potencial de los Asistentes Cognitivos impulsados por Modelos de Lenguaje Grande (LLM-CA) para mejorar el rendimiento operativo, la gestión del conocimiento y la mejora continua en la manufactura, existe una brecha significativa en la literatura actual:

• Falta de arquitectura específica: No existe una arquitectura de software centrada en el ser humano diseñada específicamente para integrar LLM-CA dentro de los Sistemas de Gestión de la Calidad (SGC) en entornos industriales.
• Limitaciones de soluciones actuales: Las soluciones existentes no combinan adecuadamente el ajuste fino (fine-tuning) con la Generación Aumentada por Recuperación (RAG), carecen de mecanismos de actualización jerárquica de bases de conocimiento basados en expertos, y omiten verificaciones críticas de cumplimiento, hechos y seguridad (jailbreak).
• Requisitos de los SGC: Los SGC (según ISO 9001:2015) exigen una gestión documental estructurada, trazabilidad y auditoría, lo cual es difícil de lograr con implementaciones de IA genéricas que no garantizan la integridad de los datos ni el control de versiones.

2. Metodología

El desarrollo de la arquitectura siguió un proceso iterativo de ingeniería de software, utilizando Diseño Dirigido por Dominio (DDD) y un enfoque de Sistema Multiagente (MAS) basado en microservicios.

• Análisis de Requisitos: Se definieron requisitos funcionales (FR) y no funcionales (NFR) derivados de un trabajo previo, enfocándose en la confianza de la IA, la resistencia a entradas adversarias, la escalabilidad, el cumplimiento normativo y la inclusión del "humano en el bucle".
• Diseño de Arquitectura:
  • Se identificaron contextos delimitados (bounded contexts) mediante el análisis de requisitos (Chat, Recuperador, LLM, Base de Conocimiento, Retroalimentación, Agente Conversacional, Usuario).
  • Se adoptó un patrón de Microservicios donde cada contexto funciona como un agente autónomo pero interconectado.
  • Decisiones de diseño clave:
    • Uso de RAG (Generación Aumentada por Recuperación) para conocimiento actualizado en tiempo real.
    • Uso de Adaptadores de Dominio para un ajuste fino eficiente de parámetros en LLMs generales.
    • Implementación de Agente Conversacional para interacción multimodal (texto/voz).
    • Verificaciones de Seguridad Generalizadas: Mecanismos para detectar contenido dañino o intentos de jailbreak.
• Validación: Se realizó mediante grupos focales iterativos con siete expertos del dominio (academia e industria) en dos rondas separadas por un mes. Ellos evaluaron la arquitectura, identificaron limitaciones y validaron la versión final, asegurando la alineación con las necesidades del usuario y los estándares industriales.

3. Contribuciones Clave

El artículo propone una arquitectura de software holística que integra capacidades de IA con los rigurosos estándares de los SGC:

• Arquitectura de Microservicios Multiagente: Un sistema flexible, escalable y modular donde los componentes (controladores) orquestan la comunicación entre el usuario y el núcleo de IA.
• Gestión de Conocimiento Jerárquica y Segura:
  • Implementación de un flujo de retroalimentación donde los usuarios pueden marcar respuestas como "insuficientes" o "extenderlas".
  • Creación de tickets de retroalimentación que requieren aprobación de niveles superiores (ej. supervisores) antes de integrarse en la base de conocimientos.
  • Doble verificación de seguridad: Los tickets pasan por un jailbreak checker (para evitar inyecciones adversarias) y un fact checker (para verificar la veracidad del conocimiento inyectado) antes de actualizarse en el almacén vectorial.
• Cumplimiento Normativo (Compliance): Integración nativa de directrices de cumplimiento y políticas organizacionales a través de un componente de "Guardaespaldas" (Guardrailling) que filtra entradas y salidas del LLM.
• Capacidades de Agente LLM: Uso de function calling para permitir que el sistema realice cálculos matemáticos y análisis de datos de procesos, apoyando directamente la mejora continua (ej. optimización de tiempos de configuración).

4. Resultados (Arquitectura Propuesta)

La arquitectura resultante (ilustrada en la Figura 1 del artículo) se compone de los siguientes controladores y componentes principales:

• ChatController: Orquestador principal e interfaz con la UI.
• ConversationalAgent: Gestiona la interacción multimodal (voz/texto) y coordina al Agente LLM y al Recuperador RAG.
• LLMAgent: El núcleo de IA que incluye:
  • Guardrailling: Filtrado de contenido nocivo y verificación de ética/cumplimiento.
  • LLM con Adaptadores: Un modelo base ajustado para tareas específicas de manufactura, capaz de ejecutar funciones externas.
• RAGRetrieval: Gestiona la carga, análisis, fragmentación (chunking) y almacenamiento vectorial de documentos (instrucciones de trabajo, manuales, mejores prácticas).
• FeedbackEvaluation: Gestiona la mejora continua del sistema mediante tickets de retroalimentación, aplicando las verificaciones de seguridad mencionadas y permitiendo a los supervisores editar o aprobar actualizaciones.
• ConversationHistory: Almacena el historial de conversaciones para continuidad.
• Control de Acceso (ACL): Gestiona permisos diferenciados por grupos de usuarios (ej. operarios vs. gerentes).

5. Significado e Impacto

• Puente entre IA y Normativa: Esta arquitectura demuestra cómo integrar tecnologías emergentes (LLM) en entornos industriales altamente regulados sin sacrificar la calidad, la seguridad o la trazabilidad requerida por la ISO 9001:2015.
• Centrado en el Humano: Transforma al empleado de un mero consumidor de información a un actor clave en la mejora de procesos, validando y enriqueciendo el conocimiento del sistema.
• Escalabilidad Industrial: Al utilizar microservicios y adaptadores, la solución es adaptable a diferentes fábricas y tipos de datos sin necesidad de reentrenar modelos masivos desde cero.
• Limitaciones y Futuro: El estudio es teórico y de diseño; la siguiente fase implica la implementación operativa en casos de uso reales de manufactura para evaluar el rendimiento con diferentes LLMs y refinar la arquitectura basada en datos empíricos.

En resumen, el trabajo proporciona un marco técnico robusto para desbloquear el potencial de los LLM en la manufactura, asegurando que su implementación sea segura, auditable y alineada con los principios de calidad industrial.