A Human-Centred Architecture for Large Language Models-Cognitive Assistants in Manufacturing within Quality Management Systems

Dit artikel presenteert een mensgericht, component-gebaseerd softwarearchitectuurontwerp voor de integratie van Large Language Models als cognitieve assistenten in kwaliteitsmanagementsystemen voor de maakindustrie, dat is gevalideerd door expertfocusgroepen en gericht is op flexibiliteit, schaalbaarheid en procesverbetering.

De kern

Stel je voor dat je in een grote, drukke fabriek werkt. Er zijn duizenden instructieboeken, handleidingen voor machines en e-mails met tips over hoe je het beste kunt werken. Maar als je een vraag hebt, duurt het vaak lang voordat je de juiste informatie vindt, of je moet iemand anders lastigvallen die het misschien ook niet meer weet.

Dit artikel gaat over een slimme oplossing voor precies dit probleem: een digitale "super-assistent" (een Large Language Model of LLM) die helpt in de fabriek, maar dan op een manier die veilig en betrouwbaar is.

Hier is de uitleg in gewone taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De "Slimme" maar "Dwangmatige" Assistent

Stel je voor dat je een zeer intelligente stagiair hebt die alles op internet kan lezen en beantwoorden. Hij is razendsnel en kan alles uitleggen. Maar, hij heeft twee grote nadelen:

• Hij verzint dingen: Soms zegt hij iets dat klinkt als waar, maar is het helemaal niet (in de vaktaal: "hallucinaties").
• Hij is onveilig: Als je hem niet goed in de gaten houdt, kan hij foutieve instructies geven of zelfs gevaarlijke dingen doen.

In een fabriek, waar veiligheid en kwaliteit (volgens regels zoals ISO 9001) alles zijn, kun je zo'n "losse" stagiair niet zomaar aan het werk zetten. Je hebt een systeem nodig dat hem in toom houdt.

2. De Oplossing: Een "Veiligheidsnet" met een Bibliotheek

De auteurs van dit artikel hebben een architectuur (een bouwplan voor software) ontworpen. Ze noemen het een "mensgericht" systeem. Dat betekent dat de mens altijd de baas blijft, en de computer de assistent is.

Hoe werkt dit bouwplan? Stel je het voor als een slimme bibliotheek met een strenge bibliothecaris:

• De Bibliotheek (RAG): In plaats van dat de assistent alleen op zijn eigen geheugen vertrouwt (waar hij dingen kan vergeten of verzinnen), haalt hij zijn antwoorden direct uit een actuele, digitale bibliotheek met alle fabrieksregels en handleidingen. Dit is als een GPS die altijd de meest recente wegenkaart gebruikt, in plaats van een verouderde papieren kaart.
• De Bibliothecaris (Beveiliging): Voordat de assistent iets zegt, kijkt een "bibliothecaris" (een beveiligingslaag) na of het antwoord klopt met de regels. Hij checkt: "Is dit veilig?", "Is dit eerlijk?" en "Klopt dit met de fabrieksregels?". Als het antwoord gevaarlijk is, wordt het geblokkeerd.
• De Menselijke Controle (Feedback): Als de assistent een fout maakt, kan een menselijke werknemer zeggen: "Hé, dit klopt niet." Het systeem slaat deze correctie op en leert ervan. Maar hier is een hiërarchie (een rangorde) nodig: niet iedereen mag direct de "bibliotheek" herschrijven. Alleen ervaren supervisors (de "hoofd-bibliothecarissen") mogen de officiële kennis bijwerken. Dit zorgt ervoor dat de kennis betrouwbaar blijft.

3. Waarom is dit speciaal?

Vroeger waren er al slimme assistenten, maar die waren vaak te losjes gebouwd voor een fabriek. Ze hadden geen manier om te controleren of de informatie officieel goedgekeurd was, of ze konden niet goed omgaan met de strikte regels van kwaliteitsmanagement (QMS).

Dit nieuwe ontwerp is als een modulair lego-stelsel:

• Het is flexibel: Je kunt onderdelen vervangen als er betere technologie komt.
• Het is schaalbaar: Het werkt voor één machine of voor de hele fabriek.
• Het is menselijk: Het helpt de werknemers om beter te worden in hun werk, in plaats van hen te vervangen.

4. Hoe hebben ze dit bedacht?

De onderzoekers hebben niet zomaar in een kantoortoren gezeten en gedroomd. Ze hebben:

1. Eerst gekeken wat er precies nodig is (de "eisen").
2. Een bouwplan gemaakt (de architectuur).
3. Dit plan voorgelegd aan experts (mensen die echt in fabrieken werken en met software bezig zijn).
4. Twee keer samengekomen met deze experts om te zeggen: "Kijk, dit werkt zo." De experts zeiden: "Nee, dat is te riskant, doe het zo..." en zo is het plan steeds beter geworden.

Conclusie: De Toekomst van de Fabriek

Kort samengevat: Dit artikel beschrijft hoe je een super-slimme, veilige en leerzame digitale assistent bouwt voor fabrieken.

Het is alsof je een onvermoeibare, super-intelligente mentor aan elke werknemer hangt. Deze mentor kent alle regels uit zijn hoofd, checkt zijn antwoorden dubbel en trits, en wordt steeds slimmer door de ervaring van de werknemers. Maar het allerbelangrijkste: de mens blijft de directeur, en de assistent zorgt ervoor dat niemand meer vastloopt in een zee van papierwerk.

Dit maakt fabrieken veiliger, slimmer en zorgt ervoor dat kennis niet verloren gaat als iemand met pensioen gaat.

Technische samenvatting

Probleemstelling

Hoewel Large Language Model-Cognitive Assistants (LLM-CAs) potentie hebben om operationele prestaties in de productie te verbeteren binnen Kwaliteitsmanagementsystemen (KMS/QMS), ontbreekt er in de huidige literatuur een mensgerichte softwarearchitectuur die specifiek is ontworpen voor deze integratie. Bestaande oplossingen missen vaak essentiële componenten die vereist zijn voor een industriële en gereguleerde omgeving:

• Gebrek aan een combinatie van fine-tuning en Retrieval-Augmented Generation (RAG).
• Afwezigheid van hiërarchische updates van kennisbanken gebaseerd op expertise.
• Geen ingebouwde mechanismen voor compliance, feitelijke controle en "jailbreak"-detectie.
• Tekortkomingen in documentbeheer, wat cruciaal is voor audits volgens ISO 9001:2015.

De kernvraag is hoe een systeemarchitectuur kan worden ontworpen die LLM-CAs betrouwbaar, veilig en mensgericht integreert binnen een QMS in de productieomgeving.

Methodologie

De auteurs hebben een componentgebaseerde architectuur ontwikkeld volgens een gestructureerd softwareontwikkelingsproces, specifiek gebruikmakend van Domain-Driven Design (DDD).

1. Requisietenanalyse: Gebaseerd op eerdere werken (Galdino et al. [1]) zijn functionele (FR) en niet-functionele (NFR) eisen geformuleerd. Deze omvatten eisen zoals vertrouwenswaardigheid van AI, weerstand tegen vijandige input, schaalbaarheid, en mens-in-de-lus (human-in-the-loop).
2. Ontwerpfase:
   • DDD-toepassing: De domeinmodellen zijn opgesplitst in "bounded contexts" (Chat, Retriever, LLM, Knowledge base, Feedback, Conversational Agent, User) door middel van een analyse van substantieven, werkwoorden en bijvoeglijke naamwoorden in de eisen.
   • Architectuurstijl: Het resultaat is een microservice-gebaseerd Multi-Agent Systeem (MAS). Elke microservice fungeert als een autonoom agent.
   • Kernontwerpkeuzes:
     • Gebruik van RAG voor actuele kennis en domain adapters voor efficiënte fine-tuning.
     • Implementatie van een conversational agent voor multimodale interactie.
     • Generalisatie van beveiligingschecks (jailbreak en fact-checking) om schadelijke content te blokkeren.
3. Validatie: De architectuur is gevalideerd via twee iteratieve focusgroepen met zeven domeinexperts (academici en industrieel specialisten). Na elke ronde werd de architectuur aangepast op basis van feedback over sterktes, beperkingen en uitlijning met industriestandaarden.

Belangrijkste Bijdragen en Architectuur

De paper presenteert een holistische softwarearchitectuur (zie Figuur 1 in het origineel) die de volgende technische componenten en mechanismen integreert:

• Microservice-structuur: Het systeem bestaat uit losgekoppelde controllers die via berichten communiceren, wat flexibiliteit en schaalbaarheid garandeert.
• ConversationalAgent & LLMAgent:
  • De ConversationalAgent regelt de input/output (spraak en tekst).
  • De LLMAgent bevat een LLM met domain adapters (voor domeinspecifieke kennis) en een Guardrailling-module. Deze module controleert prompts en antwoorden op ethische schendingen en compliance-regels.
  • Ondersteuning van function calling stelt gebruikers in staat wiskundige functies en procesdata-analyses uit te voeren voor continue verbetering.
• RAGRetrieval: Beheert het ophalen van documenten (werk instructies, handleidingen). Documenten worden geanalyseerd, opgedeeld in chunks, geëmbed en opgeslagen in een vectorstore.
• FeedbackEvaluation & Hiërarchisch Beheer:
  • Gebruikers kunnen antwoorden markeren als "onvoldoende" of "uitbreiden", wat leidt tot een feedbackticket.
  • Hiërarchische autorisatie: Specifieke gebruikersgroepen (bijv. supervisors) mogen antwoorden herschrijven of documenten updaten.
  • Dubbele beveiliging: Feedbacktickets ondergaan een jailbreak-check (tegen adversarial input) en een fact-check (controle op feitelijke juistheid binnen de context) voordat ze de vectorstore bereiken. Dit kan door mensen, AI of een combinatie worden gedaan.
• Access Control List (ACL): Beheert autorisaties voor verschillende gebruikersgroepen, essentieel voor QMS-compliance en auditbaarheid.

Resultaten

Het resultaat is een ontwerp dat:

1. Flexibiliteit en Modulariteit biedt door de microservice-architectuur.
2. Betrouwbaarheid en Compliance garandeert door geïntegreerde beveiligingslagen (guardrails, fact-checks) en versiebeheer van kennisbronnen.
3. Mens-centrisch is, waarbij medewerkers actief betrokken zijn bij het verbeteren van het systeem via feedback, terwijl het systeem hen ondersteunt bij data-analyse en besluitvorming.
4. Audit-proof is, omdat alle kennisupdates en conversaties worden vastgelegd en gecontroleerd, wat voldoet aan ISO 9001:2015 eisen voor documentbeheer.

De validatie via focusgroepen bevestigde dat de architectuur de kloof tussen theoretische LLM-toepassingen en de strikte eisen van industriële kwaliteitsmanagementsystemen overbrugt.

Significantie

Deze studie is significant omdat het de eerste stap is naar de operationele integratie van geavanceerde AI in de productie, binnen de kaders van bestaande kwaliteitsnormen.

• Theoretische bijdrage: Het vult een gat in de literatuur door een specifieke architectuur te bieden die QMS-eisen (zoals ISO 9001) combineert met moderne LLM-technieken.
• Praktische impact: Het biedt een blauwdruk voor industriële partners om LLM-CAs veilig in te zetten voor kennismanagement en procesoptimalisatie, zonder in te leveren op veiligheid of compliance.
• Toekomstperspectief: Hoewel het huidige werk theoretisch is (geen volledige implementatie-geteste versie), legt het de basis voor toekomstige pilot-projecten in reële productielocaties en verdere evaluatie van verschillende LLM-modellen.

Kortom, de paper positioneert QMS niet als een belemmering, maar als een fundamenteel raamwerk dat de succesvolle en veilige adoptie van LLM-CAs in de industrie mogelijk maakt.