A Human-Centred Architecture for Large Language Models-Cognitive Assistants in Manufacturing within Quality Management Systems

Diese Studie schließt eine Forschungslücke, indem sie eine menschenzentrierte, komponentenbasierte Softwarearchitektur entwickelt, die die Integration von Large-Language-Model-Cognitive-Assistants in Qualitätsmanagementsysteme der Fertigung ermöglicht und dabei Flexibilität, Skalierbarkeit sowie eine Erweiterung menschlicher Arbeitsfähigkeiten sicherstellt.

Das Wesentliche

🏭 Der schlafende Riese und der neue Assistent

Stell dir eine große Fabrik vor. Dort laufen viele Maschinen, und es gibt dicke Ordner voller Anweisungen, Sicherheitsregeln und Erfahrungswissen. Das ist das Qualitätsmanagementsystem (QMS). Es ist wie das Regelwerk eines Orchesters: Ohne es wäre alles Chaos.

Jetzt kommt eine neue Technologie ins Spiel: Künstliche Intelligenz (KI), genauer gesagt große Sprachmodelle (wie ChatGPT). Man könnte sich diese KI wie einen super-intelligenten, aber etwas chaotischen Praktikanten vorstellen. Er kann alles auf der Welt erzählen, aber er hat zwei große Probleme:

1. Halluzinationen: Er erfindet manchmal Dinge, die gar nicht wahr sind (wie ein Praktikant, der sich die Regeln ausgedacht hat).
2. Fehlender Kontext: Er weiß nicht, was in dieser spezifischen Fabrik erlaubt ist oder wie die Maschinen genau funktionieren.

Das Ziel des Papers ist es, diesen „Praktikanten" so zu bauen, dass er nicht nur redet, sondern zuverlässig hilft, ohne gegen die strengen Fabrikregeln zu verstoßen.

🏗️ Die Architektur: Ein Team statt einer Einzelperson

Die Autoren sagen: „Wir bauen keine einzelne KI, die alles kann." Das wäre zu riskant. Stattdessen bauen sie ein Team aus kleinen Spezialisten, die zusammenarbeiten. Stell dir das wie eine gut organisierte Küche vor:

1. Der Kellner (ChatController): Er nimmt die Bestellung vom Gast (dem Mitarbeiter) entgegen und weiß, wer sitzt wo. Er sorgt dafür, dass die Kommunikation läuft.
2. Der Bibliothekar (RAGRetrieval): Der Praktikant allein weiß nicht alles. Der Bibliothekar holt sich sofort die richtigen Handbücher und Anweisungen aus dem Regal, bevor der Praktikant antwortet. So wird sichergestellt, dass die Antwort auf echten Fakten basiert und nicht erfunden ist.
3. Der Sicherheitschef (Guardrailling): Bevor der Praktikant etwas sagt, prüft der Sicherheitschef: „Ist das sicher? Verstößt das gegen die Gesetze? Ist das eine böse Falle?" Er verhindert, dass die KI Dinge sagt, die gefährlich oder unethisch sind.
4. Der Chefkoch mit Spezialwissen (LLM mit Adapters): Der KI-Modell ist wie ein Koch, der allgemein kochen kann. Aber in dieser Fabrik braucht man Spezialwissen. Deshalb wird er mit „Adapters" (wie spezielle Kochbücher) für genau diese Fabrik geschult, ohne dass man den ganzen Koch neu erfinden muss.
5. Das Feedback-System (FeedbackEvaluation): Wenn ein Mitarbeiter sagt: „Diese Antwort war falsch!", landet das nicht im Papierkorb. Es wird zu einem „Ticket". Ein erfahrener Mitarbeiter (z. B. ein Vorgesetzter) prüft das Ticket, korrigiert es und fügt es in die Bibliothek ein. So lernt das System ständig dazu, aber niemand kann einfach so falsche Infos reinschmuggeln.

🛡️ Warum ist das so wichtig für die Fabrik?

In einer Fabrik geht es um Sicherheit und Nachvollziehbarkeit.

• Das Problem: Wenn eine KI eine falsche Anweisung gibt, kann eine Maschine kaputtgehen oder ein Arbeiter sich verletzen.
• Die Lösung des Papers: Das System ist so gebaut, dass es prüfbar ist. Jede Antwort hat eine Quelle (den Bibliothekar). Jede Änderung am Wissen wird genehmigt (durch den Sicherheitschef und Vorgesetzte). Es ist wie ein Audit-freundliches Tagebuch: Man kann genau nachvollziehen, woher eine Information kommt und wer sie genehmigt hat.

🔄 Wie wurde das geprüft?

Die Autoren haben das System nicht einfach nur am Computer entworfen. Sie haben sich Experten (Leute, die sich mit Software, Fabrik und Regeln auskennen) zusammengesetzt.

• Runde 1: „Hier ist unser Plan." -> Die Experten sagten: „Das ist gut, aber hier fehlt ein Sicherheitsnetz."
• Runde 2: Sie bauten das Netz ein und zeigten es wieder. -> Die Experten sagten: „Jetzt passt es!"

🚀 Was ist das Fazit?

Die Autoren haben einen Bauplan für eine KI entwickelt, die perfekt in eine Fabrik passt.

• Sie ist flexibel (kann sich anpassen).
• Sie ist sicher (prüft alles doppelt).
• Sie hilft den Menschen, statt sie zu ersetzen (der Mensch bleibt der Chef, die KI ist der Assistent).

Kurz gesagt: Sie haben eine KI gebaut, die nicht nur „quatscht", sondern wie ein zuverlässiger, gut ausgebildeter Kollege agiert, der die Regeln der Fabrik kennt, ständig dazulernt, aber immer von einem menschlichen Vorgesetzten kontrolliert wird. Das ist der Schlüssel, damit KI in der Industrie wirklich funktioniert und nicht nur ein Spielzeug bleibt.

Technische Zusammenfassung

Technische Zusammenfassung: Eine menschenzentrierte Architektur für LLM-Kognitive Assistenten in der Fertigung innerhalb von Qualitätsmanagementsystemen (QMS)

1. Problemstellung und Forschungsziel

Die Integration von Large Language Models als Kognitive Assistenten (LLM-CAs) in Fertigungsprozesse bietet großes Potenzial zur Verbesserung von Qualitätsmanagementsystemen (QMS), insbesondere für Wissensmanagement und kontinuierliche Prozessverbesserung. Bisherige Lösungen und Architekturen weisen jedoch erhebliche Lücken auf:

• Fehlende QMS-Integration: Es existiert keine menschenzentrierte Softwarearchitektur, die spezifisch auf die Anforderungen von QMS (z. B. nach ISO 9001:2015) zugeschnitten ist.
• Mangelnde Sicherheits- und Compliance-Mechanismen: Bestehende Ansätze vernachlässigen oft wichtige Aspekte wie Halluzinationsvermeidung, Datenschutz, Sicherheitsprüfungen (Jailbreak-Checks), Faktenchecks und eine hierarchische, genehmigungspflichtige Aktualisierung von Wissensdatenbanken.
• Dokumentationspflicht: QMS erfordern eine strenge Dokumentenverwaltung und Revisionssicherheit, die mit herkömmlichen LLM-Ansätzen nicht gewährleistet ist.

Das Ziel der Studie ist es, eine komponentenbasierte Softwarearchitektur zu entwerfen, die LLM-CAs sicher, skalierbar und auditierbar in QMS integriert.

2. Methodik

Die Entwicklung der Architektur folgte einem strukturierten Softwareentwicklungsprozess unter Verwendung von Domain-Driven Design (DDD):

• Anforderungsanalyse: Basierend auf früheren Arbeiten (Galdino et al.) wurden funktionale (FR) und nicht-funktionale Anforderungen (NFR) operationalisiert. Dazu gehören Aspekte wie Vertrauenswürdigkeit der KI, Widerstandsfähigkeit gegen adversariale Eingaben, Skalierbarkeit und die Einbindung des Menschen in den Regelkreis (Human-in-the-Loop).
• Architektur-Design:
  • DDD-Ansatz: Der Problembereich wurde in mehrere Bounded Contexts (abgegrenzte Kontexte) unterteilt: Chat, Retriever, LLM, Knowledge Base, Feedback, Conversational Agent und User.
  • Microservice-Architektur: Jeder Bounded Context wurde als eigenständiger Microservice implementiert, was eine lose Kopplung und unabhängige Bereitstellung ermöglicht.
  • Multi-Agenten-System (MAS): Die Architektur nutzt LLM-basierte Agenten mit Funktionsaufrufen (Function Calling), um externe Tools und Daten zu integrieren.
• Validierung: Die Architektur wurde durch iterative Expert Focus Groups mit sieben Domänenexperten (aus Wissenschaft und Industrie) evaluiert. In zwei Runden wurden Stärken, Schwächen und Verbesserungspotenziale diskutiert, woraufhin die Architektur verfeinert und final akzeptiert wurde.

3. Schlüsselbeiträge und Architektur-Design

Der zentrale Beitrag ist eine modulare, mikroservice-basierte Architektur, die folgende Kernkomponenten und Mechanismen umfasst:

• Hybride Wissensgenerierung (RAG + Fine-Tuning):
  • Kombination von Retrieval-Augmented Generation (RAG) für den Zugriff auf aktuelle, versionierte Dokumentenbestände (z. B. Arbeitsanweisungen, Handbücher) und Domain Adapters für eine parametereffiziente Feinabstimmung (Fine-Tuning) des LLMs auf spezifische Fertigungsdomänen.
• Sicherheits- und Compliance-Schichten:
  • Guardrailling: Ein Sicherheitsmodul prüft sowohl Eingaben (Prompts) als auch Ausgaben des LLMs auf ethische Richtlinien, Compliance-Vorgaben und schädliche Inhalte.
  • Feedback-Validierung: Benutzerfeedback (z. B. als "unzureichend" oder "erweiterbar" markierte Antworten) durchläuft vor der Integration in die Wissensdatenbank zwei Sicherheitsprüfungen: einen Jailbreak-Check (Verhinderung von adversarialem Input) und einen Faktencheck.
• Hierarchisches Wissensmanagement & Human-in-the-Loop:
  • Das System unterstützt eine rollenbasierte Zugriffskontrolle (ACL).
  • Feedback-Tickets können von bestimmten Benutzergruppen (z. B. Vorgesetzte) bearbeitet, umgeschrieben oder um Dokumente erweitert werden, bevor sie in den Vektor-Speicher aufgenommen werden. Dies gewährleistet die Qualitätssicherung des Wissens.
• Multimodale Interaktion:
  • Ein ConversationalAgent orchestriert die Interaktion über Text und Sprache (NLU/NLG), wobei Eingaben in Text umgewandelt und Antworten in das gewünschte Format (Text/Sprache) ausgegeben werden.
• Audit-Fähigkeit:
  • Alle Konversationen werden in ConversationHistory gespeichert. Feedback-Tickets bieten anonyme Einblicke in Wissenslücken der Mitarbeiter und die Qualität der Systemantworten, was für QMS-Audits essenziell ist.

4. Ergebnisse

Die vorgestellte Architektur (dargestellt in Abbildung 1 des Papers) demonstriert, wie LLM-CAs sicher in industrielle Umgebungen integriert werden können:

• Sie ermöglicht eine nahtlose Integration in bestehende QMS-Prozesse durch die Nutzung von Versionierung und Dokumentenmanagement.
• Sie adressiert technische Herausforderungen wie Halluzinationen durch den RAG-Ansatz und Sicherheitsrisiken durch mehrstufige Prüfungen.
• Sie fördert die Mitarbeiterbeteiligung, indem sie Werkzeuge für Prozessoptimierung (z. B. Berechnungen via Function Calling) bereitstellt und gleichzeitig durch menschliche Validierungsschritte die Kontrolle behält.
• Die Validierung durch Experten bestätigte die Angemessenheit der Architektur für die Anforderungen der Fertigungsindustrie und die QMS-Standards.

5. Bedeutung und Ausblick

Diese Studie schließt eine kritische Lücke in der Forschung, indem sie eine ganzheitliche Architektur für den Einsatz von KI in regulierten Umgebungen (QMS) vorstellt.

• Praktische Relevanz: Die Architektur ebnet den Weg für den operativen Einsatz in der Fertigung, da sie die strengen Anforderungen an Dokumentation, Compliance und kontinuierliche Verbesserung erfüllt.
• Zukunftsperspektiven: Da die Studie bisher theoretisch und durch Expertenfeedback validiert wurde, ist der nächste Schritt die Operationalisierung in realen Fertigungsszenarien. Geplant ist die Evaluation mit echten Anwendungsfällen, der Test verschiedener LLM-Modelle auf Leistung und die weitere Verfeinerung der Architektur basierend auf praktischen Erfahrungen.

Zusammenfassend bietet das Paper einen robusten, skalierbaren und menschenzentrierten Rahmen, der KI-Technologie nicht nur als Werkzeug, sondern als integralen, auditierbaren Bestandteil moderner Qualitätsmanagementsysteme etabliert.