Link Prediction for Event Logs in the Process Industry

Dit artikel presenteert een record-linking-model dat cross-document coreferentieoplossing combineert met natuurlijke taal-inferentie en semantische tekstgelijkenis om gefragmenteerde gebeurtenislogboeken in de Duitse procesindustrie te verbinden, waardoor de kwaliteit van data voor graph-based RAG-toepassingen aanzienlijk verbetert.

De kern

Samenvatting: Hoe we de "vergeten" verhalen in fabrieksdagboeken weer aan elkaar knopen

Stel je voor dat je in een enorme, drukke fabriek werkt. Elke dag schrijven de ploegleiders in een digitaal dagboek wat er gebeurt: "De machine stopte," "We hebben een lekkage gerepareerd," of "De temperatuur was te hoog."

Het probleem? Deze dagboeken zijn vaak verbrokkeld.

Het Probleem: De Puzzel zonder Randjes

Stel je voor dat een machine kapotgaat.

• Ploeg A (ochtend) schrijft: "Machine X stopte om 08:00. Weet niet waarom."
• Ploeg B (middag) schrijft: "We hebben de motor van Machine X vervangen."
• Ploeg C (avond) schrijft: "Machine X draait weer, maar maakt een raar geluid."

In het systeem staan dit als drie losse, ongerelateerde stukjes tekst. Als een nieuwe werknemer later zoekt naar "Machine X", ziet hij drie losse berichten en weet hij niet dat dit één groot verhaal is. Het is alsof je een puzzel hebt, maar de stukjes liggen in drie verschillende dozen.

Dit maakt het moeilijk om te leren van het verleden. Als er een nieuw probleem is, wil je weten: "Hebben we dit eerder gehad en hoe hebben we het opgelost?" Maar omdat de stukjes niet aan elkaar hangen, vindt de computer het antwoord niet.

De Oplossing: De "Verbindende Magiër"

De auteurs van dit paper hebben een slimme computerprogramma gemaakt (een model) dat als een detective of magiër werkt. Zijn enige taak: koppelen.

Ze noemen dit Link Prediction (voorspellen van verbanden). In plaats van te kijken naar losse woorden, kijkt het programma naar hele zinnen en blokken tekst en vraagt zich af: "Hoort dit verhaal bij dat verhaal?"

Hoe doet hij dat? Ze hebben drie slimme trucs gecombineerd:

1. De Taal-Expert (NLI & STS):
   Stel je voor dat je twee mensen hebt die over hetzelfde onderwerp praten, maar met andere woorden. De ene zegt: "De auto is kapot." De ander zegt: "De motor werkt niet meer."
   Een slimme taalcomputer (gebaseerd op AI) snapt dat deze twee zinnen hetzelfde betekenen, ook al staan ze niet in dezelfde zin. Dit noemen ze Semantische Tekstgelijkheid.

2. De Logica-Magier (NLI):
   Dit is als het oplossen van een raadsel. Als de ene tekst zegt: "We hebben een nieuwe band gemonteerd" en de andere zegt: "De auto rijdt nu weer," dan kan de computer logisch afleiden dat de tweede zin een gevolg is van de eerste. Ze horen bij elkaar.

3. De "Machine-ID" Check (FL Codes):
   In fabrieken hebben machines unieke nummers (zoals een kenteken). Als de ene tekst spreekt over machine "A-100" en de andere over "A-100-B", dan weet de computer direct: "Ah, dat is hetzelfde onderdeel!" Dit helpt enorm om fouten te voorkomen.

De Slimme Truc: De Tijd is Belangrijk

In de echte wereld gebeurt alles in een bepaalde volgorde. Je kunt niet eerst repareren en dan pas merken dat er iets kapot is.

Het oude systeem (dat ze "CDCR" noemen) keek alleen naar woorden. Maar dit nieuwe systeem kijkt ook naar tijd. Het denkt: "Oké, deze twee berichten lijken op elkaar, maar ze staan 3 maanden uit elkaar. Dat kan niet hetzelfde incident zijn."
Ze gebruiken een methode die ze tDFS noemen. Denk hierbij aan een tijdslijn. Het systeem zoekt alleen naar connecties binnen een redelijk tijdsbestek (bijvoorbeeld binnen één ploegendienst of een paar dagen). Dit voorkomt dat het systeem alles door elkaar haalt.

Het Resultaat: Een Dicht Net

Toen ze dit nieuwe systeem testten, was het resultaat indrukwekkend:

• Het oude systeem (dat alleen keek naar taal) miste veel verbanden.
• Het nieuwe systeem (Taal + Logica + Tijd + Machine-nummers) was 28% beter in het vinden van de juiste koppelingen.

Wat betekent dit voor de fabriek?
Nu kunnen ze al die losse dagboek-puzzelstukjes automatisch aan elkaar plakken tot één groot, compleet verhaal.

• Als er een nieuw probleem is, kan de computer direct zeggen: "Kijk, dit is precies hetzelfde als drie maanden geleden. Hier is hoe we het toen hebben opgelost."
• Dit bespaart tijd, voorkomt fouten en maakt de fabriek veiliger.

Conclusie in één zin

Dit paper laat zien dat je door slimme AI-trucs (die taal, logica en tijd combineren) losse, rommelige fabrieksnotities kunt omtoveren tot een helder, samenhangend verhaal, zodat mensen sneller en slimmer kunnen werken.

Technische samenvatting

Probleemstelling

In de procesindustrie (zoals chemie en farmacie) is kennisbeheer (Knowledge Management - KM) cruciaal voor het optimaliseren van operaties en het waarborgen van veiligheid. Moderne KM-systemen maken vaak gebruik van Retrieval-Augmented Generation (RAG) om op basis van historische data oplossingen aan te bevelen. Een groot probleem in deze sector is echter dat gebeurtenislogboeken (event logs) in wisselboeken vaak gefragmenteerd zijn.

Gerelateerde records over één enkel incident of proces worden vaak als aparte, losse vermeldingen opgeslagen naarmate er meer details beschikbaar komen. Deze fragmentatie belemmert RAG-systemen, omdat ze niet kunnen herkennen dat verschillende tekstuele vermeldingen tot hetzelfde verhaal behoren. Dit leidt tot onvolledige kennisgrafieken en vertraagde probleemoplossing op live productielocaties. De kernvraag is hoe men deze gefragmenteerde records automatisch kan koppelen (link prediction) om een coherent verhaal te vormen.

Methodologie

De auteurs definiëren het probleem van het koppelen van records (Record Linking - RL) als een Cross-Document Coreference Resolution (CDCR) taak, maar aangepast aan de specifieke context van procesindustrie-logboeken. In plaats van alleen zinnen of woorden te koppelen, worden hier volledige zinnen of passages (records) gekoppeld die logisch op elkaar volgen.

Het voorgestelde RL-model combineert principes uit drie NLP-taken:

1. CDCR: Het koppelen van vermeldingen die naar hetzelfde event verwijzen.
2. Natural Language Inference (NLI): Het bepalen of een hypothese (een latere vermelding) logisch volgt uit een premisse (een eerdere vermelding).
3. Semantic Text Similarity (STS): Het meten van semantische gelijkenis tussen teksten.

De architectuur van het model:

• Encoder: Het model gebruikt een daGBERT-model (een op de domein gespecialiseerde versie van GBERT, getraind op procesindustrie-gegevens). In tegenstelling tot state-of-the-art CDCR-modellen die start- en eind-tokens gebruiken, encodeert dit model een paar records door ze te concateneren ([CLS] <record 1> [SEP] <record 2> [SEP]) en gebruikt de vector van het [CLS]-token voor gezamenlijke encoding.
• Feature Vectors: Naast de tekstuele encoding wordt een extra feature-vector toegevoegd gebaseerd op FL-codes (Functional Location). Deze codes identificeren machines in de fabriek en hebben een hiërarchische structuur. De overlap in deze codes (bijv. AAAA-CABA-B018 en AAAA-CABA-A123 delen een ouder) wordt omgezet in een similarity-score die het model helpt bij het koppelen.
• Scoring: Een feedforward-neuraal netwerk (FFNN) berekent een affiniteitsscore voor elk paar records.
• Clustering: Voor het groeperen van records in ketens wordt time-dependent Depth-First Search (tDFS) gebruikt in plaats van hiërarchische clustering. tDFS respecteert de tijdsvolgorde: het begint bij de eerste vermelding en zoekt alleen naar gerelateerde vermeldingen binnen een bepaald tijdsvenster (bepaald door de 3e kwartiel van de tijdsverschillen in de dataset). Dit voorkomt dat records die ver uit elkaar liggen in de tijd onterecht worden gekoppeld.

Training:
Het model wordt getraind op een mix van subtopics (verschillende fabrieken) om "catastrophic forgetting" te voorkomen. Positieve voorbeelden zijn opeenvolgende records binnen één keten; negatieve voorbeelden zijn records uit verschillende ketens of records in omgekeerde tijdsvolgorde.

Belangrijkste Bijdragen

1. Definitie van RL als CDCR: Het paper introduceert een nieuwe definitie van link prediction voor procesindustrie-logboeken, waarbij het probleem wordt gemap naar CDCR met een focus op tijdsafhankelijke, passage-level koppelingen.
2. Domeinadaptatie: Het ontwikkelen en evalueren van een model dat specifiek is aangepast aan de Duitse procesindustrie, inclusief het gebruik van een domein-specifiek taalmodel (daGBERT) en metadata (FL-codes).
3. Hybride Architectuur: De combinatie van CDCR-methoden met NLI- en STS-principes, verrijkt met structurele metadata, voor het koppelen van logboekvermeldingen.
4. tDFS Clustering: Het introduceren van een tijdsafhankelijke clustering-methode die beter aansluit bij de lineaire aard van productie-incidenten dan traditionele hiërarchische clustering.

Resultaten

De evaluatie werd uitgevoerd op data van zeven Duitse fabrieken (chemie en farmacie) met een dataset van ongeveer 454.000 records.

• Prestatie: Het voorgestelde RL-model (daGBERT + FL-features + tDFS) presteerde significant beter dan de beste baselines:
  • +28% (11,43 punten) verbetering ten opzichte van de beste NLI-gedreven baseline.
  • +27,4% (11,21 punten) verbetering ten opzichte van de beste STS-gedreven baseline.
  • De gemiddelde F1 CoNLL-score voor het beste model was 52,19, vergeleken met ~40-43 voor de baselines.
• Componentanalyse:
  • daGBERT presteerde consistent beter dan het generieke GBERT, wat het belang van domeinadaptatie onderstreept.
  • tDFS overtrof systematisch hiërarchische clustering (HC), omdat het de tijdsafhankelijkheid van productieprocessen beter benut.
  • De FL-feature (machinespecificaties) had een variabele impact, maar verbeterde de prestaties in combinatie met tDFS op de meeste topics.
• Generalisatie: Het model toonde sterke transferlearning, zelfs op fabrieken (Topics B, C, F) die tijdens het trainingstijdperk weinig of geen data hadden.

Betekenis en Conclusie

Dit werk demonstreert dat standaard NLP-taken (CDCR, NLI, STS) succesvol kunnen worden aangepast voor een specifieke, domein-specifieke toepassing in de procesindustrie. Door de kwaliteit en connectiviteit van logboekdata te verbeteren via dit link-prediction model, wordt de basis gelegd voor robuustere RAG-systemen.

Dit betekent dat toekomstige AI-toepassingen in fabrieken beter in staat zijn om:

• Complexe, gefragmenteerde incidenten te reconstrueren.
• Betrouwbare en context-aware oplossingen aan te bevelen voor probleemoplossing in real-time.
• Veiligheid en productiviteit te verhogen door eerdere kennis effectiever te benutten.

Hoewel Large Language Models (LLMs) populair zijn, kiezen de auteurs voor BERT-gebaseerde modellen vanwege de lagere rekeneisen en snellere inferentie, wat essentieel is voor continue verwerking in productieomgevingen met beperkte resources.