🤖 machine learning

Automated Data Engineering and Feature Selection for the Case Study of Warpage Detection in Fused Deposition Modeling

Dit artikel stelt een geautomatiseerd gegevensverwerkingsframework voor dat gebruikmaakt van reinforcement learning en SHAP-gebaseerde featureselectie om de combinaties van machine learning-modellen en features iteratief te optimaliseren voor FDM-vervormingsdetectie, waarbij significante verbeteringen in voorspellende nauwkeurigheid en stabiliteit worden bereikt vergeleken met baseline full-feature configuraties.

Oorspronkelijke auteurs: Saleh Valizadeh Sotubadi, Nazanin Mahjourian, Vinh Nguyen

Gepubliceerd 2026-07-22

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Saleh Valizadeh Sotubadi, Nazanin Mahjourian, Vinh Nguyen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren hoe je het perfecte gebak bakt. Je hebt een enorme voorraadkast vol ingrediënten: bloem, suiker, eieren, specerijen, en zelfs wat vreemde dingen zoals glitters of hete saus. Je hebt ook een hele bibliotheek met verschillende recepten voor het bakken. Als je gewoon alles in een kom gooit en op het beste hoopt, kan de robot in de war raken, tijd verspillen of een ramp bakken. Dit is precies het probleem waar ingenieurs in de "slimme productie" (smart manufacturing) tegenaan lopen. Ze hebben enorme hoeveelheden data van sensoren – zoals temperatuurmeters, microfoons die de machine beluisteren, en camera's die het product in de gaten houden – maar ze weten niet altijd welke stukjes data daadwerkelijk nuttig zijn en welke gewoon ruis zijn.

Om dit op te lossen, gebruiken wetenschappers "Machine Learning", wat lijkt op het geven van een brein aan de robot waarmee hij leert van ervaring. Maar er is een addertje onder het gras: als je de robot te veel waardeloze data voert, raakt hij overweldigd. Hier komt "Explainable AI" (XAI) in beeld. Zie XAI als een superintelligente tutor die de robot niet alleen het antwoord vertelt, maar ook uitlegt waarom hij dat antwoord koos, waarbij hij precies aanwijst welke ingrediënten (datapunten) het belangrijkst waren. De grote vraag die onderzoekers stellen is: Kunnen we een systeem bouwen dat automatisch het beste recept en de beste ingrediënten uitkiest zonder dat een mens hoeft te gokken?

Dit artikel vertelt het verhaal van een team dat een digitale "coach" heeft gebouwd om robots te helpen leren hoe ze een specifieke fout kunnen herkennen, genaamd "warpage" (kromtrekken) bij 3D-printen. Warpage is wanneer een plastic onderdeel buigt of omhoog krult tijdens het printen, waardoor het eindproduct wordt verpest. De onderzoekers creëerden een systeem genaamd een Automated Data Processing (ADP) framework. Stel je dit framework voor als een onvermoeibare coach die duizenden oefeningen uitvoert. Het probeert verschillende combinaties van "recepten" (machine learning-modellen) en verschillende "ingrediëntenlijsten" (feature sets) uit.

Zo werkt de coach: Het gebruikt een strategie die geïnspireerd is op een spel genaamd de "Multi-Armed Bandit". Stel je een rij gokautomaten voor. Sommige automaten keren meer uit dan andere, maar je weet dat pas als je de hendel overhaalt. De coach haalt de hendels (traint modellen) keer op keer over. Als een machine een goede beloning oplevert (hoge nauwkeurigheid), onthoudt de coach deze combinatie en probeert hij deze vaker. Als hij verliest, gaat de coach verder. Maar er is een twist: de coach is ook uitgerust met een speciale XAI-tool genaamd SHAP. Deze tool werkt als een vergrootglas dat na elke oefensessie in het brein van de robot kijdt om te zien welke ingrediënten het zware werk hebben gedaan. De coach maakt vervolgens een nieuwe, kleinere ingrediëntenlijst met alleen de best beoordeelde items en probeert de oefeningen opnieuw.

Het team testte dit op 217 verschillende printsituaties met twee veelvoorkomende materialen, PLA en ABS. Ze begonnen door de robot alle data te laten gebruiken die ze hadden verzameld. Daarna lieten ze de SHAP-tool de beste subset van data selecteren. De resultaten waren duidelijk: de robot presteerde aanzienlijk beter wanneer hij de gecureerde, kleinere lijst met ingrediënten gebruikte. Wanneer de robot alle data gebruikte, kreeg hij een score (de AUC) van 0,9248. Maar toen de coach de SHAP-tool gebruikte om de beste kenmerken te kiezen, sprong de score naar 0,9731. Dat is een flinke verbetering in betrouwbaarheid.

Het artikel vergeleek deze slimme coach ook met andere methoden. Ze probeerden een techniek genaamd PCA, wat lijkt op het samensmelten van alle ingrediënten tot een generieke pasta om ruimte te besparen, en een andere methode genaamd Mutual Information (MI), die zoekt naar statistische verbanden. De coach ontdekte dat PCA niet goed werkte omdat het de belangrijke, complexe details van het printproces gladstreek. MI was oké, maar het begreep de specifieke "persoonlijkheid" van het brein van de robot niet zo goed als de SHAP-tool dat deed. De SHAP-methode vond consequent de beste kenmerken, wat leidde tot stabielere en nauwkeurigere voorspellingen.

Kortom, de onderzoekers hebben aangetoond dat je een robot niet een berg data hoeft te voeren om een geweldig resultaat te krijgen. Door een slimme, geautomatiseerde coach te gebruiken die leert welke datapunten echt belangrijk zijn, kun je een systeem bouwen dat sneller, nauwkeuriger en begrijpelijker is. Het artikel suggereert dat deze aanpak een solide stap is naar het efficiënter maken van slimme productie, hoewel het opmerkt dat het systeem nog steeds diverse data nodig heeft om in elke mogelijke situatie perfect te werken. Het is geen toverstaf die alles direct oplost, maar het is een krachtig nieuw hulpmiddel om machines te leren helder te zien.

Technische Samenvatting: Geautomatiseerde Data Engineering en Feature Selectie voor Warpage Detectie in FDM

Probleemstelling
De integratie van Machine Learning (ML) in slimme productie, specifiek voor het monitoren van Fused Deposition Modeling (FDM) processen, staat voor aanzienlijke hindernissen. Het ontwikkelen van hoogwaardige ML-frameworks voor taken zoals warpage detectie (kromtrekkingsdetectie) vereist uitgebreide domeinkennis van zowel productieprocessen als ML-algoritmen. Traditionele benaderingen vertrouwen vaak op handmatige feature extractie en selectie, wat tijdrovend is, gevoelig is voor redundantie en kan leiden tot suboptimale modelprestaties. Bovendien, hoewel Automated Machine Learning (AutoML) is geavanceerd in modelselectie en hyperparameteroptimalisatie, ontbreekt het vaak aan systematische, intelligente mechanismen voor input feature selectie. In manufacturing IoT-toepassingen kan het toevoegen van excessieve sensoren de kosten verhogen en de prestaties verslechteren, terwijl het focussen op de juiste sensoren zorgvuldige, vaak handmatige feature engineering vereist. Bestaande oplossingen lijden vaak aan gefragmenteerde pipelines die er niet in slagen om feature interpreteerbaarheid volledig te integreren met adaptieve besluitvorming.

Methodologie
De auteurs stellen een Automated Data Processing (ADP) framework voor dat Reinforcement Learning (RL) en Explainable AI (XAI) gebruikt om de selectie van optimale model-feature combinaties te automatiseren. Het framework is gestructureerd in twee primaire eenheden:

Besluitvormingsunit (Multi-Armed Bandit): Deze eenheid fungeert als een RL-agent die gebruikmaakt van een Multi-Armed Bandit (MAB) algoritme. De agent verkent een zoekruimte waar elke "state" een specifieke configuratie van ML-modellen en feature subsets vertegenwoordigt. De agent selecteert acties (model-feature paren) met behulp van een $\epsilon$ -greedy strategie gecombineerd met de Upper Confidence Bound (UCB) methode om exploratie en exploitatie in evenwicht te houden.
Classificatie-unit: Deze eenheid traint en evalueert binaire classificatiemodellen (Random Forest, XGBoost en Multi-Layer Perceptron) om warpage te voorspellen (vervormd versus onvervormd).
- Feature Engineering: Inputs omvatten time-domain features geëxtraheerd uit sensordata (acceleratie, akoestische emissie, rekstrookjes, thermische beeldvorming), printparameters (temperatuur, hoogte, infill dichtheid) en materiaaleigenschappen.
- XAI-gestuurde Feature Selectie: Een kerninnovatie is de integratie van SHapley Additive exPlanations (SHAP). Na initiële training op volledige feature sets wordt SHAP toegepast om de feature belangrijkheid te rangschikken op basis van het specifieke geleerde gedrag van het model. Het framework traint vervolgens iteratief modellen met enkel de top- $k$ gerangschikte features om de meest informatieve subset te identificeren.

Het framework werkt via een iteratieve lus:

Voer ADP uit met volledige feature sets om baseline Q-waarden vast te stellen.
Pas SHAP XAI toe om features te rangschikken voor elke state.
Selecteer top- $k$ features op basis van XAI-rangschikkingen.
Hervoer ADP met deze gereduceerde feature subsets om Q-waarden bij te werken en te convergeren naar een optimaal beleid.

De beloningsfunctie (reward function) is een gewogen combinatie van accuratesse en F1-score, getransformeerd via een sigmoid functie om de stabiliteit van de Q-waarde updates te waarborgen.

Belangrijkste Bijdragen

ADP-XAI Framework: De ontwikkeling van een geautomatiseerd framework dat RL-gebaseerde beleidsupdates integreert met SHAP-gebaseerde feature selectie om de ML-modelprestaties in productie te optimaliseren.
Intuïtieve Feature Selectie: Het overstijgen van handmatige of puur statistische feature selectie (zoals PCA) door gebruik te maken van model-agnostische XAI om feature subsets af te leiden die specifiek zijn afgestemd op het voorspellende gedrag van de getrainde modellen.
Systematische Evaluatie: Een uitgebreide evaluatie over 217 datasets afgeleid van FDM-processen, waarbij de voorgestelde ADP-XAI aanpak wordt vergeleken met baseline full-feature configuraties en andere feature selectiemethoden (PCA en Mutual Information).

Resultaten
De studie maakte gebruik van 217 datasets verzameld van PLA en ABS prints onder diverse condities. De resultaten demonstreren de effectiviteit van het voorgestelde framework:

Prestatieverbetering: Het ADP-framework dat gebruikmaakt van SHAP-geselecteerde features verbeterde de test-set Area Under the Curve (AUC) van 0.9248 (baseline full-feature) naar 0.9731.
Beloningsstabiliteit: De gemiddelde beloningswaarde steeg met meer dan 50% vergeleken met de baseline full-feature configuratie. De optimale state (State 4) bereikte een uiteindelijke Q-waarde van 0.5469 met SHAP-features, vergeleken met 0.4317 met alle features.
Vergelijking van Feature Selectie:
- SHAP vs. PCA: PCA slaagde er niet in de prestaties te verbeteren, waarschijnlijk door het lineaire karakter en het onvermogen om de niet-lineaire afhankelijkheden die inherent zijn aan FDM-procesdata te vangen.
- SHAP vs. Mutual Information (MI): Hoewel MI verbetering liet zien bij grotere feature sets ( $k \ge 20$ ), presteerde SHAP consistent beter dan MI, met name bij lagere feature aantallen ( $k < 20$ ). SHAP identificeerde een meer discriminerende subset omdat het rekening houdt met het specifieke voorspellende gedrag van het model en niet-lineaire interacties, terwijl MI vertrouwt op statistische afhankelijkheid onafhankelijk van het model.
Convergentie: Het framework convergeerde naar een optimaal beleid binnen 1000 iteraties, waarbij State 4 (Random Forest met SHAP-geselecteerde features) de meest robuuste configuratie bleek te zijn.

Betekenis en Claims
Het artikel claimt dat het voorgestelde ADP-framework een schaalbare, geautomatiseerde oplossing biedt voor modelselectie in dataintensieve productiescenario's. Door XAI-capaciteiten te integreren, verbetert het framework niet alleen de voorspellende nauwkeurigheid en stabiliteit, maar verhoogt het ook de model interpreteerbaarheid. De auteurs stellen dat het benutten van SHAP het systeem in staat stelt om een fysiek betekenende en discriminerende subset van features te identificeren, waardoor de dimensionaliteit wordt verminderd zonder verlies van getrouwheid (fidelity).

De studie positioneert dit werk als een stap richting "intelligente, zelfverbeterende datapijplijnen" die smart manufacturing ondersteunen. De auteurs hanteren echter een bescheiden toon met betrekking tot beperkingen, waarbij zij erkennen dat de nauwkeurigheid van het framework afhankelijk is van de kwaliteit en diversiteit van de data. Zij merken op dat de huidige tabular RL-aanpak computationele hindernissen ervaart naarmate de zoekruimte groter wordt, wat suggereert dat toekomstige iteraties deep learning-gebaseerde RL-methoden en multi-modale data-integratie (bijv. het combineren van tijdreeksen, 2D-beelden en 3D-puntenwolken) zullen moeten incorporeren om complexere productieomgevingen aan te kunnen.

Meer zoals dit