Bankruptcy Prediction via Hybrid Resampling and Stacking Ensemble Techniques with Explainable Artificial Intelligence (XAI)-Driven Analysis

Technische Samenvatting: Voorspelling van Faillissement via Hybride Resampling en Stacking Ensemble-technieken met XAI-gestuurde Analyse

Probleemstelling
De studie behandelt de kritieke uitdaging van het voorspellen van bedrijfsfaillissementen binnen ernstig ongebalanceerde financiële datasets, waarbij de minderheidsklasse (failliete bedrijven) slechts een klein deel van de totale populatie uitmaakt (ongeveer 3,23% in de doelwitdataset). Traditionele evaluatiemetrieken zoals nauwkeurigheid (accuracy) zijn in dergelijke contexten misleidend, omdat ze vaak de meerderheidsklasse bevoordelen en er niet in slagen financieel kwetsbare bedrijven te detecteren. Het artikel betoogt dat de voorspelling van faillissement een kostengevoelig besluitvormingsprobleem is, waarbij het missen van een kwetsbaar bedrijf (lage recall) grotere gevolgen heeft dan valse alarmen. Bovendien vereist het vakgebied modellen die niet alleen voorspellend, maar ook interpreteerbaar zijn om auditbaarheid, governance en naleving van regelgeving te ondersteunen.

Methodologie
Het onderzoek maakt gebruik van een uitgebreid, end-to-end framework gebaseerd op de Taiwanese Bankruptcy Prediction dataset uit de UCI Machine Learning Repository (6.819 observaties van bedrijven, 95 predictoren). De methodologie verloopt via vier afzonderlijke fasen:

1. Consensus-gebaseerde Kenmerkselectie: Om de hoogdimensionale inputruimte (95 kenmerken) te reduceren en robuustheid te vergroten, werden vijf kenmerkselectie-algoritmen toegepast: Whale Optimization (WOA), Particle Swarm Optimization (PSO), Salp Swarm Optimization (SSO), Bat Algorithm (BA) en Mutual Information (MI). Een consensus-retentierule werd toegepast, waarbij alleen predictoren werden behouden die door ten minste twee van de vijf algoritmen werden geïdentificeerd. Dit reduceerde de set aan kenmerken tot 23 robuuste variabelen, waaronder metrieken gerelateerd aan winstgevendheid, leverage, solvabiliteit en operationele efficiëntie.
2. Hybride Resampling: Om de klassenonbalans aan te pakken, werden drie hybride resampling-technieken geïmplementeerd op de trainingsdata: SVM-SMOTE, SMOTE-Tomek en SMOTE-Edited Nearest Neighbors (SMOTE-ENN). Deze methoden werden gebruikt om gebalanceerde trainingsverdelingen te genereren, terwijl geprobeerd werd de integriteit van de minderheidsklasse te bewaren.
3. Modelarchitectuur en Stacking:
   • Base Learners: Vijf ensemble machine learning-classifiers werden geëvalueerd: Gradient Boosting (GB), Extreme Gradient Boosting (XGB), Histogram-based Gradient Boosting (HGB), LightGBM (LGBM) en AdaBoost (AB).
   • Meta-Learners: Vijf deep learning (DL) modellen werden getest: Recurrent Neural Network (RNN), Long Short-Term Memory (LSTM), Gated Recurrent Unit (GRU), Deep Neural Network (DNN) en Multi-Layer Perceptron (MLP).
   • Hybride Stacking: Een stacking ensemble-framework werd geconstrueerd waarbij de vijf ML-classifiers dienden als base learners, en elk van de vijf DL-modellen diende als een meta-learner, wat resulteerde in 25 unieke hybride configuraties.
4. Explainable AI (XAI): Het Shapley Additive exPlanations (SHAP) framework werd toegepast op de best presterende modellen om de bijdragen van kenmerken te interpreteren op zowel globaal als lokaal niveau, om te waarborgen dat de beslissingslogica van het model overeenkomt met de economische theorie.

Belangrijkste Resultaten
De studie evalueerde modellen met behulp van accuracy, recall, specificiteit, G-mean en ROC-AUC. De belangrijkste bevindingen zijn:

• Impact van Resampling: De keuze van de resampling-strategie bepaalde significant het gedrag van het model. SVM-SMOTE en SMOTE-Tomek bevoordeelden een hoge nauwkeurigheid en specificiteit (het correct identificeren van niet-failliete bedrijven), terwijl SMOTE-ENN superieure detectie van de minderheidsklasse (recall) en een gebalanceerde prestatie (G-mean) opleverde.
• Prestaties van Standalone Modellen: Onder de standalone modellen bereikte de GRU-classifier gecombineerd met SMOTE-ENN de beste algehele voorspellende balans, met een recall van 0,8627, een G-mean van 0,8517 en een ROC-AUC van 0,9431.
• Prestaties van de Stacking Ensemble: Het hybride stacking ensemble met SMOTE-ENN met (GB+XGB+HGB+LGBM+AB) als base learners en LSTM als meta-learner bood de sterkste compromis tussen sensitiviteit en specificiteit onder de gestapelde modellen (Recall: 0,7255, G-mean: 0,8254, ROC-AUC: 0,9270).
• Modelvergelijking: Hoewel boom-gebaseerde ensembles (met name LGBM) uitblonken in nauwkeurigheid en specificiteit, presteerden deep learning-modellen (MLP, GRU, LSTM, RNN) consequent beter dan machine learning-modellen in termen van recall en G-mean, met name onder het SMOTE-ENN regime.
• Kenmerkbelang (Feature Importance): SHAP-analyse identificeerde indicatoren voor leverage, winstgevendheid, solvabiliteit en operationele efficiëntie (bijv. Retained Earnings to Total Assets, ROA, Debt Ratio, Total Asset Turnover) als de meest invloedrijke voorspellers van faillissementsrisico.

Betekenis en Claims
Het artikel claimt dat de primaire bijdrage ligt in het aantonen dat klasse-onbalans een centrale determinant is van de bruikbaarheid van het model, en niet slechts een preprocessing-bijzaak. De studie stelt dat:

1. Leefbaarheid van Deep Learning: Deep learning-architecturen (specifiek GRU en LSTM) aanzienlijke winsten bieden in het detecteren van de minderheidsklasse faillissement, zelfs in gestructureerde tabulaire settings, waarbij ze traditionele boosting-methoden overtreffen in recall.
2. Resampling-strategie is Cruciaal: Er is niet één enkele "beste" resampling-methode; de optimale keuze hangt af van het operationele doel. SMOTE-ENN is aangetoond bijzonder effectief te zijn voor vroege waarschuwingssystemen waar het minimaliseren van gemiste faillissementen de prioriteit heeft.
3. Integratie van Interpreteerbaarheid: Door SHAP te integreren, valideert de studie dat de modellen economisch plausibele signalen (winstgevendheid en leverage) opvangen in plaats van statistische artefacten, wat de inzet van deze modellen in hoogwaardige financiële governance ondersteunt.
4. Benchmarking: De studie vestigt een robuuste benchmark met enkel gestructureerde financiële ratio's, wat suggereert dat wanneer deze worden gecombineerd met consensus-gebaseerde kenmerkselectie, hybride resampling en XAI, traditionele boekhoudgegevens nog steeds zeer informatief blijven voor de voorspelling van faillissementen.

De auteurs concluderen dat hoewel hun framework het vakgebied vooruit helpt, toekomstig werk zich moet richten op het integreren van multi-periode trajecten en ongestructureerde tekstuele data om de robuustheid en generaliseerbaarheid over verschillende regelgevende en economische omgevingen verder te verbeteren.