⚡ electrical engineering

Interpretable Hybrid CNN Transformer Framework with Cross Attention Fusion and Uncertainty Quantification for Multi Mechanism Corrosion and Erosion Detection

Dit artikel introduceert CorroSense-Net, een interpreteerbaar hybride CNN-Transformer-framework met een innovatieve Cross-Attention Fusion-module en onzekerheidskwantificatie dat de state-of-the-art nauwkeurigheid bereikt bij het onderscheiden tussen ongeschonden, erosie- en corrosietoestanden in industriële pijpleidingen, waardoor de beperkingen van bestaande single-model benaderingen in veiligheidskritische inspecties worden aangepakt.

Oorspronkelijke auteurs: Hardik Gohel, Bryant Pineda, Leonel Lagos, Dwayne McDaniel, Aparna Aravelli

Gepubliceerd 2026-08-06

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Hardik Gohel, Bryant Pineda, Leonel Lagos, Dwayne McDaniel, Aparna Aravelli

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je het verborgen skelet van onze moderne wereld voor: enorme buizen die olie, gas en zelfs radioactief afval vervoeren, begraven onder de grond of uitgestrekt over oceanen. Na verloop van tijd worden deze metalen reuzen ziek. Ze lijden aan twee belangrijke kwalen: corrosie, wat lijkt op een langzame, chemische roest die aan het metaal vreet, en erosie, wat lijkt op schuurpapier dat het oppervlak wegblaast door snel bewegende vloeistoffen. Als we deze problemen niet vroegtijdig opsporen, kunnen de buizen barsten, wat rampen veroorzaakt die de wereldeconomie biljoenen dollars kosten.

Om deze verborgen ziekten te vinden, hebben we meestal menselijke inspecteurs nodig die foto's maken en er nauwlettend naar kijken, zoekend naar kleine putjes of roestplekken. Maar mensen worden moe, en hun ogen kunnen hen bedriegen. Onlangs hebben wetenschappers geprobeerd computers dit werk te laten doen met behulp van "Deep Learning". Denk aan deze computerbreinen als twee verschillende soorten detectives. Het ene type, een CNN (Convolutional Neural Network), is geweldig in het spotten van kleine details zoals de textuur van roest of een kras, maar mist soms het grote plaatje. Het andere type, een Transformer (of ViT), is fantastisch in het begrijpen van de hele scène en hoe verschillende onderdelen met elkaar verbonden zijn, maar kan soms de kleine, korrelige details missen. Een tijdlang probeerden onderzoekers slechts één detective te gebruiken of simpelweg hun aantekeningen aan elkaar te plakken, maar dat was niet genoeg om het mysterie perfect op te lossen.

Hier komt een nieuw team van onderzoekers met een slimme oplossing genaamd CorroSense-Net. In plaats van de twee detectives apart te laten werken of alleen elkaars aantekeningen te laten lezen, hebben ze een systeem gebouwd waarin de twee detectives in realtime met elkaar praten. Ze gebruiken een speciale "Cross-Attention" module, die fungeert als een superkrachtige vertaler. Wanneer de textuur-detective een vreemde plek ziet, kan hij de context-detective vragen: "Ziet dit eruit als een kras of gewoon een schaduw?" en de context-detective antwoordt: "Nee, dat is absoluut een kras vanwege het omliggende patroon."

Het team testte dit nieuwe hybride brein op 487 foto's gemaakt met een gewone smartphone in een laboratorium dat deze buisproblemen simuleerde. Ze vroegen de computer niet alleen om "ziek" of "gezond" te zeggen. In plaats daarvan leerden ze het om onderscheid te maken tussen drie specifieke toestanden: een pristine (perfect gezonde) buis, een buis die getroffen is door erosie (schuurpapier-achtige schade), en een buis die lijdt aan chemische corrosie (roest). De resultaten waren indrukwekkend. Het nieuwe systeem identificeerde de conditie van de buizen ongeveer 96% van de tijd correct, wat aanzienlijk beter is dan het gebruik van één enkele detective of eerdere hybride pogingen.

Maar het team stopte niet bij alleen nauwkeurigheid; ze wilden dat de computer eerlijk was over hoe zeker hij was. Ze voegden een functie toe waarmee de computer kan zeggen: "Ik ben 99% zeker dat dit roest is," of "Ik ben slechts 50% zeker, dus een mens moet dit dubbelchecken." Dit is cruciaal omdat een foute gok in veiligheidskritische banen gevaarlijk kan zijn. Ze lieten de computer ook "zijn werk uitleggen" door precies te highlighten welke delen van de foto hem deden denken dat een buis ziek was. Toen ze deze computer-highlights vergeleken met die van menselijke experts, kwam het nieuwe systeem veel beter overeen met de experts dan oudere methoden.

Kortom, dit artikel laat zien dat door twee verschillende soorten AI-detectives als een team te laten samenwerken – in plaats van ze alleen naast elkaar te laten zitten – we een slimmer en betrouwbaarder hulpmiddel kunnen bouwen om onze industriële infrastructuur veilig te houden. Het is een stap naar een toekomst waarin een eenvoudige smartphonefoto ons precies kan vertellen wat er mis is met een buis, hoe erg het is, en hoeveel we die diagnose moeten vertrouwen.

Technische Samenvatting: CorroSense-Net

Probleemstelling

Corrosie en door stroming veroorzaakte erosie van metalen infrastructuur leggen een geschatte wereldwijde jaarlijkse last op van US$ 2,5 biljoen en zijn primaire oorzaken van catastrofale defecten in sectoren zoals nucleair afvaltransport, olie en gas, en maritieme infrastructuur. Hoewel geautomatiseerde visuele inspectie is gevorderd door middel van Convolutionele Neurale Netwerken (CNN's) en Vision Transformers (ViT's), kampen bestaande benaderingen met duidelijke beperkingen:

CNN's blinken uit in het vastleggen van lokale texturen (bijv. roestgranulariteit), maar hebben moeite met globale context en langetermijnafhankelijkheden.
ViT's modelleren effectief langetermijn ruimtelijke afhankelijkheden, maar zijn vaak ongevoelig voor textuur en hebben veel data nodig, waarbij ze slecht presteren op kleine, gespecialiseerde industriële datasets zonder massale pretraining.
Bestaande Hybride Modellen (bijv. HCT-Net) vertrouwen doorgaans op statische kenmerkconcatenatie, waardoor ze niet in staat zijn om adaptieve cross-modale interactie tussen lokale en globale kenmerken te exploiteren.
Classificatiebeperkingen: Voorgaand werk behandelt degradatie vaak als een binair "schoon versus gecorredeerd" probleem, waarbij fysiek onderscheidbare mechanismen zoals deeltjesinslag-erosie en chemische corrosie, die verschillende diagnostische signaturen hebben, met elkaar worden verward.
Vertrouwen en Interpreteerbaarheid: De meeste frameworks missen onzekerheidskwantificering (UQ) en kwantitatieve interpreteerbaarheid, en vertrouwen op kwalitatieve visualisaties (Grad-CAM) die zelere frequentie worden getoetst aan expert-annotaties.

Methodologie: CorroSense-Net

De auteurs stellen CorroSense-Net voor, een hybride CNN–Transformer framework ontworpen voor detectie van multi-mechanisme corrosie en erosie onder realistische, kleinschalige industriële omstandigheden.

1. Architectuur

Het framework maakt gebruik van een parallel twee-takig netwerk:

CNN-tak: Een ResNet-50 backbone (ImageNet-pretrained) die lokale ruimtelijke kenmerken extraheert.
Transformer-tak: Een ViT-B/16 backbone (ImageNet-21k pretraining, ImageNet-1k fine-tuning) die globale contextuele tokens extraheert.
Cross-Attention Fusion (CAF) Module: Een nieuwe module die statische concatenatie vervangt. Deze voert bidirectionele gated attention uit:
- Fase 1: CNN-kenmerken letten op ViT-tokens.
- Fase 2: ViT-tokens letten op CNN-kenmerken.
- Fase 3: Leerbare gating-coëfficiënten ( $\alpha, \beta$ ) wegen de gefuseerde descriptors dynamisch op basis van de kenmerken van de invoerafbeelding (bijv. prioriteit geven aan CNN voor textuurrijke erosie, ViT voor uniforme onbeschadigde oppervlakken).
Classificatiekop: Een gefuseerde descriptor gaat door een GELU-laag en dropout om een drieklasse waarschijnlijkheidsverdeling te produceren: Pristine (onbeschadigd), Particle-Impingement Erosion (deeltjesinslag-erosie) en Chemical Corrosion (chemische corrosie).

2. Onzekerheid en Interpreteerbaarheid

Onzekerheidskwantificering: Het framework integreert Monte Carlo (MC) Dropout tijdens de inferentie (30 stochastische forward passes) om predictieve entropie en betrouwbaarheidsintervallen te genereren, wat triage op basis van entropie mogelijk maakt.
Kwantitatieve Interpreteerbaarheid: Het systeem genereert Grad-CAM heatmaps voor de CNN-tak, de ViT-tak en de gefuseerde output. In tegen tegenstelling tot eerdere kwalitatieve studies, scoort dit werk de uitlijning van deze heatmaps tegen expert-geannoteerde degradatiemaskers kwantitatief met behulp van Intersection-over-Union (IoU).

3. Dataset en Experimentele Opstelling

Databron: Een domeinspecifieke corpus van 487 smartphone-gecaptureerde afbeeldingen (Apple iPhone 13 Pro) van twee doelbewuste laboratoriumopstellingen:
- Erosion Flow Loop System (EFLS): Simuleert deeltjesrijke slurry-stroming (surrogaat voor nucleair afval).
- Chemical Corrosion Loop System (CCLS): Simuleert versnelde chloride-aanval.
Labelverificatie: Labels werden toegewezen op basis van de herkomst uit de opstelling en kruisverifieerd door een geblindeerde tweede inspecteur, met onafhankelijke fysieke verificatie via ultrasone diktemetingen.
Evaluatieprotocollen:
- Gestratificeerde vijf-voudige cross-validatie.
- Leave-one-coupon-out cross-validatie (ruimtelijke generalisatie).
- Zero-shot inferentie op twee publieke datasets (Bianchi–Hebdon en NEU Surface Defect Database).
- Robuustheidstesten tegen Gaussische vervaging, verandering in verlichting en JPEG-compressie.

Belangrijkste Resultaten

Onder gestratificeerde vijf-voudige cross-validatie behaalde CorroSense-Net:

Macro-F1 Score: $0.961 \pm 0.014$
Nauwkeurigheid (Accuracy): $0.964 \pm 0.012$
ROC-AUC: $0.991 \pm 0.006$
Expected Calibration Error (ECE): $0.029$ (wat wijst op zeer betrouwbare betrouwbaarheidsschattingen).

Vergelijkbare Prestaties:
CorroSense-Net presteerde statistisch significant beter dan ResNet-50, ViT-B/16, EfficientNet-B3, Swin-Tiny en het op concatenatie gebaseerde HCT-Net (Macro-F1 $0.931$) na Bonferroni-correctie.

Belangrijkste Bevindingen:

Mechanisme Differentiatie: Het model behaalde een 0.928 recall voor de "Pristine" klasse en, cruciaal, classificeerde nul corrosiebeelden als pristine, waardoor de meest fatale foutmodus werd geëlimineerd.
Fusie-effectiviteit: De CAF-module verbeterde de Grad-CAM uitlijning met expert-maskers met 7,5 IoU procentpunten ten opzien van de concatenatie-gebaseerde fusie.
Robuustheid: Onder zware Gaussische vervaging ( $\sigma=3.0$ ) behield CorroSense-Net een Macro-F1 van 0.872, wat aanzienlijk beter is dan ResNet-50 (0.681) en ViT-B/16 (0.643). Het gating-mechanisme verschoof het gewicht adaptief naar de ViT-tak naarmate de lokale textuur verslechterde.
Generalisatie: Zero-shot inferentie op externe publieke datasets bevestigde cross-domein generalisatie, waarbij CorroSense-Net de hoogste F1-scores behield vergeleken met de baselines.

Betekenis en Claims

Het artikel claimt dat CorroSense-Net een blauwdruk vormt voor interpreteerbare, onzekerheidsbewuste AI in veiligheidskritische industriële inspectie. De significantie wordt gekaderd rond vier gecoördineerde innovaties:

Fysiek Gegronde Formulering: Verder gaan dan binaire classificatie door onderscheid te maken tussen pristine, erosie en chemische corrosie.
Adaptieve Fusie: Aantonen dat bidirectionele gated cross-attention superieur is aan statische concatenatie voor het integreren van lokale textuur en globale context.
Betrouwbare AI: Het bieden van per voorspelling onzekerheidsschattingen die automatische triage-workflows ondersteunen en aansluiten bij opkomende AI-governance kaders (bijv. EU AI Act, NIST AI RMF).
Kwantitatieve Verklaarbaarheid: Het vaststellen van een kwantitatieve baseline voor interpreteerbaarheid door Grad-CAM-outputs te scoren tegen expert-annotaties, een metriek die voorheen ontbrak in de corrosiedetectieliteratuur.

De auteurs positioneren het framework als een schaalbare, goedkope oplossing die inzetbaar is op commodity hardware met behulp van consumentengraad smartphone-beelden, geschikt voor nucleair afvaltransport, olie en gas, en maritieme infrastructuurmonitoring. Ze erkennen beperkingen met betrekking tot de bescheiden omvang van de dataset en de herkomst uit één enkele faciliteit, en schetsen toekomstig werk in federated learning, continue ernst-regressie en optimalisatie voor edge-deployment.