Feature-Aware Anisotropic Local Differential Privacy for Utility-Preserving Graph Representation Learning in Metal Additive Manufacturing

Probleemstelling

Het artikel adresseert twee intergerelateerde uitdagingen in de data-gedreven kwaliteitsborging van metaaladditieve productie (AM), specifiek bij Directed Energy Deposition (DED):

1. Beperkingen in huidige defectdetectiemodellen: Bestaande modellen behandelen waarnemingen van het smeltbad (melt-pool) vaak als onafhankelijke steekproeven. Dit negeert de fysische koppelingen tussen lagen en scanbanen, zoals warmteaccumulatie en interacties tussen banen, die cruciaal zijn voor de vorming van poriën (porositeit).
2. Privacy vs. Nut (Utility) Dilemma: Betrouwbare kwaliteitsborging vereist het delen van gevoelige procesdata tussen organisaties. Echter, het delen van deze data blootlegt "procesvingerafdrukken" (intellectueel eigendom). Traditionele privacybeveiligingstechnieken, zoals Lokale Differentiële Privacy (LDP), voegen uniform ruis toe aan alle feature-dimensies (isotrope ruis). Dit leidt tot een ernstige degradatie van het nut van de data, omdat zowel cruciale thermische signalen als redundante dimensies even sterk worden verstoord.

Methodologie: FI-LDP-HGAT

De auteurs stellen FI-LDP-HGAT voor, een computationeel raamwerk dat twee methodologische componenten combineert om privacy te garanderen zonder het nut voor defectdetectie te verliezen.

1. Feature-Importance-Guided Local Differential Privacy (FI-LDP)

In plaats van uniforme ruis toe te voegen, introduceert FI-LDP een anisotrope Gaussische mechanisme voor niet-interactieve feature-privatisering.

• Importance Prior: Een korte "warm-up" fase (supervised learning) wordt uitgevoerd om de belangrijkheid van elke feature-dimensie voor de taak (porositeit detecteren) te schatten.
• Budgetherverdeling: Het privacy-budget ($\epsilon$) wordt opnieuw verdeeld over de feature-dimensies op basis van deze geschatte belangrijkheid.
  • Kritieke dimensies (hoge feature-importance) krijgen een groter privacy-budget en dus minder ruis.
  • Redundante dimensies (lage feature-importance) krijgen een kleiner budget en dus meer ruis.
• Dit gebeurt onder strikte $(\epsilon, \delta)$-LDP garanties, waarbij de totale privacygarantie behouden blijft, maar de ruisverdeling is afgestemd op de taak.

2. Stratified Hierarchical Graph Attention Network (HGAT)

Om de fysische koppelingen in het productieproces te modelleren, wordt een grafstructuur gebruikt in plaats van onafhankelijke steekproeven.

• Grafconstructie: Er wordt een gelaagde (layer-stratified) hybride kNN-graf gebouwd. Kanten worden alleen gelegd binnen dezelfde fysieke laag.
• Hybride Afstand: De connectiviteit combineert ruimtelijke nabijheid binnen de laag met gelijkenis in de geleerde thermische embeddings.
• Hierarchische Attention: Het HGAT-model gebruikt een attention-mechanisme dat rekening houdt met "edge-affinity priors" (fysische verwachtingen). Dit zorgt ervoor dat de boodschappenoverdracht (message passing) zich richt op fysiek zinvolle buren, waardoor het model kan leren van cumulatieve warmte-effecten en interacties tussen banen.

Belangrijkste Bijdragen

1. Ontwerp van het Privacy-mechanisme: De ontwikkeling van FI-LDP, een anisotrope mechanisme dat het privacy-budget dynamisch toewijst op basis van feature-importance. Dit onderscheidt zich van isotrope LDP en heuristische methoden door een formeel, instelbaar mechanisme te bieden dat ruis koppelt aan taaknut.
2. Fysiek-informeerd Modellering: Het ontwerp van een gelaagde grafarchitectuur die domeinspecifieke kennis (warmteaccumulatie, ruimtelijke context) inbouwt in de grafconstructie en het attention-mechanisme.
3. Uitgebreide Evaluatie: Een grondige kwantitatieve evaluatie op een experimenteel DED-porositeitsdataset, waarbij het systeem wordt vergeleken met klassieke ML, diepe leermodellen, graf-neurale netwerken en andere privacy-mechanismen (zoals DP-SGD).

Resultaten

De experimenten zijn uitgevoerd op een dataset van Ti-6Al-4V dunwandige structuren met een ernstige class-imbalance (slechts ~4,5% porieuze frames).

• Prestatie onder Privacy:
  • Bij een matig privacy-budget ($\epsilon = 4$) bereikt FI-LDP-HGAT een nut-herstel van 81,5% ten opzichte van het niet-geprivatiseerde "oracle"-model.
  • Bij een streng privacy-budget ($\epsilon = 2$) behoudt het model een defect-recall van 0,762, wat aanzienlijk beter is dan alternatieven.
• Vergelijking met Baselines:
  • DP-SGD: Training met differentieel privacy op het gradient-niveau leidt tot een catastrofale ineenstorting van de prestaties (F1 < 0,21) vanwege de verstoring van de optimalisatiedynamiek voor zeldzame gebeurtenissen.
  • Uniform-LDP: Voegt evenveel ruis toe aan alle dimensies, wat resulteert in lagere AUC en recall dan FI-LDP.
  • HGAT vs. Andere GNNs: De voorgestelde HGAT presteert beter dan standaard GCN en GAT, voornamelijk door de integratie van fysiek-informeerde randpriors en multimodale features.
• Mechanistische Analyse: Er is een sterke negatieve correlatie (Spearman $\rho = -0,81$) gevonden tussen de feature-importance en de grootte van de toegevoegde ruis. Dit bevestigt dat het systeem inderdaad minder ruis toevoegt aan de meest informatieve features.

Betekenis en Conclusie

Dit werk toont aan dat de traditionele trade-off tussen privacy en nut in high-dimensional data niet onvermijdelijk is. Door anisotrope ruis toe te passen die is afgestemd op de feature-importance, kan men formele privacygaranties bieden zonder de cruciale signalen voor defectdetectie te vernietigen.

De combinatie van FI-LDP (voor veilige, niet-interactieve data-publicatie) en HGAT (voor fysisch-informeerd relational learning) biedt een technisch onderbouwd pad voor vertrouwde, multi-stakeholder AI-toepassingen in de metaaladditieve productie. Het stelt organisaties in staat om samen te werken aan kwaliteitsborging zonder hun intellectueel eigendom (procesparameters en thermische vingerafdrukken) prijs te geven.