Benchmarking Machine Learning Approaches for Polarization Mapping in Ferroelectrics Using 4D-STEM

Deze studie benchmarkt verschillende machine learning-modellen voor het automatisch bepalen van polarisatierichtingen in ferroëlektrische materialen uit 4D-STEM-data, waarbij wordt vastgesteld dat hoewel synthetische training effectief is, specifieke aanpassingen en data-augmentatie nodig zijn om de kloof tussen simulatie en experiment te overbruggen en dat de modellen bovendien bruikbaar zijn voor het detecteren van kristaldefecten.

De kern

Stel je voor dat je een gigantische, ingewikkelde puzzel probeert op te lossen. De stukjes van deze puzzel zijn niet van karton, maar zijn atomaire schaduwen die worden gemaakt door een superkrachtige microscoop. Dit is wat wetenschappers doen met 4D-STEM: ze kijken naar materialen op het allerlaagste niveau (atoomniveau) om te zien hoe ze werken.

Het specifieke materiaal waar deze paper over gaat, is een soort "magisch steen" genaamd KNN. Dit materiaal is een ferro-elektricum. Dat klinkt ingewikkeld, maar je kunt het vergelijken met een leger van tiny magneetjes (atomen) die allemaal in een bepaalde richting wijzen. Deze richting noemen we de polarisatie. Als je weet welke kant deze atoom-magneetjes op wijzen, weet je of het materiaal goed werkt in bijvoorbeeld een sensor of een batterij.

Het Probleem: De "Vertaalprobleem"

Het probleem is dat het heel moeilijk is om deze richting te zien. De microscoop maakt duizenden foto's van diffractiepatronen (lichtvlekjes die lijken op sterrenbeelden). Een mens kan dit niet snel genoeg doen. Dus, de onderzoekers wilden een kunstmatige intelligentie (AI) bouwen die dit voor ze doet.

Maar hier komt de twist:

1. Ze trainden de AI met gesimuleerde foto's (virtuele, perfecte foto's gemaakt op de computer).
2. Ze wilden de AI laten werken op echte foto's (van echte steen, met ruis, onvolkomenheden en imperfecties).

Dit is alsof je een kind leert autorijden in een videospelletje (perfecte weg, geen regen, geen andere auto's) en je verwacht dat het daarna direct een echte auto kan besturen in de storm. De AI raakt vaak in de war omdat de echte wereld er anders uitziet dan de computerwereld. Dit noemen ze de "Domain Gap" (het gat tussen simulatie en realiteit).

De Oplossing: Een AI-Test

De onderzoekers hebben verschillende soorten AI-modellen getest om te zien welke het beste kon vertalen van "virtueel" naar "echt":

• De Bekende Reuzen: Ze gebruikten modellen die al bekend waren (ResNet en VGG), alsof je een ervaren chauffeur uit een ander land probeert te laten rijden op een Nederlandse weg.
• De Eigen Bouwer: Ze bouwden een simpel, op maat gemaakt model (Custom CNN).
• De Slimme Vergelijker: Ze gebruikten een klassieke methode (PCA + k-NN), die werkt door nieuwe foto's te vergelijken met een grote lijst van bekende voorbeelden.

Ze testten ook drie manieren om de AI te leren:

1. Klassiek: "Dit is een blauwe auto, dit is een rode auto."
2. Regelmatig: "De auto wijst 30 graden naar links." (Hierbij leren ze dat 30 graden dichter bij 45 graden ligt dan bij 180 graden).
3. Het Prototype: De AI leert een "ideaal voorbeeld" van elke richting en zoekt daarna naar de foto die het meest op dat voorbeeld lijkt.

Wat Vonden Ze? (De Verhalen)

1. De "Perfecte" Wereld is een Valstrik
Als je de AI alleen leert op de perfecte computerfoto's, doet hij het fantastisch. Maar zodra je hem op de echte, rommelige foto's zet, crasht hij. Hij ziet de echte wereld niet meer als een auto, maar als een onbekend monster.

2. De "Filter" en "Augmentatie" (Het Oefenprogramma)
Om de AI beter te maken, deden ze twee dingen met de trainingsdata:

• Augmentatie: Ze maakten de computerfoto's een beetje "vies". Ze voegden ruis toe, veranderden de helderheid en maakten ze wazig. Dit is alsof je de chauffeur in het spel laat rijden in de regen en met een vieze voorruit, zodat hij niet in paniek raakt als hij in het echt in de regen rijdt.
• Filteren: Ze keken alleen naar de foto's waar de "magneetjes" duidelijk zichtbaar waren. Foto's waar de richting vaag was, gooiden ze weg. Dit voorkwam dat de AI verward raakte door twijfelachtige voorbeelden.

3. De Winnaars

• De grote, bekende modellen (ResNet/VGG) faalden. Ze waren te gewend aan hun eigen wereld (ImageNet, foto's van katten en auto's) en konden de atomaire patronen niet goed begrijpen.
• De eenvoudige "Slimme Vergelijker" (PCA) deed het verrassend goed. Hij was niet zo complex, maar hij kon de echte patronen wel herkennen.
• De Prototype-methode (de AI die leert op voorbeelden) deed het ook goed, mits ze de training goed hadden voorbereid met de "vies maken" en "filteren" techniek.

4. Het Verrassende Bijkomstigheid: Defecten Opsporen
Het leukste deel: de AI deed soms "fouten" op plekken waar het materiaal een defect had (zoals een ontbrekend atoom).
Stel je voor dat de AI een kaart tekent van de magneetjes. Op de meeste plekken wijzen ze naar het Noorden. Maar op één plek wijzen ze naar het Oosten. De AI denkt: "Hé, dit is raar, dit is een fout!"
In werkelijkheid was het geen fout van de AI, maar een fout in het materiaal (een defect). De AI had dus onbedoeld een heel goed defect-detectie-systeem gebouwd!

Conclusie in Eén Zin

Deze studie laat zien dat je AI niet zomaar kunt "trainen" op perfecte computersimulaties en dan hopen dat het werkt in de echte wereld. Je moet de AI eerst laten oefenen in een "vuile" en "onvolmaakte" omgeving. Als je dat doet, kun je niet alleen de richting van atoom-magneetjes vinden, maar ook onzichtbare gebreken in het materiaal opsporen.

Het is als het trainen van een detective: je kunt hem niet alleen leren op te lossen in een stille, schone kamer. Je moet hem ook leren werken in een rommelige, lawaaierige ruimte, anders ziet hij de echte aanwijzingen nooit.

Technische samenvatting

Probleemstelling

Vier-dimensionale scanning-transmissie-elektronenmicroscopie (4D-STEM) biedt waardevolle inzichten in materialen op atomaire schaal. Voor ferro-elektrische materialen, zoals kalium-natrium-niobaat (KNN), is het bepalen van de richting en grootte van de spontane polarisatie cruciaal voor het begrijpen van hun functionele eigenschappen.
De uitdagingen zijn als volgt:

• Complexiteit: Het analyseren van 4D-STEM-data (diffraction patronen) om polarisatie te extraheren is traditioneel tijdrovend en vereist vaak handmatige inspectie of rigide algoritmen.
• Simulatie-experiment kloof (Domain Gap): Hoewel machine learning (ML) veelbelovend is, presteren modellen getraind op ideale synthetische data vaak slecht op ruwe, experimentele data vanwege verschillen in ruis, achtergrond en instrumentele drift.
• Defectdetectie: Het is onduidelijk of modellen die zijn getraind voor polarisatieclassificatie ook gebruikt kunnen worden om structurele defecten (zoals vacatures) te detecteren die lokale veranderingen in polarisatie veroorzaken.

Methodologie

De auteurs hebben een systematische benchmark uitgevoerd om verschillende ML-architecturen en trainingsparadigma's te vergelijken voor het automatisch detecteren van polarisatierichtingen in KNN-kristallen.

1. Dataset Generatie:

• Synthetische Data: Gesimuleerde 4D-STEM diffraction patronen gegenereerd met QSTEM voor een orthorombisch KNN-kristal (20 nm dik, 2x2x50 eenheidscellen). Er zijn 8 verschillende polarisatierichtingen gemodelleerd.
• Variatie: Er zijn extra synthetische datasets gegenereerd met grotere laterale afmetingen (tot 6x6) en grotere diktes (50 nm) om robuustheid te testen.
• Defectdata: Een synthetisch testset met een geïntroduceerde zuurstofvacature (via DFT-berekeningen) om defectdetectie te testen.
• Experimentele Data: 4D-STEM-data van een 20 nm dik KNN-kristal, opgenomen met een Cs-gecorrigeerde STEM (ARM200CF) en een pixeldetector (Merlin). De ground truth is handmatig bepaald via HAADF-beeldanalyse.

2. Preprocessing:
Om de kloof tussen synthetische en experimentele data te verkleinen, zijn de volgende technieken toegepast:

• Centrum van Massa (CoM) Cropping: Correctie voor systematische drifts door het diffraction patroon te centreren op basis van het CoM.
• Filtering: Training alleen op patronen met een boven gemiddelde verplaatsing van de elektronenbundel (M), om onduidelijke, bijna-centrisymmetrische patronen te verwijderen die de classificatie verstoren.
• Data Augmentatie: Toepassing van adaptieve Gaussische smoothing, helderheids-/contrastaanpassing en ruisinjectie op de trainingsdata.

3. Modellen en Paradigma's:
Er zijn vier modellen getest:

• ResNet en VGG (voorgetraind op ImageNet).
• Custom CNN: Een ondiep convolutioneel netwerk getraind van scratch.
• PCA + k-NN: Een klassieke ML-pijplijn met dimensiereductie.

Drie trainingsstrategieën werden geëvalueerd:

• Classificatie: Voorspellen van een discrete label (1 van 8 klassen).
• Regressie: Voorspellen van een continu vector (hoek) die later wordt omgezet naar een klasse.
• Prototype Representation: Leren van een representatieve embedding per klasse, waarbij rekening wordt gehouden met de cirkelvormige aard van de polarisatierichtingen (geometrische relaties tussen klassen).

Belangrijkste Bijdragen

1. Systematische Benchmark: Een uitgebreide vergelijking van diepe leermodellen (ResNet, VGG, Custom CNN) en traditionele methoden (PCA+k-NN) voor polarisatieclassificatie.
2. Analyse van Trainingsparadigma's: Vergelijking van classificatie, regressie en prototype-representatie, waarbij laatstgenoemde specifiek is ontworpen om de geometrische continuïteit van polarisatierichtingen te benutten.
3. Kritische Evaluatie van de Domain Gap: Demonstration dat standaard deep learning modellen falen bij het overbrengen van synthetische naar experimentele data, terwijl specifieke aanpakken (prototype learning + filtering/augmentatie) deze kloof deels kunnen overbruggen.
4. Foutanalyse en Defectdetectie: Inzicht in waarom modellen falen (periodieke misclassificaties gerelateerd aan kristaldefecten) en een haalbaarheidsstudie voor het gebruik van misclassificatiepatronen voor defectdetectie.

Resultaten

• Synthetische Data: Alle modellen presteerden uitstekend (>99% nauwkeurigheid) op synthetische testdata die identiek was aan de trainingsdata.
• Dikte-effect: Modellen faalden volledig op dikkere monsters (50 nm) vanwege niet-lineaire dynamische verstrooiing van elektronen, wat de onderliggende aannames van de simulaties ondermijnt.
• Experimentele Data (Domain Gap):
  • Zonder augmentatie/filtering presteerden alle modellen slecht op experimentele data.
  • PCA + k-NN en Custom CNN met Prototype Representation (in combinatie met augmentatie en filtering) bleken de meest robuuste methoden. Zij konden de correcte meerderheidsklasse (de dominante polarisatierichting van het hele monster) voorspellen voor alle experimentele datasets.
  • Voorgetrainde modellen (ResNet, VGG) leverden geen verbetering op en leken nutteloos voor deze specifieke taak.
  • Hoewel de meerderheidsklasse correct werd voorspeld, was de pixel-voor-pixel nauwkeurigheid nog steeds laag (rond de 40%) en vertoonde hoge variantie, wat wijst op onbetrouwbaarheid voor fijne classificatie.
• Foutpatronen: Misclassificaties kwamen vaak voor in gebieden met een lage verplaatsing van de elektronenbundel (tussen atoomkolommen), wat aangeeft dat deze diffraction patronen onvoldoende informatie bevatten.
• Defectdetectie: De PCA-methode slaagde erin een synthetisch defect (zuurstofvacature) te detecteren door afwijkende polarisatiepatronen. De Custom CNN (Prototype) slaagde hier niet in, wat suggereert dat PCA-features dichter bij traditionele fysieke kenmerken (CoM) blijven dan de geleerde features van de CNN. Echter, preprocessing die de domain gap verkleint, bleek de precisie van defectdetectie te verminderen.

Betekenis en Conclusie

De studie concludeert dat hoewel deep learning veelbelovend is voor 4D-STEM-analyse, er geen "one-size-fits-all" oplossing is.

• Robuustheid: Een combinatie van PCA en k-NN, of een aangepast prototype-benadering met strikte filtering en augmentatie, is momenteel de beste strategie om synthetische modellen over te brengen naar experimentele data.
• Beperkingen: De huidige methoden zijn niet betrouwbaar genoeg voor pixel-perfecte classificatie op experimentele data, vooral bij dikkere monsters waar meervoudige verstrooiing optreedt.
• Toekomstperspectief: De studie benadrukt dat misclassificatiepatronen niet alleen fouten zijn, maar waardevolle informatie kunnen bevatten over structurele defecten. Toekomstig werk moet zich richten op het trainen van modellen op microscopische beelden om de domain gap verder te verkleinen en het gebruik van deze modellen voor defectdetectie te optimaliseren.

Kortom, dit werk biedt een kritische roadmap voor het ontwikkelen van betrouwbare, overdraagbare ML-tools voor de analyse van ferro-elektrische materialen met 4D-STEM.