Fine-Tuning a Universal Machine-Learned Interatomic Potential for Oxygen Plasma Interactions with WS$_2$

Technische Samenvatting: Fine-tuning van een Universeel Machine-Learned Interatomair Potentiaal voor Zuurstofplasma-interacties met WS2

Probleemstelling
Moleculaire dynamica (MD) simulaties van plasma-oppervlakte-interacties vereisen interatomaire potentialen (IP's) die een balans vinden tussen nauwkeurigheid, computationele efficiëntie en het vermogen om complexe, reactieve systemen te beschrijven die betrokken zijn bij meerdere elementen en bindingstypen. Traditionele IP's hebben vaak moeite om aan deze eisen tegelijkertijd te voldoen, met name voor industrieel relevante scenario's zoals de atomaire laag-etsing (ALE) van twee-dimensionale overgangsmetaaldichalcogeniden (TMD's) zoals wolfraamdisulfide (WS2). Een specifieke uitdaging ontstaat bij het modelleren van zuurstofplasma-interacties met WS2, waarbij de chemie spin-gepolariseerde zuurstofsoorten (triplet O2) omvat en Hubbard U-correcties vereist om de W 5d-toestanden in geoxideerd wolfraam (WOx) nauwkeurig te beschrijven. Standaard basismodellen, hoewel krachtig, zijn vaak getraind op datasets (bijv. Open Catalyst 2020) die een tekort aan hoogenergetische bombardementsconfiguraties en specifieke elektronische correcties (spin-polarisatie, U) hebben die nodig zijn voor deze chemie.

Methodologie
De auteurs maken gebruik van een iteratieve fine-tuning loop om het Universal Models for Atoms (UMA) basismodel, specifiek de uma-s-1p1 variant getraind op de Open Catalyst 2020 (OC20) taak, aan te passen voor zuurstofplasma-interacties met meerlaags WS2.

1. Simulatieopzet: MD-simulaties modelleren de bombardementen van een 2H-WS2 plaat door 15 eV O+ en O2+ ionen. Het systeem behandelt binnenkomende ionen als snelle neutralen (vanwege snelle ladingsoverdracht) en maakt gebruik van een gestratificeerde Berendsen-thermostaat om post-impact verhitting te beheersen. Losgekomen clusters (SO, SO2, O, O2) worden dynamisch geïdentificeerd en verwijderd op basis van specifieke geometrische en compositionele criteria.
2. Iteratieve Fine-tuning Loop:
   • MD Exploratie: Het huidige model genereert trajecten om de W-S-O configuratieruimte te verkennen, waarbij zowel vlakke als getrapte plaatgeometrieën worden gebruikt.
   • Configuratie Sampling: Een maximaal diverse subset van configuraties wordt geselecteerd met behulp van Smooth Overlap of Atomic Positions (SOAP) descriptoren, Principal Component Analysis (PCA) en Farthest Point Sampling (FPS).
   • DFT Labeling: Geselecteerde configuraties worden gelabeld met Density Functional Theory (DFT) op het PBE+D3+U+spin niveau. Dit omvat spin-polarisatie en een Hubbard U correctie (2.87 eV op W 5d orbitalen) om de elektronische structuurbeperkingen van het vooraf getrainde OC20-model aan te pakken.
   • Model Update: Het model wordt gefine-tuned op de nieuwe gelabelde data. De auteurs maken primair gebruik van een layer freezing strategie, waarbij alleen geselecteerde lagen worden bijgewerkt terwijl het merendeel van de modelparameters bevroren blijft, hoewel volledige fine-tuning en Low-Rank Adaptation (LoRA) ook werden getest voor vergelijking.
3. Evaluatie: Een hold-out testset wordt gegenereerd met behulp van het bijgewerkte model om een onbevooroordeelde evaluatie van de generalisatiecapaciteiten te waarborgen. Convergentie wordt beoordeeld via de Mean Absolute Error (MAE) op energie, kracht en spanning, evenals de convergentie van fysieke observabelen (gechemisorbeerde S- en O-dekking).

Belangrijkste Bijdragen

• Adaptatie van Basismodellen: De studie demonstreert de levensvatbaarheid van het fine-tunen van een algemeen bruikbaar basismodel (UMA) voor een specifieke, hoogenergetische plasma-oppervlakte toepassing die complexe elektronische correcties (spin, U) bevat die niet aanwezig waren in de oorspronkelijke trainingsdata.
• Iteratieve Sampling Strategie: De implementatie van een iteratieve loop die SOAP-gebaseerde diversiteitssampling combineert met DFT-labeling zorgt ervoor dat de trainingsset de relevante configuratieruimte dekt, inclusief hoogenergetische impacttoestanden en variërende oxidatieniveaus.
• Efficiënte Trainingsstrategie: Het werk benadrukt de effectiviteit van layer freezing bij het fine-tunen van grote basismodellen, waarbij een hoge nauwkeurigheid wordt bereikt met een lager aantal trainbare parameters vergeleken met volledige fine-tuning.

Resultaten

• Nauwkeurigheid Verbeteringen: Na drie ronden van fine-tuning (R3) bereikte het model een Mean Absolute Error (MAE) van 4.5 × 10⁻³ eV/atoom voor energie en 0.076 eV/Å voor kracht op een hold-out testset. Dit vertegenwoordigt een significante verbetering ten opzichte van de vooraf getrainde baseline (geëvalueerd tegen dezelfde PBE+D3+U+spin referentie), die een kracht MAE van ongeveer 0.23 eV/Å had.
• Foutverdeling: Het fine-tuning proces verminderde niet alleen de gemiddelde fout, maar maakte ook de distributie van fouten nauwer, waardoor de 99% inclusiegrens voor krachtfouten werd gereduceerd van ±1.343 eV/Å (vooraf getraind) naar ±0.479 eV/Å (R3), wat de stabiliteit van de MD-trajecten verbetert.
• Fysieke Observabelen: Cruciaal is dat de studie vond dat het vooraf getrainde UMA-S model (zonder fine-tuning) al de belangrijkste productie-schaal observabelen reproduceerde: de monotone verwijdering van gechemisorbeerd zwavel en de opname van gechemisorbeerd zuurstof om WOx te vormen. De gefine-tuned modellen (R2 en R3) convergeerden naar dezelfde fysieke trajecten als het vooraf getrainde model, ondanks het feit dat dat laatste laatste geen spin-polarisatie en Hubbard U correcties miste. Het R1-model vertoonde lichte afwijkingen, consistent met de hogere foutmetrieken.
• Lokale Omgevingsanalyse: BIRCH clustering analyse onthulde dat de grootste initiële discrepanties voorkwamen in omgevingen met een hoge W-O coördinatie, die effectief werden gecorrigeerd door de derde ronde van fine-tuning.

Betekenis en Claims
Het artikel claimt dat basismodellen zoals UMA als een sterke baseline kunnen dienen voor plasma-oppervlakte simulaties, zelfs voor chemieën die specifieke elektronische correcties (spin, U) bevatten die afwezig waren in de pretraining data. De primaire betekenis ligt in het aantonen dat fine-tuning de nauwkeurigheid van de onderliggende potentiaalenergie-oppervlakte aanzienlijk verbetert (het verlagen van de MAE en het stabiliseren van foutdistributies), terwijl de productie-schaal observabelen van belang (S-verwijdering en O-opname) al goed werden gevangen door het vooraf getrainde model. Dit suggereert dat voor bepaalde plasma-oppervlakte toepassingen de computationele kosten van uitgebreide fine-tuning afgewogen kunnen worden tegen het feit dat het basismodel al een kwalitatief correcte beschrijving biedt van de macroscopische dynamica, hoewel fine-tuning essentieel blijft voor het bereiken van kwantitatieve DFT-niveau nauwkeurigheid in de onderliggende krachten en energieën. De auteurs merken op dat een kwantitatieve vergelijking met experimentele metingen is voorbehouden aan een toekomstige publicatie.