Catalyst Diffusion Transformer: Generative Inverse Design of Heterogeneous Catalysts

Technische Samenvatting: Catalyst Diffusion Transformer (CatDiT)

Probleemstelling
De ontdekking van heterogene katalysatoren wordt gehinderd door een enorme, combinatorische ontwerpplek die compositie, oppervlaktefacetten, adsorbaatidentiteit en dekking omvat. Traditionele computationele benaderingen vertrouwen op het screenen van vooraf gedefinieerde bibliotheken van bekende structuren, wat de exploratie beperkt tot bestaande chemische ruimtes en er niet in slaagt het inverse design-probleem aan te pakken: het genereren van structuren die voldoen aan specifieke functionele beperkingen. Bestaande generatieve modellen hebben veelbelovend gebleken voor moleculen en kristallen, maar het uitbreiden ervan naar heterogene katalysatoren is uitdagend vanwege de complexiteit van slab–adsorbaat-systemen (tientallen tot honderden atomen) en de noodzaak om gelijktijdig te conditioneren op meerdere eigenschappen (bijv. adsorbaattype, bindingsenergie, katalysatorklasse). Bestaande methoden zijn vaak beperkt tot single-property conditioning, smalle chemische ruimtes (bijv. alleen legeringen) of missen een verenigd framework voor het genereren van geldige, nieuwe structuren over diverse katalysatorklassen heen.

Methodologie
De auteurs stellen CatDiT (Catalyst Diffusion Transformer) voor, een verenigd latent diffusion framework dat is ontworien voor het inverse design van heterogene katalysatoren. De architectuur bestaat uit twee hoofdfasen:

1. Latente Representatie Leerproces (VAE): Een Variational Autoencoder (VAE) codeert katalysatorstructuren in een compacte, SE(3)-equivariante latente ruimte. De encoder maakt gebruik van EquiformerV2 om geometrische equivariantie te waarborgen, waarbij rekening wordt gehouden met de periodieke aard van slab–adsorbaat-systemen. De inputrepresentatie omvat een tuple $(L, A, F, T)$ bestaande uit roosterparameters, atoomtypen, fractionele coördinaten en een atoomtag die onderscheid maakt tussen vaste subsurface atomen, vrije oppervlakte-atomen en adsorbaatatomen.
2. Generatief Modelleren (DiT): Een Diffusion Transformer (DiT) voert flow matching uit binnen de geleerde latente ruimte om nieuwe structuren te genereren. Deze aanpak vermijdt de computationele belemmeringen van directe atoomcoördinaat-diffusie voor grote systemen.
3. Conditionele Generatie: Het model ondersteunt gelijktijdige conditionering op drie discrete/continue variabelen: adsorbaattype, katalysatorklasse (bijv. intermetallisch, oxide, halide) en bindingsenergie. Conditionering wordt bereikt via Classifier-Free Guidance (CFG), waarbij eigenschap-labels worden geïnjecteerd als embeddings. Tijdens de training worden labels willekeurig verwijderd om zowel onconditionele als conditionele generatie mogelijk te maken.

Belangrijkste Bijdragen

• Verenigd Framework: CatDiT is het eerste framework dat multi-property conditioning (discreet en continu) verenigt voor heterogene katalysatoren, reikend van intermetallische legeringen tot oxide-oppervlakken.
• Latente Diffusie voor Slabs: Door SE(3)-equivariante latente representaties en flow matching te gebruiken, bereikt het model een state-of-the-art structuurvaliditeit en uniciteit, terwijl de stabiliteit tijdens relaxatie behouden blijft, waarmee de schaalbaarheidsproblemen van directe coördinaat-gebaseerde diffusie worden overwonnen.
• Multi-Conditionele Controle: Het model demonstreert het vermogen om generatie te sturen naar specifieke adsorbaat, katalysatorklasse en doelbindingsenergie-regimes, wat directionele controle biedt over continue eigenschappen en hoge getrouwheid voor discrete eigenschappen.

Resultaten

• Generatiekwaliteit: Getest tegenover CatGPT en CatFlow, bereikt CatDiT superieure prestaties met 98,32% structuurvaliditeit en 99,26% uniciteit. Het vertoont ook de laagste gemiddelde relaxatie-energieverandering ($\Delta E_{sys} \approx 23,0$ eV), wat aangeeft dat de gegenereerde structuren dichter bij lokale minima liggen dan baseline-modellen.
• Exploratie van de Chemische Ruimte: Het model genereert structuren met een hoge dekking van de grondwaarheid-distributie (OC20/OC22) terwijl het nieuwe variaties introduceert. Ongeveer 10,2% van de gegenereerde structuren bezit nieuwe composities met bijna-stabiele bulk-matches in de Materials Project, en velen vertonen structurele nieuwheid ($d_{AMD} > 0$) zelfs wanneer ze composities delen met de trainingsset.
• Conditionele Prestaties:
  • Discrete Variabelen: Voor katalysatorklasse-conditionering overstijgt de getrouwheid (fidelity) de 98,7% over vijf klassen (intermetallisch, metalloïde, niet-metaal, halide, oxide). Voor adsorbaat-conditionering (64 soorten) is de getrouwheid hoog voor monoatomaire soorten (>70%), maar neemt deze af voor grotere moleculen vanwege de toegenomen structurele vrijheidsgraden en isomerencomplexiteit.
  • Continue Variabelen: Het model biedt directionele controle over adsorptie-energie ($E_{ads}$). Hoewel de precisie varieert, valt tot 36% van de monsters binnen een tolerantie van $\pm 0,5$ eV in de datarijke regio ($-4$ tot $+2$ eV).
• Toepassing op Stikstofreductiereactie (NRR): In een multi-conditionele generatietaak gericht op *N-adsorptie bij $-1,0$ eV, produceerde het model kandidaten die de zuivere metaal N–H scaling line doorbreken. Na DFT-validatie voldeden 28 kandidaten aan zowel het doelactiviteitsvenster als het selectiecriterium (boven de scaling line liggen). Dit vertegenwoordigt een ~1,5-voudige verrijking ten opzichte van de bronverdeling, wat het vermogen van het model aantoont om kandidaten te concentreren in reactierelevante regimes.

Significantie
Dit artikel positioneert CatDiT als een praktische en schaalbare stap richting eigenschap-gestuurd inverse design in heterogene katalyse. Door het genereren van geldige, diverse en nieuwe structuren onder specifieke functionele beperkingen mogelijk te maken, vermindert CatDiT de afhankelijkheid van uitputtend screenen en brute-force enumeratie. De auteurs benadrukken dat hoewel het model geen garantie biedt voor experimentele synthetiseerbaarheid of thermodynamische stabiliteit van de gegenereerde slabs, het dient als een krachtig upstream-instrument om de ontdekking van reactiespecifieke katalysatoren te versnellen door de kandidaat-pools in schaarse, hoogwaardige regio's van de chemische ruimte te verrijken. Het werk onderstreept het potentieel van latente diffusiemodellen om de complexiteit van periodieke oppervlaktesystemen aan te kunnen en legt een fundament voor toekomstige integratie van stabiliteitsdescriptors en experimentele data.