Technische Samenvatting: Controleerbare Generatieve Fundamentele Modellen voor Moleculen (CoMole)

Probleemstelling

Moleculair inverse ontwerp – het genereren van structuren met specifieke functionele eigenschappen – blijft een centrale uitdaging in de wetenschappelijke ontdekking. Hoewel recente graf-diffusiemethoden de moleculaire generatie hebben verbeterd, werken ze grotendeels als taakspecifieke modellen met beperkte controleerbaarheid over doeleigenschappen. Het vakgebied mist een unificerend raamwerk dat heterogene ontwerptaken (van materiaal- tot geneesmiddelenontdekking) kan hanteren met betrouwbare controleerbaarheid.

Pogingen om deze kloof te overbruggen met Versterkend Leren (RL) voor nascholing lopen vast op een kritieke bottleneck wanneer ze worden toegepast op graf-diffusie op atoomniveau. De enorme ruimte van laag-niveau atoom-specifieke acties staat slecht in verhouding tot de chemisch betekenisvolle substructuren (motieven) die chemici gebruiken om redeneringen voor structuur-eigenschapsrelaties te formuleren. Zoals aangetoond in het artikel, lijdt atoom-niveau RL vaak aan "trajectinstorting", waarbij één ongeldige atomaire keuze de generatie uit het haalbare chemische manifold duwt, waardoor herstel moeilijk wordt. Deze kwetsbaarheid leidt tot een slechte geldigheid en een onstabiele krediettoewijzing, waardoor het model structurele veranderingen niet betrouwbaar kan koppelen aan eigenschapsbeloningen.

Methodologie

De auteurs stellen CoMole (Controleerbare Generatieve Fundamentele Modellen voor Moleculen) voor, een unificerend raamwerk gebouwd op een motiefbewuste graf-diffusiepijplijn. De kerninnovatie bestaat uit het herparametriseren van het RL-proces voor graf-diffusie van een beslissingsruimte op atoomniveau naar een beslissingsruimte op motiefniveau.

1. Motiefbewuste Graf-Tokenisatie

CoMole maakt gebruik van een tokenisator op basis van Node Pair Encoding (NPE) die een vocabulaire leert uit voortrainingsdata. Deze tokenisator mapt chemisch geldige moleculaire grafen af op motiefgrafen ($z_0$), waarbij knopen atoom-disjuncte eenheden vertegenwoordigen:

• Singleton-atomen.
• Behouden ring-eenheden.
• Datagedreven samengevoegde substructuren (hogere niveau motieven).

Deze representatie behoudt informatie op het niveau van bevestiging en labels voor bindingen tussen motieven, wat verliesvrije reconstructie mogelijk maakt terwijl de grafstaat aanzienlijk wordt gecomprimeerd.

2. Driefasen Trainingspijplijn

CoMole volgt een paradigma voor fundamentele modellen dat drie fasen omvat:

• Voortraining (PT): Het model leert overdraagbare structurele priors over de ruimte van motiefgrafen met behulp van onvoorwaardelijke diffusie.
• Supervised Fine-Tuning (SFT): Het model wordt gekoppeld aan meerdere eigenschappen (numeriek en categorisch) om taakspecifieke uitlijning in te voeren.
• Versterkend Leren (RL): Het voorwaardelijke omgekeerde diffusiebeleid wordt geoptimaliseerd via Proximal Policy Optimization (PPO) om uit te lijnen met beloningen voor einddoeleigenschappen. Cruciaal is dat RL opereert in de motiefbewuste actieruimte, waarbij acties overeenkomen met chemisch betekenisvolle beslissingen (bijvoorbeeld het bevestigen van een benzeenring) in plaats van individuele atoombewerkingen.

3. Theoretische Rechtvaardiging

Het artikel biedt een theoretische analyse die de bottleneck van RL op atoomniveau karakteriseert. Door de beslissingscomplexiteit te definiëren als het aantal categorische factoren in de omgekeerde kernel, tonen de auteurs aan dat motiefbewuste representaties de grootte van de actieruimte reduceren met een factor die evenredig is met het kwadraat van de compressieverhouding atoom-tot-motief ($\chi$). Deze reductie stabiliseert de KL-geregulariseerde beleidsoptimalisatie, waardoor beloningen rechtstreeker kunnen worden toegeschreven aan eigenschapsrelevante acties en trajectinstorting wordt voorkomen.

Belangrijkste Bijdragen

1. Unificerend Fundamenteel Model: CoMole wordt gepresenteerd als de eerste familie van controleerbare generatieve fundamentele modellen voor moleculen, ontworpen voor heterogeen inverse ontwerp, en overbrugt de kloof tussen huidige taakspecifieke methoden en praktische behoeften.
2. Motiefbewust RL: Het werk introduceert een nieuwe aanpak om RL voor grafgeneratie te stabiliseren door de beslissingsruimte te verschuiven van atomen naar chemisch betekenisvolle motieven, en biedt theoretische rechtvaardiging voor waarom dit de beslissingscomplexiteit verlaagt en de krediettoewijzing verbetert.
3. Overdraagbare Controleerbaarheid: Het raamwerk demonstreert het vermogen om controleerbaarheid over te dragen naar ongezette doeleigenschappen door alleen taak-embeddings te optimaliseren terwijl de generator bevroren blijft, en bereikt prestaties die concurreren met taakspecifieke baselines.

Experimentele Resultaten

CoMole werd geëvalueerd over drie heterogene benchmarks: gaspermeabiliteit van polymeren, DFT-eigenschappen van polymeren en geneesmiddelenontdekkingstaken (FreeSolv, BACE, BBBP).

• Controleerbaarheid: CoMole behaalde de eerste plaats in controleerbaarheid op alle negen doelen.
  • Op polymeren-benchmarks verlaagde het de Mean Absolute Error (MAE) met meer dan 44% ten opzichte van de beste baselines.
  • Op geneesmiddeltaken verlaagde het de FreeSolv MAE met 13,1% en behaalde het 1,0 nauwkeurigheid bij BACE-classificatie.
  • In vergelijking met de sterkste baselines (bijvoorbeeld Graph DiT, FREED) verlaagde CoMole de MAE met maximaal 48,2%.
• Geldigheid: Het model behield een geldigheidspercentage boven de 0,94 over alle datasets zonder regelgebaseerde correctie of post-hoc filtering. Daarentegen leden varianten van RL op atoomniveau aan dalingen in geldigheid (bijvoorbeeld van 0,95 naar 0,07) en faalden ze om controleerbaarheid te behouden.
• Generalisatie: Bij testen op ongezette DFT-doelen ($E_i$, $\epsilon_s$) door de generator te bevriezen en alleen nieuwe taak-embeddings te leren, bereikte CoMole prestaties die concurreerden met baselines die direct op die doelen waren getraind.
• Ablatie: Het vervangen van de motief-tokenisator door een representatie op atoomniveau leidde tot een catastrofale uitval in zowel geldigheid als controleerbaarheid, wat de noodzaak van het motiefbewuste ontwerp bevestigt.

Betekenis en Claims

Het artikel beweert dat CoMole een praktische basis biedt voor unificerend, schaalbaar en controleerbaar moleculair inverse ontwerp. Door voorgetrainde structurele priors over te dragen naar controleerbare generatie via motiefbewuste beleidsoptimalisatie, leert het model overdraagbare kennis van structuur-eigenschapsrelaties die diverse inverse-ontwerptaken ondersteunt.

De auteurs benadrukken dat hun ontwerp de fundamentele kwetsbaarheid van RL op atoomniveau in grafgeneratie aanpakt. Door de optimalisatiegeometrie te stabiliseren via chemisch betekenisvolle beslissingen, bereikt CoMole hoge controleerbaarheid terwijl de chemische geldigheid behouden blijft, en biedt het een weg naar op fundamentele modellen gebaseerde ontwerpsystemen voor moleculen en polymeren die de kloof kunnen overbruggen tussen hypothetische generatie en praktische wetenschappelijke ontdekking. Het werk suggereert dat dergelijke modellen onderzoekers kunnen helpen veelbelovende kandidaten te prioriteren onder heterogene beperkingen voordat er wordt overgegaan tot dure simulaties of experimenten.