Thermodynamically consistent machine learning model for excess Gibbs energy

1. Enunciato del Problema

La previsione accurata dell'energia libera di Gibbs molare in eccesso ($g^E$) e dei coefficienti di attività derivati ($\gamma_i$) è fondamentale per l'ingegneria chimica nella modellazione degli equilibri di fase (Equilibrio Vapore-Liquido - VLE, Equilibrio Liquido-Liquido - LLE) e della cinetica di reazione.

• Limitazioni Attuali:
  • Modelli basati sulla fisica (NRTL, UNIQUAC): Richiedono estesi dati sperimentali per adattare i parametri di interazione binaria. Non possono prevedere le proprietà per componenti o sistemi non studiati privi di dati binari. Spesso faticano a descrivere simultaneamente VLE e LLE con un'unica serie di parametri.
  • Contributo di Gruppo (UNIFAC): Riduce i parametri decomponendo le molecole in gruppi funzionali, ma è limitato a gruppi pre-parametrizzati e fatica con sistemi complessi (es. liquidi ionici) o con la descrizione simultanea VLE/LLE.
  • Chimica Quantistica (COSMO-RS/SAC): Computazionalmente costosa e la precisione dipende fortemente dal livello DFT scelto.
  • Modelli ML Esistenti: Molti recenti approcci basati su Graph Neural Network (GNN) mancano di una rigorosa coerenza termodinamica (es. violano l'equazione di Gibbs-Duhem) o sono limitati a condizioni specifiche (es. solo diluizione infinita, temperatura fissa, o sistemi binari esclusivamente).

La Sfida Principale: Sviluppare un modello di machine learning flessibile che preveda $g^E$ e i coefficienti di attività per miscele arbitrarie (inclusi componenti non studiati) esclusivamente dalle strutture molecolari, aderendo rigorosamente a tutte le leggi di coerenza termodinamica.

2. Metodologia: Il Modello HANNA

Gli autori introducono HANNA (Hybrid Architecture for Neural Network Activity), un framework di deep learning che integra le leggi fisiche come vincoli rigidi direttamente nell'architettura della rete neurale.

A. Architettura e Input

• Input: Strutture molecolari (stringhe SMILES), temperatura ($T$) e frazioni molari ($x$).
• Embedding: Le stringhe SMILES vengono elaborate utilizzando il modello transformer pre-addestrato ChemBERTa-2 per generare embedding molecolari.
• Struttura della Rete: HANNA utilizza tre reti neurali feed-forward (FFNN):
  1. Rete di Embedding: Affina gli embedding molecolari.
  2. Rete di Miscela: Processa le interazioni tra i componenti.
  3. Rete delle Proprietà: Calcola i termini di interazione binaria.
• Vincoli Rigidi: L'architettura impone:
  • Equivarianza per Permutazione: L'ordine di output corrisponde all'ordine dei componenti di input.
  • Limite del Componente Puro: I coefficienti di attività tendono a 1 per i componenti puri.
  • Coerenza di Gibbs-Duhem: I coefficienti di attività sono derivati tramite differenziazione automatica della $g^E$ prevista, garantendo coerenza matematica.
  • Gestione dei Componenti Identici: Un punteggio di similarità basato su funzioni di base radiale (RBF) aggrega i componenti identici per garantire $g^E = 0$ per le sostanze pure.

B. Estrapolazione Multi-Componente

Per estendere dai dati di addestramento binari alle miscele multi-componente senza parametri aggiuntivi, HANNA impiega un metodo di proiezione geometrica (proiezione di Muggianu).

• Le frazioni molari di una miscela a $N$ componenti sono proiettate su tutti i $N(N-1)/2$ sottosistemi binari.
• La $g^E$ totale è calcolata come somma pesata dei contributi dei sottosistemi binari.
• Ciò permette di addestrare il modello esclusivamente su dati binari, pur prevedendo sistemi ternari e quaternari.

C. Strategia di Addestramento e Funzione di Perdita

HANNA è addestrato end-to-end su un vasto dataset proveniente dalla Dortmund Data Bank (DDB) che copre 46.543 sistemi. L'addestramento minimizza una funzione di perdita composita ($L_{total}$):

1. Perdite sui Dati:
   • VLE (TPXY/TPX): Prevede i coefficienti di attività o la pressione totale.
   • Diluizione Infinita (ACI): Prevede $\gamma^\infty$.
   • Entalpia in Eccesso ($H^E$): Derivata tramite differenziazione automatica di $g^E$ rispetto alla temperatura.
   • LLE (Equilibrio Liquido-Liquido): Questa è un'innovazione chiave. Poiché l'LLE richiede la risoluzione iterativa di equazioni non lineari (che interrompe il flusso del gradiente), gli autori hanno sviluppato un solver surrogato differenziabile. Questo solver utilizza una rete neurale per imitare il Convex Envelope Method (CEM), mappando l'energia libera di Gibbs di miscelazione ($\Delta g_{mix}$) direttamente alle composizioni di fase ($x', x''$).
2. Perdita di Gibbs ($L_{Gibbs}$): Un termine di perdita ispirato alla fisica che penalizza il modello se non riesce a prevedere un intervallo di immiscibilità (ovvero, se la seconda derivata di $\Delta g_{mix}$ non è negativa dove richiesto).
3. Regolarizzazione Lipschitziana ($L_{Lips}$): Impone la regolarità della funzione $g^E$ prevista per migliorare la robustezza e le capacità di estrapolazione.

3. Contributi Chiave

1. Coerenza Termodinamica come Vincoli Rigidi: HANNA è il primo modello a incorporare rigorosamente tutti i vincoli termodinamici rilevanti (Gibbs-Duhem, limiti di diluizione infinita, simmetria per permutazione) nell'architettura della rete, invece di affidarsi a penalità soft.
2. Addestramento End-to-End per LLE: Lo sviluppo di un solver surrogato differenziabile consente l'addestramento diretto di modelli ML su dati sperimentali di composizione di fase LLE, un compito precedentemente considerato difficile per il deep learning a causa della necessità di solver iterativi.
3. Applicabilità Universale: A differenza di UNIFAC, HANNA non richiede parametrizzazione di gruppi. Può prevedere le proprietà per qualsiasi miscela di cui siano note le strutture molecolari, inclusi liquidi ionici e sistemi complessi.
4. Descrizione Simultanea VLE/LLE: Il modello descrive con successo sia gli equilibri vapore-liquido che liquido-liquido con un'unica parametrizzazione, superando una limitazione maggiore dei modelli tradizionali come UNIQUAC.
5. Open Source: Il modello, il codice e un'interfaccia web interattiva (MLPROP) sono pubblicamente disponibili.

4. Risultati

Il modello è stato valutato su sistemi di test non visti (trattenuti durante l'addestramento) e confrontato con UNIFAC modificato (Dortmund) e altri benchmark ML (GE-GNN, GDI-GNN, SolvGNN).

• Precisione vs UNIFAC:
  • Sistemi Binari: HANNA supera UNIFAC modificato nell'Errore Assoluto Medio (MAE) per VLE, ACI e LLE. Notevolmente, il MAE mediano per ACI è sceso da 0,18 (UNIFAC) a 0,11 (HANNA).
  • Sistemi Multi-Componente: HANNA mantiene una precisione superiore o comparabile per miscele ternarie.
  • Rilevamento LLE: HANNA identifica correttamente gli intervalli di immiscibilità nell'89% dei sistemi binari LLE (contro il 74% di UNIFAC) e nel 98% dei sistemi ternari LLE.
• Applicabilità:
  • HANNA prevede con successo le proprietà per sistemi contenenti liquidi ionici e molecole complesse dove UNIFAC fallisce a causa della mancanza di parametri di gruppo.
  • Copre uno spazio chimico più ampio, inclusi componenti non studiati.
• Confronto con altri modelli ML:
  • HANNA supera significativamente altri modelli ML (GE-GNN, SolvGNN, ecc.) in precisione e applicabilità.
  • A differenza di altri modelli ML limitati a sistemi binari, temperature fisse o diluizione infinita, HANNA gestisce miscele arbitrarie a $N$ componenti e la dipendenza da temperatura/composizione.
• Prestazioni Qualitative: Il modello prevede correttamente comportamenti di fase complessi, inclusi intervalli di immiscibilità di tipo isola (temperature critiche di soluzione superiori e inferiori) ed eteroazeotropi.

5. Significato e Impatto

• Cambiamento di Paradigma: HANNA rappresenta un passaggio dal "adattare parametri ai dati" al "imparare leggi fisiche dai dati". Dimostra che le reti neurali possono essere vincolate a obbedire alla termodinamica senza sacrificare la flessibilità.
• Utilità Industriale: Fornendo previsioni accurate per sistemi non studiati (es. nuovi solventi, liquidi ionici) senza richiedere nuovi adattamenti sperimentali, HANNA accelera la progettazione di processi, la selezione di solventi e la scoperta di materiali.
• Avanzamento Metodologico: Il solver surrogato per LLE e la strategia di proiezione geometrica offrono nuovi strumenti per integrare vincoli fisici complessi nei flussi di lavoro di deep learning.
• Prospettive Future: Gli autori pianificano di estendere l'addestramento agli Equilibri Solido-Liquido (SLE) e potenzialmente incorporare dati ternari direttamente per affinare il metodo di proiezione.

In sintesi, HANNA stabilisce un nuovo stato dell'arte per la termodinamica predittiva, combinando il potere di generalizzazione del deep learning con la rigorosa coerenza delle leggi fisiche, superando standard industriali decennali offrendo al contempo un'applicabilità più ampia.