Sintesi Tecnica: PyCC.id – Un pacchetto per la scoperta di equazioni guidata da ipotesi con identificabilità strutturale

Problema

La scoperta di equazioni basata sui dati è fondamentalmente un problema inverso volto a inferire le equazioni differenziali governanti da misurazioni di serie temporali. Una sfida persistente in questo campo è la natura mal condizionata del problema, in cui molteplici modelli matematici distinti possono adattarsi a un dataset finito con un'accuratezza comparabile. Mentre gli approcci puramente basati sui dati spesso generano un vasto panorama di modelli candidati, questi differiscono frequentemente in modo significativo nella forma strutturale, portando a rappresentazioni fisicamente incoerenti. Di conseguenza, i professionisti sono costretti a fare affidamento su un filtraggio manuale post-hoc basato sull'esperienza del dominio per scartare i modelli non fisici, rendendo la selezione finale del modello in qualche modo arbitraria. Inoltre, molti metodi esistenti mancano di garanzie di identificabilità strutturale, rendendo difficile determinare se un'equazione proposta sia coerente con i dati o richieda una riformulazione.

Metodologia

Per affrontare queste limitazioni, il documento introduce PyCC.id (PyCC), una libreria Python open-source che implementa una metodologia guidata da ipotesi basata su "scheletri" strutturali e Curve Caratteristiche (CC).

Framework Core

A differenza dei metodi "black-box" che cercano equazioni partendo da zero, PyCC richiede al professionista di definire uno scheletro strutturale basato sull'intuizione fisica o sulla conoscenza del dominio. Questo scheletro classifica famiglie di equazioni differenziali ordinarie (ODE) e decompone la dinamica globale in funzioni univariante monodimensionali (1D).

• Identificabilità Strutturale: Il framework sfrutta scheletri che possiedono proprietà di identificabilità strutturale dimostrabili nello spazio delle fasi. Ciò consente la validazione formale del fatto che una struttura ipotizzata sia coerente con i dati prima dell'addestramento esteso.
• Integrazione delle Ipotesi: Gli utenti possono iniettare informazioni a priori (ad esempio, simmetrie fisiche, vincoli come $f(0)=0$ o requisiti di parità) direttamente nelle funzioni definite all'interno degli scheletri. Ciò restringe lo spazio di ricerca a strutture motivate fisicamente, mitigando l'ambiguità strutturale.

Strategie di Parametrizzazione

La libreria supporta tre strategie distinte per identificare le funzioni 1D ($f_i$) all'interno di uno scheletro, permettendo flessibilità in base al livello di interpretabilità e di conoscenza a priori desiderato:

1. Approccio Funzionale: Le funzioni 1D sono trattate come ignote e approssimate utilizzando approssimatori universali come Reti Neurali (NN) o Regressione Simbolica (SymbR).
2. Approccio Parametrico: La forma funzionale è interamente ipotizzata e parametrizzata da parametri scalari $\{a_i\}$, che vengono ottimizzati tramite ottimizzazione non lineare.
3. Approccio Ibrido: Una combinazione in cui vengono adattate simultaneamente sia le funzioni 1D $\{f_i\}$ che i parametri scalari $\{a_j\}$.

Architettura del Software

PyCC agisce come un framework integrativo all'interno dell'ecosistema del machine learning scientifico, utilizzando strumenti consolidati come PyTorch e PySR (per la regressione simbolica) all'interno di una pipeline strutturata. Le sue funzioni principali includono:

• pycc.simulate(): Un risolutore di ODE versatile per l'integrazione del sistema in avanti. Supporta simulazioni teoriche (per generare dati di ground-truth) e la validazione dei modelli scoperti. È compatibile con vari backend (NN, SymbR, Poly, Interp).
• pycc.train(): Il punto di ingresso principale per l'identificazione della dinamica del sistema. Agisce come un dispatcher, instradando i dati al modulo appropriato (NN, SymbR, Poly) in base al metodo specificato dall'utente.
• pycc.post_processing(): Un'utilità progettata per convertire le CC numeriche (ottenute tramite NN o Poly) in espressioni simboliche esplicite. Ciò facilita l'ispezione del modello, l'analisi e la generazione di modelli simbolici ottimizzati per simulazioni successive.

Contributi Chiave

Il documento presenta PyCC.id come uno strumento che condensa recenti avanzamenti teorici in una libreria flessibile e facile da usare. I suoi principali contributi includono:

• Workflow Guidato dalle Ipotesi: Spostare il focus dalla scoperta puramente basata sui dati verso un approccio a scheletro strutturale che garantisce la coerenza fisica e l'identificabilità strutturale.
• Modularità e Interoperabilità: La libreria non compete con i pacchetti esistenti, ma serve come interfaccia che sfrutta i loro punti di forza (ad esempio, il potere simbolico di PySR e la flessibilità delle Reti Neurali) all'interno di un framework unificato.
• Accelerazione Hardware: Supporto nativo per CPU multicore e GPU (NVIDIA CUDA e Intel XPU tramite intel-extension-for-pytorch) per l'addestramento delle Reti Neurali.
• Vincoli Fisici: La capacità di imporre vincoli (ad esempio, parità dispari/pari, valori specifici) direttamente durante il processo di addestramento, portando a modelli più robusti.
• Strumentazione Completa: Include un simulatore integrato, supporto per molteplici metodi di parametrizzazione e documentazione estesa, inclusi tutorial su Google Colab.

Risultati ed Esempio Illustrativo

Il documento dimostra le capacità di PyCC utilizzando un classico sistema fisico: un oscillatore non lineare con attrito, governato da un'equazione differenziale del secondo ordine che coinvolge uno smorzamento dipendente dalla velocità e una forza di richiamo dipendente dalla posizione.

• Generazione dei Dati: Il sistema è stato simulato utilizzando equazioni teoriche per generare un dataset di posizione, velocità e forze esterne.
• Identificazione: La libreria ha identificato con successo la dinamica del sistema utilizzando l'Approccio Funzionale con Reti Neurali. L'utente ha definito uno scheletro corrispondente a un attrito dipendente dalla velocità ($F_{ext} = \ddot{x} + f_1(\dot{x}) + f_2(x)$) e ha applicato vincoli come $f_2(0)=0$ e la parità dispari per le funzioni.
• Validazione: Le funzioni apprese ($f_1$ e $f_2$) sono state visualizzate e mostrate essere molto vicine alle relazioni costitutive teoriche.
• Post-Processing: I risultati numerici sono stati convertiti in espressioni analitiche utilizzando la Regressione Simbolica (PySR), dimostrando la capacità della libreria di passare dall'approssimazione basata sui dati a modelli simbolici interpretabili.
• Simulazione: I modelli identificati sono stati integrati in avanti, mostrando un accordo accurato con la dinamica teorica.

Significato

Il documento posiziona PyCC.id come un passo significativo verso la risoluzione della natura mal condizionata della scoperta di equazioni. Formalizzando l'integrazione della conoscenza del dominio attraverso scheletri strutturali, la libreria fornisce una via per validare o eliminare le strutture ipotizzate a livello algoritmico. Ciò riduce la dipendenza dal filtraggio arbitrario post-hoc e facilita la scoperta di equazioni governanti interpretabili e fisicamente coerenti. Il lavoro sottolinea che, mentre molti pacchetti cercano la "migliore" equazione partendo da zero, PyCC fornisce un pipeline formale per verificare se una struttura fisica ipotizzata è coerente con la dinamica misurata, migliorando così l'affidabilità e l'interpretabilità delle applicazioni di machine learning scientifico.