Smooth multi-function evolutionary algorithm

Nel mondo dell'informatica, esiste una sfida persistente nota come regressione simbolica. Immaginate uno scienziato che ha raccolto una vasta quantità di punti dati — forse misurazioni della velocità del vento, conteggi di pollini o stipendi dei docenti — e vuole trovare una singola frase matematica che spieghi come questi numeri si relazionino tra loro. L'obiettivo è scoprire la regola nascosta, l'equazione, che trasforma i dati di input nell'output corretto. Per farlo, i computer spesso utilizzano un metodo ispirato alla selezione naturale, dove generano migliaia di frasi matematiche casuali, testano quanto bene si adattano ai dati e poi mescolano e mutano le migliori per creare versioni ancora più efficaci. Tuttavia, questo processo è spesso goffo. Il computer tratta i mattoni di queste frasi — come l'addizione, la sottrazione o la moltiplicazione — come strumenti rigidi e separati. Passare da uno strumento all'altro è come un salto improvviso nel panorama delle possibilità, rendendo difficile per il computer trovare il percorso fluido verso la risposta perfetta. È un po' come cercare di scalare una montagna dove il terreno cambia improvvisamente da una pendenza dolce a una scogliera verticale; lo scalatore fatica a trovare la direzione giusta.

I ricercatori Peter Michalicek e Tomas Brandejsky dell'Università di Pardubice, nella Repubblica Ceca, hanno proposto un nuovo modo per smussare questo panorama irregolare. Hanno sviluppato un sistema in cui il computer non deve scegliere tra diversi strumenti matematici come se fossero opzioni distinte e separate. Invece, hanno creato uno strumento singolo e flessibile che può trasformarsi fluidamente da un'operazione all'altra. Nel loro nuovo approccio, il computer utilizza una speciale variabile di controllo, un singolo cursore che può essere ruotato per spostare gradualmente il comportamento della funzione. Se il cursore è impostato su una posizione, lo strumento agisce come un'addizione; se ruotato in un'altra, agisce come una moltiplicazione; e nel mezzo, esegue una miscela di entrambe. Ciò consente al computer di scivolare continuamente tra diversi comportamenti matematici piuttosto che compiere salti bruschi e scoscesi. Facendo ciò, i ricercatori hanno trasformato una difficile ricerca di una struttura complessa ad albero in un compito più semplice di regolazione di un insieme di numeri, rendendo il processo evolutivo più efficiente e meno propenso a incagliarsi in vicoli ciechi.

I ricercatori hanno testato questa idea costruendo un sistema che chiamano "algoritmo evolutivo multi-funzione fluido". Invece di lasciare che il computer assembli casualmente un albero di diverse operazioni matematiche, lo hanno costretto a utilizzare un albero perfetto e simmetrico dove ogni nodo interno è questo stesso strumento flessibile e mutaforma. Le uniche cose che cambiano durante il processo di apprendimento sono i valori dei cursori di controllo in ogni nodo e i numeri o le variabili specifiche alla base dell'albero. Questo design semplifica significamente il problema. Poiché la struttura dell'albero è fissa e le transizioni tra le operazioni sono fluide, il computer può utilizzare tecniche di ottimizzazione standard per trovare le migliori impostazioni, piuttosto che fare affidamento sui metodi solitamente più caotici e imprevedibili richiesti per questo tipo di problema. I ricercatori hanno scoperto che questo approccio permetteva loro di rappresentare relazioni complesse utilizzando una singola variabile di controllo per qualsiasi numero di funzioni di base, riducendo la complessità dello spazio di ricerca.

Per vedere se questo metodo funzionasse davvero, il team ha testato il proprio algoritmo su una varietà di dataset standard utilizzati per testare la regressione simbolica, inclusi dati su modelli di vento, conteggi di pollini e stipendi dei docenti universitari. Hanno confrontato i loro risultati con diversi altri metodi ben noti, inclusi i sistemi che utilizzano la programmazione genetica tradizionale e quelli che combinano l'evoluzione con altre tecniche di ottimizzazione. I risultati hanno mostrato che, sebbene il loro metodo richiedesse talvolta più tempo per l'esecuzione su un processore standard, era altamente efficace nel trovare modelli accurati. In alcuni casi, in particolare se dotato di tempo sufficiente per procedere attraverso molte generazioni di test, il loro algoritmo ha trovato soluzioni che erano pari o superiori ai metodi stabiliti. Ad esempio, su un dataset riguardante gli stipendi dei docenti, il loro metodo ha raggiunto un alto livello di precisione che si è pareggiato con i migliori performer. Su un altro dataset relativo ai dati del vento, ha prodotto risultati comparabili ai migliori strumenti esistenti.

Uno dei risultati più significativi riguardava quanto bene i modelli generalizzassero su nuovi dati non visti. Nel machine learning, un problema comune è l'overfitting (sovra-adattamento), in cui un modello memorizza i dati di addestramento così perfettamente da non riuscire a fare previsioni accurate su nuove informazioni. I ricercatori hanno misurato questo fenomeno confrontando il tasso di errore sui dati di addestramento con il tasso di errore sui dati di test. Il loro approccio multi-funzione fluido ha mostrato un aumento molto piccolo dell'errore passando dall'addestramento al test, suggerendo che i modelli creati fossero stabili e robusti. Ciò indica che le transizioni fluide tra le operazioni matematiche hanno aiutato l'algoritmo a trovare soluzioni che catturavano i veri schemi sottostanti dei dati, piuttosto che limitarsi ad adattarsi al rumore. I ricercatori hanno osservato che la loro implementazione attuale era stata scritta in un modo non completamente ottimizzato per la velocità, il che limitava quanti test potessero eseguire in un tempo fisso. Hanno suggerito che, se il codice fosse stato riscritto per essere più veloce, magari utilizzando hardware informatico specializzato, le prestazioni potrebbero migliorare ulteriormente.

Lo studio conclude che sostituendo le transizioni rigide e basate su salti degli algoritmi evolutivi tradizionali con transizioni fluide e continue, è possibile rendere la ricerca di modelli matematici più efficiente e affidabile. I ricercatori hanno dimostrato che una singola variabile di controllo poteva gestire efficacemente la transizione tra diverse funzioni matematiche, riducendo la complessità del problema senza sacrificare l'accuratezza. Sebbene il metodo non sia una soluzione magica che risolve ogni problema istantaneamente, offre un'alternativa promettente per trovare le regole nascoste nei dati. Il lavoro suggerisce che il modo in cui rappresentiamo i mattoni dei nostri modelli conta tanto quanto gli algoritmi che usiamo per cercarli. Smussando il panorama, i ricercatori hanno fornito un percorso più chiaro da seguire per i computer, portando potenzialmente a modelli più accurati e affidabili in campi che vanno dalla scienza ambientale all'economia. Il codice e i risultati di questo studio sono disponibili affinché altri possano esaminarli e costruirvi sopra, invitando un'ulteriore esplorazione in questo modo più fluido di far evolvere le soluzioni matematiche.