Immagina di cercare di risolvere un enorme, aggrovigliato nodo di un problema. Nel mondo dell'informatica, specificamente in un campo chiamato apprendimento automatico (machine learning), spesso chiediamo ai computer di trovare il modo "migliore" per fare previsioni, come indovinare se un cliente acquisterà un prodotto o se un paziente ha una certa condizione. Per molto tempo, gli scienziati hanno creduto che esistesse solitamente una singola risposta perfetta, un "modello d'oro" unico che fosse l'assoluto migliore. Ma c'è un colpo di scena affascinante chiamato effetto Rashomon. Prende il nome da un famoso film in cui quattro testimoni raccontano versioni diverse dello stesso evento, e questo effetto descrive una realtà in cui molti modelli completamente diversi possono avere prestazioni quasi identiche. Sono tutti "abbastanza buoni", ma potrebbero usare indizi diversi o guardare i dati in modi totalmente differenti.

Perché questo è importante? Perché se cerchi solo quel singolo modello "d'oro", potresti perdere un'intera schiera di alternative altrettanto valide. Alcune di queste alternative potrebbero essere più sicure, più facili da comprendere o più eque. Per studiare questo, i ricercatori cercano un insieme di Rashomon: una collezione di tutti i modelli che sono quasi perfetti. La sfida è che trovare questo insieme è come cercare di contare ogni singolo granello di sabbia su una spiaggia. È un lavoro enorme e disordinato, specialmente quando i dati non sono solo semplici risposte "sì o no" (come rosso o blu), ma includono caratteristiche continue — numeri che possono essere qualsiasi cosa, come la temperatura, l'altezza o il prezzo, che possono essere suddivisi in milioni di punti differenti.

È qui che entra in gioco uno studio recente, che introduce uno strumento ingegnoso chiamato ArborEnum. Pensa ai ricercatori come esploratori che cercano di mappare una foresta densa e nebbiosa. Prima, se volevano mappare la foresta, dovevano abbatterla in ordinati quadrati di una griglia (un processo chiamato binarizzazione) solo per renderla gestibile. Ma facendo così, spesso perdevano sentieri nascosti, alberi rari o scorciatoie importanti che esistevano nel paesaggio selvaggio e continuo. Gli autori di questo articolo hanno costruito una nuova sorta di bussola che permette loro di esplorare la foresta esattamente così com'è, con tutte le sue curve lisce e continue, senza doverla prima a pezzi. Hanno scoperto che, ignorando la fluidità dei dati, i vecchi metodi perdevano enormi porzioni di modelli "buoni". Il loro nuovo metodo può elencare questi modelli molto più velocemente — a volte centinaia di volte più velocemente — rispetto a prima. Ancora meglio, hanno creato una versione "intelligente" che parte da uno schizzo grossolano della foresta e continua a raffinarlo, diventando più dettagliato man mano che viene lasciato girare, in modo da poter interrompere l'esecuzione quando si hanno abbastanza informazioni. Hanno dimostrato attraverso esperimenti su dati del mondo reale che questo approccio non solo fa risparmiare tempo, ma trova anche caratteristiche importanti e variazioni di modelli che i vecchi metodi basati sulla griglia avevano completamente trascurato.

La storia della foresta e della griglia

Immagina di essere un detective che cerca di risolvere un mistero. Hai un mucchio di indizi e devi costruire un albero decisionale — un diagramma di flusso di domande — per capire chi è stato. Di solito, porresti domande come: "Il sospettato è alto più di 1 metro e 80?" o "Il sospettato indossa un cappello?". Nei vecchi tempi, gli scienziati informatici dovevano trasformare ogni singolo indizio in una semplice domanda "sì o no" prima di poter iniziare a costruire il loro albero. Se un indizio era un numero, come "L'altezza del sospettato è 1 metro e 75 cm", dovevano dividerlo in contenitori: "È sotto 1 metro e 65 cm?", "È tra 1 metro e 65 cm e 1 metro e 85 cm?", "È sopra 1 metro e 85 cm?".

Questo processo di divisione è chiamato binarizzazione. È come prendere un fiume liscio e scorrevole e forzarlo in una serie di canali quadrati di cemento. Il problema è che, forzando l'acqua in queste scatole rigide, potresti perdere un piccolo, perfetto gorgo o una corrente nascosta che scorre proprio tra le crepe. Nel mondo del machine learning, questo significa che potresti perdere un modo perfetto per dividere i dati perché la tua "griglia" non aveva una linea esattamente dove i dati ne avevano bisogno.

L'effetto Rashomon è l'idea che non esista un solo diagramma di flusso perfetto. Esistono decine, forse centinaia, di diversi diagrammi di flusso che risolvono il mistero con la stessa alta precisione. Alcuni potrebbero usare l'altezza, altri il peso, altri ancora una combinazione di entrambi. L'insieme di Rashomon è la collezione di tutti questi diagrammi di flusso ugualmente validi. Trovare questo insieme è utilissimo perché aiuta a capire quali indizi sono veramente importanti e quali sono solo colpi di fortuna. Se un indizio appare in quasi tutti i buoni diagrammi di flusso, è probabilmente una chiave reale per il mistero. Se appare in uno solo, potrebbe essere solo un caso.

Il problema delle vecchie mappe

Per molto tempo, l'unico modo per trovare questo insieme di Rashomon è stato usare il metodo dei "canali di cemento" (binarizzazione). I ricercatori dividevano i numeri continui in pochi contenitori e poi cercavano di trovare tutti i buoni alberi. Ma questo aveva due grandi problemi. Primo, lo spazio di ricerca era già enorme; con soli 20 tratti binari, c'erano già più alberi di quanti ce ne siano di granelli di sabbia sulla Terra. Secondo, dividendo i dati, stavano buttando via informazioni. Avrebbero potuto perdere una divisione che avveniva a un numero molto specifico, come 1 metro e 79 cm, perché i loro contenitori erano solo 1 metro e 70 cm e 1 metro e 80 cm.

L'articolo mostra che questa binarizzazione "grossolana" è come cercare un ago in un pagliaio guardando solo lo strato superiore di paglia. Potresti trovare un ago, ma perderesti quelli sepolti più in profondamente o quelli che hanno forme leggermente diverse. Gli autori hanno scoperto che, forzando i dati in questi contenitori grezzi, perdevano molti alberi importanti, caratteristiche importanti e la vera varietà di soluzioni (molteplicità predittiva).

La nuova bussola: ArborEnum

Entra in scena ArborEnum. Gli autori hanno costruito il primo algoritmo capace di esplorare la "foresta continua" senza doverla prima a pezzi. Invece di forzare i dati in scatole quadrate, ArborEnum rispetta l'ordine naturale dei numeri. Tratta i dati come una linea fluida e cerca i posti migliori per tagliarla, sapendo che esistono migliaia di possibili punti di taglio.

Per farlo, hanno usato un trucco ingegnoso. Immagina di dover trovare il punto migliore per tagliare una corda. Non hai bisogno di testare ogni singolo millimetro. Se sai che tagliare a 10 pollici è male, e tagliare a 11 pollici è altrettanto male, puoi probabilmente indovinare che tagliare a 10,5 pollici non sarà grandioso. Gli autori hanno sviluppato un modo per usare questi "limiti" per saltare enormi sezioni della corda che non hanno bisogno di essere testate. Lo chiamano pruning (potatura). È come avere una mappa che dice: "Non bother a guardare in tutta questa valle; il tesoro non è lì".

Hanno anche introito un sistema di "proxy". Pensa a un proxy come a una stima rapida e approssimativa. Prima di fare il lavoro duro di controllare ogni singola possibilità, l'algoritmo fa una stima veloce e approssimativa per vedere se un percorso vale la pena di essere esplorato. Se la stima dice "assolutamente no", l'algoritmo salta l'intero ramo. Se la stima dice "forse", l'algoritmo scava più a fondo. Questo permette all'algoritmo di girare incredibilmente velocemente. Nei loro test, questo metodo è stato 270 volte più veloce dei metodi esistenti in media, e in alcuni casi, l'effetto è stato ancora più drammatico.

La caratteristica "Anytime": Uno schizzo che migliora

Una delle parti più interessanti di ArborEnum è il suo algoritmo anytime (in qualsiasi momento). Di solito, se vuoi una mappa perfetta, devi aspettare che il computer finisca tutto il lavoro. Ma cosa succede se hai bisogno di una risposta adesso? La versione anytime di ArborEnum parte con uno schizzo molto grossolano della foresta. Potrebbe guardare solo alcuni punti di taglio chiave. Ti fornisce un elenco di alberi buoni basati su quello schizzo grossolano.

Poi, lasciandolo girare più a lungo, aggiunge sempre più punti di taglio alla sua mappa. Raffina lo schizzo, riempiendo i vuoti. Più tempo gli dai, più dettagliato e accurato diventa l'elenco degli alberi. Alla fine, se lo lasci girare abbastanza a lungo, trova l'elenco esatto e perfetto di tutti i buoni alberi. La cosa migliore? Puoi fermarlo in qualsiasi momento. Se hai bisogno di una risposta in 5 minuti, ottieni un'approssimazione buona. Se hai 5 ore, ottieni una risposta quasi perfetta. Gli autori hanno scoperto che, anche con questo "inizio grezzo", il metodo ha recuperato quasi tutti gli alberi importanti, e il tempo extra necessario per raffinare la mappa è stato minimo — solo circa il 2,7% in più rispetto all'esecuzione della versione non raffinata sull'insieme finale di punti.

Cosa hanno scoperto e cosa significa

Gli esperimenti sono stati condotti su 20 diversi dataset del mondo reale, dalla previsione del noleggio di biciclette al default delle carte di credito. I risultati sono stati chiari:

1. La binarizzazione grossolana perde molto: Quando hanno confrontato il vecchio metodo "a pezzi" con il nuovo metodo continuo, il vecchio metodo ha perso molti alberi e caratteristiche importanti. Era come guardare una foto attraverso una finestra appannata; potevi vedere la forma generale, ma perdevi i dettagli.
2. La velocità è reale: Il nuovo metodo è ordini di grandezza più veloce. Su un dataset chiamato "Bike", il nuovo metodo ottimale ha finito 63 volte più velocemente dell'unico altro metodo in grado di finire del tutto.
3. L'accuratezza è alta: Anche usando il metodo "proxy" veloce e approssimativo, hanno recuperato dal 94,5% al 100% degli alberi che il metodo perfetto ha trovato. Questo significa che puoi ottenere quasi tutti i benefici dell'insieme di Rashomon senza aspettare un'eternità.
4. L'approccio "Anytime" funziona: Il metodo che parte in modo grossolano e migliora nel tempo si è dimostrato molto efficiente. Ha trovato caratteristiche importanti molto presto, il che significa che puoi ottenere intuizioni utili rapidamente senza aspettare l'intera computazione.

L'articolo non sostiene di aver risolto ogni problema nel machine learning. Non dice che le caratteristiche continue sono l'unico modo di fare le cose, né che questo metodo funzioni per ogni tipo di modello. Ma dimostra, con prove solide derivanti dagli esperimenti, che per gli alberi decisionali, trattare i dati continui come continui è un cambiamento radicale. Permette di vedere l'immagine completa dell'insieme di Rashomon senza perdere la ragione (o i nostri computer) per la complessità.

In breve, ArborEnum è un nuovo modo per esplorare il panorama delle buone soluzioni. Ci impedisce di forzare il mondo in una griglia che non si adatta, permettendoci invece di camminare sui sentieri lisci e continui dove spesso si nascondono le risposte reali. Che tu sia un data scientist in cerca del miglior modello o solo una persona curiosa che si chiede come i computer prendano decisioni, questo lavoro suggerisce che ci sono più buone risposte là fuori di quanto pensassimo, e ora abbiamo un modo migliore per trovarle.