POSSE-kNN: Pathwise Out-of-Bag Selected Subspace Ensembles for Binary Classification

Immagina di cercare di trovare il percorso migliore attraverso una foresta fitta e nebbiosa per raggiungere una destinazione specifica. Nel mondo dell'informatica, questo è un po' come l' "apprendimento automatico" (machine learning), dove gli algoritmi cercano di fare ipotesi intelligenti basate sui dati. Un modo popolare per farlo è chiamato "k-nearest neighbors" (kNN). Pensa al kNN come a un turista che chiede indicazioni alle cinque persone più vicine che vede. Se la maggior parte di quelle cinque dice "gira a sinistra", il turista gira a sinistra. È semplice e funziona bene in campi aperti, ma può confondersi in una foresta con sentieri tortuosi. Se le persone che "girano a sinistra" sono disposte in una lunga linea curva, un turista che guarda solo chi è più vicino in linea retta potrebbe perdere l'intero gruppo e perdersi.

Questo articolo affronta esattamente questo problema: come possiamo aiutare il nostro turista digitale a navigare in sentieri curvi e complicati nella foresta dei dati senza rimanere bloccato? I ricercatori stanno costruendo una versione migliore della strategia "chiedi ai vicini". Non stanno solo cercando le persone più vicine; stanno cercando le persone che sono collegate in una catena logica, come pietre di guado attraverso un ruscello. Usano anche un trucco astuto chiamato screening "Out-of-Bag" (OOB), che è come avere un gruppo di scout che testano le proprie mappe durante un'esercitazione prima del viaggio vero e proprio, mantenendo solo le mappe che non li hanno fatti smarrire.

La storia del documento: Un modo migliore per trovare la via

I ricercatori, Zardad Khan e il suo team, hanno introdotto un nuovo metodo chiamato POSSE-kNN. Puoi immaginarlo come una super-squadra di esploratori che cerca di risolvere un puzzle. Invece di un singolo esploratore che guarda la mappa, creano 500 diversi esploratori "candidati". Ognuno è un po' diverso: guardano la foresta attraverso una lente leggermente diversa (sottospazi di caratteristiche casuali) e seguono un percorso unico per trovare i loro vicini.

Ecco come funziona il loro speciale metodo "Pathwise" (percorso). Immagina di essere l'esploratore fermo in un punto di query (il luogo in cui devi prendere una decisione).

1. Il primo passo: Guardi intorno a te e trovi la singola persona più vicina a te.
2. La reazione a catena: Invece di cercare la persona successiva più vicina a te, cerchi la persona più vicina alla prima persona che hai appena trovato. Poi, trovi la persona più vicina a quella persona.
3. Il percorso: Continui così finché non hai una catena di $k$ persone. Questo crea un "percorso" che segue la forma locale della folla, anche se la folla è curva o contorta. Questo è molto più intelligente rispetto al semplice scegliere le cinque persone più vicine a te in linea retta, che potrebbero trovarsi tutte in un gruppo strano e poco utile.

Ma aspetta, 500 esploratori sono molti rumori. Alcuni potrebbero essere scarsi nel navigare. Così, il team utilizza lo screening Out-of-Bag (OOB). Prima della corsa finale, inviano ciascuno dei 500 esploratori in un'esercitazione utilizzando un insieme di dati su cui non si sono addestrati. Se un esploratore si perde durante l'esercitazione, viene espulso dalla squadra. I ricercatori hanno tenuto il miglior 25% degli esploratori (i migliori 125 su 500) e ha lasciato che votassero sulla risposta finale. È come un reality show dove i giudici eliminano i concorrenti che falliscono la sfida, lasciando solo i campioni a decidere il vincitore.

Cosa hanno scoperto

Il team ha testato questo nuovo metodo POSSE-kNN su dieci diversi dataset (che sono come dieci diversi tipi di foreste, che vanno da piccoli record medici a più grandi dati ingegneristici). Lo hanno confrontato con altri sei metodi consolidati, inclusi kNN standard, Random Forests e Support Vector Machines (SVM).

I risultati sono stati molto promettenti. Su tutta la linea, POSSE-kNN è arrivato in cima nelle classifiche generali.

• Accuratezza: Ha ottenuto la risposta corretta 0,740 delle volte in media. È stato il punteggio più alto tra tutti i metodi testati.
• Affidabilità: Ha ottenuto anche il punteggio migliore su Cohen's kappa (0,412), una misura di quanto il metodo sia in accordo con la verità, e sul Brier score (0,175), che misura quanto le sue previsioni di probabilità siano sicure e corrette.

Il metodo ha vinto o si è pareggiato per il primo posto su otto dei dieci dataset. Tuttavia, l'articolo è attento a non dire che sia una bacchetta magica per tutto. Su due dataset specifici (uno chiamato ILPD e un altro chiamato Chscase Vine), altri metodi sono stati leggermente migliori. Ad esempio, sui dati Chscase Vine, un metodo lineare chiamato SVM è stato migliore, suggerendo che a volte la "foresta" è in realtà una linea retta e un percorso complesso non è necessario.

La domanda "Quanti vicini?"

I ricercatori hanno anche giocato con la dimensione del gruppo, cambiando il numero di vicini ($k$) a 3, 5 o 7. Hanno scoperto che per alcune foreste (come il dataset "Heart"), il metodo funzionava bene indipendentemente dal numero scelto. Ma per altre (come "ILPD"), cambiare il numero non aiutava molto, e a volte una strategia diversa era migliore. Ciò suggerisce che, sebbene il metodo pathwise sia potente, è comunque necessario calibrare le impostazioni a seconda del problema specifico che si sta affrontando.

In sintesi

L'articolo conclude che POSSE-kNN è uno strumento forte e competitivo. Suggerisce che combinando un modo "a passi" per trovare i vicini con un filtro rigoroso di "esercitazione", possiamo costruire migliori classificatori per dati complicati. Non sostiene di aver risolto ogni problema nel mondo del machine learning, ma mostra che quando i dati sono curvi e complessi, seguire un percorso è spesso un'idea migliore rispetto a guardare semplicemente chi è più vicino in linea retta. Gli autori osservano che il lavoro futuro dovrebbe concentrarsi su come renderlo ancora più veloce e su come perfezionare automaticamente le impostazioni, ma per ora, è un passo avanti solido nell'aiutare i computer a navigare nelle foreste disordinate e tortuose dei dati del mondo reale.