Intuitionistic Fuzzy Graph Embedded Random Vector Functional Link with Multiview Learning

Sintesi Tecnica: Intuitionistic Fuzzy Graph Embedded Random Vector Functional Link con Multiview Learning (IFGRVFL-MV)

Definizione del Problema
Le reti Random Vector Functional Link (RVFL) sono riconosciute per le loro elevate velocità di addestramento e le capacità di approssimazione universale, ottenute inizializzando casualmente i pesi dello strato nascosto e risolvendo analiticamente i pesi di output. Tuttavia, i modelli RVFL standard affrontano limitazioni specifiche: spesso faticano a preservare le relazioni geometriche intrinseche dei dati, sono sensibili a dataset rumorosi o incerti e non sfruttano efficacemente le informazioni complementari provenienti da molteplici viste di caratteristiche (Multiview Learning). Sebbene varianti esistenti abbiano affrontato questi problemi isolatamente — come l'Intuitionistic Fuzzy RVFL (IFRVFL) per l'incertezza, il Graph Embedded RVFL (GE-RVFL) per la struttura geometrica e il Multiview RVFL (MvRVFL) per l'integrazione delle caratteristiche — nessun framework unificato combina attualmente tutti e tre gli elementi per gestire simultaneamente l'incertezza, preservare la topologia ed esplorare i dati multiview.

Metodologia
Il modello proposto IFGRVFL-MV integra gli Insiemi Fuzzy Intuizionistici (IFS), l'Embedding Grafico (GE) e il Multiview Learning (MVL) in un framework RVFL unificato. La metodologia procede come segue:

1. Pesatura Fuzzy Intuizionistica: Il modello assegna valori di appartenenza fuzzy intuizionistica ($f$) e di non appartenenza ($f^*$) ai punti dati in ogni vista.

   • Il valore di appartenenza è determinato dalla distanza di un campione dal centro della propria classe rispetto al raggio della classe.
   • Il valore di non appartenenza è derivato dal rapporto tra i vicini eterogenei (campioni con etichette di classe diverse) entro una soglia di prossimità.
   • Una funzione di punteggio ($s_i$) viene calcolata sulla base di questi valori per quantificare l'affidabilità di ciascun campione, riducendo efficacementamente l'influenza di outlier e dati rumorosi durante l'addestramento.

2. Graph Embedding (GE): Per preservare la struttura topologica dei dati, il modello costruisce grafi intrinseci e di penalità sopra la matrice delle caratteristiche concatenata di ogni vista. Questo framework assicura che i campioni con etichette simili rimangano vicini (grafo intrinseco), mentre i campioni con etichette diverse vengano allontanati (grafo di penalità), migliorando la generalizzazione.

3. Multiview Learning (MVL): Il modello elabora due viste distinte dei dati (Vista-P e Vista-Q). Impiega una strategia di fusione precoce (early fusion) in cui l'obiettivo di ottimizzazione minimizza congiuntamente l'errore per entrambe le viste, imponendo al contempo la coerenza tra di esse.

4. Formulazione dell'Ottimizzazione: Il nucleo del modello è un problema di ottimizzazione regolarizzato che minimizza una somma pesata di errori al quadrato, norme dei pesi di output e penalità di embedding del grafo.

   • I termini di errore per ogni vista sono pesati dalle radici quadrate delle matrici di punteggio fuzzy intuizionistico ($S_1^{1/2}$ e $S_2^{1/2}$), riducendo l'influenza dei campioni incerti.
   • Un termine di coerenza tra le viste ($\rho \xi_1^T S_1^{1/2} S_2^{1/2} \xi_2$) allinea le predizioni delle due viste.
   • La soluzione è derivata analiticamente risolvendo un sistema di equazioni lineari che coinvolge i moltiplicatori di Lagrange, risultando in una soluzione in forma chiusa per i pesi di output ($\beta_1, \beta_2$).

Principali Contributi
L'articolo delinea quattro contributi primari:

1. Integrazione di IFS in RVFL: L'introduzione degli insiemi fuzzy intuizionistici nel framework RVFL per gestire l'incertezza e l'imprecisione dei dati. I valori di appartenenza e non appartenenza sono assegnati in base alla distanza del campione dai centri di classe e all'eterogeneità dei vicini.
2. Potenziamento tramite Graph Embedding: L'incorporazione del framework GE per catturare le relazioni geometriche nei dati. Definendo grafi intrinseci e di penalità sulla matrice delle caratteristiche, il modello preserva le strutture topologiche per migliorare la generalizzazione.
3. Utilizzo del Multiview Learning: L'applicazione del MVL per combinare le informazioni da molteplici viste di caratteristiche, consentendo al modello di catturare pattern complessi non evidenti in una singola vista.
4. Validazione Empirica: Esperimenti estesi su dataset benchmark dai repository UCI e KEEL, supportati da analisi statistiche (Friedman, Wilcoxon e test win-tie-loss) per validare la superiorità del modello.

Risultati
Il modello IFGRVFL-MV è stato valutato su otto dataset benchmark (es. pittsburgh-bridges, breast-cancer, mammographic, Pima).

• Performance: Il modello proposto ha raggiunto l'accuratezza media di classificazione più elevata dell'81,06%, superando i modelli baseline inclusi RVFL1 (71,99%), RVFL2 (70,38%), GE-IFWRVFL (76,00%) e GRVFL-MV (79,50%).
• Significatività Statistica:
  • Il test di Friedman ha prodotto una statistica di 23,714 con un p-value di 0,00009, rifiutando l'ipotesi nulla e confermando differenze significative di performance tra i modelli. Il modello proposto ha ottenuto il miglior rango medio (1,19).
  • Il test post hoc di Nemenyi ha identificato gap significativi tra il modello proposto e gli altri, in particolare contro GRVFL-MV.
  • Il test della Wilcoxon signed-rank ha confermato che l'IFGRVFL-MV supera significativamente RVFL1, RVFL2 e GE-IFWRVFL (p-value < 0,05).
  • Analisi Win-Tie-Loss: Attraverso i dataset, l'IFGRVFL-MV ha ottenuto tra 5 e 7 vittorie contro i baseline, dimostrando una superiorità costante.

Significatività e Rivendicazioni
L'articolo sostiene che l'IFGRVFL-MV rappresenti un avanzamento promettente nel dominio degli ambienti di apprendimento multiview e di incertezza. Combinando fluidamente la teoria fuzzy intuizionistica, l'embedding grafico e il multiview learning, il modello affronta i limiti degli approcci esistenti che trattano queste tecniche isolatamente. Gli autori affermano che il modello gestisce efficacemente i dataset rumorosi e sfrutta le informazioni complementari delle caratteristiche per raggiungere una superiore accuratezza di classificazione. Il lavoro stabilisce un nuovo standard per i modelli basati su RVFL, sebbene gli autori notino che il lavoro futuro si concentrerà sull'ottimizzazione dell'efficienza computazionale e sull'esplorazione della scalabilità su dataset reali più ampi.