Integrating Machine Learning Ensembles and Large Language Models for Heart Disease Prediction Using Voting Fusion

Questo studio dimostra che l'integrazione di un ensemble di modelli di machine learning con il ragionamento di un Large Language Model tramite fusione per votazione supera le prestazioni dei singoli approcci, raggiungendo un'accuratezza del 96,62% nella previsione delle malattie cardiache e offrendo un supporto decisionale clinico più affidabile.

L'essenziale

🫀 Il Cuore del Problema: Una Squadra di Medici vs. Un Genio Solitario

Immagina di dover diagnosticare una malattia cardiaca. Hai due tipi di "medici" a tua disposizione:

1. I "Vecchi Maestri" (Machine Learning Ensemble): Sono come un gruppo di esperti statistici molto esperti. Hanno studiato migliaia di cartelle cliniche, conoscono ogni numero (pressione, colesterolo, età) e sanno riconoscere schemi complessi nei dati. Sono precisi, ma a volte sono un po' rigidi: guardano solo i numeri.
2. Il "Genio Poliglotta" (Large Language Models - LLM): Sono come un medico molto istruito che ha letto tutti i libri del mondo. Capisce il linguaggio, le sfumature e il contesto, ma non è nato per analizzare tabelle piene di numeri. Se gli dai un foglio di Excel grezzo, si confonde un po'.

L'obiettivo dello studio: Capire chi è meglio per prevedere le malattie cardiache e, soprattutto, se unendo le due forze si può creare un "super-medico" infallibile.

---

🧪 L'Esperimento: La Gara di Precisione

Gli scienziati hanno preso i dati di 1.190 pazienti (un po' come una piccola città) e hanno messo alla prova i loro modelli.

1. La Gara dei "Vecchi Maestri" (Machine Learning)

Hanno fatto competere diversi algoritmi (come Random Forest, XGBoost, CatBoost).

• Risultato: I migliori di questo gruppo, lavorando da soli, hanno raggiunto un'accuratezza del 92-94%.
• La strategia vincente: Invece di affidarsi a un solo esperto, hanno creato una squadra. Hanno preso i 5 migliori algoritmi e li hanno fatti votare insieme. Se 3 su 5 dicono "c'è rischio", allora c'è rischio.
• Punteggio della squadra: 95,78% di accuratezza. È come avere un consiglio di medici che si consultano prima di decidere: molto difficile sbagliare.

2. La Prova del "Genio Poliglotta" (LLM)

Poi hanno provato a usare le Intelligenze Artificiali più famose (come quelle che usiamo per scrivere testi o chat), chiedendo loro di analizzare i dati medici.

• Risultato: Da soli, questi "geni" hanno fatto fatica. Hanno raggiunto circa il 78-79% di accuratezza.
• Perché? È come chiedere a un poeta di risolvere un'equazione matematica complessa senza spiegargli le regole. Capiscono il concetto, ma i numeri grezzi li confondono.

3. La Magia: La Fusione Ibrida (Il "Super-Medico")

Qui arriva la parte più interessante. Gli scienziati hanno pensato: "E se facessimo lavorare insieme la squadra di statistici e il genio poliglotta?"

Hanno creato un sistema ibrido:

1. La squadra di statistici (Machine Learning) fa la sua previsione basata sui numeri.
2. Il genio (LLM) guarda la situazione e aggiunge il suo "ragionamento".
3. Un sistema di voto finale decide la risposta.

Il Risultato Finale:
Questa combinazione ha raggiunto un'accuratezza del 96,62%.
Non è un salto enorme in percentuale, ma in medicina ogni punto conta. È come se la squadra di statistici avesse detto: "Il paziente è a rischio", e il genio avesse aggiunto: "Sì, ma guarda anche questo dettaglio nascosto che i numeri da soli non vedono chiaramente". Insieme, hanno eliminato gli errori residui.

---

💡 Le Analogie Chiave per Capire

• I Numeri vs. Le Parole: Immagina che i dati medici siano come un foglio di calcolo Excel. I "Vecchi Maestri" amano Excel. I "Geni" (LLM) amano i romanzi. Se dai un Excel a un romanziere, lui lo legge come una storia confusa. Se trasformi l'Excel in una storia, il romanziere brilla. Ma per i numeri puri, lo statistico vince sempre.
• Il Voto a Maggioranza: Pensate a una giuria in un tribunale. Se un solo giudice è insicuro, la decisione potrebbe essere sbagliata. Ma se 5 giudici esperti votano insieme, la decisione è solida. Questo è il "Voting Ensemble".
• L'Integrazione: L'LLM non sostituisce il medico statistico. È come un assistente che legge le note a margine. Il medico principale (Machine Learning) guarda i dati, l'assistente (LLM) dice: "Ehi, ho notato che in casi simili il paziente aveva anche questo sintomo nascosto". Insieme, prendono la decisione migliore.

---

🏁 Cosa abbiamo imparato? (In parole povere)

1. Per i dati strutturati (numeri, tabelle): Le tecniche classiche di Machine Learning (le squadre di statistici) sono ancora i re indiscussi. Sono più affidabili e veloci.
2. Gli LLM da soli non bastano: Non possiamo ancora affidare la diagnosi cardiaca solo a un chatbot, perché sbaglia troppo spesso sui numeri.
3. Il futuro è l'ibrido: La vera innovazione sta nel mescolare le due cose. Usare la potenza di calcolo dei numeri per la base e l'intelligenza contestuale degli LLM per affinare la decisione nei casi dubbi.

In sintesi: Questo studio ci dice che non dobbiamo scegliere tra "vecchia scuola" e "nuova tecnologia". La soluzione migliore è farle lavorare insieme, come una squadra perfetta dove ognuno copre i punti deboli dell'altro, per salvare più vite possibili.

Sommario tecnico

Titolo: Integrazione di Ensemble di Machine Learning e Modelli Linguistici di Grande Dimensione (LLM) per la Predizione delle Malattie Cardiache tramite Fusione di Voto

1. Il Problema

Le malattie cardiovascolari (CVD) rappresentano la principale causa di morte a livello globale, rendendo cruciali l'identificazione precoce e la classificazione precisa del rischio. Sebbene gli algoritmi di Machine Learning (ML), in particolare gli ensemble (come Random Forest, XGBoost, LightGBM e CatBoost), abbiano dimostrato eccellenti capacità nel modellare dati clinici complessi e non lineari, esistono sfide significative:

• Squilibrio delle classi: I dataset medici sono spesso fortemente sbilanciati a favore della classe "senza malattia", riducendo la sensibilità dei modelli verso i casi rari.
• Limiti degli approcci attuali: I modelli tradizionali faticano a generalizzare su coorti esterne e mancano di ragionamento contestuale in situazioni ambigue.
• Potenziale inesplorato degli LLM: I recenti Modelli Linguistici di Grande Dimensione (LLM) offrono capacità di ragionamento "zero-shot" e "few-shot", ma la loro efficacia su dati tabulari numerici sbilanciati è ancora inconsistente e dipendente dal prompt.
• Mancanza di framework ibridi: Non esisteva precedentemente un framework che integrasse la precisione statistica degli ensemble ML con il ragionamento interpretativo degli LLM per la predizione strutturata delle malattie cardiache.

2. Metodologia

Lo studio propone un pipeline ibrido che combina la precisione statistica degli ensemble ML con il ragionamento semantico degli LLM.

• Dataset: È stato utilizzato un dataset pubblico composto da 1.190 record di pazienti, derivato dalla fusione di cinque repository indipendenti (Cleveland, Ungheria, Svizzera, Long Beach VA, Statlog). Sono stati selezionati 11 attributi di input (età, sesso, tipo di dolore toracico, pressione arteriosa, colesterolo, ecc.) e un'etichetta di output (presenza di malattia).
• Preprocessing: I dati sono stati normalizzati (MinMaxScaler), le variabili categoriche codificate e lo squilibrio delle classi affrontato applicando la tecnica SMOTE (Synthetic Minority Over-sampling Technique) sul set di training. Il dataset è stato diviso in training, validazione e test (60/20/20).
• Modelli Machine Learning (ML): Sono stati testati 9 modelli (CatBoost, Random Forest, XGBoost, LightGBM, Gradient Boosting, SVM, Logistic Regression, MLP, Naive Bayes). I migliori 5 modelli (basati su Gradient Boosting e Random Forest) sono stati combinati in un Ensemble di Voto (Soft e Hard Voting).
• Modelli LLM: Dieci LLM open-source sono stati valutati tramite API (OpenRouter) in due configurazioni: Zero-shot (senza esempi) e Few-shot (con alcuni esempi etichettati). I modelli top 5 sono stati aggregati tramite votazione.
• Framework di Fusione Ibrida (ML-LLM): La proposta centrale è un sistema di fusione che combina le previsioni probabilistiche dell'ensemble ML (ad alta accuratezza) con il ragionamento degli LLM. Un modello meta-ragionatore (in questo caso Gemini 2.5 Flash) integra le uscite per risolvere ambiguità, assegnando pesi alle previsioni in base all'accuratezza dei singoli modelli.

3. Contributi Chiave

1. Nuovo Framework Ibrido: Prima integrazione documentata di ensemble ML strutturati con capacità di ragionamento degli LLM per la predizione di malattie cardiache su dati tabulari.
2. Analisi Comparativa: Valutazione sistematica delle prestazioni di modelli ML tradizionali, LLM in modalità zero/few-shot e la loro fusione.
3. Dimostrazione del Ruolo Complementare: Evidenza che gli LLM, sebbene meno accurati da soli su dati tabulari grezzi, migliorano significativamente le prestazioni quando usati come strato di supporto decisionale in un sistema ibrido.
4. Miglioramento nelle Situazioni di Incertezza: Il sistema ibrido dimostra una maggiore robustezza nei casi borderline o rari, dove i modelli statistici puri potrebbero esitare.

4. Risultati

• Prestazioni ML (Ensemble): L'ensemble ML (voto morbido dei 5 migliori modelli) ha raggiunto un'accuratezza del 95,78% e un AUC-ROC di 0,96, superando di gran lunga i singoli modelli e i metodi di baseline.
• Prestazioni LLM: Gli LLM hanno mostrato prestazioni moderate da soli:
  • Zero-shot: ~78,9% di accuratezza.
  • Few-shot: ~72,6% di accuratezza (sorprendentemente inferiore allo zero-shot in questo contesto specifico).
• Prestazioni Ibride (ML + LLM): La fusione finale ha ottenuto i risultati migliori:
  • Accuratezza: 96,62%
  • AUC-ROC: 0,97
• Confronto: Il metodo proposto supera le tecniche di ensemble esistenti riportate in letteratura (che oscillavano tra l'82% e il 93% di accuratezza). L'analisi degli errori mostra che l'integrazione riduce i tassi di falsi negativi, specialmente per le classi minoritarie.

5. Significato e Conclusione

Questo studio dimostra che, sebbene gli ensemble di Machine Learning basati su alberi decisionali rimangano lo standard "de facto" per la classificazione di dati tabulari medici strutturati, la loro integrazione con gli LLM offre un vantaggio tangibile.

• Ruolo degli LLM: Gli LLM non sostituiscono i modelli ML, ma agiscono come moduli di supporto decisionale che aggiungono capacità di ragionamento contestuale e interpretabilità, migliorando la fiducia nelle previsioni in casi ambigui.
• Impatto Clinico: Il framework proposto apre la strada a strumenti di supporto decisionale clinico più affidabili, trasparenti e robusti, capaci di gestire l'incertezza meglio dei modelli puramente statistici.
• Limitazioni e Futuro: Lo studio è limitato dalla dimensione del dataset (1.190 record) e dalla mancanza di analisi di calibrazione approfondita. Il lavoro futuro si concentrerà su dataset più ampi e diversificati e sull'ottimizzazione dell'integrazione per garantire sicurezza ed equità nell'implementazione clinica reale.