Sintesi Tecnica: Apprendimento Collettivo Affidabile e Spiegabile per il Processo Decisionale Multi-View Conflittuale

1. Definizione del Problema

Il documento affronta la sfida del processo decisionale multi-view (multi-vista) in cui diverse fonti di dati (view) o esperti forniscono opinioni contrastanti. Negli scenari reali, come le consulenze mediche multidisciplinari, le diverse prospettive possiedono spesso intuizioni uniche che portano a disaccordi. I metodi esistenti trattano tipicamente il conflitto come un fattore negativo, mirando a eliminarlo o minimizzarlo attraverso operazioni negative (ad esempio, allineando le viste o scartando le istanze conflittuali). Tuttavia, questo approccio trascura spesso il valore del conflitto nel rivelare le distinzioni tra le viste e nel valutare l'affidabilità delle decisioni.

Inoltre, gli attuali metodi di apprendimento multi-view soffrono di due limitazioni principali:

1. Mancanza di Modellazione dell'Affidabilità: Spesso non riescono a quantificare l'incertezza e l'affidabilità sia delle decisioni individuali delle singole viste, sia dell'opinione collettiva finale, specialmente quando sorgono conflitti.
2. Mancanza di Spiegabilità: Sebbene esistano modelli interpretabili (ad esempio, i Concept Bottleneck Models), essi si concentrano spesso sulla decisione finale senza spiegare il ragionamento a livello di feature o le cause radice dei conflitti tra di esse.

L'obiettivo è sviluppare un metodo che modelli attivamente i conflitti anziché sopprimerli, migliorando così la fiducia (trustworthiness) e l'interpretabilità delle decisioni collettive, predicendo accuratamente sia gli output delle singole viste che il consenso finale.

2. Metodologia: Trusted and Explainable Collective Learning (TECL)

Gli autori propongono TECL (e la sua variante TrustCL), un framework progettato per gestire dati multi-view conflittuali attraverso tre moduli core:

A. Modulo di Dual-Concepts Learning

Questo modulo mira a catturare concetti sia a livello di feature che a livello decisionale per potenziare l'interpretabilità.

• Concetti di Feature: Un meccanismo di attenzione viene applicato alle feature di input ($x_v$) per generare concetti di feature ($a_v$), che rappresentano il grado di attenzione che una specifica vista rivolge alle feature del campione.
• Concetti Decisionali: Le istanze potenziate ($\hat{x}_v$), guidate dai concetti di feature, vengono alimentate in una rete di cattura dell'atteggiamento (attitude capture network) e in una rete neurale profonda (DNN) evidenziale. Questo produce:
  • Decisioni Individuali: La categoria predetta per la vista.
  • Atteggi di Supporto: Un indicatore binario (0 o 1) che mostra se la vista supporta la decisione collettiva finale.
• Giudizio di Consenso: Se tutte le viste sono coerenti (nessun conflitto), viene generata immediatamente una decisione collettiva altamente affidabile. Se esistono conflitti, il processo passa al modulo successivo.

B. Modulo di View-Specific Evidence Learning

Questo modulo utilizza l'Evidential Deep Learning (EDL) per quantificare l'affidabilità dell'opinione di ciascuna vista.

• Acquisizione dell'Evidenza: Invece della classificazione standard, il modello produce vettori di evidenza ($e_v$) per ogni vista.
• Calcolo dell'Affidabilità: Utilizzando la Logica Soggettiva e la distribuzione di Dirichlet, il modello converte l'evidenza in un'opinione multinomiale $w_v = \{b_v, u_v\}$, dove $b_v$ rappresenta le masse di credenza (belief masses) e $u_v$ l'incertezza.
• Innovazione Chiave: Il modello utilizza la verità fondamentale (ground truth) della singola vista ($y_v$) come segnale di supervisione piuttosto che solo la verità collettiva. Ciò preserva i conflitti e le differenze intrinseche tra le viste, permettendo alla DNN di apprendere conoscenze specifiche su ogni punto di vista e sulla relativa incertezza.

C. Modulo di Reliability-Oriented Collective Learning (RoCL)

Questo modulo fonde le opinioni conflittuali calcolando una priorità dinamica per ogni vista.

• Definizione della Priorità: La priorità $c_v$ di una vista è determinata da due fattori:
  1. Importanza Inerente ($\mu$): Un prior statico basato sullo status o sul ruolo storico della vista (ad esempio, un Medico Capo Cardiologo rispetto a un Medico Generico).
  2. Percezione Dinamica ($\sigma$): Un'importanza specifica per l'istanza derivata dalla rilevanza della vista per quel particolare dato (ad esempio, la maggiore rilevanza di un ortopedico per una lesione ossea).
• Meccanismo di Fusione: Le priorità sono modellate utilizzando una distribuzione Normale campionata tramite una distribuzione di Dirichlet. L'opinione collettiva finale viene generata fondendo le opinioni specifiche della vista ($w_v$) utilizzando queste priorità come pesi.
  • La regola di fusione (Equazione 8) combina matematicamente credenza e incertezza. Se le viste sono in conflitto, l'incertezza dell'opinione collettiva aumenta, riflettendo la ridotta affidabilità del consenso.
  • Se le viste concordano, la credenza viene rinforzata.

D. Funzione di Perdita (Loss Function)

L'obiettivo di addestramento combina tre componenti:

1. Cross-Entropy basata sull'evidenza ($L_{ace}$): Garantisce la corretta predizione delle etichette utilizzando la distribuzione di Dirichlet per catturare l'incertezza di secondo ordine.
2. Divergenza KL ($L_{KL}$): Minimizza la differenza tra la distribuzione di Dirichlet predetta e una distribuzione uniforme per le etichette errate, assicurando che l'evidenza fuorviante venga soppressa.
3. Binary Cross-Entropy ($L_{bce}$): Addestra il modello a predire se la decisione di una vista si allinea con l'opinione collettiva.
   La perdita totale penalizza sia gli errori della singola vista che l'errore di predizione collettiva, trattando il conflitto come un motivo di apprendimento piuttosto che come un errore da eliminare.

3. Contributi Chiave

1. Modellazione Attiva del Conflitto: Il paper propone TrustCL e TECL, che modellano attivamente i conflitti tra gli individui per evidenziare le distinzioni tra le viste e rivelare l'affidabilità delle decisioni, invece di sopprimerli.
2. Interpretabilità a Doppio Livello: TECL modella i concetti sia a livello di feature (su quali feature una vista si concentra) che a livello decisionale (perché una vista supporta un determinato esito), fornendo spiegazioni sia per le decisioni individuali che per quelle collettive.
3. Priorità Dinamica e Fusione dell'Affidabilità: Il metodo determina dinamicamente le priorità delle viste in base sia allo status inerente che ai contributi specifici dell'istanza. Combina queste priorità con l'evidenza specifica della vista per generare un'opinione collettiva finale e il relativo punteggio di affidabilità.
4. Validazione Empirica: L'approccio è validato su un dataset reale di consulenze mediche multidisciplinari (BCDB), dimostrando la superiorità rispetto ai baseline in termini di accuratezza, recall e Mean Reciprocal Rank (MRR).

4. Risultati Sperimentali

Gli autori hanno valutato TECL e TrustCL sul dataset BCDB (Breast Cancer Database), che contiene 9.015 istanze di raccomandazioni mediche multidisciplinari che coinvolgono sei medici (viste).

• Performance: TECL ha superato i baseline allo stato dell'arte (inclusi TMC, ECML e varianti MLP) sia nella predizione della singola vista (accuratezza del singolo medico) che nella predizione collettiva (accuratezza del consenso finale).
  • Accuratezza Collettiva (CA): TECL ha raggiunto il 78,5%, rispetto al 77,9% del secondo miglior modello (ECMLboth).
  • Accuratezza Individuale (IA): TECL ha raggiunto il 74,5%, superando ECML (73,5%) e TMC (70,6%).
• Studi di Ablazione: La rimozione della componente di percezione dinamica ($\sigma$) o il ricorso esclusivamente all'importanza inerente ($\mu$) ha degradato significativamente le prestazioni, confermando la necessità di regolare dinamicamente l'importanza della vista in base alle specifiche istanze.
• Analisi dell'Interpretabilità: Le visualizzazioni hanno mostrato che il modello ha identificato correttamente quando un medico specifico (ad esempio, un ortopedico per un problema osseo) doveva avere una priorità più alta nonostante avesse un "titolo" inferiore rispetto a un generalista. Ha inoltre quantificato con successo che l'affidabilità collettiva diminuisce quando le viste sono fortemente in disaccordo, fornendo una misura trasparente della fiducia decisionale.

5. Significato e Rivendicazioni

Il paper sostiene che TECL rappresenti una nuova branca dell'apprendimento multi-view affidabile e spiegabile. Il suo significato primario risiede nello spostamento del paradigma dalla riduzione del conflitto all'utilizzo del conflitto. Trattando le opinioni contrastanti come informazioni preziose per la modellazione dell'affidabilità, il metodo:

• Aumenta la credibilità delle decisioni collettive modellando esplicitamente l'incertezza.
• Fornisce spiegabilità sul perché una decisione è stata presa e sul perché si sono verificati i conflitti, il che è critico per applicazioni sensibili alla sicurezza come la diagnosi medica.
• Assicura che la "voce della minoranza" (ad esempio, uno specialista con un focus specifico) non venga soffocata dalla maggioranza o da una gerarchia statica, a patto che l'evidenza lo supporti.

Gli autori concludono che il loro metodo bilancia efficacemente la necessità di decisioni collettive accurate con la necessità di comprendere il ragionamento sottostante e l'affidabilità di tali decisioni in ambienti complessi e multidisciplinari. Il lavoro futuro suggerisce di esplorare l'integrazione di Large Language Models (LLM) per contesti semantici su larga scala.