Separate Exchangeability as Modeling Principle in Bayesian Nonparametrics

Sintesi Tecnica: L'Scambiabilità Separata come Principio di Modellazione nella Statistica Nonparametrica Bayesiana

Enunciato del Problema
Il saggio affronta una lacuna nell'inferenza statistica nonparametrica bayesiana (BNP) riguardante il trattamento di dati strutturati come array rettangolari (matrici) che coinvolgono due tipi distinti di unità sperimentali (ad esempio, righe e colonne). Sebbene l'scambiabilità (invarianza rispetto a tutte le permutazioni) e l'scambiabilità parziale (invarianza rispetto alle permutazioni all'interno di gruppi specifici) siano principi ben stabiliti, gli autori sostengono che l'scambiabilità separata — l'invarianza rispetto a permutazioni indipendenti degli indici di riga e colonna — sia spesso sottoutilizzata nella letteratura BNP, nonostante sia il principio di modellazione naturale per tali strutture di dati.

Il problema centrale sorge dal fatto che i modelli BNP standard, in particolare quelli basati su misure casuali discrete dipendenti (come il Processo di Dirichlet Dipendente, DDP), inducono un'scambiabilità parziale piuttosto che un'scambiabilità separata. In scenari in cui le stesse unità sperimentali (ad esempio, geni, proteine o OTU specifici) sono osservate attraverso diversi blocchi (ad esempio, soggetti, punti temporali o condizioni), l'scambiabilità parziale impone una simmetria restrittiva: essa permette di apprendere informazioni riguardo alla distribuzione dei cluster tra i gruppi, ma non permette di apprendere informazioni riguardo alla realizzazione specifica dei cluster. Ad esempio, sotto l'scambiabilità parziale, osservare che l'Unità A e l'Unità B sono raggruppate insieme nel Gruppo 1 non aumenta la probabilità che l'Unità A e l'Unità B siano raggruppate insieme nel Gruppo 2, a meno che non aumenti anche la probabilità che l'Unità A si raggruppi con qualsiasi altra unità. Ciò ignora l'identità strutturale delle unità attraverso la matrice.

Metodologia
Gli autori propongono un framework per la costruzione di modelli BNP trattabili che impongano esplicitamente l'scambiabilità separata. Introducono due classi primarie di modelli:

1. Partizioni Annidate Separatamente Scambiabili:

   • Concetto: Gli autori generalizzano i modelli di partizione annidata (come il Processo di Dirichlet Annidato, NDP) per rispettare l'scambiabilità separata. Invece di condividere solo la legge a priori delle partizioni tra i gruppi (come nell'NDP), il modello proposto condivide la realizzazione della partizione all'interno dei cluster di colonne.
   • Costruzione: Il modello prima raggruppa le colonne (gruppi) utilizzando una Funzione di Probabilità di Partizione Scambiabile (EPPF). All'interno di ogni cluster di colonne, le righe (unità sperimentali) vengono partizionate. Fondamentalmente, tutte le colonne all'interno di un determinato cluster condividono la stessa esatta realizzazione della partizione delle righe.
   • Implementazione: Propongono un "NDP-CAM Separatamente Scambiabile" (Processo di Dirichlet Annidato con Atomi Comuni). Questo modello utilizza indicatori latenti per definire i cluster di colonne e le partizioni annidate delle righe. È dimostrato che soddisfa il teorema di rappresentazione di Aldous-Hoover per array separatamente scambiabili.
   • Generalizzazione: Il framework consente di sostituire i priori standard del Processo di Dirichlet (DP) con priori di tipo Gibbs più flessibili (ad esempio, Processo di Pitman-Yor, Miscela di Miscele Finite) sia per la partizione delle colonne che per quella delle righe, mantenendo la trattabilità computazionale tramite processi del tipo "Chinese Restaurant" generalizzati (gCRP).

2. Regressione Nonparametrica Separatamente Scambiabile:

   • Concetto: Gli autori adattano il Processo di Dirichlet Dipendente (DDP) per problemi di regressione che coinvolgono due insiemi di unità sperimentali (ad esempio, proteine e soggetti).
   • Costruzione: Modificano l'ANOVA DDP introducendo effetti additivi negli atomi della misura casuale. Nello specifico, gli atomi sono definiti come predittori lineari contenenti termini specifici per la riga, termini specifici per la colonna e un termine globale.
   • Formulazione: Il modello assume che $y_{i,j} \sim F_{(i,j)}$, dove la misura casuale $F_{(i,j)}$ ha atomi centrati in $\beta_h + \xi_i + \eta_j$. In questo modo, $\xi_i$ e $\eta_j$ sono effetti casuali indipendenti per le righe e le colonne, rispettivamente. Questa struttura garantisce che la legge congiunta sia invariante rispetto alle permutazioni separate di $i$ e $j$.
   • Flessibilità: Similmente ai modelli di partizione, i priori per gli effetti di riga e colonna possono essere scelti da processi di tipo Gibbs per consentire un clustering flessibile dei coefficienti di regressione.

Contributi Chiave

• Chiarificazione Teorica: Il saggio riformula alcuni argomenti ad hoc contro certi modelli di partizione casuale dipendenti (ad esempio, Lee et al., 2013; Page et al., 2022) come conseguenze della violazione dell'scambiabilità separata. Esso fornisce una giustificazione probabilistica formale del perché l'scambiabilità parziale sia inappropriata quando le stesse unità sperimentali compaiono in più gruppi.
• Costruzione di Modelli: Il lavoro fornisce la prima derivazione sistematica di controparti separatamente scambiabili per ampiamente utilizzati modelli BNP a scambiabilità parziale (nello specifico, NDP e DDP).
• Trattabilità: Gli autori dimostrano che questi modelli rimangono analiticamente e computazionalmente trattabili. Derivano le relative Funzioni di Probabilità di Partizione Scambiabile (EPPF) e le Funzioni di Probabilità di Partizione Parziale (pEPPF), consentendo l'uso di algoritmi MCMC standard (nello specifico, campionamento di Gibbs parzialmente collassato).
• Condivisione della Forza (Borrowing of Strength): Il saggio chiarisce la natura dell'apprendimento dell'informazione: l'scambiabilità separata permette di utilizzare l'apprendimento del co-clustering specifico di unità in un gruppo per informare il co-clustering in un altro gruppo, una caratteristica assente nell'scambiabilità parziale standard.

Risultati e Applicazioni
Gli autori illustrano la metodologia utilizzando due dataset del mondo reale:

1. Dati del Microbioma (Studio Diet Swap):

   • Dati: Frequenze di 119 Unità Tassonomiche Operative (OTU) attraverso 38 soggetti.
   • Applicazione: Il modello raggruppa i soggetti in base ai loro profili microbiotici, raggruppando simultaneamente le OTU all'interno dei cluster di soggetti.
   • Risultato: Il modello ha identificato con successo i cluster di soggetti corrispondenti a regioni geografiche (USA vs. Africa rurale). Fondamentalmente, a differenza dei modelli a scambiabilità parziale, ha fornito un'inferenza significativa sul co-clustering di specifiche OTU all'interno dei cluster di soggetti, rispettando l'identità delle OTU attraverso i soggetti.

2. Dati di Espressione Proteica (Studio Ataxia):

   • Dati: Abbondanza di circa 3.990 proteine attraverso 32 soggetti (16 controlli, 16 pazienti) misurata ad varie età.
   • Applicazione: Un modello di regressione nonparametrica è stato utilizzato per identificare le proteine con traiettorie di espressione differenziali rispetto all'età tra casi e controlli.
   • Risultato: Il modello ha stimato le differenze di pendenza specifiche per proteina ($\gamma_i$) e ha classificato le proteine in base all'entità di tali differenze. L'approccio ha identificato con successo le proteine di alto livello associate alla malattia, dimostrando l'utilità dell'scambiabilità separata nel gestire complessi design sperimentali multidimensionali con dati mancanti.

Significatività e Rivendicazioni
Il saggio sostiene che l'scambiabilità separata è un principio di modellazione superiore per i dati strutturati come matrici in cui le unità sperimentali mantengono la propria identità attraverso diverse condizioni. Gli autori affermano che:

1. Fedeltà al Design: L'scambiabilità separata rappresenta il setup sperimentale in modo più fedele rispetto all'scambiabilità parziale, che spesso scarta l'informazione strutturale del design matrix.
2. Necessità per l'Inferenza Specifica: Certi obiettivi inferenziali, come determinare se unità specifiche (ad esempio, OTU 1 e OTU 2) sono raggruppate insieme in più gruppi, non possono essere formulati o eseguiti coerentemente senza l'scambiabilità separata.
3. Fattibilità Pratica: I modelli proposti non sono meri costrutti teorici, ma sono computazionalmente fattibili e offrono alternative flessibili agli esistenti strumenti BNP, preservando la capacità di eseguire l'inferenza nella pratica pur rispettando le specifiche simmetrie dei dati.

Gli autori concludono che una valutazione attenta del setup sperimentale spesso richiede di andare oltre l'scambiabilità "omnibus" o lo standard dell'scambiabilità parziale verso assunzioni di simmetria più specifiche come l'scambiabilità separata.