Sintesi Tecnica: Modelli Gerarchici di Ordine Parziale per il Ranking

Definizione del Problema

L'aggregazione dei ranghi mira a combinare liste ordinate provenienti da fonti diverse in una struttura di consenso. I modelli parametrici classici, come Mallows e Plackett–Luce, assumono che le preferenze si concentrino attorno a uno o più ranking di consenso completi (ordini totali). Tuttavia, in molte applicazioni, l'assunto che la vera struttura di preferenza sia un ordine totale non è giustificato; gli assessori possono considerare determinati elementi come incomparabili. Inoltre, i dati di preferenza spesso presentano strutture di gruppo (ad esempio, diversi assessori, scenari distinti o segmenti di serie temporali) che i modelli esistenti faticano ad accomodare pur preservando le strutture di ordine parziale.

Sebbene lavori recenti abbiano rilassato l'assunto dell'ordine totale per consentire ordini parziali (poset), e altri lavori abbiano introdotto estensioni gerarchiche per gli ordini totali, manca un quadro unificato che combini il raggruppamento gerarchico con il consenso di ordine parziale. I modelli gerarchici esistenti per gli ordini parziali (ad esempio, Arcagni et al., 2022) si affidano a stime puntuali basate sulla perdita piuttosto che all'inferenza Bayesiana generativa.

Metodologia

Il documento introduce i modelli Hierarchical Partial-Order (HPO) e la loro estensione di clustering non supervisionato (HCPO).

1. Il Framework HPO

Il modello HPO è progettato per dati di ordine di rango che arrivano in gruppi etichettati (ad esempio, $A$ assessori). È strutturato come un albero con un nodo radice che rappresenta un ordine parziale "globale" e nodi foglia che rappresentano ordini parziali specifici per ogni assessore.

• Costruzione delle Variabili Latenti: Il modello parametrizza gli ordini parziali utilizzando variabili latenti continue. Per ogni elemento $j$ nell'universo delle scelte, esiste un vettore di pesi di preferenza $U_j \in \mathbb{R}^K$. Un ordine parziale è formato dall'intersezione di $K$ ordini completi derivati da questi pesi.
• Processo Generativo:
  • Livello Globale: Un vettore di pesi latenti globali $U^{(0)}$ è estratto da una distribuzione normale multivariata con una struttura di correlazione controllata da $\rho$.
  • Livello Locale: Per ogni assessore $a$, i pesi latenti $U^{(a)}$ sono estratti condizionatamente a $U^{(0)}$ tramite una distribuzione normale con parametro di correlazione $\tau$. Questo parametro $\tau \in (0, 1]$ controlla la "contrazione" (shrinkage) dei poset specifici dell'assessore verso il poset globale.
  • Mappatura nei Poset: I pesi latenti sono trasformati tramite una costruzione Gumbel (usando la funzione inversa della CDF della distribuzione Gumbel applicata alla CDF normale) per generare punteggi di preferenza $\eta$. L'ordine parziale $h^{(a)}$ è definito dall'intersezione degli ordini derivati da questi punteggi.
• Modelli di Osservazione: Il documento propone tre verosimiglianze per osservare un ranking $y$ dato un poset $h$:
  1. Senza rumore (Noise-free): Campionamento uniforme dalle estensioni lineari (computazionalmente costoso per $M$ grandi).
  2. Salto della coda (Queue-jumping): Un modello di selezione ripetuta in cui, con probabilità $p$, un elemento è scelto casualmente (rumore), e altrimenti viene scelto in base ai vincoli del poset.
  3. Queue-jumping pesato (Weighted Queue-jumping): Un'estensione in cui le scelte casuali sono influenzate dai punteggi latenti $\eta$, rendendo gli errori meno probabili per gli elementi con grandi gap di preferenza.
  4. Frontier-softmax: Un modello basato sull'utilità in cui gli elementi sono scelti dalla "frontiera" (elementi massimali) del sotto-ordine rimanente, pesati in base al numero di elementi che dominano. È computazionalmente efficiente ($O(M)$ per step) e adatto a dataset di grandi dimensioni.

2. Il Framework HCPO

Quando le etichette di gruppo sono sconosciute, il documento estende l'HPO al modello Hierarchical Clustering Partial-Order (HCPO).

• Clustering: Un processo Pitman-Yor prior è posto sulla partizione delle liste (o degli assessori) in $G$ gruppi latenti.
• Inferenza: Il numero di gruppi $G$ e le assegnazioni ai cluster sono inferiti congiuntamente alla gerarchia del poset tramite Markov Chain Monte Carlo (MCMC).
• Clustering di Assessore vs. Lista: Il modello può raggruppare singole liste o interi assessori (spostando tutte le liste di un assessore insieme).

3. Inferenza Bayesiana

L'inferenza è eseguita tramite MCMC. La distribuzione a posteriori è definita su parametri di correlazione ($\rho, \tau$), matrici di pesi latenti ($U$), coefficienti di regressione ($\beta$) e la partizione ($C$). Anche la dimensione dello spazio latente $K$ può essere inferita utilizzando il reversible jump MCMC.

Contributi Chiave

1. Modelli HPO e HCPO: L'introduzione di un framework Bayesiano generativo per dati di ranking raggruppati che modella esplicitamente strutture di consenso di ordine parziale, estendendo il modello Plackett–Luce al dominio dei poset.
2. Proprietà Teoriche:
   • Dimostrazione che i modelli Plackett–Luce e le loro varianti gerarchiche sono casi particolari di HPO (quando $K=1$).
   • Dimostrazione che il modello è marginalmente consistente, garantendo che il prior sui sotto-ordini sia coerente con il prior sull'universo completo.
   • Dimostrazione che il modello può rappresentare qualsiasi gerarchia di poset fornito che $K \ge \lfloor M/2 \rfloor$.
3. Nuovi Modelli di Osservazione: Lo sviluppo delle verosimiglianze Weighted Queue-jumping e Frontier-softmax, che permettono di gestire il rumore e l'efficienza computazionale mantenendo un'interpretazione generativa.
4. Clustering Non Supervisionato: L'estensione a HCPO per scoprire strutture di gruppo latenti in dati di ranking non etichettati.

Risultati Sperimentali

Il documento valuta i modelli su dataset sintetici e reali:

• Dati Sintetici (HPO): In contesti con gruppi etichettati, l'HPO recupera con successo la gerarchia latente dei poset. L'accuratezza del recupero è guidata principalmente dalla lunghezza delle liste osservate (dimensione del set di scelta) e dalla forza di accoppiamento ($\tau$). La verosimiglianza Frontier-softmax offre significativi miglioramenti nella velocità computazionale (scalando linearmente con la lunghezza della lista) rispetto ai metodi esatti di estensione lineare, che vanno in timeout per $M \ge 50$.
• Dati Sintetici (HCPO): In contesti non etichettati, l'HCPO recupera accuratamente sia la struttura di clustering latente che i poset specifici dei cluster. Il beneficio del clustering è più pronunciato quando l'accoppiamento tra i gruppi è debole (alta eterogeneità).
• Tracce di Provisioning Cloud (Agenti LLM): Applicato a tracce di esecuzione di agenti LLM (Aliyun Cloud-IaC-6). Il modello HPO, trattando i diversi scenari come gruppi, ha superato i baseline di singolo poset indipendenti nel recupero delle strutture di dipendenza sottostanti (workflow). Il pooling gerarchico ha migliorato il recupero dei vincoli di precedenza, specialmente in scenari con dati sparsi.
• Dati di Preferenza Umana (Suono 3D): Applicato a dati di preferenza acustica a coppie dove gli ascoltatori mostravano pattern ciclici (violando gli ordini totali). Il modello HCPO ha superato significativamente i baseline di ordine totale (miscele Plackett–Luce e Mallows) in termini di adattamento predittivo (WAIC). Fondamentalmente, i riassunti HCPO hanno rivelato strutture interpretabili dove i cluster contenevano ampi "strati superiori" di elementi incomparabili, una caratteristica che i modelli di ordine totale non potevano rappresentare senza forzare classifiche rigide arbitrarie.

Significato e Rivendicazioni

Il documento sostiene che i framework proposti HPO e HCPO forniscono un modo rigoroso per gestire dati di ranking raggruppati dove le preferenze possono essere incomplete o incomparabili.

• Interpretabilità Strutturale: I modelli consentono il recupero di strutture di ordine parziale che riflettono genuine incomparabilità, evitando gli artefatti introdotti forzando i dati in ordini totali.
• Condivisione delle Informazioni: La struttura gerarchica consente una condivisione rigorosa delle informazioni (shrinkage) tra i gruppi, migliorando la stima in regimi di dati scarsi pur preservando le sfumature specifiche del gruppo.
• Fattibilità Computazionale: La verosimiglianza Frontier-softmax consente l'applicazione di questi modelli a set di elementi più grandi dove il conteggio esatto delle estensioni lineari è intrattabile.
• Generalità: Il framework assorbe i modelli gerarchici Plackett–Luce esistenti ed estende il dominio dei poset, offrendo un approccio unificato sia per i dati di ranking raggruppati etichettati che per quelli non etichettati.

Gli autori sottolineano che il loro approccio è superiore ai metodi esistenti basati sulla perdita per gli ordi parziali, fornendo una distribuzione a posteriori Bayesiana completa, che permette la quantificazione dell'incertezza e il confronto rigoroso dei modelli tramite WAIC.