Deep Ranking with Heterogeneous Effect

Titolo: Deep Ranking con Effetto Eterogeneo

Autore: Yuanhang Luo, Shuxing Fang, Ruijian Han, Yiming Xu
Data: Aprile 2026 (preprint arXiv)

1. Il Problema

I modelli classici di ranking basati su punteggi latenti (come il modello di Bradley-Terry o Plackett-Luce) assegnano a ogni oggetto un punteggio intrinseco fisso per misurarne la forza. Tuttavia, questi modelli presentano due limitazioni fondamentali in molti scenari reali (sport, scienze sociali, machine learning):

1. Incapacità di distinguere i punteggi intrinseci dagli effetti contestuali: Le prestazioni degli oggetti non dipendono solo dalla loro abilità intrinseca, ma anche da variabili contestuali non lineari (es. condizioni fisiche, attributi demografici, livello del torneo, condizioni ambientali).
2. Staticità: I modelli tradizionali assumono che le probabilità di vittoria siano statiche una volta fissato l'insieme degli oggetti, ignorando come il contesto specifico di una comparazione possa alterare l'esito.

Quando gli effetti contestuali sono forti e non lineari, i modelli parametrici lineari falliscono nel catturare le dinamiche complesse, portando a una perdita di potere predittivo e alla violazione della transitività stocastica in scenari reali.

2. Metodologia: Il Modello DHR

Gli autori introducono un framework di ranking semiparametrico chiamato Deep Heterogeneous Ranking (DHR).

• Formulazione del Punteggio: Il log-punteggio $s_{e,j}$ dell'oggetto $j$ in una comparazione $e$ è modellato come la somma di due componenti:
  $$s_{e,j}(u, f) = u_j + f(X_{e,j})$$
  Dove:

  • $u_j \in \mathbb{R}$ è il parametro di utilità intrinseca (fisso per l'oggetto, ma da stimare).
  • $f(X_{e,j})$ è un effetto covariato non parametrico che dipende dalle caratteristiche contestuali $X_{e,j}$ (es. età, superficie del campo, stato di forma).
  • $f$ è approssimata utilizzando una Deep Neural Network (DNN) per catturare relazioni non lineari complesse e interazioni di ordine superiore.

• Likelihood: La probabilità di osservare una permutazione $\pi$ in un ipergrafo di comparazioni segue una generalizzazione del modello Plackett-Luce, dove i termini esponenziali sono basati sui punteggi $s_{e,j}$ definiti sopra.

• Stima: I parametri $(u, f)$ sono stimati tramite il Massimo Verosimiglianza (MLE).

  • Poiché l'ottimizzazione è non convessa a causa della DNN, viene utilizzato un algoritmo di Projected Stochastic Gradient Descent (Projected SGD).
  • Per garantire l'identificabilità, il vettore di utilità $u$ è vincolato a somma zero ($\sum u_i = 0$) e la funzione $f$ è centrata empiricamente sulla media delle covariate osservate.

3. Contributi Chiave

1. Framework Semiparametrico Generale:

   • Integrazione dell'interpretabilità dei modelli PL/BT con la flessibilità delle DNN.
   • Capacità di modellare sia l'intransitività stocastica (cicli di vittoria dovuti al contesto) sia effetti contestuali non lineari, superando i limiti dei modelli lineari esistenti (es. PlusDC).

2. Identificabilità del Modello:

   • Dimostrazione che il modello è identificabile sotto condizioni di regolarità e connettività del grafo di comparazione, risolvendo le ambiguità di traslazione tipiche dei modelli di ranking.

3. Analisi Teorica Non-Asintotica:

   • Esistenza dell'MLE: Dimostrazione che l'MLE esiste con alta probabilità sotto assunzioni di connettività del grafo (modello NURHM).
   • Limiti di Errore: Derivazione di limiti di errore non asintotici per entrambi i componenti:
     • Per la componente parametrica ($u$): tasso di convergenza $\sqrt{n/N}$.
     • Per la componente non parametrica ($f$): tasso di convergenza $N^{-\beta/(2\beta+d)}$ (ottimalità minimax per regressione non parametrica).
   • Il risultato combina la teoria del ranking statistico con quella dell'apprendimento non parametrico tramite DNN, gestendo la sfida della dimensione crescente dei parametri di utilità.

4. Validazione Sperimentale:

   • Test su dati sintetici e su un dataset reale di tennis ATP (21.385 partite, 389 giocatori, 2016-2025).

4. Risultati

• Simulazioni:

  • I risultati confermano la consistenza uniforme dell'MLE prevista teoricamente.
  • L'errore di stima diminuisce all'aumentare della densità del grafo e della regolarità (smoothness) della funzione target.
  • Viene identificato un regime in cui l'errore è dominato dalla stima dei parametri parametrici o da quella della funzione non parametrica, a seconda del rapporto tra dimensione del campione e numero di oggetti.

• Dataset Tennis ATP:

  • Il modello DHR supera significativamente i baseline (Bradley-Terry, PlusDC lineare, e un modello "Ablated" senza utilità intrinseca) in termini di:
    • Accuratezza predittiva: 64.56% (vs 63.35% di PlusDC e 60.66% di BT).
    • Log-verosimiglianza: Migliore (-0.625).
    • Brier Score: Minore (0.218).
  • Analisi Temporale: Il modello riesce a tracciare l'evoluzione dinamica delle prestazioni dei giocatori. Ha correttamente catturato il declino della "Big Three" (Djokovic, Nadal, Federer) e l'ascesa rapida di nuovi talenti come Alcaraz e Sinner, mostrando come le loro prestazioni relative cambino nel tempo in base alle covariate (età, infortuni, superficie).

5. Significato e Implicazioni

Questo lavoro rappresenta un avanzamento significativo nella statistica del ranking e nell'apprendimento automatico:

• Superamento dei limiti parametrici: Dimostra che l'uso di DNN per approssimare effetti contestuali in modelli di ranking è teoricamente fondato e statisticamente ottimale.
• Gestione dell'eterogeneità: Fornisce un metodo robusto per separare l'abilità intrinseca di un soggetto dalle condizioni esterne variabili, cruciale per applicazioni come lo sport professionistico o la raccomandazione personalizzata.
• Fondamenti Teorici: Stabilisce i primi limiti di errore non asintotici per un framework di ranking semiparametrico con covariate, ponendo le basi per future ricerche su inferenza statistica (es. normalità asintotica) e architetture più complesse (es. Transformer).

In sintesi, il modello DHR offre un equilibrio ottimale tra interpretabilità (tramite i punteggi intrinseci) e capacità predittiva (tramite l'apprendimento profondo dei contesti), superando le limitazioni dei modelli di ranking tradizionali in scenari dinamici e complessi.