Riepilogo Tecnico: REPAIR – Apprendimento di Rappresentazioni Predittive Auto-Supervisionato nel Chess

Definizione del Problema

Gli attuali metodi per l'apprendimento di rappresentazioni scacchistiche si affidano prevalentemente all'apprendimento per rinforzo (RL) con auto-gioco (es. AlphaZero, Leela Chess Zero) o all'apprendimento supervisionato utilizzando euristiche artigianali e competenza nel dominio. Questi approcci richiedono spesso configurazioni di addestramento costose e label esplicite dei movimenti. Sebbene l'apprendimento auto-supervisionato abbia ottenuto un successo significativo nei domini dell'immagine e del linguaggio naturale (es. MAE, JEPA, BERT), la sua applicazione a dati sequenziali di stato come le partite di scacchi rimane poco esplorata. La sfida consiste nell'apprendere una rappresentazione semanticamente ricca e a bassa dimensionalità degli stati scacchistici senza fare affidamento su annotazioni esplicite dei movimenti, valutazioni dei giocatori o costoso RL, consentendo al contempo al modello di ragionare sui movimenti dei pezzi e ricostruire stati mancanti in una sequenza.

Metodologia: L'Architettura REPAIR

Gli autori propongono REPAIR (Representation Prediction via Autoencoding using Iterative Refinement), un'architettura auto-supervisionata che sintetizza i concetti di Masked Autoencoders (MAE), Joint Embedding Predictive Architectures (JEPA) e BERT. Il framework opera su sequenze di stati (es. posizioni scacchistiche consecutive) attraverso la seguente pipeline:

1. Encoder (Mappatura Indipendente dello Stato):

   • Ogni stato scacchistico $s_i$ (rappresentato come un bitmap $19 \times 8 \times 8$) viene mappato indipendentemente in un vettore latente $z_i$ da un encoder convoluzionale.
   • L'encoder utilizza blocchi Squeeze-and-Excitation per apprendere i pesi dei canali, enfatizzando le caratteristiche importanti.
   • Fondamentalmente, l'encoder elabora gli stati in modo indipendente; non fluisce alcuna informazione temporale tra gli stati in questa fase.

2. Mascheramento (Masking):

   • Viene generata una sequenza di vettori latenti $Z$. Porzioni casuali della sequenza (escludendo il primo e l'ultimo elemento) vengono mascherate con un token apprendibile $\bar{z}_i$ con una probabilità $p$.
   • Il documento impiega rapporti di mascheramento elevati (fino al 90%), sfruttando il fatto che le sequenze scacchistiche permettono un'inferenza di informazioni massiccia da contesti ridotti, a differenza del linguaggio naturale.

3. Predictor (Raffinamento Iterativo):

   • Il Predictor è l'unico componente che consente lo scambio di informazioni tra gli stati. Utilizza un Transformer a singolo strato, esclusivamente encoder, con quattro teste di attenzione.
   • Opera iterativamente: partendo dalla sequenza mascherata, aggiorna le rappresentazioni latenti $\hat{z}_i$ prestando attenzione all'intera sequenza. Questo processo si ripete $n$ volte, con l'obiettivo di far convergere gli stati latenti mascherati verso la verità di base (ground truth) non mascherata ($z_i \approx \hat{z}_i^{(n)}$).
   • Questo raffinamento iterativo permette al modello di "riparare" le lacune nella sequenza latente.

4. Decoder (Ricostruzione dello Stato):

   • Il decoder è un encoder invertito che mappa i vettori latenti raffinati nuovamente nello spazio di input ($s_i \approx \hat{s}_i$).
   • L'obiettivo è ricostruire il bitmap originale, recuperando efficacemente gli stati del tabellone mancanti.

5. Funzioni di Perdita (Loss Functions):

   • Perdita JEPA: Minimizza la distanza tra l'output del Predictor e la rappresentazione latente non mascherata (ground truth).
   • Decoder Loss (Long): Calcola l'errore di ricostruzione tra lo stato originale e lo stato decodificato dall'output del Predictor. Questo previene il collasso della rappresentazione.
   • Decoder Loss (Short): Calcola l'errore di ricostruzione tra lo stato originale e lo stato decodificato direttamente dall'output dell'Encoder (senza il raffinamento del Predictor).
   • Il documento trova che combinare la Long Decoder Loss con la Short Decoder Loss produce le prestazioni migliori, addestrando efficacemente il Predictor a raffinare le rappresentazioni senza necessità della perdita di allineamento latente JEPA.

Contributi Chiave

• Architettura Innovativa: Introduzione di REPAIR, che integra il mascheramento in stile MAE, la predizione latente in stile JEPA e l'elaborazione sequenziale in stile BERT in un quadro unificato auto-supervisionato per dati sequenziali di stato.
• Apprendimento Scacchistico Auto-Supervisionato: Dimostrazione che è possibile apprendere rappresentazioni scacchistiche significative senza l'apprendimento per rinforzo, euristiche artigianali o dati di movimento etichettati, basandosi esclusivamente sulla struttura statistica delle sequenze di gioco.
• Riparazione Latente Iterativa: Un meccanismo in cui un Predictor leggero raffina iterativamente gli stati latenti mascherati, consentendo al modello di ragionare sui movimenti dei pezzi e ricostruire ampie lacune nelle sequenze di gioco.
• Clustering Semantico: Evidenza che lo spazio latente appreso raggruppa naturalmente i concetti scacchistici, inclusi le fasi di gioco (apertura, mediogioco, finale), specifiche famiglie di aperture (codici ECO) e motivi di puzzle.

Risultati Sperimentali

Il modello è stato addestrato su 80.000 partite di Lichess (Giugno 2025) con un rapporto di mascheramento del 50%, seguito da una fase con mascheramento al 90%.

• Accuratezza di Ricostruzione:

  • I modelli addestrati con la Long Decoder Loss hanno raggiunto un'accuratezza di ricostruzione top-1 di circa il 93% sulle caselle mascherate, anche con l'80% della sequenza mascherata.
  • Le combinazioni prive di Long Decoder Loss hanno prodotto un'accuratezza significativamente inferiore o il collasso del modello.
  • Il modello ha dimostrato la capacità di ricostruire pattern di mosse legali ed escludere mosse non sensate (es. ignorando mosse che portano alla cattura immediata di un pezzo).

• Analisi dell'Attenzione:

  • La visualizzazione dei pesi di attenzione del Predictor ha mostrato che l'informazione inizialmente si diffonde dagli stati mascherati agli stati non mascherati vicini e poi si propaga ulteriormente.
  • Il meccanismo di attenzione si stabilizza dopo circa cinque iterazioni, punto in cui i cambiamenti di stato ristagnano.

• Semantica dello Spazio di Rappresentazione:

  • Fasi di Gioco: Le proiezioni PCA delle traiettorie complete delle partite hanno rivelato cluster distinti corrispondenti ad aperture, eventi di arrocco (separati per Bianco e Nero), mediogioco e finali.
  • Aperture: Le proiezioni t-SNE delle posizioni di apertura ECO hanno mostrato un chiaro clustering per codice ECO (es. aperture di pedone di Re vs pedone di Donna), con gli embedding appresi che mostrano una separazione migliore rispetto ai bitmap grezzi.
  • Puzzle: Lo spazio di embedding ha separato con successo i puzzle scacchistici in base ai motivi semantici (es. "pedone avanzato", "matto di prima linea", "finale di regina"), confermando che il modello cattura concetti strategici di alto livello.

Significato e Rivendicazioni

Il documento afferma che REPAIR fornisce uno spazio di rappresentazione semanticamente ricco per gli scacchi che emerge puramente dall'addestramento auto-supervisionato. A differenza degli approcci precedenti, dove gli embedding sono un sottoprodotto di una policy addestrata per vincere, REPAIR si concentra esplicitamente sull'apprendimento di embedding significativi per gli stati stessi.

Gli autori sostengono che il modello dimostri un'"intuizione" delle regole e delle strategie scacchistiche, come dimostrato da:

1. La capacità di ricostruire gli stati del tabellone mancanti con alta accuratezza.
2. La generazione di distribuzioni di probabilità che rispettano i vincoli di mossa legale e le conseguenze tattiche (es. evitare mosse che perdono pezzi).
3. Il clustering naturale delle traiettorie di gioco e dei motivi di puzzle nello spazio latente, consentendo una dissezione intuitiva delle partite attraverso l'osservazione dei loro percorsi.

Il lavoro suggerisce che tali architetture auto-supervisionate possano essere applicate ad altri domini che comportano trasformazioni successive, offrendo una via per processi spiegabili senza la necessità di costoso apprendimento per rinforzo o etichettatura esplicita.