Resumo Técnico: REPAIR – Aprendizado de Representação Preditiva Autossupervisionada em Xadrez

Declaração do Problema

Os métodos atuais para aprender representações de xadrez dependem predominantemente de aprendizado por reforço (RL) com auto-jogo (ex: AlphaZero, Leela Chess Zero) ou aprendizado supervisionado utilizando heurísticas manuais e expertise de domínio. Essas abordagens frequentemente exigem configurações de treinamento dispendiosas e rótulos de jogadas explícitos. Embora o aprendizado autossupervisionado tenha alcançado um sucesso significativo nos domínios de imagem e linguagem natural (ex: MAE, JEPA, BERT), sua aplicação a dados sequenciais de estados como partidas de xadrez permanece subexplorada. O desafio é aprender uma representação semanticamente rica e de baixa dimensão dos estados de xadrez sem depender de anotações de jogadas explícitas, classificações de jogadores ou RL caro, permitendo simultaneamente que o modelo raciocine sobre movimentos de peças e reconstrua estados ausentes em uma sequência.

Metodologia: A Arquitetura REPAIR

Os autores propõem o REPAIR (Representação Preditiva via Autoencodificação usando Refinamento Iterativo), uma arquitetura autossupervisionada que sintetiza conceitos de Masked Autoencoders (MAE), Joint Embedding Predictive Architectures (JEPA) e BERT. O framework opera em sequências de estados (ex: posições consecutivas de xadrez) através do seguinte pipeline:

1. Encoder (Mapeamento de Estado Independente):

   • Cada estado de xadrez $s_i$ (representado como um bitmap de $19 \times 8 \times 8$) é mapeado independentemente para um vetor latente $z_i$ por um encoder convolucional.
   • O encoder utiliza blocos de Squeeze-and-Excitation para aprender pesos de canal, enfatizando características importantes.
   • Crucialmente, o encoder processa os estados de forma independente; nenhuma informação temporal flui entre os estados nesta etapa.

2. Mascaramento (Masking):

   • Uma sequência de vetores latentes $Z$ é gerada. Porções aleatórias da sequência (excluindo o primeiro e o último elemento) são mascaradas com um token aprendível $\bar{z}_i$ com probabilidade $p$.
   • O artigo utiliza altas taxas de mascaramento (até 90%), aproveitando o fato de que sequências de xadrez permitem grande inferência de informação a partir de contextos pequenos, ao contrário da linguagem natural.

3. Predictor (Refinamento Iterativo):

   • O Predictor é o único componente que permite a troca de informações entre estados. Ele utiliza um Transformer de camada única, apenas de encoder, com quatro cabeças de atenção.
   • Ele opera iterativamente: começando com a sequência mascarada, ele atualiza as representações latentes $\hat{z}_i$ ao atender à sequência completa. Este processo se repete $n$ vezes, visando convergir os estados latentes mascarados para o ground truth não mascarado ($z_i \approx \hat{z}_i^{(n)}$).
   • Este refinamento iterativo permite que o modelo "repare" lacunas na sequência latente.

4. Decoder (Reconstrução de Estado):

   • O decoder é um encoder invertido que mapeia os vetores latentes refinados de volta para o espaço de entrada ($s_i \approx \hat{s}_i$).
   • O objetivo é reconstruir o bitmap original, efetivamente recuperando estados de tabuleiro ausentes.

5. Funções de Perda (Loss Functions):

   • Perda JEPA: Minimiza a distância entre a saída do Predictor e a representação latente ground truth não mascarada.
   • Perda do Decoder (Long): Calcula o erro de reconstrução entre o estado original e o estado decodificado a partir da saída do Predictor. Isso evita o colapso da representação.
   • Perda do Decoder (Short): Calcula o erro de reconstrução entre o estado original e o estado decodificado diretamente da saída do Encoder (sem o refinamento do Predictor).
   • O artigo descobre que combinar a Perda do Decoder Long com a Perda do Decoder Short produz o melhor desempenho, treinando efetivamente o Predictor para refinar representações sem a necessidade da perda de alinhamento latente JEPA.

Principais Contribuições

• Arquitetura Inovadora: Introdução do REPAIR, que integra mascaramento estilo MAE, predição latente estilo JEPA e processamento de sequência estilo BERT em um framework autossupervisionado unificado para dados sequenciais de estado.
• Aprendizado de Xadrez Autossupervisionado: Demonstração de que representações significativas de xadrez podem ser aprendidas sem aprendizado por reforço, heurísticas manuais ou dados de jogadas rotulados, baseando-se puramente na estrutura estatística das sequências de jogo.
• Reparo Latente Iterativo: Um mecanismo onde um Predictor leve refina iterativamente estados latentes mascarados, permitendo que o modelo raciocine sobre movimentos de peças e reconstrua grandes lacunas em sequências de jogos.
• Agrupamento Semântico (Semantic Clustering): Evidência de que o espaço latente aprendido agrupa naturalmente conceitos de xadrez, incluindo fases de jogo (abertura, meio-jogo, final), famílias específicas de aberturas (códigos ECO) e motivos de puzzles.

Resultados Experimentais

O modelo foi treinado em 80.000 partidas do Lichess (junho de 2025) com uma taxa de mascaramento de 50%, seguida por uma fase com 90% de mascaramento.

• Precisão de Reconstrução:

  • Modelos treinados com a Perda do Decoder Long alcançaram uma precisão de reconstrução top-1 de aproximadamente 93% em casas mascaradas, mesmo com 80% da sequência mascarada.
  • Combinações que careciam da Perda do Decoder Long resultaram em precisão significativamente menor ou colapso do modelo.
  • O modelo demonstrou capacidade de reconstruir padrões de movimentos legais e excluir movimentos não sensatos (ex: ignorar movimentos que levam à captura imediata de peças).

• Análise de Atenção:

  • A visualização dos pesos de atenção do Predictor mostrou que a informação inicialmente se espalha dos estados mascarados para os estados não mascarados vizinhos e, então, propaga-se mais longe.
  • O mecanismo de atenção estabiliza após aproximadamente cinco iterações, correspondendo ao ponto em que as mudanças de estado estagnam.

• Semântica do Espaço de Representação:

  • Fases de Jogo: Projeções PCA de trajetórias completas de jogos revelaram clusters distintos correspondendo a aberturas, eventos de roque (separados para Brancas e Pretas), meio-jogo e finais.
  • Aberturas: Projeções t-SNE de posições de abertura ECO mostraram agrupamento claro por código ECO (ex: aberturas de peão do rei vs. peão da dama), com os embeddings aprendidos mostrando melhor separação do que os bitmaps brutos.
  • Puzzles: O espaço de embedding separou com sucesso puzzles de xadrez baseados em motivos semânticos (ex: "peão avançado", "xeque-mate de primeira fila", "final de dama"), confirmando que o modelo captura conceitos estratégicos de alto nível.

Significância e Alegações

O artigo afirma que o REPAIR fornece um espaço de representação semanticamente rico para o xadrez que emerge puramente do treinamento autossupervisionado. Ao contrário de abordagens anteriores, onde os embeddings são um subproduto de uma política treinada para vencer, o REPAIR foca explicitamente em aprender embeddings significativos para os próprios estados.

Os autores afirmam que o modelo demonstra uma "intuição" das regras e estratégias do xadrez, evidenciada por:

1. A capacidade de reconstruir estados de tabuleiro ausentes com alta precisão.
2. A geração de distribuições de probabilidade que respeitam restrições de movimentos legais e consequências táticas (ex: evitar movimentos que perdem peças).
3. O agrupamento natural de trajetórias de jogo e motivos de puzzles no espaço latente, permitindo a dissecação intuitiva de jogos através da observação de seus caminhos.

O trabalho sugere que tais arquiteturas autossupervisionadas podem ser aplicadas a outros domínios envolvendo transformações sucessivas, oferecendo um caminho para processos explicáveis sem a necessidade de aprendizado por reforço custoso ou rotulagem explícita.