Technische Samenvatting: CHESSFORMER

Probleemstelling

Het veld van schaakmodellering is momenteel gefragmenteerd, met uiteenlopende architecturen die zijn geoptimaliseerd voor specifieke, vaak tegenstrijdige doelen: het maximaliseren van pure speelsterkte, het voorspellen van menselijke zetkeuzes en het mogelijk maken van mechanistische interpreteerbaarheid. Bestaande benaderingen staan vaak in strijd met de geometrische structuur van het schaakdomein. Zo maken transformer-gebaseerde modellen vaak gebruik van tokenisatieschema's (zoals zetsequenties of gelijnd weergegeven bordrepresentaties) of positionele coderingen (zoals roterende embedding) die kunstmatige eendimensionale structuren opleggen aan een tweedimensionaal bord, wat de prestaties mogelijk kan belemmeren. Deze fragmentatie roept de vraag op of een enkele, geünificeerde architectuur tegelijkertijd state-of-the-art prestaties kan behalen op het gebied van speelsterkte, menselijke zetvoorspelling en interpreteerbaarheid door zijn interne representaties af te stemmen op de inherente geometrie van het domein.

Methodologie

De auteurs introduceren Chessformer, een encoder-only transformer-architectuur die is ontworpen om deze doelen te verenigen. De kernontwerpprincipes zijn:

1. Vak-Tokenrepresentatie: In tegenstelling tot eerdere methoden die zetsequenties of convolutiekanalen tokeniseren, behandelt Chessformer de 64 bordenvakken als afzonderlijke tokens. Elk vak wordt weergegeven door een 12-dimensionale vector die de aanwezigheid aangeeft van een van de 12 stuktypes (of leeg). Het bord wordt omgekeerd naar het perspectief van de zijde die aan zet is. Om geschiedenis vast te leggen, klinkt de model de representaties van de huidige bordstaat samen met de vorige $n$ staten (typisch $n=7$), wat resulteert in een vaste reeks van 64 tokens per tijdstap.

2. Geometrische Aandachtbias (GAB): Om de permutatie-invariantie van standaard zelfaandacht en de unieke geometrie van schaken aan te pakken, stellen de auteurs GAB voor. Dit is een nieuwe, dynamische positionele codering die aandachtbias genereert op basis van de bordstaat zelf.

   • Mechanisme: De bordstaat-tokens worden gecomprimeerd via lineaire projecties en lagen-normalisatie tot een globale representatie. Deze representatie wordt vervolgens geprojecteerd om een set bias-sjablonen ($h \times 4096$) te genereren voor elke aandachtkop. Deze biases worden herschikt naar $h \times 64 \times 64$ en additief toegevoegd aan de dot-product-aandachtlogits voordat de softmax wordt toegepast.
   • Functie: GAB stelt het model in staat aandachtpatronen aan te passen aan de specifieke geometrie van de positie (bijvoorbeeld stukmobiliteit, pionstructuren) in plaats van te vertrouwen op statische relatieve of absolute posities. Het fungeert als een dynamische mixer van geometrische sjablonen.

3. Outputkoppen:

   • Waardekop: Voorspelt speluitkomsten (winst, remise, verlies) via gemiddelde pooling van de encoder-uitvoer, gevolgd door een lineaire projectie.
   • Beleidkop: Gebruikt een "bron-bestemming"-formulering. Query-vector komen overeen met startvakken, en sleutelvector komen overeen met bestemmingsvakken. De beleidslogits worden berekend via geschaalde dot-product, wat resulteert in een $64 \times 64$ matrix die alle mogelijke zetten vertegenwoordigt. Dit ontwerp ondersteunt op natuurlijke wijze de "van-naar"-structuur van schaakzetten en verbetert de interpreteerbaarheid.

4. Trainingsregimes:

   • Menselijke Zetvoorspelling (MAIA-3): Getraind op een opnieuw bemonsterde dataset van Lichess blitzpartijen om menselijke zetten te voorspellen op basis van bordstaten en spelersratings. Ratings worden opgenomen via "zachte embedding" die worden geïnterpoleerd tussen zwakke en sterke engine-niveaus.
   • Speelsterkte (Leela-CF): Getraind via supervisiegedreven distillatie van een zoekverrijkte Leela Chess Zero (Lc0) orakel. Het model leert de beleidsverdeling en waarde van het MCTS-verrijkte orakel te voorspellen zonder boomzoek tijdens inferentie.

Belangrijkste Bijdragen

• Geünificeerde Architectuur: Chessformer is de eerste architectuur die aantoont dat het state-of-the-art tegelijkertijd kan worden verbeterd op het gebied van pure speelsterkte, menselijke zetvoorspelling en interpreteerbaarheid.
• Geometrische Aandachtbias (GAB): Een nieuwe dynamische positionele codering die zich aanpast aan de bordstaat en superieur presteert aan statische absolute en relatieve biases. Het stelt het model in staat domeinspecifieke geometrische relaties (bijvoorbeeld stukbewegingspatronen) effectiever te vangen.
• Vak-Tokenontwerp: Door vakken als tokens te behandelen, stemt de architectuur af op de visuele en geometrische aard van schaken, wat de parameterbelasting vermindert en directe toewijzing van aandacht en activaties aan specifieke bordenvakken mogelijk maakt.
• Bron-Bestemming Beleidkop: Een beleidkop die de actieruimte expliciet modelleert als een matrix van bron-bestemmingparen, wat gedetailleerde interpreteerbaarheid faciliteert.

Resultaten

1. Menselijke Zetvoorspelling (MAIA-3)

• Prestaties: Het MAIA-3-model met 79 miljoen parameters bereikte een zet-matchnauwkeurigheid van 57,1% op de ALLIE-testset.
• Efficiëntie: Dit overtreft de vorige state-of-the-art (ALLIE-ADAPTIVE-SEARCH, 55,9%), die een model met 355 miljoen parameters vereiste met zoekmogelijkheden. MAIA-3 bereikt dit met minder dan een kwart van de parameters en zonder zoekfunctie.
• Schaalbaarheid: Het MAIA-3-model met 5 miljoen parameters bereikte 55,4% nauwkeurigheid, wat overeenkomt met de vorige state-of-the-art met 70 keer minder parameters.
• Vaardigheidsniveaus: Winsten werden waargenomen op alle vaardigheidsniveaus, met de meest significante verbeteringen op hogere ratings, wat suggereert dat het model de consistentie van sterk spel beter vastlegt.

2. Speelsterkte (Leela-CF)

• Distillatie: Een Chessformer (Leela-CF) met 191 miljoen parameters werd gedistilleerd van een zoekverrijkt Lc0-orakel.
• Elo-winsten: In zoekloze settings bereikte Leela-CF een Elo van 2466 (met gebruik van waarde-maximalisatie) en 2374 (met gebruik van beleidsselectie), wat aanzienlijk beter presteert dan basismodellen zoals AC-270M (2299 Elo) en Leela-CNN (2168 Elo), terwijl er minder FLOP's worden gebruikt.
• Toernooizeges: Wanneer geïntegreerd in volledige Leela Chess Zero-configuraties, versloeg de op Chessformer gebaseerde engine Stockfish (de eeuwige wereldkampioen-engine) in meerdere grote toernooien, waaronder de TCEC Cup 11 en TCEC Swiss 6 en 7. Dit vertegenwoordigde een toename van de speelsterkte van meer dan 100 Elo-punten ten opzichte van de vorige beste Lc0-configuraties.

3. Interpreteerbaarheid

• Toewijzing: Het vak-tokenontwerp staat toe dat aandachtpatronen en activaties direct worden toegeschreven aan specifieke bordenvakken.
• Functieanalyse: Met behulp van cross-layer transcoders identificeerden de auteurs sterk interpreteerbare functies die overeenkomen met tactische motieven (vorken, spijkers, schaken) en strategische concepten (koningveiligheid, pionstructuren).
• GAB versus Semantische Aandacht: Analyse onthulde dat GAB-biases relatief consistent zijn over posities heen, maar significant variëren per query-vak (wat lokale geometrie vastlegt), terwijl dot-product-aandacht significant varieert over posities heen maar consistent is over query-vakken (wat globale semantische context vastlegt). Dit suggereert een complementaire taakverdeling waarbij GAB omgaat met geometrische beperkingen en dot-product omgaat met semantische evaluatie.

Betekenis en Claims

Het artikel beweert dat Chessformer aantoont dat het afstemmen van de tokenisatie, positionele codering en outputontwerp van een model op de onderliggende structuur van een domein gelijktijdige winsten oplevert in prestaties, menselijke compatibiliteit en interpreteerbaarheid.

• Efficiëntie: De architectuur bereikt superieure resultaten met aanzienlijk minder parameters en rekenkracht in vergelijking met eerdere state-of-the-art methoden.
• Menselijke Compatibiliteit: Door menselijk spel te modelleren zonder zoekfunctie en met hoge nauwkeurigheid, overbrugt het model de kloof tussen supermenselijke engine-sterkte en menselijk gedrag, wat mogelijk kan helpen bij onderwijs en samenwerking.
• Mechanistisch Inzicht: De domein-afgestemde architectuur maakt mechanistische interpreteerbaarheid natuurlijker, waardoor onderzoekers interne modelstaten direct kunnen koppelen aan schaakconcepten.

De auteurs concluderen dat, hoewel GAB momenteel is gespecialiseerd in schaken, de bredere les is dat het aanpassen van de modelarchitectuur aan de geometrische structuur van een domein AI-modellen in staat stelt zich flexibel aan te passen aan zowel taakmeesterschap als menselijke compatibiliteit. Zij erkennen beperkingen, waarbij zij opmerken dat de voordelen van GAB mogelijk afhankelijk zijn van domeinen waarin geometrische relaties centraal staan, en dat diepere mechanistische analyse nodig is om de wisselwerking tussen GAB en semantische aandacht in planning en evaluatie volledig te begrijpen.