We introduce Chessformer: a chess-playing transformer model, trained to play by predicting the next move in human chess games given all the previous moves. The purpose is to show that transformers can learn chess when trained in this way and to train a model with a more human-like playing style than other chess-bots.

Chessformer is trained on a dataset of $16$ million games, and through this learns to play both legal and strategic moves. In random positions outside the training data the best version of Chessformer plays a legal move $99.2\% \pm 0.1\%$ of the time. Playing against Stockfish our model achieves an Elo rating of $1198 \pm 22$. Based on an analysis of its moves Chessformer has a playing style very different from both humans and Stockfish, despite being trained on human chess games.

Vi introducerar \textit{Chessformer}: en schackspelande transformermodell, tränad till att spela genom att förutse nästa drag i mänskliga schackspel. Syftet är att visa att transformers kan lära sig schack då de tränas på detta vis och att träna en modell med en mer mänsklig spelstil än andra schackbotar.

Chessformer är tränad på ett dataset av $16$ miljoner schackmatcher, och lär sig genom detta att spela regelrätta och strategiska drag. I slumpvalda positioner utanför träningsdata spelar den bästa versionen av Chessformer regelrätta drag $99.2\% \pm 0.1\%$ av gångerna. Under spel mot Stockfish uppnår vår modell en Elo-rating på $1198 \pm 22$. Baserat på en analys av dess drag har Chessformer en spelstil som skiljer sig avsevärt från både människor och Stockfish, trots att den tränas på matcher mellan människor.