While supervised machine learning has driven significant advancements in behavioral analysis, the capabilities of unsupervised learning methods remain largely unexplored. This thesis investigates the effectiveness of two such techniques in analyzing animal behavior: Variational Animal Motion Embedding (VAME) and Behavioral Segmentation of Open Field in DeepLabCut (B-SOID). Both methods are applied to a dataset generated by SciLifeLab, comprising recordings from three experimental animal groups, each paired with corresponding control groups. The detected behavioral motifs were subjected to comparative analysis to identify significant differences between treatment and control groups. Each method’s clustering quality was also evaluated using three different internal validity metrics: Silhouette Coefficient, Davies-Bouldin Index, and Cluster Density-Based Validity. The findings reveal that while B-SOID performs better on the validity metrics, VAME exhibits better cluster stability. Both methods identify similar behavioral differences within the data but excel in different contexts. B-SOID excels in rapid pose classification without capturing the temporal evolution of such a pose, whereas VAME outperforms in learning spatiotemporal information and embedding them in a dynamic latent space. These differences underscore the importance of selecting the appropriate method based on specific research objectives

Medan övervakad maskininlärning har drivit på betydande framsteg inom beteendeana lys, förblir kapaciteten hos oövervakade inlärningsmetoder i stort sett outforskade. Detta examensarbete undersöker effektiviteten av två sådana tekniker för att analysera djurs beteende: Variational Animal Motion Embedding (VAME) och Behavioural Segmentation of Open Field in DeepLabCut (B-SOID). Båda metoderna tillämpades på en datauppsättning genererad av SciLifeLab, innefattande inspelningar från tre försöksdjursgrupper, var och en parad med motsvarande kontrollgrupper. De upptäckta beteendemotiven utsattes för jämförande analys för att identifiera signifikanta skillnader mellan behandlings- och kontrollgrupper. Varje metods klustringskvalitet utvärderades också med hjälp av tre olika interna validitetsmått: Silhouette Coefficient, Davies-Bouldin Index och Cluster Density-Based Validity. Resultaten visar att medan B-SOID presterar bättre på validitetsmåtten, uppvisar VAME bättre klusterstabilitet. Båda metoderna identifierar liknande beteendeskillnader inom datan, däremot utmärker dem sig i olika sammanhang. B-SOID utmärker sig i snabb positionsklassificering utan att fånga den temporala utvecklingen mellan poserna, medan VAME överträffar när det gäller att lära sig rumslig information och bädda in den i ett dynamiskt latent rum. Dessa skillnader understryker vikten av att välja lämplig metod utifrån specifika forskningsmål.