Efficient representations of observed input data have been shown to significantly accelerate the performance of subsequent learning tasks in numerous domains. To obtain such representations automatically, we need to design both i) models that identify useful patterns in the input data and encode them into structured low dimensional representations, and ii) evaluation measures that accurately assess the quality of the resulting representations. In this thesis, we present work that addresses both these requirements, where we extensively focus on requirement ii) since the evaluation of representations has been largely unexplored in the machine learning research. We begin with an overview of representation learning techniques and different structures that can be imposed on representation spaces, thus first addressing i). In this regard,we present a representation learning model that identifies useful patterns from multimodal data, and describe an approach that promotes a structure on there presentation space that is favourable for performing a robotics task. We then thoroughly study the problem of assessing the quality of learned representations and overview the pitfalls of current practices. With this, we motivate the evaluation based on analyzing geometric properties of representations and present two novel evaluation algorithms constituting the core of this thesis. Finally, we present an application of the proposed evaluation algorithms to compare large input graphs.

Effektive representationer av observerat input-data har visat sig ge ensignifikant ökning av prestandan för träningsproblem i ett flertal områden.För att på ett automatiskt sett få fram sådana representationer behövervi både i) modeller som kan identifiera användbara mönster i input-datatoch koda dessa till strukturerade lågdimensionella representationer, samtii) utvärderingsmått som på ett tillförlitligt sätt mäter kvaliteten av dessarepresentationer. I denna avhandling presenterar vi arbete som hanterar bådadessa krav, där fokus ligger på ii) eftersom utvärdering av representationerhar varit ett i stort sätt outforskat ämne i litteraturen för maskininlärning.Vi börjar med en översikt av representationsinlärningstekniker och typer avstrukturer som man kan förelägga på representationsrymden, vilket tillhöri). I detta avseende, presenterar vi modell för representationsinlärning somidentifierar användbara mönster från multimodal data, samt beskriver enmetod som framhäver struktur på representationsrymden som gör sig välpassande för robotikuppgift. Vi studerar sedan genomgående problemet medatt avgöra kvaliteten av dessa inlärda representationer och ger en översikt avvanliga fallgropar som finns med nuvarande metoder. Vi motiverar med dettautvärderingen baserat på av representationernas geometriska egenskaper ochpresenterar två nya utvärderingsalgoritmer vilka huvuddelen av avhandlingenbestår av. Slutligen så presenterar vi ett praktiskt användningsområde avalgoritmerna för att jämföra stora inputgrafer.

Considering the broadness of the area of artificial intelligence, interpretations of the underlying methodologies can be commonly narrowed down to either a probabilistic or a geometric point of view. Such separation is especially prevalent in more classical "pre-neural-network" machine learning if one compares Bayesian modelling with more deterministic models like nearest neighbors.

The research conducted in the dissertation is based on the study and development of geometrically-founded methodologies, carried from the areas of computational topology and geometry, applied to machine learning tasks. The work is tied together with the analysis of natural data space neighborhood partitions known as Voronoi tessellations, as well as their dual Delaunay tessellations. One of the fundamental issues that arise when working with these constructs is their overwhelmingly high geometric complexity in high dimensions so abundant in modern machine learning tasks. We present a class of techniques designed to alleviate these constraints and allow us to work with Voronoi tessellations implicitly in arbitrary dimensions without their explicit construction. The techniques are based on a ray casting procedure, a widespread methodology taking root in areas of stochastic geometry and computer graphics. We present applications of such decompositions to common machine learning problems, such as classification, density estimation and active interpolation, review the methods of Delaunay graph approximation and include a more general discussion on the topic of the high-dimensional geometric analysis.

Med hänsyn till omfattningen av området artificiell intelligens kan indelningen av de underliggande metoderna ofta begränsas till antingen en probabilistisk eller en geometrisk synvinkel. En sådan uppdelning är särskilt utbredd inom mer klassisk maskininlärning, "före-neurala-nätverk", om man jämför Bayesiansk modellering med mer deterministiska modeller som k-närmste grannar.

Den forskning som bedrivs i avhandlingen bygger på studier och utveckling av geometriskt grundade metoder, hämtade från områdena beräkningstopologi och geometri, som tillämpas på maskininlärningsuppgifter. Arbetet knyts samman med analysen av naturliga grannskapspartitioner i datarummet som kallas Voronoi-tessellationer, liksom deras dubbla Delaunay-tessellationer. Ett grundläggande problem som uppstår när man arbetar med dessa konstruktioner är deras överväldigande höga geometriska komplexitet i höga dimensioner som är väldigt vanliga i moderna maskininlärningsuppgifter. Vi presenterar en grupp liknande tekniker som är utformade för att lindra dessa begränsningar och göra det möjligt att arbeta med Voronoi-tessellationer implicit i godtyckliga dimensioner utan att de konstrueras explicit. Teknikerna är baserade på ett strålkastningsförfarande, en utbredd metodik som har fått fäste inom områden som stokastisk geometri och datorgrafik. Vi presenterar tillämpningar av sådana dekompositioner på vanliga maskininlärningsproblem, t.ex. klassificering, täthetsuppskattning och aktiv interpolering. Vi går även igenom metoderna för approximation av Delaunay-grafer och för en mer allmän diskussion om ämnet högdimensionell geometrisk analys.