Neural networks, whether artificial in a computer or natural in the brain, could represent information either using discrete symbols or continuous vector spaces. In this thesis, I explore how neural networks can represent continuous vector spaces, using both simulated neural networks and analysis of real neural population data recorded from mice. A special focus is on the networks of the basal ganglia circuit and on reinforcement learning, i.e., learning from rewards and punishments.

The thesis includes four scientific papers: two theoretical/computational (Papers I and IV) and two with analysis of real data (Papers II and III).

In Paper I, we explore methods for implementing continuous vector spaces in networks of spiking neurons using multidimensional attractors, and propose an explanation for why it is hard to escape the neural manifolds created by such attractors.

In Paper II, we analyze experimental data from dorsomedial striatum collected using 1-photon calcium imaging of transgenic mice with celltype-specific markers for the striatal direct, indirect and patch pathways, as the mice were gathering rewards in a 2-choice task. In line with extensive previous results, our data analysis revealed a number of neural signatures of reinforcement learning, but no apparent difference between the pathways.

In Paper III, we present a new software tool for tracking neurons across weeks of 1-photon calcium imaging, and employ it to follow patch-specific striatal projection neurons from the dorsomedial striatum across two weeks of daily recordings.

In Paper IV, we propose a model for how the nigrostriatal dopaminergic projection could, in a biologically plausible way, convey a vector-valued error gradient to the dorsal striatum, as required for backpropagation.

Based on the results of the papers and a review of existing literature, I argue that while the basal ganglia indeed make up a circuit for reinforcement learning as previously thought, this circuit represents reinforcement learning states, actions and policies using a continuous population code and not using discrete symbols.

Neurala nätverk, så väl artificiella i en dator som naturliga i en hjärna, skulle kunna representera information antingen som diskreta symboler eller som steglösa vektorrymder. I denna avhandling utforskar jag hur neurala nätverk kan representera steglösa vektorrymder både genom att simulera neurala nätverk och genom att analysera uppmätt neural data från möss. Jag fokuserar i synnerhet på hjärnnätverken i de basala ganglierna och på förstärkningsinlärning, det vill säga inlärning baserad på belöning och bestraffning.

Avhandlingen innefattar fyra forskningsartiklar: två teoretiska med simuleringar (Artikel I och Artikel IV) och två med analys av uppmätt data (Artikel II och Artikel III).

I Artikel I utforskar vi metoder för att implementera steglösa vektorrymder i nätverk med spikande nervceller genom att skapa multidimensionella attraktorer, och lägger fram en förklaring för varför det är svårt att ta sig ur sådana attraktorer.

I Artikel II analyserar vi uppmätt hjärnaktivitet som spelats in från dorsomediala striatum med hjälp av kalciumavbildning (en-foton) i genmodifierade möss med markörer för den direkta, den indirekta respektive den striosoma nervbanan, medan mössen samlade belöningar i ett spel med två val. Likt omfattande tidigare forskning fann vi ett antal neurala signaturer för förstärkningsinlärning, men inga skillnader i signaturerna mellan de tre nervbanorna.

I Artikel III presenterar vi ett nytt mjukvaruverktyg för att följa nervceller genom veckolånga kalciuminspelningar och använder det specifikt till att följa striatala projektionsceller i den striosoma nervbanan under två veckors tid.

I Artikel IV presenterar vi en modell för hur den nigrostriatala dopaminerga nervbanan skulle kunna förmedla en vektorvärd felgradient till dorsomediala striatum på ett biologiskt trovärdigt sätt. En sådan behövs för backpropagering.

Utifrån resultaten i artiklarna och en litteraturöversikt drar jag slutsatsen att basala ganglierna implementerar en förstärkningsinlärningsalgoritm i enlighet med tidigare forskning, men att representationen av tillståndsrymd, handlingar, och policyer byggs upp av en kontinuerlig populationskod och inte av diskreta symboler.