Endre søk
RefereraExporteraLink to record
Permanent link

Direct link
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Annet format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annet språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf
Spiking Neural Networks on Tabular Data for Time Series Classification
KTH, Skolan för elektroteknik och datavetenskap (EECS).
2024 (engelsk)Independent thesis Advanced level (degree of Master (Two Years)), 20 poäng / 30 hpOppgave
Abstract [en]

Spiking Neural Networks (SNNs) have a biologically inspired neuron function and have demonstrated more energy efficiency than Artificial Neural Networks (ANNs) when implemented on specialized hardware. One of the challenges in using SNNs is encoding input data into the discrete spike-based representation that SNNs neurons use. This work investigates the use of SNNs with and without input rate encoding in time series classification tasks and compares their performance against conventional ANNs and non-neural network Machine Learning techniques. The study shows that the effectiveness of ANNs and SNNs architectures is strongly dependent on the dataset used, while a Decision Tree method employing Gradient Boosting showed robust performance across the experiments. While the SNNs architecture without rate encoding showed resilience with limited data availability and surpassed the performance of the ANNs in all but one of our datasets, the SNN architecture with rate encoding showed potential in specific scenarios but underperformed in achieving universal effectiveness. Cosine similarity analysis revealed a limitation of rate encoding, with small or negative numerical values encoded as spike trains containing zeros, constraining the model’s ability to recognize similarities and differences between instances belonging to the same and different classes. We also performed experiments with increased time steps in the SNNs architectures that revealed minimal enhancements in performance, suggesting the model’s effectiveness is subject to other parameters.

Abstract [sv]

SNNs har en biologiskt inspirerad neuronfunktion och har visat sig vara mer energieffektiva än artificiella neurala nätverk (ANN) när de implementeras på specialiserad hårdvara. En av utmaningarna med att använda SNN är är att koda inmatningsdata till den diskreta spikbaserade representationen som SNNs neuroner använder. Detta arbete undersöker användningen av SNN med och utan kodning av ingångsfrekvens i tidsserieklassificeringsuppgifter och jämför deras prestanda mot konventionella ANN och icke-neurala nätverkstekniker för maskininlärning. Studien visar att effektiviteten hos ANN och SNN-arkitekturer är starkt beroende av det använda dataset som används, medan en beslutsträdsmetod som använder Gradient Boosting visade robust prestanda under experimenten. Medan SNN-arkitekturen utan hastighetskodning visade motståndskraft med begränsad datatillgänglighet och överträffade prestanda för ANN i alla utom en av våra datamängder, visade SNN-arkitekturen med hastighetskodning visade potential i specifika scenarier men underpresterade när det gällde att uppnå universell effektivitet. Cosine-likhetsanalys avslöjade en begränsning av hastighetskodning, med små eller negativa numeriska värden kodade som spiketåg som innehåller nollor, vilket begränsar modellens förmåga att känna igen likheter och skillnader mellan instanser som tillhör samma och olika klasser. Vi utförde också experiment med ökade tidssteg i SNN-arkitekturerna som avslöjade minimala prestandaförbättringar, vilket tyder på att modellens effektivitet är föremål för andra parametrar.

sted, utgiver, år, opplag, sider
2024. , s. 53
Serie
TRITA-EECS-EX ; 2024:973
Emneord [en]
Signal Encoding, Spiking Neural Networks, Time Series Classification, Machine Learning
Emneord [sv]
Signalkodning, Spiking Neural Networks, Klassificering av Tidsserier, Maskininlärning
HSV kategori
Identifikatorer
URN: urn:nbn:se:kth:diva-361394OAI: oai:DiVA.org:kth-361394DiVA, id: diva2:1945284
Eksternt samarbeid
Ericsson Research
Veileder
Examiner
Tilgjengelig fra: 2025-03-24 Laget: 2025-03-18 Sist oppdatert: 2025-03-24bibliografisk kontrollert

Open Access i DiVA

fulltext(891 kB)63 nedlastinger
Filinformasjon
Fil FULLTEXT01.pdfFilstørrelse 891 kBChecksum SHA-512
74d220e3e07853eecfdda6fba26b6deddf83509a90a3b07158075a5ae77dc30fe7691936f808269a20c4c9addcbc80ea8574e5257b1ebc6c151babc82a55145b
Type fulltextMimetype application/pdf

Av organisasjonen

Søk utenfor DiVA

GoogleGoogle Scholar
Totalt: 63 nedlastinger
Antall nedlastinger er summen av alle nedlastinger av alle fulltekster. Det kan for eksempel være tidligere versjoner som er ikke lenger tilgjengelige

urn-nbn

Altmetric

urn-nbn
Totalt: 366 treff
RefereraExporteraLink to record
Permanent link

Direct link
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Annet format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annet språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf