kth.sePublications KTH
Change search
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf
Diagnosis of Dementia using Transformer Models
KTH, School of Electrical Engineering and Computer Science (EECS).
KTH, School of Electrical Engineering and Computer Science (EECS).
2020 (English)Independent thesis Basic level (degree of Bachelor), 10 credits / 15 HE creditsStudent thesis
Abstract [en]

Dementia is a syndrome of illnesses resulting in cognitive decline, severely impacting the lives of those afflicted as well as their loved ones. The most common form of dementia is Alzheimer's disease, with roughly 10 million new cases each year. In this study we examine different machine learning models and approaches aimed to aid healthcare professionals in early diagnosis of Alzheimer's disease, potentially automating parts of the diagnostic process. We evaluate our models on the Pitt corpus of the Dementia Bank dataset, using 10-fold cross validation. We compare the BERT and RoBERTa transformer models, and find that both models achieve high accuracy, precision, and specificity. The highest accuracy is achieved by RoBERTa, reaching an accuracy of 86.72%, a precision of 90.69% and a specificity of 90.53%. Furthermore, we explore the viability of using automated speech recognition for automatic transcription of audio samples from patient meetings. RoBERTa achieves an accuracy of 83.59% using transcripts generated by Google's automatic speech recognition, suggesting such methods may be viable for automating certain parts of the diagnostic process.

In addition to the exploration of transformer models and their viability for dementia diagnostics, this paper provides a market analysis of a potential automated diagnostics tool utilizing transformer models. The analysis is based on a literature study and on two interviews; one with the CEO of a start-up providing automated dementia tests for healthcare professionals, and one with a psychologist researching dementia as well as potential methods of early diagnosis of dementia. With the interviews and literature study as a basis, we use the SWOT framework, and PEST analysis along with Porter's five forces framework to analyse the current market potential for such an automated tool. Despite detecting several obstacles and difficulties prior to market entry, we find significant potential for such a product given the current state of the market.

Abstract [sv]

Demens är ett syndrom av sjukdomar som orsakar kognitiv nedsättning och påverkar både de drabbade och deras familjer. Den vanligaste typen av demens ar Alzheimers sjukdom, med cirka 10 miljoner nya fall per ar. I denna studie undersöker vi olika maskininlärningsmodeller och tillvägagångssätt i syfte att underlätta får sjukvårdspersonal att ställa en tidig diag­nos, och möjligtvis att även kunna automatisera vissa delar av diagnosprocessen. Vi utvärderar vara modeller på Pitt­corpuset i DementiaBank-datasetet och använder 10-delad ko­rsvalidering. Vi jämför två transformer-modeller: BERT och RoBERTa, och finner att bada modeller åstadkommer goda resultat avseende noggrannhet, precision, specificitet och sen­sitivitet. Den högsta noggrannheten uppnås av RoBERTa, på 86.72%, en precision på 90.69%, och en specificitet på 90.53%. Vidare undersöker vi gångbarheten i att använda automatisk taligenkänning for automatiserad transkribering av ljudinspel­ningar från patientmoten. RoBERTa uppnår da en noggrannhet på 83.59% när den använder transkriberad text från Googles automatiska taligenkänningstjänst, vilket tyder på att sådana metoder kan vara gångbara for att automatisera vissa delar av den diagnostiska processen.

Förutom undersökning av transformermodeller bidrar detta verk även med en marknadsanalys av marknadspotentialen får ett verktyg får automatiserad demensdiagnostik. Analysen baseras på en litteraturstudie och två intervjuer; en med en VD får en start-upp som erbjuder liknande tjänster, och en intervju med en forskare inom demens. Med litteraturstudien och de två intervjuerna som grund analyserar vi marknadspotentialen med tre ramverk: Porters fem krafter, PEST-analys och SWOT­analys. Vi fastslår att det trots flertal hinder och svårigheter får marknadsinträde finns det stor potential och en stor efterfrågan på en sådan produkt.

Place, publisher, year, edition, pages
2020. , p. 14
Series
TRITA-EECS-EX ; 2020:239
National Category
Economics and Business Other Computer and Information Science
Identifiers
URN: urn:nbn:se:kth:diva-279226OAI: oai:DiVA.org:kth-279226DiVA, id: diva2:1458824
Educational program
Master of Science in Engineering - Industrial Engineering and Management
Supervisors
Examiners
Available from: 2020-08-18 Created: 2020-08-18 Last updated: 2022-06-26Bibliographically approved

Open Access in DiVA

fulltext(5505 kB)486 downloads
File information
File name FULLTEXT01.pdfFile size 5505 kBChecksum SHA-512
bd9531208fbbbf2da9f249e80ee37d9754270519a75cc2f388c9d1a9edd3c7fea489aea3714fbd2a94f85dba4a2f2ed49ca89db2f56c40e9e5d0200581a5d553
Type fulltextMimetype application/pdf

By organisation
School of Electrical Engineering and Computer Science (EECS)
Economics and BusinessOther Computer and Information Science

Search outside of DiVA

GoogleGoogle Scholar
Total: 488 downloads
The number of downloads is the sum of all downloads of full texts. It may include eg previous versions that are now no longer available

urn-nbn

Altmetric score

urn-nbn
Total: 1424 hits
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf