Diagnosis of Dementia using Transformer Models
2020 (English)Independent thesis Basic level (degree of Bachelor), 10 credits / 15 HE credits
Student thesis
Abstract [en]
Dementia is a syndrome of illnesses resulting in cognitive decline, severely impacting the lives of those afflicted as well as their loved ones. The most common form of dementia is Alzheimer's disease, with roughly 10 million new cases each year. In this study we examine different machine learning models and approaches aimed to aid healthcare professionals in early diagnosis of Alzheimer's disease, potentially automating parts of the diagnostic process. We evaluate our models on the Pitt corpus of the Dementia Bank dataset, using 10-fold cross validation. We compare the BERT and RoBERTa transformer models, and find that both models achieve high accuracy, precision, and specificity. The highest accuracy is achieved by RoBERTa, reaching an accuracy of 86.72%, a precision of 90.69% and a specificity of 90.53%. Furthermore, we explore the viability of using automated speech recognition for automatic transcription of audio samples from patient meetings. RoBERTa achieves an accuracy of 83.59% using transcripts generated by Google's automatic speech recognition, suggesting such methods may be viable for automating certain parts of the diagnostic process.
In addition to the exploration of transformer models and their viability for dementia diagnostics, this paper provides a market analysis of a potential automated diagnostics tool utilizing transformer models. The analysis is based on a literature study and on two interviews; one with the CEO of a start-up providing automated dementia tests for healthcare professionals, and one with a psychologist researching dementia as well as potential methods of early diagnosis of dementia. With the interviews and literature study as a basis, we use the SWOT framework, and PEST analysis along with Porter's five forces framework to analyse the current market potential for such an automated tool. Despite detecting several obstacles and difficulties prior to market entry, we find significant potential for such a product given the current state of the market.
Abstract [sv]
Demens är ett syndrom av sjukdomar som orsakar kognitiv nedsättning och påverkar både de drabbade och deras familjer. Den vanligaste typen av demens ar Alzheimers sjukdom, med cirka 10 miljoner nya fall per ar. I denna studie undersöker vi olika maskininlärningsmodeller och tillvägagångssätt i syfte att underlätta får sjukvårdspersonal att ställa en tidig diagnos, och möjligtvis att även kunna automatisera vissa delar av diagnosprocessen. Vi utvärderar vara modeller på Pittcorpuset i DementiaBank-datasetet och använder 10-delad korsvalidering. Vi jämför två transformer-modeller: BERT och RoBERTa, och finner att bada modeller åstadkommer goda resultat avseende noggrannhet, precision, specificitet och sensitivitet. Den högsta noggrannheten uppnås av RoBERTa, på 86.72%, en precision på 90.69%, och en specificitet på 90.53%. Vidare undersöker vi gångbarheten i att använda automatisk taligenkänning for automatiserad transkribering av ljudinspelningar från patientmoten. RoBERTa uppnår da en noggrannhet på 83.59% när den använder transkriberad text från Googles automatiska taligenkänningstjänst, vilket tyder på att sådana metoder kan vara gångbara for att automatisera vissa delar av den diagnostiska processen.
Förutom undersökning av transformermodeller bidrar detta verk även med en marknadsanalys av marknadspotentialen får ett verktyg får automatiserad demensdiagnostik. Analysen baseras på en litteraturstudie och två intervjuer; en med en VD får en start-upp som erbjuder liknande tjänster, och en intervju med en forskare inom demens. Med litteraturstudien och de två intervjuerna som grund analyserar vi marknadspotentialen med tre ramverk: Porters fem krafter, PEST-analys och SWOTanalys. Vi fastslår att det trots flertal hinder och svårigheter får marknadsinträde finns det stor potential och en stor efterfrågan på en sådan produkt.
Place, publisher, year, edition, pages
2020. , p. 14
Series
TRITA-EECS-EX ; 2020:239
National Category
Economics and Business Other Computer and Information Science
Identifiers
URN: urn:nbn:se:kth:diva-279226OAI: oai:DiVA.org:kth-279226DiVA, id: diva2:1458824
Educational program
Master of Science in Engineering - Industrial Engineering and Management
Supervisors
Examiners
2020-08-182020-08-182022-06-26Bibliographically approved