kth.sePublications
Change search
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf
Cross-attention Modelling for Neonatal Adverse Events Detection from Multi-modal Time-series Data: Implementing a multi-head cross attention model for neonatal sepsis and necrotizing enterocolitis detection using several in-hospital timeseries data
KTH, School of Electrical Engineering and Computer Science (EECS).
2024 (English)Independent thesis Advanced level (degree of Master (Two Years)), 20 credits / 30 HE creditsStudent thesisAlternative title
Korsuppmärksamhetsmodellering för detektion av allvarliga neonatala tillstånd från multimodal tidssekvensdata : Implementering av en multihead cross attention-modell för detektion av neonatal sepsis och nekrotiserande enterokolit med hjälp av flera tidssekvensdata från sjukhusvistelsen (Swedish)
Abstract [en]

Premature neonates are at risk for several life-threatening events during their first weeks of life, such as sepsis and necrotizing enterocolitis. These events are hard to detect in neonates, due to varying symptoms and unspecific clinical signs. This project aims to detect late-onset sepsis and necrotizing enterocolitis in patients up to 24 hours before clinical suspicion. It is well-established that these adverse conditions impact neonatal vital signs, which motivates the exploration of vital signs-based models for late-onset sepsis and necrotizing enterocolitis detection. A Multi-Head Cross-Attention model was implemented and trained using vital signs data from 30 neonatal intensive care unit patients, of whom 21 experienced any or both of the severe events, along with other relevant in-hospital longitudinal variables. The additional variables included respiration support, medication, mechanical ventilation pressure, weight measurements, fraction of inspired oxygen and laboratory results. Additionally, the postnatal age, birth weight, and sex of the patients were incorporated as input data for the model. When detecting whether and at what times patients experienced late-onset sepsis and/or necrotizing enterocolitis during their hospitalisation, the model with optimised parameters achieved an AUROC score of 0.66 after 100 epochs of training. Overall, Multi-Head Cross-Attention models show promise for early detection of neonatal adverse events, but their complexity necessitates further exploration and development. Additionally, a larger dataset is required to comprehensively evaluate the model’s performance.

Abstract [sv]

För tidigt födda nyfödda löper risk för flera livshotande händelser under sina första levnadsveckor, exempelvis sepsis och Nekrotiserande enterokolit. Dessa händelser är svåra att upptäcka hos nyfödda på grund av varierande symptom och ospecifika kliniska tecken. Syftet med detta projekt är att upptäcka sen neonatal sepsis och nekrotiserande enterokolit hos patienter upp till 24 timmar innan klinisk misstanke. Det är väl etablerat att dessa tillstånd påverkar neonatala vitala tecken, vilket motiverar att utforska modeller baserade på vitala tecken för att upptäcka sen neonatal sepsis och nekrotiserande enterokolit. En Multi-Head Cross-Attention-modell implementerades och tränades med data från vitala tecken från 30 patienter som vistats på neonatala intensivvårdsavdelningen, varav 21 upplevde en eller båda av de allvarliga händelserna, tillsammans med andra relevanta medicinska longitudinella variabler. De ytterligare variablerna inkluderade respiratorstöd, medicinering, tryck vid mekanisk ventilation, viktmätningar, syremättnad i blodet och laboratorieresultat. Dessutom inkluderades postnatal ålder, födelsevikt och patienternas kön som indata i modellen. När modellen förutsåg om och när patienterna upplevde sen neonatal sepsis och/eller nekrotiserande enterokolit under sin sjukhusvistelse uppnådde den med optimerade parametrar ett AUROC-värde på 0, 66 efter 100 träningsiterationer. Sammantaget verkar Multi-Head Cross-Attention-modeller lovande för tidig upptäckt av allvarliga neonatala händelser, men deras komplexitet gör att det krävs ytterligare utforskning och utveckling. Dessutom behövs en större datamängd för att fullständigt utvärdera modellens prestanda.

Place, publisher, year, edition, pages
2024. , p. 68
Series
TRITA-EECS-EX ; 2024:83
Keywords [en]
Attention mechanism, Deep learning, Neonatal sepsis, Necrotizing enterocolitis
Keywords [sv]
Uppmärksamhetsmekanism, Djupinlärning, Neonatal sepsis, Nekrotiserande enterokolit
National Category
Computer and Information Sciences
Identifiers
URN: urn:nbn:se:kth:diva-348497OAI: oai:DiVA.org:kth-348497DiVA, id: diva2:1876678
Supervisors
Examiners
Available from: 2024-08-08 Created: 2024-06-24 Last updated: 2024-08-08Bibliographically approved

Open Access in DiVA

fulltext(2475 kB)88 downloads
File information
File name FULLTEXT01.pdfFile size 2475 kBChecksum SHA-512
2e3dcd69eeb5f46ee23112fb503fdaa5b36064f9b39ed5155d82e5358bc1889f7a193f78dcb3ce926aad5efdb17122a2f6709cc813da19f309fe8985d9ddef9f
Type fulltextMimetype application/pdf

By organisation
School of Electrical Engineering and Computer Science (EECS)
Computer and Information Sciences

Search outside of DiVA

GoogleGoogle Scholar
Total: 89 downloads
The number of downloads is the sum of all downloads of full texts. It may include eg previous versions that are now no longer available

urn-nbn

Altmetric score

urn-nbn
Total: 150 hits
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf