Diffusion Models for Generative Modelling of a Posteriori Probability Measures in Target Tracking
2025 (English)Independent thesis Advanced level (degree of Master (Two Years)), 20 credits / 30 HE credits
Student thesisAlternative title
Diffusionsmodeller för generativ modellering av a posteriori sannolikhetsfördelningar inom målföljning (Swedish)
Abstract [en]
Recent advancements in the field of generative machine learning, Diffusion Models (DMs) in particular, have made it possible to learn and sample according to complex conditional probability distributions. In surveillance applications, the state estimation task is challenged with increasingly unpredictable targets, and it is therefore of interest to explore new methods to perform statistical inference. This thesis investigates modern approaches to condition score-based DMs to allow for sampling of target trajectories, expressed as Stochastic Differential Equations (SDEs), adjusted for partial and noisy observations. DM network architectures developed for time series data are used and conditioned with techniques that work during inference. We find that a wide variety of motion models can be accurately generated according to the underlying distribution with high fidelity, showing successful conditioning using at least one of the tested methods. However, the models used require substantial computational resources, which is why dimensionality reduction techniques are needed for real-world applications. We thus discuss and explore latent diffusion ideas, which show promising results for unconditional modelling—and it is plausible that future work can allow for extension to accurate conditioning as well.
Abstract [sv]
Nyliga framsteg inom området generativ maskininlärning, i synnerhet diffusionsmodeller, har gjort det möjligt att lära sig och generera enligt komplexa betingade sannolikhetsfördelningar. Inom övervakningsapplikationer utmanar allt mer oförutsägbara mål traditionella metoder för tillståndsuppskattning, och det är därför av intresse att utforska nya tillvägagångssätt för att utföra statistisk inferens. Detta arbete undersöker moderna metoder för att betinga diffusionsmodeller och möjliggöra generering av målbanor, uttryckta som stokastiska differentialekvationer, justerade efter partiella och brusiga observationer. Nätverksarkitekturer för diffusionsmodeller som utvecklats för tidsseriedata används och betingas med tekniker som fungerar direkt under inferens. Vi finner att en stor mängd rörelsemodeller kan genereras med hög noggrannhet enligt den underliggande fördelningen, där betingningen presterar väl med åtminstone en av de implementerade metoderna. Dessa modeller kräver däremot omfattande beräkningsresurser, vilket gör att tekniker för dimensionsreduktion är nödvändigt för verkliga tillämpningar. Vi utforskar därför idéer kring latent diffusion, som visar lovande resultat för obetingad modellering – och det är troligt att anta att framtida arbete kan möjliggöra noggrann mätningsjusterad generering.
Place, publisher, year, edition, pages
2025. , p. 115
Series
TRITA-SCI-GRU ; 2025:366
Keywords [en]
Diffusion Models, Generative Machine Learning, Bayesian Inference, State Estimation, Target Tracking, Stochastic Processes, Stochastic Calculus
Keywords [sv]
Diffusionsmodeller, Generativ maskininlärning, Bayesiansk inferens, Tillståndsskattning, Stokastiska processer, Stokastisk analys
National Category
Probability Theory and Statistics
Identifiers
URN: urn:nbn:se:kth:diva-368870OAI: oai:DiVA.org:kth-368870DiVA, id: diva2:1991123
External cooperation
Saab AB
Subject / course
Mathematical Statistics
Educational program
Master of Science - Applied and Computational Mathematics
Supervisors
Examiners
2025-08-212025-08-212025-08-21Bibliographically approved