kth.sePublications KTH
Operational message
There are currently operational disruptions. Troubleshooting is in progress.
Change search
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf
Approximating Quasistationary Distributions Using Deep Learning
KTH, School of Engineering Sciences (SCI), Mathematics (Dept.), Mathematical Statistics.
2022 (English)Independent thesis Advanced level (degree of Master (Two Years)), 20 credits / 30 HE creditsStudent thesisAlternative title
Skattningar av kvasistationära fördelningar genom djupinlärning (Swedish)
Abstract [en]

We study a class of It\={o} diffusion processes on domains with smooth boundary, at which the process is killed. Such a process, when conditioned on non-extinction, gives rise to a stationary state known as a \emph{quasistationary distribution} (QSD). Let $\mathcal{L}$ be the \emph{infinitesimal generator} of the \emph{Markov semigroup} of the process and let $\mathcal{L}^*$ denote the formal adjoint of $\mathcal{L}$, given by $\langle \mathcal{L} f, g \rangle=\langle f, \mathcal{L}^* g \rangle$ for suitable functions $f$ and $g$. For a killed It\={o} diffusion on a domain $G$, $\mathcal{L}^*$ is a differential operator that can be expressed analytically in terms of the drift and diffusion coefficients of the process. It is well-known that an eigenfunction of the Dirichlet eigenvalue problem\begin{align*}\mathcal{L}^* u(x) &= \lambda u(x), ~~~~~~~~~~~ x \in G \\u(x) &= 0, ~~~~~~~~~~~~~~~~~ x \in \partial G\end{align*}gives the unique (up to normalization) QSD of the process.

The goal of this thesis is to develop a Deep Learning-based numerical scheme to approx\hyp{}imate QSDs by exploiting the connection to the aforementioned eigenvalue problem. To this end we consider both methods based on minimizing a residual that takes account of the PDE dynamics---so called physics based methods---and schemes that use a stochastic representation of the PDE, with emphasis on the former.

As a basis for comparison, we derive analytical expressions for the QSD of a diffusion process with constant coefficients and for the Ornstein-Uhlenbeck (OU) process. In the constant coefficient case, we highlight a general problem with penalty-based methods that gives rise to \emph{spurious solutions} due to the numerical method solving a relaxed problem in practice.

Finally, we show empirically that, at least in the OU case, it is possible to obtain a good approximation of the QSD using Deep Learning.

Abstract [sv]

Vi studerar en klass av It\={o} diffusionsprocesser på domäner med slät rand, där processen absorberas. En sådan process, när den är betingad på att inte ha absorberats, ger upphov till ett stationärt tillstånd känt som en kvasistationär fördelning. Låt $\mathcal{L}$ be den infinitesimala generatorn av Markov-halvgruppen för processen och låt $\mathcal{L}^*$ beteckna den formellt adjung\hyp{}erade operatorn, given av $\langle \mathcal{L} f, g \rangle = \langle f, \mathcal{L}^* g \rangle$ för lämpliga funktioner $f$ och $g$. För It\={o}-diffusioner med absorbtion på randen av en domän $G$ är $\mathcal{L}^*$ en differentialoperator som kan uttryckas analytiskt i termer av drift- och diffusionskoefficenterna som tillhör processen. Det är välkänt att en egenfunktion av egenvärdesproblemet med Dirichlet-rand\begin{align*}\mathcal{L}^* u(x) &= \lambda u(x), ~~~~~~~~~~~ x \in G \\u(x) &= 0, ~~~~~~~~~~~~~~~~~ x \in \partial G\end{align*}ger den unika kvasistationära fördelningen (upp till normalisering) för processen.

Målet med detta masterarbete är att utveckla djupinlärningsbaserade numeriska metoder för att skatta kvasistationära fördelningar genom att eploatera kopplingen till egenvärdes\hyp{}problemet. För detta ändamål undersöker vi både metoder som är baserade på att minimera en residual som tar hänsyn till PDE-dynamiken---så kallade fysikaliskt grundade metoder---och en formulering genom en stokastisk representation av PDEn, med tonvikt på den första typen.

Som bas för jämförelse tar vi fram analytiska uttryck för den kvasisationära fördelningen av en diffusionsprocess med konstanta koefficienter och för Ornstein-Uhlenbeck-processen (OU). I fallet med konstant koefficienter belyser vi en problematik med \emph{oäkta lösningar} som uppstår eftersom straffbaserade metoder i praktiken löser en relaxerad version av egenvärdesproblemet.

Slutligen visar vi empiriskt att det, i alla fall i fallet med OU-processen, är möjligt att uppnå bra skattningar av den kvasistationära fördelningen med hjälp av djupinlärning.

Place, publisher, year, edition, pages
2022. , p. 58
Series
TRITA-SCI-GRU ; 2022:321
Keywords [en]
Applied Mathematics, Deep Learning, Probability Theory, Stochastic Processes, Ito Diffusions, Quasistationary Distributions
Keywords [sv]
Tillämpad matematik, djupinlärning, sannolikhetsteori, stokastiska processer, Ito-diffusioner, kvasistationära fördelningar
National Category
Probability Theory and Statistics
Identifiers
URN: urn:nbn:se:kth:diva-323862OAI: oai:DiVA.org:kth-323862DiVA, id: diva2:1736958
Subject / course
Mathematics
Educational program
Master of Science - Applied and Computational Mathematics
Supervisors
Examiners
Available from: 2023-02-22 Created: 2023-02-15 Last updated: 2023-02-22Bibliographically approved

Open Access in DiVA

fulltext(4779 kB)432 downloads
File information
File name FULLTEXT01.pdfFile size 4779 kBChecksum SHA-512
d3734f4f9599dcc4c1ee469f742f2f9f6d59dbb9dbda86d3ac437d69986b460160fd2e6d99d0e848d042cfddda601ee25658ca81da159d0bd56bb9d58aa0346b
Type fulltextMimetype application/pdf

By organisation
Mathematical Statistics
Probability Theory and Statistics

Search outside of DiVA

GoogleGoogle Scholar
Total: 432 downloads
The number of downloads is the sum of all downloads of full texts. It may include eg previous versions that are now no longer available

urn-nbn

Altmetric score

urn-nbn
Total: 474 hits
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf