kth.sePublications
Change search
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf
Preconditioned Infinite GMRES for Parameterized Linear Systems
KTH, School of Engineering Sciences (SCI), Mathematics (Dept.), Numerical Analysis, NA. KTH, Centres, SeRC - Swedish e-Science Research Centre.ORCID iD: 0000-0002-1488-9379
KTH, School of Engineering Sciences (SCI), Mathematics (Dept.), Numerical Analysis, NA. KTH, Centres, SeRC - Swedish e-Science Research Centre.ORCID iD: 0000-0001-9443-8772
School of Mathematics, Trinity College Dublin, The University of Dublin, College Green, Dublin 2, Ireland..
2024 (English)In: SIAM Journal on Scientific Computing, ISSN 1064-8275, E-ISSN 1095-7197, Vol. 46, no 2, p. S120-S141Article in journal (Refereed) Published
Abstract [en]

We are interested in obtaining solutions to parameterized linear systems of the form A(mu)x(mu) = b for many values of the parameter mu. Here A(mu) is large, sparse, and nonsingular with a nonlinear, analytic dependence on mu. Our approach approximates the solution to a linearized system in a flexible GMRES setting [Y. Saad, SIAM J. Sci. Comput., 14 (1993), pp. 461-469], where the linearization is based on a companion matrix similar to the operator in the infinite Arnoldi method [E. Jarlebring, W. Michiels, and K. Meerbergen, Numer. Math., 122 (2012), pp. 169-195]. This novel approach applies the action of a preconditioner inexactly, providing performance improvement over the method infinite GMRES [Jarlebring and Correnty, SIAM J. Matrix Anal. Appl., 43 (2022), pp. 1382-1405] without a loss of accuracy in general. The method returns a function (x) over tilde(mu) which is cheap to evaluate for different mu. We show that the error of our method is estimated based on the magnitude of the parameter mu, the inexactness of the preconditioning, and the spectrum of the companion matrix. Numerical examples from a finite element discretization of a Helmholtz equation with a parameterized material coefficient illustrate the competitiveness of our approach. The software used in the simulations is publicly available online, and all the experiments are reproducible. 

Place, publisher, year, edition, pages
Society for Industrial & Applied Mathematics (SIAM) , 2024. Vol. 46, no 2, p. S120-S141
Keywords [en]
inexact preconditioning, parameterized linear systems, Krylov methods, companion linearization, shifted linear systems, infinite Arnoldi, inner stopping criteria
National Category
Computational Mathematics
Research subject
Applied and Computational Mathematics, Numerical Analysis
Identifiers
URN: urn:nbn:se:kth:diva-344990DOI: 10.1137/22M1502380ISI: 001291137100006Scopus ID: 2-s2.0-85192672679OAI: oai:DiVA.org:kth-344990DiVA, id: diva2:1849038
Note

QC 20240409

Available from: 2024-04-05 Created: 2024-04-05 Last updated: 2024-09-05Bibliographically approved
In thesis
1. Numerical methods for parameterized linear systems
Open this publication in new window or tab >>Numerical methods for parameterized linear systems
2024 (English)Doctoral thesis, comprehensive summary (Other academic)
Abstract [en]

Solving linear systems of equations is a fundamental problem in engineering. Moreover, applications involving the solution to linear systems arise in the social sciences, business, and economics. Specifically, the research conducted in this dissertation explores solutions to linear systems where the system matrix depends nonlinearly on a parameter. The parameter can be a scalar or a vector, and a change in the parameter results in a change in the solution. Such a setting arises in the study of partial differential equations and time-delay systems, and we are interested in obtaining solutions corresponding to many values of the parameter simultaneously. The methods developed in this thesis can also be used to solve parameter estimation problems. Furthermore, software has been developed and is available online. 

This thesis consists of four papers and presents both algorithms and theoretical analysis. In Paper A, a linearization based on an infinite Taylor series expansion is considered. Specifically, the linearized system is a shifted parameterized system, and the parameter is a scalar. The GMRES method is used to solve the systems corresponding to many values of the parameter, and only one Krylov subspace basis matrix is required. Convergence analysis is based on solutions to a nonlinear eigenvalue problem and the magnitude of the parameter. Notably, the algorithm is carried out in a finite number of computations. 

The approach in Paper B is based on a preconditioned linearized system solved using the inexact GMRES method. In this setting, the linearization incorporates all terms in an infinite Taylor series expansion, and the preconditioner is applied approximately using iterative methods. Solutions corresponding to many values of the scalar parameter are generated from one subspace, and this is done in a finite number of linear algebra operations. Theoretical analysis, based on the error in the application of the preconditioner and the magnitude of the parameter, leads to a bound on the residual. 

Paper C proposes a short recurrence Krylov subspace method for solving linear systems that depend on a scalar parameter. In particular, a Chebyshev approximation is used to construct a linearization, and the linearized system is solved in a Bi-CG setting. Additionally, shift-and-invert preconditioning leads to fast convergence of the Krylov method for many different values of the parameter. An inexact variant of the method is also derived and analyzed. 

In Paper D, a reduced order model is constructed from snapshots to solve parameterized linear systems. Specifically, the parameter is a vector of dimension 2, and the sampling is performed on a sparse grid using the method proposed in Paper C. A tensor decomposition is utilized to build the model. Approaches of this kind are not always successful, and it is not known a priori if a decomposition will converge on a given set of snapshots. This work offers a novel way to generate a new set of snapshots in the same parameter space, to be used if the decomposition does not converge, with little extra computation. 

Abstract [sv]

Att lösa linjära ekvationssystem är ett grundläggande tekniskt problem. Dessutom uppstår tillämpningar som involverar lösningen av linjära system inom samhällsvetenskap och ekonomi. Specifikt utforskar denna avhandling lösningar till linjära system där systemmatrisen beror olinjärt på en parameter. Parametern kan vara en skalär eller en vektor, och en förändring i parametern resulterar i en förändring i lösningen. En sådant scenario uppstår vid studiet av partiella differentialekvationer och tidsfördröjningssystem, och vi är intresserade av att erhålla lösningar som motsvarar många värden på parametern samtidigt. De metoder som utvecklats i denna avhandling kan också användas för att lösa problem med parameteruppskattning. Ytterligare har programvara utvecklats och är tillgänglig online.

Denna avhandling består av fyra artiklar och presenterar både algoritmer och teoretisk analys. I artikel A behandlas en linjärisering baserad på en oändlig Taylor-serieexpansion. Specifikt är det linjäriserade systemet ett skiftat parametriserat system, och parametern är en skalär. Systemet löses med GMRES-metoden, och endast en Krylov-basmatris krävs. Konvergensanalys baseras på lösningar till ett olinjärt egenvärdesproblem och parameterns storlek. Noterbart är att algoritmen utförs i ett ändligt antal beräkningar.

Tillvägagångssättet i artikel B är baserat på ett förkonditionerat linjäriserat system löst med den inexakta GMRES-metoden. I den här kontexten innehåller linjäriseringen alla termer i en oändlig Taylor-serieexpansion, och förkonditioneringen appliceras på ett approximativt sätt med iterativa metoder. Lösningar som motsvarar många värden på den skalära parametern genereras från ett delrum, och detta görs i ett ändligt antal linjära algebraoperationer. Teoretisk analys, baserad på felet i appliceringen av förkonditioneraren och storleken på parametern, leder till en övre begränsning på residualens storlek.

Artikel C föreslår en Krylovbaserad rekursionsmetod med få termer för att lösa linjära system som är beroende av en skalär parameter. Specifikt används en Chebyshev-approximation för att konstruera en linjärisering, och det linjäriserade systemet löses med den bikonjugerade gradient-metoden. Dessutom leder förkonditionering med skifte och invertering till snabb konvergens av Krylov-metoden för många olika värden på parametern. En inexakt variant av metoden härleds och analyseras också.

I artikel D konstrueras en reducerad ordningsmodell från sampel av modellen för att lösa parametriserade linjära system. Specifikt är parametern en vektor med dimensionen 2, och samplingen utförs på ett glest rutnät med den metod som föreslås i artikel C. En tensorfaktorisering används för att bygga modellen. Tillvägagångssätt av denna typ är inte alltid framgångsrika, och det är inte känt på förhand om en tensorfaktorisering kommer att konvergera för en given uppsättning av sampel. Detta arbete presenterar ett nytt sätt att generera en ny uppsättning sampel i samma parameterrum till en låg extra kostnad. De nya lösningar kan användas om tensorfaktoriseringen misslyckas. 

Place, publisher, year, edition, pages
Stockholm: KTH Royal Institute of Technology, 2024
Series
TRITA-SCI-FOU ; 2024:08
Keywords
Parameterized linear systems, Krylov subspace methods, preconditioning, tensor decompositions, shifted linear systems, parameterized partial differential equations, time-delay systems, transfer functions, parameter estimation problems, Parameteriserade linjära system, Krylov-metoder, förkonditionering, tensordekomposition, skiftade linjära system, parametriserade partiella differentialekvationer, tidsfördröjningssystem, överföringsfunktioner, parameteruppskattningsproblem
National Category
Computational Mathematics
Research subject
Applied and Computational Mathematics, Numerical Analysis
Identifiers
urn:nbn:se:kth:diva-344999 (URN)978-91-8040-845-5 (ISBN)
Public defence
2024-05-07, F3, Lindstedtsvägen 26, 14:00 (English)
Opponent
Supervisors
Note

QC 2024-04-08

Available from: 2024-04-08 Created: 2024-04-05 Last updated: 2024-04-15Bibliographically approved

Open Access in DiVA

Preconditioned infinite GMRES for parameterized linear systems(6567 kB)138 downloads
File information
File name FULLTEXT01.pdfFile size 6567 kBChecksum SHA-512
d3cdffa84d28a4adb3ac56b49a42559f7e9a8feec2373962c27e15c26c567dcec817029686a3a414597bee3ba8e1f4de57542d1e4dc5764d6550bc1eba8beaa3
Type fulltextMimetype application/pdf

Other links

Publisher's full textScopus

Authority records

Correnty, SiobhánJarlebring, Elias

Search in DiVA

By author/editor
Correnty, SiobhánJarlebring, Elias
By organisation
Numerical Analysis, NASeRC - Swedish e-Science Research Centre
In the same journal
SIAM Journal on Scientific Computing
Computational Mathematics

Search outside of DiVA

GoogleGoogle Scholar
Total: 138 downloads
The number of downloads is the sum of all downloads of full texts. It may include eg previous versions that are now no longer available

doi
urn-nbn

Altmetric score

doi
urn-nbn
Total: 141 hits
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf