A power system consists of several critical components necessary for providing electricity from the producers to the consumers. Monitoring the lifetime of power system components becomes vital since they are subjected to electrical currents and high temperatures, which affect their ageing. Estimating the component's ageing rate close to the end of its lifetime is the motivation behind our project. Knowing the ageing rate and life expectancy, we can possibly better utilize and re-utilize existing power components and their parts. In return, we could achieve better material utilization, reduce costs, and improve sustainability designs, contributing to the circular industry development of power system components. Monitoring the thermal distribution and the degradation of the insulation materials informs the estimation of the components' health state. Moreover, further study of the employed paper material of their insulation system can lead to a deeper understanding of its thermal characterization and a possible consequent improvement.

Our study aims to create a model that couples the physical equations that govern the deterioration of the insulation systems of power components with modern machine learning algorithms. 

As the data is limited and complex in the field of components' ageing, Physics-Informed Neural Networks (PINNs) can help to overcome the problem. PINNs exploit the prior knowledge stored in partial differential equations (PDEs) or ordinary differential equations (ODEs) modelling the involved systems. This prior knowledge becomes a regularization agent, constraining the space of available solutions and consequently reducing the training data needed. 

This thesis is divided into two parts: the first focuses on the insulation system of power transformers, and the second is an exploration of the paper material concentrating on cellulose nanofibrils (CNFs) classification. The first part includes modelling the thermal distribution and the degradation of the cellulose inside the power transformer. The deterioration of one of the two systems can lead to severe consequences for the other. Both abilities of PINNs to approximate the solution of the equations and to find the parameters that best describe the data are explored. The second part could be conceived as a standalone; however, it leads to a further understanding of the paper material. Several CNFs materials and concentrations are presented, and this thesis proposes a basic unsupervised learning using clustering algorithms like k-means and Gaussian Mixture Models (GMMs) for their classification. 

Ett kraftsystem består av många kritiska komponenter som är nödvändiga för att leverera el från producenter till konsumenter. Att övervaka livslängden på kraftsystemets komponenter är avgörande eftersom de utsätts för elektriska strömmar och höga temperaturer som påverkar deras åldrande. Att uppskatta komponentens åldringshastighet nära slutet av dess livslängd är motivationen bakom vårt projekt. Genom att känna till åldringshastigheten och den förväntade livslängden kan vi eventuellt utnyttja och återanvända befintliga kraftkomponenter och deras delar   bättre. I gengäld kan vi uppnå bättre materialutnyttjande, minska kostnaderna och förbättra hållbarhetsdesignen vilket bidrar till den cirkulära industriutvecklingen av kraftsystemskomponenter. Övervakning av värmefördelningen och nedbrytningen av isoleringsmaterialen indikerar komponenternas hälsotillstånd. Dessutom kan ytterligare studier av pappersmaterial i kraftkomponenternas isoleringssystem leda till en djupare förståelse av dess termiska karaktärisering och en möjlig förbättring. 

Vår studie syftar till att skapa en modell som kombinerar de fysiska ekvationer som styr försämringen av isoleringssystemen i kraftkomponenter med moderna algoritmer för maskininlärning.

Eftersom datan är begränsad och komplex när det gäller komponenters åldrande kan  fysikinformerade neurala nätverk (PINNs) hjälpa till att lösa problemet. PINNs utnyttjar den förkunskap som finns lagrad i partiella differentialekvationer (PDE) eller ordinära differentialekvationer (ODE) för att modellera system och använder dessa ekvationer för att begränsa antalet tillgängliga lösningar och därmed minska den mängd träningsdata som behövs. 

Denna avhandling är uppdelad i två delar: den första fokuserar på krafttransformatorers isoleringssystem, och den andra är en undersökning av pappersmaterialet som används med fokus på klassificering av cellulosananofibriller (CNF). Den första delen omfattar modellering av värmefördelningen och nedbrytningen av cellulosan inuti krafttransformatorn. En försämring av ett av de två systemen kan leda till allvarliga konsekvenser för det andra. Både PINNs förmåga att approximera lösningen av ekvationerna och att hitta de parametrar som bäst beskriver datan undersöks. Den andra delen skulle kunna ses som en fristående del, men den leder till en utökad förståelse av själva pappersmaterialet. Flera CNF-material och koncentrationer presenteras och denna avhandling föreslår en simpel oövervakad inlärning med klusteralgoritmer som k-means och Gaussian Mixture Models (GMMs) för deras klassificering.

Scientific Machine Learning (SciML) is a promising field that combines data-driven models with physical laws and principles. A novel example is the application of Artificial Neural Networks (ANNs) to solve Ordinary Differential Equations (ODEs) and Partial Differential Equations (PDEs). One of the most recent approaches in this area is Physics-Informed Neural Networks (PINNs), which encode the governing physical equations directly into the neural network architecture. PINNs can solve both forward and inverse problems, learning the solution to differential equations and inferring unknown parameters or even functional forms. Therefore, they are particularly effective when partially known equations or incomplete models describe real-world systems. 

Differential equations enable a mathematical formulation for various fundamental physical laws. ODEs and PDEs are used to model the behavior of complex and dynamical systems in many fields of science. However, many real-world problems are either too complex to solve exactly or involve equations that are not fully known. In these cases, we rely on numerical methods to approximate solutions. While these methods can be very accurate, they often are computationally expensive, especially for large, nonlinear, or high-dimensional problems. Therefore, exploring alternative approaches like SciML to find more efficient and scalable solutions is fundamental.

This thesis presents a series of applications of SciML methods in identifying and solving real-world systems. First, we demonstrate using PINNs combined with symbolic regression to recover governing equations from sparse observational data, focusing on cellulose degradation within power transformers. PINNs are then applied to solve forward problems, specifically the 1D and 2D heat diffusion equations, which model thermal distribution in transformers. Moreover, we also develop an approach for optimal sensor placement using PINNs that improves data collection efficiency. A third case study examines how dimensionality reduction techniques, such as Principal Component Analysis (PCA), can be applied to explain and visualize high-dimensional data, where each observation comprises a large number of variables that describe physical systems. Using datasets on Cellulose Nanofibrils (CNFs) of various materials and concentrations, Machine Learning (ML) techniques are employed to characterize and interpret the system behavior. 

The second part of this thesis focuses on improving the scalability and robustness of PINNs. We propose a pretraining strategy that optimizes the initial weights, reducing stochasticity variability to address training instability and high computational costs in higher-dimensional problems arising from solving multi-dimensional or parametric PDEs. Moreover, we introduce an extension of PINNs, referred to as $PINN, which includes Bayesian probability within a domain decomposition framework. This formulation enhances performance, particularly in handling noisy data and multi-scale problems.

Scientific Machine Learning (SciML) är ett lovande område som kombinerar datadrivna modeller med fysiska lagar och principer. Ett nytt exempel är tillämpningen av artificiella neurala nätverk (ANN) för att lösa ordinära differentialekvationer (ODE) och partiella differentialekvationer (PDE). Ett av de senaste tillvägagångssätten inom detta område är PINN (Physics-Informed Neural Networks), som kodar de styrande fysikaliska ekvationerna direkt i neuronnätets arkitektur. PINN kan lösa både framåtriktade och inversa problem, lära sig lösningen på differentialekvationer och härleda okända parametrar eller till och med funktions former. Därför är de särskilt effektiva när delvis kända ekvationer eller ofullständiga modeller beskriver verkliga system.

Differentialekvationer möjliggör en matematisk formulering av grundläggande fysiska lagar. ODE:er och PDE:er används för att modellera beteendet hos komplexa och dynamiska system inom många vetenskapliga områden. I verkligheten är många problem antingen för komplexa för att kunna lösas exakt eller innehåller ekvationer som inte är helt kända. I dessa fall förlitar vi oss på numeriska metoder för att approximera lösningar. Trots att dessa metoder kan vara mycket exakta är de ofta beräkningsmässigt dyra, särskilt för stora, olinjära eller mångdimensionella problem. Det är därför viktigt att utforska alternativa metoder som SciML för att hitta effektivare och mer skalbara lösningar.

I denna avhandling presenteras en serie tillämpningar av SciML-metoder för att identifiera och lösa verkliga system. Först demonstrerar vi hur PINN kombinerat med symbolisk regression kan användas för att återskapa styrande ekvationer från gles observationsdata, med fokus på cellulosanedbrytning i krafttransformatorer. PINNs används sedan för att lösa framåtriktade problem, särskilt 1D- och 2D-värmediffusionsekvationerna, som modellerar termisk distribution i transformatorer. Dessutom utvecklar vi ett tillvägagångssätt för optimal sensorplacering med hjälp av PINN som förbättrar datainsamlingseffektiviteten. I ett tredje användnings område undersöks hur tekniker för dimensionsreduktion, såsom Principal Component Analysis (PCA), kan tillämpas för att förklara och visualisera mångdimensionell data, där varje observation består av ett stort antal variabler som beskriver fysiska system. Med hjälp av dataset om cellulosa nanofibrillärer CNF) av olika material och koncentrationer används maskininlärningstekniker (ML) för att karakterisera och tolka systemets beteende.

Den andra delen av avhandlingen fokuserar på att förbättra skalbarheten och robustheten hos PINN. Vi föreslår en strategi för förträning som optimerar de initiala vikterna, vilket minskar stokasticitetsvariabiliteten för att hantera träningsinstabilitet och höga beräkningskostnader i problem med fler dimensioner som uppstår vid lösning av mångdimensionella eller parametriska PDE:er. Dessutom introducerar vi en tillägg för PINN, kallad $PINN, som inkluderar Bayesiansk sannolikhet inom ett ramverk för domänkomposition. Denna formulering förbättrar prestandan, särskilt vid hantering av brusiga data och flerskaliga problem.