Industrial-scale autonomous mobile systems (AMS), such as automated vehicles and mobile robots, transform industries and transportation by enhancing advanced features related to safety, sustainability, and energy efficiency. Trust worthiness, as a non-negotiable system requirement, demands safe operation to ensure user confidence and societal acceptance. Autonomy relies on various sensors, which serve as the ’eyes’ of AMS, supplying critical signals to perception and decision-making functions. However, in real operation situations, sensor performance can be degraded due to intrinsic issues such as unexpected noise, unmanaged physical damage, unavoidable component aging, or external environmental impacts such as unexpected weather conditions. Meanwhile, the perception functions receiving such sensor signals can produce non-optimal outputs not only because of flawed inputs, but also due to the probabilistic nature of algorithms used for tasks like localization. In effect, such vulnerabilities in sensory and perceptual functions introduce unexpected nondeterminism into an AMS control system. This thesis focuses on developing an uncertainty-aware safe control strategy for safety-critical AMS accounting for uncertainties stemming from the sensor components and perception functions. It aims to leverage machine learning, dynamic optimization, and control theory to facilitate the safe operation of AMS. It proposes a framework that builds on: (1) model predictive control (MPC) for con troller design; (2) control barrier functions (CBFs) for safety filter design; and (3) an uncertainty model for treating situation variability in safety constraint design. The contributions of this thesis are: (1) the development of a fault injection platform for generating data under various operational conditions, which serves as the core stage for subsequent developments; (2) an integration of multifunction control based on safe operational metrics; (3) the construction of dynamic safety constraints using CBFs according to safe operational requirements; (4) the development of a condition monitoring service for computing health and risk indices and for modeling perception uncertainties; and (5) the development of safety constraints given by the uncertainty models, and the indices. The approach advances safety-critical control design by integrating MPC–CBF methods with learned uncertainty models. Support Vector Regression and Long Short-Term Memory methods are employed to capture perception uncertainty under varying weather conditions, as well as uncertainty prediction over time. To incorporate the uncertainty prediction model into the optimization problem, the Learning Parametrized Convex Function method is used to construct a convex uncertainty model. In addition, statistical algorithms are employed to capture uncertainty models influenced by component aging and degradation. The proposed approaches are validated through comprehensive simulation studies.

Autonoma mobila system (AMS), såsom automatiserade fordon och mobila robotar, förändrar industrier och transporter genom att stödja funktioner relaterade till säkerhet, hållbarhet och energieffektivitet. Tillförlitlighet, som ett icke förhandlingsbart systemkrav, kräver säker och effektiv drift för att säkerställa användarnas förtroende och samhällets acceptans. I grunden är systemautonomi beroende av ett flertal sensorer som fungerar som AMS ögon och tillhandahåller kritiska signaler till perceptions- och beslutsfunktioner. Under verkliga operationella förhållanden kan sensorprestanda dock försämras på grund av inneboende begränsningar såsom oväntat brus, okontrollerade fysiska skador eller åldringsprocesser, samt på grund av externa operationella faktorer såsom oförutsedda väderförhållanden. Perceptionsfunktioner, vilka tar emot sådana sensorsignaler, kan generera icke-optimala utdata, inte enbart som en följd av felaktiga indata utan ¨aven till följd av den probabilistiska karaktären hos algoritmer som används för perceptionsrelaterade uppgifter, exempelvis lokalisering. Som en konsekvens introducerar sådana sårbarheter icke-determinism i ett AMS-kontrollsystem. Denna avhandling fokuserar på utvecklingen av en osäkerhetsmedveten och säker kontrollstrategi för säkerhetskritiska AMS, där osäkerheter från sensor- och perceptionskomponenter explicit beaktas. Avhandlingen strävar efter att utnyttja maskininlärning, dynamisk optimering och reglerteknik för att underlätta säker drift av AMS. Det föreslagna ramverket bygger på: (1) Model Predictive Control (MPC) för design av styrenheter; (2) Control Barrier Functions (CBF) för design av säkerhetsfilter; och (3) en osäkerhetsmodell för att hantera situationsvariationer i designen av säkerhetsrestriktioner. Bidragen i denna avhandling omfattar: (1) utvecklingen av ett simuleringsplattform för felinjektion för att generera data under olika driftsförhållanden, vilket fungerar som kärnsteg för efterföljande utveckling; (2) integreringen av multi funktionsreglering baserad på säkra driftsmått; (3) utformningen av dynamiska säkerhetsrestriktioner med hjälp av CBF enligt säkra driftskrav; (4) utvecklingen av en tillståndsövervakningstjänst för beräkningen av hälso- och riskindex och för modelleringen av perceptionsosäkerheter; och (5) integreringen av säker hetsrestriktioner som ges av osäkerhets modellerna och indexen. Detta bidrar till en vidareutveckling av säkerhetskritisk reglerdesign genom att integrera MPC CBF-metoder med inlärda osäkerhetsmodeller. För modellering av perceptionsosäkerhet under varierande operationella förhållanden används metoder baserade på Support Vector Regression och Long Short-Term Memory, vilka även möjliggör prediktion av osäkerheter över tid. För att integrera osäkerhetsprognosmodellen i optimeringsproblemet används metoden Learning Parametrized Convex Function för att konstruera en konvex osäkerhetsmodell. Statistiska algoritmer används för att fånga upp osäkerheter som påverkas av komponenternas åldrande och försämring. De föreslagna metoderna valideras genom simuleringsstudier.