Critical robotic systems are systems whose functioning is critical to both ensuring the accomplishment of a given mission and preventing the endangerment of life and the surrounding environment. These critical aspects can be formally captured by convergence, in the sense that the system's state goes to a desired region of the statespace, and safety, in the sense that the system's state avoids unsafe regions of the statespace. Data-driven control policies, found through e.g. imitation learning or reinforcement learning, can outperform model-based methods in achieving convergence and safety efficiently; however, they often only do so by encouraging them, thus, they can be difficult to trust. Model-based control policies, on the other hand, are often well-suited to admitting formal guarantees of convergence and safety, thus they are often easier to trust. The main question asked in this thesis is: how can we compose data-driven and model-based control policies together to encourage efficiency while, at the same time, formally guaranteeing convergence and safety?

We answer this question with behaviour trees, a framework to represent hybrid control systems in a modular way. We present the first formal definition of behaviour trees as a hybrid system and present the conditions under which the execution of any behaviour tree as a hybrid control system will formally guarantee convergence and safety. Moreover, we present the conditions under which such formal guarantees can be maintained when including unguaranteed data-driven control policies, such as those coming from imitation learning or reinforcement learning. We also present an approach to synthesise such data-driven control policies in such a way that they encourage convergence and safety by adapting to unforeseen events. Alongside the above, we also explore an ancillary aspect of robot autonomy by improving the efficiency of simultaneous localisation and mapping through imitation learning. Lastly, we validate the advantages of behaviour trees' modularity in a real-world autonomous underwater vehicle's control system, and argue that this modularity contributes to efficiency, in terms of ease of use, and trust, in terms of facilitating human understanding.

Kritiska robotsystem är system vars funktion antingen är kritiska för slutförandet av en uppgift, eller kritiska på så sätt att ett misstag allvarligt kan skada människor eller miljö. Dessa kritiska aspekter fångas formellt av konvergens, i den meningen att systemets tillstånd går till en önskad region av tillståndsrummet, och säkerhet, i den meningen att systemets tillstånd undviker osäkra regioner i tillståndsrummet. Datadrivnakontrollpolicyer, hittade genom t.ex. imitationsinlärning eller förstärkningsinlärning, kan överträffa modellbaserade metoder för att effektivt uppnå konvergens och säkerhet; men de gör det ofta bara genom att öka möjligheterna för ett effektivt och säkert uppträdande, utan att ge några garantier, därför kan de vara svåra att lita på. Modellbaserade kontrollpolicyer, å andra sidan, är ofta väl lämpade för att möjliggöra formella garantier vad gäller konvergens och säkerhet, så de är ofta lättare att lita på. Huvudfrågan som ställs i denna avhandling är: hur kan vi kombinera datadrivna och modellbaserade styrpolicyer för att förbättra effektivitet samtidigt som vi formellt garanterar konvergens och säkerhet?

Vi besvarar denna fråga med Beteendeträd, ett ramverk för att representera hybridstyrsystem på ett modulärt sätt. Vi presenterar den första formella definitionen av beteendeträd som ett hybridsystem och presenterar villkoren under vilka exekveringen av ett beteendeträd som ett hybridkontrollsystem formellt kommer att garantera konvergens och säkerhet. Dessutom presenterar vi villkoren under vilka sådana formella garantier kan upprätthållas när man inkluderar overifierade datadrivna kontrollpolicyer, till exempel de som kommer från imitationsinlärning eller förstärkningsinlärning. Vi presenterar också ett tillvägagångssätt för att syntetisera sådana datadrivna kontrollpolicyer på ett sådant sätt att de stöttar konvergens och säkerhet genom att anpassa sig till oförutsedda händelser. Vid sidan av ovanstående utforskar vi också en viktig delfunktion inom robotautonomi genom att förbättra effektiviteten av samtidig lokalisering och kartläggning genom imitationsinlärning. Slutligen validerar vi fördelarna med behaviour trees modularitet i ett verkligt autonomt undervattensfordons kontrollsystem, och ser att denna modularitet bidrar till effektivitet, i termer av användarvänlighet och förtroende, när det gäller att underlätta mänsklig förståelse.