In this thesis, different parts of an automated process for radiation therapy treatment planning are investigated from a mathematical and computational perspective. Whereas traditional inverse planning is labor-intensive, often comprising several reiterations between treatment planner and physician before a plan can be approved, much of recent research have been aimed at using a data-driven approach by learning from historically delivered plans. Such an automated planning pipeline is commonly divided into a first part of predicting achievable values of dose-related quantities, and a second part of finding instructions to the treatment machine mimicking as best as possible the predicted values. Challenges associated with this type of prediction–mimicking workflow exist, however—for example, in typical applications, patient data is high-dimensional, scarce and has relatively low signal-to-noise ratio due to inter-planner variations, and significant information may be lost in the transition between prediction and mimicking.

We propose to address these challenges through better probabilistic modeling of the predictive inferences of dose-related quantities and increased accuracy of the optimization functions used for dose mimicking. In particular, starting with the disconnect between conventional planning objectives and evaluation metrics, in the first paper, we establish a framework for handling dose statistics as optimization function constituents. Subsequently, in the second and fourth papers, we present ways of predicting spatial dose and dose statistics, respectively, in a probabilistically rigorous fashion, the latter application relying on the similarity-based mixture-of-experts model developed in the third paper. As a nonparametric Bayesian regression model, equipped with a mean-field and stochastic variational inference algorithm, this mixture-of-experts model is suitable for managing complex input–output relationships and skewed or multimodal distributions. The second and fourth papers also introduce dose mimicking objectives able to leverage predictive distributions of spatial dose and dose statistics. In the fifth paper, we further build upon the probabilistic paradigm, merging the fields of multicriteria optimization and automated planning to create a semiautomatic alternative workflow in which certain manual intervention is possible. Lastly, in the sixth paper, we present a means of incorporating robustness against geometric uncertainties into an automated planning pipeline.

I denna avhandling studeras olika delar av en automatiserad process för strålterapiplanering från ett matematiskt och beräkningsmässigt perspektiv. Medan traditionell inversplanering är arbetsintensiv och ofta kräver upprepade iterationer mellan planerare och läkare, har mycket forskning på senare tid fokuserat på utvecklandet av datadrivna tillvägagångssätt baserade på inlärning från historiskt levererade planer. En sådant automatiserat arbetsflöde delas ofta upp i en första del av att först predicera uppnåeliga värden av dosrelaterade storheter och i en andra del av att bestämma de instruktioner till behandlingsmaskinen som bäst rekonstruerar de predicerade värdena. Emellertid finns utmaningar kopplade till denna typ av prediktion–rekonstruktion-flöde – exempelvis är patientdata i typiska tillämpningar högdimensionell, sällsynt och har relativt lågt signal--brus-förhållande, och väsentlig information kan gå förlorad i övergången mellan prediktion och rekonstruktion.

Vi föreslår att hantera dessa utmaningar genom förbättrade probabilistiska prediktionsmodeller för dosrelaterade storheter och ökad noggrannhet hos de optimeringsfunktioner som används vid dosrekonstruktion. Med utgång i diskrepansen mellan konventionella planeringsmålfunktioner och evalueringsmått etablerar vi i den första artikeln ett ramverk för att hantera dosstatistikor som beståndsdelar i optimeringsfunktioner. Vi presenterar sedan i den andra och den fjärde artikeln sätt att predicera spatial dos respektive dosstatistikor på ett probabilistiskt rigoröst sätt, varav det senare genom den likhetsbaserade mixture-of-experts-modell som utvecklas i den tredje artikeln. Som en ickeparametrisk bayesiansk regressionsmodell, försedd med tillhörande medelfälts- och stokastisk variationsinferensalgoritm, är denna mixture-of-experts-modell väl lämpad för att hantera komplexa indata–utdata-relationer och skeva eller multimodala fördelningar. Den andra och den fjärde artikeln introducerar också dosrekonstruktionsmålfunktioner som kan dra nytta av prediktiva fördelningar av spatial dos och dosstatistikor. I den femte artikeln bygger vi vidare på den probabilistiska paradigmen och förenar flermålsoptimering med automatisk planering för att skapa ett semiautomatiskt alternativt arbetsflöde, där viss manuell interaktion är möjlig. Slutligen presenterar vi i den sjätte artikeln ett sätt att ta hänsyn till robusthet med avseende på geometriska osäkerheter i ett automatiskt planeringsflöde.