Artificial intelligence (AI) offers significant potential to enhance the accuracy and efficiency of medical diagnosis, monitoring, and treatment. In ovarian cancer, where 70% of cases are detected only at stage III or IV, AI-driven tools could enable earlier detection and improve patient outcomes.However, the safety-critical nature of medicine— where even minor errors can have serious consequences—has led to cautious adoption of AI technologies.To integrate AI  into clinical practice, it must not only demonstrate good performance, but also robustness and generalizability across diverse clinical settings.

This thesis investigates the development and evaluation of generalizable and robust AI systems, with a focus on medical image analysis. We begin by addressing key gaps in our understanding of how complexity influences generalization, exploring scaling laws across increasingly complex tasks and analyzing how the performance of foundation models is impacted. Foundation models are becoming vital for AI development in medical imaging, particularly in addressing data scarcity challenges. Adapting these models for medical applications often demands substantial computational resources, particularly due to their large size. To mitigate these computational demands, we propose an efficient method for adapting the robust representations of large foundation models trained on diverse datasets to specific medical tasks, aiming to make foundation models more accessible for medical use without compromising their effectiveness.

Using ovarian cancer as a case study, we develop and rigorously evaluate AI systems for ovarian tumor classification.Our systems demonstrate superior performance compared to both non-expert and expert doctors, with a strong emphasis on ensuring accuracy, generalizability across hospitals, and robustness across diverse patient subgroups.We implement a comprehensive evaluation strategy that tests the AI systems in varied clinical settings, ensuring that they maintain high performance.

Finally, we explore the integration of AI systems into clinical workflows, with a focus on the development of joint human-AI systems. By designing AI systems that collaborate effectively with healthcare professionals, we aim to enhance diagnostic accuracy, reduce doctors' workloads, and optimize the use of healthcare resources. Our collaborative human-AI system is designed to be generalizable across different clinical settings to improve patient care and advance the broader adoption of AI in medical practice, paving the way for more efficient and effective healthcare solutions.

Artificiell intelligens (AI) har stor potential att förbättra träffsäkerheten och effektiviteten inom medicinsk diagnostik, uppföljning och behandling. Inom äggstockscancer, där 70% av fallen upptäcks först i stadium III eller IV, kan AI-drivna verktyg möjliggöra tidigare upptäckt och förbättra patienternas utfall. Men den säkerhetskritiska karaktären av medicin—där även mindre fel kan få allvarliga konsekvenser—har lett till en försiktig användning av AI-teknologier. För att AI ska kunna integreras i klinisk praxis är god prestanda ej tillräckligt, utan den måste även uppvisa robusthet och generaliserbarhet till olika kliniska miljöer.

Denna avhandling undersöker utvecklingen och utvärderingen av generaliserbara och robusta AI-system, med fokus på medicinsk bildanalys. Vi börjar med att adressera viktiga luckor i vår förståelse av hur komplexitet påverkar generalisering, genom att utforska skalningslagar över allt mer komplexa uppgifter och analysera hur prestandan hos grundmodeller påverkas. Grundmodeller blir allt viktigare för AI-utveckling inom medicinsk bildbehandling, särskilt vad det gäller att hantera utmaningar med otillräckliga datamängder. Att anpassa dessa modeller för medicinska tillämpningar kräver ofta betydande beräkningsresurser, särskilt på grund av deras stora storlek. För att minska dessa krav föreslår vi en effektiv metod för att anpassa de robusta representationerna av stora grundmodeller som tränats på mångsidiga dataset till specifika medicinska uppgifter, med målet att göra grundmodeller mer tillgängliga för medicinsk användning utan att kompromissa med deras effektivitet.

Med äggstockscancer som ett fallstudie utvecklar och utvärderar vi AI-system för klassificering av äggstockstumörer. Våra system visar överlägsen prestanda jämfört med både icke-experter och expertläkare, och visar på god träffsäkerhet, generaliserbarhet över sjukhus och robusthet över olika patientgrupper. Vi implementerar en omfattande utvärderingsstrategi som testar AI-systemen i olika kliniska miljöer och säkerställer att de bibehåller hög prestanda.

Slutligen undersöker vi integrationen av AI-system i kliniska arbetsflöden, med fokus på utvecklingen av system där människa och AI samverkar. Genom att designa AI-system som samarbetar effektivt med vårdpersonal strävar vi efter att förbättra diagnostisk träffsäkerhet, minska läkarnas arbetsbelastning samt optimera användningen av vårdresurser. Vårt samverkanssystem mellan människa och AI är utformat för att vara generaliserbart över olika kliniska miljöer för att förbättra patientvården och främja en bredare användning av AI inom medicinsk praxis, vilket banar väg för mer effektiva och ändamålsenliga vårdlösningar.