Vessel formation from pre-existing vascular networks, known as angiogenesis, is a vital physiological process only intended to occur during controlled growth and healing. It can however be initiated by tumors to during cancer progression through the ”angiogenic switch”. Understanding angiogenesis is crucial when developing targeted therapies that aim at inhibiting tumor vascularization. Zebrafish embryos are excellent models for studying angiogenesis due to their phenotypical relevance to humans, transparency, and survivability without a functioning vascular system. Imaging approaches that capture fluorescent expression in zebrafish vessels are used to study angiogenesis in vivo, but the uneven intensity distributions, image quality variations, and indistinguishable vessel boundaries make traditional image processing techniques challenging. These image analysis challenges have introduced a demand for more automatic segmentation and quantification approaches when studying the effects of targeted therapies on vessel patterning during angiogenesis. This degree project focuses on the segmentation and quantification of intersegmental vessels (ISVs) in transgenic zebrafish embryos using deep learning and morphological operations. Ground truth masks were generated for the segmentation task by tracing the relevant vessels in one of the three available batches of images. These were used to train, validate, and test the performance of a U-Net model against a fine-tuned MedSAM model. The resulting evaluation metrics showed that the U-Net model outperformed the f ine-tuned MedSAM model, leading to its selection for the quantification task. Vessel metrics of the ISVs were produced by applying morphological operations on the generated segmentations of the remaining two batches of images. Analysis of variance (ANOVA) tests showed significant differences between treatment groups across multiple vessel metrics. The results suggest that disparities in anti-angiogenesis efficacy can be detected among the investigated treatment groups, but the degree of effectiveness cannot be determined.

Bildandet av nya blodkärl från befintliga kärlnätverk, angiogenes, är en viktig fysiologisk process som normalt endast sker under reglerad tillväxt och läkning. Denna process kan dock initieras av tumörer under cancerutveckling genom att orsaka en inbalans av pro-, och anti-angiogenes faktorer som styr regleringen. Ett fenomen som kallas ”the angiogenic switch” på engelska. Att förstå angiogenesregleringen har varit avgörande vid utvecklingen av målinriktade terapier som syftar till att hämma tumörens vaskularisering. Zebrafiskembryon är utmärkta modeller för att studera angiogenes tack vare deras fenotypiska likheter med människor, transparens och överlevnadsförmåga utan ett fungerande kärlsystem. Pågående angiogenes kan studeras i levande varelser genom att avbilda fluorescens som uttrycks i zebrafiskens kärl men bildanalysen försvåras av ojämnheter i uttryck av fluorescensintensitet, variationer i bildkvalitet och otydliga kärlgränser. Dessa utmaningar medför att användandet av traditionella bildbehandlingstekniker inte går att tillämpa under analyseringsprocessen. Det har introducerat ett behov av mer automatiserade segmenterings-, och kvantifieringsmetoder vid utvärderingen av angiogeneshämande egenskaperna hos målinriktade terapier. Detta projekt fokuserar på hur djupinlärning och morfologiska operationer kan användas för segmentering respektive kvantifiering av intersegmentala kärl (ISVs) i transgena zebrafiskembryon. I detta projekt användes zebrafiskbilder från tre befruktningskullar. För ena kullen, skapades kärlmasker för bilderna till segmenteringsuppgiften. Detta dataset användes för att träna, validera och testa prestandan av en U-Net-modell jämfört med en modifierad MedSAM-modell. Utvärderingen av modellerna visade en högre prestanda hos U-Net-modellen och den valdes därav till kvantifieringsuppgiften. Kärlmasker producerades av U-Net modellen för bilderna i de två återstående f iskkullarna. Utifrån dessa masker kunde kärlmått utvinnas genom att applicera morfologiska operationer. Variansanalyser (ANOVA) visade signifikanta skillnader mellan behandlingsgrupperna bland flera kärlmått. Resultaten antyder att olikheter i behandlingarnas angiogeneshämande effekter finns men verkningsgraden går inte att fastställa.