Unmanned aerial vehicles (UAVs) are increasingly used in civilian and military domains, raising concerns regarding security, privacy, and airspace safety. Reliable detection and recognition of UAVs are therefore critical. Among various sensing modalities, machine learning with radio frequency (RF) signals oers a low-cost and robust solution, capable of operating eectively even under adverse environmental conditions. However, most existing RF-based recognition systems assume a closed-set scenario, where all UAV types are known during training. This assumption is unrealistic in practice, as novel and unknown UAVs frequently emerge. As a result, conventional classifiers suer from overconfident misclassifications, retraining from scratch is inecient, and incremental learning approaches face catastrophic forgetting when adapting to new classes. This thesis proposes a unified framework that addresses these challenges by combining open-set recognition, clustering-based novel class discovery, and incremental learning with memory replay. First, a signal-semantic open-set recognition method separates unknown RF signals from known classes. Next, novel UAV categories are discovered through clustering with automatic cluster number selection using K-Means and Gaussian Mixture Models (GMM), supported by loss functions that enforce intra-class compactness and inter- class separability. Finally, an incremental learning module incorporates these new categories into the model while mitigating catastrophic forgetting via a replay strategy with minimal storage overhead. The framework is validated on a real-world dataset comprising 18 known UAV classes and 6 unknown classes. Experiments demonstrate that the proposed approach achieves clear separation of unknown classes in semantic space, robust cluster validity under noisy conditions, and eective incremental learning with minimal sample replay. Overall, the results establish the framework as a practical and scalable solution for RF-based UAV recognition in dynamic and open-world environments.

Obemannade luftfarkoster (UAV) används i allt större utsträckning inom civila och militära områden, vilket väcker oro kring säkerhet, integritet och luftrumssäkerhet. Tillförlitlig detektering och igenkänning av UAV:er är därför avgörande. Bland olika sensormodaliteter erbjuder maskininlärning med radiofrekvenssignaler (RF) en lågkostnads- och robust lösning som kan fungera eektivt även under ogynnsamma miljöförhållanden. De flesta befintliga RF-baserade igenkänningssystem antar dock ett slutet scenario, där alla UAV-typer är kända under träning. Detta antagande är orealistiskt i praktiken, eftersom nya och okända UAV:er ofta dyker upp. Som ett resultat lider konventionella klassificerare av överdrivna felklassificeringar, omskolning från grunden är ineektivt och stegvisa inlärningsmetoder möter katastrofala glömskande när de anpassar sig till nya klasser. Denna avhandling föreslår ett enhetligt ramverk som hanterar dessa utmaningar genom att kombinera öppen uppsättning igenkänning, klusterbaserad upptäckt av nya klasser och stegvis inlärning med minnesåterspelning. Först separerar en signalsemantisk öppen uppsättning igenkänningsmetod okända RF-signaler från kända klasser. Därefter upptäcks nya UAV-kategorier genom klusterbildning med automatiskt klusternummerval med hjälp av K-Means och Gaussian Mixture Models (GMM), med stöd av förlustfunktioner som framtvingar kompakthet inom klasser och separerbarhet mellan klasser. Slutligen införlivar en inkrementell inlärningsmodul dessa nya kategorier i modellen samtidigt som katastrofal glömska minskas via en återuppspelningsstrategi med minimal lagringsoverhead. Ramverket valideras på en verklig datauppsättning bestående av 18 kända UAV-klasser och 6 okända klasser. Experiment visar att den föreslagna metoden uppnår tydlig separation av okända klasser i semantiskt rum, robust klustervaliditet under bullriga förhållanden och eektiv inkrementell inlärning med minimal återuppspelning av prover. Sammantaget etablerar resultaten ramverket som en praktisk och skalbar lösning för RF-baserad UAV- igenkänning i dynamiska och öppna miljöer.