This project deals with the problem of developing a market-entry credit risk model to predict the probability-of-default for borrowers in a new, unobserved, market. We propose a strategy to employ the framework of transfer learning, and in particular techniques within the sub-field known as domain adaptation, to train a classifier on labeled data from established markets and transferring this knowledge to make informed predictions in the unobserved market. The goal is to investigate whether such a method can reach performance similar to credit risk models which are tailored to a specific market (i.e., training and prediction is performed on data from the same market). The method is primarily based on a technique called adversarial validation which is a systematic way to estimate the the distributional divergence between two data sets. This is also the core component of a proposed feature selection method given the name adversarial sequential backward selection (ASBS) which can be applied instead of classical sequential backward selection when labeled data in the domain of interest is not available. By using catBoost as a base classifier, bootstrapping the training data and employing ASBS, we were able to rank features based on how similar they are in the two domains as well as their predictive ability. The results shows that feature selection based on this approach can help to improve the performance of the market-entry model to some extent but performance similar to the market-tailored models was not seen. We were also able to estimate the distance between any two datasets (i.e., markets) without requiring any labeled data.

Detta projekt undersöker hur man kan utveckla en kreditriskmodell för prediktering av "probability of default" (PD) för låntagare i en ny, oobserverad, marknad. Vi presenterar en strategi där vi använder oss av ett "transfer learning"-ramverk och i synnerhet tekniker från delområdet "domain adaptation". Detta möjliggör träning av en klassificerare på märkt data från etablerade marknader som sedan använder denna kunskap för att göra informerade predikteringar i den oobserverade marknaden. Huvudmålet är att undersöka om en sådan modell kan uppnå jämförbar prestanda med kreditriskmodeller som är anpassade efter en och samma marknad, dvs träning och prediktering sker på data från samma fördelning. Metoden vi använder oss av är primärt baserad på en teknik som heter "adversarial validation" vilket är ett systematiskt sätt att estimera divergensen i fördelningen mellan två datamängder. Detta är också huvudkomponenten i vår föreslagna metod med namnet "adversarial sequential backward selection" (ASBS) som kan appliceras istället för klassisk "sequential backward selection" när märkt data inte är tillgänglig i den aktuella domänen. Genom att använda en klassificeringsmetod vid namn "catBoost", dragning med återläggning från träningsmängden och tillämpa ASBS, lyckas vi rangordna alla "features", trots avsaknaden av märkt data, baserat på hur varje feature påverkar skillnaden i fördelning mellan två marknader samt deras prediktiva förmåga. Resultaten indikerar att en "feature selection" baserat på denna metod kan förbättra prestandan av modellen till en viss grad, men vi uppnår inte samma prestanda som kreditriskmodeller som är anpassade för en och samma marknad. Vi lyckas även estimera avståndet mellan två godtyckliga marknader, utan tillgång till märkt data.