Decision-making and prediction using tabular data often rely on machine learning models, particularly Gradient Boosting Decision Trees (GBDTs) or Deep Neural Networks (DNNs). This study compares variants and combinations of these two approaches, focusing mainly on their predictive performance, interpretability, and computational efficiency. A financial lending dataset is used, where the target variable is the probability of default. Our results showed that GBDTs consistently outperformed DNNs in terms of ROC-AUC and AUPRC scores, while ensemble models that combined GBDTs and DNNs demonstrated marginal performance improvements. Additionally, GBDTs proved to be more computationally efficient, requiring less training and prediction time and having smaller model sizes. These findings align with current literature, confirming the superior performance of GBDTs on tabular data. We also explored the interpretability of the models and found that both GBDTs and DNNs provided comparable levels of interpretability. Possible future work includes expanding the analysis to multiple datasets from various domains and exploring more advanced DNN architectures and ensembling techniques.

För att ta beslut och göra förutsägelser med hjälp av tabulär data används ofta maskininlärningsmodeller, mer specifikt används ofta Gradient Boosting Decision Trees (GBDTs) eller Deep Neural Networks (DNNs). Denna studie jämför varianter och kombinationer av dessa två typer av modeller, med fokus huvudsakligen på deras prediktiva prestanda, tolkningsbarhet och beräkningsmässiga effektivitet. En finansiell datamängd används, där målvariabeln är sannolikheten för utebliven återbetalning av ett lån. Våra resultat visade att GBDTs konsekvent överträffade DNNs när det gäller ROC-AUC- och AUPRC-poäng, medan ensemblemodeller som kombinerade GBDTs och DNNs visade marginella prestandaförbättringar. Dessutom visade sig GBDTs vara mer beräkningsmässigt effektiva, krävde mindre träning och förutsägningstid samt hade mindre modellstorlekar. Dessa fynd överensstämmer med nuvarande litteratur och bekräftar GBDTs dominans över DNNs på tabulär data. Gällande tolkningsbarhet fann vi att de båda typerna var på jämförbara nivåer. Möjligt framtida arbete inkluderar att utvidga analysen till flera datamängder från olika domäner och att utforska mer avancerade DNN-arkitekturer och ensembletekniker.