The Impact of Differential Privacy on Length-of-Stay Prediction
2021 (English)Independent thesis Basic level (degree of Bachelor), 10 credits / 15 HE credits
Student thesisAlternative title
Påverkan av differential privacy på förutsägelse av vistelsetidslängd i sjukhus (Swedish)
Abstract [en]
As protection of individual privacy continues to come to the forefront of modern discussions regarding data collection and dissemination, more researchers are looking into methods of rigorously protecting both individuals while still collecting valuable data. Differential privacy has become one of the leading methods to measure privacy infringement, and various differentially private mechanisms have been developed to provide privacy guarantees in the framework developed by Dwork [1]. In this paper we investigate the impact of one such mechanism, the Laplace mechanism, on the performance of models trained on the medical dataset MIMIC-III [2]. The intention is to ascertain if a medical institution can, with a differentially private mechanism, publish a data set which is functionally the same as an unaltered medical database but that guarantees the privacy of the original medical records (a synthetic data set). We find that the Laplace mechanism on its own is not sufficient to provide acceptable privacy guarantees while also allowing the training of useful models on the data. This is in line with prior estimates of the performance of the Laplace mechanism [3, p.67]. However, these results provide more concrete evidence that more advanced deferentially private mechanisms are necessary for the data publishing use case described in our paper.
Abstract [sv]
Eftersom skyddet av individuell integritet fortsätter att ligga i framkant av samtida diskussioner om datainsamling och spridning, undersöker fler forskare metoder för att noggrant skydda individer och samtidigt samla värdefull information. Differential privacy, eller differential integritet om översatt, har blivit en av de ledande metoderna för att mäta integritetsintrång. Olika differential privacy-mekanismer har utvecklats för att tillhandahålla integritetsgarantier inom ramen som utvecklats av Dwork [1]. I det här dokumentet undersöker vi effekterna av en sådan mekanism, Laplace mekanismen, på prestanda för modeller som tränats i den medicinska datauppsättningen MIMIC-III [2]. Avsikten är att fastställa om en medicinsk institution med en differential privacy-mekanism kan publicera en datamängd som funktionellt är densamma som en fullständig medicinsk databas, men som garanterar integriteten för de ursprungliga medicinska journalerna (en syntetisk datamängd). Vi finner att Laplace-mekanismen inte är tillräcklig för att kunna tillhandahålla godtagbara integritetsgarantier och samtidigt tillåta träning av användbara modeller på data. Detta är i linje med tidigare uppskattningar av prestanda för Laplacemekanismen [3, s.67]. Dock visade dessa resultat att mer avancerade mekanismer är nödvändiga om användbar data ska kunna publiceras så som beskrivits i vårt dokument.
Place, publisher, year, edition, pages
2021. , p. 32
Series
TRITA-EECS-EX ; 2021:497
National Category
Computer Sciences
Identifiers
URN: urn:nbn:se:kth:diva-302720OAI: oai:DiVA.org:kth-302720DiVA, id: diva2:1599067
Subject / course
Computer Science
Educational program
Master of Science in Engineering - Computer Science and Technology
Supervisors
Examiners
2021-10-012021-09-302022-06-25Bibliographically approved