Transparent but incomprehensible: Investigating the relation between transparency, explanations, and usability in automated decision-making
2022 (English)Doctoral thesis, comprehensive summary (Other academic)
Abstract [en]
Transparency is almost always seen as a desirable state of affairs. Governments should be more transparent towards their citizens, and corporations should be more transparent towards both public authorities and their customers. More transparency means more information which citizens can use to make decisions about their daily lives, and with increasing amounts of information in society, those citizens would be able to make more and more choices that align with their preferences. It is just that the story is slightly too good to be true. Instead, citizens are skeptical towards increased data collection, demand harsher transparency requirements and seem to lack both time and ability to properly engage with all the information available.
In this thesis the relation between transparency, explanations and usability is investigated within the context of automated decision-making. Aside from showing the benefits that transparency can have, it shows a wide array of different problems with transparency, and how transparency can be harder to accomplish than most assume. This thesis explores the explanations, which often make up the transparency, and their limitations, developments in automation and algorithmic decisions, as well as how society tends to regulate such things. It then applies these frameworks and investigates how human-computer interaction in general, and usability in particular, can help improve how transparency can bring the many benefits it promises.
Four papers are presented that study the topic from various perspectives. Paper I looks at how governments give guidance in achieving competitive advantages with ethical AI, while Paper II studies how insurance professionals view the benefits and limitations of transparency. Paper III and IV both study transparency in practice by use of requests for information according to GDPR. But while Paper III provides a comparative study of GDPR implementation in five countries, Paper IV instead shows and explores how transparency can fail and ponders why.
The thesis concludes by showing that while transparency does indeed have many benefits, it also has limitations. Companies and other actors need to be aware that sometimes transparency is simply not the right solution, and explanations have limitations for both automation and in humans. Transparency as a tool can reach certain goals, but good transparency requires good strategies, active choices and an awareness of what users need.
Abstract [sv]
Att något är transparent ses oftast som en önskvärd egenskap. Det offentliga ska vara transparent gentemot medborgaren, och företag ska vara transparenta mot såväl myndigheter som kunder. Mer transparens gör att mer information finns tillgängligt för medborgaren, så att hon kan göra egna och aktiva val i sitt liv, och i takt med att det finns mer och mer information i samhället så kan medborgaren också göra fler val som överensstämmer med hennes preferenser. Tyvärr är det en berättelse som är för bra för att vara sann. Oftare verkar medborgaren vara skeptisk mot ökad insamling av data, hon vill att såväl stat som företag ska bli mer transparenta och hon saknar såväl tid som färdigheter för att verkligen kunna förstå all den information som finns tillgänglig runtom henne.
I denna avhandling undersöks förhållandet mellan transparens, förklaringar och användbarhet, med ett fokus på hur dessa fenomen tar sig uttryck när det rör sig om automatiserade beslut och algoritmer. Utöver att visa vilka fördelar transparens har, visar avhandlingen en mängd problem med transparens, och hur transparens kan vara svårare att omsätta i handling än vad många antar. Den utforska förklaringar, som transparens ofta består av, och dess begränsningar, utvecklingen inom automatisering och algoritmiskt beslutsfattande, samt hur samhället tenderar att reglera sådana fenomen. Avhandlingen använder sedan dessa modeller och tankefigurer för att undersöka hur människa-datorinteraktion i allmänhet och användbarhet i synnerhet kan användas för att förbättra transparens och realisera dess utlovade fördelar.
Fyra studier presenteras som undersöker ämnet från olika perspektiv. Artikel I undersöker hur regeringar och myndigheter använder AI-strategier för att uppnå konkurrensfördelarna med etiskt hållbar AI, medan artikel II studerar hur försäkringsexperter förhåller sig till fördelarna och nackdelarna med transparens. Artiklarna III och IV undersöker båda praktiskt tillämpad transparens genom att begära ut förklaringar av automatiserade beslut, baserat på rättigheter i GDPR. Men, där artikel III jämför implementation i fem olika länder, visar artikel IV i stället hur transparens kan misslyckas och försöker förklara varför.
Avhandlingen avslutas genom att visa att även om transparens visserligen har många fördelar, så finns där också begränsningar. Företag och andra aktörer måste vara medvetna om att transparens kanske inte allt är rätt lösning, och att förklaringar också har begränsad effekt i såväl maskiner som människor. Transparens är ett verktyg som kan användas för att nå vissa mål, men god transparens kräver goda strategier, aktiva val och en medvetenhet om vad användaren vill.
Place, publisher, year, edition, pages
KTH Royal Institute of Technology, 2022. , p. 97
Series
TRITA-EECS-AVL ; 2022:44
Keywords [en]
Transparency, explanations, algorithms, automated decision-making, AI, HCI
National Category
Human Computer Interaction
Research subject
Human-computer Interaction
Identifiers
URN: urn:nbn:se:kth:diva-313825ISBN: 978-91-8040-294-1 (print)OAI: oai:DiVA.org:kth-313825DiVA, id: diva2:1667908
Public defence
2022-09-16, F3, Lindstedtsvägen 26, Stockholm, 13:30 (English)
Opponent
Supervisors
Note
QC 20220613
2022-06-132022-06-112022-10-04Bibliographically approved
List of papers