kth.sePublications
Change search
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf
Throughput Analysis of Safepoint-attached Barriers in a Low-latency Garbage Collector: Analysis of a Compiler Optimization in the HotSpot JVM
KTH, School of Electrical Engineering and Computer Science (EECS).
2023 (English)Independent thesis Advanced level (degree of Master (Two Years)), 20 credits / 30 HE creditsStudent thesisAlternative title
Hastighetsanalys av säkerhetspunkt-fästa barriärer i en skräpsammlare med låg latens : Analys av en kompilatoroptimering i HotSpot JVM (Swedish)
Abstract [en]

When using managed programming languages, there is an essential benefit in having a fast and efficient compiler and garbage collector; one garbage collector currently under development is the HotSpot low-latency concurrent Generational Z Garbage Collector. Concurrent memory management runs application threads and garbage collection threads simultaneously. This might result in pointers referencing the wrong memory field as the application and the garbage collector rearrange the heap at the same time. To address this problem, the Generational Z Garbage Collector uses barriers for each store and load operation that check, and if necessary restore pointer integrity. However, these barriers introduce an overhead, but are ideally only needed if the heap has been rearranged. Therefore, an optimization called safepoint-attached barriers has been suggested to reduce the number of barriers by removing barriers from pointers whose integrity can be assured. However, preliminary evaluation of the safepoint-attached barriers optimization has, contrary to expectation, not shown any significant improvement in throughput. This thesis conducts a thorough analysis of the safepoint-attached barriers optimization, with a focus on throughput. In addition, it suggests improvements to the optimization based on the result of the analysis. The analysis is conducted with industry-standard benchmarks, microbenchmarks, instrumentation, and source-code analysis. This study concludes that safepoint-attached barriers produces a small throughput benefit for the generational Z garbage collector, with a further increase in throughput limited by the optimization’s ability to remove barriers. This limitation depends on the compiler’s inline limit, the Java language’s use of virtual methods, and limited barrier elision inside standard loops. These limitations result in few barriers removed in repeated code segments. To address these issues, preliminary experiments on extended and improved inlining were performed, suggesting that improvements to safepoint-attached barriers could make the optimization more viable.

Abstract [sv]

Hanterade programeringspråk har en väsentlig fördel om de använder sig av en snabb och effektiv kompilator och skräpsamlare. En skräpsamlare under utveckling är HotSpots låg latens-samverkande generationella Z-skräpsamlare. Samverkande minneshantering kör både applikationstrådar samt skräpsamlartrådar samtidigt. Dock kan detta resultera i att objekt-pekare pekar på fel minnesfält då både applikationen och skräpsamlaren arrangerar om heapen samtidigt. För att lösa detta problem använder generationella Z-skräpsamlaren barriärer som för varje läs- och ladd-operation kontrollerar och vid behov återställer pekarens integritet. Dock medför dessa barriärer en overhead, men de behövs i teorin endast om heapen har arrangeras om. Därför har en optimering kallad säkerhetspunkts-fästa barriärer föreslagits för att minska antalet barriärer genom att ta bort dem från pekare med säkerhetsställd integritet. Dock har den preliminära utvärderingen av säkerhetspunkts-fästa barriär inte visat någon betydande förbättring i genomströmning. Det här examensarbetet har genomfört en mer grundlig analys av säkerhetsfästa barriärer med fokus på genomströmning. Dessutom föreslås förbättringar av denna optimering med hjälp av den utförda analysens resultat. Denna analys genomförs med benchmarks av industristandard, microbenchmarks, instrumentering och källkodsanalys. Denna studie drar slutsattsen att säkerhetsfästa barriärer ger en liten ökning av genomströmning för den generationella Z-skräpsamlaren. Det som begränsar ytterligare genomströmning är säkerhetspunkts-fästa barriäres förmåga att ta bort barriärer. Detta beror på kompilatorns inline-gräns, Java språkets användning av virtuella metoder samt en begränsning i vanligt använda programslingor. Dessa begränsningar resulterar i endast ett fåtal barriärer borttagna i upprepade kodsegment. För att föreslå förbättringar till dessa begränsningar utfördes preliminära experiment på utökad samt förbättrad inlining. Dessa experiment indikerar att de föreslagna förbättringarna av säkerhets-fästa barriärer skulle kunna göra denna optimering mer lönsam.

Place, publisher, year, edition, pages
2023. , p. 94
Series
TRITA-EECS-EX ; 2023:28
Keywords [en]
Garbage Collection, Compiler, Java, JVM, Concurrency, Benchmarking
Keywords [sv]
Skräpsamlare, Kompilatorer, Java, JVM, Multitrådat, Benchmarking
National Category
Computer and Information Sciences
Identifiers
URN: urn:nbn:se:kth:diva-324037OAI: oai:DiVA.org:kth-324037DiVA, id: diva2:1737851
External cooperation
Oracle Corporation
Supervisors
Examiners
Available from: 2023-02-25 Created: 2023-02-18 Last updated: 2023-02-25Bibliographically approved

Open Access in DiVA

fulltext(1207 kB)263 downloads
File information
File name FULLTEXT01.pdfFile size 1207 kBChecksum SHA-512
630c331c4f0dd57ac2bab672c7662b643a728602e9cb89c0dfe0ad35c13f6001c2b8d2035aa0007c7f34d471817370e010f8d82ef4e5292c2511deeef55e5f1f
Type fulltextMimetype application/pdf

By organisation
School of Electrical Engineering and Computer Science (EECS)
Computer and Information Sciences

Search outside of DiVA

GoogleGoogle Scholar
Total: 263 downloads
The number of downloads is the sum of all downloads of full texts. It may include eg previous versions that are now no longer available

urn-nbn

Altmetric score

urn-nbn
Total: 603 hits
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf