kth.sePublications
Change search
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf
Exploring Gesture Communication in Virtual Environments: A Comparative Evaluation of VR and 2D Settings
KTH, School of Electrical Engineering and Computer Science (EECS).
2024 (English)Independent thesis Advanced level (degree of Master (Two Years)), 20 credits / 30 HE creditsStudent thesisAlternative title
Kommunikation via Gester i Virtuella Miljöer : En Jämförande Utvärdering av VR och 2D-miljöer (Swedish)
Abstract [en]

Gestures play a crucial role in human communication, enhancing interpersonal interactions through non-verbal expression. Burgeoning technology is allowing virtual avatars to leverage communicative gestures to enhance their life-likeness and communication quality with AI-generated gestures. Traditionally, evaluations of AI-generated gestures have been confined to 2D settings. However, Virtual Reality (VR) offers an immersive alternative with the potential to affect the perception of virtual gestures. This paper introduces a novel evaluation approach of computer generated gestures, investigating the impact of a fully immersive environment in comparison to a traditional 2D setting. The goal is to find the differences, benefits and drawbacks of the two alternatives. Furthermore, the study also aims to investigate three gesture generation algorithms submitted to the 2023 Genea Challenge and evaluate their performance in the two virtual settings. Experiments showed that the VR setting has an impact on the rating of generated gestures. Participants tended to rate gestures observed in VR slightly higher on average than in 2D. Furthermore, the results of the study showed that the generation models used for the study had a consistent ranking. However, the setting had limited impact on the models’ performance, having a bigger impact on the perception of ’true movement’ which had higher ratings in VR than in 2D. The findings of this research are significant for advancing the understanding of gestural capabilities in ECAs within immersive environments and provide practical insights into the differences between immersive and non-immersive settings. As VR and AI-powered conversational agents become more integrated into daily life, this study contributes valuable knowledge that could inform the development of more immersive and effective communication agents, shaping the future of human-computer and humanrobot interactions.

Abstract [sv]

Gester spelar en stor roll i interpersonella interaktioner genom icke-verbala uttryck av känslor och tankar. Gester kan förmedla en mängd olika signaler, från tydliga avsikter till tvetydiga gester som återspeglar undermedvetna tankar eller känslor. Ny teknik gör det möjligt för virtuella avatarer att utnyttja AI-genererade kommunikativa gester för att förbättra deras mänsklighet och kommunikationskvalitet. Traditionellt sett har utvärderingar av AI-genererade gester varit begränsade till 2D-miljöer. Dock erbjuder virtual reality (VR) en ny, immersiv plattform som har potentialen att påverka uppfattningen och tolkningen av genererade gester. Denna uppsats ämnar undersöka hur olika miljöer kan påverka uppfattningen och tolkningen av gester genom att jämföra effektiviteten av kommunikation via gester i VR mot traditionella 2D-miljöer. Genom en jämförande utvärdering som involverar både monadiska och dyadiska scenarier syftar denna studie till att avgöra om VR främjar en mer autentisk och nyanserad uppfattning av gester, vilket därmed förbättrar den övergripande kommunikationsupplevelsen. Resultaten från experimenten visade att VR-miljön hade en uppriktig påverkan på uppfattningen av genererade gester positivt, vilket resulterade i att observatörerna i snitt gav högre betyg i VR än i 2D. Dessutom visade resultaten att de genereringsmodeller som användes för studien hade en konsekvent rangordning över alla scenarier och miljöer. Miljön hade dock begränsad inverkan på modellerna själva, men en större inverkan på uppfattningen av ”riktig rörelse” (GT-systemet), som var lättare att upptäcka i VR än i 2D. Uppsatsens slutsatser är viktiga för att främja förståelsen av virtuella avatarers kapacitet att gestikulera i immersiva miljöer och ger praktiska insikter i skillnaderna mellan immersiva och icke-immersiva miljöer. I och med att VR-teknologi och AI-drivna konversationsagenter blir alltmer integrerade i vardagen kan denna studie förhoppningsvis bidra med värdefull kunskap som kan informera utvecklingen av mer immersiva och effektiva kommunikationsagenter, vilket har möjligheten att forma framtidens människadator och människa-robot interaktioner.

Place, publisher, year, edition, pages
2024. , p. 50
Series
TRITA-EECS-EX ; 2024:566
Keywords [en]
Virtual Reality, Gesture Generation, Embodied Conversational Agents, Evaluation Paradigms, Monadic Interaction, Dyadic Interaction, Interlocutor Awareness, Comparative Evaluation, Machine Learning
Keywords [sv]
Virtual Reality, Gestgenerering, Förkroppsligade konversationsagenter, Utvärderingsparadigm, Monadisk interaktion, Dyadisk interaktion, Medvetenhet om samtalspartner, Jämförande utvärdering, Maskininlärning
National Category
Computer and Information Sciences
Identifiers
URN: urn:nbn:se:kth:diva-359694OAI: oai:DiVA.org:kth-359694DiVA, id: diva2:1935826
External cooperation
Sveriges Radio
Supervisors
Examiners
Available from: 2025-02-10 Created: 2025-02-07 Last updated: 2025-02-10Bibliographically approved

Open Access in DiVA

fulltext(12598 kB)65 downloads
File information
File name FULLTEXT01.pdfFile size 12598 kBChecksum SHA-512
b8f9366797b606e66ddef57b2aa6ea5d404944824cc128b58e3b989a9264f89af98ef62394e6509025b9f2ee14d3aaf707dda3017a80a07c5a030708005d08ac
Type fulltextMimetype application/pdf

By organisation
School of Electrical Engineering and Computer Science (EECS)
Computer and Information Sciences

Search outside of DiVA

GoogleGoogle Scholar
Total: 65 downloads
The number of downloads is the sum of all downloads of full texts. It may include eg previous versions that are now no longer available

urn-nbn

Altmetric score

urn-nbn
Total: 1016 hits
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf