kth.sePublications KTH
Change search
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf
Study of different steering feedback models influence during remote driving
KTH, School of Engineering Sciences (SCI), Engineering Mechanics, Vehicle Engineering and Solid Mechanics, Väg- och spårfordon samt konceptuell fordonsdesign. KTH, School of Industrial Engineering and Management (ITM), Centres, Integrated Transport Research Lab, ITRL. (Fordonsdynamik)ORCID iD: 0000-0001-6695-848X
KTH, School of Engineering Sciences (SCI), Engineering Mechanics, Vehicle Engineering and Solid Mechanics, Väg- och spårfordon samt konceptuell fordonsdesign. KTH, School of Industrial Engineering and Management (ITM), Centres, Integrated Transport Research Lab, ITRL. (Fordonsdynamik)ORCID iD: 0000-0002-2265-9004
KTH, School of Engineering Sciences (SCI), Aeronautical and Vehicle Engineering, Vehicle Dynamics. (Fordonsdynamik)ORCID iD: 0000-0001-8928-0368
KTH, School of Industrial Engineering and Management (ITM), Centres, Integrated Transport Research Lab, ITRL. KTH, School of Electrical Engineering and Computer Science (EECS), Intelligent systems, Decision and Control Systems (Automatic Control).ORCID iD: 0000-0002-3672-5316
Show others and affiliations
2021 (English)In: Proceedings of the 27th IAVSD Symposium on Dynamics of Vehicles on Roads and Tracks, 2021Conference paper, Published paper (Refereed)
Abstract [en]

Steering feedback is one essential aspect to provide real world information, and can influence driving performance during remote driving. In this work, the classical feedback models based on physical characteristics (Physical Model) and modular characteristics (Modular Model) of the steering system are constructed separately, and the influences of it on the remote drivers are studied. Objective and subjective measurement methods are separately used for evaluating the performance of the feedback models. In the subjective assessment, a multi-level assessment method is used for studying the influence of steering models on driver’s intuitive feeling. In the objective assessment, lane following accuracy, steering reversal rates, vehicle speed, time consumption, and throttle engagement are studied for different feedback models and scenarios. Moreover, the human biological information of electroencephalogram and heart rate variability are measured for studying the workload differences. The results showed that the physical model gave drivers a better steering characteristic feel and confidence in remote driving while the modular model could provide better real world feel. Returnability was an important parameter in remote driving, and the level of feedback force and returnability speed could be lower in remote driving compared to real car driving. It was also found that drivers had a higher workload in remote driving compared to real car driving.

Place, publisher, year, edition, pages
2021.
Keywords [en]
Remotedriving, Steeringfeedback, Subjectiveassessment, Objectiveassessment, Physicalmodel, Modular model
National Category
Vehicle and Aerospace Engineering
Research subject
Vehicle and Maritime Engineering
Identifiers
URN: urn:nbn:se:kth:diva-312646DOI: 10.1007/978-3-031-07305-2_78Scopus ID: 2-s2.0-85136919916OAI: oai:DiVA.org:kth-312646DiVA, id: diva2:1659493
Conference
27th IAVSD Symposium on Dynamics of Vehicles on Roads and Tracks, The Emperor Alexander I St. Petersburg State Transport University in Saint-Petersburg, Russia, August 16-20, 2021
Projects
REDO - REmote Driving Operations
Funder
Vinnova, 2019-03068TrenOp, Transport Research Environment with Novel Perspectives
Note

QC 20220520

Available from: 2022-05-19 Created: 2022-05-19 Last updated: 2025-08-20Bibliographically approved
In thesis
1. Teleoperation and the influence of driving feedback on drivers’ behaviour and experience
Open this publication in new window or tab >>Teleoperation and the influence of driving feedback on drivers’ behaviour and experience
2023 (English)Licentiate thesis, comprehensive summary (Other academic)
Abstract [en]

Automated vehicles (AVs) have been developing at a rapid pace over the past few years. However, many difficulties still remain for achieving full Level-5 AVs. This signifies that AVs still require human operators to intervene or assist, such as taking over control of AVs or selecting their routes. Therefore, teleoperation can be seen as a subsystem of AVs that can remotely control and supervise a vehicle when needed. However, teleoperated driving conditions are largely different from real-life driving, so remote drivers may experience different driving feedback. In such a situation, therefore, the driving behaviour and performance of remote drivers can also be impacted. The following three studies were conducted to investigate these points.

First, a seamless comparative study was carried out between teleoperated and real-life driving. Driving behaviour and performance were compared in two scenarios: slalom and lane following. Significant differences in driving behaviour and performance between them were found in the study. The lane following deviation during teleoperated driving is much greater than that of real-life driving. In addition, remote drivers are more likely to drive slower and make more steering corrections in lane following manoeuvres.

Second, three types of steering force feedback (SFF) modes were compared separately in both teleoperated and real-life driving to investigate the effect of SFF on driving experience. The three SFF modes consist of Physical model-based steering force Feedback (PsF), Modular model-based steering force Feedback (MsF), and No steering force Feedback (NsF). The difference between PsF and MsF is that the main forces come from different sources, namely the estimated tyre force and steering motor current, respectively. As expected, the experimental results indicate that NsF would significantly reduce the driving experience in both driving conditions. In addition, remote drivers were found to require reduced steering feedback force and returnability.

Finally, the influence of motion-cueing, sound, and vibration feedback on driving behaviour and experience was studied in a virtual teleoperation platform based on the IPG CarMaker environment. The prototype of a teleoperated driving station (TDS) with motion-cueing, sound, and vibration feedback was first developed to study human factors in teleoperated driving. Then, the low-speed disturbance scenario and high-speed dynamic scenario were used separately to investigate how these factors affect driving. Experimental results indicate that sound and vibration feedback can be an important factor in speed control by providing remote drivers a sense of speed. In the low-speed disturbance scenario, motion-cueing feedback can help with road surface perception and improve the driving experience. However, it did not significantly improve driving performance in the high-speed dynamic scenario.

The research conducted reveals how driving behaviour may change in teleoperated driving and how different driving feedback influences it. These results could provide guidance for improving teleoperated driving in future research and serve as a guide for policymaking related to teleoperation.

Abstract [sv]

Självkörande fordon (AV) har utvecklats i snabb takt de senaste åren. Men det finns fortfarande många utmaningar innan man når  helt självkörande fordon. Följaktligen krävs fortfarande säkerhetsförare när AV-enheter är i drift och i framtida drift kan AV-enheter stöta på oväntade problem som en människa behöver lösa. Fjärrövervakning kan därför ses som ett  backupsystem, som kan fjärrstyra och övervaka fordonet när det inte fungerar. Men situationen  vid fjärrstyrning är helt annorlunda än för körning i verkligheten, där fjärroperatörer kan uppleva olik återkoppling  och känslor jämfört med körning i verkligheten. Därför kan även fjärroperatörernas körbeteende och prestanda ändras i denna situation. För att undersöka detta utfördes följande tre studier.

För det första genomfördes en sömlös jämförelsestudie mellan fjärrstyrning och verklig körning. Körbeteende och prestanda jämfördes i två scenarier, nämligen slalom och linjeföljning. Signifikanta skillnader i körbeteende och prestanda hittades mellan fjärrstyrning och körning i verkligheten. Avvikelse från linjeföljning vid fjärrstyrning är betydligt större än för körning i verkligheten. Dessutom är det mer sannolikt att fjärroperatörer kör i lägre hastigheter och gör fler styrkorrigeringar vid fjärrstyrning. 

För det andra jämfördes tre typer av styrkraftsåterkopplingsmodeller (SFF) separat i både fjärrstyrning och verklig körning för att undersöka SFF:s inverkan på körupplevelsen. De tre SFF-modellerna inkluderar en  modell för fysisk återkoppling (PsF), modell för modulär återkoppling (MsF) och ingen återkoppling (NsF). Skillnaden mellan PsF och MsF är att huvudkrafterna härrör från olika källor, nämligen respektive från den matematiskt uppskattade däckkraften och från styrmotorströmmen. Som förväntat tyder resultaten av experimentet på att NsF avsevärt skulle minska körupplevelsen vid både fjärrstyrning och körning i verkligheten. Vid fjärrstyrning upptäcktes också  att operatörer kräver minskad styråterkopplingskraft och returförmåga. 

Slutligen studerades påverkan av rörelsestyrning, ljud och vibrationsfeedback på körbeteende och upplevelse. Prototypen av fjärrkontrolltorn  med rörelsestyrning, ljud och vibrationsfeedback utvecklades först för att studera mänskliga faktorer vid fjärrstyrning. Sedan användes ett låghastighetsscenario med störningar och det dynamiska höghastighetsscenariot separat för att undersöka hur dessa faktorer påverkar körning vid fjärrstyrning. Resultaten av experimentet indikerar att ljud- och vibrationsåterkoppling kan vara till stor hjälp för att reglera  hastigheten genom att ge operatörerna medvetenhet om hastighet. I låghastighetsscenariot kan återkoppling  från rörelsestyrning underlätta uppfattningen av vägytan och förbättra körupplevelsen. Den ökade dock inte nämnvärt dynamisk körprestanda  i hög hastighet.

 Denna forskning undersöker hur körbeteendet kan förändras vid fjärrstyrning och hur olika återkopplingar till operatör påverka körning på distans. Dessa resultat kan  ge vägledning om hur man kan förbättra fjärrstyrning i framtida forskning och fungera som en referens för skapande av regler kopplat till fjärrövervakning och fjärrstyrning.

Place, publisher, year, edition, pages
Stockholm: KTH Royal Institute of Technology, 2023. p. 57
Series
TRITA-SCI-FOU ; 2023:09
Keywords
Teleoperation, driving behaviour, driving feedback, driving performance, driving experience, motion cueing feedback, steering force feedback
National Category
Vehicle and Aerospace Engineering
Research subject
Vehicle and Maritime Engineering
Identifiers
urn:nbn:se:kth:diva-326526 (URN)978-91-8040-558-4 (ISBN)
Presentation
2023-05-31, Integrated Transport Research Lab, Drottning Kristinas väg 40, 114 28, Stockholm, 09:00 (English)
Opponent
Supervisors
Funder
Vinnova, 2019-03068
Note

QC 230504

Available from: 2023-05-04 Created: 2023-05-04 Last updated: 2025-02-14Bibliographically approved
2. Remote Driving of Road Vehicles: Feedback Effects, Latency Compensation, and Driver Behavior
Open this publication in new window or tab >>Remote Driving of Road Vehicles: Feedback Effects, Latency Compensation, and Driver Behavior
2025 (English)Doctoral thesis, comprehensive summary (Other academic)
Abstract [en]

Remote driving has appeared as an effective solution to address challenges in achieving full autonomy for vehicles, bridging the gap between Level 4 and Level 5autonomy. Beyond autonomous vehicles (AVs), remote driving can be widely applied in various industries, such as mining, timber cutting, and warehouse logistics, where it can enhance safety, efficiency, and operational reliability. Despite its advantages, remote driving faces significant challenges, including latency, and reduced situational awareness, which impact remote drivers’ performance and experience. This thesis delves into these challenges and investigates solutions to enhance teleoperated driving systems, focusing on user experience, driving feedback and delay compensation.

The research is structured around six research questions, examining the influence of driving feedback on driving behavior and user experience, and strategies to mitigate latency in remote driving and its influence on remote drivers, as well as the learning rate of remote drivers. An integrated approach including quantitative and qualitative analysis is employed, combining experimental studies on areal-life remote driving platform and hardware-in-the-loop (HIL) simulations using IPG CarMaker. Comprehensive experiments evaluate the impact of steering force, motion-cueing, and sound and vibration feedback on driving behavior and experience. Additionally, innovative delay compensation strategies, including an enhanced model-free predictor and a square-root cubature Kalman filter-based predictor, are developed and validated to address signal transmission challenges. Finally, the learning rate of remote drivers under the delayed environment are also explored on a driving simulator.

The research results demonstrate that integrating multimodal driving feedback, such as steering force, motion-cueing, sound, and vibration, can substantially enhance remote drivers’ situational awareness and perceived confidence. However, delays in these feedback channels, particularly motion cues, are found to degrade driving precision and control stability. These challenges highlight the need for more robust delay compensation strategies. In response, a square-root cubature Kalman filter-based predictor is developed, significantly outperforming conventional approaches by maintaining accurate state prediction under latency. It is also found that remote drivers can be used for a certain driving task after 4–5 training rounds in delayed scenarios, suggesting a low adaptation threshold. These findings not only validate the technical feasibility of the proposed methods but also offer practical advantages in deploying scalable, operator-friendly remote driving systems in dynamic, real-world environments.

While the experiments provide meaningful results, certain limitations exist, including the use of a single 4G SIM card for communication and controlled testing environments. Future studies could explore dual-carrier 5G setups and advanced feedback systems to further enhance remote driving platforms.

Overall, this research contributes to the growing field of remote driving by addressing critical challenges and proposing actionable solutions, paving the way for safer, more efficient, and scalable remote driving systems across diverse applications.

Abstract [sv]

Fjärrstyrd körning av fordon  har framträtt som en effektiv lösning för att hantera utmaningarna med att uppnå fullständigt självkörande fordon och överbrygga gapet mellan  nivå 4 och nivå 5  i graden av självkörande. Utöver självkörande fordon (AV) kan fjärrstyrning användas  brett inom olika industrier, såsom gruvdrift, skogsavverkning och lagerlogistik, där det kan förbättra säkerheten, effektiviteten och driftsäkerheten. Trots dess fördelar står fjärrstyrd körning inför betydande utmaningar, såsom latens och minskad situationsmedvetenhet, vilket påverkar fjärrförarnas prestation och upplevelse. Denna avhandling undersöker dessa utmaningar och utforskar lösningar för att förbättra fjärrstyrda körsystem med fokus på användarupplevelse, föraråterkoppling och fördröjningskompensation.

Forskningen struktureras kring sex forskningsfrågor, där man undersöker föraråterkopplingens påverkan på körbeteendet och användarupplevelsen, strategier för att mildra latens vid fjärrstyrd körning samt dess effekt på fjärrförare och fjärrförarnas anpassningsförmåga. Kombinerade metoder  används vilket  inkluderar experimentella studier på en verklig plattform för fjärrstyrning, "hardware-in-the-loop" (HIL) med IPG CarMaker, samt kvantitativa och kvalitativa användarenkäter. Omfattande experiment utvärderar effekten av styrkraft, rörelseåterkoppling samt ljud- och vibrationsåterkoppling på körbeteende och upplevelse. Dessutom utvecklas och valideras innovativa strategier för fördröjningskompensation, däribland en förbättrad modellfri kompensator och en kompensator baserad på en kvadratrot-kubatur-Kalmanfilter, för att hantera utmaningar vid signalöverföring. Slutligen undersöks även fjärrförarnas anpassningsförmåga under fördröjda förhållanden med hjälp av en  körsimulator.

Forskningsresultaten visar att integrering av multimodal föraråterkoppling – såsom styrkraft, rörelseåterkoppling, ljud och vibrationer – avsevärt stärker fjärrförarnas situationsmedvetenhet och upplevda trygghet. Studien utgör ett tidigt empiriskt bidrag som kvantifierar dessa effekter med hjälp av både subjektiva och objektiva mått i en realistisk fjärrkörningsmiljö. Den föreslagna prediktionsmodellen, baserad på kvadratrot-kubatur-Kalmanfilter, uppvisar betydligt högre robusthet och noggrannhet jämfört med konventionella metoder under varierande fördröjningsförhållanden. Studien visar också att fjärrförare kan bli van ett specifikt köruppdrag  efter endast 4–5 träningsomgångar i nya scenarier med fördröjning, vilket tyder på en låg inlärningströskel. Sammantaget bekräftar resultaten metodernas tekniska genomförbarhet och pekar på praktiska fördelar vid implementering av skalbara och användarvänliga fjärrkörningssystem i dynamiska, verkliga miljöer.

Även om experimenten ger meningsfulla resultat finns vissa begränsningar, såsom användningen av ett enda 4G SIM-kort för kommunikation och kontrollerade testmiljöer. Framtida studier kan utforska lösningar med dubbla operatörer och avancerade återkopplingssystem för att ytterligare förbättra plattformar för fjärrstyrning. 

Sammantaget bidrar denna forskning till det växande området för fjärrstyrd körning genom att hantera kritiska utmaningar och föreslå konkreta lösningar, vilket banar väg för säkrare, effektivare och mer skalbara system för fjärrstyrning inom olika tillämpningar.

Place, publisher, year, edition, pages
Stockholm: KTH Royal Institute of Technology, 2025. p. xv, 79
Series
TRITA-SCI-FOU ; 2025:30
Keywords
Remote driving, driving feedback, driving behavior, driving experience, delay compensation, autonomous vehicles, Fjärrkörning, Köråterkoppling, Körbeteende, Körupplevelse, Fördröjningskompensation, Autonoma fordon
National Category
Vehicle and Aerospace Engineering
Research subject
Vehicle and Maritime Engineering
Identifiers
urn:nbn:se:kth:diva-368744 (URN)978-91-8106-335-6 (ISBN)
Public defence
2025-09-15, Sal Kollegiesalen, Brinellvägen 6, Stockholm, 10:00 (English)
Opponent
Supervisors
Funder
Vinnova, 2022-01647
Note

QC-2025-08-22

Available from: 2025-08-22 Created: 2025-08-20 Last updated: 2025-09-15Bibliographically approved

Open Access in DiVA

fulltext(6664 kB)935 downloads
File information
File name FULLTEXT01.pdfFile size 6664 kBChecksum SHA-512
65af961f8b9161c87c67db2448bed152ad1b76e90d68500c6fd7b49389e86d2211ae4f84ee7ada90e5e7cc099b2ec21056a345ed8fb66723a9f789b483bd6389
Type fulltextMimetype application/pdf

Other links

Publisher's full textScopusIAVSDConference website

Authority records

Zhao, LinNybacka, MikaelDrugge, LarsMårtensson, JonasZhang, WenliangPalmberg, Robin

Search in DiVA

By author/editor
Zhao, LinNybacka, MikaelDrugge, LarsMårtensson, JonasVyas, SaurabhSavant, ChiragZhang, WenliangPalmberg, Robin
By organisation
Väg- och spårfordon samt konceptuell fordonsdesignIntegrated Transport Research Lab, ITRLVehicle DynamicsDecision and Control Systems (Automatic Control)Vehicle Engineering and Solid Mechanics
Vehicle and Aerospace Engineering

Search outside of DiVA

GoogleGoogle Scholar
Total: 935 downloads
The number of downloads is the sum of all downloads of full texts. It may include eg previous versions that are now no longer available

doi
urn-nbn

Altmetric score

doi
urn-nbn
Total: 1348 hits
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf