kth.sePublications
Change search
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf
Comparing Google and ChatGPT as Assistive Tools for Students in Solving Programming Exercises
KTH, School of Electrical Engineering and Computer Science (EECS).
KTH, School of Electrical Engineering and Computer Science (EECS).
2023 (English)Independent thesis Basic level (degree of Bachelor), 10 credits / 15 HE creditsStudent thesisAlternative title
Jämförelse av ChatGPT och Google som verktyg för att hjälpa studenter lösa programmeringsuppgifter (Swedish)
Abstract [en]

The study explores the field of technology-enhanced learning, providing insights into the evolving educational landscape and the impact of Large Language Models (LLMs), such as ChatGPT, in comparison to established educational tools like search engines. This paper specifically compares two different tools, ChatGPT and Google, in aiding students to solve programming exercises within their education and their impact on students’ learning. An experiment with first-year computer science students was conducted, dividing them into two groups, each using separate tools to solve a programming exercise and completing a related questionnaire. The results indicate significant differences in the tools usages, outcomes of the task completed and acquired knowledge. ChatGPT users had higher success rates for completing the task, but solely copied code from their tool. Students using Google had a lower success rate despite spending more time on the task. However the knowledge testing questionnaire showed that the group using Google demonstrated a better understanding of the topic at hand. In this study one of the main conclusions is that while ChatGPT offers efficiency in generating solutions, it tends to hinder students’ learning process, potentially due to their inexperience in utilizing LLMs for educational purposes. Students using a tool that lessens their learning and shows tendencies of copying existing solutions instead of solving problems by themselves might lead to universities having to adapt.

Abstract [sv]

Denna studie utforskar området teknikunderstött lärande och ger insikter i det föränderliga utbildningslandskapet samt inverkan av stora språkmodeller (LLM), såsom ChatGPT, jämfört med etablerade utbildningsverktyg som sökmotorer. Denna studie jämför särskilt två olika verktyg, ChatGPT och Google, med avseende på deras förmåga att hjälpa elever att lösa programmeringsövningar inom deras utbildning samt deras inverkan på elevernas lärande. Ett experiment utfördes med första årets datavetenskapsstudenter, där de delades upp i två grupper och använde separata verktyg för att lösa en programmeringsövning samt genomförde en relaterad enkätundersökning. Resultaten visar på betydande skillnader i verktygens användning, utfall av den genomförda uppgiften och inlärd kunskap. Användare av ChatGPT hade högre framgångsgrad i att slutföra uppgiften, men enbart kopierade kod från sitt verktyg. Studenter som använde Google hade en lägre framgångsgrad trots att de spenderade mer tid på uppgiften. Däremot visade enkätundersökning att gruppen som använde Google uppvisade en bättre förståelse för det aktuella ämnet. En av de huvudsakliga slutsatserna i denna studie är att medan ChatGPT erbjuder effektivitet i att generera lösningar, tenderar det att hindra studenternas inlärningsprocess, möjligen på grund av deras bristande erfarenhet av att använda LLM för utbildningsändamål. Studenter som använder sig av ett verktyg som minskar deras lärande och visar tendenser att kopiera befintliga lösningar istället för att lösa problem på egen hand kan leda till att universitet måste anpassa sig.

Place, publisher, year, edition, pages
2023. , p. 21
Series
TRITA-EECS-EX ; 2023:320
National Category
Computer and Information Sciences
Identifiers
URN: urn:nbn:se:kth:diva-330994OAI: oai:DiVA.org:kth-330994DiVA, id: diva2:1779781
Supervisors
Examiners
Available from: 2023-08-01 Created: 2023-07-04 Last updated: 2023-08-01Bibliographically approved

Open Access in DiVA

fulltext(738 kB)710 downloads
File information
File name FULLTEXT01.pdfFile size 738 kBChecksum SHA-512
2d3aea10e0db84c0ab3d8d897b983e0b6a32744229cc4a88fd350e7cfb2cdecb4158dbafb07e82c5a1ba8a0ac826dc335e67d831d5035c82938b2bd6b5e7af47
Type fulltextMimetype application/pdf

By organisation
School of Electrical Engineering and Computer Science (EECS)
Computer and Information Sciences

Search outside of DiVA

GoogleGoogle Scholar
Total: 712 downloads
The number of downloads is the sum of all downloads of full texts. It may include eg previous versions that are now no longer available

urn-nbn

Altmetric score

urn-nbn
Total: 2115 hits
CiteExportLink to record
Permanent link

Direct link
Cite
Citation style
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Other style
More styles
Language
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Other locale
More languages
Output format
  • html
  • text
  • asciidoc
  • rtf