The rise in innovations related to large language models (LLMs) has led to a wide use of the technology on a global scale in recent years. Various industries and practical fields are explored when implementing these models to automate and increase the effectiveness of their daily operations. This study proposes applying these LLM technologies within the field of cybersecurity related to ethical hacking. The purpose is to investigate how these models can enhance the effectiveness of the ethical hacker in automating exploits and identifying vulnerabilities. Using the transformer-based application ChatGPT, this study attempted to evaluate its use in a practical penetration testing scenario. Selected Internet of Things (IoT) devices from existing research on the penetration testing of connected households were used for this study. The purpose was to use ChatGPT to recreate and automate hacks of disclosed weaknesses and vulnerabilities from that research. Further, the goal was to use the application to test for previously unexplored vulnerabilities. From the concluded penetration tests, six exploits were recreated with ChatGPT. Several previously unexplored vulnerabilities were also identified with the assistance of the application. Of the six recreated hacks, two were automated using the code-generative capabilities of ChatGPT. The collected data indicates a vast potential for utilizing LLM applications in ethical hacking.

Uppkomsten av innovationer relaterade till stora språkmodeller (LLMs) har under de senaste åren lett till en omfattande användning av teknologin på en global nivå. Olika industrier och praktiska tillämpningsområden utforskas när man implementerar dessa modeller för att automatisera och öka effektiviteten i deras dagliga verksamhet. Denna studie föreslår att tillämpa dessa LLM teknologier inom det området för cybersäkerhet som är relaterat till etisk hackning. Syftet är att undersöka hur dessa modeller kan öka effektiviteten hos den etiska hackaren med att automatisera hacks och identifiera sårbarheter. Genom att använda den transformatorbaserade applikationen ChatGPT, så försökte denna studie utvärdera dess användning i ett praktiskt scenario av penetrationstestning. Utvalda sakernas internet (IoT) enheter från existerande forskning om att penetrations testa smarta hem användes i denna studie. Syftet var att använda ChatGPT för att återskapa och automatisera hacks för tidigare dokumenterade svagheter och sårbarheter från den forskningen. Vidare var målet att använda applikationen för att testa för tidigare oupptäckta sårbarheter. Utifrån de utförda penetrationstesten återskapades sex hacks med ChatGPT. Flera tidigare oupptäckta sårbarheter identifierades också med assistans av applikationen. Av de sex återskapade hacksen automatiserades två genom att använda den kodgenererande funktionen i ChatGPT. Insamlade data indikerar att det finns stor potential för att använda LLM-applikationer inom etisk hackning.