The increasing integration of artificial intelligence (AI) into therapeutic contexts presents a blend of promising opportunities and significant challenges, making its role in mental health care a highly relevant and intriguing area of study. The thesis builds upon foundational theories in human-computer interaction, ethical frameworks in therapy, and AI development. The central question this thesis addresses is: What are the potential benefits and risks associated with using AI as a therapist, and what ethical considerations must be addressed? Employing a mixed-methods approach, the study combines a literature analysis focusing on recent advancements in AI and therapy with semi-structured interviews with experts who have deep knowledge and experience in psychology and AI. This approach allows for an in-depth exploration of theoretical implications and practical applications of AI in therapeutic settings. The findings indicate that AI can significantly enhance the accessibility and affordability of mental health services, offering continuous support and reducing the demand on human therapists. However, the risks identified include potential breaches in patient autonomy, privacy concerns, and the inadequacy of AI in understanding complex human emotions, which could lead to ineffective or inappropriate therapeutic interventions. The experts emphasized a cautiously optimistic perspective, indicating that while AI offers significant advantages in administrative tasks and initial therapeutic roles, it cannot replace the empathetic, trust-based relationship that is essential for effective therapy. The discussion links these outcomes back to the initial problem of AI integration in therapy, emphasizing the critical need for strict ethical standards and comprehensive regulatory frameworks. This thesis advocates for the use of AI as an assistive tool in therapy, enhancing services without replacing the essential human elements of care. Through this exploration, the study contributes to the broader discourse on AI in healthcare. It also outlines future research directions and policy considerations to ensure that AI models’ deployment in therapy prioritizes enhancing patient well-being and maintaining ethical integrity.

Den växande integrationen av artificiell intelligens (AI) i terapeutiska sammanhang erbjuder både lovande möjligheter och betydande utmaningar, vilket gör dess roll inom psykiatrisk vård till ett högst relevant och intressant studieområde. Uppsatsen bygger på grundläggande teorier inom människa-datorinteraktion, etiska ramverk inom terapi samt ansvarsfull utveckling av AI. Den centrala frågan i uppsatsen är: Vilka är de potentiella fördelarna och riskerna med att använda AI som terapeut, och vilka etiska överväganden måste beaktas? Studien använder blandade metoder och kombinerar en analys av litteratur med strukturerade intervjuer med experter som har djup kunskap och erfarenhet inom psykologi och AI. Denna metod möjliggör en djupgående utforskning av teoretiska implikationer och praktiska tillämpningar av AI i terapeutiska sammanhang. Resultaten visar att AI kan möjliggöra förbättrad tillgänglighet och minskad kostnad av psykiatrisk vård avsevärt, erbjuda kontinuerligt stöd och minska belastningen på mänskliga terapeuter. Dock identifierades risker såsom potentiella brott mot patientens autonomi, integritetsproblem och AI:s oförmåga att förstå komplexa mänskliga känslor, vilket kan leda till ineffektiva eller olämpliga terapeutiska insatser. Från intervjuerna understryks en försiktigt optimistisk syn. Det framgick dock att AI, trots betydande fördelar i administrativa uppgifter och inledande terapeutiska roller, saknar förmågan att ersätta den empatiska, förtroendebaserade relation som är grundläggande för effektiv terapi. Diskussionen kopplar dessa resultat tillbaka till det ursprungliga problemet med AI-integration i terapi, och betonar det kritiska behovet av strikta etiska standarder och omfattande regelverk. Uppsatsen förespråkar användning av AI som ett hjälpmedel i terapi för att förbättra tjänsterna utan att ersätta de väsentliga mänskliga elementen i vården. Genom denna utforskning bidrar studien till den bredare konversationen kring AI inom hälsovård. Dessutom skisserar den en framtida riktning för forskning och policyer för att säkerställa att AI-modellers implementering i terapi prioriterar att förbättra patienternas välbefinnande och upprätthålla etisk integritet.