The requirements for next-generation wireless communications networks, particularly fifth-generation (5G) and beyond, are driven by at least three broad use cases. These include enhanced mobile broadband services to support extremely high data rates in terms of network or per user in both uplink and downlink, massive machine-type communications to accommodate massive internet-of-things applications, and critical machine-type communications to handle mission-critical applications that require ultra-high reliability and low latency.

These new-generation wireless communication systems adopt orthogonal frequency division multiplexing (OFDM) with cyclic prefix and multiple antennas at the transmitter and receiver (MIMO). There are many attractive characteristics of OFDM, namely robustness to the adverse effects of time dispersion due to multipath fading, simplicity in equalization, and flexibility in supporting both low and high symbol rates---thereby supporting a variety of various quality-of-service requirements.

It has been known for a long time that OFDM has problems with high out-of-band emissions (OOBE) and high peak-to-average-power ratio (PAPR). The OOBE must be adequately suppressed since high OOBE causes significant interference in the adjacent channels. Furthermore, high PAPR typically requires expensive linear radio frequency (RF) transmitter components and consequently costly digital predistortion to manage and mitigate OOBE resulting from the distortion caused by RF components, e.g., power amplifiers. Additionally, there are practical 5G standard constraints, which necessitate using only data-carrying subcarriers for OOBE and PAPR reduction. Hence, it is of utmost importance to reduce OOBE and PAPR for MIMO-OFDM-based systems and mitigate/minimize the signal distortion at the receiver(s) to meet the new generation systems’ requirements encompassing various use cases.

In this thesis, we seek principled approaches to tackle the distortion-based OOBE and PAPR reduction problems. More specifically, we present optimization formulations for these well-known issues in large-scale MIMO-OFDM-based systems, such as 5G New Radio (NR), and future extensions thereof. Unfortunately, these problems cannot be solved via a general-purpose optimization solver since these off-the-shelf solvers typically employ interior-point-based methods, which have prohibitive complexity for state-of-the-art radio hardware systems. Hence, we propose large-scale optimization techniques to tackle these problems resulting in implementation-friendly algorithms. More concretely, we develop (near) optimal and computationally-efficient data-dependent solutions by proposing a type of three-operator alternating direction method of multipliers (ADMM) method that essentially employs a divide-and-conquer approach to solve the huge and cumbersome OOBE and PAPR reduction problems in large-scale MIMO-OFDM-based systems. Moreover, in the last part of the thesis, we also investigate the application of our proposed three-operator ADMM (TOP-ADMM) for federated learning (FL) over networks that capitalize on the potentially rich datasets generated at the physical layer and/or RF hardware of a base station located near an edge server.

In summary, this thesis develops principled, implementation-friendly, and standards-agnostic algorithms for distortion-based OOBE and PAPR reduction algorithms using first-order optimization algorithms, which provide insights into the trade-off between computational complexities and in-band and out-of-band performance. Furthermore, we develop a novel yet simple TOP-ADMM first-order algorithm suitable for tackling centralized and distributed optimization problems. Additionally, this thesis studies the feasibility of the TOP-ADMM algorithm for edge FL exploiting rich datasets available at the base station(s) besides (private) datasets at the users. Finally, this thesis may provide input to the systemization and implementation of large-scale MIMO-OFDM-based wireless communication systems. 

Kraven för nästa generations trådlösa kommunikationsnätverk, särskilt femte gener-ationens (5G) och senare, drivs av minst tre breda användningsfall. Dessa inkluderarförbättrade mobila bredbandstjänster för att stödja extremt höga datahastigheter i formav systemkapacitet eller per användare i både upplänk och nedlänk, kommunikation avmaskintyp för att tillgodose tillgodose storskaliga internet-of-things-applikationer, och kritisk kommunikation av maskintyp för att hantera verksamhetskritiska applikationer somkräver ultrahög tillförlitlighet och låg latens.Dessa nya generationens trådlösa kommunikationssystem använder ortogonal frekvens-delningsmultiplexering (OFDM) med cykliskt prefix och flera antenner vid både sändaren och mottagaren (MIMO). Det finns många attraktiva egenskaper hos OFDM, nämligen robusthet mot de negativa effekterna av tidsspridning på grund av flervägsutbredning,enkelhet i utjämning och flexibilitet när det gäller att stödja både låga och höga symbolhastigheter. OFDM stöder därigenom en mängd olika servicekvalitetskrav.De välkända nackdelarna med OFDM är höga störningsnivåer utanför huvudbandet(OOBE) och högt topp-till-medeleffektförhållande (PAPR). OOBE måste undertryckas eftersom hög OOBE orsakar betydande störningar på de intilliggande kanalerna. Vidarekräver hög PAPR typiskt dyra linjära radiofrekvenskomponenter (RF) och följaktligen kostsam digital för distorsion för att hantera och mildra OOBE som genereras av distorsionfrån icke-linjära sändarkomponenter, t.ex. effektförstärkare. Dessutom finns det praktiska begränsningar i 5G-standarden, som kräver att endast databärande under bärvågor användsför OOBE- och PAPR-reduktion. Därför är det av yttersta vikt att minska OOBE ochPAPR för MIMO-OFDM-baserade system och mildra/minimera signalförvrängningenvid mottagaren/mottagarna för att möta den nya generationens systemkrav för olikaanvändningsfall.I denna avhandling söker vi principiella tillvägagångssätt för att tackla de distor-sionsbaserade OOBE- och PAPR-reduceringsproblemen. Mer specifikt ställer vi uppoptimeringsproblem för dessa välkända problem i storskaliga MIMO-OFDM-baseradesystem såsom 5G NR och framtida vidareutveckling därav. Tyvärr kan dessa problem intelösas via generella optimeringslösare eftersom dessa standardlösare vanligtvis använderinrepunktsmetoder, som har alltför hög komplexitet för moderna radiohårdvarusystem.Därför föreslår vi storskaliga optimeringstekniker för att ta itu med dessa problemvilket resulterar i implementeringsvänliga algoritmer. Närmare bestämt utvecklar vi (nästan) optimala och beräkningseffektiva databeroende lösningar genom att föreslå entyp av multiplikatormetoder (ADMM) med tre operatorer som i huvudsak använderen söndra och härska metod för att lösa de stora och besvärliga OOBE- och PAPR-reduktionsproblemen i storskaliga MIMO-OFDM-baserade system. I den sista delen av avhandlingen undersöker vi dessutom tillämpningen av vår föreslagna ADMM-metod medtre operatorer för federerad inlärning över nätverk som drar nytta av den potentiellt innehållsrika datamängden som genereras i det fysiska lagret och/eller radiokomponenterna hos en basstation som ligger nära en randserver.Sammanfattningsvis utvecklar denna avhandling grundläggande, implementeringsvän-  liga och standardagnostiska algoritmer för distorsionsbaserad reduktion av OOBE ochPAPR, med hjälp av första ordningens optimeringsalgoritmer vilket ger insikter i avvägningen mellan beräkningskomplexitet och prestandan inomband och utomband. I avhan-dlingen presenterar vi en ny men ändå enkel TOP-ADMM första ordningens algoritm lämplig för att hantera centraliserade och distribuerade optimeringsproblem. Dessutomstuderas hur TOP-ADMM-algoritmen kan användas för edge FL med hjälp av datamängder tillgängliga vid basstationen(erna) förutom (privata) data hos användarna. Slutligen kandenna avhandling ge vägledning vid systemisering och implementering av storskaliga MIMO-OFDM-baserade trådlösa kommunikationssystem.