MoE-CB based dynamic resource allocation in 5G

De lucht om ons heen raakt steeds meer gevuld met onzichtbare stromen aan data, die alles dragen van instant berichten tot opdrachten voor autonome voertuigen. Om deze stromen zonder onderbreking te laten doorstromen, vertrouwt de vijfde generatie van draadloze netwerken, bekend als 5G, op een complex systeem van bronbeheer. Stel je een drukke snelweg voor waar verkeerslichten onmiddellijk moeten aanpassen aan plotselinge pieken in het aantal auto's, om ervoor te zorgen dat hulpvoertuigen door kunnen rijden terwijl gewone forenzen niet stil komen te staan. In de digitale wereld betekent dit het dynamisch toewijzen van bandbreedte, signaalsterkte en rekenkracht aan duizenden gebruikers en apparaten tegelijkertijd. Traditionele methoden voor het beheren van dit verkeer vertrouwen vaak op vaste regels of statische plannen, die moeite hebben wanneer de netwerkcondities snel veranderen. Wanneer gebruikers bewegen, applicaties verschillende snelheden vereisen en de signaalkwaliteit fluctueert, kunnen deze rigide systemen er niet in slagen de vereiste kwaliteit van dienstverlening voor het moderne leven te handhaven. Deze uitdaging heeft onderzoekers ertoe aangezet om kunstmatige intelligentie te verkennen, in de hoop systemen te bouwen die kunnen leren van patronen uit het verleden en toekomstige behoeften met grotere precisie kunnen voorspellen.

Een team van onderzoekers aan het Centre for Development of Telematics in India heeft een nieuwe aanpak voor dit probleem voorgesteld, waarbij ze verder gaan dan enkelvoudige, monolithische modellen en overgaan naar een systeem dat een team van specialisten nabootst. Hun werk richt zich op een framework dat zij een "Mixture of Experts" noemen, gecombineerd met een specifiek type machine learning-tool genaamd CatBoost. In plaats van één computerprogramma te dwingen elk mogelijk scenario in een 5G-netwerk te begrijpen, verdeelt dit nieuwe ontwerp het werk over verschillende, afzonderlijke "expert"-netwerken. Elke expert is getraind om specifieke soorten verkeerspatronen te herkennen, zoals constante datastromen, plotselinge pieken in activiteit of zeer instabiele verbindingen. Het systeem gebruikt een "gating mechanism" om te beslissen welke expert het meest relevant is voor de huidige situatie, waardoor effectief de juiste specialist om advies wordt gevraagd op het juiste moment. Dit stelt het systeem in staat om snel aan te passen aan de chaotische en wisselende aard van draadloze netwerken, in plaats van te proberen één enkele oplossing op elk probleem toe te passen.

De onderzoekers bouwden hun model met behulp van een publieke dataset die acht belangrijke parameters bevat die de staat van een 5G-netwerk beschrijven, waaronder signaalsterkte, latentie en bandbreedtevereisten. Voordat ze hun systeem trainden, hebben ze deze gegevens zorgvuldig schoongemaakt door ruwe tekstinvoer zoals "70%" of "500 Mbps" om te zetten in zuivere getallen die de computer kan begrijpen. Ze hebben de gegevens ook georganiseerd in sequenties, waardoor het model naar een tijdsvenster kan kijken en kan zien hoe de omstandigheden van het ene moment naar het volgende veranderen. De kern van hun systeem bestaat uit vier onafhankelijke expert-netwerken die gebruikmaken van hybride CNN-LSTM en CNN-BiGRU architecturen. In gewone taal: deze experts kijken naar de gegevens om zowel lokale details als langetermijntrends te vinden, en leggen vast hoe signaalsterkte en verkeersvraag in de loop van de tijd evolueren.

Zodra deze experts de gegevens analyseren, fungeert een "gating network" als een manager die een gewicht toekent aan de voorspelling van elke expert op basis van de huidige input. Als de netwerkcondities stabiel zijn, kan het systeem zwaar leunen op één expert; als het verkeer onregelmatig is, kan het de vertrouwensbasis verschuiven naar een andere expert. De voorspellingen van deze experts worden vervolgens gecombineerd tot één verfijnde output. De onderzoekers stopten echter niet bij daar. Ze merkten op dat zelfs de beste gecombineerde voorspelling nog kleine fouten kon bevatten of subtiele, niet-lineaire patronen kon missen. Om dit op te lossen, voedden ze het gecombineerde resultaat, samen met de originele gegevens, aan een laatste laag die gebruikmaakt van het CatBoost-algoritme. Dit hulpmiddel werkt als een fijnafsteller die de resterende onregelmatigheden opvangt en het definitieve getal corrigeert. Het resultaat is een tweestaps-proces waarbij deep learning-experts de complexe temporele patronen afhandelen en een krachtig regressiemodel het uiteindelijke antwoord polijst.

Toen het team hun systeem testte tegen een breed scala aan bestaande methoden, waren de resultaten duidelijk. Ze vergeleken hun nieuwe framework met standaard machine learning-modellen zoals lineaire regressie, random forests en support vector machines, evenals met complexere deep learning-architecturen. Het voorgestelde systeem presteerde beter dan al deze modellen. Het bereikte een gemiddelde kwadratische fout (mean squared error) van 0,000405, een wortel van de gemiddelde kwadratische fout (root mean squared error) van 0,020125 en een determinatiecoëfficiënt van 0,9502. In simpelere termen geven deze cijfers aan dat de voorspellingen van het model extreem dicht bij de werkelijke waarden lagen, met zeer weinig afwijking. Ter vergelijking: andere sterke kandidaten, zoals een support vector machine met een radial basis function kernel, bereikten een determinatiecoëfficiënt van 0,9469, terwijl een hybride reinforcement learning-model worstelde met een veel lagere score van 0,517. De studie suggereert dat hoewel single-model benaderingen kunnen werken, ze vaak falen in het generaliseren over de diverse en fluctuerende gedragingen die in real-world netwerken worden gevonden.

De onderzoekers stellen dat hun bevindingen de waarde van specialisatie in kunstmatige intelligentie voor telecommunicatie aantonen. Door verschillende delen van het systeem te laten focussen op verschillende soorten netwerkgedrag, vermijdt het model de valkuilen van het proberen te leren van één enkele, verenigde regel voor alles. De inclusie van de CatBoost-laag versterkt het systeem verder, door ervoor te zorgen dat zelfs de meest hardnekkige uitschieters in de gegevens worden meegenomen. Deze aanpak biedt een veelbelovend pad voor de RAN Intelligent Controller, een component van 5G-netwerken die verantwoordelijk is voor het beheren van middelen in realtime. De studie geeft aan dat een dergelijk systeem kan helpen bij het handhaven van een hoge kwaliteit van dienstverlening voor toepassingen variërend van industriële automatisering tot autonoom rijden, waarbij zelfs een fractie van een seconde vertraging cruciaal kan zijn. Het werk beweert niet elk probleem in draadloze netwerken te hebben opgelost, maar het biedt een robuuste en aanpasbare methode voor het voorspellen van de behoefte aan middelen die aanzienlijk nauwkeuriger is dan de huidige standaardtechnieken.