PRLGB: Progressive Residual LightGBM for 5G Quality-of-Service Resource Allocation Prediction

Technische Samenvatting: PRLGB voor 5G QoS Resource Allocatie Voorspelling

Probleemstelling
De vijfde generatie (5G) van mobiele netwerken vereist een efficiënt beheer van beperkte middelen (spectrum, vermogen, computationele capaciteit) om diverse toepassingen te ondersteunen zoals ultra-betrouwbare lage-latentie communicatie (URLLC), enhanced mobile broadband (eMBB) en massale machine-type communicatie (mMTC). Traditionele regelgebaseerde of wiskundige optimalisatiemethoden worstelen vaak met de dynamische en grootschalige aard van 5G-netwerken. Hoewel machine learning (ML) adaptieve oplossingen biedt, vertrouwen bestaande benaderingen voor resource allocatie vaak op single-stage ensemble modellen of complexe deep learning architecturen die mogelijk niet optimaal zijn voor kleine, statische tabulaire datasets die typerend zijn voor specifieke netwerksnapshots. Deze studie adresseert de behoefte aan een robuust, hoog-accuraat regressiemodel voor het voorspellen van QoS resource allocatie op dergelijke datasets, specifiek gericht op de beperkingen van Open Radio Access Network (O-RAN) controllers die een lage-latentie inferentie vereisen.

Methodologie
De studie maakt gebruik van een publiekelijk beschikbare Kaggle 5G Resource Allocation Dataset met 400 onafhankelijke records met 8 kenmerken (bijv. signaalsterkte, latentie, bandbreedtevereisten) en een doelvariabele die de resource allocatie percentage vertegenwoordigt. De auteurs rechtvaardigen het modelleren van dit probleem als een statische tabulaire regressie taak in plaats van een tijdreeks-taak vanwege het gebrek aan sequentiële continuïteit tussen gebruikers en de strikte eisen aan de inferentie-tijd (<50ms) van O-RAN controllers.

De voorgestelde oplossing is Progressive Residual LightGBM (PRLGB), een driefasige ensemble architectuur ontworpen om de voorspellingscomplexiteit te deconstrueren:

1. Fase 1 (Coarse Predictie): Een baseline LightGBM model wordt getraind met 250 estimators en een leersnelheid van 0,06 om primaire patronen in de data te vangen.
2. Fase 2 (Residual Specialisatie): Een tweede LightGBM model wordt getraind op de residuen ($r_1 = y - \hat{y}_1$) van de eerste fase. Deze fase gebruikt conservatieve hyperparameters (200 estimators, leersnelheid 0,04, L1-regularisatie) om systematische fouten te leren zonder overfitting.
3. Fase 3 (Uncertainty-Aware Meta-Fusion): Een definitief meta-LightGBM model integreert engineered kenmerken: de voorspellingen van Fase 1 ($f_1(X)$), de voorspellingen van Fase 2 ($f_2(X)$), en de absolute grootte van de Fase 2 voorspellingen ($|\hat{y}_2(X)|$) als een proxy voor onzekerheid. Deze fase gebruikt 150 estimators met pad-smoothing om de uiteindelijke output te verfijnen.

De volledige pipeline bevat een preprocessing stap bestaande uit median imputatie voor ontbrekende waarden, RobustScaler voor feature schaling (om uitschieters te behandelen) en het afkappen (clipping) van de doelvariabele naar het fysiek betekenisvolle bereik van [40, 100].

Belangrijkste Bijdragen

• Nieuwe Architectuur: Het artikel introduceert PRLGB, een driefasig progressief residu framework specifiek afgestemd op tabulaire QoS voorspelling, inclusief een uncertainty-aware meta-fusion fase met behulp van engineered kenmerken.
• Systematische Evaluatie: De studie voert een rigoureuze vergelijking uit van PRLGB tegenover vier sterke boom-gebaseerde ensemble baselines: Base LightGBM, Random Forest, XGBoost en CatBoost.
• Data Preprocessing Pipeline: Een robuuste preprocessing workflow wordt beschreven, waarbij median imputatie, IQR-gebaseerde schaling en target clipping worden gecombineerd, wat zorgt voor een eerlijke vergelijking en fysieke validiteit van de voorspellingen.
• Rechtvaardiging van Statische Modellering: De auteurs bieden een rationale voor het behandelen van de dataset als statische tabulaire data in plaats van tijdreeks-data, waarbij zij verwijzen naar gebruikersonafhankelijkheid en O-RAN latentie-beperkingen.

Experimentele Resultaten
De modellen werden geëvalueerd met behulp van Mean Squared Error (MSE), Root Mean Squared Error (RMSE), Mean Absolute Error (MAE) en de Coëfficiënt van Determinatie ($R^2$).

• PRLGB Prestaties: PRLGB behaalde de beste prestaties over alle metrieken met een MSE van 4,8317, RMSE van 2,1981, MAE van 0,8357 en een $R^2$ van 0,9449.
• Vergelijking: Vergeleken met de Base LightGBM (de sterkste baseline), verbeterde PRLGB de RMSE met 4,52% (reductie van 2,3010 naar 2,1981) en de MAE met 17,8%.
• Baseline Prestaties: Andere baselines presteerden minder goed dan Base LightGBM; Random Forest en XGBoost vertoonden respectievelijk RMSE-degradaties van 19,7% en 25,5%, terwijl CatBoost een degradatie van 4,7% liet zien.
• Visuele Analyse: Scatter plots en residu-analyse (violin plots, dichtheidschattingen en boxplots) bevestigden dat PRLGB de meest compacte clustering rond de perfecte voorspellingslijn produceerde en de meest geconcentreerde foutverdeling nabij nul.

Betekenis en Claims
Het artikel claimt dat de progressieve residu stacking van LightGBM modellen praktische winst oplevert voor 5G QoS resource allocatie voorspelling op kleine tabulaire datasets. De resultaten suggereren dat het deconstrueren van de leertaak in coarse predictie, residu correctie en meta-fusion consistente verbeteringen kan opleveren ten opzien van single-stage ensembles. De auteurs positioneren PRLGB als een veelbelovende richting voor O-RAN-stijl QoS controllers die hoge-getrouwheid en lage-latentie besluitvorming vereisen.

De studie houdt een bescheiden reikwijdte aan en erkent dat de experimenten beperkt zijn tot een enkele dataset en statische modellering. Toekomstig werk wordt voorgesteld om het framework uit te breiden naar grotere, diverse datasets, multi-slice scenario's en settings met expliciete temporele modellering, evenals het onderzoeken van robuustheid onder distributieverschuivingen.