Intelligent Runtime Adaptation of Cloud-Native Microservices through Design-Principle-Aware Resource Management
Dit artikel presenteert AMOF, een hybride leergebaseerde runtime-controller voor Kubernetes die architecturale ontwerpprincipes integreert in resourcebeheer om prestatieverslechtering proactief te voorspellen en standaard autoscaling aanzienlijk te overtreffen in de efficiëntie van resources terwijl latentie-afwegingen worden beheerd.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Moderne software lijkt vaak op een uitgestrekte stad vol kleine, gespecialiseerde winkels in plaats van op één enkele, enorme fabriek. In dit model, bekend als microservices, worden complexe applicaties afgebroken tot kleine, onafhankelijke programma's die met elkaar communiceren om werk te verrichten. Deze programma's leven in de cloud, een enorm netwerk van afgelegen computers dat onmiddellijk kan worden uitgebreid of ingekrompen om aan de vraag te voldoen. Wanneer er plotseling een stroom klanten arriveert, voegt het systeem automatisch meer kopieën van deze programma's toe om de belasting op te vangen; wanneer de drukte voorbij is, verwijdert het ze om geld te besparen. Deze automatische aanpassing vormt de ruggengraat van het moderne digitale leven, waardoor alles van webwinkels tot bankapps online blijft tijdens piekuren. De huidige manier waarop deze systemen zichzelf beheren, is echter grotendeels reactief. Ze wachten tot een programma begint te vertragen of het geheugen opraakt voordat ze reageren, vergelijkbaar met een winkelier die pas een tweede kassa opent nadat de rij al te lang is geworden. Deze vertraging kan leiden tot trage prestaties voor gebruikers of een verspilling van geld aan onnodige computerkracht. Onderzoekers vragen zich nu af of deze systemen slimmer kunnen worden door precies de regels te gebruiken die architecten gebruiken om de software te ontwerpen, om zo de software tijdens het draaien te helpen beheren.
Een team van onderzoekers van universiteiten uit Pakistan, Saoedi-Arabië en het Verenigd Koninkrijk heeft een nieuw systeem gebouwd en getest dat dit probleem probeert op te lossen. Ze hebben een framework ontwikkeld genaamd AMOF, dat fungeert als een intelligente manager voor deze cloudgebaseerde softwarewinkels. In plaats van alleen te kijken naar hoeveel computerkracht een programma gebruikt, houdt AMOF ook toezicht op de "sociale" regels van de softwarearchitectuur: hoe nauw de programma's met elkaar verbonden zijn, hoe goed ze hun eigen interne taken afhandelen en hoe groot of klein hun rollen zijn. De onderzoekers wilden zien of het aandacht schenken aan deze ontwerpregels kon helpen om problemen te voorspellen voordat ze optreden en om efficiënter bij te sturen dan de huidige methoden. Ze testten hun systeem op twee zeer verschillende realtime softwareapplicaties, één die een complexe webwinkel vertegenwoordigde en de andere een simpelere winkelwebsite, waarbij ze beide onderwierpen aan normale, zware en extreme verkeersbelastingen om te zien hoe ze presteerden.
De resultaten toonden aan dat het nieuwe systeem inderdaad onheil kon zien aankomen. Door de stroom berichten tussen de softwareprogramma's te analyseren, kon de voorspeller van het systeem een vertraging voorspellen dertig seconden voordat deze daadwerkelijk optrad, met een hoge mate van nauwkeurigheid. Deze vroege waarschuwing stelde het systeem in staat om actie te ondernemen terwijl de software nog soepel draaide, in plaats van te moeten improviseren om een crisis te bezweren. Wanneer het werd vergeleken met de standaard automatische schalingstools die momenteel in de sector worden gebruikt, was het nieuwe systeem aanzienlijk efficiënter. Het verminderde de benodigde computerkracht met wel 52 procent en verlaagde het geheugengebruik met bijna 49 procent. Dit betekent dat het systeem voor dezelfde hoeveelheid werk op veel minder hardware kan draaien, wat organisaties potentieel een aanzienlijk bedrag kan besparen op hun cloudfacturen.
Deze efficiëntie ging echter gepaard met een specifieke afweging. Hoewel het systeem middelen bespaarde, hield het de responstijd niet altijd even snel als de standaardtools tijdens de meest extreme verkeerspieken. In de tests liet het nieuwe systeem soms een lichte toename zien in de tijd die nodig was om een verzoek te voltooien, met name wanneer de belasting op het absolute hoogtepunt was. De onderzoekers stelden vast dat dit een bewuste keuze was die in de logica van het systeem was ingebouwd: het gaf prioriteit aan het besparen van middelen boven het behouden van de absoluut snelste snelheid wanneer het systeem onder maximale stress stond. In een van de testapplicaties waren de standaardtools zo agressief in het toevoegen van extra capaciteit dat ze de responstijd ongelooflijk snel hielden, maar tegen de prijs van het gebruik van veel meer computerkracht dan nodig was. Het nieuwe systeem koos ervoor om minder kracht te gebruiken, waarbij een kleine, beheersbare vertraging in snelheid werd geaccepteerd om verspilling van middelen te voorkomen.
De studie onthulde ook iets verrassends over de aard van de software zelf. De onderzoekers ontdekten dat ze gemakkelijk de mate waarin programma's hun eigen interne taken afhandelen, een concept dat cohesie wordt genoemd, konden aanpassen door te wijzigen hoe het systeem het verkeer routeert. Ze kwamen er echter achter dat ze de mate waarin de programma's met elkaar verbonden zijn, bekend als koppeling (coupling), niet gemakkelijk konden veranderen terwijl het systeem draaide. De verbindingen tussen de programma's waren te diep geworteld in het ontwerp van de software om on the fly aangepast te worden. Dit suggereert dat hoewel sommige aspecten van de softwarearchitectuur dynamisch beheerd kunnen worden, andere aspecten vastliggen door het oorspronkelijke ontwerp. Het systeem bewees dat het door de datastroom tussen programma's te observeren, slimmere beslissingen kon nemen over wanneer er capaciteit moet worden toegevoegd of verwijderd, maar het benadrukte ook de grenzen van wat veranderd kan worden zonder de software zelf te herschrijven.
Uiteindelijk laat het werk zien dat het behandelen van softwarearchitectuur als een levend, ademend geheel van regels kan leiden tot een beter beheer van cloudbronnen. Het systeem vervangt de standaardtools niet, maar biedt een andere aanpak voor situaties waarin het besparen van geld en middelen belangrijker is dan het uitwringen van de laatste fractie van een seconde aan snelheid. Het laat zien dat door het begrijpen van de structuur van de software, en niet alleen de prestatiecijfers, we systemen kunnen bouwen die zich meer bewust zijn van hun eigen gezondheid en efficiënter zijn in hun gebruik van de enorme middelen van de cloud. De onderzoekers hebben hun code en gegevens beschikbaar gesteld voor anderen om te verifiëren, wat suggereert dat deze methode van het combineren van architecturaal inzicht met automatische controle een levensvatbaar pad vooruit is voor de volgende generatie cloudapplicaties.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.