Intelligent Runtime Adaptation of Cloud-Native Microservices through Design-Principle-Aware Resource Management
Questo articolo presenta AMOF, un controller di runtime ibrido basato sull'apprendimento per Kubernetes che integra principi di progettazione architettonica nella gestione delle risorse per prevedere proattivamente il degrado delle prestazioni e superare significativamente l'autoscaling standard nell'efficienza delle risorse, gestendo al contempo i compromessi sulla latenza.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Il software moderno spesso assomiglia a una vasta città di piccoli negozi specializzati piuttosto che a una singola e massiccia fabbrica. In questo modello, noto come microservizi, le applicazioni complesse vengono suddivise in piccoli programmi indipendenti che comunicano tra loro per svolgere il lavoro. Questi programmi vivono nel cloud, una vasta rete di computer remoti che può essere espansa o ridotta istantaneamente per adattarsi alla domanda. Quando arriva un improvviso afflusso di clienti, il sistema aggiunge automaticamente più copie di questi programmi per gestire il carico; quando l'afflusso termina, li rimuove per risparmiare denaro. Questa regolazione automatica è l'ossatura della vita digitale moderna, permettendo a tutto, dagli negozi online alle app bancarie, di rimanere online durante i periodi di punta. Tuttavia, il modo attuale in cui questi sistemi si gestiscono è in gran parte reattivo. Aspettano che un programma inizi a rallentare o a esaurire la memoria prima di reagire, molto simile a un proprietario di un negozio che apre una seconda cassa solo dopo che la fila si è già allungata troppo. Questo ritardo può portare a prestazioni lente per gli utenti o a uno spreco di denaro in potenza di calcolo non necessaria. I ricercatori si stanno ora chiedendo se questi sistemi possano essere più intelligenti, utilizzando proprio le regole che gli architetti usano per progettare il software per aiutare a gestire il software mentre è in esecuzione.
Un team di ricercatori provenienti da università del Pakistan, dell'Arabia Saudita e del Regno Unito ha costruito e testato un nuovo sistema progettato per risolvere questo problema. Hanno creato un framework chiamato AMOF, che funge da gestore intelligente per questi negozi di software basati sul cloud. Invece di limitarsi a osservare quanta potenza di calcolo un programma sta utilizzando, AMOF osserva anche le regole "sociali" dell'architettura del software: quanto strettamente i programmi sono collegati tra loro, quanto bene gestiscono il proprio lavoro interno e quanto grandi o piccoli siano i loro ruoli. I ricercatori volevano vedere se prestare attenzione a queste regole di progettazione potesse aiutare il sistema a prevedere i problemi prima che accadano e ad adattarsi in modo più efficiente rispetto ai metodi attuali. Hanno testato il loro sistema su due applicazioni software del mondo reale molto diverse, una rappresentante un complesso negozio online e l'altra un sito di shopping più semplice, sottoponendole a carichi di traffico normali, pesanti ed estremi per vedere come si comportavano.
I risultati hanno mostrato che il nuovo sistema poteva effettivamente vedere arrivare i problemi. Analizzando il flusso di messaggi tra i programmi software, il predittore del sistema riusciva a prevedere un rallentamento trenta secondi prima che si verificasse effettivamente, con un alto grado di precisione. Questo preavviso ha permesso al sistema di agire mentre il software era ancora in esecuzione correttamente, invece di correre ai ripari per gestire una crisi. Confrontato con gli strumenti di scalabilità automatica standard attualmente utilizzati nel settore, il nuovo sistema è stato significativamente più efficiente. Ha ridotto la potenza di calcolo necessaria di circa il 52 percento e ha tagliato l'uso della memoria di quasi il 49 percento. Ciò significa che, per la stessa quantità di lavoro, il sistema poteva funzionare con molta meno hardware, potenzialmente facendo risparmiare alle organizzazioni una cifra considerevole sulle loro fatture cloud.
Tuttavia, questa efficienza è arrivata con un compromesso specifico. Sebbene il sistema abbia risparmiato risorse, non sempre ha mantenuto il tempo di risposta così veloce come gli strumenti standard durante i picchi di traffico più estremi. Nei test, il nuovo sistema ha talvolta permesso un leggero aumento del tempo necessario per completare una richiesta, in particolare quando il carico era al suo apice assoluto. I ricercatori hanno scoperto che questa era una scelta deliberata integrata nella logica del sistema: esso dava priorità al risparmio di risorse rispetto al mantenimento della velocità assoluta quando il sistema era sotto stress massimo. In una delle applicazioni testate, gli strumenti standard erano così aggressivi nell'aggiungere capacità extra da mantenere il tempo di risposta incredibilmente veloce, ma a costo di utilizzare molta più potenza di calcolo del necessario. Il nuovo sistema ha scelto di utilizzare meno potenza, accettando un piccolo e gestibile ritardo nella velocità per evitare di sprecare risorse.
Lo studio ha anche rivelato qualcosa di sorprendente sulla natura del software stesso. I ricercatori hanno scoperto che potevano regolare facilmente quanto bene i programmi gestissero il proprio lavoro interno, un concetto noto come coesione, cambiando il modo in cui il sistema instradava il traffico. Tuttavia, hanno scoperto che non potevano cambiare facilmente quanto i programmi fossero strettamente collegati tra loro, noto come accoppiamento, mentre il sistema era in esecuzione. Le connessioni tra i programmi erano troppo profondamente radicate nel design del software per poter essere alterate al volo. Ciò suggerisce che, mentre alcuni aspetti dell'architettura del software possono essere gestiti dinamicamente, altri sono fissati dal progetto originale. Il sistema ha dimostrato che, osservando il flusso di dati tra i programmi, era possibile prendere decisioni più intelligenti su quando aggiungere o rimuovere capacità, ma ha anche evidenziato i limiti di ciò che può essere cambiato senza riscrivere il software stesso.
In definitiva, il lavoro dimostra che trattare l'architettura del software come un insieme di regole viventi e pulsanti può portare a una migliore gestione delle risorse cloud. Il sistema non sostituisce gli strumenti standard, ma offre un approccio diverso per situazioni in cui risparmiare denaro e risorse è più importante che spremere l'ultimo frazione di secondo di velocità. Dimostra che, comprendendo la struttura del software, e non solo i suoi numeri di prestazione, possiamo costruire sistemi che siano più consapevoli della propria salute e più efficienti nel modo in cui utilizzano le vaste risorse del cloud. I ricercatori hanno reso il loro codice e i loro dati disponibili affinché altri possano verificarli, suggerendo che questo metodo di combinare l'intuizione architettonica con il controllo automatizzato è una via percorribile per la prossima generazione di applicazioni cloud.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.