現代のソフトウェアは、単一の巨大なプログラムとしてではなく、「マイクロサービス」と呼ばれる小さく独立したパーツの集合体として動作することが多くなっています。これらのパーツは、複雑な問題を解決するためにメモを回し合うチームの専門家のように、絶えず互いに通信しています。このチームを円滑に稼働させるために、それらをホストしているコンピュータは自動的にそのパワーを調整しなければなりません。もし一度に多くの人がウェブサイトを訪れたら、システムは即座により多くの働き手を投入する必要があります。逆にトラフィックが減少したら、費用を節約するために働き手を解放しなければなりません。この自動的な調整は「オートスケーリング（autoscaling）」と呼ばれます。現在、ほとんどのシステムは問題が発生してから――例えばレスポンス速度の低下などを見てから――反応するようにできています。しかし、これには数分間の遅延が生じます。デジタル世界において、この待ち時間は永遠のように感じられ、ユーザーにラグやエラーを経験させます。さらに、これらのシステムを管理する人々は、個々の具体的な調整にどれほどのコストがかかっているのかという明確かつ即時的な視点を欠いていることが多く、パフォーマンスと予算のバランスを取ることを困難にしています。

マレーシアのマルチメディア大学の研究チームは、これら両方の問題を同時に解決するために設計された新しいシステムを開発しました。彼らはこのフレームワークを「ST-KEDA」と呼んでいます。トラフィックが増加した後に反応するのではなく、このシステムはサージ（急増）が起こる前にそれを予測しようと試みます。また、あらゆるアクションに対して逐次コストを集計するため、スピードを犠牲にすることなく資金を節約する決定を下すことができます。研究者たちは、このシステムを二つの現実世界の複雑なソフトウェアを用いてテストしました。一つは11種類の異なるサービスを持つオンラインショッピングストアであり、もう一つは41種類のサービスを持つ列車チケット予約システムです。彼らの調査結果によれば、先を見通し、あらゆる動きによる財務的影響を理解することで、このシステムはインフラコストを3分の1以上削減すると同時に、慌てて働き手を追加したり削除したりする頻度を劇的に減らすことができる de 示されました。

問題の核心は、現在のシステムがいかにしてトラブルを監視しているかにあります。標準的なツールは、プロセッサがどの程度忙しいかといった、コンピュータの現在の負荷量（ワークロード）を監視します。負荷量が特定のラインを超えると、システムはより多くのコンピュータ・パワーを注文します。しかし、スパイク（急上昇）に気づき、必要性を計算し、新しいコンピュータを見つけ、必要なソフトウェアをダウンロードし、新しいワーカーを開始するまでにかかる時間は相当なものです。研究者のテストでは、このプロセス全体に平均で5分近くかかりました。この窓口の間、システムは圧倒され、ユーザーは苦痛を感じることになります。新しいアプローチであるST-KEDAは、戦略を「反応型」から「予測型」へと変えます。これは、トラフィックパターンの履歴を見て、数分後に何が起こるかを推測するものなのです。

正確な推測を行うために、システムはまず複雑なトラフィックの履歴を、より単純で理解しやすい断片へと分解します。賑やかな街路のノイズ混じりの録音を想像してみてください。そこには交通量の一定のハミング、ラッシュアワーのリズミカルなパターン、そして車のクラクションのような突然の鋭い音が混ざり合っています。研究者たちは数学的手法を用い、これらの異なるリズムをノイズから分離しました。定常的なトレンド、日次のサイクル、突発的なスパイクといった別々のパターンを研究することで、コンピューターは生の乱雑なデータだけを見るよりもずっと上手くトラフィックを理解できることを見出したのです。この分離によって、予測エンジンは単なる混沌としたデータではなく、需要の背後にある構造を見ることができるようになりました。

次に、システムはソフトウェアの各部分がどのように依存し合っているかを理解する高度な学習モデルを使用します。マイクロサービス・アーキテクチャでは、一つの部分が別の部分をトリガーすることがよくあります。例えば、ユーザーが「購入」をクリックすると、在庫チェックが実行され、それが決済プロセスを引き起こすといった具合です。もしシステムが「購入」クリックのサージを予測すれば、在庫および決済サービスが多忙の兆候を示す前であっても、それらにさらなるパワーが必要であることを知ることができます。これらの接続関係をマッピングすることで、システムは連鎖する全サービスを一斉に準備することができます。これにより、一部の準備ができているのに次の部分がまだ起動していないために発生するラグを防ぐことができます。

極めて重要な点として、このシステムは速さだけでなく、価格にも配慮しています。クラウドコンピューティング・サービスは、使用されるすべてのプロセッサやメモリユニットごとに分単位で料金を請求します。研究者たちは、意思決定が行われるたびに近リアルタイムでコストを算出するレイヤーをシステム内に構築しました。従来の請求書などは届くまでに数日かかることがありますが、このシステムは変更を行った直後の数秒以内にコストを推定できます。今後1時間で新しいコンピュータ・インスタンスがいくらかかるのかを正確に把握できるのです。これにより、システムはトレードオフを選択できるようになります。つまり、わずかな低速化を受け入れることで節約するか、あるいは完璧なスピードを保証するために支出を増やすかを選べるのです。研究者が「コスト節約を優先する」設定でテストを行ったところ、オンラインショップの運用総コストを34.7パーセント削減することに成功しました。

テストの結果は驚くべきものでした。標準的なリアクティブ（反応型）システムと比較して、新しいアプローチは新しいトラフィックへの適応時間を、ほぼ5分からわずか8秒へと短縮しました。このスピードのおかげで、システムが取り残されることは滅多にありませんでした。また、研究者は「フラッピング（flapping）」と呼ばれる現象も測定しました。これは、システムが過剰反応して、働き手を増やした直後にすぐ削除し、また追加するという事態を指します。このような絶え間ない切り替えは無駄が多く、不安定です。新システムはこの混沌とした挙動を96.6パーセント減少させ、はるかにスムーズな運用を実現しました。システムがコスト懸念を無視してパフォーマンスのみに集中することを許可した場合、低速な応答の数はわずか2パークトとなり、標準システムの8パーセントと比較して大幅な改善が見られました。

本研究は、設計における各コンポーネントがいずれも不可欠であったことも明らかにしました。トラフィックパターンを分解する機能を外すと、予測の精度が落ちました。サービスの相互接続性の理解を取り除くと、ダウンストリーム（下流）の部分へ事前に準備することができなくなりました。そして、コスト追跡を除去すると、大きな節約につながるスマートなトレードオフができなくなりました。研究者たちは、コストとスピードの両方に注意を払うようチューニングした状態が最善のバランスをもたらすことを見出し、大規模な金銭的節約のためにごく僅かなレスポンス低下を受け入れました。

この成果は、複雑なソフトウェアシステムの管理が必ずしも「後手に回るゲーム」ではないことを証明しています。トラフィックパターンの進化、異なるソフトウェア部品同士の関係性、そしてあらゆる決断が具体的にいくらのコストになるかを深く理解することで、より効率的かつ安価にシステムを運営することは可能です。研究者たちがこれらのアイデアを二つの異なるタイプのアプリケーションでテストしたことは、この手法が異なる種類のワークロードに対しても堅牢であることを示唆しています。今回の検証は特定のクラウド環境で行われましたが、需要を予測し、判断ループの中にコストを組み込むという原則は、大規模なデジタルサービスを管理するすべての人々に明確な道筋を示しています。クラウドコンピューティングの未来とは、単に強力なパワーを持つことではなく、いつ、どのように使うべきかを正確に知ることにあるのかもしれません。