Multi-tenant Kubernetes Use Cases for AI, Secure Computing and Data Services, and More
Ce document évalue le déploiement de Kubernetes sur le supercalculateur HPE Cray EX Isambard-AI afin de remédier aux limites des systèmes traditionnels de traitement par lots à locataire unique en permettant des cas d'utilisation multi-locataires flexibles pour des environnements de recherche médicale de confiance et l'hébergement de modèles d'IA confidentiels, tout en décrivant les défis et les étapes futures pour la mise en production de Kubernetes-en tant que Service sur de telles plateformes de haute performance.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où les superordinateurs sont comme de gigantesques gares ferroviaires à grande vitesse. Depuis des décennies, ces gares sont conçues pour un type de passager bien spécifique : le voyageur « par lots » (batch). Il s'agit de groupes massifs et très denses de données qui arrivent ensemble, occupent un seul wagon dédié pendant tout le trajet, et ne partent que lorsque le train entier a terminé son voyage. Ce système fonctionne parfaitement pour la science traditionnelle, mais le monde change. Désormais, nous avons un nouveau type de voyageur : le passager « cloud-native ». Ce sont des conteneurs de données individuels et flexibles qui veulent monter et descendre des trains instantanément, partager des wagons avec des inconnus en toute sécurité, et faire fonctionner des applications interactives complexes comme des chatbots d'IA ou des bases de données médicales sécurisées.
Le problème est que les anciennes gares (les superordinateurs traditionnels) n'ont pas été conçues pour cela. Elles sont excellentes pour déplacer des cargaisons massives, mais très mauvaises pour gérer une gare animée et multi-locataires où chacun a besoin de son propre espace sécurisé. Entrez Kubernetes. Voyez Kubernetes comme l'ultime contrôleur de trafic pour ces passagers conteneurisés. C'est le logiciel qui s'assure que tout le monde a un siège, que les bonnes personnes ne peuvent pas jeter un coup d'œil dans les sacs des autres, et que la gare fonctionne sans accroc même lorsque des milliers d'applications différentes tournent simultanément. Mais installer ce contrôleur de trafic moderne sur un superordinateur rigide et à grande vitesse, c'est comme essayer d'installer un système de billetterie de métro moderne à l'intérieur d'une locomotive à vapeur ; cela nécessite une véritable magie d'ingénierie pour les faire fonctionner ensemble sans faire planter tout le système.
Ce document raconte comment une équipe d'ingénieurs a pris ce contrôleur de trafic moderne et l'a installé avec succès sur l'un des superordinateurs les plus avancés au monde, appelé Isambard-AI. Ils ne se sont pas contentés de le faire fonctionner ; ils l'ont testé avec deux tâches très différentes et très importantes. Premièrement, ils ont construit un « Environnement de Recherche de Confiance » (Trusted Research Environment), qui est comme une salle de verre ultra-sécurisée où les scientifiques peuvent examiner des données médicales sensibles sans jamais pouvoir les voler ou les divulguer. Deuxièmement, ils ont mis en place un « bac à sable » (sandbox) pour les modèles d'IA, permettant à plusieurs chercheurs de faire fonctionner et de tester des cerveaux d'IA puissants simultanément sans qu'ils ne se gênent mutuellement.
L'équipe a constaté que leur nouveau système fonctionne incroyablement bien. Ils ont prouvé que l'on peut faire fonctionner ces services flexibles et multi-locataires sur un superordinateur sans le ralentir. En fait, lorsqu'ils ont testé la vitesse du réseau reliant les ordinateurs, ils ont découvert que l'ajout de cette couche de sécurité n'ajoutait qu'un délai infime, presque invisible : environ 0,89 microseconde. Pour donner une perspective, c'est moins que le clignement d'un œil, même pour un ordinateur. Ils ont également montré que leur configuration pouvait gérer des modèles d'IA massifs, en les faisant fonctionner sur plusieurs ordinateurs tout en les gardant sécurisés.
Cependant, le voyage n'a pas été sans embûches. L'équipe a découvert un goulot d'étranglement matériel critique : les cartes réseau sous-jacentes (NIC Cassini) ont une limite stricte sur le nombre d'« identifiants de service » sécurisés qu'elles peuvent émettre. Comme le système attribue actuellement un identifiant unique à chaque conteneur, la gare risque de manquer d'identifiants, ce qui pourrait paralyser le système si trop d'utilisateurs tentent de se connecter en même temps. De plus, ils ont identifié une faille de sécurité majeure dans leur configuration actuelle : pour accéder au réseau à haute vitesse, les « salles de verre » sécurisées doivent actuellement être construites avec des clés « privilégiées ». Cela signifie que les agents de sécurité donnent en réalité les clés maîtresses de la gare aux passagers, ce qui compromet l'isolement même que le système était censé créer.
Bien qu'ils admettent que le système est encore un peu complexe à installer et nécessite un polissage futur pour corriger ces limites matérielles et ces failles de sécurité, ils ont démontré qu'il est possible d'apporter la flexibilité du cloud à la puissance brute d'un superordinateur. Cela ouvre la porte à un avenir où les scientifiques et les chercheurs en IA pourront travailler ensemble sur les mêmes machines puissantes, de manière sûre et efficace, sans avoir besoin de construire un matériel entièrement nouveau pour chaque type de tâche.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.