Multi-tenant Kubernetes Use Cases for AI, Secure Computing and Data Services, and More
Este artigo avalia a implementação do Kubernetes no supercomputador HPE Cray EX Isambard-AI para abordar as limitações dos sistemas tradicionais de lote de inquilino único, permitindo casos de uso multi-inquilino flexíveis para ambientes de pesquisa médica confiáveis e hospedagem de modelos de IA confidenciais, ao mesmo tempo em que delineia os desafios e os próximos passos para a produção de Kubernetes-as-a-Service em tais plataformas de alto desempenho.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde os supercomputadores são como enormes estações de comboios de alta velocidade. Durante décadas, estas estações foram desenhadas para um tipo específico de passageiro: o viajante de "lote" (batch). Estes são grandes grupos de dados, densamente compactados, que chegam juntos, sentam-se num único vagão dedicado durante toda a jornada e só partem quando o comboio inteiro termina. Este sistema funciona perfeitamente para a ciência tradicional, mas o mundo está a mudar. Agora, temos um novo tipo de viajante: o passageiro "cloud-native". Estes são contentores de dados flexíveis e individuais que querem saltar para dentro e fora dos comboios instantaneamente, partilhar vagões com estranhos de forma segura e executar aplicações interativas complexas, como chatbots de IA ou bases de dados médicas seguras.
O problema é que as antigas estações de comboios (supercomputadores tradicionais) não foram construídas para isto. São excelentes a mover cargas massivas, mas péssimas a gerir uma estação movimentada e multi-inquilina, onde todos precisam do seu próprio espaço seguro. Entre o Kubernetes. Pense no Kubernetes como o controlador de tráfego definitivo para estes passageiros contentorizados. É o software que garante que todos conseguem um lugar, que as pessoas certas não podem espreitar as malas dos outros e que a estação funciona sem problemas, mesmo quando milhares de aplicações diferentes estão em execução simultânea. Mas colocar este controlador de tráfego flexível num supercomputador rígido de alta velocidade é como tentar instalar um moderno sistema de bilhética de metro dentro de uma locomotiva a vapor; requer uma engenharia verdadeiramente mágica para os fazer trabalhar juntos sem colapsar todo o sistema.
Este artigo conta a história de como uma equipa de engenheiros pegou nesse controlador de tráfego moderno e o instalou com sucesso num dos supercomputadores mais avançados do mundo, chamado Isambard-AI. Eles não se limitaram a fazê-lo funcionar; testaram-no com dois trabalhos muito diferentes e muito importantes. Primeiro, construíram um "Ambiente de Investigação Confiável", que é como uma sala de vidro supersegura onde os cientistas podem observar dados médicos sensíveis sem nunca os poderem roubar ou deixar escapar. Segundo, configuraram um "sandbox" para modelos de IA, permitindo que múltiplos investigadores executem e testem cérebros de IA poderosos simultaneamente, sem que estes colidam entre si.
A equipa descobriu que o seu novo sistema funciona incrivelmente bem. Provaram que é possível executar estes serviços multi-inquilinos flexíveis num supercomputador sem o abrandar. De facto, quando testaram a velocidade da rede que liga os computadores, descobriram que adicionar esta camada de segurança apenas adicionou um atraso minúsculo, quase invisível — cerca de 0,89 microssegundos. Para colocar isto em perspetiva, é menos do que um piscar de olhos, mesmo para um computador. Também demonstraram que a sua configuração podia lidar com modelos de IA massivos, executando-os através de múltiplos computadores e mantendo-os seguros.
No entanto, a jornada não foi isenta de buracos. A equipa descobriu um estrangulamento de hardware crítico: as placas de rede subjacentes (NICs Cassini) têm um limite estrito de quantos "IDs de serviço" seguros podem emitir. Como o sistema atualmente atribui um ID único a cada um dos contentores, a estação corre o risco de ficar sem estes IDs, o que faria o sistema parar se demasiados utilizadores tentassem ligar-se ao mesmo tempo. Além disso, identificaram uma falha de segurança importante na sua configuração atual: para aceder à rede de alta velocidade, as "salas de vidro" seguras têm atualmente de ser construídas com chaves "privilegiadas". Isto significa que os seguranças estão, na verdade, a dar aos passageiros as chaves mestras da estação, o que compromete o próprio isolamento que o sistema foi desenhado para criar.
Embora admitam que o sistema ainda é um pouco complexo de configurar e precisa de polimento futuro para corrigir estes limites de hardware e lacunas de segurança, eles demonstraram que é possível trazer a flexibilidade da nuvem para o poder bruto de um supercomputador. Isto abre a porta para um futuro onde cientistas e investigadores de IA podem trabalhar nos mesmos equipamentos poderosos, de forma segura e eficiente, sem necessidade de construir hardware inteiramente novo para cada novo tipo de trabalho.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.