131 articles
Le papier présente Nezha, un système de stockage distribué qui intègre la séparation clé-valeur avec le protocole Raft pour éliminer les surcharges d'E/S liées aux opérations de persistance redondantes et ainsi améliorer considérablement le débit tout en garantissant une forte cohérence.
Cet article propose un cadre hiérarchique basé sur la boucle OODA (Observer-Orienter-Déterminer-Agir) réparti sur les couches cloud-edge-terminal et utilisant la virtualisation des fonctions réseau, afin d'améliorer l'autonomie décisionnelle et la coopération des essaims de drones dans des environnements incertains.
Ce papier présente PIM-SHERPA, une méthode logicielle qui résout les incohérences d'attributs et de mise en page de la mémoire dans les systèmes PIM pour permettre une inférence efficace de grands modèles de langage sur appareil, en utilisant des techniques de double tamponnage ou de réorganisation en ligne pour économiser jusqu'à 49,7 % de capacité mémoire tout en maintenant des performances optimales.
Ce papier présente Flash-KMeans, une implémentation GPU optimisée qui transforme l'algorithme K-Means en primitive en ligne en éliminant les goulots d'étranglement d'E/S et de contention matérielle grâce à des innovations de noyau comme FlashAssign et la mise à jour par inversion de tri, permettant ainsi des accélérations allant jusqu'à 17,9 fois par rapport aux meilleures solutions existantes.
Ce papier présente une implémentation de Mamba-2 entièrement compilée via XLA, éliminant la dépendance aux noyaux CUDA personnalisés pour permettre un cache autorégressif portable en et des performances élevées sur CPU, GPU NVIDIA et TPU à partir d'une seule source JAX.
Cette étude de cas analyse les performances d'une architecture frontend XRootD virtualisée et hétérogène du T2_BR_SPRACE, démontrant sa capacité à maintenir un débit agrégé de 51,3 Gb/s et des pics de 41,5 Gb/s vers le Fermilab lors de transferts de données à grande échelle sur un WAN.
Cet article propose le cadre de calcul de fonction distribué randomisé (RDFC), une forme de communication sémantique qui garantit la confidentialité locale sans nécessiter de hasard commun, tout en réduisant considérablement le taux de communication par rapport aux méthodes traditionnelles.
Ce papier présente SparseLoom, un système d'inférence multi-DNN pour SoCs de bord qui utilise une technique de « model stitching » pour recombiner des sous-graphes de modèles épars sans réentraînement, réduisant ainsi les violations d'objectifs de niveau de service et améliorant le débit par rapport aux systèmes existants.
Cet article propose un cadre d'ordonnancement basé sur des contraintes de fraîcheur des données, utilisant un algorithme de recherche d'offsets de consensus pour synchroniser les tâches en flux Juste-À-Temps et garantir la fraîcheur des données dans les systèmes critiques sans la latération artificielle du paradigme LET ni le gaspillage de ressources dû au sur-échantillonnage.
Cet article établit un cadre de théorie du taux-distorsion en blocs finis pour les champs aléatoires hétérogènes sur des treillis finis, en intégrant explicitement les contraintes de tuilage des compresseurs scientifiques pour dériver des bornes non asymptotiques et une expansion du second ordre quantifiant l'impact de la corrélation spatiale, de l'hétérogénéité et de la taille des tuiles.
Cet article propose un système de cohérence des capacités (CCS) qui établit une équivalence structurelle entre les modèles de cohérence mémoire et la révocation d'autorisations multi-agents, démontrant que la stratégie RCC réduit drastiquement les opérations non autorisées par rapport aux méthodes basées sur le temps, indépendamment de la vitesse d'exécution des agents.
Cet article analyse théoriquement et expérimentalement la convergence de l'erreur d'approximation vers zéro pour les schémas de calcul codé général BACC et LeTCC dans un régime de stragglers probabilistes, démontrant que l'indépendance des défaillances permet une convergence même lorsque le nombre moyen de stragglers évolue avec la taille du système.
Ce papier présente EROICA, le premier système de débogage en ligne capable de diagnostiquer avec un impact minimal les problèmes de performance matériels et logiciels dans les clusters de GPU à grande échelle utilisés pour l'entraînement de modèles massifs.
Le papier propose Co-LoRA, une méthode de fédéré personnalisé qui surmonte l'hétérogénéité des données et des architectures via une agrégation consciente de la pertinence des tâches et un module invariant en dimension, validée sur un nouveau benchmark multi-modal de 40 tâches.
Ce papier présente NANOMIND, une approche de co-conception matériel-logiciel qui optimise l'inférence des modèles multimodaux sur des appareils autonomes à batterie en décomposant les modèles en modules exécutés dynamiquement sur les accélérateurs appropriés, réduisant ainsi la consommation d'énergie de 42,3 % et permettant une autonomie de près de 20,8 heures.
Cet article plaide pour l'intégration de modèles et de métriques de résilience quantitatifs dès la conception des systèmes hybrides HPC-QPU, en s'inspirant de l'ingénierie civile pour évaluer la valeur des utilisateurs et optimiser le rapport coût-bénéfice des améliorations technologiques.
Le papier présente NEST, un cadre de placement de dispositifs pour l'apprentissage profond distribué qui unifie la modélisation du parallélisme, de la mémoire et de la topologie réseau via une programmation dynamique structurée, permettant d'optimiser conjointement la latence, la viabilité mémoire et le débit jusqu'à 2,43 fois supérieur aux méthodes de l'état de l'art.
Cet article présente un cadre d'orchestration piloté par la configuration qui génère dynamiquement des graphes d'exécution à la demande pour permettre une récupération de données efficace et évolutive dans des systèmes distribués hétérogènes, sans nécessiter de redéploiement du code lors de l'évolution des intégrations.
Ce papier présente AIReSim, un simulateur à événements discrets conçu pour modéliser la fiabilité des clusters d'IA à grande échelle, permettant aux concepteurs d'évaluer systématiquement les paramètres de récupération et de planification afin d'optimiser la capacité et de gérer les compromis dans des scénarios de défaillance.
L'article présente l'architecture de basculement d'Uber (UFA), qui optimise la fiabilité et l'efficacité de son infrastructure microservices à grande échelle en remplaçant le modèle de capacité uniforme par une approche différenciée selon la criticité des services, permettant ainsi de réduire la provisionnement de 2x à 1,3x tout en maintenant une disponibilité de 99,97 %.