131 articles
Ce sondage examine systématiquement les méthodes d'apprentissage fédéré décentralisé (DFL) jusqu'en 2026, en les classant selon deux architectures, en proposant une taxonomie centrée sur les défis, en évaluant les pratiques actuelles et en identifiant des axes de recherche prioritaires pour renforcer la sécurité, la vie privée et les mécanismes d'incitation dans des environnements sans coordinateur central.
Cet article présente un cadre d'apprentissage profond combinant la découverte de coordonnées et de cartes de flux pour améliorer l'efficacité computationnelle et la précision des simulations de systèmes multi-échelles complexes, comme démontré sur les modèles de FitzHugh-Nagumo et de Kuramoto-Sivashinsky.
Ce papier présente SPDL, une bibliothèque open-source agnostique aux frameworks qui surmonte les goulots d'étranglement du chargement de données pour l'IA en libérant le verrou global de l'interpréteur (GIL) de Python, permettant ainsi d'accélérer considérablement l'entraînement des modèles tout en réduisant l'utilisation du CPU et de la mémoire.
Cette thèse de doctorat présente des méthodes novatrices et économiques pour évaluer et améliorer la fiabilité des accélérateurs matériels de réseaux de neurones profonds, notamment par le développement d'outils d'analyse, l'optimisation des compromis entre efficacité et tolérance aux pannes, et la création de la technique AdAM pour une amélioration de la fiabilité en temps réel sans surcoût matériel.
Ce papier présente ARKV, un cadre adaptatif et léger qui optimise la gestion du cache KV pour l'inférence de grands modèles de langage à contexte long en allouant dynamiquement des niveaux de précision aux tokens, permettant ainsi de réduire l'utilisation de la mémoire GPU par un facteur quatre tout en préservant la précision du modèle sans nécessiter de réentraînement.
L'article présente RSH-SpMM, un cadre hybride de multiplication matrice-matrice creuse optimisé pour les GPU, qui améliore significativement les performances et la stabilité sur des matrices irrégulières grâce à une partitionnement adaptatif des lignes, une représentation RS-Tile compatible avec les Tensor Cores et un réordonnancement local.
Cet article présente une revue systématique et une évaluation comparative des techniques d'apprentissage fédéré dans les environnements de calcul en périphérie, en analysant cinq algorithmes majeurs sur des métriques clés et en identifiant les défis persistants pour orienter les recherches futures.
Ce papier présente Auralink SDC, une architecture d'agents IA autonomes déployés en périphérie pour gérer les infrastructures de recharge de véhicules électriques, permettant une résolution autonome des incidents avec une haute précision et une latence ultra-faible grâce à des modèles spécialisés et des mécanismes de raisonnement adaptatif.
Cet article présente un cadre de compression pour le calcul en réservoir qui utilise un mécanisme d'élagage basé sur la sensibilité pour optimiser les compromis entre précision, efficacité matérielle et consommation de ressources dans les implémentations FPGA, tout en maintenant des performances élevées sur diverses tâches de séries temporelles.
L'article présente Kareto, un optimiseur adaptatif qui résout le problème d'optimisation multi-objectif de la configuration du stockage en couches pour le cache KV des LLM en naviguant efficacement dans l'espace des configurations pour identifier la frontière de Pareto, permettant ainsi d'améliorer le débit, de réduire la latence ou de diminuer les coûts par rapport aux stratégies statiques.
Ce papier présente Zipage, un moteur d'inférence LLM qui utilise la méthode Compressed PagedAttention pour maintenir une forte concurrence de requêtes lors du raisonnement tout en préservant 95 % des performances et en offrant un gain de vitesse de plus de 2,1 fois par rapport aux moteurs à cache KV complet.
Cet article présente une extension du générateur de code C ACETONE, initialement limité au séquentiel, afin de permettre la génération de code parallèle pour les architectures multi-cœurs, notamment pour les systèmes critiques intégrant l'apprentissage automatique.
Le papier présente JigsawServe, un cadre de service innovant pour les systèmes d'inférence composés sur les GPU de centre de données qui optimise conjointement la latence, la précision et les coûts en sélectionnant dynamiquement des variantes de modèles et en allouant des ressources GPU de manière spatiale et fine, permettant ainsi d'augmenter la demande de service maximale de 11,3 fois par rapport aux travaux antérieurs.
Le papier présente deZent, une implémentation décentralisée de l'anonymisation z qui utilise des structures de comptage stochastiques et des sommes sécurisées pour assurer la confidentialité des flux de données de capteurs tout en réduisant la charge de communication et la confiance requise envers une entité centrale.
Le papier présente FedLECC, une stratégie légère de sélection de clients pour l'apprentissage fédéré qui regroupe les appareils par similarité de distribution d'étiquettes et privilégie ceux ayant une perte locale élevée, améliorant ainsi la précision et réduisant les coûts de communication dans des environnements aux données non indépendantes et non identiquement distribuées (non-IID).
Ce papier présente Guardian, un système end-to-end coordonnant plusieurs modèles de langage spécialisés et un moteur de consensus pour extraire et traiter intelligemment les informations lors des premières heures critiques d'une enquête sur une personne disparue, tout en garantissant une approche auditable et conservatrice.
Cet article introduit l'inégalité pour démontrer que les modèles à mélange d'experts (MoE), bien qu'efficaces à l'entraînement, subissent une double pénalité structurelle à l'inférence (fragmentation de la réutilisation des poids et saturation de la mémoire) qui les rend souvent moins performants que des modèles denses équivalents, surtout dans des contextes longs.
Ce papier présente Lockbox, une architecture Zero Trust conçue pour permettre le traitement sécurisé de charges de travail cloud sensibles en appliquant une vérification explicite, une isolation stricte et un contrôle d'accès minimaliste tout au long du cycle de vie de l'application.
Le papier présente EPIC, un cadre d'apprentissage scientifique machine distribué guidé par le matériel et la physique qui réduit considérablement la latence et la consommation d'énergie tout en préservant la fidélité physique pour des tâches comme l'inversion de forme d'onde complète.
Ce papier présente la première utilisation des cœurs tensoriels FP64 des GPU NVIDIA, combinée à des optimisations de fusion de noyaux, pour accélérer significativement les simulations d'éléments finis d'ordre élevé à l'échelle exascale, offrant jusqu'à un doublement des performances et des gains d'efficacité énergétique de 83 % sur les architectures Grace Hopper et Grace Blackwell.