6620 articles
Le papier présente MoEless, un cadre de service sans serveur pour les modèles de langage à mélange d'experts (MoE) qui résout les déséquilibres de charge et réduit la latence d'inférence ainsi que les coûts grâce à des prédictions de charge dynamiques et une mise à l'échelle optimisée des experts.
Le papier présente le DC-DiT, un modèle de diffusion Transformer qui améliore l'efficacité et la qualité de la génération d'images en adaptant dynamiquement le nombre de tokens utilisés selon la complexité visuelle des régions et l'étape du processus de débruitage, surpassant ainsi les architectures DiT classiques tout en permettant un réentraînement minimal.
Cet article présente le FS-HNN, une architecture de réseau de neurones qui décompose l'hamiltonien en modes rapides et lents entraînés sur différentes échelles de temps, permettant ainsi de capturer avec succès la dynamique multi-échelles et d'améliorer l'extrapolation à long terme pour des systèmes gouvernés par des EDO et des EDP.
Cet article propose une méthode de classification basée sur la distance de compression normalisée, qui, bien que n'étant pas une métrique formelle, permet d'entraîner des modèles précis et légers directement sur les appareils clients en utilisant uniquement les données de l'utilisateur, résolvant ainsi les problèmes de confidentialité et de contraintes matérielles.
Ce papier présente CLAIRE, un cadre d'apprentissage profond hybride pour la détection de défauts dans la fabrication intelligente, qui combine un autoencodeur pour l'apprentissage de représentations latentes compactes et une classification supervisée, le tout renforcé par une interprétabilité basée sur la théorie des jeux pour identifier les caractéristiques clés.
Ce papier propose ALFCG, le premier cadre adaptatif sans projection pour l'optimisation non convexe composite stochastique qui, sans nécessiter de constantes de régularité globales ni de recherche de ligne, atteint des taux de convergence optimaux en réduisant l'impact du bruit tout en surpassant les méthodes de gradient conditionnel de l'état de l'art.
Cet article présente une extension de la régularisation cinétique (KBR) pour l'estimation précise et adaptative aux bruits des dérivées spatiales via des schémas explicites et implicites, permettant ainsi la résolution stable d'équations aux dérivées partielles hyperboliques sur des nuages de points irréguliers tout en préservant les lois de conservation.
Cet article propose une architecture d'orchestration à « grille de schéma » qui sépare la flexibilité conversationnelle de l'exécution déterministe pour permettre des flux de travail scientifiques à la fois agiles et reproductibles, tout en validant cette approche par une évaluation comparative de 20 systèmes réalisée par des modèles de langage multiples.
Le papier propose R4T, une méthode qui utilise l'apprentissage par renforcement pour synthétiser des données d'entraînement alignées sur des objectifs d'ensemble, permettant ainsi d'entraîner un récupérateur basé sur la diffusion qui améliore la qualité de la recherche tout en réduisant considérablement la latence par rapport aux approches existantes.
Cet article présente la première base de données de radiomaps XL-MIMO pour les bandes au-dessus de 6 GHz, accompagnée d'une approche innovante utilisant des « beam maps » physiques pour améliorer la généralisation des prédictions à des configurations de faisceaux et des environnements non vus lors de l'entraînement.
Cet article propose M-CMAB, un cadre d'ordonnancement pour l'inférence de modèles de langage multimodaux qui utilise des adaptateurs, des contraintes duales et une stratégie de bandit contextuel pour optimiser les décisions en ligne sous des budgets multidimensionnels hétérogènes.
Cet article propose une architecture de référence pour les cadres de l'apprentissage par renforcement, élaborée à partir de l'analyse de 18 frameworks de pointe afin d'établir une base commune pour leur comparaison, leur évaluation et leur intégration.
Le papier présente CLoPA, une stratégie d'adaptation continue qui affine un faible nombre de paramètres du modèle nnInteractive sur les données d'annotation pour atteindre des performances expertes sur huit tâches de segmentation médicale sans modifier le pipeline d'inférence.
Cet article présente un cadre de calcul certifié et précis des normes d'espaces fonctionnelles (telles que et Sobolev) pour les réseaux de neurones profonds, en combinant l'arithmétique par intervalles, le raffinement adaptatif et l'agrégation par quadrature afin de fournir des bornes déterministes garanties sur les résidus des PINN.
Cet article propose une carte de corrélation-complexité, dotée des indicateurs QCLI et CCI, pour identifier les distributions de données compatibles avec les modèles génératifs quantiques de type IQP et démontre que cette approche permet d'atteindre une utilité générative quantique compétitive sur des données de turbulence avec moins de ressources que les modèles classiques.
L'article démontre que pour les dynamiques gaussiennes quantiques, la réversion par score de Wigner fixe viole la positivité complète sous certaines conditions et nécessite une diffusion supplémentaire pour être réparée, imposant ainsi une borne inférieure sur la perte d'information liée à la fidélité.
Le papier présente NOBLE, une architecture d'augmentation permanente intégrant des branches non linéaires de faible rang dans les couches linéaires des transformateurs pour accélérer l'entraînement à partir de zéro avec un surcoût paramétrique minimal, offrant jusqu'à 1,22 fois une accélération nette du temps d'exécution tout en améliorant l'efficacité sur divers modèles comme les LLM, BERT et ViT.
Le papier présente COLD-Steer, un cadre d'entraînement gratuit qui contrôle le comportement des grands modèles de langage en approxifiant les changements d'activation résultant d'une descente de gradient sur des exemples en contexte, permettant ainsi un pilotage efficace avec jusqu'à 50 fois moins d'échantillons que les méthodes existantes.
Ce papier présente une approche de mise en cache sémantique qui réduit considérablement le temps d'exécution de l'apprentissage de concepts en Description Logique en évitant les appels redondants de récupération d'instances, tout en restant efficace pour les raisonneurs symboliques et neuro-symboliques.
Ce papier remet en cause l'idée que les attaques par porte dérobée sur plusieurs modalités renforcent les modèles de diffusion multimodaux, en révélant un phénomène de « collapse » où le mécanisme d'attaque se dégrade pour dépendre exclusivement d'une seule modalité, rendant les autres redondantes.