6037 articles
Ce document de synthèse présente une vue d'ensemble complète de l'apprentissage fédéré, en détaillant son architecture, ses défis techniques majeurs tels que l'hétérogénéité des données et la confidentialité, ainsi que ses applications émergentes et ses perspectives de recherche futures.
Cet article présente FourierSpecNet, une méthode hybride combinant la méthode spectrale de Fourier et l'apprentissage profond pour approximer efficacement l'opérateur de collision de l'équation de Boltzmann avec une précision compétitive et une réduction significative des coûts de calcul, tout en garantissant la convergence vers la solution spectrale.
Cet article propose une architecture innovante de Réseau de Neurones à Graphes Hétérogènes (HGNN) intégrant l'élagage de graphes et l'apprentissage multi-tâches pour améliorer de manière scalable la reconstruction des événements de collision de particules, notamment celle des hadrons beaux, dans des conditions similaires à celles de l'expérience LHCb.
Le papier présente RM-R1, une nouvelle classe de modèles de récompense génératifs qui améliorent l'interprétabilité et les performances en traitant la modélisation de la récompense comme un tâche de raisonnement via un mécanisme de « chaîne de critères » et un pipeline d'entraînement combinant distillation et apprentissage par renforcement.
Cet article propose une variante de la descente de miroir entropique avec un pas de type Polyak pour résoudre des systèmes linéaires sans hypothèses restrictives, établissant ainsi des résultats de convergence et en renforçant les bornes sur le biais implicite en norme .
Ce papier présente EVA, un nouveau cadre d'apprentissage de caractéristiques asynchrones inspiré du langage qui surpasse les méthodes existantes en reconnaissance et devient le premier à réussir des tâches de détection exigeantes pour les caméras d'événements.
Ce papier présente ESGenius, le premier benchmark complet évaluant les capacités des grands modèles de langage sur les connaissances en matière d'ESG et de durabilité via un ensemble de questions et un corpus de documents de référence, démontrant que l'approche RAG améliore significativement les performances, en particulier pour les modèles plus petits.
Le papier présente ContextBench, un benchmark évaluant la capacité à générer des entrées linguistiquement fluides activant des comportements ou caractéristiques latentes spécifiques dans les modèles de langage, et démontre que des variantes améliorées de l'optimisation évolutive de prompts surpassent les méthodes actuelles pour équilibrer efficacité d'élicitation et fluidité.
Le papier présente Sysformer, une méthode novatrice qui améliore la sécurité des grands modèles de langage sans modifier leurs paramètres en apprenant à adapter dynamiquement les invites système en fonction des entrées utilisateur, réduisant ainsi considérablement les réponses nocives tout en augmentant la conformité aux demandes sûres.
Le papier propose SPoT, une nouvelle stratégie de tokenisation pour les Vision Transformers qui positionne continuellement les tokens au niveau subpixel grâce à une recherche guidée par oracle, permettant ainsi de réduire considérablement le nombre de tokens nécessaires pour des prédictions précises tout en transformant la sparsité en un avantage stratégique.
Ce papier propose QCAI, une nouvelle méthode post-hoc pour interpréter les mécanismes d'attention croisée dans les transformateurs utilisés pour modéliser la liaison TCR-pMHC, et démontre sa supériorité grâce au benchmark TCR-XAI basé sur des structures expérimentales.
Ce papier présente DejaVu, une attaque exploitant le réseau in-vehicule pour créer des désalignements temporels subtils entre les flux caméra et LiDAR, qui dégradent sévèrement les performances de fusion multimodale dans la conduite autonome en provoquant des pertes de détection et de suivi d'objets, voire des accidents.
Cet article propose un cadre innovant d'apprentissage par curriculum automatique pour la conduite autonome, où un agent « enseignant » basé sur l'apprentissage par renforcement multi-agents génère dynamiquement des comportements de trafic variés pour entraîner un agent « étudiant », améliorant ainsi la robustesse et l'équilibre de la conduite par rapport aux méthodes traditionnelles.
L'article propose l'opérateur neuronal à espace d'état (SS-NO), une architecture compacte et efficace qui intègre l'amortissement adaptatif et la modulation fréquentielle apprenable pour modéliser avec précision les opérateurs de solutions d'équations aux dérivées partielles dépendantes du temps tout en surpassant les méthodes existantes avec moins de paramètres.
Ce papier présente les « multivariate fields of experts », un nouveau cadre d'apprentissage de priors d'images qui, grâce à des fonctions potentielles multivariées basées sur les enveloppes de Moreau, surpasse les modèles univariés et rivalise avec les méthodes d'apprentissage profond pour résoudre divers problèmes inverses tout en offrant une meilleure rapidité, une plus grande efficacité des paramètres et des garanties théoriques de convergence.
Cet article établit une compréhension théorique de la convergence de l'algorithme EM pour la régression linéaire mixte sur-spécifiée, démontrant que la vitesse de convergence (linéaire ou sous-linéaire) et la précision statistique dépendent crucialement de l'équilibre initial des poids de mélange, avec des bornes de complexité itérative et d'erreur adaptées aux régimes de population et d'échantillon fini.
Cet article propose Kernel VICReg, un cadre d'apprentissage auto-supervisé novateur qui transpose l'objectif VICReg dans un espace de Hilbert à noyau reproduisant (RKHS) pour capturer des dépendances non linéaires et améliorer les performances sur des données à structure complexe sans nécessiter d'étiquettes.
Ce papier présente ScaleZero, un modèle unique pour la planification multi-tâches qui surpasse les approches conventionnelles en résolvant les conflits de gradients grâce à une architecture Mixture-of-Experts et en optimisant l'efficacité de l'apprentissage via une stratégie de mise à l'échelle dynamique des paramètres.
Cet article démontre que les ensembles de réseaux de neurones profonds permettent d'estimer des paramètres quantiques avec une quantification fiable de l'incertitude, une détection de dérive des données et une inférence rapide, offrant ainsi une alternative prometteuse aux méthodes bayésiennes traditionnelles pour les applications expérimentales en temps réel.
Ce papier présente une nouvelle approche d'alignement de sécurité nommée « Answer-Then-Check », qui améliore la robustesse des grands modèles de langage contre les attaques de contournement en les entraînant à raisonner sur une réponse directe avant d'en évaluer la sécurité, permettant ainsi de réduire les refus excessifs tout en préservant les capacités de raisonnement général.