11434 articles
Cette étude présente une analyse à grande échelle de l'ancrage et du boosting d'ancrage pour améliorer la généralisation des modèles prédictifs en soins intensifs face aux décalages de distribution entre hôpitaux, tout en définissant un cadre conceptuel pour déterminer quand utiliser, adapter ou ignorer les données externes en fonction de la disponibilité des données cibles.
Cette étude propose un modèle de prévision des prix de l'électricité en Allemagne combinant la détection de régimes bayésienne et des processus neuronaux conditionnels, démontrant via une évaluation multicritère (TOPSIS) que cette approche offre une solution plus équilibrée et performante pour l'optimisation opérationnelle que les modèles d'apprentissage profond ou linéaires sur la période 2021-2023.
Ce papier présente DisTaC, une méthode innovante qui utilise la distillation de connaissances pour pré-conditionner les vecteurs de tâches en ajustant leurs normes et en augmentant la confiance des modèles sources, permettant ainsi d'améliorer considérablement la robustesse et les performances du fusionnement de modèles dans des scénarios réalistes.
Cet article propose HGTS-Former, un nouveau modèle Transformer basé sur des hypergraphes hiérarchiques conçu pour améliorer l'analyse des séries temporelles multivariées en capturant les interactions complexes entre les variables, tout en présentant le nouveau jeu de données à grande échelle EAST-ELM640 pour la reconnaissance des modes localisés de bord (ELM) dans la fusion nucléaire.
Cet article présente l'algorithme MORNAVI, une méthode d'apprentissage en ligne pour les jeux de Markov robustes distribués qui permet aux agents d'apprendre directement par interaction avec l'environnement sans données préalables, tout en offrant les premières garanties théoriques de faible regret pour des ensembles d'incertitude mesurés par les divergences de variation totale et de Kullback-Leibler.
Cet article propose une approche d'apprentissage automatique informée par la variété pour modéliser la dynamique des foules à l'échelle macroscopique en apprenant un opérateur d'évolution dans un espace latent de faible dimension, tout en garantissant la conservation de la masse lors du passage des données microscopiques aux champs macroscopiques et inversement.
Cette étude présente la première analyse systématique des risques de fuite de données d'entraînement dans les modèles vision-langage via des attaques d'inversion de modèle, en proposant une nouvelle méthode d'optimisation adaptative (SMI-AW) qui démontre la vulnérabilité de ces modèles à reconstruire des images privées avec une précision significative.
Le papier présente Agnostics, un pipeline d'entraînement par renforcement universel qui permet d'apprendre à coder dans n'importe quel langage de programmation, y compris les ressources limitées, en se basant uniquement sur le comportement observable du code via un vérificateur unique, éliminant ainsi le besoin d'ingénierie spécifique par langage et établissant de nouveaux états de l'art pour les modèles de taille inférieure à 16 milliards de paramètres.
Cet article propose une méthode SE-LLM qui améliore la prévision de séries temporelles en intégrant les caractéristiques périodiques et anormales dans l'espace sémantique des grands modèles de langage via un module d'attention personnalisé, tout en réduisant les coûts computationnels grâce au gel du modèle et à la réduction de dimensionnalité.
Cet article propose un algorithme itératif en deux phases pour apprendre la structure causale des processus de Hawkes multivariés en présence de sous-processus latents, en exploitant une représentation en temps discret et des conditions d'identifiabilité basées sur les chemins pour garantir la récupération des relations causales.
Ce papier présente MOON, le premier modèle génératif basé sur un grand modèle de langage multimodal (MLLM) conçu pour l'apprentissage de représentations produits dans le commerce électronique, qui surmonte les limites des architectures discriminatives existantes grâce à un module MoE guidé, une détection de régions sémantiques clés et une stratégie d'échantillonnage négatif, tout en introduisant un nouveau benchmark multimodal à grande échelle nommé MBE.
Les auteurs proposent un nouveau cadre de génération d'images, NVG, qui décompose la création visuelle en une séquence hiérarchique de granularités croissantes, permettant un contrôle fin et surpassant les performances de l'état de l'art VAR sur le dataset ImageNet.
Ce papier établit des garanties théoriques et valide expérimentalement que l'apprentissage fédéré améliore la convergence de l'identification de systèmes non linéaires par rapport aux approches centralisées, en tirant parti de l'augmentation du nombre de clients et de la sélection judicieuse des fonctions de caractéristiques.
Ce papier propose MMQ, un cadre innovant de tokenisation multimodale par mélange de quantification qui surmonte les limites des identifiants traditionnels en unifiant la synergie inter-modale et l'adaptation comportementale pour générer des identifiants sémantiques scalables et performants dans les systèmes de recommandation.
Le papier propose DUP-OT, un cadre novateur pour la recommandation inter-domaines sans chevauchement d'utilisateurs ou d'articles, qui modélise les préférences utilisateurs sous forme de distributions gaussiennes et utilise le transport optimal pour transférer efficacement les connaissances et améliorer les prédictions de notation pour les utilisateurs en démarrage à froid.
Cette étude démontre que pour les modèles de type Mixture-of-Experts, l'optimisation des tâches de raisonnement ne dépend pas uniquement de la perte d'entraînement, mais repose sur un équilibre conjoint entre le nombre de FLOPs actifs et le nombre de tokens par paramètre, contrairement aux tâches de mémorisation qui bénéficient principalement d'une augmentation du nombre total de paramètres.
Cet article présente une méthode pour implémenter le calcul DO de Pearl sur des circuits quantiques via une « chirurgie de circuit », démontrant par une étude de cas de type Simpson sur un processeur NISQ que les distributions d'intervention peuvent être exécutées physiquement avec une précision correspondant aux prévisions classiques.
Cette étude démontre que l'injection d'information via une force motrice non linéaire dans un système de matière active permet d'optimiser le calcul par réservoir en activant des mécanismes régulateurs émergents, révélant que les agents formant des gouttes liquides constituent des substrats particulièrement efficaces et robustes pour ce type de traitement de l'information.
EigenBench est une méthode en boîte noire qui évalue l'alignement des valeurs des modèles de langage par rapport à une constitution donnée en agrégeant leurs jugements mutuels via EigenTrust, produisant des scores corrélés aux évaluations humaines sans nécessiter de vérités terrain.
Cet article propose un cadre analytique et un ensemble d'outils de conception pour modéliser les comportements stratégiques dans l'apprentissage fédéré, permettant de distinguer la coopération bénéfique du jeu de métriques et de définir des règles de gouvernance pour maximiser le bien-être collectif tout en limitant les manipulations.