5346 articles
Cet article propose l'« Implicit Error Counting » (IEC), une méthode d'apprentissage par renforcement sans référence qui remplace les rubriques d'évaluation par un comptage d'erreurs pondérées, démontrant ainsi son efficacité supérieure à l'approche « Rubrics as Rewards » pour le réessayage virtuel de vêtements où plusieurs réponses valides existent.
Cet article démontre que l'intégration d'encodages graphiques dérivés de données sur et hors terrain dans des modèles d'apprentissage supervisé améliore significativement la prédiction des salaires des joueurs de la NBA, en particulier pour les vétérans et les cas extrêmes où les approches tabulaires classiques échouent.
Cet article propose l'utilisation de l'apprentissage par renforcement pour concevoir des réseaux électriques présentant un nombre d'équilibres de flux de puissance supérieur à la moyenne, surpassant ainsi les méthodes algébriques computationnelles actuelles pour les réseaux complexes.
Cet article démontre que l'apprentissage d'un modèle fort à partir des labels imparfaits d'un modèle faible via la régression ridge à caractéristiques aléatoires permet d'améliorer substantiellement les lois d'échelle de l'erreur de test, permettant au modèle fort d'atteindre des taux optimaux même lorsque le modèle faible ne voit pas son erreur diminuer avec la taille de l'échantillon.
Cette étude examine les stratégies de parallélisation pour le déploiement de modèles de langage denses, démontrant que la parallélisation tensorielle optimise la latence tandis que la parallélisation pipeline favorise le débit, permettant ainsi de maîtriser le compromis entre les deux via une configuration hybride.
Ce papier établit une correspondance formelle entre les machines de Moore et les modèles d'espace d'état (SSM), démontrant que l'initialisation des SSMs par des automates appris symboliquement permet d'accélérer la convergence et d'améliorer la précision par rapport à une initialisation aléatoire.
Cet article établit un cadre géométrique basé sur les fibrés principaux pour analyser les limitations fondamentales et les opportunités de l'apprentissage des équations différentielles régissant l'évolution des réseaux temporels modélisés par des graphes à produit scalaire aléatoire, en démontrant que la structure dynamique peut résoudre l'ambiguïté de jauge tout en révélant un lien inextricable entre la difficulté géométrique et statistique.
Bien que l'intelligence artificielle promette d'accélérer la production d'informations climatiques, ce papier met en garde contre le risque qu'elle exacerbe les inégalités mondiales en raison d'une infrastructure inégale et de biais de données, et propose une transition vers des modèles centrés sur les données, des infrastructures numériques publiques et une co-production des connaissances pour garantir une résilience équitable.
Cette étude démontre que l'adaptation de domaine non supervisée, en particulier via la minimisation de la divergence maximale de moments (MMD), permet d'améliorer significativement la capacité d'un modèle d'identification de radioisotopes, entraîné sur des données synthétiques, à se généraliser à des environnements expérimentaux réels en utilisant des données cibles non étiquetées.
En réexaminant l'alignement au moment de l'inférence sous l'angle du taux de victoire plutôt que de la récompense attendue, cette étude démontre que l'échantillonnage Best-of-N est statistiquement optimal et propose une variante simple qui élimine le piratage de la récompense tout en conservant cette optimalité.
Ce papier présente Icarus, un modèle de ciel tout-temps basé sur l'apprentissage profond capable de générer des cartes d'environnement en pleine plage dynamique (FDR) photoréalistes et contrôlables par l'utilisateur, surmontant ainsi les limitations des modèles actuels dans la reproduction précise des zones solaires et nuageuses pour l'éclairage basé sur l'image (IBL).
Le papier présente MIRACL, un cadre d'apprentissage par renforcement méta multi-objectif hiérarchique qui permet une généralisation à peu d'exemples pour l'optimisation des chaînes d'approvisionnement multi-échelons en décomposant les tâches et en utilisant une stratégie d'adaptation basée sur la dominance de Pareto, surpassant ainsi les méthodes conventionnelles en termes d'efficacité et de diversité des solutions.
Ce papier propose SGPP, un cadre géométrique unifié qui reformule l'édition des modèles de flux rectifié comme un problème d'optimisation proximale guidée par le score, permettant ainsi de combiner efficacement la fidélité à l'entrée et la réalisme généré tout en généralisant les méthodes d'inversion existantes.
Ce papier présente TML-Bench, un nouveau benchmark évaluant la fiabilité et les performances de dix modèles de langage open-source sur des tâches d'apprentissage automatique tabulaire de type Kaggle, en mesurant leur capacité à générer des soumissions valides et performantes sous différentes contraintes de temps.
Ce papier présente SCORE, une méthode de fusion de modèles qui améliore la généralisation de domaine en résolvant les conflits de sous-espaces singuliers entre modèles entraînés sur des distributions différentes grâce à la projection dans une base orthogonale partagée.
Cette étude propose l'hypothèse de sécurité désenchevêtrée (DSH), démontrant que les mécanismes de sécurité des grands modèles de langage séparent géométriquement la détection du danger de son refus, ce qui permet de créer des attaques efficaces en supprimant sélectivement la capacité d'agir tout en conservant la connaissance du risque.
Cet article propose une nouvelle méthode de gradient commuté pondéré par softmax pour l'optimisation minimax stochastique distribuée sous contraintes stochastiques, garantissant une convergence efficace et stable en boucle unique pour l'apprentissage fédéré, même en présence de participation partielle des clients.
Cet article introduit de nouvelles métriques d'alternation temporelles pour révéler que, dans le jeu de la Bataille des Exes multi-agents, les politiques apprises par Q-learning peuvent présenter des scores de justice élevés selon les mesures traditionnelles tout en échouant gravement à coordonner leurs actions dans le temps par rapport à des politiques aléatoires.
Cette étude utilise des crosscoders pour démontrer que les modèles Mixture of Experts (MoE) développent des représentations plus spécialisées et moins d'features uniques que les modèles denses, qui, eux, répartissent l'information sur des caractéristiques plus générales.
Cette étude démontre que les modèles Mixture of Experts (MoE) comme DeepSeekMoE reposent sur une expertise fortement concentrée, où un seul expert suffit souvent à approximer les performances de l'ensemble, ouvrant ainsi la voie à des optimisations d'inférence par élagage ciblé.