4717 articles
Cet article propose un algorithme acteur-critic primal-dual intégrant des réseaux de neurones profonds pour les processus de décision markoviens contraints, établissant pour la première fois des garanties de convergence globale et de violation de contraintes dans un cadre de politiques générales et d'approximation non linéaire.
Cet article démontre que, dans le cadre de l'apprentissage parcimonieux, des schedules de pas décroissant trop rapidement peuvent provoquer une stagnation structurelle même en faible dimension, en reliant ce phénomène à la cohérence des caractéristiques et en fournissant des bornes inférieures explicites sur la norme du résidu.
Cet article propose un cadre d'incitation profonde (DID) utilisant des blocs d'équilibre différentiels (DEB) pour résoudre automatiquement et de manière unifiée divers problèmes de conception d'incitations, tels que la conception de contrats et l'ordonnancement de machines, en entraînant un seul réseau neuronal capable de gérer une large gamme de jeux et d'échelles.
Ce papier présente la distillation inverse, un cadre novateur qui décompose les représentations des grands modèles de langage protéique en sous-espaces orthogonaux guidés par des modèles plus petits, permettant ainsi d'obtenir des embeddings de type « poupée russe » qui garantissent une performance supérieure et cohérente à l'échelle sur les benchmarks ProteinGym.
Cet article propose un cadre léger de commande prédictive (MPC) pour les enchères publicitaires de marque, utilisant une régression isotonique en ligne pour optimiser l'efficacité des dépenses et le contrôle des coûts sans recourir à des modèles d'apprentissage automatique complexes.
Les auteurs proposent FedShift, une nouvelle attaque adversariale distribuée en deux étapes de type « cachez et trouvez » qui injecte un « décalage » masqué dans les données d'entraînement pour contourner les défenses fédérées et générer des perturbations efficaces avec une grande furtivité et une réduction de temps de convergence supérieure à 90 %.
Ce papier présente l'UGGM, un modèle génératif qui utilise l'incertitude comme signal de contrôle interne pour améliorer la précision et la robustesse des prévisions de séries temporelles financières, notamment lors des chocs de marché.
Ce papier présente GANRA, un nouveau solveur SMT qui combine des modèles de langage (LLM) et l'accélération GPU pour résoudre efficacement des problèmes d'arithmétique réelle non linéaire, surpassant l'état de l'art en démontrant des améliorations significatives de performance et de temps d'exécution sur des benchmarks spécifiques.
Ce papier présente MicroCoder-GRPO, une approche améliorée d'optimisation de politique relative par groupes intégrant des innovations techniques pour surmonter les goulots d'étranglement de l'entraînement des modèles de codage modernes, accompagnée de nouveaux ensembles de données et d'un évaluateur qui permettent d'obtenir des performances compétitives, voire supérieures, à celles des modèles plus grands.
Cet article présente une méthode d'apprentissage de Lindbladian utilisant des équations différentielles neuronales et une vraisemblance maximale sur des mesures de Pauli à des temps transitoires pour inférer avec robustesse la dynamique de systèmes quantiques ouverts de plusieurs corps, même en présence de bruit et pour des tailles de système allant jusqu'à 6 qubits.
Ce papier présente MicroCoder, un ensemble de données de programmation compétitive soigneusement sélectionné et pondéré par difficulté via un cadre de traitement en quatre étapes, qui démontre que l'entraînement de modèles de code sur des problèmes récents et exigeants améliore significativement leurs performances sur des tâches complexes par rapport aux jeux de données existants.
Le ProgAgent est un agent d'apprentissage par renforcement continu qui unifie l'apprentissage de récompenses basées sur le progrès et une architecture JAX native pour surmonter l'oubli catastrophique et les coûts de spécification des récompenses, permettant ainsi d'acquérir des compétences robotiques complexes à partir de démonstrations humaines peu nombreuses et bruyantes.
Cet article propose une analyse systématique de la perte de plasticité dans les Vision Transformers, révélant que les modules d'attention et feed-forward s'y dégradent différemment, et introduit ARROW, un optimiseur géométrique adaptatif qui préserve la plasticité en remodelant les directions de gradient, surpassant ainsi les méthodes de réinitialisation des paramètres.
Cette étude démontre qu'une fonction de coût unique et agnostique vis-à-vis du sujet et de la posture, dont les poids varient dans le temps et sont estimés via l'apprentissage par renforcement inverse, permet de prédire avec une grande précision les mouvements de reaching humains en privilégiant la régulation de l'accélération articulaire.
Cet article propose un cadre d'apprentissage profond basé sur les espaces projectifs complexes pour le précodage dans les systèmes MU-MISO, éliminant les redondances de phase globale afin d'améliorer significativement les performances et la généralisation par rapport aux méthodes conventionnelles.
Cet article propose une méthode généralisant les réseaux de neurones informés par la physique pour construire des espaces d'embeddings de solutions d'équations aux dérivées partielles non linéaires, démontrée sur l'équation de Burgers visqueuse où une décomposition en composantes principales robuste révèle qu'un petit nombre de modes latents capture l'essentiel de la dynamique.
Cette étude démontre que, pour l'estimation de la biomasse des pâturages sur des données agricoles limitées, la qualité du backbone pré-entraîné et l'utilisation de modules de fusion locaux et simples surpassent les architectures complexes comme les Transformers ou les SSM, révélant un principe d'inversion de la complexité de fusion.
Les auteurs proposent un cadre novateur d'apprentissage par transfert basé sur une optimisation bi-niveau, combinant un extracteur de caractéristiques universel et un adaptateur spécifique à la tâche, pour réaliser une reconstruction d'images de haute qualité, notamment en IRM sous-échantillonnée, malgré un manque de données d'entraînement en exploitant des sources hétérogènes et multi-domaines.
Cet article présente l'algorithme Gradient Iterated Temporal-Difference learning, une méthode de TD gradiente modifiée qui calcule les gradients sur des cibles mobiles pour combiner la stabilité des méthodes de gradient avec une vitesse d'apprentissage compétitive par rapport aux méthodes semi-gradient, surpassant ainsi les travaux antérieurs sur des benchmarks comme les jeux Atari.
Ce papier propose une méthode de guidage sans gradient pour les modèles de diffusion pré-entraînés, permettant de résoudre efficacement des problèmes inverses bayésiens en zéro-shot avec une réduction drastique du coût d'inférence tout en obtenant des performances optimales.