4175 articles
Le papier présente Best-of-Tails (BoT), un cadre d'alignement adaptatif qui optimise la sélection des réponses des grands modèles de langage en ajustant dynamiquement l'équilibre entre optimisme et pessimisme en fonction de la lourdeur de la queue de la distribution des récompenses.
Le papier présente NEST, un cadre de placement de dispositifs pour l'apprentissage profond distribué qui unifie la modélisation du parallélisme, de la mémoire et de la topologie réseau via une programmation dynamique structurée, permettant d'optimiser conjointement la latence, la viabilité mémoire et le débit jusqu'à 2,43 fois supérieur aux méthodes de l'état de l'art.
Cet article propose le premier cadre formel et des algorithmes à garanties théoriques pour l'apprentissage par renforcement multi-agents coopératif avec des récompenses sous-modulaires, surmontant ainsi la malédiction de la dimensionnalité grâce à une complexité polynomiale.
Le papier présente CREDO, une méthode innovante qui combine des enveloppes crédales interprétables pour capturer l'incertitude épistémique avec une calibration conforme pour garantir une couverture marginale, produisant ainsi des intervalles de prédiction en régression à la fois valides et adaptatifs.
Cet article présente un cadre novateur pour l'inversion conjointe 3D de la gravité et du magnétisme, utilisant un flux rectifié sur le jeu de données Noddyverse, un régularisateur de Ginzburg-Landau pour l'identification des minerais et une méthode de guidage plug-and-play afin de capturer la distribution complète des solutions possibles au-delà des approches déterministes traditionnelles.
Cet article établit le taux de regret minimax optimal pour le commerce bilatéral contextuel avec des valorisations à variance infinie, en démontrant qu'un algorithme basé sur l'estimation de moyenne tronquée atteint ce taux en interpolant entre les régimes de moments finis et infinis.
Ce papier présente C3, une méthode d'apprentissage par renforcement multi-agent qui améliore l'attribution du crédit dans les collaborations d'LLM en isolant l'impact causal de chaque message via des contre-factuels contextuels, surmontant ainsi les limitations des signaux de récompense terminaux épars.
Ce papier présente IGLU, une nouvelle fonction d'activation paramétrique dérivée d'un mélange d'échelles de portes GELU avec une distribution mi-normale, qui offre une expression fermée basée sur la fonction de répartition de Cauchy pour garantir des gradients non nuls et une robustesse accrue, ainsi qu'une approximation rationnelle efficace (IGLU-Approx) qui démontre des performances compétitives ou supérieures sur des tâches de vision et de langage.
Le papier présente SymLang, un cadre unifié combinant des grammaires contraintes par la symétrie, la synthèse de programmes guidée par des modèles de langage et une sélection de modèles bayésienne pour découvrir avec précision et robustesse des équations gouvernantes interprétables à partir d'observations expérimentales bruitées et partielles.
Cet article propose une méthode d'attention stochastique sans apprentissage, basée sur la dynamique de Langevin appliquée à l'énergie des réseaux de Hopfield modernes, qui permet de générer des sorties variées et novatrices tout en conservant la capacité de récupération exacte.
Cette étude présente un modèle de substitution basé sur un opérateur neuronal informé par la physique (PINO) qui accélère de plus de 10 000 fois l'analyse de la rétention des mémoires NAND verticales ferroélectriques par rapport aux outils TCAD traditionnels, tout en préservant la précision physique nécessaire à l'optimisation des dispositifs.
Cet article propose un algorithme de clustering possibiliste en un seul passage (SPC) conçu pour les flux de données, qui se distingue par sa capacité à modéliser des clusters non sphériques, à mettre à jour ses empreintes via des fenêtres amorties et à fusionner des estimations grâce à l'union de covariance, surpassant ainsi cinq autres algorithmes existants en termes de pureté et d'information mutuelle normalisée.
Cet article propose une nouvelle méthode d'augmentation de données qui utilise les grands modèles de langage pour générer des programmes CAO plus diversifiés et complexes, inspirés des procédures de conception industrielle, afin d'améliorer l'entraînement des modèles d'apprentissage profond pour la création de formes organiques.
Ce papier démontre que, contrairement au cadre de décision attribut-conscient où la justice algorithmique améliore systématiquement les résultats du groupe défavorisé, le cadre attribut-aveugle peut entraîner un « nivellement par le bas » préjudiciable à tous les groupes selon la distribution des données.
XGenBoost propose deux modèles génératifs basés sur XGBoost pour synthétiser des données tabulaires de types mixtes, adaptés respectivement aux petits et aux grands jeux de données, surpassant les méthodes existantes avec un coût d'entraînement réduit.
Le papier présente DySECT, un système d'extraction dynamique et auto-évoluant qui améliore continuellement sa performance en boucle fermée en enrichissant une base de connaissances à partir des extractions d'un LLM, puis en utilisant cette connaissance accumulée pour affiner le modèle d'extraction.
Ce papier propose une méthode efficace de fonction barrière de contrôle neuronale composite (CN-CBF), combinant plusieurs réseaux de neurones entraînés via la théorie de l'atteignabilité de Hamilton-Jacobi et une architecture résiduelle, pour garantir une navigation robotique sûre dans des environnements dynamiques avec des taux de réussite supérieurs aux méthodes existantes sans augmenter la conservatisme.
Le papier présente NerVE, un cadre unifié basé sur la dynamique du spectre propre qui permet de comprendre et d'optimiser le flux d'information dans les réseaux feed-forward des grands modèles de langage en reliant les signatures spectrales stables à la capacité de généralisation et aux choix architecturaux.
Ce papier présente Swimba, une méthode qui intègre des experts dans les modèles d'espace d'état sélectifs via un mélange de paramètres plutôt que de trajectoires d'état, permettant ainsi d'augmenter la capacité du modèle tout en maintenant un coût de récurrence dominant fixe.
Cet article présente une approche combinant éléments finis et réseaux de neurones physiquement cohérents pour modéliser l'élasticité de Cosserat, intégrant des critères de validation basés sur la stabilité énergétique (quasi-convexité et inégalités de Legendre-Hadamard) pour garantir que les solutions apprises correspondent à des minimiseurs d'énergie stables.