11279 articles
En démontrant que l'intégration d'exemples d'algorithmes de haute qualité issus de benchmarks améliore significativement les performances des modèles de langage pour la conception automatisée d'algorithmes, cette étude propose une approche fondée sur des priors solides qui surpasse les méthodes existantes sur des problèmes d'optimisation en boîte noire.
Cet article présente TVF, un modèle d'amélioration de la parole à faible latence et interprétable qui combine un réseau de neurones léger avec un filtre IIR différentiable à 35 bandes pour s'adapter dynamiquement au bruit non stationnaire en temps réel.
Cet article établit que pour les classifieurs discontinus, une stabilité élevée (robustesse) nécessite une surparamétrisation substantielle, car les modèles interpolants avec un nombre de paramètres proche de celui des données sont intrinsèquement instables.
Cet article de synthèse examine l'application des règles de réseau aux réseaux de neurones profonds, démontrant que l'utilisation de points d'entraînement adaptés et d'une régularisation ciblée permet d'obtenir des bornes d'erreur de généralisation indépendantes de la dimension et des performances numériques supérieures à la régularisation standard.
Le papier présente ChemFlow, un cadre d'apprentissage hiérarchique innovant qui intègre des caractéristiques atomiques, de groupes fonctionnels et moléculaires pour prédire avec une précision supérieure les propriétés physicochimiques des mélanges chimiques complexes en tenant compte de leur composition et de leurs concentrations.
L'article propose MixFT, une méthode qui améliore l'adaptation des modèles de base pour séries temporelles en réorganisant les données en sous-domaines homogènes via des mélanges bayésiens pour un affinage plus efficace que les approches par jeu de données ou module unique.
Cet article présente les GaussDerResNets, des réseaux de neurones résiduels fondés sur des dérivées gaussiennes qui, grâce à leurs propriétés de covariance et d'invariance d'échelle prouvées, permettent d'atteindre une forte précision tout en assurant une excellente généralisation à des échelles d'image non vues lors de l'entraînement.
Cet article propose MIStar, un cadre d'amélioration de recherche enrichi par la mémoire et basé sur une représentation graphique hétérogène, qui surpasse les méthodes existantes pour résoudre le problème d'ordonnancement flexible d'atelier grâce à l'apprentissage par renforcement profond et à une stratégie de recherche parallèle.
Cet article propose DisDy-ICPT, un nouveau cadre distribué permettant d'identifier des relations causales dynamiques et invariantes dans les séries temporelles environnementales sans échange de données, garantissant ainsi une stabilité prédictive supérieure pour des applications comme la surveillance du carbone et la prévision météorologique.
Cet article propose une méthode d'apprentissage polynomial interprétable (IPL) qui améliore la précision et l'interprétabilité des prévisions de séries temporelles en modélisant explicitement les interactions de caractéristiques, facilitant ainsi la maintenance prédictive et les mécanismes d'alerte précoce.
Cette étude démontre qu'il est possible de récupérer les propriétés distributionnelles des prédictions numériques des grands modèles de langage, y compris l'incertitude, directement à partir de leurs représentations internes via des sondes d'apprentissage, évitant ainsi le coût computationnel élevé des méthodes d'échantillonnage autoregressif.
Cette étude propose le concept d'apprentissage comportemental réversible pour surmonter l'irréversibilité structurelle des adaptations neuronales basées sur les poids partagés, permettant ainsi un retour déterministe au comportement original du modèle sans divergence persistante.
Cet article présente les modèles de monde latents contextuels, une méthode qui combine l'apprentissage de représentations de tâches et de modèles de monde pour améliorer la généralisation du méta-apprentissage par renforcement hors ligne sur divers benchmarks.
Cette étude révèle que, bien que les représentations acoustiques contextuelles de Wav2Vec 2.0 surpassent les méthodes traditionnelles pour la détection des troubles cognitifs, elles présentent des biais significatifs défavorisant les femmes et les participants plus jeunes, soulignant ainsi la nécessité d'évaluations équitables dans les applications cliniques de la parole.
Le papier présente GraphSSR, un cadre innovant qui améliore l'apprentissage de graphes en zéro-shot avec des modèles de langage en remplaçant les stratégies d'extraction de sous-graphes génériques par une approche adaptative de débruitage via un processus « Échantillonner-Sélectionner-Raisonner » optimisé par l'ajustement fin et l'apprentissage par renforcement.
Cet article propose une approche novatrice améliorant les réseaux de neurones informés par la physique (PINN) grâce à l'utilisation de caractéristiques de Fourier spécifiques au domaine (DaFF) pour un encodage positionnel optimisé et d'un cadre d'explicabilité basé sur LRP, permettant d'obtenir une précision supérieure, une convergence plus rapide et une interprétabilité physiquement cohérente par rapport aux méthodes existantes.
Cette étude démontre que les modèles de fondation du single-cell Geneformer et scGPT intègrent une connaissance biologique organisée et hiérarchique révélée par des autoencodeurs clairsemés, mais qu'ils encodent une logique de régulation causale minimale face aux données de perturbation génomique.
Cet article propose un cadre léger intégrant une nouvelle fonction de perte de proportion, issue de l'apprentissage à partir de proportions d'étiquettes, pour atténuer les biais de classe dans l'apprentissage semi-supervisé déséquilibré et améliorer significativement les performances sur des benchmarks comme CIFAR-10 à longue traîne.
Ce papier présente Alt-FL, une approche de fédéré learning qui alterne entre l'entraînement sur des données authentiques et synthétiques pour améliorer la précision du modèle tout en réduisant les coûts de chiffrement homomorphe et en garantissant une protection robuste de la vie privée.
Le papier présente LAGO, un cadre d'optimisation combinant l'optimisation bayésienne améliorée par le gradient et des méthodes de région de confiance locales via un mécanisme de compétition adaptatif, permettant d'explorer efficacement l'espace de conception tout en assurant une convergence rapide dans les régions prometteuses.