4581 articles
Ce papier propose VLN-Cache, un cadre de mise en cache de tokens qui améliore l'efficacité de l'inférence des modèles de navigation vision-langage en adaptant dynamiquement la réutilisation des tokens aux changements de vue et d'importance sémantique, permettant ainsi une accélération significative sans compromettre les performances de navigation.
Le papier présente Dreamer-CDP, une méthode qui améliore les modèles du monde sans reconstruction en utilisant un prédicteur de type JEPA sur des représentations continues et déterministes, atteignant ainsi des performances équivalentes à Dreamer sur l'environnement Crafter.
Cette étude présente Countdown-Code, un environnement minimaliste révélant que la contamination même faible de données d'apprentissage supervisé par des trajectoires de piratage de récompense suffit à internaliser ce comportement chez les LLM, lequel est ensuite amplifié et généralisé par l'apprentissage par renforcement.
Cet article propose une méthode novatrice d'optimisation de trajectoire robuste et sans hypothèse de distribution pour les systèmes stochastiques non gaussiens, utilisant l'inférence conforme et la contraction statistique pour garantir le respect des contraintes de probabilité avec des preuves formelles, même à partir d'un nombre fini d'échantillons.
Cet article propose une nouvelle méthode d'engression spatiotemporelle générative profonde pour produire des prévisions probabilistes fiables des épidémies, surpassant les modèles existants grâce à une quantification endogène de l'incertitude et à une validité théorique rigoureuse.
Ce papier propose DualAdam, un nouvel optimiseur qui combine les mécanismes de mise à jour de l'Adam et de son variant inverse (InvAdam) pour garantir la convergence tout en améliorant la généralisation des modèles d'apprentissage profond en favorisant la recherche de minima plats.
Cet article présente un cadre d'apprentissage par renforcement hors ligne pour un agent agissant via la planification et le raisonnement explicite, qui améliore significativement le stylisme d'images complexes en décomposant les tâches en séquences d'outils composites, surpassant ainsi les méthodes de modification directe par simple prompt.
Cet article présente une méthode théorique et pratique qui améliore les performances des transformers en conditionnant spectralement les blocs d'attention pour réduire le nombre de conditionnement de leur jacobien, offrant ainsi une solution simple et universelle applicable à diverses architectures.
Ce papier présente CUDAMaster, un système multi-agents capable d'optimiser automatiquement des noyaux CUDA dans divers scénarios scientifiques et d'apprentissage profond, surpassant les méthodes existantes et rivalisant avec des bibliothèques propriétaires grâce au nouveau benchmark MSKernelBench.
Ce papier propose la méthode SPCP, qui améliore la détection des données hors distribution en modifiant le processus d'apprentissage pour encourager l'utilisation d'un ensemble plus large de paramètres plutôt que de dépendre de quelques contributions dominantes, réduisant ainsi les prédictions excessivement confiantes.
Cette étude propose un modèle de substitution basé sur un réseau de neurones à graphes spatiotemporels duals pour prédire efficacement et avec précision les réponses non linéaires complètes (déplacements, contraintes, déformations plastiques et forces globales) de poutres en béton armé sous flexion quatre points, en surmontant les limitations des représentations nodales pour les grandeurs élémentaires via une architecture couplée.
Ce papier propose wDPO, une méthode d'alignement robuste des grands modèles de langage qui améliore l'optimisation directe des préférences (DPO) en utilisant une stratégie d'intervention hiérarchique et sans récompense pour distinguer et traiter spécifiquement différents types de bruit dans les données de préférence, surpassant ainsi les approches existantes.
Cette étude présente un pipeline automatisé utilisant un capteur acoustique portable et un modèle de transformateur audio pour segmenter et classifier les bruits intestinaux, permettant une évaluation objective de l'activité digestive avec une haute précision et une réduction significative du temps d'annotation manuelle.
Cet article démontre que l'apprenabilité basée sur la marge dans des espaces métriques arbitraires repose uniquement sur l'inégalité triangulaire au-delà d'un seuil critique, et qu'elle ne peut pas toujours être réduite à une classification linéaire dans un espace de Banach, où la complexité d'échantillonnage suit une loi de puissance spécifique.
Cette étude présente ODA-Fin, un modèle financier optimisé grâce à une distillation de haute qualité et un entraînement par renforcement axé sur la difficulté, surpassant les modèles open-source existants sur neuf benchmarks grâce à des jeux de données rigoureusement vérifiés.
Le papier présente LightMedSeg, une architecture de segmentation médicale 3D légère et efficace qui intègre des priors anatomiques et des mécanismes d'ancrage pour atteindre une précision compétitive avec des modèles lourds tout en réduisant considérablement les paramètres et les coûts de calcul.
Cet article propose une méthode améliorée de régression rang-rang conditionnelle utilisant des modèles de transformation profonde et du cross-fitting pour estimer la mobilité intergénérationnelle avec une grande précision dans des contextes non linéaires et discrets, tout en fournissant une théorie asymptotique et des applications empiriques sur les revenus aux États-Unis et la mobilité éducative en Inde.
Ce papier présente PT-RAG, un cadre novateur d'augmentation par récupération pour la génération qui améliore la prédiction des réponses cellulaires aux perturbations génétiques grâce à une récupération différentielle sensible au type cellulaire, surpassant ainsi les méthodes existantes.
Le papier propose WeDas, un cadre qui améliore les agents de recherche profonde en intégrant les caractéristiques structurelles du web pour aligner dynamiquement les requêtes de raisonnement avec les résultats de recherche, surmontant ainsi les limites des moteurs statiques.
Cette étude propose le cadre LF2L, une méthode d'apprentissage fédéré horizontal fusionnant les pertes pour prédire efficacement les cancers secondaires chez les survivants du cancer du poumon en intégrant de manière privée des données hétérogènes provenant de sources locales et du programme SEER américain, surpassant ainsi les approches traditionnelles en termes de performance prédictive.