9183 articles
Cet article présente , une méthode novatrice combinant le schéma JKO et l'optimisation inverse pour apprendre la dynamique des populations via un entraînement adversaire end-to-end, éliminant ainsi le besoin de contraintes architecturales restrictives tout en offrant des garanties théoriques et des performances supérieures.
Cet article propose l'Interaction Field Matching (IFM), une généralisation du champ électrostatique qui surmonte ses limitations en utilisant un champ d'interaction inspiré des interactions fortes entre quarks pour améliorer la génération et le transfert de données.
DiaBlo est une méthode de fine-tuning efficace en paramètres qui met à jour uniquement les blocs diagonaux des matrices de poids, offrant une convergence stable et des performances compétitives sans nécessiter de produits matriciels de faible rang ni de stratégies d'initialisation auxiliaires.
Ce travail présente Search Arena, un jeu de données à grande échelle et crowdsourcé de plus de 24 000 interactions multi-tours avec des modèles de langage augmentés par la recherche, qui révèle les biais des utilisateurs envers les citations et les sources, tout en démontrant que l'intégration de la recherche web améliore les performances sans les dégrader dans des contextes non dédiés.
Ce papier présente le Radon-Nikodym Estimator (RNE), une méthode modale-agnostique et plug-and-play qui unifie l'estimation de densité, le contrôle à l'inférence et l'entraînement basé sur l'énergie pour les modèles de diffusion continus et discrets en exploitant le rapport de densité entre les distributions de trajectoires.
Le papier présente Perception-R1, une méthode qui améliore les capacités de raisonnement multimodal des grands modèles de langage en introduisant une récompense de perception visuelle basée sur la cohérence avec des annotations textuelles, comblant ainsi une lacune des approches RLVR existantes.
Cette étude propose une approche hybride combinant des bandits contextuels et des modèles de langage pour personnaliser des messages de motivation physique, démontrant que cette méthode améliore l'acceptation et l'équité de la distribution des interventions tout en réduisant les coûts computationnels par rapport aux solutions purement génératives ou aléatoires.
Le papier présente StreamSplat, un cadre entièrement feed-forward capable de reconstruire instantanément des scènes 3D dynamiques à partir de flux vidéo non calibrés en temps réel grâce à trois innovations techniques clés, offrant ainsi une accélération de 1200 fois par rapport aux méthodes d'optimisation traditionnelles.
Cette étude présente un cadre novateur utilisant le modèle climatique hybride différentiable NeuralGCM pour optimiser les conditions initiales et générer des scénarios de vagues de chaleur extrêmes physiquement cohérents, dépassant en intensité les membres les plus sévères des ensembles traditionnels.
Cet article présente les SatSOM, une extension des cartes auto-organisatrices intégrant un mécanisme de saturation qui réduit progressivement l'apprentissage des neurones saturés pour améliorer la rétention des connaissances et prévenir l'oubli catastrophique dans l'apprentissage continu.
Cet article propose un cadre méthodologique novateur pour construire des indicateurs composites explicables et interprétables en utilisant des règles de décision induites par l'approche des ensembles grossiers basée sur la dominance (DRSA), permettant d'expliquer les classifications ou scores de manière transparente tout en gérant les valeurs manquantes et les indicateurs continus.
Cette étude introduit le facteur de branchement comme mesure de la concentration des probabilités pour démontrer que l'alignement des grands modèles de langage réduit drastiquement la diversité de leurs générations en les orientant vers des trajectoires à faible entropie, un mécanisme que le raisonnement en chaîne exploite pour stabiliser les sorties.
Cet article propose un nouveau planificateur de guidance par recuit qui ajuste dynamiquement l'échelle de guidance dans les modèles de diffusion pour améliorer la qualité des images et leur alignement avec le texte, sans coût supplémentaire en mémoire ni en activations.
Ce papier présente Skywork-Reward-V2, une série de modèles de récompense open-source qui atteignent des performances de pointe grâce à l'utilisation du jeu de données SynPref-40M, créé via une synergie humain-IA pour curer à grande échelle des préférences de haute qualité.
Cet article présente MC-INR, un cadre novateur basé sur l'apprentissage par méta-entraînement et le regroupement dynamique pour encoder efficacement des données de simulation scientifique multivariées sur des grilles non structurées, surmontant ainsi les limitations des représentations neuronales implicites existantes.
Cet article présente EP-GAT, un réseau de neurones à attention graphique parallèle basé sur l'énergie qui améliore la classification des tendances boursières en modélisant dynamiquement les interdépendances entre les actions via une distribution de Boltzmann et en préservant les dynamiques intra-actions hiérarchiques, surpassant ainsi plusieurs méthodes de référence sur cinq jeux de données réels.
Cet article propose une nouvelle méthode de guidage sans classificateur pour les modèles de diffusion masqués, fondée sur une analyse théorique en basse dimension qui révèle que le guidage tardif améliore la qualité des échantillons et permet de corriger un déséquilibre dans les transitions, conduisant à une simple modification de code qui améliore significativement la génération d'images et de textes conditionnels.
Cet article présente les modèles de flux de jauge, une nouvelle classe de modèles génératifs intégrant un champ de jauge apprenable dans les équations différentielles ordinaires, qui surpassent significativement les modèles de flux traditionnels sur des mélanges gaussiens et promettent des performances améliorées pour diverses tâches génératives.
Cet article présente les modèles de flux de jauge supérieurs, une nouvelle classe de modèles génératifs qui étendent les modèles de jauge classiques en intégrant des algèbres L pour incorporer la géométrie et les symétries supérieures, démontrant ainsi des performances supérieures sur des mélanges gaussiens.
Cet article établit l'équivalence entre l'algorithme GPTQ et l'algorithme du plan le plus proche de Babai en démontrant que la quantisation des réseaux de neurones correspond à la résolution du problème du vecteur le plus proche dans un réseau généré par les données d'entrée, ouvrant ainsi la voie à l'utilisation de la réduction de base de réseau pour améliorer la quantisation.