6125 articles
Cette étude démontre que le micro-benchmarking des modèles de langage est souvent peu fiable pour classer des modèles aux performances proches, révélant que des échantillons aléatoires peuvent être aussi efficaces que des méthodes sophistiquées et que des tailles d'échantillons beaucoup plus grandes sont nécessaires pour garantir une évaluation précise.
Le papier présente CanvasMAR, un modèle de prédiction vidéo autorégressif novateur qui améliore la qualité et la cohérence de la génération avec peu d'étapes en introduisant un « canevas » global flou comme prior structuré, complété par un curriculum d'apprentissage facile-difficile et un guidage conditionnel composite.
Cet article démontre théoriquement et expérimentalement que l'intégration d'un vérificateur externe dans le processus de réentraînement sur des données synthétiques permet d'éviter l'effondrement du modèle et d'obtenir des améliorations à court terme, bien que la convergence à long terme soit limitée par la fiabilité de ce vérificateur.
Cet article propose une nouvelle méthode de vérification par intervalles pour les équations différentielles ordinaires neuronales, exploitant la monotonie mixte pour offrir une analyse de reachability efficace et sûre, idéale pour les applications critiques en temps réel malgré un compromis sur la précision.
Cet article présente un cadre d'apprentissage en temps réel utilisant une décomposition modale dynamique de Hankel modifiée pour débruiter et prédire les trajectoires d'agents dynamiques à partir de données partielles et bruitées, permettant ainsi une planification de mouvement robotique plus sûre et adaptative.
Le papier présente KLASS, une méthode d'échantillonnage adaptative qui accélère significativement l'inférence des modèles de diffusion masqués en dévoilant plusieurs tokens à chaque itération grâce à la divergence KL, tout en améliorant la qualité des résultats sur divers domaines tels que le texte, l'image et les molécules.
Ce papier propose le CADM, une métrique de distance adaptative et personnalisée par cluster pour le regroupement de données catégorielles et mixtes, qui améliore les performances en ajustant dynamiquement les distances en fonction des distributions spécifiques de chaque cluster.
Ce papier présente FireScope, un cadre de modélisation basé sur les grands modèles de langage visuel qui intègre un raisonnement de type « chaîne de pensée » pour prédire les risques d'incendie avec une meilleure généralisation intercontinentale et une interprétabilité accrue, soutenu par le nouveau benchmark FireScope-Bench.
Ce papier présente EgoCogNav, un cadre de navigation égocentrique multimodal qui intègre l'incertitude perçue comme état latent pour prédire les trajectoires et les mouvements de tête, accompagné d'un nouveau jeu de données CEN pour capturer les comportements de navigation humains réalistes.
Le papier propose SPINE, une méthode d'apprentissage par renforcement à l'inférence qui améliore la stabilité et les performances des modèles de raisonnement en sélectionnant sélectivement les tokens critiques pour les mises à jour et en appliquant une régularisation par bande d'entropie, évitant ainsi l'effondrement des réponses sans nécessiter d'étiquettes ni de modèles de récompense.
Le papier présente DAISI, un algorithme d'assimilation de données évolutif basé sur des modèles génératifs par flot, qui surpasse les méthodes classiques dans les systèmes non linéaires en intégrant des prévisions via un échantillonnage inverse et en assimilant des observations par guidage sans nécessiter de réentraînement du prior.
Ce papier propose SQDF, une nouvelle méthode d'alignement par apprentissage par renforcement régularisé KL pour les modèles de diffusion, qui utilise un gradient de politique reparamétré basé sur une fonction Q douce pour surmonter le problème de sur-optimisation de la récompense tout en préservant la diversité et la naturalité des échantillons générés.
En proposant une méthode qui approxime une distribution cible par filtrage des réponses incorrectes via la famille des divergences , cette étude surmonte la perte de diversité des modèles de langage entraînés par apprentissage par renforcement, permettant d'atteindre un état de l'art sur le front de Pareto précision-coverage pour la preuve de théorèmes.
Ce papier présente A-3PO, une méthode qui accélère l'entraînement asynchrone des grands modèles de langage en approximant la politique proximale par interpolation simple pour éliminer le surcoût computationnel des passes avant supplémentaires, tout en maintenant des performances comparables.
Le papier présente DFIR-DETR, un détecteur transformer innovant qui améliore la détection d'objets de petite taille dans des scènes complexes grâce à une agrégation dynamique de caractéristiques, une pyramide de fonctionnalités préservant la norme et un raffinement itératif dans le domaine fréquentiel, permettant d'atteindre des performances de pointe avec une efficacité computationnelle optimisée.
Cet article présente une méthode de visualisation en deux dimensions utilisant des projections de RMSD corrigées par permutation et un modèle de processus gaussien pour cartographier les trajectoires de réactions chimiques, permettant ainsi de comparer et valider les chemins réactionnels au-delà des réductions dimensionnelles traditionnelles.
Cet article propose un cadre novateur combinant la sélection de sous-ensembles submodulaire et l'estimation d'incertitude pour améliorer la robustesse et la fidélité des explications visuelles face aux décalages de distribution, sans nécessiter de réentraînement des modèles.
Cet article propose une nouvelle métrique de sensibilité globale basée sur les courbes d'attente conditionnelle individuelle (ICE) pour améliorer l'interprétabilité des modèles d'apprentissage automatique en ingénierie, en surmontant les limites des graphiques de dépendance partielle (PDP) face aux interactions fortes entre variables.
Cette étude propose une nouvelle approche d'analyse topologique des données (TDA) basée sur des patches pour l'imagerie tomodensitométrique (CT) volumétrique, qui surpasse les méthodes traditionnelles en termes de précision de classification et de temps de calcul tout en étant accompagnée d'une bibliothèque Python dédiée.
Cet article présente Hyper++, un agent d'apprentissage par renforcement profond en géométrie hyperbolique qui surmonte les défis d'optimisation grâce à une régularisation des caractéristiques, une fonction de perte catégorielle et une formulation de couches améliorée, garantissant ainsi une stabilité d'apprentissage et des performances supérieures sur les benchmarks ProcGen et Atari-5.