5159 articles
Cette article présente un pipeline d'apprentissage actif en deux étapes pour la reconnaissance automatique de la parole, combinant le clustering d'x-vectors pour la diversité et une méthode bayésienne basée sur le dropout Monte Carlo pour l'information, afin d'optimiser l'entraînement des modèles avec moins de données étiquetées.
Ce travail présente une revue complète et une spécification formelle des réseaux de codage prédictif, un cadre inspiré des neurosciences qui utilise l'apprentissage par inférence comme alternative biologiquement plausible et potentiellement plus efficace à la rétropropagation, tout en offrant une approche unifiée pour l'apprentissage supervisé et génératif.
Cet article soutient que les grands modèles de langage, bien qu'ils ne possèdent pas d'agence autonome car ils échouent à satisfaire les conditions d'individualité, de normativité et d'asymétrie interactionnelle requises par les théories incarnées de l'esprit, doivent être définis comme des interlocuteurs linguistiques qui, par leur couplage avec les humains, transforment profondément les formes d'agence existantes en produisant des modalités d'agence « intermédiaires » (midtended) dépassant la simple instrumentalité étendue.
Le papier présente PACE, une méthode de fine-tuning efficace en paramètres qui améliore la généralisation des modèles en réduisant les normes des gradients et en assurant la cohérence des modèles via une régularisation par bruit multiplicatif, surpassant ainsi les approches existantes sur diverses tâches visuelles et textuelles.
Le papier présente FALCON, une méthode d'apprentissage auto-supervisé unifiée pour la reconnaissance d'actions par drone, qui surmonte les déséquilibres spatiaux des vidéos aériennes en intégrant un masquage centré sur les objets et une reconstruction du futur à double horizon pour améliorer la précision et la vitesse d'inférence.
Cet article propose une méthode d'apprentissage auto-supervisé basée sur l'auto-cohérence et un réseau léger pour reconstruire efficacement des données sismiques irrégulières sans nécessiter de jeux de données supplémentaires.
Le papier présente Ditto, un cadre de synthèse de têtes parlantes basé sur la diffusion qui permet un contrôle fin et une inférence en temps réel en générant des représentations dans un espace de mouvement spécifique tout en optimisant l'architecture pour résoudre les problèmes de désentanglement et de latence.
Cet article propose des variantes parcimonieuses des machines à vecteurs de support sur des surfaces quadratiques (QSVM) en imposant une contrainte de cardinalité via la norme , et développe un algorithme de décomposition de pénalité efficace pour résoudre ce problème d'optimisation complexe tout en démontrant la supériorité du modèle sur des données de crédit réelles.
Ce rapport de synthèse présente une vue d'ensemble structurée des techniques, des ensembles de données et des enjeux éthiques liés à l'utilisation des grands modèles de langage pour assister les chercheurs dans l'ensemble du cycle scientifique, de la découverte et l'expérimentation à la génération de contenu multimodal et à l'évaluation.
Ce papier présente FragFM, un cadre hiérarchique innovant basé sur l'appariement de flux discret au niveau des fragments pour générer efficacement des graphes moléculaires avec un meilleur contrôle des propriétés, tout en introduisant le benchmark NPGen pour évaluer la génération de produits naturels.
Ce papier présente SysDPO, un cadre innovant qui étend l'optimisation directe des préférences (DPO) pour aligner les systèmes d'IA composés, modélisés comme des graphes acycliques dirigés, en surmontant les défis liés aux interactions non différentiables et à l'alignement au niveau du système.
Cet article examine la robustesse des classificateurs quantiques partitionnés face aux perturbations adverses ciblant le découpage de circuits ou la téléportation, en établissant un lien théorique et expérimental entre ces attaques et l'implémentation de portes adverses au sein des couches intermédiaires du modèle.
Ce papier présente CAPS, une méthode de rééchantillonnage prioritaire contextuel utilisant des VQ-VAE pour équilibrer les données d'apprentissage par imitation et améliorer la généralisation des systèmes de conduite autonome dans le simulateur CARLA.
Cette étude démontre que, bien que les modèles de langage (LLM) présentent un certain potentiel pour la prévision de séries temporelles, leur performance reste limitée et ne surpasse pas systématiquement celle des modèles spécifiquement entraînés sur de vastes ensembles de données temporelles, une conclusion rendue possible par une méthodologie contrôlée visant à éliminer les biais introduits par les coupleurs de tokenisation.
En adoptant une approche centrée sur les survivants, cette étude expose l'écosystème technique malveillant facilitant la création d'images intimes non consensuelles générées par l'IA et démontre l'inefficacité des cadres de gouvernance actuels, tels que le rapport NIST AI 100-4, pour réguler ce phénomène.
Ce document de synthèse présente une vue d'ensemble complète de l'apprentissage fédéré, en détaillant son architecture, ses défis techniques majeurs tels que l'hétérogénéité des données et la confidentialité, ainsi que ses applications émergentes et ses perspectives de recherche futures.
Cet article présente FourierSpecNet, une méthode hybride combinant la méthode spectrale de Fourier et l'apprentissage profond pour approximer efficacement l'opérateur de collision de l'équation de Boltzmann avec une précision compétitive et une réduction significative des coûts de calcul, tout en garantissant la convergence vers la solution spectrale.
Cet article propose une architecture innovante de Réseau de Neurones à Graphes Hétérogènes (HGNN) intégrant l'élagage de graphes et l'apprentissage multi-tâches pour améliorer de manière scalable la reconstruction des événements de collision de particules, notamment celle des hadrons beaux, dans des conditions similaires à celles de l'expérience LHCb.
Le papier présente RM-R1, une nouvelle classe de modèles de récompense génératifs qui améliorent l'interprétabilité et les performances en traitant la modélisation de la récompense comme un tâche de raisonnement via un mécanisme de « chaîne de critères » et un pipeline d'entraînement combinant distillation et apprentissage par renforcement.
Cet article propose une variante de la descente de miroir entropique avec un pas de type Polyak pour résoudre des systèmes linéaires sans hypothèses restrictives, établissant ainsi des résultats de convergence et en renforçant les bornes sur le biais implicite en norme .