5718 articles
Le papier présente Mousse, un nouvel optimiseur qui améliore l'algorithme Muon en intégrant une estimation de la courbure via Shampoo pour adapter les mises à jour spectrales aux paysages d'optimisation anisotropes des réseaux de neurones, réduisant ainsi le nombre d'étapes d'entraînement d'environ 12 % avec un surcoût computationnel négligeable.
Ce papier présente OOD-MMSafe, un nouveau benchmark évaluant la sécurité des modèles multimodaux face aux conséquences cachées plutôt qu'aux intentions malveillantes, et propose le cadre CASPO pour réduire drastiquement les échecs de détection des risques latents.
Le papier présente MUGEN, une nouvelle référence évaluant la compréhension multi-audio des grands modèles audio-langage, révélant leurs limites face à l'augmentation du nombre d'entrées et démontrant que des stratégies d'inférence comme la cohérence auto-permutative et le raisonnement en chaîne améliorent significativement leurs performances.
Ce papier présente CVS, une méthode de sélection de données sans entraînement qui identifie les échantillons nécessitant un raisonnement conjoint vision-langage en mesurant l'impact de la question sur la validité d'une réponse, permettant ainsi d'améliorer les performances des modèles tout en réduisant les coûts computationnels.
Le papier présente AutoAgent, un cadre multi-agents auto-évoluant qui intègre une cognition évolutive, une prise de décision contextuelle en temps réel et une orchestration de mémoire élastique pour surmonter les limites des agents autonomes statiques et améliorer leur adaptabilité dans des environnements dynamiques.
Ce papier propose RbtAct, une méthode qui utilise les réactions des auteurs lors des révisions (rebuttals) comme supervision implicite pour entraîner un modèle à générer des critiques de recherche plus concrètes et exploitables, soutenue par un nouveau jeu de données RMR-75K et une tâche de génération de feedback conditionnée par la perspective.
Ce papier présente EXPLORE-Bench, un nouveau benchmark évaluant la capacité des modèles de langage multimodaux à prédire les scènes finales d'actions à long terme dans des vidéos à la première personne, révélant ainsi un écart significatif par rapport aux performances humaines et l'importance du raisonnement étape par étape.
Ce papier propose une méthode efficace de personnalisation des modèles vision-langage qui exploite les mécanismes d'attention internes pour extraire des tokens visuels mémorisant des concepts spécifiques, permettant ainsi une adaptation performante sans étapes d'entraînement supplémentaires.
Le papier présente World2Mind, une boîte à outils d'intelligence spatiale sans entraînement qui améliore le raisonnement allocentrique des modèles fondationnels en construisant des cartes cognitives structurées et un arbre spatial allocentrique, permettant même aux modèles purement textuels d'atteindre des performances proches de celles des modèles multimodaux avancés.
Cette étude démontre que l'inférence basée sur la simulation (SBI) est une méthode prometteuse pour affiner les paramètres des modèles d'interactions neutrino-noyau, surpassant légèrement les réglages empiriques existants du générateur GENIE et permettant même une approximation équitable d'un autre simulateur, NuWro.
Ce papier formalise le concept de « profondeur sérielle opaque » pour quantifier les limites du raisonnement interne des modèles de langage, propose une méthode automatisée pour calculer cette métrique et démontre que la chaîne de pensée est essentielle pour les architectures Transformer afin d'externaliser des raisonnements complexes.
Cet article propose un cadre hybride quantique-classique combinant un réseau LSTM et une machine de naissance de circuit quantique (QCBM) pour améliorer la prévision de la volatilité financière, démontrant des performances supérieures aux modèles purement classiques sur des données réelles du marché chinois.
Ce papier propose un schéma d'apprentissage fractionné adaptatif (ACP-SL) qui réduit la surcharge de communication en élaguant dynamiquement les canaux peu importants grâce à un score d'importance basé sur les étiquettes, tout en améliorant la précision et en accélérant la convergence.
Ce papier présente MITRA, un assistant IA basé sur la génération augmentée par récupération (RAG) et hébergé localement pour garantir la confidentialité, conçu afin d'aider les chercheurs des collaborations physiques à naviguer efficacement dans la vaste documentation interne en utilisant un pipeline automatisé d'extraction de texte et une architecture de base de données vectorielle à deux niveaux.
Ce papier présente le « pseudo-projecteur », une modification légère inspirée du paradigme multigrille qui corrige les représentations cachées des modèles basés sur les transformateurs pour réduire leur sensibilité au bruit et améliorer la dynamique d'entraînement, sans altérer leur architecture de base.
Cet article présente MA-EgoQA, un nouveau benchmark et une tâche de question-réponse conçus pour évaluer la capacité des modèles à comprendre et à agréger des flux vidéo égocentriques provenant de multiples agents incarnés, révélant ainsi les limites actuelles des approches dans ce domaine.
Ce papier présente SCENEBench, une nouvelle suite de benchmarks conçue pour évaluer la compréhension audio des grands modèles linguistiques au-delà de la reconnaissance de la parole, en se concentrant sur des cas d'usage réels liés à l'accessibilité et à l'industrie, tout en révélant des lacunes critiques dans les performances actuelles des modèles.
Ce papier présente HR-GAT, un modèle de réseau d'attention graphique hiérarchique qui améliore la prédiction de la demande en spectre radioélectrique de 21 % par rapport aux modèles existants en exploitant des données géospatiales pour gérer efficacement les motifs spatiaux complexes.
Cet article présente le cadre DAPL, une méthode d'apprentissage par renforcement qui modélise explicitement les dynamiques induites par les contacts pour permettre à un robot d'acquérir une dextérité extrinsèque efficace dans des scènes encombrées, surpassant ainsi les approches existantes tant en simulation que dans le monde réel.
Cet article propose une nouvelle méthode d'apprentissage continu appelée LCA (Local Classifier Alignment), qui introduit une fonction de perte pour aligner les classifieurs spécifiques aux tâches avec le modèle de base, permettant ainsi de réduire l'oubli catastrophique et d'obtenir des performances supérieures aux méthodes actuelles sur plusieurs benchmarks.