5333 articles
Le papier propose FLoRG, un cadre d'apprentissage fédéré qui améliore l'efficacité du fine-tuning des grands modèles de langage en agrégeant une matrice de Gram à faible rang unique et en utilisant une alignement de Procruste pour éliminer les erreurs d'agrégation et la dérive de décomposition, réduisant ainsi considérablement la surcharge de communication tout en augmentant la précision des tâches.
Le papier présente CoSiNE, un modèle d'évolution neuronale conditionnellement indépendant du site qui combine la puissance des réseaux de neurones avec les dynamiques évolutives pour prédire les effets des variants d'anticorps et optimiser leur affinité de liaison, surpassant ainsi les modèles de langage actuels.
Cette étude démontre, grâce à une validation autonome de 141 hypothèses, que les modèles de fondation biologiques apprennent une structure géométrique et topologique réelle et partagée, bien que localisée principalement dans les tissus immunitaires, qui dépasse la simple métrique euclidienne pour capturer des relations biologiques significatives.
Ce papier présente EMPO², un cadre d'apprentissage par renforcement hybride intégrant une mémoire pour l'exploration et combinant des mises à jour on- et off-policy, qui améliore significativement les performances et l'adaptabilité des agents LLM sur des tâches complexes et hors distribution.
Cet article démontre que l'effondrement de modalité dans les LLM multimodaux résulte d'un décodage inadapté où la perte d'information est limitée par la divergence distributionnelle et la sensibilité du modèle, prouvant que l'objectif d'entraînement, et non l'architecture, détermine quelles informations non textuelles deviennent accessibles.
Cet article propose un pipeline Web-Knowledge-Web itératif qui combine l'extraction de connaissances par LLM et l'estimation de couverture écologique pour découvrir de manière efficace et précise les PME du secteur de l'équipement semi-conducteur, en réduisant significativement le nombre de pages nécessaires par rapport aux méthodes de base.
Ce papier propose un cadre théorique établissant l'équivalence entre les mises à jour de poids et les décalages d'activation, permettant de concevoir une méthode de « post-block steering » qui atteint des performances proches du réglage fin complet avec une fraction infime de paramètres, tout en surpassant les méthodes d'adaptation existantes grâce à une approche d'adaptation conjointe.
Cet article propose une décomposition fonctionnelle en anneau de tenseurs reparamétrée, utilisant des représentations neuronales implicites et une analyse fréquentielle pour améliorer la récupération de données multidimensionnelles continues, surpassant ainsi les méthodes existantes dans des tâches telles que l'inpainting et la super-résolution.
Cet article propose un cadre acoustique compact combinant un encodeur CNN multi-branches, une unité de mémoire Legendre (LMU) pour la modélisation temporelle efficace et une fusion d'ensemble postérieure calibrée, afin d'améliorer la classification des cris de nourrissons dans des scénarios inter-domaines malgré les défis liés aux signaux non stationnaires et aux décalages de distribution.
Ce papier présente Whisper-RIR-Mega, un nouveau jeu de données apparié de parole propre et réverbérée basé sur LibriSpeech et le corpus RIR-Mega, conçu pour évaluer et améliorer la robustesse des modèles de reconnaissance automatique de la parole face aux acoustiques de salle.
Le papier présente RigidSSL, un cadre d'apprentissage auto-supervisé géométrique qui améliore la conception de protéines et la modélisation des ensembles conformationnels en apprenant des priorités géométriques rigides via des perturbations simulées et des trajectoires de dynamique moléculaire, surpassant ainsi les méthodes existantes en termes de capacité de conception, de diversité et de réalisme biophysique.
Le papier présente mlx-vis, une bibliothèque Python open source exploitant l'accélération GPU d'Apple Silicon via MLX pour exécuter efficacement six méthodes de réduction de dimensionnalité et un rendu visuel animé sans dépendre de Matplotlib.
Ce papier propose Traversal-as-Policy, une méthode qui transforme les logs d'exécution OpenHands en arbres de comportement à portes (GBT) exécutables pour remplacer la génération de politique implicite par une navigation contrôlée et vérifiable, améliorant ainsi considérablement le taux de réussite, la sécurité et l'efficacité des agents LLM sur des tâches complexes.
Cet article propose un cadre d'entraînement régularisé pour contrôler la fuite d'information compositionnelle dans les systèmes séquentiels multi-agents LLM, démontrant que la confidentialité doit être traitée comme une propriété systémique plutôt que locale.
Le papier présente RoboLayout, une extension de LayoutVLM qui intègre des contraintes de reachabilité dans un processus d'optimisation différentiable pour générer des scènes 3D sémantiquement cohérentes et physiquement réalisables par divers agents incarnés.
Cet article propose un cadre multimodal innovant combinant un Transformer à injection clinique et un auto-encodeur masqué adapté au domaine pour prédire avec une grande précision le pronostic de la néphropathie lupique pédiatrique à partir de biopsies standardisées et de données cliniques.
Cet article présente JAWS, une méthode de régularisation probabiliste adaptative spatialement qui améliore la stabilité à long terme et la fidélité des chocs des opérateurs neuronaux en modulant dynamiquement la contrainte de contraction selon la complexité physique locale, permettant ainsi une optimisation de trajectoire efficace en mémoire.
VDCook est une plateforme auto-évolutive qui permet aux chercheurs de générer et de mettre à jour continuellement des ensembles de données vidéo spécialisés pour les modèles multimodaux via des requêtes en langage naturel, en combinant récupération de vidéos réelles et synthèse contrôlée.
Cet article établit un cadre théorique unifié pour le décodage contraint par grammaire, démontrant que l'équivalence linguistique n'implique pas l'efficacité computationnelle et prouvant que la complexité structurelle inhérente à certaines grammaires impose des bornes inférieures incompressibles sur le coût de décodage, tout en fournissant des métriques d'optimisation et des garanties de distorsion pour les architectures de modèles de langage modernes.
Cet article propose une réorganisation algébrique intuitive de la décomposition de la covariance de Yates pour le score de Brier, décomposant l'erreur de prévision probabiliste en trois termes non négatifs qui rendent transparentes les conditions d'optimalité : l'adéquation de la variance, la corrélation parfaite et la calibration globale.