4044 articles
Ce papier propose une hiérarchie à cinq niveaux de la capacité d'apprentissage fondée sur la structure de l'information pour expliquer pourquoi la génération de code progresse plus fiablement que l'apprentissage par renforcement, en démontrant que les limites du progrès en ML dépendent davantage de la nature apprenable d'une tâche que de la simple augmentation de la taille des modèles.
Le papier présente LongAudio-RAG, un cadre hybride qui répond aux questions sur des enregistrements audio de plusieurs heures en ancrant les réponses d'un grand modèle de langage dans des événements acoustiques structurés et horodatés, permettant ainsi une extraction efficace en périphérie et un raisonnement de haute qualité dans le cloud.
Le papier propose DKP-PC, une variante accélérée et évolutive du codage prédictif qui utilise des connexions de rétroaction directes pour éliminer les délais de propagation et la décroissance exponentielle des signaux d'erreur, tout en préservant la localité des mises à jour et en surpassant les performances des méthodes standard.
Cet article démontre que, dans le cadre de l'apprentissage de représentations partagées sur des sources linéaires, une sélection stratégique d'un sous-ensemble de sources informatives permet d'atteindre l'optimalité minimax pour l'estimation du sous-espace commun, même en rejetant une partie substantielle des données.
Le papier présente EC-Net, un cadre de modèle d'hypergraphe hyperbolique qui utilise des embeddings dans un disque de Poincaré et un apprentissage contrastif pour améliorer la robustesse et la précision de la compréhension des émotions multimodales, en particulier dans des conditions de bruit ou de données partielles.
Ce papier présente ModalImmune, un cadre d'entraînement qui renforce la robustesse des systèmes multimodaux face à la perte ou la corruption de canaux d'entrée en apprenant intentionnellement à s'adapter à la destruction sélective d'informations modales grâce à des mécanismes de régularisation et d'adaptation automatique.
Cette étude présente le FlyGM, un modèle de graphe connectomique du cerveau entier de la drosophile qui, intégré à un modèle biomécanique, permet un contrôle efficace et échantillonné de la locomotion corporelle complète sans ajustement architectural spécifique.
Cet article propose un cadre pour la certification opérationnelle des prédicteurs conformes au-delà de la simple couverture marginale, en introduisant des méthodes comme la correction bêta à petit échantillon et l'audit par calibration pour garantir des limites de confiance finies sur des métriques critiques telles que la fréquence de décision et l'exposition aux erreurs.
Cet article démontre que les architectures apprenant des opérateurs équivariants dans un espace latent peuvent améliorer la reconnaissance d'objets face à des transformations symétriques inédites sur des données MNIST, tout en soulignant les défis restants pour leur passage à l'échelle sur des ensembles de données plus complexes.
Cet article propose un benchmark multi-KPI sur l'environnement CityLearn pour évaluer les algorithmes d'apprentissage par renforcement multi-agents (MARL) dans la gestion de l'énergie urbaine, démontrant que l'entraînement décentralisé surpasse l'entraînement centralisé et que l'apprentissage des dépendances temporelles améliore la durabilité des batteries.
Ce papier présente RAmmStein, une méthode d'apprentissage par renforcement profond qui résout le problème de contrôle impulsionnel de la fourniture de liquidité concentrée en optimisant le moment des rééquilibrages grâce à la détection de régimes de marché, permettant ainsi de maximiser le retour sur investissement tout en réduisant drastiquement les coûts de transaction par rapport aux stratégies heuristiques existantes.
Cette étude présente un benchmark systématique de quatre architectures de GNN sur des tâches de régression moléculaire, démontrant qu'une approche de fusion hiérarchique combinant GNN et empreintes moléculaires surpasse les modèles individuels, tout en révélant via l'analyse CKA que les représentations apprises par les GNN et les empreintes occupent des espaces latents largement indépendants.
Le papier présente MrBERT, une famille d'encodeurs multilingues modernes optimisés pour des tâches spécifiques en catalan et en espagnol ainsi que pour des domaines spécialisés comme le juridique et le biomédical, tout en intégrant l'apprentissage de représentations matryoshka pour réduire les coûts d'inférence et de stockage.
Le papier présente AVDE, un cadre léger et efficace qui utilise un modèle autoregressif basé sur la prédiction de tokens multi-échelles pour décoder des images à partir de signaux EEG, surpassant les méthodes actuelles en précision et en efficacité tout en reflétant la hiérarchie de la perception visuelle humaine.
Le papier présente CeRA, une méthode d'adaptation à faible rang qui surpasse les limites linéaires de LoRA en utilisant des portées SiLU et un dropout structurel pour étendre le manifold et activer la queue du spectre des valeurs singulières, permettant ainsi d'atteindre de meilleures performances de raisonnement avec des rangs bien inférieurs.
Ce papier présente une méthode augmentant la pertinence de la recherche sur l'App Store en générant des millions d'étiquettes de pertinence textuelle via un modèle de langage spécialisé, ce qui améliore significativement les métriques hors ligne et le taux de conversion lors d'un test A/B mondial, en particulier pour les requêtes peu fréquentes.
Cet article présente le premier simulateur de détecteurs de particules optiques entièrement différentiable, permettant une calibration et une reconstruction simultanées par optimisation basée sur le gradient qui surpassent ou égalent les méthodes conventionnelles tout en simplifiant les pipelines d'analyse.
Ce papier présente Attn-QAT, la première étude systématique de l'entraînement sensible à la quantification (QAT) pour l'attention en 4 bits, qui surmonte les instabilités d'entraînement en corrigeant les hypothèses de précision implicites et en permettant une accélération jusqu'à 1,5x sur les GPU RTX 5090 sans heuristiques de mitigation des valeurs aberrantes.
Cet article établit que des partitions de volumes inégaux permettent de générer des ensembles de points par échantillonnage stratifié dont la discrépance étoile attendue est inférieure à celle de l'échantillonnage jittered classique, tout en fournissant de nouvelles bornes supérieures explicites qui renforcent la base théorique de l'intégration numérique en haute dimension.
Cet article présente un cadre reproductible pour évaluer le raisonnement des modèles multimodaux sur les signaux ECG en décomposant l'analyse en perception (vérification par code des structures temporelles) et déduction (alignement logique avec des critères cliniques structurés), permettant ainsi une évaluation scalable de la validité des traces de raisonnement.