4975 articles
Ce papier présente A-3PO, une méthode qui accélère l'entraînement asynchrone des grands modèles de langage en approximant la politique proximale par interpolation simple pour éliminer le surcoût computationnel des passes avant supplémentaires, tout en maintenant des performances comparables.
Le papier présente DFIR-DETR, un détecteur transformer innovant qui améliore la détection d'objets de petite taille dans des scènes complexes grâce à une agrégation dynamique de caractéristiques, une pyramide de fonctionnalités préservant la norme et un raffinement itératif dans le domaine fréquentiel, permettant d'atteindre des performances de pointe avec une efficacité computationnelle optimisée.
Cet article présente une méthode de visualisation en deux dimensions utilisant des projections de RMSD corrigées par permutation et un modèle de processus gaussien pour cartographier les trajectoires de réactions chimiques, permettant ainsi de comparer et valider les chemins réactionnels au-delà des réductions dimensionnelles traditionnelles.
Cet article propose un cadre novateur combinant la sélection de sous-ensembles submodulaire et l'estimation d'incertitude pour améliorer la robustesse et la fidélité des explications visuelles face aux décalages de distribution, sans nécessiter de réentraînement des modèles.
Cet article propose une nouvelle métrique de sensibilité globale basée sur les courbes d'attente conditionnelle individuelle (ICE) pour améliorer l'interprétabilité des modèles d'apprentissage automatique en ingénierie, en surmontant les limites des graphiques de dépendance partielle (PDP) face aux interactions fortes entre variables.
Cette étude propose une nouvelle approche d'analyse topologique des données (TDA) basée sur des patches pour l'imagerie tomodensitométrique (CT) volumétrique, qui surpasse les méthodes traditionnelles en termes de précision de classification et de temps de calcul tout en étant accompagnée d'une bibliothèque Python dédiée.
Cet article présente Hyper++, un agent d'apprentissage par renforcement profond en géométrie hyperbolique qui surmonte les défis d'optimisation grâce à une régularisation des caractéristiques, une fonction de perte catégorielle et une formulation de couches améliorée, garantissant ainsi une stabilité d'apprentissage et des performances supérieures sur les benchmarks ProcGen et Atari-5.
Le papier présente CARE, un cadre d'entraînement postérieur centré sur les échecs pour le raisonnement multimodal qui transforme les erreurs en signaux d'apprentissage exploitables grâce à un objectif contrastif ancré et à un échantillonnage guidé par la réflexion, améliorant ainsi significativement la précision et la stabilité de l'entraînement sur des modèles de vision-linguistique.
Ce papier présente LLMTM, un benchmark complet pour évaluer les LLMs sur l'analyse de motifs temporels dans les graphes dynamiques, et propose un agent augmenté par des outils ainsi qu'un répartiteur intelligent pour optimiser le compromis entre précision et coût.
Le papier présente MDENeRF, un cadre itératif bayésien qui affine les estimations de profondeur monoculaire en fusionnant une structure globale avec des détails géométriques fins dérivés de l'incertitude des Champs de Radiance Neuronaux (NeRF).
Cet article propose un cadre de reconnaissance automatique de la parole audiovisuelle (AVSR) robuste au bruit qui, en éliminant les masques explicites et en utilisant une fusion de type Conformer assistée par la vidéo, améliore les performances de reconnaissance dans des environnements bruyants tout en préservant l'intégrité sémantique de la parole.
Cet article propose une méthode d'adaptation de domaine sans supervision qui génère des représentations invariantes aux domaines en interprétant les plans de transport optimal lissés comme des matrices d'adjacence de graphes bipartis pour en extraire des embeddings spectraux, démontrant ainsi son efficacité sur des tâches de reconnaissance audio et de détection de défauts électriques.
Ce papier présente une méthode robuste pour implémenter des réseaux de neurones optiques utilisant uniquement des ressources linéaires et des états cohérents, permettant un apprentissage et une inférence *in situ* efficaces tout en démontrant une grande résilience face aux pertes de photons.
Les auteurs proposent CELM, le premier modèle fondamental multimodal capable de générer automatiquement des rapports cliniques détaillés à partir d'enregistrements EEG de longue durée, en obtenant des améliorations significatives par rapport aux méthodes existantes grâce à l'intégration de modèles de langage et de signaux neuronaux pré-entraînés.
Les auteurs présentent une architecture de réseau neuromorphique photonique profond entièrement optique qui permet un apprentissage non supervisé en ligne via un mécanisme de rétroaction locale et des synapses à base de matériaux à changement de phase, démontrant expérimentalement une reconnaissance de lettres à 100 % sans conversions opto-électroniques.
Le papier présente ZK-HybridFL, un cadre d'apprentissage fédéré décentralisé sécurisé qui combine un registre DAG, des sidechains et des preuves à divulgation nulle de connaissance pour valider les mises à jour de modèles sans compromettre la confidentialité des données, tout en offrant une convergence plus rapide, une meilleure précision et une robustesse accrue face aux attaques par rapport aux solutions existantes.
Ce papier propose l'EDIS, une métrique diagnostique basée sur l'évolution temporelle de l'entropie des tokens, qui permet d'identifier les schémas d'instabilité caractéristiques des erreurs de raisonnement dans les grands modèles de langage pour améliorer leur précision.
Cet article propose la Décodage d'Exploration Latente (LED), une stratégie de décodage sans entraînement qui exploite l'asymétrie d'entropie entre les couches intermédiaires et finales des modèles de raisonnement pour restaurer l'exploration et améliorer les performances de raisonnement.
Cette étude présente un pipeline de red-team automatique qui démontre, pour la première fois, que les méthodes d'audit d'alignement actuelles, tant en boîte noire qu'en boîte blanche, peuvent être trompées par des stratégies de déception au niveau des invites, révélant ainsi leur manque de robustesse face à des modèles mal alignés et stratégiquement conscients.
L'article propose LaPha, une méthode entraînant des agents LLM de type AlphaZero dans un espace latent de Poincaré pour exploiter sa capacité exponentielle et guider la recherche par des récompenses basées sur la géodésique hyperbolique, permettant ainsi d'atteindre des performances exceptionnelles sur des benchmarks mathématiques comme MATH-500 et AIME.