4453 articles
Le papier présente Grouter, une méthode de routage préemptive qui découple l'optimisation structurelle de la mise à jour des poids en utilisant des structures distillées pour accélérer significativement l'entraînement des modèles MoE et améliorer leur convergence.
Ce papier présente T-REX, une architecture de transformateur innovante conçue pour Amazon qui améliore les recommandations de paniers d'épicerie en générant des séquences de catégories personnalisées grâce à un masquage causal et des stratégies d'échantillonnage adaptées aux achats répétitifs.
Cet article présente un protocole d'extraction de caractéristiques graphiques temporelles et causales, exempt de fuite de données, qui améliore l'interprétabilité et la détection des fraudes dans les réseaux de transactions en fournissant des signaux structurels complémentaires aux attributs transactionnels.
Cet article propose un nouveau principe d'incertitude en apprentissage automatique, analogue à celui de la physique, qui explique comment la dégénérescence des expansions de Heaviside et sigmoïdes piège les algorithmes d'optimisation dans des minima locaux, transformant ainsi des problèmes informatiques en défis physiques fondamentaux.
Cette étude démontre que la capacité des petits modèles de langage à inférer des propriétés de graphes dépend moins de leur échelle que de l'organisation des représentations des données relationnelles et des stratégies d'inférence employées.
Ce papier présente SmartBench, le premier jeu de données conçu pour évaluer la capacité des grands modèles de langage à détecter et gérer des états anormaux dans les maisons intelligentes, révélant que les modèles actuels, y compris les plus avancés, obtiennent des performances insuffisantes sur cette tâche critique.
Le papier présente HEARTS, un benchmark unifié évaluant les capacités de raisonnement hiérarchique des grands modèles de langage sur 16 jeux de données de santé réels, révélant que ces modèles sous-performent les modèles spécialisés et peinent à gérer la complexité temporelle malgré leur échelle.
Le papier présente RECAP, une stratégie d'apprentissage bio-inspirée qui associe la dynamique d'un réservoir non entraîné à une lecture auto-organisée par prototypes hebbiens pour réaliser une classification d'images robuste sans recours à la rétropropagation de l'erreur.
Cet article révèle que l'effacement par élagage des modèles de diffusion est vulnérable à une attaque de « résurrection de concept » totalement sans données ni réentraînement, car les positions des poids élagués peuvent servir de canal latéral pour restaurer les concepts supprimés, incitant ainsi à développer des mécanismes d'élagage plus sûrs qui masquent ces localisations.
Le papier présente SR-TTT, une méthode qui améliore la rétention d'informations des modèles de langage à entraînement au moment du test en acheminant dynamiquement uniquement les tokens surprenants et incompressibles vers un cache d'attention résiduel, préservant ainsi une complexité mémoire constante tout en évitant les oublis catastrophiques lors de tâches de rappel précis.
Cette revue complète définit l'apprentissage profond quantique (QDL) à travers une taxonomie de quatre paradigmes, évalue de manière critique les avantages quantiques et les compromis pratiques sur diverses plateformes matérielles, et propose une feuille de route pour son passage des démonstrations actuelles à des implémentations évolutives et tolérantes aux pannes.
Cet article propose un cadre d'apprentissage fédéré sensible à la confiance intégrant un mécanisme de filtrage adaptatif pour interpréter les stades de guérison osseuse à partir de données spectrales, permettant ainsi de sécuriser les environnements de détection médicale distribuée en atténuant l'impact des participants malveillants tout en préservant la performance du modèle.
Ce papier présente HURRI-GAN, une approche novatrice utilisant des réseaux antagonistes génératifs (GAN) pour corriger les biais des modèles physiques de simulation d'ouragans au-delà des stations de jaugeage, permettant ainsi d'accélérer les prévisions sans sacrifier la précision.
Cet article présente la descente de gradient géodésique (GGD), un algorithme d'optimisation générique et sans taux d'apprentissage qui approxime localement la géométrie de la fonction objectif par une sphère pour maintenir les trajectoires de mise à jour sur l'hypersurface, démontrant ainsi des performances supérieures à l'algorithme Adam sur divers jeux de données.
Cette étude démontre que la méthode de construction du graphe influence significativement la performance de détection des botnets IoT, le graphe de Gabriel surpassant les autres techniques avec une précision de 97,56 % lorsqu'il est couplé à un autoencodeur variationnel et un réseau de neurones à attention graphique.
Ce papier présente PAG, un nouveau cadre de recherche de voisins les plus proches approximatifs qui intègre des techniques de projection dans un index graphique pour répondre simultanément aux exigences de performance, de mémoire et d'évolutivité des applications d'IA modernes, surpassant ainsi HNSW en vitesse de requête tout en conservant une précision élevée.
Ce papier présente EnsAug, une nouvelle méthode d'apprentissage qui améliore l'analyse des mouvements humains en entraînant un ensemble de modèles spécialisés sur des transformations géométriques distinctes, surpassant ainsi les approches conventionnelles et atteignant des performances de pointe sur des tâches de reconnaissance de la langue des signes et d'activités humaines.
Le papier présente HyperTokens, une méthode utilisant un générateur de tokens et des régularisations inspirées du méta-apprentissage pour maîtriser la dynamique des tokens et réduire l'oubli dans la compréhension vidéo-linguistique continue, tout en maintenant une mémoire fixe et en améliorant les performances sur des benchmarks standards et des protocoles de transfert transmodal.
Ce papier présente ERP-RiskBench, un cadre expérimental restructuré et sécurisé contre les fuites de données pour la détection des risques financiers dans les systèmes ERP, démontrant qu'une méthode d'ensemble de type stacking offre des performances supérieures tout en fournissant une base reproductible pour l'audit et la gouvernance.
Cet article propose une méthode d'apprentissage profond non supervisée, basée sur un autoencodeur convolutif et une nouvelle fonction de perte de distance angulaire spectrale pondérée, pour décomposer automatiquement et objectivement les images hyperspectrales infrarouges de coupes transversales de peintures à l'huile historiques, comme démontré sur le Retable de Gand.