9547 articles
Ce papier présente MASPOB, un cadre d'optimisation de prompts efficace en échantillons pour les systèmes multi-agents, qui combine des bandits à confiance supérieure (UCB) et des réseaux de neurones graphiques (GNN) pour surmonter les défis de coût d'évaluation, de couplage topologique et d'explosion combinatoire.
Cet article propose un cadre de calcul hétérogène sans réentraînement qui alloue les experts sensibles au bruit et les modules d'attention à un traitement numérique, tandis que le reste des experts est exécuté sur du matériel de calcul analogique en mémoire, garantissant ainsi la robustesse et l'efficacité des modèles MoE à grande échelle.
Le papier présente SaFeR-ToolKit, une approche qui formalise la prise de décision de sécurité des modèles vision-langage en un protocole vérifiable via l'appel d'outils virtuels et un entraînement en trois étapes, améliorant ainsi significativement la sécurité et le raisonnement tout en préservant les capacités générales.
Cet article présente le jeu de données de tests de conduite de Vienne, une ressource open source à l'échelle urbaine combinant des mesures passives et actives de réseaux 4G et 5G avec des modèles géographiques détaillés pour faciliter l'apprentissage automatique, la modélisation de propagation et l'optimisation des réseaux mobiles.
Cet article propose un cadre général pour l'apprentissage fédéré avec des gradients stochastiques retardés, démontrant qu'une taille de pas décroissante prédéfinie suffit à atteindre les taux de convergence optimaux pour les objectifs convexes et non convexes, sans nécessiter de tailles de pas adaptatives.
Ce papier propose et analyse théoriquement la famille d'algorithmes HomeAdam(W), qui améliore la généralisation et la convergence des méthodes Adam et AdamW en alternant avec des étapes de descente de gradient stochastique momentum, prouvant ainsi une erreur de généralisation de l'ordre de supérieure à celle des variantes existantes.
Ce papier propose SAGE, une méthode d'inférence qui améliore la robustesse des planificateurs de diffusion en rééchantillonnant les actions grâce à un signal de cohérence dynamique appris via une architecture JEPA, sans nécessiter de réentraînement ni de rollouts environnementaux.
Le papier présente DREAM, un cadre unifié qui combine l'apprentissage de représentations visuelles et la génération d'images à partir de texte grâce à des techniques innovantes comme le réchauffement du masquage et le décodage aligné sémantiquement, permettant d'obtenir des performances supérieures à la fois en compréhension visuelle et en génération sans nécessiter de réordonnanceurs externes.
Cette présentation de SorryDB, une nouvelle base de référence dynamique pour les tâches Lean issues de projets réels, révèle que les approches actuelles de preuve assistée par IA sont complémentaires et que les modèles d'agents les plus performants ne surpassent pas systématiquement les autres méthodes existantes.
Cet article propose une décomposition fonctionnelle ANOVA exacte et efficace en forme fermée pour les modèles à entrées catégorielles, valable pour toute distribution de dépendance et permettant une généralisation naturelle des valeurs SHAP.
Cet article propose TSC-GRPO, un cadre d'apprentissage par renforcement causal qui résout la vulnérabilité des grands modèles de langage aux attaques par préfixe en ancrant l'intention malveillante via un détecteur causal et une optimisation de politique, permettant ainsi des refus robustes tout en préservant l'utilité générale.
Ce papier propose le cadre unifié UMQ, qui traite conjointement les modalités manquantes et bruyantes comme un problème unique de qualité pour améliorer la robustesse des modèles d'affectivité multimodale grâce à un estimateur de qualité, un amplificateur et un module d'experts mélangés.
Cette étude démontre que la prédiction sélective basée sur l'incertitude échoue souvent dans la classification clinique multimodale en raison d'une mauvaise calibration spécifique aux classes, masquée par les métriques d'évaluation standards et nécessitant une approche d'évaluation consciente de la calibration pour garantir la sécurité des systèmes d'IA.
Cet article présente une méthode de détection de la voix propre pour les appareils auditifs utilisant un seul microphone, qui combine des fonctions de transfert acoustiques simulées et un classificateur basé sur des transformers pour atteindre une grande précision et une bonne généralisation aux conditions réelles.
Cet article démontre que l'utilisation d'une petite initialisation dans la descente de gradient factorisée permet de récupérer avec une précision quasi optimale un tenseur de faible rang-tubal à partir de mesures bruitées, même en cas de sur-paramétrage significatif, en éliminant la dépendance de l'erreur de reconstruction vis-à-vis du rang surestimé.
Cet article présente une méthode de formation pratique pour les modèles MoE à grande échelle sur les GPU Hopper qui, grâce à une quantisation directe FP8-FP4 et une conversion adaptative, permet d'utiliser l'efficacité de la précision FP4 pour les activations et la communication sans support matériel natif, réduisant ainsi la mémoire de pic de 14,8 % et augmentant le débit de 12,5 % par rapport aux bases FP8.
Cet article propose une approche d'apprentissage par renforcement profond pour optimiser la sélection de faisceaux dans les réseaux d'accès radio mmWave multi-panneaux, permettant d'augmenter le débit utilisateur de 16 % et de réduire la latence de 3 à 7 fois par rapport aux méthodes traditionnelles.
Cet article présente BoGA, un cadre d'optimisation combinant algorithmes génétiques et optimisation bayésienne pour accélérer la conception efficace de protéines, démontré notamment par la découverte de peptides inhibant la pneumolysine.
Cet article propose un cadre de calibration stratifiée par structure (SSCF) qui améliore la généralisation de domaine des séries temporelles en distinguant les échantillons structurellement cohérents pour effectuer un alignement localisé, évitant ainsi les transferts négatifs causés par l'hétérogénéité des systèmes dynamiques sous-jacents.
Le papier présente NE-Dreamer, un agent d'apprentissage par renforcement sans décodeur qui utilise un transformateur temporel pour prédire les prochaines embeddings et ainsi apprendre des représentations d'état cohérentes, surpassant ou égalant les performances des méthodes de pointe sur des tâches complexes partiellement observables.