11971 articles
Cet article démontre que les réseaux de neurones à profondeur constante dotés d'activations lisses atteignent des taux d'erreur optimaux pour l'approximation et l'estimation de fonctions de Sobolev en ajustant uniquement leur largeur, offrant ainsi une adaptabilité à la régularité que les activations non lisses comme ReLU ne peuvent garantir sans augmenter la profondeur.
Cet article présente P-PINN, un cadre de pruning sélectif qui améliore la robustesse des réseaux de neurones informés par la physique (PINNs) face au bruit en identifiant et en éliminant itérativement les neurones sensibles aux données corrompues, permettant ainsi d'obtenir une précision et une stabilité supérieures lors de la résolution de problèmes inverses d'équations aux dérivées partielles.
Le papier présente QuantVLA, une méthode de quantification post-entraînement sans réapprentissage qui permet de déployer efficacement des modèles vision-langage-action sur des dispositifs contraints en réduisant la mémoire de 70 % tout en surpassant les performances des modèles en précision complète.
Cet article propose le sBayFDNN, un modèle d'apprentissage profond bayésien parcimonieux qui combine la capacité d'approximation non linéaire des réseaux de neurones avec une sélection de régions structurée et interprétable, tout en établissant les premières garanties théoriques de consistance pour ce type de modèle fonctionnel.
Cet article propose un modèle de diffusion quantique chaotique qui utilise l'évolution temporelle sous un Hamiltonien chaotique pour apprendre efficacement des distributions de données quantiques sur du matériel analogique, en surmontant les limitations de coût et de sensibilité des modèles de diffusion quantique traditionnels basés sur des circuits.
En réinterprétant les transformers dans un cadre probabiliste, cet article révèle l'existence de « tokens de support » et de marges de stabilité, conduisant à une méthode d'entraînement bayésienne simple qui améliore la robustesse des LLM grâce à une pénalité de barrière logarithmique.
Le papier présente BrepCoder, un modèle de langage multimodal unifié qui traite les représentations de limites (B-rep) comme du code pour effectuer diverses tâches de conception assistée par ordinateur grâce à une stratégie d'entraînement en deux étapes.
Le papier présente OmniZip, un compresseur sans perte unifié et léger capable de traiter divers types de données multimodales grâce à une architecture innovante, surpassant les méthodes existantes tout en permettant une inférence en temps réel sur des appareils à ressources limitées.
Cette étude propose un cadre d'apprentissage automatique interprétable, utilisant des modèles de type LightGBM et XGBoost couplés à la méthode LIME, pour prédire avec précision la résistance multi-médicamenteuse chez les isolats bactériens et identifier les antibiotiques déterminants afin d'améliorer la prise de décision clinique.
En introduisant Fair-PaperRec, un modèle de recommandation de papiers intégrant une régularisation équitable, cette étude démontre qu'il est possible d'augmenter significativement la participation des groupes sous-représentés dans le processus de révision par les pairs sans compromettre la qualité globale des publications.
Le papier présente SideQuest, une approche novatrice qui utilise le modèle de raisonnement lui-même pour gérer dynamiquement le cache KV via une tâche auxiliaire parallèle, réduisant ainsi l'empreinte mémoire de 65 % lors de tâches agencielles complexes tout en préservant la précision.
Ce papier propose HyperKKL, une nouvelle approche d'apprentissage utilisant un hyper-réseau pour concevoir des observateurs KKL capables d'estimer l'état de systèmes non autonomes non linéaires en générant instantanément les paramètres de l'observateur à partir du signal d'entrée externe, surmontant ainsi les limitations des méthodes existantes qui peinent à généraliser aux dynamiques pilotées.
Ce papier présente OmniGAIA, un benchmark évaluant les agents IA natifs omni-modaux, et OmniAtlas, un agent fondamental intégré aux outils qui améliore le raisonnement et l'utilisation d'outils à travers la vision, l'audio et le langage.
Le papier présente Brain-OF, le premier modèle fondamental omnifonctionnel préentraîné sur un vaste corpus multimodal (fMRI, EEG et MEG) qui intègre des mécanismes innovants d'échantillonnage, d'attention et de modélisation temporelle-fréquentielle pour unifier le traitement des signaux cérébraux et surpasser les performances sur diverses tâches de neurosciences.
Cet article présente V-MORALS, une méthode qui utilise des graphes de Morse visuels et un espace latent appris à partir de données d'images pour estimer les régions d'attraction d'un système sans avoir besoin de connaître son état complet ni ses dynamiques.
Cet article propose un processus de Hawkes neuronal multivarié spatio-temporel qui intègre des dynamiques d'apprentissage de l'espace et du temps pour modéliser efficacement des données d'événements complexes, comblant ainsi les lacunes des approches purement temporelles et démontrant son efficacité sur des données de terrorisme au Pakistan.
Cette étude évalue l'efficacité de divers modèles d'apprentissage automatique supervisé, allant des arbres de gradient aux transformers, pour prédire automatiquement la sévérité des bogues dans les projets logiciels en utilisant des données historiques d'Eclipse Bugzilla, révélant que les méthodes ensemblistes et DistilBERT offrent la meilleure précision globale tandis que les modèles linéaires sont supérieurs pour la détection des bogues critiques.
Cet article propose et analyse des algorithmes d'optimisation par duel sur les variétés riemanniennes, à savoir la descente de gradient normalisé (RDNGD) et la méthode de Frank-Wolfe sans projection (RDFW), en établissant leurs complexités théoriques et en validant leur efficacité par des expériences numériques.
Cet article propose une nouvelle classe de problèmes d'optimisation bi-niveau basée sur la convexité uniforme du niveau inférieur, pour laquelle les auteurs établissent un nouveau théorème de différenciation implicite et conçoivent l'algorithme stochastique UniBiO, garantissant des taux de convergence optimaux pour trouver des points stationnaires.
Le papier présente GRIP, un cadre unifiant l'équilibre global des distributions et la sélection locale d'instances via un espace géométrique adaptatif, permettant d'entraîner des modèles de langage plus performants avec des données nettement moins volumineuses que les ensembles non curatés.