333 articles
Le papier présente ContextBench, un benchmark évaluant la capacité à générer des entrées linguistiquement fluides activant des comportements ou caractéristiques latentes spécifiques dans les modèles de langage, et démontre que des variantes améliorées de l'optimisation évolutive de prompts surpassent les méthodes actuelles pour équilibrer efficacité d'élicitation et fluidité.
L'article propose les Cartes de Caractéristiques Quantiques Itératives (IQFMs), un cadre hybride qui assemble itérativement des cartes de caractéristiques quantiques peu profondes avec des poids d'augmentation classiques pour surmonter les limitations du matériel quantique actuel et atteindre des performances compétitives sans nécessiter l'optimisation de paramètres quantiques variationnels.
Cet article propose une méthode d'apprentissage automatique qui, en découvrant des cartes structurelles préservant la symplecticité et la réversibilité temporelle équivalentes à l'action mécanique, permet d'effectuer des simulations de dynamique moléculaire avec des pas de temps longs tout en éliminant les artefacts énergétiques et en assurant une bonne conservation des propriétés physiques.
Cet article propose Kernel VICReg, un cadre d'apprentissage auto-supervisé novateur qui transpose l'objectif VICReg dans un espace de Hilbert à noyau reproduisant (RKHS) pour capturer des dépendances non linéaires et améliorer les performances sur des données à structure complexe sans nécessiter d'étiquettes.
Ce papier présente la TACE (Tensor Atomic Cluster Expansion), un modèle d'apprentissage machine atomistique universel basé sur des tenseurs cartésiens irréductibles qui unifie la modélisation scalaire et tensorielle pour prédire avec précision et stabilité une large gamme d'observables, y compris les réponses aux champs externes et les spectres, sans recourir à des couplages de moment angulaire complexes.
Cet article propose une méthode statistique innovante, baptisée « Clusters-of-Centres », qui utilise des tests de Cochran multivariés et un algorithme de bootstrap multi-tours sur des données résumées pour détecter l'hétérogénéité entre centres et identifier de manière fiable leurs regroupements naturels.
Les auteurs proposent les « Self-Speculative Masked Diffusions », une nouvelle classe de modèles de diffusion masquée pour données discrètes qui réduit de moitié le nombre d'évaluations de réseau neuronal nécessaires à la génération d'échantillons de haute qualité en remplaçant la prédiction factorisée par une distribution prédictive non factorisée obtenue via un mécanisme d'échantillonnage spéculatif intégré.
Cet article démontre théoriquement et expérimentalement que l'intégration d'un vérificateur externe dans le processus de réentraînement sur des données synthétiques permet d'éviter l'effondrement du modèle et d'obtenir des améliorations à court terme, bien que la convergence à long terme soit limitée par la fiabilité de ce vérificateur.
Ce papier propose le CADM, une métrique de distance adaptative et personnalisée par cluster pour le regroupement de données catégorielles et mixtes, qui améliore les performances en ajustant dynamiquement les distances en fonction des distributions spécifiques de chaque cluster.
Le papier présente DAISI, un algorithme d'assimilation de données évolutif basé sur des modèles génératifs par flot, qui surpasse les méthodes classiques dans les systèmes non linéaires en intégrant des prévisions via un échantillonnage inverse et en assimilant des observations par guidage sans nécessiter de réentraînement du prior.
Cet article propose une nouvelle métrique de sensibilité globale basée sur les courbes d'attente conditionnelle individuelle (ICE) pour améliorer l'interprétabilité des modèles d'apprentissage automatique en ingénierie, en surmontant les limites des graphiques de dépendance partielle (PDP) face aux interactions fortes entre variables.
Cet article propose une méthode d'inférence de règles de traitement individualisées robustes (PDRO-ITR) intégrant des données multi-sources pour surmonter les décalages de distribution postérieure et garantir des performances optimales dans le pire des cas.
Cet article propose une méthode d'inférence conditionnelle sans modèle paramétrique qui combine une localisation par noyaux et des prédictions d'apprentissage automatique pour réduire la variance des estimateurs tout en garantissant la validité statistique, même lorsque les données étiquetées sont rares.
L'article présente behavior-dLDS, un modèle de systèmes dynamiques linéaires décomposés qui permet de dissocier les sous-systèmes neuronaux liés au comportement de ceux dédiés aux calculs internes, démontrant ainsi son efficacité sur des données simulées et des enregistrements à grande échelle chez le poisson-zèbre.
Cet article démontre que l'apprentissage d'un modèle fort à partir des labels imparfaits d'un modèle faible via la régression ridge à caractéristiques aléatoires permet d'améliorer substantiellement les lois d'échelle de l'erreur de test, permettant au modèle fort d'atteindre des taux optimaux même lorsque le modèle faible ne voit pas son erreur diminuer avec la taille de l'échantillon.
Ce papier propose une nouvelle méthode expérimentale appelée « Artificial Replay » qui permet de comparer efficacement des algorithmes de bandit manchot en réutilisant les données d'une première exécution, réduisant ainsi considérablement les coûts d'interaction tout en garantissant un estimateur non biaisé et à variance sous-linéaire.
Cet article établit pour la première fois un principe de grande déviation pour les réseaux de neurones convolutifs dans le régime à nombre infini de canaux, en démontrant ce principe pour les matrices de covariance conditionnelle et la distribution a posteriori, tout en fournissant une preuve simplifiée de la convergence vers un processus gaussien.
Ce papier améliore l'analyse de Klivans et al. en démontrant que le degré polynomial nécessaire pour l'apprentissage agnostique de classes de concepts à surface de Gauss bornée est de , établissant ainsi des bornes quasi-optimales pour l'apprentissage des fonctions de seuil polynomial dans le modèle des requêtes statistiques.
Ce papier démontre que les graphes de codage prédictif constituent un sur-ensemble mathématique des réseaux de neurones à propagation avant, renforçant ainsi leur pertinence dans le domaine de l'apprentissage automatique et la notion de topologie des réseaux neuronaux.
Cet article démontre que le flot de gradient sur les modèles softmax à valeurs polarise intrinsèquement les sorties vers des solutions à faible entropie, offrant ainsi une explication théorique à des phénomènes empiriques des transformateurs tels que les « attention sinks » et les activations massives.