333 articles
Cet article étudie une approximation par diffusion en temps continu des algorithmes de gradient de politique pour les bandits stochastiques à bras, démontrant que des taux de regret optimaux sont atteints avec un taux d'apprentissage spécifique, tout en établissant que des taux linéaires inévitables surviennent sans cette condition même pour un nombre logarithmique de bras.
Cet article propose une méthode de programmation quadratique séquentielle stochastique à région de confiance et points intérieurs (TR-IP-SSQP) pour résoudre des problèmes d'optimisation avec une fonction objectif stochastique et des contraintes non linéaires déterministes, en établissant sa convergence globale presque sûre et en validant ses performances pratiques sur des benchmarks et des problèmes de régression logistique.
Cet article démontre que, lorsque la conditionnelle d'un modèle hiérarchique bayésien suit une distribution canonique de principe d'entropie maximale, la loi marginale dépendante qui en résulte conserve également une propriété d'entropie maximale sous une contrainte différente portant sur la distribution marginale d'une fonction des paramètres inconnus.
Ce papier propose MultiwayPAM, une nouvelle méthode de clustering tensoriel appliquée aux scores d'évaluation « LLM-as-a-Judge » pour surmonter les défis du coût computationnel et des biais inhérents en identifiant simultanément les membres et les médoides de chaque mode (questions, répondants, évaluateurs).
Cet article résout le problème d'identification du meilleur bras dans des bandits linéaires non stationnaires en établissant une borne inférieure dépendante de l'ensemble des bras et en proposant l'algorithme , basé sur une conception optimale adjacente, qui atteint cette borne et affine ainsi la complexité de l'apprentissage au-delà des résultats minimax pessimistes.
Cet article propose l'algorithme PP-LUCB, qui combine des scores de modèles de langage et des audits humains ciblés pour identifier de manière optimale et économe la meilleure configuration de système de service malgré les biais systématiques des évaluations automatisées.
Cet article propose WiGS, une méthode d'apprentissage actif pour la régression qui utilise l'apprentissage par renforcement pour adapter dynamiquement le compromis entre exploration et exploitation, surpassant ainsi les approches existantes en précision et en efficacité d'étiquetage, notamment dans les régions à densité de données irrégulière.
Cet article présente les Processus de Mélange Gaussien Généralisés (GGMP), une méthode basée sur les processus gaussiens permettant une estimation de densité conditionnelle multimodale et hétéroscédastique tout en conservant une forme prédictive analytique et une mise à l'échelle efficace.
Ce papier propose la régression isotonique de Brenier, une extension de la régression isotonique aux sorties multiples en utilisant le transport optimal de Kantorovich pour imposer une cyclicité monotone via un potentiel convexe, démontrant ainsi des performances supérieures dans la calibration des probabilités et les modèles linéaires généralisés.
Cet article établit la convergence vers une solution interpolante et analyse le biais implicite de la descente de gradient préconditionnée dans l'espace dual pour des modèles linéaires sur-paramétrés, en démontrant notamment que les préconditionneurs isotropes reproduisent le biais de la descente de gradient standard.
Cette étude compare l'estimation d'incertitude par Dropout de Monte Carlo et la prédiction conforme sur des réseaux de neurones convolutifs entraînés sur Fashion-MNIST, révélant que si le VGG16 est plus précis, le GoogLeNet offre une meilleure calibration et que la prédiction conforme garantit des ensembles de prédictions statistiquement valides pour des décisions à haut risque.
Le papier présente ReTabSyn, une pipeline de synthèse de données tabulaires basée sur l'apprentissage par renforcement qui optimise la distribution conditionnelle pour améliorer l'utilité des modèles en aval dans des scénarios à faible volume de données et déséquilibrés.
Cet article propose de nouveaux tests d'équivalence basés sur des noyaux, utilisant la divergence de Stein et la divergence maximale de moyenne pour évaluer l'absence de différences significatives entre distributions sans les limitations des méthodes paramétriques ou des tests de moments.
Cet article présente un cadre de prédiction sélective pour la récupération de structures moléculaires à partir de spectres de masse, démontrant que l'utilisation de mesures de confiance simples et d'incertitudes aléatoires au niveau de la récupération permet d'abstenir les prédictions incertaines et de garantir des taux d'erreur contrôlés dans des applications à haut risque.
Cet article présente un cadre unifié d'optimisation bayésienne utilisant des processus gaussiens pour accélérer la recherche de points stationnaires sur les surfaces d'énergie potentielle, en intégrant des extensions innovantes et un code pédagogique en Rust pour améliorer l'efficacité et la précision des calculs.
Cet article présente Ancestral GFlowNet (AGFN), un algorithme d'apprentissage par renforcement qui permet d'inférer la distribution des graphes ancestraux en intégrant de manière itérative des connaissances d'experts incertaines, tant a priori qu'a posteriori, pour affiner la découverte causale en présence de confondants latents.
Ce travail présente une revue complète et une spécification formelle des réseaux de codage prédictif, un cadre inspiré des neurosciences qui utilise l'apprentissage par inférence comme alternative biologiquement plausible et potentiellement plus efficace à la rétropropagation, tout en offrant une approche unifiée pour l'apprentissage supervisé et génératif.
Cet ouvrage propose une synthèse pédagogique des fondements théoriques et des preuves unifiées de la prédiction conforme, une méthode d'inférence distributionnelle offrant des garanties de quantification de l'incertitude pour l'apprentissage automatique sans hypothèse sur la distribution des données.
Cet article propose des variantes parcimonieuses des machines à vecteurs de support sur des surfaces quadratiques (QSVM) en imposant une contrainte de cardinalité via la norme , et développe un algorithme de décomposition de pénalité efficace pour résoudre ce problème d'optimisation complexe tout en démontrant la supériorité du modèle sur des données de crédit réelles.
Cet article propose une variante de la descente de miroir entropique avec un pas de type Polyak pour résoudre des systèmes linéaires sans hypothèses restrictives, établissant ainsi des résultats de convergence et en renforçant les bornes sur le biais implicite en norme .