2325 articles
Ce papier identifie et prouve théoriquement que l'entraînement non masqué en apprentissage par renforcement supprime systématiquement les actions valides dans des états non visités en raison du partage de paramètres, un problème que l'application de masques d'action résout en éliminant ce compromis entre régularisation d'entropie et efficacité d'échantillonnage.
Cet article propose une approche basée sur les données pour prédire de manière probabiliste le facteur d'hystérésis des batteries à anodes silicium-graphite, en intégrant une harmonisation des cycles de conduite et des modèles d'apprentissage automatique pour améliorer l'estimation de l'état de charge tout en quantifiant les incertitudes.
En démontrant l'existence d'un conflit fondamental entre l'optimisation de la précision et la minimisation de l'erreur d'étalonnage dans l'apprentissage par renforcement à partir de récompenses vérifiables, cette étude propose le cadre DCPO qui découple ces objectifs pour restaurer la fiabilité des modèles de langage sans sacrifier leur précision.
Cet article propose une méthode de régularisation basée sur la probabilité de nécessité et de suffisance (PNS), étendue au contexte de l'apprentissage incrémental de classes, pour guider l'expansion des caractéristiques et atténuer les collisions causées par des corrélations factices intra- et inter-tâches.
Le papier présente RubiCap, un cadre d'apprentissage par renforcement guidé par des rubriques générées par LLM qui surpasse les méthodes d'enseignement distillé et les approches RL existantes en matière de légendage d'images dense, en offrant des récompenses structurées et une efficacité supérieure avec des modèles plus compacts.
Cet article propose un cadre d'apprentissage innovant qui exploite le code RTL généré par des LLMs, bien que fonctionnellement imparfait, pour entraîner des modèles de représentation de netlists capables de généraliser aux circuits réels et de surmonter la pénurie de données étiquetées.
Ce papier propose GIAT, un nouveau cadre Transformer enrichi par des connaissances géologiques via un mécanisme d'attention biaisée, qui améliore considérablement la précision et l'interprétabilité de l'identification des lithologies à partir des diagraphies de puits.
Ce papier propose un nouveau protocole pour le problème des experts distribués qui améliore les bornes précédentes en réduisant la communication nécessaire pour atteindre un regret donné, en fonction du nombre d'experts, de serveurs et de la norme des pertes.
Cet article propose un cadre d'apprentissage profond généré physiquement qui modélise la dynamique du trafic macroscopique comme un processus stochastique via une équation de flux de probabilité déterministe, permettant ainsi l'estimation d'états de trafic sous forme de distributions complètes plutôt que de simples valeurs ponctuelles.
Le papier présente Latent-DARM, un cadre de communication dans l'espace latent qui combine les modèles de diffusion discrets pour la planification et les modèles autoregressifs pour l'exécution, permettant ainsi une collaboration multi-agent plus efficace et économe en tokens pour le raisonnement complexe.
Cette étude tente de reproduire le modèle BSRNN pour la séparation de sources musicales, révélant les coûts de la non-reproductibilité tout en proposant une version optimisée du modèle et en plaidant pour des pratiques de recherche plus transparentes.
Le papier présente GNN, une méthode plug-and-play qui améliore les performances des GNN en utilisant deux ensembles de prototypes pour enrichir le contexte global et réduire le bruit dans les voisinages locaux, surpassant ainsi les modèles de production existants sur divers jeux de données.
Ce papier soutient que l'amélioration des capacités de raisonnement logique des modèles de langage crée inévitablement des voies mécanistes vers une conscience situationnelle accrue et potentiellement dangereuse, et propose le cadre RAISE ainsi que de nouvelles mesures de sécurité pour atténuer ces risques émergents.
Cet article présente une méthode entièrement pilotée par les données utilisant un transformateur et une quantification scalaire finie pour séparer efficacement un signal d'intérêt d'un bruit de fond non gaussien, surpassant les techniques existantes et démontrant un potentiel d'application généralisé au-delà des signaux radiofréquences.
Ce papier propose d'étudier l'émotion comme un facteur latent influençant la géométrie de l'attention et le raisonnement des grands modèles de langage, en introduisant le jeu de données AURA-QA et un cadre de régularisation émotionnelle qui améliorent la compréhension de lecture et la robustesse face aux variations de ton émotionnel.
Le papier présente MM-Zero, un cadre d'apprentissage par renforcement innovant qui permet pour la première fois l'auto-évolution sans aucune donnée d'entrée de modèles de vision-langage en orchestrant trois rôles spécialisés (Propositeur, Codeur et Résolveur) générant et raisonnant sur du contenu visuel synthétique.
Cet article propose l'algorithme \texttt{RQRE-OVI}, une méthode d'apprentissage par renforcement multi-agent avec approximation linéaire qui calcule un équilibre de réponse quantale sensible au risque, offrant ainsi une solution unique, stable et robuste avec des garanties de convergence et un compromis contrôlé entre performance et résilience.
Ce papier propose une couche de contrôle test-temps (TTC) qui intègre la planification par contrôle optimal directement dans l'architecture des modèles de langage via un solveur LQR matériellement efficace, améliorant ainsi significativement leurs capacités de raisonnement sans nécessiter de réentraînement.
Cet article propose un cadre d'échantillonnage génératif unifié et sans gradient ciblé, fondé sur la contrainte de réversibilité temporelle et la minimisation de la divergence MMD entre trajectoires, permettant d'apprendre efficacement des distributions complexes incluant des paramètres discrets ou hybrides sans nécessiter de fonctions de score.
Ce papier propose une méthode d'apprentissage exclusive intégrant des priors d'attention sensibles à la longueur et un contrôleur de gain adaptatif pour améliorer le raisonnement des Transformers sans augmenter les coûts d'inférence.