2049 articles
Cet article propose DINCO, une méthode qui améliore la calibration des scores de confiance verbalisés des grands modèles de langage en normalisant ces scores par rapport à des distracteurs auto-générés et en intégrant la cohérence entre un générateur et un validateur, réduisant ainsi le surconfiance et surpassant les approches basées sur la simple auto-cohérence.
Ce papier présente EditReward, un modèle de récompense open-source entraîné sur un vaste ensemble de données de préférences humaines annotées par des experts, qui surpasse les modèles existants en alignement avec les préférences humaines et permet d'identifier des sous-ensembles de données de haute qualité pour améliorer l'entraînement des modèles d'édition d'images.
Le papier présente MENLO, un cadre d'évaluation et un jeu de données annotés par des humains pour 47 langues visant à mesurer et à améliorer la qualité native des réponses des grands modèles de langage grâce à l'apprentissage par renforcement et à l'alignement des préférences.
Ce papier présente GEM, un simulateur d'environnement open-source et standardisé conçu pour faciliter l'apprentissage par expérience des LLMs agents, offrant à la fois un cadre d'entraînement flexible, une suite d'environnements diversifiés et des outils d'évaluation complets.
Ce papier présente RLP, une nouvelle méthode de préentraînement qui intègre l'apprentissage par renforcement en traitant la chaîne de pensée comme une action exploratoire récompensée par le gain d'information, permettant ainsi d'acquérir des capacités de raisonnement indépendantes dès la phase de préentraînement et d'améliorer significativement les performances sur des tâches complexes de mathématiques et de sciences.
Ce papier propose ExGRPO, un cadre d'optimisation stratégique qui améliore l'efficacité et la stabilité de l'apprentissage par renforcement des modèles de raisonnement en réutilisant et en priorisant sélectivement les expériences passées les plus pertinentes, telles que celles caractérisées par leur justesse et leur entropie.
Cet article propose une décomposition de la perte d'entropie croisée révélant que seule la composante « erreur-entropie » suit une loi d'échelle robuste, expliquant ainsi pourquoi la loi d'échelle traditionnelle échoue aux très grandes échelles et établissant une nouvelle base théorique pour le développement des modèles de langage.
Le papier présente PoLi-RL, un cadre d'apprentissage par renforcement novateur de type « point-to-list » qui surmonte les limites des approches existantes pour la similarité sémantique textuelle conditionnelle (C-STS) grâce à un curriculum en deux étapes et un mécanisme de récompense de classement parallèle, établissant ainsi un nouvel état de l'art sur le benchmark officiel.
Le papier présente TiTok, un cadre novateur qui permet le transfert de LoRA entre différents modèles de base en exploitant un excès contrastif au niveau des tokens pour filtrer sélectivement des données synthétiques, évitant ainsi la nécessité de modèles supplémentaires tout en améliorant significativement les performances.
Le papier présente SwiReasoning, un cadre d'inférence sans entraînement qui améliore la précision et l'efficacité des grands modèles de langage en alternant dynamiquement entre raisonnement explicite et latent, tout en limitant le surréflexion grâce à des mécanismes de confiance et de blocage.
Cet article propose une méthode d'entraînement nommée SSFT, combinée à une optimisation de politique (GFPO), qui utilise des tokens de bifurcation globaux pour préserver la diversité des modes de raisonnement parallèle et améliorer les performances des modèles de langage sur des tâches complexes de mathématiques et de génération de code.
Le papier présente MASA, une méthode d'adaptation efficace qui surmonte le goulot d'étranglement représentationnel de LoRA en remplaçant sa unique matrice de projection descendante par un ensemble asymétrique d'experts spécialisés, améliorant ainsi les performances sur diverses tâches tout en conservant un nombre de paramètres apprenables comparable.
Cette étude révèle que les moteurs de génération d'answers sont vulnérables aux attaques par empoisonnement en raison de la faible barrière d'injection de contenu des sources citées, un risque particulièrement élevé dans le contexte politique américain par rapport au japonais, et propose des critères d'évaluation pour mieux identifier et atténuer ces menaces.
LAD-RAG est un cadre RAG dynamique et conscient de la mise en page qui améliore la compréhension des documents visuellement riches en construisant un graphe symbolique pour capturer la structure et les dépendances inter-pages, permettant ainsi une récupération adaptative des preuves par un agent LLM et dépassant les méthodes conventionnelles en précision et en rappel.
Ce papier présente TTOM, un cadre sans entraînement qui améliore la génération vidéo compositionnelle en alignant les modèles de fondation vidéo sur des layouts spatio-temporels via une optimisation et une mémorisation paramétriques en temps d'exécution.
Le papier présente ExPO-HM, une méthode novatrice qui améliore la détection des mèmes haineux en combinant un apprentissage supervisé, une optimisation par politique avec apprentissage par curriculum et une entropie décisionnelle conditionnelle pour générer des explications interprétables tout en surpassant les approches précédentes sur plusieurs benchmarks.
Ce papier présente WAXAL, un corpus de parole multilingue à grande échelle et open source couvrant 24 langues africaines avec des données pour la reconnaissance et la synthèse vocale, conçu pour réduire la fracture numérique et favoriser le développement de technologies inclusives.
Ce papier présente URSA-GAN, un cadre génératif unifié qui utilise une architecture à double encodage et une perturbation stochastique dynamique pour adapter robustement la reconnaissance et l'amélioration de la parole à des conditions de bruit et de canal inconnues, réduisant ainsi significativement les erreurs et améliorant les métriques perceptuelles.
Cet article introduit et analyse le concept mathématique inédit de « ensembles de niveaux dynamiques », qui repose sur le principe d'automodification pour expliquer comment un processus physique incomputable peut reconfigurer un ensemble logique invariant à chaque étape, élargissant ainsi la portée de la théorie de la calculabilité au-delà des résultats classiques sur les machines de Turing probabilistes.
Cet article présente une méthode rentable de détection de mots deepfake qui consiste à affiner le modèle Whisper pour identifier les mots synthétiques lors de la transcription par prédiction de jeton suivant, en utilisant des données partiellement vocodées pour réduire les coûts de collecte, tout en démontrant des performances compétitives sur des données in-domaine et un potentiel de généralisation à améliorer sur des données out-of-domaine.