1077 articles
Le papier présente ReflexiCoder, un cadre d'apprentissage par renforcement qui intègre des capacités intrinsèques d'autoréflexion et d'autocorrection dans les poids des modèles de langage, leur permettant d'atteindre des performances de pointe sur des tâches de codage complexes sans dépendre de retours externes ou d'exécution de code lors de l'inférence.
Le papier présente ROSE, une méthode de réordonnancement de SparseGPT qui améliore la précision du pruning en une seule passe des grands modèles de langage en adaptant dynamiquement l'ordre d'élagage des poids en fonction de leur perte estimée, surpassant ainsi les approches existantes sur plusieurs modèles de pointe.
Ce papier propose CoCA, un cadre d'apprentissage par renforcement qui optimise conjointement la calibration de la confiance et la justesse des réponses en adoptant un paradigme « confiance d'abord » où le modèle évalue sa probabilité de succès avant de générer sa réponse.
Le papier propose VerChol, une méthode de tokenisation axée sur la grammaire conçue pour préserver les limites des morphèmes et réduire le nombre de tokens dans les langues agglutinantes, contrairement aux approches statistiques dominantes comme BPE qui fragmentent ces mots complexes.
Cet article présente ConStory-Bench, un benchmark et un outil d'évaluation automatisée conçus pour identifier et analyser les incohérences narratives dans les histoires longues générées par les grands modèles de langage, révélant que ces erreurs sont fréquentes dans les dimensions factuelles et temporelles et tendent à survenir au milieu des récits.
Ce papier présente une nouvelle méthodologie d'ensemble utilisant des LLM et de nouvelles métriques d'évaluation (CPR et TWF) pour réaliser un étiquetage sémantique précis et économique des résolutions du Conseil de sécurité de l'ONU.
Le papier présente InfoGatherer, un cadre innovant qui améliore la prise de décision dans des domaines critiques comme le juridique et la médical en combinant la recherche de documents et des questions stratégiques auprès de l'utilisateur, tout en modélisant l'incertitude de manière rigoureuse grâce à la théorie de l'évidence de Dempster-Shafer pour éviter les réponses prématurées et non fiables.
Ce papier présente LongNAP, un modèle d'apprentissage qui prédit les prochaines actions des utilisateurs en analysant leur historique d'interactions multimodales à long terme, surpassant significativement les méthodes existantes grâce à une combinaison d'apprentissage par renforcement et d'apprentissage en contexte.
Cette étude démontre que modéliser le contexte linguistique de l'auteur, via des méthodes comme HuLM et HuFT, permet de corriger la fallace écologique et d'améliorer significativement les performances d'un grand modèle de langage (8B Llama) sur diverses tâches, même sans réentraînement complet.
Cet article propose un cadre de réécriture de style structuré combinant une désambiguïsation explicite des dimensions stylistiques et un conditionnement implicite par distillation de chaînes de pensée, permettant aux petits modèles de langage de générer des personnages stylisés avec une fidélité supérieure à celle de modèles plus grands, même en contexte de données limitées.
En s'appuyant sur des théories psychologiques interactionnistes et constructivistes, cette étude développe des modèles interprétables qui intègrent des traits individuels et des contextes situationnels déduits du langage pour prédire le bien-être mental, démontrant que les caractéristiques théoriques offrent une performance compétitive et une meilleure interprétabilité par rapport aux embeddings de grands modèles de langage.
Le papier présente ProCap, un cadre innovant qui améliore la légende de changement en modélisant les dynamiques temporelles du processus de transformation via un encodeur de procédure entraîné sur des images clés générées, plutôt que de se limiter à une comparaison statique d'images.
Le papier présente Track-SQL, un cadre qui améliore les modèles de langage génératifs pour le texte-vers-SQL multi-tours grâce à des modules extractifs duals pour le suivi du schéma et du contexte, atteignant ainsi des performances de pointe sur les ensembles de données SparC et CoSQL.
Le papier présente MASFactory, un cadre centré sur les graphes pour orchestrer des systèmes multi-agents basés sur les LLM, qui intègre une approche de « Vibe Graphing » permettant de convertir des intentions en langage naturel en graphes exécutables tout en facilitant la réutilisation des composants et l'intégration de contextes hétérogènes.
Le papier présente ViewFusion, un cadre en deux étapes qui améliore le raisonnement spatial multi-vues en séparant explicitement l'alignement spatial préalable de la réponse aux questions, permettant ainsi aux modèles de vision-langage de mieux exploiter les relations inter-vues et d'obtenir des performances supérieures sur les tâches d'occlusion et de transformation de point de vue.
Cette étude évalue l'efficacité de quatre grands modèles de langage open-weight pour la notation automatisée d'essais allemands de niveau A en Autriche selon une grille d'évaluation, révélant que malgré leur capacité à utiliser des rubriques standardisées, leur faible accord avec les évaluateurs humains (32,8 % pour les notes finales) les rend inadaptés à un usage réel dans l'enseignement.
Cette étude démontre que l'exposition à des textes spécifiques lors du pré-entraînement façonne la personnalité des modèles de langage, révélant un avantage de performance dans le raisonnement complexe pour les modèles aux traits sociaux réduits et établissant ainsi une base pour l'ingénierie de personnalité.
DeepSight est le premier modèle multimodal dédié à la compréhension des scènes en 3D qui améliore le raisonnement spatial en exploitant les caractéristiques uniques des cartes de profondeur et en s'appuyant sur un nouveau jeu de données et une architecture de vision modifiée.
Cet article propose une pipeline neuro-symbolique intégrant des modèles de langage et un solveur SAT pour identifier les prémisses implicites des énoncés enthymémiques, les traduire en formules logiques et vérifier leur validité, comblant ainsi le fossé entre les méthodes NLP et les approches logiques.
Ce papier propose un mécanisme zéro-shot permettant aux modèles de langage par diffusion d'estimer et de réduire dynamiquement la fenêtre de contexte avant la génération, offrant ainsi des économies de calcul substantielles sans compromettre les performances sur diverses tâches.