1629 articles
Ce papier de position propose une approche dualiste pour atténuer les biais dans les grands modèles de langage en combinant des transformations mathématiques rigoureuses basées sur la théorie des catégories (foncteurs) avec l'augmentation par récupération (RAG) afin d'assurer des résultats équitables et sémantiquement intègres.
Cette étude propose une méthode d'estimation de qualité pour la traduction automatique vers des langues indiennes en ressources limitées, démontrant que l'adaptation des couches intermédiaires de grands modèles de langage (via ALOPE et LoRMA) surpasse les approches par simple prompt pour garantir une robustesse accrue, notamment dans les domaines à haut risque.
Cet article de synthèse (SoK) propose le premier cadre unifié pour les systèmes de Génération Augmentée par Récupération (RAG) agents, en formalisant leur fonctionnement comme des processus de décision markoviens, en établissant une taxonomie architecturale complète, en identifiant des risques critiques tels que la propagation des hallucinations, et en définissant des orientations de recherche pour améliorer leur fiabilité et leur contrôlabilité.
Ce papier présente OAKS, un nouveau benchmark évaluant la capacité des grands modèles de langage à s'adapter en temps réel à des flux de connaissances continus, révélant ainsi des limites significatives des modèles actuels et des systèmes de mémoire agentic dans le suivi précis des faits évolutifs.
Ce papier présente AQuA, un nouveau jeu de données et une méthode de fine-tuning qui permettent aux modèles vision-langage de classifier les ambiguïtés visuelles en quatre niveaux et d'adopter dynamiquement des stratégies de réponse adaptées, telles que la demande de clarification ou l'énumération d'alternatives, surpassant ainsi les modèles existants dans la gestion des questions visuelles ambiguës.
Cet article présente AndroidWorld-Generalization, un nouveau benchmark et un système d'apprentissage par renforcement intégrant GRPO, conçus pour évaluer et améliorer la capacité de généralisation des agents mobiles basés sur des modèles vision-langage vers des tâches, modèles et applications non vus.
Le papier propose PACT, un cadre d'ajustement fin qui préserve l'alignement de sécurité des grands modèles de langage en régularisant spécifiquement la confiance du modèle sur un petit sous-ensemble de tokens liés à la sécurité, évitant ainsi la dérive de l'alignement sans compromettre les performances sur les tâches en aval.
Le papier présente Dial, un système NL2SQL ancré dans des connaissances qui améliore la génération de requêtes pour des dialectes SQL hétérogènes grâce à une planification logique adaptée, une base de connaissances hiérarchique et une boucle de débogage exécutée, surpassant ainsi les méthodes existantes sur un nouveau benchmark multi-dialectes.
Ce papier propose une enquête technique complète sur l'évolution des modèles de génération d'images, couvrant les architectures clés des VAE aux méthodes de diffusion, ainsi que les avancées récentes en vidéo et les enjeux de robustesse et de déploiement responsable.
Ce papier présente le Dual-Stream Transformer, une architecture qui décompose le flux résiduel en deux courants fonctionnels distincts pour offrir un compromis réglable entre interprétabilité et performance, tout en démontrant une robustesse remarquable face à l'amplification des logits.
Cette étude démontre que les modèles de langage préentraînés, lorsqu'ils sont intégrés à des modèles vision-langage, peuvent récupérer et généraliser des connaissances taxonomiques (comme les hyperonymes) à partir de l'input linguistique seul, même en l'absence totale d'évidence visuelle explicite, à condition que les données visuelles présentent une cohérence intra-catégorielle.
Cette étude révèle que les objectifs d'entraînement des modèles de diffusion créent des représentations hiérarchiques avec une redondance précoce permettant un saut de couches à l'inférence réduisant les FLOPs de près de 19 % sans perte de performance, contrairement aux modèles autoregressifs dont les représentations sont plus dépendantes de la profondeur.
Cet article propose un système end-to-end novateur qui optimise conjointement la reconnaissance de concepts, la classification des assertions et l'extraction de relations dans les textes cliniques, surpassant significativement les approches en pipeline traditionnelles et établissant ainsi une nouvelle référence pour la recherche future.
Ce papier présente Bolbosh, le premier système de synthèse vocale neuronale open-source pour le Kashmiri, qui surpasse les modèles multilingues existants grâce à une adaptation supervisée par Flow Matching et un pipeline d'amélioration acoustique, comblant ainsi une lacune critique dans les technologies de la parole pour cette langue.
Ce papier présente TableMind++, une extension de l'agent programmatique TableMind qui intègre un cadre d'inférence conscient de l'incertitude, combinant élagage de plans guidé par la mémoire, raffinement d'actions basé sur la confiance et agrégation de trajectoires pour atténuer les hallucinations et améliorer la précision du raisonnement sur les tableaux.
L'article propose « Accent Vector », une méthode permettant de manipuler de manière contrôlée les accents dans la synthèse vocale multilingue sans nécessiter de données d'entraînement accentuées, en exploitant des vecteurs de tâche dérivés de l'apprentissage sur des langues maternelles différentes.
Ce papier présente MAWARITH, un vaste ensemble de données annoté de 12 500 cas de droit successoral islamique en arabe conçu pour entraîner et évaluer les modèles de langage sur l'ensemble de la chaîne de raisonnement juridique, accompagnée d'une nouvelle métrique d'évaluation (MIR-E) qui révèle les limites actuelles des LLMs dans l'application précise des règles complexes d'héritage.
Cet article propose un cadre de synthèse vocale à l'accent étranger sans apprentissage qui combine un modèle TTS multilingue avec des règles phonologiques pour transformer les séquences de phonèmes et générer des accents spécifiques, tels que l'espagnol ou l'indien, sans nécessiter de données d'entraînement accentuées.
Cet article présente Nwāchā Munā, un corpus de parole de 5,39 heures en écriture devanagari pour la langue népalaise (Newari), et démontre que l'adaptation fine d'un modèle à partir du népalais voisin permet d'atteindre des performances de reconnaissance automatique de la parole comparables à celles des grands modèles multilingues, offrant ainsi une solution efficace pour cette langue en danger.
Ce papier présente KCoEvo, un cadre enrichi par des graphes de connaissances qui améliore la génération de code évolutif en décomposant la tâche de migration en deux étapes synergiques de récupération de chemins d'évolution et de génération de code informée, surpassant ainsi les modèles de langage standards en précision et en taux de succès d'exécution.