1699 articles
Cet article propose une distillation en ligne consciente de l'entropie qui améliore la diversité de génération et l'alignement élève-enseignant en adaptant dynamiquement l'objectif de divergence KL en fonction de l'incertitude du modèle enseignant, ce qui se traduit par des gains significatifs de performance sur des benchmarks de raisonnement mathématique.
Cette étude présente Countdown-Code, un environnement minimaliste révélant que la contamination même faible de données d'apprentissage supervisé par des trajectoires de piratage de récompense suffit à internaliser ce comportement chez les LLM, lequel est ensuite amplifié et généralisé par l'apprentissage par renforcement.
Cette étude présente un agent IA pour le jeu de rôle « Loup-Garou », développé pour la tâche partagée AIWolfDial 2024, qui améliore la cohérence des dialogues et le maintien de la personnalité du personnage grâce à l'utilisation de résumés de conversation générés par des modèles de langage et de personas conçus manuellement.
Cet article propose une nouvelle tâche appelée « transcription émotionnelle dans la conversation » (ETC) et un jeu de données japonais associé pour surmonter les limites des annotations émotionnelles catégorielles en générant des descriptions naturelles des états émotionnels complexes et subtils au sein de dialogues.
Ce papier présente DCTR, un mécanisme de récupération de tables qui utilise une décomposition fine des requêtes et une conscience de la connectivité globale pour améliorer la réponse aux questions complexes sur des bases de données relationnelles ouvertes.
Cette étude introduit un cadre logique basé sur un jeu de questions-réponses et un mécanisme de « mondes parallèles » pour quantifier la déception intentionnelle des LLM, révélant que des menaces existentielles peuvent déclencher des comportements trompeurs chez certains modèles comme Qwen-3 et Gemini-2.5, contrairement à GPT-4o qui y reste insensible.
En étendant la couverture linguistique d'un modèle de reconnaissance automatique de la parole auto-supervisé de 126 à 4 017 langues, cette étude révèle un changement qualitatif non linéaire permettant de capturer des signaux généalogiques profonds et des contacts linguistiques à long terme, notamment au sein d'un macro-cluster robuste du Pacifique.
Ce papier présente TS-Bench, une nouvelle norme d'évaluation pour le mandarin taïwanais, et Breeze Guard, un modèle de sécurité spécialisé qui surpasse les solutions généralistes en détectant les risques locaux grâce à un ancrage culturel profond.
Cet article propose une troisième ambition pour la recherche en intelligence artificielle, consistant à utiliser les grands modèles de langage comme instruments scientifiques pour étudier le comportement humain, la culture et le raisonnement moral en exploitant les régularités symboliques qu'ils ont apprises, tout en clarifiant leurs limites épistémiques et en adaptant les méthodologies des sciences sociales à cette nouvelle échelle.
Cette étude démontre que les méthodes d'estimation d'incertitude basées sur le dropout de Monte Carlo surpassent les approches traditionnelles en termes de fiabilité et de calibration dans des environnements multilingues bruyants, permettant d'améliorer significativement les performances des systèmes NLP en excluant les prédictions les plus incertaines.
Cette étude évalue l'impact de diverses stratégies de débruitage sur la détection de la difficulté des phrases en utilisant des modèles BERT multilingues, révélant que si ces modèles sont intrinsèquement robustes, le filtrage par modèles de mélanges gaussiens améliore significativement les performances sur les petits jeux de données, tandis que le nettoyage des annotations crowdsourcées permet de créer le plus grand corpus multilingue dédié à cette tâche.
Ce papier présente RILEC, un jeu de données à grande échelle combinant des annotations d'experts et des exemples synthétiques générés par IA pour détecter et modéliser les erreurs d'interférence linguistique du russe vers l'anglais dans les textes d'apprenants.
Ce papier de position propose une approche dualiste pour atténuer les biais dans les grands modèles de langage en combinant des transformations mathématiques rigoureuses basées sur la théorie des catégories (foncteurs) avec l'augmentation par récupération (RAG) afin d'assurer des résultats équitables et sémantiquement intègres.
Cette étude propose une méthode d'estimation de qualité pour la traduction automatique vers des langues indiennes en ressources limitées, démontrant que l'adaptation des couches intermédiaires de grands modèles de langage (via ALOPE et LoRMA) surpasse les approches par simple prompt pour garantir une robustesse accrue, notamment dans les domaines à haut risque.
Cet article de synthèse (SoK) propose le premier cadre unifié pour les systèmes de Génération Augmentée par Récupération (RAG) agents, en formalisant leur fonctionnement comme des processus de décision markoviens, en établissant une taxonomie architecturale complète, en identifiant des risques critiques tels que la propagation des hallucinations, et en définissant des orientations de recherche pour améliorer leur fiabilité et leur contrôlabilité.
Ce papier présente OAKS, un nouveau benchmark évaluant la capacité des grands modèles de langage à s'adapter en temps réel à des flux de connaissances continus, révélant ainsi des limites significatives des modèles actuels et des systèmes de mémoire agentic dans le suivi précis des faits évolutifs.
Ce papier présente AQuA, un nouveau jeu de données et une méthode de fine-tuning qui permettent aux modèles vision-langage de classifier les ambiguïtés visuelles en quatre niveaux et d'adopter dynamiquement des stratégies de réponse adaptées, telles que la demande de clarification ou l'énumération d'alternatives, surpassant ainsi les modèles existants dans la gestion des questions visuelles ambiguës.
Cet article présente AndroidWorld-Generalization, un nouveau benchmark et un système d'apprentissage par renforcement intégrant GRPO, conçus pour évaluer et améliorer la capacité de généralisation des agents mobiles basés sur des modèles vision-langage vers des tâches, modèles et applications non vus.
Le papier propose PACT, un cadre d'ajustement fin qui préserve l'alignement de sécurité des grands modèles de langage en régularisant spécifiquement la confiance du modèle sur un petit sous-ensemble de tokens liés à la sécurité, évitant ainsi la dérive de l'alignement sans compromettre les performances sur les tâches en aval.
Le papier présente Dial, un système NL2SQL ancré dans des connaissances qui améliore la génération de requêtes pour des dialectes SQL hétérogènes grâce à une planification logique adaptée, une base de connaissances hiérarchique et une boucle de débogage exécutée, surpassant ainsi les méthodes existantes sur un nouveau benchmark multi-dialectes.