1724 articles
Ce papier présente F-Actor, le premier modèle de parole conversationnelle en duplex intégral open-source et suivant des instructions, capable d'adapter dynamiquement son comportement (comme les interruptions ou les encouragements) et sa voix grâce à un entraînement efficace sur 2 000 heures de données sans préentraînement à grande échelle.
Ce papier démontre que la capacité des grands modèles de langage à extraire du sens de textes dénués de sens repose sur l'efficacité remarquable du repérage de motifs structurels, prouvant que cette compétence est un ingrédient fondamental de l'intelligence plutôt qu'une simple imitation.
Ce papier présente Yuan3.0 Ultra, un modèle de langage open-source de type MoE orienté entreprise qui utilise l'algorithme de pruning d'experts adaptatif par couche (LAEP) pour améliorer l'efficacité du pré-entraînement et obtenir des performances de pointe sur des tâches spécialisées tout en réduisant la taille totale du modèle.
Cette étude révèle que les modèles fondationnels actuels peinent à identifier les moments clés dans des vidéos de football, car ils dépendent trop d'une seule modalité et échouent à synthétiser efficacement les informations croisées, soulignant ainsi le besoin d'architectures modulaires et de procédures d'entraînement complémentaires.
Ce papier présente le Self-Distilled Reasoner, un cadre d'auto-distillation sur politique où un seul modèle joue à la fois le rôle d'enseignant (conditionné sur des traces de raisonnement privilégiées) et d'élève (ne voyant que la question), permettant d'améliorer les capacités de raisonnement mathématique avec une efficacité tokenique bien supérieure aux méthodes d'apprentissage par renforcement.
Le papier présente VIP, une stratégie d'allocation de rollouts adaptative qui optimise l'efficacité de l'apprentissage par renforcement en ligne en attribuant dynamiquement le budget de calcul aux prompts les plus informatifs pour minimiser la variance du gradient, surpassant ainsi les méthodes d'allocation uniforme.
LatentChem introduit une interface de raisonnement latent qui découple le calcul chimique de la génération textuelle, permettant aux modèles d'effectuer des inférences complexes dans un espace continu pour obtenir des performances supérieures et une accélération significative par rapport aux méthodes traditionnelles basées sur la chaîne de pensée explicite.
Cet article établit la convergence fondamentale entre les systèmes de dialogue guidés par schéma (SGD) et le protocole de contexte de modèle (MCP) pour définir un paradigme unifié d'interaction LLM-agent, en proposant cinq principes de conception de schémas qui comblent les lacunes actuelles et offrent un mécanisme évolutif de gouvernance pour les systèmes d'IA.
Cette étude présente un cadre d'évaluation par « red teaming » clinique automatisé qui, grâce à des simulations de thérapie avec des agents patients dynamiques, révèle des risques iatrogènes critiques dans l'utilisation des modèles de langage pour le soutien en santé mentale et valide un outil de visualisation pour auditer ces systèmes auprès de diverses parties prenantes.
Le papier présente JAILBREAK FOUNDRY, un système multi-agents qui automatise la traduction des articles de recherche sur les jailbreaks en modules exécutables pour permettre une évaluation reproductible et standardisée des vulnérabilités des grands modèles de langage.
Ce papier présente ReGFT, une méthode de fine-tuning guidé par des références qui synthétise des trajectoires de raisonnement positives à partir de solutions humaines partielles pour surmonter la rareté des récompenses et améliorer l'apprentissage par renforcement en mathématiques.
Cet article présente VoxKnesset, un ensemble de données ouvert et longitudinal de 2 300 heures de discours parlementaire hébreu couvrant 15 ans, conçu pour modéliser les changements vocaux liés au vieillissement et évaluer la robustesse des systèmes de reconnaissance vocale face au vieillissement des locuteurs.
Le papier présente FreeAct, un cadre de quantisation innovant qui améliore les performances des modèles de langage en libérant les activations de contraintes statiques pour leur permettre d'adapter dynamiquement des transformations spécifiques à chaque type de token, surpassant ainsi les méthodes existantes sur les modèles de diffusion et multimodaux.
Ce papier propose une construction incrémentale de graphes -NN qui garantit par conception la connectivité du graphe, permettant ainsi d'améliorer la robustesse du clustering spectral sur des embeddings textuels, en particulier dans les régimes de faible où les graphes standards deviennent disjoints.
Cette étude propose un modèle théorique basé sur une fonction d'ensemble à valeurs d'ensemble pour expliquer le changement dynamique du genre grammatical et la formation des mots, en particulier en rifain, en modélisant le couplage non linéaire entre les items lexicaux et les modèles morphologiques.
Ce papier établit un lien fondamental entre la parallélisabilité des réseaux de neurones récurrents linéaires (LRNN) et les classes de complexité computationnelle, démontrant que leur structure permet une exécution efficace similaire aux transformateurs, contrairement aux RNN non linéaires qui, en raison de leur capacité à résoudre des problèmes P-complets, posent une barrière théorique à une telle parallélisation.
Cette étude présente Bielik-Q2-Sharp, la première évaluation académique systématique de la quantification extrême à 2 bits appliquée au modèle de langue polonais Bielik-11B, démontrant que des méthodes comme QuIP# et QTIP préservent efficacement les capacités de raisonnement tout en maintenant une taille de modèle réduite, le tout réalisé par un seul chercheur avec un budget de 285 $.
Le papier présente AgentIR, une approche de récupération qui exploite les traces de raisonnement explicites des agents de recherche approfondie pour entraîner un modèle d'embedding performant, surpassant les méthodes conventionnelles sur des benchmarks complexes.
Le papier présente SearchGym, une infrastructure modulaire open-source conçue pour le benchmarking interplateforme et l'orchestration de la recherche hybride, qui permet de synthétiser des systèmes reproductibles via une algèbre de configuration compositionnelle et révèle des mécanismes causaux clés dans les pipelines de recherche.
Le papier présente FinRetrieval, un benchmark de 500 questions financières évaluant la capacité des agents IA à extraire des données structurées, révélant que la disponibilité des outils d'accès aux bases de données est le facteur déterminant de la performance, bien plus que les capacités de raisonnement ou les fournisseurs de modèles.