1726 articles
Cet article propose les « Interactive Benchmarks », un nouveau paradigme d'évaluation unifié qui mesure la capacité de raisonnement des modèles dans des processus interactifs sous contraintes budgétaires, démontrant ainsi que les benchmarks traditionnels sont insuffisants et qu'il existe encore d'importantes marges de progression dans les scénarios interactifs.
Les auteurs proposent IF-RewardBench, un nouveau méta-benchmark complet pour l'évaluation des modèles juges en matière de suivi d'instructions, qui surpasse les approches existantes grâce à une évaluation listwise basée sur des graphes de préférences et démontre une corrélation plus forte avec les performances des tâches en aval.
Ce papier présente DARE, un modèle de récupération léger qui intègre les caractéristiques de distribution des données pour aligner les agents LLM avec l'écosystème statistique R, améliorant ainsi significativement la précision de la récupération de packages et la génération de code par rapport aux méthodes existantes.
HiMAP-Travel est un cadre de planification hiérarchique multi-agents qui surpasse les approches séquentielles pour les voyages à long terme en décomposant la tâche en coordination stratégique et exécution parallèle, tout en garantissant le respect des contraintes budgétaires et de diversité grâce à des mécanismes de transaction, de négociation et d'un modèle unique entraîné par GRPO.
Ce papier présente SharedLLM, une architecture innovante utilisant l'auto-injection de modèles à court contexte empilés pour compresser efficacement les longues séquences et étendre la fenêtre de contexte au-delà de 128K tokens, tout en réduisant la consommation mémoire et en accélérant l'inférence sans nécessiter un pré-entraînement coûteux sur de longs contextes.
Le papier présente TSEmbed, un cadre d'encodage multimodal universel qui surmonte les conflits de tâches en combinant un mélange d'experts avec de l'adaptation à faible rang et une nouvelle stratégie d'échantillonnage négatif, permettant ainsi d'atteindre des performances de pointe sur des benchmarks multimodaux massifs et des données industrielles.
Ce rapport technique propose un cadre de perception respectueux de la vie privée, basé sur l'architecture collaborative edge-cloud et le paradigme AI Flow, qui transforme les images brutes en vecteurs de caractéristiques abstraits et irréversibles pour permettre une reconnaissance comportementale et une reconstruction sémantique dynamique sans jamais exposer les données visuelles originales.
Ce papier propose RLSTA, une méthode d'apprentissage par renforcement qui utilise les capacités de raisonnement en un seul tour comme ancrages pour surmonter l'inertie contextuelle et stabiliser les interactions multi-tours des modèles de langage.
Ce papier propose le paradigme CSV (Clustering-Sampling-Voting), un cadre innovant qui réduit la complexité des invocations de modèles de langage pour le filtrage sémantique à une complexité sous-linéaire tout en garantissant des erreurs maîtrisées, permettant ainsi de diminuer considérablement les coûts et la latence par rapport aux approches existantes.
Ce papier introduit le concept de Champ Gravitationnel de l'Attention (AGF) pour découpler les encodages positionnels des embeddings sémantiques dans les modèles de langage, optimisant ainsi leur architecture et révélant une corrélation empirique avec la loi de la gravitation universelle de Newton.
Cette étude compare l'efficacité et le coût d'un système de mémoire factuelle basé sur Mem0 à l'utilisation de modèles LLM à long contexte pour des agents conversationnels persistants, révélant que l'approche mémoire devient plus économique au-delà d'un certain seuil d'interactions tout en offrant des performances compétitives sur la cohérence des personnalités.
Cette étude méta-analytique révèle que les modèles de langage actuels, en particulier les architectures décodeur, sous-performent significativement les humains dans l'évaluation des réponses courtes en raison de sensibilités au wording et de biais raciaux, indépendamment de la difficulté perçue des tâches.
Ce papier propose GDS, une méthode novatrice qui détecte les données de pré-entraînement des grands modèles de langage en analysant les écarts de gradient (magnitude, localisation et concentration neuronale) pour surmonter les limites des approches existantes et offrir une détection de haute performance avec une excellente transférabilité inter-ensembles.
Cet article présente une approche innovante permettant l'acquisition simultanée de l'IRM dynamique, de l'EEG et de l'EMG de surface pour étudier la production de la parole, en surmontant les interférences techniques grâce à un pipeline de suppression d'artefacts dédié.
Ce papier démontre théoriquement que l'alignement par RLHF est intrinsèquement superficiel car les gradients de sécurité s'annulent dès que le caractère nuisible d'une séquence est déterminé, et propose une nouvelle fonction objectif basée sur des pénalités de récupération pour garantir un alignement profond à toutes les positions.
Le corpus SinhaLegal présente une ressource fondamentale de 2 millions de mots extraits de textes législatifs sri-lankais, conçue pour combler le manque de données en sinhala et soutenir des tâches de traitement automatique des langues telles que l'extraction d'informations et l'analyse juridique.
Le papier présente HACHIMI, un cadre multi-agents orchestré qui génère de manière évolutive et contrôlable un corpus de 1 million de profils d'élèves alignés sur la théorie éducative, validant ainsi leur fidélité par rapport aux données humaines sur des enquêtes internationales comme PISA.
Ce papier présente FireBench, un nouveau benchmark open-source conçu pour évaluer la capacité des grands modèles de langage à suivre des instructions dans des contextes d'entreprise et d'API, en comblant le fossé entre les évaluations actuelles axées sur le chat et les besoins réels des applications professionnelles.
Cet article propose une méthode d'échantillonnage diversifié sans entraînement et à faible coût pour les modèles de langage par diffusion, qui améliore significativement la performance Pass@ en repoussant séquentiellement les échantillons intermédiaires dans l'espace des caractéristiques pour éviter la redondance.
Cette étude évalue la capacité des grands modèles de langage à capturer l'incertitude des experts dans l'analyse qualitative de valeurs humaines selon la théorie de Schwartz, révélant qu'ils atteignent des performances proches du niveau humain sur des métriques d'ensemble mais divergent dans leurs structures d'incertitude et leurs biais systématiques, bien que l'agrégation de modèles et l'utilisation de modèles comme Qwen améliorent significativement l'alignement.