4237 articles
Cet article propose une méthode d'oubli ciblé pour les grands modèles de langage (LLM) appelée TRU, qui utilise des objectifs de raisonnement pour éliminer de manière fiable et explicable des connaissances indésirables tout en préservant les capacités générales du modèle.
Ce papier présente AraModernBERT, une adaptation de l'architecture ModernBERT à la langue arabe qui démontre l'importance cruciale de l'initialisation par transtokenisation et de la modélisation native de longs contextes jusqu'à 8 192 tokens pour améliorer les performances en compréhension du langage naturel.
Ce papier présente MoE-SpAc, un cadre d'inférence pour les modèles MoE sur des périphériques hétérogènes qui réutilise le décodage spéculatif comme capteur prédictif pour optimiser la gestion de la mémoire et l'équilibrage de charge, permettant ainsi d'atteindre des gains de vitesse significatifs par rapport aux méthodes existantes.
Cette étude empirique démontre que les grands modèles de langage, en particulier ceux ayant une faible précision comme Kimi K2, souffrent d'un effet Dunning-Kruger numérique caractérisé par une surestimation marquée de leurs capacités, soulignant ainsi des risques critiques pour leur déploiement dans des applications à haut risque.
Cette étude quantifie la fréquence des hallucinations dans les réponses de modèles de langage à des questions médicales basées sur des manuels, révélant un taux d'hallucination de 19,7 % pour LLaMA-70B-Instruct malgré une haute plausibilité, et démontrant une corrélation entre des taux d'hallucination plus faibles et une préférence accrue des cliniciens.
Ce papier propose un cadre innovant qui optimise la transformation de caractéristiques pilotée par les grands modèles de langage en faisant évoluer dynamiquement un bibliothèque d'expériences de trajectoires validées, surpassant ainsi les méthodes existantes en termes de diversité, d'efficacité et de performance sur des tâches prédictives tabulaires.
Cette étude propose un pipeline qui relie l'analyse des circuits causaux aux explications en langage naturel pour les LLM, démontrant sur la tâche d'identification d'objet indirect dans GPT-2 Small que les explications générées par LLM surpassent les modèles basés sur des templates, tout en révélant un manque de corrélation entre la confiance du modèle et la fidélité des explications.
Cet article présente l'Échelle d'Hallucination Systémique (SHS), un instrument léger et centré sur l'humain validé empiriquement pour évaluer la fiabilité factuelle et la cohérence des grands modèles de langage du point de vue de l'utilisateur, sans se substituer aux détecteurs automatiques.
Cet article propose une architecture à deux étapes automatisant l'analyse des accords de non-divulgation (NDA) en utilisant LLaMA-3.1-8B-Instruct pour la segmentation des clauses et un Legal-Roberta-Large affiné pour leur classification, atteignant des performances élevées avec un score F1 de 0,95 pour la segmentation et 0,85 pour la classification.
L'article présente PoultryLeX-Net, une architecture de transformateur à double flux enrichie par un lexique et adaptée au domaine, qui surpasse les modèles de base pour l'analyse fine des sentiments dans le discours sur l'industrie avicole en atteignant une précision de 97,35 %.
Ce papier présente TAMUSA-Chat, un cadre de recherche permettant aux institutions académiques de développer des systèmes conversationnels adaptés à leur domaine grâce à l'affinage supervisé et à la génération augmentée par récupération, tout en garantissant la transparence, la conformité et des pratiques responsables en matière d'IA.
Ce papier présente le benchmark CEI, un ensemble de données validé par des humains contenant 300 scénarios conçus pour évaluer la capacité des modèles de langage à effectuer un raisonnement pragmatique en inférant le sens intentionnel au-delà de la sémantique littérale dans divers contextes sociaux et relations de pouvoir.
Cette étude révèle une divergence frappante entre les représentations internes compositionnelles des grands modèles de langage et leur capacité à les traduire de manière cohérente en performances fonctionnelles lors de tâches d'adjectif-nom, soulignant ainsi la nécessité d'évaluations contrastives pour une compréhension complète de leurs capacités.
Cette étude démontre que, pour l'évaluation et l'amélioration des réponses aux entretiens comportementaux, une approche humaine en boucle surpasse l'itération par la chaîne de pensée automatisée en offrant une meilleure authenticité, une plus grande confiance et une convergence plus rapide grâce à une intégration contextuelle supérieure.
Cette étude évalue la robustesse et la sécurité pédagogique des grands modèles de langage hors ligne pour l'enseignement de la langue turque, révélant que les modèles orientés vers le raisonnement de 8 à 14 milliards de paramètres offrent le meilleur compromis entre coût et sécurité, indépendamment de l'échelle du modèle.
Cette étude clinique démontre que la perception d'une perte d'empathie dans les modèles GPT récents est en réalité le résultat d'une amélioration de la détection des crises et d'une modification de la posture de sécurité, plutôt que d'un changement dans la capacité empathique elle-même.
Cette étude évalue automatiquement les performances de plusieurs grands modèles de langage (LLM) et de Google Translate pour la traduction du chinois mandarin vers l'anglais, révélant qu'ils excellent dans les articles de presse mais peinent encore à préserver les nuances culturelles et les références littéraires complexes.
Ce papier présente la conception et la validation d'un assistant basé sur la récupération d'informations, ancré dans des sources réglementaires autoritaires, pour soutenir l'évaluation de la sécurité et la conformité normative des systèmes d'aéronefs sans pilote tout en garantissant la traçabilité et la responsabilité humaine.
Ce papier présente la création de la base de données LatamQA, un ensemble de plus de 26 000 questions à choix multiples en espagnol et portugais dérivé de Wikidata et de Wikipédia, utilisé pour révéler les biais socioculturels et géographiques des grands modèles de langage envers les pays d'Amérique latine par rapport à l'Espagne.
Ce papier présente SpreadsheetArena, une plateforme d'évaluation par comparaison aveugle conçue pour analyser les performances des modèles de langage dans la génération de classeurs Excel, révélant que les préférences varient considérablement selon les cas d'usage et que les modèles actuels peinent encore à respecter systématiquement les meilleures pratiques de domaine.