1077 articles
Cette étude révèle le paradoxe de l'IA générative en démontrant que les grands modèles de langage, bien qu'habiles à générer des réponses, sont souvent moins performants et moins fiables lorsqu'ils sont chargés d'évaluer ces mêmes réponses.
Cette étude propose l'utilisation de ChatGPT pour analyser le sentiment des citations dans les articles scientifiques, afin d'identifier les biais potentiels et les conflits d'intérêts, renforçant ainsi l'intégrité de l'évaluation de la littérature académique.
Cette étude présente une analyse computationnelle des paroles de flamenco utilisant le traitement du langage naturel et l'apprentissage automatique pour catégoriser les genres (palos), identifier leurs champs sémantiques distincts et révéler leurs relations historiques et évolutives à travers une analyse de réseau.
Cette article présente un pipeline d'apprentissage actif en deux étapes pour la reconnaissance automatique de la parole, combinant le clustering d'x-vectors pour la diversité et une méthode bayésienne basée sur le dropout Monte Carlo pour l'information, afin d'optimiser l'entraînement des modèles avec moins de données étiquetées.
Cet article soutient que les grands modèles de langage, bien qu'ils ne possèdent pas d'agence autonome car ils échouent à satisfaire les conditions d'individualité, de normativité et d'asymétrie interactionnelle requises par les théories incarnées de l'esprit, doivent être définis comme des interlocuteurs linguistiques qui, par leur couplage avec les humains, transforment profondément les formes d'agence existantes en produisant des modalités d'agence « intermédiaires » (midtended) dépassant la simple instrumentalité étendue.
Cette étude démontre que les métriques de biais couramment utilisées pour les grands modèles de langage sont peu fiables pour mesurer les préjudices allocatifs, car elles négligent l'écart entre les prédictions du modèle et les décisions réelles prises pour l'attribution de ressources limitées.
Le papier présente Goldfish, une suite de plus de 1 000 petits modèles de langage monolingues entraînés pour 350 langues, qui surpassent les grands modèles multilingues en termes de perplexité et de grammaticalité, tout en offrant les premiers modèles monolingues publics pour 215 de ces langues.
Le papier présente UniHR, un cadre d'apprentissage de représentations hiérarchiques unifiées qui intègre les faits hyper-relationnels, temporels et imbriqués des graphes de connaissances pour surmonter les limitations des méthodes existantes et améliorer la prédiction de liens dans des scénarios réels complexes.
Cet article propose une méthode efficace et interprétable pour atténuer les biais dans les grands modèles de langage en ajoutant un signal de débiaisage généré par de petits modèles experts lors du décodage, réduisant ainsi les préjugés liés au genre, à la race et à la religion sans compromettre les performances du modèle.
Le papier présente SpecEM, un cadre d'ensemble sans entraînement pour les grands modèles de langage qui améliore les performances en ajustant dynamiquement les poids de vote des modèles et en facilitant une collaboration sémantique au niveau des segments via un mécanisme de prédiction de segments suivants inspiré du décodage spéculatif.
Ce papier présente LEO, une architecture simple et efficace qui améliore la compréhension visuelle des modèles multimodaux en intégrant un mélange d'encodeurs de vision via une fusion légère et un intercalage de tuiles, surpassant les approches existantes sur divers benchmarks et s'adaptant bien au domaine de la conduite autonome.
Cet article démontre que la racine d'une structure de dépendance syntaxique correspond à un nœud central, prouvant ainsi que des scores de centralité basés sur la position des sommets permettent d'identifier efficacement cette racine à partir d'une perspective de science des réseaux.
Ce rapport de synthèse présente une vue d'ensemble structurée des techniques, des ensembles de données et des enjeux éthiques liés à l'utilisation des grands modèles de langage pour assister les chercheurs dans l'ensemble du cycle scientifique, de la découverte et l'expérimentation à la génération de contenu multimodal et à l'évaluation.
Cette étude propose une méthode de rétrotraduction pour affiner des modèles de langage et générer du texte code-switché anglais-espagnol de haute qualité, démontrant que le fine-tuning est essentiel pour la fluidité et que les jugements basés sur des LLMs correspondent mieux aux préférences humaines que les métriques traditionnelles.
Le papier présente CAReDiO, un cadre d'optimisation de données qui améliore l'alignement culturel des grands modèles de langage en maximisant la représentativité et la distinctivité des corpus, permettant ainsi un ajustement efficace avec un nombre très réduit d'échantillons de formation.
Le papier présente RM-R1, une nouvelle classe de modèles de récompense génératifs qui améliorent l'interprétabilité et les performances en traitant la modélisation de la récompense comme un tâche de raisonnement via un mécanisme de « chaîne de critères » et un pipeline d'entraînement combinant distillation et apprentissage par renforcement.
Ce papier présente EVA, un nouveau cadre d'apprentissage de caractéristiques asynchrones inspiré du langage qui surpasse les méthodes existantes en reconnaissance et devient le premier à réussir des tâches de détection exigeantes pour les caméras d'événements.
Cette étude propose une méthode d'orientation des activations conditionnelle et fine (K-CAST) qui atténue efficacement les biais de contenu dans les grands modèles de langage, améliorant ainsi leur raisonnement logique formel sans compromettre leurs capacités linguistiques.
Ce papier présente AdAEM, un algorithme d'évaluation auto-extensible qui génère automatiquement et de manière adaptative des questions de test pour révéler et suivre les différences de valeurs entre les grands modèles de langage, surmontant ainsi les limites des benchmarks statiques.
Ce papier présente ESGenius, le premier benchmark complet évaluant les capacités des grands modèles de langage sur les connaissances en matière d'ESG et de durabilité via un ensemble de questions et un corpus de documents de référence, démontrant que l'approche RAG améliore significativement les performances, en particulier pour les modèles plus petits.