1854 articles
Cette étude pionnière en traitement automatique des langues présente le premier jeu de données numérique pour le dialecte de Mayence (Meenzerisch) et démontre que les grands modèles de langage actuels échouent à le comprendre ou à le générer avec précision, soulignant ainsi l'urgence de développer davantage de ressources pour la préservation des dialectes allemands.
Cet article présente un nouveau jeu de données tchèque enrichi en termes d'opinion pour l'analyse de sentiment basée sur les aspects dans le domaine de la restauration, accompagné d'une évaluation approfondie de modèles de langage et d'une méthode de traduction et d'alignement des étiquettes pour surmonter les défis des langues à ressources limitées.
Cette étude démontre que, pour le déploiement clinique en ressources limitées, Llama 3.2 3B offre le meilleur équilibre entre précision et fiabilité, tout en révélant que les modèles à faible coût peuvent être constamment erronés et que l'entraînement de domaine seul ne suffit pas sans instruction.
Cette étude évalue la robustesse des modèles d'extraction de relations en zéro-shot face à des scénarios réalistes, en proposant une typologie et des stratégies pour améliorer leur efficacité, tout en démontrant que l'approche AlignRE surpasse les autres méthodes existantes.
Cet article présente une étude quantitative systématique révélant que les modèles de dialogue basés sur les grands modèles de langage (LLM) mémorisent et exposent des données d'entraînement sensibles, et propose de nouvelles techniques d'attaque efficaces pour extraire ces données tout en identifiant des stratégies de mitigation.
Cet article présente un cadre d'annotation de graphes narratifs intégrant l'analyse qualitative de contenu pour améliorer la qualité des annotations, et évalue l'impact de différentes représentations et métriques sur l'accord inter-annotateurs via une expérience factorielle sur des récits d'inflation.
Ce chapitre examine l'état actuel des détecteurs de textes générés par l'IA, propose des directives pour leur utilisation responsable et évalue empiriquement leur capacité à généraliser la détection entre différents grands modèles de langage (LLM) afin d'orienter leur développement pratique.
Cet article critique les limitations de TeX à l'ère des modèles de langage et propose Mogan STEM, un éditeur structuré WYSIWYG qui surpasse TeX en efficacité, en localisation des erreurs et en optimisation pour l'entraînement de LLMs grâce à son format .tmu à faible entropie.
Cet article propose un cadre de collaboration multi-agents inspiré du processus cognitif humain « proposer-évaluer-réviser » pour améliorer l'extraction d'arguments d'événements au niveau du document en configuration zéro-shot, en générant et en optimisant itérativement des données synthétiques via un apprentissage par renforcement afin de surmonter les limites des méthodes existantes.
Ce papier présente Code2Math, un cadre multi-agents qui utilise l'exécution de code pour faire évoluer automatiquement des problèmes mathématiques existants en variantes plus complexes et solubles, offrant ainsi une solution scalable à la pénurie de défis mathématiques de haut niveau pour l'entraînement des modèles de langage.
AriadneMem est un système de mémoire structuré pour les agents LLM qui améliore la précision des réponses multi-sauts et la gestion des mises à jour d'état tout en réduisant considérablement le temps d'exécution et l'utilisation du contexte, grâce à une approche en deux phases combinant filtrage, coalescence conflictuelle et découverte algorithmique de liens dans un graphe.
Cette étude révèle la persistance et l'émergence de divers biais dans les modèles de récompense, puis propose une méthode de façonnage de récompense mécaniste simple et extensible pour atténuer ces biais sans dégrader la qualité globale.
Ce papier présente MA-RAG, un cadre d'inférence agentic multi-tours qui améliore le raisonnement médical en transformant les conflits sémantiques en requêtes de recherche itératives pour atteindre un consensus de haute fidélité, surpassant ainsi les méthodes existantes de +6,8 points de précision en moyenne.
Cet article présente SE-Search, un agent de recherche autonome qui améliore les performances des modèles de langage en combinant une purification de la mémoire, un entraînement par requêtes atomiques et des récompenses denses pour optimiser le processus de recherche et réduire les erreurs factuelles.
Cette étude présente une architecture hybride de modèles de langage, combinant un fine-tuning supervisé sur des faits agricoles vérifiés et une couche d'adaptation culturelle, qui améliore la fiabilité, la sécurité et le rapport coût-efficacité des systèmes d'avis agricoles pour les petits exploitants, tout en introduisant un cadre d'évaluation rigoureux et une bibliothèque de prompts open source.
Cette étude révèle que, contrairement à l'exploration diversifiée des humains, les grands modèles de langage actuels divergent considérablement dans la sélection de leurs objectifs en privilégiant l'exploitation de solutions uniques ou affichant de faibles performances, ce qui remet en cause leur fiabilité en tant que substituts aux préférences humaines dans des tâches ouvertes.
Le papier présente PlugMem, un module de mémoire plugin indépendant des tâches qui améliore les agents LLM en structurant les souvenirs épisodiques sous forme d'un graphe de connaissances compact et orienté vers la décision, surpassant ainsi les approches existantes en termes d'efficacité et de densité d'information sur divers benchmarks.
Ce papier présente TTSR, un cadre d'entraînement auto-évolutif au moment du test qui améliore continuellement le raisonnement des grands modèles de langage en faisant alterner un même modèle pré-entraîné entre les rôles d'élève résolvant des problèmes et de professeur analysant les échecs pour générer des questions ciblées.
Le papier présente TATRA, une méthode d'ingénierie de prompt sans entraînement qui génère dynamiquement des exemples few-shot adaptés à chaque instance, surpassant ainsi les approches d'optimisation coûteuses et dépendantes de données sur des tâches de classification et de raisonnement mathématique.
Cette étude audite la fabrication de références par dix grands modèles de langage dans quatre domaines académiques, révélant des taux d'hallucination variables et démontrant que la vérification par consensus multi-modèles ou la répétition dans l'invite, ainsi qu'un classifieur léger basé sur les caractéristiques bibliographiques, constituent des méthodes efficaces pour détecter les citations fantômes sans requérir de bases de données externes.