1077 articles
Cet article propose une nouvelle approche basée sur les graphes causaux pour analyser les récits opposés, permettant de modéliser les interactions entre entités et de surclasser les méthodes existantes en éliminant les biais des modèles boîte noire.
L'étude RAPTOR démontre que la trajectoire de pré-entraînement en apprentissage auto-supervisé, et non l'échelle du modèle, est le facteur déterminant pour la robustesse et l'étalonnage des détecteurs de deepfakes audio, permettant à des modèles compacts multilingues de rivaliser avec des systèmes commerciaux plus volumineux.
Cet article propose un cadre en deux étapes pour l'apprentissage de similarités entre écritures, combinant un apprentissage contrastif supervisé sur des alphabets inventés et une distillation non supervisée vers des scripts historiques afin de découvrir des similarités latentes sans dépendre de relations évolutives certifiées.
Ce papier présente CRIMSON, un cadre d'évaluation cliniquement fondé pour les rapports de radiologie générés par IA, qui intègre le contexte complet du patient et une pondération basée sur la gravité clinique pour mieux s'aligner sur le jugement des radiologues que les métriques précédentes.
Le papier présente MAPO, un algorithme d'optimisation de politique sans critique qui combine des retours de processus denses et une estimation d'avantage à normalisation mixte pour améliorer la stabilité et les performances de l'apprentissage par renforcement dans les dialogues multi-tours subjectifs à long terme.
Cet article présente le protocole AI-CROWD, qui approxime une vérité terrain pour l'analyse de contenu à grande échelle en agrégeant les sorties d'un ensemble d'onze grands modèles de langage via un vote majoritaire et des métriques de diagnostic, afin de contourner les limites de coût et de temps du codage humain.
Ce papier présente LIT-RAGBench, un nouveau benchmark japonais et anglais conçu pour évaluer de manière systématique et simultanée cinq capacités clés des générateurs de RAG (intégration, raisonnement, logique, tableaux et abstention) afin de guider la sélection et le développement de modèles spécialisés pour des déploiements pratiques.
Le papier présente FlashPrefill, un cadre qui accélère considérablement la phase de préremplissage des modèles de langage à long contexte en découvrant instantanément des motifs d'attention épars et en appliquant un seuillage dynamique, permettant ainsi des gains de vitesse allant jusqu'à 27,78 fois sur des séquences de 256K tokens tout en restant efficace sur des contextes plus courts.
Le papier présente SPOT, un cadre innovant qui améliore l'efficacité et l'interprétabilité du raisonnement des grands modèles de langage en compressant la pensée explicite en tokens latents compacts grâce à un alignement sémantique par niveau de segment et à une contrainte de décodage par tête gelée.
Cette étude révèle que, malgré une bonne adéquation sur les questions sociales générales, les grands modèles de langage actuels échouent à refléter fidèlement les opinions religieuses, en particulier celles des minorités, dans les contextes asiatiques, perpétuant ainsi des stéréotypes et des biais culturels que les interventions légères ne parviennent pas à éliminer.
L'article présente EpisTwin, une architecture neuro-symbolique qui surmonte la fragmentation des données personnelles en ancrant le raisonnement génératif dans un graphe de connaissances personnel vérifiable, enrichi par des modèles multimodaux et un agent de coordination pour une compréhension holistique et contextuelle.
Cette étude empirique démontre que l'adaptation des modèles de reconnaissance vocale aux langues autochtones du Pacifique, bien que cruciale pour pallier le manque de données, se heurte à un dilemme entre plasticité et stabilité, où des méthodes comme LoRA échouent à éviter l'oubli catastrophique lors de l'apprentissage continu de multiples langues.
Cette étude évalue la capacité de ChatGPT à pasticher des œuvres d'art contemporaines, révélant un écart significatif entre les similarités visuelles et la perte de dimensionnalité, de contexte et d'intentionnalité perçue par les artistes originaux, ce qui plaide pour l'adoption d'un tableau de bord de métriques complémentaires plutôt que d'une mesure unique.
Le papier présente SAHOO, un cadre pratique qui garantit l'alignement lors de l'amélioration récursive de soi en surveillant la dérive des objectifs grâce à trois mécanismes de sécurité, tout en démontrant des gains de performance significatifs dans des tâches de codage et de raisonnement sans compromettre la sécurité.
Cette étude propose un cadre interprétable pour l'extraction des relations entre entités mathématiques en utilisant des modèles BERT atteignant 99,39 % de précision, renforcés par des techniques d'intelligence artificielle explicable (SHAP) pour garantir la transparence des prédictions.
Cette étude introduit un nouveau jeu de données pour évaluer le raisonnement déontique des grands modèles de langage via la tâche de sélection de Wason, révélant qu'ils surpassent leur performance dans les contextes normatifs et présentent des biais d'appariement similaires à ceux observés chez les humains.
Cette étude présente une comparaison unifiée des principales approches d'évaluation automatique des essais par les grands modèles de langage pour l'anglais langue seconde, démontrant que la combinaison du fine-tuning supervisé et de l'optimisation des préférences avec la génération augmentée par récupération (RAG) atteint les meilleurs résultats avec un score F1 de 93 %.
Cet article examine la capacité des grands modèles de langage à effectuer un raisonnement abductif, défini comme l'inverse du syllogisme, afin de déterminer s'ils présentent des biais similaires à ceux des humains et d'identifier des pistes pour améliorer leur raisonnement contextuel au-delà de la déduction formelle.
Le papier présente PONTE, un cadre d'IA explicable intégrant l'humain dans la boucle qui génère des explications naturelles personnalisées et fiables en combinant un modèle de préférences, un générateur conditionné et des modules de vérification, surpassant ainsi les approches traditionnelles dans les domaines de la santé et de la finance.
Le papier présente NOBLE, une architecture d'augmentation permanente intégrant des branches non linéaires de faible rang dans les couches linéaires des transformateurs pour accélérer l'entraînement à partir de zéro avec un surcoût paramétrique minimal, offrant jusqu'à 1,22 fois une accélération nette du temps d'exécution tout en améliorant l'efficacité sur divers modèles comme les LLM, BERT et ViT.