4702 articles
Cette étude démontre que la co-écriture avec l'IA favorise une pratique de « rédaction réactive » où les auteurs, en évaluant d'abord les suggestions de l'IA plutôt qu'en développant leurs propres idées, adoptent involontairement les opinions de l'outil tout en conservant l'illusion d'un contrôle total sur leur texte.
Cet article propose les Graphes de Concepts Causaux (CCG), une méthode combinant des autoencodeurs épars et un apprentissage de structure différentiable pour cartographier les dépendances causales entre concepts dans l'espace latent des LLM, démontrant ainsi une supériorité significative sur les approches existantes pour le raisonnement étape par étape.
Cet article propose une nouvelle loi d'échelle généralisant la loi Chinchilla pour les modèles Mixture-of-Experts, en établissant une formule précise pour déterminer l'allocation optimale de calcul entre les couches d'attention et d'experts en fonction du budget de calcul et de la parcimonie.
Le papier présente TRACED, un cadre d'évaluation qui analyse la fiabilité des LLM en décomposant leurs traces de raisonnement en termes de progression (déplacement) et de stabilité (courbure) pour distinguer les inférences correctes des hallucinations grâce à une approche géométrique.
Cet article présente un cadre de contrôle probabiliste sûr pour l'interaction humain-robot qui combine les fonctions de barrière de contrôle et le contrôle du risque conforme pour fournir des garanties formelles de sécurité, en ajustant dynamiquement les marges de sécurité afin de réduire significativement les collisions tout en maintenant une efficacité de navigation.
Cet article propose de nouvelles techniques d'élicitation d'incertitude basées sur les probabilités imprécises pour permettre aux grands modèles de langage de mieux exprimer et quantifier leur incertitude d'ordre supérieur, comblant ainsi les lacunes des cadres probabilistes classiques face à l'ambiguïté et à l'apprentissage contextuel.
Cet article analyse la dynamique d'apprentissage des réseaux linéaires à deux couches entraînés par descente de gradient stochastique avec du bruit d'étiquettes, révélant un comportement en deux phases où le bruit favorise la transition d'un régime « paresseux » vers un régime « riche » pour améliorer la généralisation, une découverte étendue à l'algorithme SAM et validée par des expériences.
Cet article propose l'algorithme PP-LUCB, qui combine des scores de modèles de langage et des audits humains ciblés pour identifier de manière optimale et économe la meilleure configuration de système de service malgré les biais systématiques des évaluations automatisées.
Cet article présente STemDist, une méthode innovante de distillation de données conçue spécifiquement pour les séries temporelles spatio-temporelles, qui comprime simultanément les dimensions spatiales et temporelles au niveau des clusters pour accélérer l'entraînement des modèles, réduire l'usage mémoire et améliorer la précision des prévisions par rapport aux méthodes existantes.
Cet article propose une nouvelle approche de défense en couches combinant des classificateurs empilés et un autoencodeur, renforcée par un entraînement adversarial, pour améliorer la robustesse des systèmes de détection d'intrusion réseau face aux attaques générées par GAN et FGSM.
Cet article propose un cadre d'apprentissage adaptatif aux domaines pour les indicateurs de santé, intégrant un échantillonnage synchronisé par étapes de dégradation et un autoencodeur à noyaux larges avec mécanismes d'attention croisée, afin de surmonter les décalages de distribution et les limites structurelles des méthodes existantes pour améliorer la surveillance de l'état des machines.
Ce papier démontre que la soustraction de la moyenne, une opération simple et efficace, élimine le biais moyen de rang un responsable de l'instabilité numérique dans l'entraînement des grands modèles de langage en faible précision (FP4), permettant ainsi de retrouver la stabilité et les performances du format BF16 sans recourir à des méthodes spectrales coûteuses.
Le papier présente FAR-Dex, un cadre hiérarchique qui combine l'augmentation de données en peu d'exemples et un raffinement adaptatif par résidus pour surmonter le manque de démonstrations et la complexité des espaces d'action, permettant ainsi une coordination robuste et précise bras-main pour la manipulation habile avec des taux de réussite élevés en simulation et dans le monde réel.
Le papier présente UniPINN, un cadre unifié d'apprentissage multi-tâches pour les équations de Navier-Stokes qui surmonte les limitations des méthodes existantes en intégrant une architecture partagée-spécialisée, un mécanisme d'attention inter-flux et une allocation dynamique des poids pour améliorer la précision et la stabilité de l'entraînement.
Le papier présente G-STAR, un système de reconnaissance automatique de la parole attribué aux locuteurs de bout en bout qui couple un module de suivi temporel des locuteurs avec un modèle de langage pour assurer une cohérence des identités à l'échelle de la réunion tout en générant des transcriptions étiquetées et horodatées.
Cet article propose un cadre unifié pour la recommandation de nouvelles qui modélise l'évolution des intérêts des utilisateurs en combinant une perspective temporelle globale pour les préférences à long terme et une approche locale par étapes avec des mécanismes LSTM et d'attention pour capturer les dynamiques à court terme, surpassant ainsi les méthodes existantes sur des jeux de données réels.
Ce papier présente SearchLLM, le premier grand modèle de langage conçu pour la recherche générative ouverte, qui utilise un système de récompense hiérarchique et une stratégie d'agrégation sélective pour optimiser la qualité des réponses et l'engagement des utilisateurs tout en garantissant la sécurité et la fiabilité, comme le démontrent les tests réussis déployés sur la plateforme RedNote.
Cet article propose un cadre d'alignement multi-agents basé sur la négociation et l'apprentissage par renforcement (RLAIF) qui permet aux grands modèles de langage de résoudre les conflits de valeurs tout en maintenant un alignement avec l'objectif d'agence collective, sans dégrader leurs capacités linguistiques générales.
Ce papier présente JEDI, un modèle hiérarchique qui infère les dynamiques neuronales à travers diverses tâches en apprenant un espace d'embedding partagé sur les poids des réseaux de neurones récurrents, permettant ainsi d'extraire des mécanismes robustes et généralisables à partir de données expérimentales complexes.
Ce papier démontre que l'exposition naïve des capacités de raffinement d'images et de raisonnement des IA génératives commerciales, via des interfaces de chatbot accessibles, compromet fondamentalement les détecteurs de deepfakes les plus avancés en permettant aux utilisateurs non experts de créer des images authentiques et indétectables sans violer les politiques de sécurité.