12805 articles
Cet article propose une nouvelle approche d'apprentissage fédéré personnalisé qui détermine automatiquement les poids de collaboration entre agents en estimant des noyaux de moyennes, garantissant ainsi des performances statistiques optimales sans connaissance préalable de l'hétérogénéité des données.
Ce papier présente un cadre novateur qui permet de générer automatiquement des spécifications formelles à partir de descriptions en langage naturel, élargissant ainsi considérablement l'applicabilité des outils de vérification de réseaux de neurones à des exigences sémantiques de haut niveau.
Cet article présente CUDABench, un benchmark complet évaluant la capacité des modèles de langage à générer du code CUDA à partir de texte, en utilisant une nouvelle métrique de performance basée sur le roofline et une pipeline de vérification pour révéler les écarts entre la compilation réussie et la correction fonctionnelle.
Ce papier propose CHaRS, une méthode de pilotage des représentations qui améliore le contrôle des grands modèles de langage en modélisant l'hétérogénéité conceptuelle via le transport optimal et en générant des vecteurs de pilotage dynamiques adaptés à chaque entrée, surpassant ainsi les approches globales traditionnelles.
Cet article résout le problème de la calculabilité des bornes de généralisation en longueur pour les transformateurs en démontrant l'inexistence de telles bornes calculables pour la classe CRASP (déjà à deux couches), tout en établissant une borne calculable optimale exponentielle pour son fragment positif équivalent aux transformateurs à précision fixe.
Ce papier propose OnDA, une méthode innovante couplant l'adaptation des poids et l'élagage structuré en ligne des canaux pour réaliser une reconnaissance de mots-clés personnalisée et efficace sur appareil, permettant jusqu'à 9,63 fois de compression du modèle et des améliorations significatives de latence et de consommation énergétique.
Le papier présente HELIOS, un modèle innovant qui améliore la récupération table-texte en harmonisant la fusion précoce et tardive avec le raisonnement des LLM pour surmonter les limites des approches existantes et atteindre des performances record sur le benchmark OTT-QA.
En analysant la géométrie des représentations du modèle de traduction NLLB-200, cette étude démontre que celui-ci a appris à la fois la structure généalogique des langues et des associations conceptuelles universelles, révélant ainsi une organisation sémantique neutre par rapport à la langue qui rappelle les hubs neuronaux du cerveau humain.
Ce papier présente l'Alignement Flywheel, une architecture hybride multi-agents centrée sur la gouvernance qui découple la génération de décisions de la supervision de la sécurité pour permettre des mises à jour de sécurité localisées et auditable sans nécessiter le retrait ou le réentraînement des composants décisionnels autonomes sous-jacents.
Cet article propose un réseau hybride quantique-attentif (Quantum AS-DeepOnet) capable de résoudre des équations d'évolution 2D avec une précision comparable aux méthodes classiques tout en réduisant le nombre de paramètres entraînables de 40 %.
Cette étude propose une nouvelle attaque par empoisonnement furtif ciblant le processus de raisonnement des modèles de langage médicaux lors du fine-tuning supervisé, démontrant que l'injection de rationales erronées dans des données few-shot dégrade efficacement la précision sur des sujets spécifiques sans déclencher d'oubli catastrophique ni être facilement détectable.
Cet article propose NCR-HoK, un modèle d'apprentissage profond basé sur les hypergraphes qui prédit la robustesse de la contrôlabilité des réseaux en exploitant pour la première fois les relations d'ordre supérieur, surpassant ainsi les méthodes existantes en précision et en efficacité computationnelle.
Cet article propose une stratégie de mise à l'échelle des distances guidée par les étiquettes (LDS) qui exploite la sémantique des étiquettes comme signal de supervision lors des phases d'entraînement et de test pour améliorer significativement la classification de texte en contexte de few-shot learning.
Ce papier présente PRISM, un modèle fondamental EEG qui démontre qu'un préentraînement sur des données géographiquement diversifiées génère des représentations plus adaptables et cliniquement robustes pour le diagnostic différentiel que les modèles entraînés sur des corpus étroits, tout en révélant des incohérences critiques dans les protocoles d'évaluation actuels.
Le papier présente NETRA, un cadre de transformateur graphique multimodal qui, en intégrant diverses données omiques et réseaux biologiques, améliore significativement la priorisation des gènes responsables de la maladie d'Alzheimer par rapport aux méthodes centrality traditionnelles grâce à un mécanisme d'attention contextuelle.
Cette étude comparative évalue l'UMAP supervisé et d'autres méthodes de réduction de dimension, révélant que si l'UMAP supervisé excelle en classification, il présente des limites significatives pour intégrer l'information de réponse dans des contextes de régression.
Cet article propose la perte ajustée temporellement (TAL), une méthode qui atténue l'oubli catastrophique et le biais de prédiction dans l'apprentissage incrémental de classes en rééquilibrant dynamiquement la supervision négative grâce à un noyau de décroissance temporelle pour corriger le déséquilibre temporel entre les anciennes et les nouvelles classes.
Ce papier propose Q-LoRA, une méthode de fine-tuning quantique pour la détection de contenu généré par l'IA en régime few-shot, et introduit sa variante classique H-LoRA qui, en imitant les structures de phase et les contraintes de norme des réseaux quantiques, atteint des performances supérieures à LoRA standard avec un coût computationnel réduit.
Cette étude théorique établit les conditions nécessaires au succès de la reconnaissance vocale non supervisée, dérive une borne d'erreur de classification qui valide une nouvelle fonction de perte d'entropie croisée au niveau de la séquence, et propose ainsi une méthode d'apprentissage en une seule étape pour ce domaine.
Cet article propose un cadre d'inférence causale topologique qui quantifie les effets de traitement via des différences structurelles dans les espaces non euclidiens, en utilisant des fonctions de silhouette pondérées par la puissance de diagrammes de persistance et un estimateur doublement robuste pour tester l'hypothèse nulle d'absence d'effet.