11732 articles
Le papier présente GRIP, un cadre unifiant l'équilibre global des distributions et la sélection locale d'instances via un espace géométrique adaptatif, permettant d'entraîner des modèles de langage plus performants avec des données nettement moins volumineuses que les ensembles non curatés.
L'article présente StaTS, un modèle de diffusion pour la prévision probabiliste de séries temporelles qui apprend de manière adaptative un calendrier de bruit et un débruiteur guidé par la fréquence afin d'améliorer la préservation structurelle et l'inversibilité des étapes de diffusion.
Ce papier présente CARE, un cadre d'agrégation conscient des facteurs de confusion qui améliore l'évaluation des LLM en modélisant explicitement les erreurs corrélées des juges pour isoler la qualité réelle sans étiquettes de vérité terrain, réduisant ainsi les erreurs d'agrégation jusqu'à 26,8 %.
Cette étude compare les performances des méthodes économétriques et de l'apprentissage automatique causal dans la découverte de structures causales à partir de séries temporelles, en utilisant le cas des politiques britanniques contre la COVID-19 pour démontrer que les méthodes économétriques offrent des règles temporelles claires tandis que les algorithmes d'apprentissage automatique permettent une exploration plus large et des graphes plus denses.
Le papier présente LittleBit-2, un cadre qui maximise le gain d'énergie spectrale dans les LLMs sous-1-bit grâce à une rotation latente interne et une quantification itérative conjointe, alignant ainsi la géométrie latente sur l'hypercube binaire pour atteindre un état de l'art sans surcoût d'inférence.
Cet article propose une approche d'apprentissage par renforcement, baptisée L-REINFORCE, qui garantit la stabilité probabiliste des systèmes de contrôle à partir d'un nombre fini de données en s'appuyant sur la méthode de Lyapunov et en démontrant son efficacité sur la tâche du Cartpole.
Cet article présente une méthodologie d'évaluation pilotée par les propriétés pour mesurer l'expressivité des réseaux de neurones sur graphes à grande échelle, en utilisant un générateur de données formel et un cadre d'analyse qui révèlent des compromis fondamentaux entre les différentes méthodes de regroupement global.
Ce papier propose REMIND, un cadre unifié qui aborde l'apprentissage multimodal médical sous-jacent à des données manquantes en traitant la distribution à longue traîne des combinaisons de modalités via une architecture de mélange d'experts spécialisée par groupe et une optimisation robuste pour améliorer les performances des combinaisons sous-représentées.
Ce papier propose BiJEPA, une architecture d'apprentissage auto-supervisé bi-directionnelle qui améliore l'apprentissage de représentations symétriques en imposant une régularisation de norme pour garantir une stabilité et une convergence efficaces sur divers types de données.
Le papier présente LitBench, un outil de benchmarking centré sur les graphes qui permet de créer, d'entraîner et d'évaluer des modèles de langage spécialisés dans le domaine littéraire, démontrant que ces modèles de petite taille peuvent rivaliser avec des modèles d'état de l'art grâce à l'exploitation de sous-graphes de connaissances spécifiques.
Cet article présente RBF-Gen, un cadre de modélisation par substitut guidé par les connaissances qui intègre efficacement l'expertise métier aux données limitées via un réseau générateur et des fonctions de base radiales, permettant d'obtenir une précision prédictive supérieure pour l'optimisation de la conception mécanique et des procédés de fabrication.
Le papier présente Mag-Mamba, un cadre innovant qui résout le défi de l'asymétrie spatio-temporelle couplée dans la recommandation de lieux d'intérêt (POI) en modélisant les transitions comme des dynamiques de rotation pilotées par la phase dans le domaine complexe, grâce à un encodeur de phase magnétique conditionné par le temps et un module Mamba à valeurs complexes.
Ce papier présente l'Expert Divergence Learning, une nouvelle stratégie de pré-entraînement qui utilise une perte auxiliaire basée sur la divergence de Jensen-Shannon pour encourager la spécialisation fonctionnelle des experts dans les modèles de type MoE, réduisant ainsi l'homogénéisation et améliorant les performances sans surcoût computationnel significatif.
Ce papier présente M3-AD, un cadre unifié et des ressources de données conçus pour améliorer la détection d'anomalies industrielles en intégrant un mécanisme d'auto-correction réflexif au sein des modèles multimodaux de grande taille.
Cette étude démontre que, dans le contexte de la détection du Parkinson prodromique par IRMf avec des données extrêmement limitées, l'évaluation au niveau du sujet révèle une généralisation bien plus fiable des modèles légers comme MobileNet V1 par rapport aux architectures profondes, contrairement aux évaluations au niveau des images qui induisent une fuite d'information et des résultats trompeurs.
Cette étude démontre que le fine-tuning de modèles de langage sur des données de domaine contenant des informations personnelles identifiables (PII) compromet gravement leur sécurité en réduisant les refus et en augmentant les fuites de données, même lorsque les requêtes sont hors contexte.
Cet article soutient que les capacités et les propensions des systèmes d'IA sont des propriétés dispositionnelles nécessitant une approche de mesure scientifique rigoureuse, fondée sur la causalité et les contre-factuels, qui contraste avec les pratiques d'évaluation actuelles se limitant souvent à la performance observable.
Cet article détermine la largeur minimale requise pour que les réseaux de neurones -adiques utilisant une fonction d'activation analogue au ReLU possèdent la propriété d'approximation universelle pour les fonctions continues à valeurs dans sur des sous-ensembles compacts ouverts, selon les normes et .
Cet article propose un cadre récurrent à portes cohérentes en représentation (RC-GRF) qui, grâce à une stratégie de régularisation novatrice assurant la stabilité temporelle des états cachés, améliore la robustesse et la généralisation des modèles de classification de séries temporelles médicales bruyantes et incomplètes.
Ce papier propose le cadre Certainty-Validity (CVS) pour évaluer les systèmes à engagement discret, révélant que leur incapacité à dépasser un plafond d'ambiguïté n'est pas un échec mais une fonctionnalité protectrice contre les hallucinations, et plaide pour une optimisation basée sur la validité plutôt que sur la simple précision.