11557 articles
Ce papier présente GAR, un cadre d'apprentissage par renforcement adversarial qui entraîne conjointement un générateur de problèmes et un prouveur dans une boucle itérative, permettant d'améliorer significativement l'efficacité de l'entraînement et la performance des modèles sur la preuve de théorèmes formels complexes.
Ce papier présente TAO, un protocole de vérification optimiste et tolérant aux erreurs qui garantit l'intégrité des inférences de réseaux de neurones flottants sur des matériels hétérogènes non fiables en acceptant des résultats dans des plages d'erreur définies et en utilisant un jeu de contestation hiérarchique, le tout sans nécessiter de matériel de confiance ni de noyaux déterministes.
Ce papier présente ScholarEval, un cadre d'évaluation augmenté par la récupération qui évalue la validité et l'apport des idées de recherche grâce à la littérature, et le valide sur un nouvel ensemble de données expertes (ScholarIdeas) en démontrant sa supériorité par rapport aux systèmes d'IA avancés.
Inspiré par le circuit olfactif de la mouche, Fly-CL est un cadre bio-inspiré qui améliore l'apprentissage continu de représentations en résolvant efficacement la multicolinéarité et en réduisant considérablement le temps d'entraînement tout en maintenant des performances de pointe.
Cet article propose une loi d'échelle conditionnelle intégrant des facteurs architecturaux pour optimiser le compromis entre précision et efficacité de l'inférence des grands modèles de langage, démontrant que cette approche permet de surpasser les modèles existants comme LLaMA-3.2 en termes de précision et de débit.
Cet article propose deux algorithmes de bandits informés par la physique, nommés *pretc* et *prgreedy*, qui exploitent la propriété de multipath parcimonieuse des canaux mmWave pour surmonter les limites des hypothèses d'unimodalité et améliorer l'alignement et le suivi des faisceaux avec une meilleure robustesse et généralisabilité.
Ce papier présente POYO-CAP, une stratégie de préentraînement hybride qui exploite l'hétérogénéité des neurones en sélectionnant d'abord les cellules statistiquement régulières pour l'apprentissage, permettant ainsi une amélioration significative et une mise à l'échelle fluide du décodage des expériences visuelles dynamiques à partir d'images calciques.
Cette étude démontre que pour fonctionner à l'échelle des temps biologiques, les algorithmes d'alignement des rétroactions doivent respecter un principe d'overlap temporel entre l'activité présynaptique et le signal d'erreur, expliquant ainsi leur robustesse aux décalages de synchronisation modérés.
Le papier présente LightMem, un système de mémoire léger et efficace inspiré du modèle humain d'Atkinson-Shiffrin qui, grâce à une organisation en trois étapes (mémoire sensorielle, court terme et long terme avec mise à jour hors ligne), améliore significativement la précision des LLMs tout en réduisant drastiquement l'utilisation de tokens et les appels API par rapport aux méthodes existantes.
Ce papier présente les modèles de diffusion discrète à contournement (LDDMs), une approche novatrice qui surmonte la « paroi d'échantillonnage » des modèles de diffusion discrets grâce à un chemin latent déterministe, permettant ainsi de réduire considérablement la perplexité générative et d'améliorer la cohérence du texte et les performances de raisonnement, rivalisant ainsi avec les modèles autoregressifs.
Le papier présente Scaf-GRPO, un cadre d'apprentissage par renforcement qui surmonte le « mur d'apprentissage » des modèles de langage en injectant des indices progressifs lors des stagnations, permettant ainsi d'améliorer significativement leurs capacités de raisonnement complexe sur des benchmarks mathématiques.
Ce papier propose le cadre DAG-Math, qui modélise le raisonnement par chaîne de pensée des grands modèles de langage comme un processus stochastique sur des graphes acycliques dirigés pour introduire une métrique de « proximité logique » permettant d'évaluer la fidélité des dérivations au-delà de la simple exactitude de la réponse finale.
L'article présente BioCAP, un modèle fondamental biologique qui améliore la classification des espèces et la recherche image-texte en exploitant des légendes synthétiques générées par des modèles de langage multimodaux pour enrichir l'apprentissage au-delà des simples étiquettes.
Cet article présente le premier cadre théorique établissant les taux de convergence des optimiseurs adaptatifs comme Adam et Muon sous quantification en virgule flottante, démontrant que leur efficacité est préservée à condition que la longueur de la mantisse croisse logarithmiquement avec le nombre d'itérations, tout en révélant la sensibilité accrue d'Adam aux erreurs de quantification par rapport à Muon.
Cet article propose un nouvel algorithme de génération de données, appelé HOPSS, qui accélère considérablement la création de jeux d'entraînement pour les équations aux dérivées partielles non linéaires temporelles en utilisant une perturbation homologue dans l'espace des solutions, réduisant ainsi le temps de calcul à environ 10 % des méthodes traditionnelles tout en préservant la précision nécessaire à l'entraînement des modèles.
Cet article présente FAME, un cadre novateur combinant synthèse formelle hors ligne et surveillance en temps réel pour détecter les défaillances silencieuses des systèmes d'IA critiques et garantir leur conformité aux normes de sécurité ISO.
Cet article présente un cadre de diffusion plug-and-play dans l'espace latent qui améliore le regroupement des données de séquençage ARN à cellule unique en séparant l'espace d'observation de l'espace de débruitage via une procédure d'échantillonnage de Gibbs, permettant ainsi un traitement adaptatif du bruit, une quantification de l'incertitude et une meilleure cohérence biologique des clusters.
VoMP est une méthode feed-forward novatrice qui prédit de manière précise et rapide les champs de propriétés mécaniques volumétriques (module de Young, coefficient de Poisson et densité) de n'importe quel objet 3D en apprenant un espace latent de matériaux physiquement plausibles à partir d'un nouveau pipeline d'annotation et d'un benchmark dédié.
Cet article propose un cadre d'apprentissage par renforcement multi-agent adaptatif qui optimise dynamiquement la longueur du contexte via une analyse de gradient temporel et une troncature des basses fréquences pour éliminer les informations redondantes, améliorant ainsi l'efficacité de l'exploration et les performances sur des tâches à dépendances à long terme.
Cet article présente une approche d'apprentissage profond enrichie par des techniques d'augmentation de données, notamment la régularisation et l'échantillonnage multiple, pour améliorer la précision et la généralisation des modèles de reconnaissance des raccords de tubage dans des conditions de données limitées, validant ainsi leur efficacité sur des signaux réels pour la calibration de la profondeur en forage.