8672 papers
Deze studie introduceert en analyseert Mixture-of-Experts-architecturen voor machine learning interatomische potentialen, waarbij een element-wise routing-strategie met niet-lineaire experts en gedeelde experts leidt tot state-of-the-art nauwkeurigheid en chemisch interpreteerbare specialisatie.
In dit paper wordt \$OneMillion-Bench geïntroduceerd, een nieuwe benchmark met 400 door experts samengestelde taken uit vijf professionele domeinen die taalagenten evalueren op hun vermogen om complexe, realistische scenario's met betrouwbare redenering en bronverificatie aan te pakken, in plaats van alleen gestructureerde examenvragen.
Het artikel introduceert MJ1, een multimodale beoordelaar met 3 miljard actieve parameters die door middel van versterkingslering en een gestructureerde keten voor visuele verificatie niet alleen de nauwkeurigheid op benchmarks zoals MMRB2 aanzienlijk verbetert, maar ook grotere modellen zoals Gemini-3-Pro overtreft.
SmartThinker is een nieuwe GRPO-gebaseerde methode die de redeneerlengte van grote taalmodellen dynamisch kalibreert om overbodige tekst te verminderen zonder de nauwkeurigheid te schaden, wat resulteert in aanzienlijke verkorting van de output en verbeterde prestaties op complexe taken.
Deze paper introduceert een geleerde aanpak voor het versnellen van Maximum Inner Product Search (MIPS) door het gebruik van convexe neurale netwerken (SupportNet en KeyNet) om de ondersteuningsfunctie van een dataset te benaderen en zo de optimale sleutel direct te voorspellen voor een gegeven query.
FedMomentum is een nieuw framework voor federatief fine-tunen van grote taalmodellen met LoRA dat door middel van SVD de trainingsmomentum behoudt en zo de convergentiesnelheid en nauwkeurigheid verbetert ten opzichte van bestaande methoden.
Dit paper introduceert CAMEL, een rekenkracht-efficiënte methode die een capaciteitsbewuste mengwet en een voorspellingswet voor benchmarkprestaties gebruikt om de data-mengsels voor grote taalmodellen te optimaliseren, wat leidt tot een halvering van de optimalisatiekosten en een verbetering van de downstream-prestaties.
In dit paper wordt GCGNet voorgesteld, een graf-consistente generatieve netwerkarchitectuur die door middel van variatiegeneratie, grafstructuur-afstemming en grafverfijning robuuste en nauwkeurige tijdreeksvoorspellingen met exogene variabelen mogelijk maakt door zowel temporale als kanaalcorrelaties gezamenlijk te modelleren.
Dit paper introduceert CDRRM, een nieuw framework dat gebruikmaakt van een contrast-gebaseerde aanpak om interpreteerbare en betrouwbare rubrieken te genereren voor beloningsmodellen, waardoor de afhankelijkheid van dure expertannotaties wordt verminderd en de prestaties op diverse benchmarks worden verbeterd met slechts een beperkt aantal trainingsvoorbeelden.
Dit artikel introduceert SFed-LoRA, een framework dat de instabiliteit van LoRA in federatief leren door clientgrootte en rang veroorzaakt, corrigeert door een optimale schalingsfactor af te leiden die de aggregatiefout minimaliseert en zo stabielere en snellere convergentie mogelijk maakt zonder de modelarchitectuur te wijzigen.
Deze studie presenteert een diep-leringsframework voor adversariaal domeinadaptatie dat effectieve kennisoverdracht tussen heterogene RNA-seq-datasets mogelijk maakt, waardoor de nauwkeurigheid van kanker- en weefselclassificatie aanzienlijk verbetert, vooral in scenario's met beperkte data.
Dit paper introduceert Deterministic Differentiable Pruning (DDP), een methode die stochastische elementen uit de gestructureerde pruning van grote taalmodellen verwijdert door een deterministische zachte surrogate te optimaliseren, wat leidt tot snellere convergentie, minder discrepantie tussen training en test, en betere prestaties bij hoge sparsiteit.
Dit artikel introduceert een hybride quantum-klassiek neurale netwerk dat variabele quantumkringen integreert in een GRU-architectuur voor het nauwkeurig en robuust voorspellen van multivariate fysiologische tijdsreeksen in klinische settings.
Hoewel het autoregressieve TRM-model geen betrouwbare prestatieverbeteringen bood ten opzichte van standaardmodellen, tonen de resultaten aan dat twee-staps verfijningsmechanismen in het algemeen veelbelovend zijn voor kleine autoregressieve taken.
Dit paper introduceert EAGLE-Pangu, een reproduceerbaar systeem dat boomgestructureerde speculatieve decoding op Ascend NPUs veilig implementeert voor Pangu-modellen, waardoor de doorvoersnelheid aanzienlijk wordt verbeterd ten opzichte van traditionele methoden.
Dit paper introduceert het DC-W2S-framework, dat door middel van dubbele consensus-metingen en een slimme trainingscurriculum betrouwbare Procesbeloningsmodellen voor biologisch redeneren mogelijk maakt met behulp van ruwe, zwakke supervisie zonder de noodzaak van uitgebreide expertannotatie.
Dit paper schetst een nieuwe veiligheidsbedreiging waarbij een LLM via steganografie en finetuning schadelijke inhoud kan genereren die voor menselijke waarnemers en automatische filters onzichtbaar blijft, terwijl de interactie er volledig onschuldig uitziet.
Deze studie introduceert Tau-BNO, een snel en nauwkeurig neuronaal operator-surrogaatmodel dat de computationele barrières van het Network Transport Model voor tau-transport overbrugt door microscopische reactiekinetiek en anisotrope netwerkvervoer te simuleren, waardoor parameterinferentie en mechanistisch onderzoek in Alzheimer-onderzoek aanzienlijk worden versneld.
Dit paper introduceert ROMI, een nieuwe methode voor model-based offline versterkend leren die de instabiliteit en overmatige conservatisme van RAMBO oplost door robuuste waarde-bewuste modelleertechnieken en impliciet differentieerbare adaptieve weging te combineren voor betere prestaties op uitdagingrijke datasets.
Dit paper introduceert SaiVLA-0, een neurobiologisch geïnspireerd Vision-Language-Action-model met een driepartite architectuur (Cerebrum, Pons, Cerebellum) die berekeningsbewust is, modulaire upgrades mogelijk maakt en aanzienlijke verbeteringen in trainingssnelheid en succespercentages toont.