335 papers
Dit artikel introduceert een nieuwe analyse van gemiddelde stabiliteit voor multipass Preconditioned SGD die de generalisatie koppelt aan de effectieve dimensie, en laat zien dat een onjuist gekozen preconditioner kan leiden tot suboptimale prestaties door een disbalans tussen de kromming van het populatierisico en de geometrie van de ruis.
Deze paper introduceert BTZSC, een uitgebreide benchmark voor zero-shot tekstclassificatie die een systematische vergelijking biedt tussen cross-encoders, embedding-modellen, rerankers en LLMs, waarbij moderne rerankers zoals Qwen3-Reranker-8B een nieuwe state-of-the-art bereiken.
Dit artikel bewijst wiskundig en valideert numeriek dat chemische reactienetwerken zonder verborgen lagen bepaalde classificatietaken efficiënter en nauwkeuriger kunnen leren dan spiking-neuronale netwerken die wel verborgen lagen vereisen.
Dit artikel introduceert een nieuwe aanpak voor batch Bayesian Optimal Experimental Design door het optimalisatieprobleem te verheffen naar de ruimte van kansmaten en te benaderen via Wasserstein-gradiëntstromen, wat leidt tot schaalbare, deeltjesgebaseerde algoritmen die effectief multimodale optimalisatielandschappen kunnen verkennen.
Dit artikel biedt een kwantitatieve theoretische analyse van vergeten tijdens post-training van generatieve modellen, waarbij wordt aangetoond dat de richting van de divergentie (forward-KL versus reverse-KL), de overlap tussen taken en het gebruik van replay bepalen of massaal vergeten optreedt of dat vergeten beperkt blijft tot een gecontroleerde drift.
Dit paper verbetert de bestaande Riemannse Laplace-benadering met de Fisher-metrica door twee nieuwe varianten te ontwikkelen die de problemen van vertekening en te nauwe schattingen oplossen, waardoor exacte resultaten bij oneindige data worden gegarandeerd en de praktische prestaties in diverse experimenten worden verbeterd.
Dit paper introduceert een optimisme-gebaseerd algoritme voor online KL-geregulariseerd versterkend leren dat, door gebruik te maken van het gunstige optimalisatielandschap, een logaritmische regret-benadering bereikt die de theoretische voordelen van KL-regularisatie voor LLM-finetuning bevestigt.
Dit artikel onderscheidt geopolitieke schokken, die soevereine defaultrisico's direct beïnvloeden, van geoeconomische schokken, die via monetair beleid en de mondiale financiële cyclus werken, en toont aan dat liquiditeitsvoorziening weliswaar de door de financiële cyclus veroorzaakte spreadverbreding kan opvangen, maar niet de aanhoudende geopolitieke risicopremie.
Dit artikel introduceert een bandit-gebaseerde aanpak met Contextual Thompson Sampling voor het genereren van gepersonaliseerde oefenreeksen in online wiskundeonderwijs, die op basis van leerlingdata en prestaties gericht zijn op het maximaliseren van vaardigheidsgroei.
In dit artikel wordt SSRCA, een nieuw machine learning-pipeline, voorgesteld om gevoeligheidsanalyse voor complexe agent-gebaseerde modellen in de biologie te stroomlijnen door gevoelige parameters te identificeren, uitkomstenpatronen te onthullen en de bijbehorende invoerwaarden te bepalen, zoals gedemonstreerd aan de hand van tumorgroei.
De auteurs stellen een nieuwe semi-parametrische BART-methode voor die covariaten in zowel het lineaire als het niet-parametrische component toelaat door de boomgeneratiebewegingen aan te passen, waardoor vertekening en niet-identificeerbaarheid worden opgelost en complexe interacties kunnen worden gemodelleerd, wat wordt gevalideerd via simulaties en toepassingen op onderwijsdata.
Dit artikel presenteert een convergentie- en complexiteitsanalyse voor een blok-majorisatie-minimalisatie-algoritme voor niet-convexe optimalisatie met Riemanniaanse beperkingen, waarbij wordt aangetoond dat het een -stationair punt bereikt binnen iteraties en sneller convergeert dan standaard Euclidische methoden.
Dit artikel introduceert twee nieuwe nulde-orde algoritmen, ZO-PDAPG en ZO-RMPDPG, voor het oplossen van niet-convexe minimax-problemen met gekoppelde lineaire constraints, waarbij voor het eerst iteratiecomplexiteitsgaranties worden bewezen die bovendien de huidige staat van de techniek verbeteren.
Dit artikel introduceert een min-max formulering voor niet-negatieve matrixfactorisatie (NMF) om de eerlijkheid in machine learning te verbeteren, waarbij twee optimalisatiemethoden worden gepresenteerd en geëvalueerd met synthetische en reële data, terwijl ook wordt erkend dat eerlijkheid niet-universeel is en soms ten koste gaat van individuele nauwkeurigheid.
Dit artikel presenteert een uitgebreide experimentele studie die aantoont dat eerlijkheidsbewuste machine learning-modellen in het kredietscoringproces een betere balans bereiken tussen voorspellende nauwkeurigheid en eerlijkheid dan traditionele classificatiemodellen.
Dit artikel demonstreert dat de vervloeking van de dimensionaliteit optreedt bij het trainen van ondiepe neurale netwerken met Lipschitz-continuïteit, waarbij de convergentiesnelheid van het populatierisico wordt beperkt door de dimensie en de gladheid van de doelfunctie, zelfs bij gebruik van gradient flow-dynamica in de 2-Wasserstein-ruimte.
Deze paper breidt de bestaande entropiestroom-methode uit tot alle leeralgoritmen die worden gestuurd door een tijds-homogeen Markov-proces, waardoor er via een nieuwe exacte formule en verbindingen met Sobolev-ongelijkheden algemene generalisatiegrenzen kunnen worden afgeleid.
De auteurs presenteren Clip21-SGD2M, een nieuwe methode voor Federated Learning die door een innovatieve combinatie van clipping, zware-bal-momentum en foutfeedback zowel optimale convergentie garandeert als sterke differentieel-privateits-eigenschappen biedt, zelfs bij sterk heterogene client-data.
Dit artikel presenteert een variatieformulering van log-homotopie-deeltjestromen, waarbij wordt aangetoond dat deze stromen overeenkomen met een tijdsvertraagde Fisher-Rao-gradiëntstroom voor variatie-inferentie, wat leidt tot afgeleide Gaussische en Gaussische-mengsel-deeltjestromen die onder lineaire Gaussische aannames reduceren tot de Exacte Daum en Huang-deeltjestroom.
Dit paper introduceert CausalPitfalls, een benchmark die aantoont dat huidige grote taalmodellen tekortschieten in het betrouwbaar uitvoeren van causale inferentie door veelvuldig statistische valkuilen te negeren, en biedt hiermee gestructureerde maatstaven voor de ontwikkeling van meer betrouwbare redeneersystemen.