3550 papers
Dit paper introduceert een theoretisch kader dat de 'simplicity bias' in diverse neurale netwerken verklaart door middel van saddle-to-saddle dynamiek, waarbij het aantoont dat gradient descent oplossingen met toenemende complexiteit (zoals hogere rang, meer knikken of meer attention heads) geleidelijk leert via een iteratief proces dat nabij invariante manieren en zadelpunten verloopt.
Dit artikel introduceert het Data Relativistic Uncertainty (DRU)-framework, dat een nieuw dataset en een op relativistische GAN's gebaseerde aanpak combineert om de kwaliteit van slecht verlichte anime-landschapsbeelden te verbeteren door onzekerheid in de verlichting dynamisch te benutten.
Dit paper introduceert 'Bayese windtunnels' om aan te tonen dat transformatoren via een specifiek geometrisch mechanisme in hun residual streams en attention-lagen exacte Bayesiaanse inferentie uitvoeren, terwijl vergelijkbare MLP-architecturen hierin falen.
Dit artikel onthult dat cross-entropy-training in transformers via een gekoppeld dynamisch systeem van 'voordeel-gebaseerd routeren' en 'verantwoordelijkheids-gewogen updates' de interne geometrie vormgeeft, waardoor optimering leidt tot Bayesiaanse manifolds die in-context probabilistisch redeneren mogelijk maken.
De studie toont aan dat moderne taalmodellen een meetkundige ondergrond behouden die Bayesiaanse inferentie mogelijk maakt, waarbij de onzekerheid wordt gecodeerd in een dominante as die correleert met voorspellende entropie, hoewel deze geometrie meer fungeert als een bevoorrechte afleesmechanisme dan als een enkelvoudig computatieknooppunt.
Dit artikel introduceert PanSubNet, een interpreteerbaar deep learning-model dat klinisch relevante moleculaire subtypes van pancreaskanker direct en kosteneffectief voorspelt uit standaard H&E-gekleurde weefselpreparaten, waarmee de toepassing van moleculaire stratificatie in de dagelijkse klinische praktijk wordt vergemakkelijkt.
Dit artikel analyseert het fenomeen van 'over-searching' in zoekversterkte grote taalmodellen, introduceert de metriek Tokens Per Correctness (TPC) om de kosten-batenverhouding te kwantificeren, en biedt mitigatiestrategieën om de efficiëntie te verbeteren en hallucinaties te verminderen.
Deze paper introduceert een nieuwe methode voor het bemonsteren van niet-genormaliseerde Boltzmann-dichtheden door Langevin-samplers te combineren met een stochastisch interpolant-gebaseerde flow ODE, wat leidt tot efficiënte simulatie en robuuste snelheidsschatting met gegarandeerde convergentie.
Dit artikel presenteert kwantitatieve foutgrenzen voor Bayes' inverse problemen met generatieve priors, waarbij wordt aangetoond dat de posterieure fout onder bepaalde aannames dezelfde convergentiesnelheid volgt als de prior in de Wasserstein-1-afstand, wat wordt gevalideerd door numerieke experimenten.
Deze paper introduceert HaKAN, een lichtgewicht en interpreteerbaar model voor multivariate tijdsreeksvoorspelling dat Kolmogorov-Arnold-netwerken met Hahn-polynomen combineert om de beperkingen van Transformers en MLPs te overwinnen en state-of-the-art prestaties te behalen.
Dit artikel introduceert VR-SDA-A, een nieuw adaptief algoritme dat variatie-reductie combineert met een krommingsverificatiemechanisme om de 'stochasticiteitsbarrière' te doorbreken en een optimale convergentiesnelheid te bereiken voor stochastische variatie-ongelijkheden zonder handmatige leerstap-aanpassing.
Dit paper introduceert Singular Bayesian Neural Networks, een methode die de parameters van Bayesiaanse neurale netwerken drastisch reduceert door weight matrices te parameteriseren als een product van lage-rang matrices, waardoor een singuliere posterior ontstaat die betere generalisatie, kalibratie en out-of-detection prestaties biedt dan traditionele mean-field benaderingen.
Dit artikel formaliseert de diversiteitsverliesproblematiek bij classifier-free guidance als 'generative distortion', analyseert de overgangsfase waarin deze vervorming optreedt in hoogdimensionale ruimtes met behulp van statistische fysica, en stelt een theoretisch onderbouwde geleidingsstrategie met een negatief-geleidingsvenster voor om dit te mitigeren.
Dit paper toont aan dat hallucinaties in grote taalmodellen een onvermijdelijk gevolg zijn van optimale geheugenefficiëntie bij het testen van lidmaatschap, waarbij beperkte capaciteit het model dwingt om met hoge zekerheid onjuiste feiten te genereren als onderdeel van een verliesbeperkende compressiestrategie.
Dit paper introduceert GVP-WM, een methode die gegenereerde videoplannen grondt in uitvoerbare acties door ze te projecteren op een dynamisch haalbare latente trajectenmanifold via een wereldmodel, waardoor fysieke inconsistenties in zero-shot videoplanning worden opgelost.
Dit artikel onthult dat bij gedecentraliseerde diffusiemodellen de kwaliteit van gegenereerde beelden niet wordt bepaald door numerieke stabiliteit, maar door 'expert-data alignment', waarbij het routeren van invoer naar experts die specifiek zijn getraind op de bijbehorende dataclusters essentieel is voor hoogwaardige resultaten.
Dit artikel introduceert een bandit-gebaseerde aanpak met Contextual Thompson Sampling voor het genereren van gepersonaliseerde oefenreeksen in online wiskundeonderwijs, die op basis van leerlingdata en prestaties gericht zijn op het maximaliseren van vaardigheidsgroei.
Dit artikel bewijst dat de asymptotische spectrale eigenschappen en statistische limieten van asymmetrische rank-één spiked tensormodellen met niet-Gaussisch ruis, mits een vierde moment voorhanden is, universeel zijn en overeenkomen met die van het klassieke Gaussische geval.
Dit paper introduceert BLITZRANK, een principieel framework voor zero-shot ranking dat via een toernooigrafiek en transitieve afsluiting de top- items identificeert met 25-40% minder tokens dan bestaande methoden en tot 7 keer minder dan paarwijze vergelijkingen.
Dit paper introduceert Fine-grained Group Policy Optimization (FGO), een versterkt leer-algoritme dat de inefficiëntie en entropie-inzakking van GRPO oplost en effectieve compressie van Chain-of-Thought-redeneringen mogelijk maakt zonder prestatieverlies.