11575 papers
Dit onderzoek analyseert de asymptotische prestaties van best-of- ensembling met meerderheidsstemming voor grote taalmodellen, introduceert een adaptief generatieschema om de inferentiekosten te optimaliseren en toont aan dat gewogen ensembles van meerdere modellen via een gemengd-geheelgetallig lineair programma superieure resultaten kunnen behalen.
Dit paper introduceert CAD-Tokenizer, een raamwerk dat CAD-ontwerpen omzet in primitieve-bewuste tokens via een sequence-based VQ-VAE, waardoor tekstgestuurde CAD-prototyping en bewerking aanzienlijk effectiever worden dan met bestaande methoden.
Deze paper introduceert een agentische aanpak waarbij redenerende LLM's gebruikmaken van een set hulpmiddelen om interpretabele, lichtgewicht beslissingsbomen te genereren voor tabulaire data, die concurreren met zwarte-doosmodellen terwijl ze tegelijkertijd menselijke controle en het naleven van beperkingen zoals eerlijkheid mogelijk maken.
Dit artikel introduceert een schaalbaar tweede-orde Riemanniaanse optimalisatiemethode voor -means clustering die via een nieuwe gladde formulering en productvariëteit-factorisatie snellere convergentie bereikt dan bestaande eerste-orde methoden, terwijl het vergelijkbare statistische nauwkeurigheid behoudt.
Dit paper introduceert Ssiuu, een nieuwe methode die spuriële 'unlearning'-neuronen onderdrukt om gevoelige kennis in grote taalmodellen betrouwbaar te verwijderen en zo herinname tijdens vervolgotraining te voorkomen.
Dit paper introduceert EDGE, een nieuw evaluatieprotocol voor Class Incremental Learning dat de beperkingen van traditionele gemiddelde-metingen overbrugt door adaptief extreme klassequenties te identificeren op basis van inter-taakgelijkenis, waardoor een nauwkeuriger beeld van de prestatieverdeling en robuustheid wordt verkregen.
Uni-NTFM is een geünificeerd fundamenteel model voor EEG-signaalanalyse dat, geïnspireerd door biologische neurale mechanismen, een nieuwe architectuur introduceert met heterogene projectiemodules, topologische embeddings en een Mixture-of-Experts Transformer om universele representaties te leren die prestaties op negen downstream-taken aanzienlijk verbeteren.
Deze studie toont aan dat ECG Foundation Models, met name het compacte ECG-CPC, de prestaties van toezicht opgeleide basismodellen overtreffen en de label-efficiëntie aanzienlijk verbeteren, waardoor architecturale keuzes belangrijker blijken dan schaal voor diverse klinische taken.
Deze paper introduceert het leertheoretische model van online leren met een replay-adversariaal om het risico van echo-kamers te analyseren, en bewijst dat de Extended Threshold-dimensie de exacte maatstaf is voor leerbaarheid, waarbij proper leren onder deze omstandigheden strikt beperkt is tot bijna doorsnede-gesloten klassen.
Dit artikel presenteert versnelde algoritmen voor lineaire algebra-taken met kernelmatrices door gebruik te maken van dichtheidsschatting, waardoor de afhankelijkheid van het aantal datapunten en de foutmarge aanzienlijk wordt verbeterd ten opzichte van eerdere methoden.
FLOWR.root is een SE(3)-equivariant foundation model dat structure-bewuste 3D-ligandgeneratie en bindingsaffiniteitsvoorspelling combineert, waardoor het een krachtig en snel instrument biedt voor van hit-identificatie tot lead-optimatie in structurele geneesmiddelenontwerp.
In dit artikel stellen de auteurs Cell-Mechanistic Neural Networks (Cell-MNN) voor, een volledig end-to-end encoder-decoder architectuur die gebruikmaakt van een lokaal gelijnd ODE-model om de dynamiek van celdifferentiatie te leren en interpreteerbare, biologisch consistente geninteracties bloot te leggen zonder de noodzaak van dure optimal transport-preprocessing.
Het artikel introduceert ELMUR, een transformer-architectuur met gestructureerd extern geheugen die door middel van een LRU-update- en herschrijfmechanisme effectieve horizons tot 100.000 keer de aandachtswindow verlengt en zo aanzienlijk betere prestaties behaalt op lange-horizon, gedeeltelijk waarneembare taken in vergelijking met bestaande methoden.
Dit paper introduceert Value Flows, een nieuwe aanpak voor distributioneel versterkend leren die flexibele flow-modellen gebruikt om volledige toekomstige opbrengstdistributies te schatten en onzekerheid te kwantificeren, wat leidt tot significante prestatieverbeteringen op diverse benchmarks.
Dit artikel introduceert een nieuw geometrisch raamwerk dat redeneren in grote taalmodellen beschrijft als vloeiende trajecten in representatieruimte, waarbij empirische bevindingen aantonen dat deze modellen logische invarianten als hogere-orde geometrie internaliseren, wat de "stochastische papegaai"-hypothese uitdaagt en wijst op een universeel representatief principe.
Dit paper introduceert ToMCLIP, een nieuw raamwerk dat persistente homologie en topologiebehoudende beperkingen toepast om de globale geometrie van meertalige visueel-taal-embeddings te verbeteren, wat leidt tot superieure zero-shot prestaties en meertalige zoekopdrachten.
Dit artikel introduceert Gym-TORAX, een open-source Python-pakket dat Reinforcement Learning-omgevingen voor tokamak-plasmacontrole mogelijk maakt door TORAX te koppelen aan Gymnasium, waarmee onderzoekers effectief algoritmen kunnen trainen voor het optimaliseren van plasma-eigenschappen zoals prestaties en stabiliteit.
Dit paper introduceert WeightLens en CircuitLens, twee methoden die de interpretatie van neurale netwerken verbeteren door direct van gewichten te leren en interacties tussen componenten te analyseren, waardoor de afhankelijkheid van externe modellen en datasets wordt verwijderd en schaalbare mechanische interpretatie mogelijk wordt.
Dit paper introduceert COGS, een data-efficiënt raamwerk dat pretrained multi-modale grote taalmodellen in staat stelt tot geavanceerd visueel redeneren in domeinen zoals grafieken en webpagina's door een kleine set zaadvragen te decomponeren en te hercombineren voor het synthetiseren van grote datasets met procesbeloningen.
Dit onderzoek toont aan dat de prestaties van Mahalanobis-gebaseerde OOD-detectie sterk afhankelijk zijn van de geometrie van de in-distributie-ruimte, en introduceert een nieuwe radiaal geschaalde normalisatiemethode die deze geometrie aanpast om detectie te verbeteren.