6732 papers
Dit paper introduceert Mousse, een nieuwe optimizer die de stabiliteit van Muon combineert met de geometrische aanpassing van Shampoo door spectrale updates uit te voeren in een witgemaakte coördinatenruimte, wat leidt tot een aanzienlijke versnelling van het trainingsproces voor taalmodellen zonder noemenswaardige rekenkosten.
Dit paper introduceert OOD-MMSafe, een benchmark en het CASPO-framework, om de veiligheid van multimodale grote taalmodellen te verbeteren door zich te richten op het voorspellen van verborgen gevolgen in plaats van alleen op schadelijke intenties.
Dit paper introduceert MUGEN, een benchmark die de beperkingen van grote audio-taalmodellen bij het verwerken van meerdere simultane audio-invoeren blootlegt en aantoont dat trainingsvrije strategieën zoals Audio-Permutational Self-Consistency de prestaties aanzienlijk verbeteren.
Dit paper introduceert CVS, een trainingsvrije methode voor het selecteren van hoogwaardige multimodale data voor visueel-taalmodellen door de discrepantie in antwoordvaliditeit met en zonder de vraag te meten, waardoor de prestaties aanzienlijk worden verbeterd met minder data en lagere rekenkosten.
AutoAgent is een zelfevoluerend multi-agent framework dat adaptiviteit in dynamische omgevingen verbetert door evolutie van cognitie, contextuele besluitvorming en elastische geheugenorkestratie te combineren om langdurig leren en real-time beslissingen te verenigen zonder externe hertraining.
Dit paper introduceert RbtAct, een methode die gebruikmaakt van auteursrebuttals als impliciete supervisie om grote taalmodellen te trainen in het genereren van specifiekere en actievere peer-review feedback.
Dit paper introduceert EXPLORE-Bench, een benchmark voor het evalueren van het vermogen van multimodale grote taalmodellen tot lang-horizon redenering in egocentrische omgevingen, en toont aan dat deze modellen significant achterblijven bij menselijke prestaties ondanks verbeteringen door stapsgewijze redenering.
Deze paper introduceert Ego, een efficiënte methode voor het personaliseren van vision-language modellen door interne attention-mechanismen te gebruiken om visuele tokens als conceptgeheugen te extraheren, waardoor geavanceerde aanpassing mogelijk is zonder extra trainingsfasen of externe modules.
Het paper introduceert World2Mind, een trainingsvrije toolkit die foundation modellen in staat stelt om robuuste allocentrische ruimtelijke redenering uit te voeren door het construeren van gestructureerde cognitieve kaarten en een allocentrische ruimtelijke boom, waardoor zelfs tekst-only modellen complexe 3D-taken kunnen oplossen met prestaties die dicht bij die van geavanceerde multimodale modellen liggen.
Dit onderzoek toont aan dat simulatie-gebaseerde inferentie (SBI) een veelbelovende machinelearningtechniek is om de parameters van neutrino-interactiemodellen nauwkeuriger te schatten dan traditionele methoden, zoals aangetoond door de toepassing op GENIE- en NuWro-simulaties.
Dit artikel introduceert het concept van 'opaque serial depth' om de noodzaak van Chain of Thought bij grote taalmodellen te kwantificeren en biedt een geautomatiseerde methode om de bovengrenzen van niet-geexternaliseerd redeneren in verschillende neurale netwerken te berekenen.
Dit artikel presenteert een hybride quantum-klassiek framework dat een LSTM-netwerk combineert met een Quantum Circuit Born Machine om de volatiliteit van financiële markten nauwkeuriger te voorspellen dan traditionele modellen, zoals aangetoond door experimenten met Chinese aandelenindexen.
Dit paper introduceert ACP-SL, een adaptief kanaalpruning-systeem voor gesplitst leren dat communicatie-overhead vermindert door label-bewuste kanaal-importantiemetingen te gebruiken om minder belangrijke kanalen te verwijderen en zo de doorgegeven 'gesmoorde' data te comprimeren zonder in te leveren op de nauwkeurigheid.
Dit paper introduceert MITRA, een lokaal gehoste RAG-gebaseerde AI-assistent die gebruikmaakt van een geautomatiseerde documentpypeline en een tweelaagse vectordatabase om veilig en nauwkeurig contextbewuste vragen te beantwoorden over fysicanalyses binnen grote wetenschappelijke samenwerkingen zoals CMS.
Dit paper introduceert de 'smoothing pseudo-projector', een lichtgewicht correctiemodule die is geïnspireerd op het multigrid-paradigma en de robuustheid en trainingsdynamiek van transformer-modellen verbetert door ruis te onderdrukken zonder de kernarchitectuur te wijzigen.
Dit paper introduceert MA-EgoQA, een nieuw benchmark en probleemdefinitie voor het beantwoorden van vragen op basis van gelijktijdig opgenomen egocentrische video's van meerdere embodied agents, en presenteert het EgoMAS-basismodel om de huidige tekortkomingen in systeemniveau-interpretatie te adresseren.
Dit paper introduceert SCENEBench, een nieuw benchmarkpakket voor het evalueren van het begrip van niet-spraakcomponenten en context in audio door grote audio-taalmodellen, specifiek gericht op toepassing in toegankelijkheidstechnologie en industriële geluidsmeting.
Dit paper introduceert HR-GAT, een hiërarchisch opgezet grafisch aandachtmodel dat geospatiale data gebruikt om de vraag naar spectrum nauwkeuriger te voorspellen dan bestaande methoden, wat essentieel is voor efficiënt spectrumbeheer.
Deze paper introduceert het Dynamics-Aware Policy Learning (DAPL)-framework, dat door het leren van contactgedreven dynamica via wereldmodelleren en versterkende leer, extrinsieke dexteriteit in rommelige omgevingen mogelijk maakt zonder handmatige heuristieken, met een succespercentage dat tot 50% reikt in real-world tests.
Dit paper introduceert Local Classifier Alignment (LCA), een nieuwe verliesfunctie en volledige oplossing voor continu leren die de mismatch tussen aangepaste backbones en taakspecifieke classificatoren oplost om catastrofaal vergeten te voorkomen en de prestaties op benchmarks aanzienlijk te verbeteren.