5319 papers
Dit paper introduceert MMTU, een uitgebreid benchmark met meer dan 28.000 vragen over 25 real-world tabellataken, om de complexiteit van het begrijpen, redeneren en manipuleren van tabellen door geavanceerde AI-modellen te evalueren en aan te tonen dat er nog aanzienlijke ruimte voor verbetering is.
Dit artikel toont aan dat het trainen van kunstmatige neurale netwerken met ongebruikelijk grote leersnelheden, waardoor ze zich in een overgangsregime van chaotische dynamica bevinden, de balans tussen exploratie en exploitatie verbetert en zo de trainingsduur aanzienlijk verkort.
Dit paper introduceert EROICA, het eerste online systeem voor het oplossen van prestatieproblemen bij het trainen van grote modellen op schaal, dat door middel van gedetailleerde profilering en differentiële observabiliteit succesvol hardware- en softwarefouten diagnoseert op productiesystemen met ongeveer 100.000 GPU's.
Dit paper introduceert BemaGANv2, een geavanceerde GAN-gebaseerde vocoder voor hoogwaardige en langdurige audio-generatie die gebruikmaakt van innovatieve architecturale wijzigingen en een systematische evaluatie van discriminatorscombinaties om temporale coherentie en harmonische structuur te verbeteren.
Dit paper introduceert Co-LoRA, een methode voor gepersonaliseerd federatief leren die heterogene data en modelarchitecturen overbrugt door middel van een taak-relevantiebewuste aggregatiestrategie en een dimensie-invariante module, wat resulteert in superieure prestaties vergeleken met bestaande methoden.
Dit artikel introduceert de efficiënte algoritmen Slate-GLM-OFU en Slate-GLM-TS voor het logistische contextuele slate-bandit-probleem, die door lokale planning en globale learing een lage regret van bereiken met een lage rekentijd per ronde, wat zowel theoretisch wordt onderbouwd als empirisch wordt geverifieerd in synthetische experimenten en praktische toepassingen voor het selecteren van in-context voorbeelden in taalmodellen.
Deze paper introduceert Sharp MinMax, een methode die Sharpness-Aware Minimization (SAM) combineert met scherpe maximalisatie om machine unlearning te verbeteren door het model te splitsen in een deel dat retain-signaals leert en een deel dat forget-signaals verwijdert, wat resulteert in superieure prestaties, verminderde feature-entanglement en sterkere weerstand tegen aanvallen vergeleken met bestaande methoden.
Dit paper introduceert het Kolmogorov-Arnold Energy Model (KAEM), een nieuwe generatieve aanpak die de snelheid en interpreteerbaarheid van VAE's combineert met de expressiviteit van Energy-based Models door gebruik te maken van een univariate latente structuur voor efficiënte inferentie.
Dit paper introduceert GLMask, een semi-zelftoezicht-leringsaanpak die met minimale handmatige annotatie een state-of-the-art instantiesegmentatiemodel voor tarwekoppen ontwikkelt en bovendien aanzienlijke prestatieverbeteringen boekt op het algemene COCO-dataset.
Deze paper introduceert SamS, een efficiënt algoritme dat de prestaties van Direct Preference Optimization (DPO) voor grote taalmodellen verbetert door trainingsstalen adaptief en dynamisch te plannen op basis van de evoluerende toestand van het model, zonder de kern van het DPO-algoritme te wijzigen.
DemoDiffusion is een methode die robots in staat stelt om complexe manipulatieopdrachten te leren door een enkele menselijke demonstratie na te bootsen, waarbij kinematische retargeting wordt gecombineerd met een vooringeschoolde diffusiepolicy om robuuste aanpassing mogelijk te maken zonder specifieke training of gekoppelde mens-robotdata.
Dit onderzoek toont aan dat kunstmatige visiesystemen robuuster en meer op de mens gelijkend worden door ze te trainen met een ontwikkelingsvisueel dieet dat is geïnspireerd op de menselijke visuele ontwikkeling, wat leidt tot een sterkere focus op vorm in plaats van textuur en een betere weerstand tegen verstoringen.
Dit artikel toont aan dat Physics-Informed Neural Networks (PINNs) voor het oplossen van PDE's met ruis in de data een minimale netwerkgrootte vereisen om de trainingsfout onder de ruisvariatie te brengen, waarbij het simpelweg verhogen van het aantal steekproeven geen "gratis lunch" biedt.
Dit paper introduceert TableEG, een framework dat gebruikmaakt van fijngefineerde grote taalmodellen om authentieke fouten in tabulaire data te genereren, waardoor een robuust en betrouwbaar benchmark voor het evalueren van data-cleaning technieken wordt gecreëerd.
Dit artikel introduceert MCULoRA, een robuust raamwerk voor emotionele herkenning met onvolledige multimodale data dat door middel van ontkoppeling en dynamische aanpassing van laag-rang adaptatie de prestaties van bestaande methoden aanzienlijk verbetert.
Dit paper introduceert een methode genaamd Self-Grounded Verification (SGV) die de neiging van multimodale taalmodellen om agenten-acties te overdreven te valideren (de 'agreement bias') vermindert, waardoor de nauwkeurigheid van verifiers en de prestaties van agenten in taken zoals webnavigatie en robotica aanzienlijk worden verbeterd.
Dit artikel biedt het eerste uitgebreide overzicht van de recente ontwikkelingen in flow matching en de toepassing ervan op biologische domeinen, waaronder sequentiemodellering, molecuulontwerp en eiwitgeneratie.
Deze paper introduceert een boomgebaseerde aanpak voor weak-to-strong generalisatie die sterke modellen traint met zowel succes- als falingspaden van zwakke modellen, gebruikmakend van Monte Carlo Tree Search om de besluitvorming en redeneervermogens in complexe interactieve omgevingen te optimaliseren.
Dit artikel onderzoekt hoe kwaadaardige auditees de schijn van eerlijkheid kunnen wekken door manipulatie van datasets, formaliseert deze aanval als een wiskundig projectieprobleem, en evalueert statistische methoden om dergelijke vertekende steekproeven te detecteren.
Deze paper introduceert een dynamisch, automatisch en systematisch (DAS) red-teaming-framework dat, in tegenstelling tot statische benchmarks, de kwetsbaarheden van medische taalmodellen blootlegt door te tonen dat hoge prestaties op bestaande tests niet garanderen dat deze modellen betrouwbaar zijn in realistische, dynamische klinische scenario's.