6191 papers
Dit paper introduceert VISTA, een trainingsvrij raamwerk dat Vision-Language Models gebruikt om historische aandelenkoersen zowel tekstueel als visueel te analyseren en zo de prestaties van traditionele modellen en tekst-only LLM's aanzienlijk verbetert.
Dit artikel introduceert een nieuwe methode die prompt-injectie-aanvallen op grote taalmodellen effectiever bestrijdt door het bevoorrechte instructieniveau niet alleen aan de invoer, maar ook in de tussenliggende neurale representaties te coderen, wat leidt tot een aanzienlijke vermindering van de aanvalssuccesratio's zonder de nuttigheid van het model te schaden.
Dit artikel introduceert OCN, een nieuwe methode voor linkpredictie die redundantie en over-verzachting in hogere-orde gemeenschappelijke buren aanpakt via orthogonalisatie en normalisatie, waardoor het aanzienlijk beter presteert dan bestaande methoden.
Dit paper introduceert ViTaPEs, een transformer-architectuur die door middel van een innovatieve twee-staps positie-injectie visuele en tactiele data effectief combineert voor taak-agnostische representaties, wat leidt tot state-of-the-art prestaties in herkenning, zero-shot generalisatie en robotische grijpvoorspelling.
Dit paper introduceert LoFT, een nieuwe parameter-efficiënte fine-tuning-methode die de optimizer-dynamiek van volledige fine-tuning nabootst door de momentum- en variantie-momenten van Adam in een laag-rank deelruimte te projecteren, waardoor de prestaties aanzienlijk worden verbeterd zonder extra inferentiekosten.
Dit paper introduceert ProNC, een nieuw continu leerframework dat de beperkingen van een vaste globale ETF overwint door deze progressief uit te breiden met nieuwe klasprototypen, waardoor catastrofale vergetelheid effectief wordt tegengegaan en de prestaties aanzienlijk worden verbeterd.
Dit paper introduceert een nieuwe, plug-and-play adaptieve correctiemethode die de uitkomsten van neurale operatoren garandeert dat ze fundamentele behoudswetten naleven, waardoor zowel de nauwkeurigheid als de stabiliteit van de oplossingen voor partiële differentiaalvergelijkingen aanzienlijk worden verbeterd ten opzichte van bestaande technieken.
Dit paper introduceert ActivePusher, een nieuw raamwerk dat residu-fysica en actieve learning combineert om de data-efficiëntie en het succes van lang-horizon planning voor niet-greep manipulatie in zowel simulatie als de echte wereld te verbeteren.
Dit paper introduceert MMTU, een uitgebreid benchmark met meer dan 28.000 vragen over 25 real-world tabellataken, om de complexiteit van het begrijpen, redeneren en manipuleren van tabellen door geavanceerde AI-modellen te evalueren en aan te tonen dat er nog aanzienlijke ruimte voor verbetering is.
Dit artikel toont aan dat het trainen van kunstmatige neurale netwerken met ongebruikelijk grote leersnelheden, waardoor ze zich in een overgangsregime van chaotische dynamica bevinden, de balans tussen exploratie en exploitatie verbetert en zo de trainingsduur aanzienlijk verkort.
Dit paper introduceert EROICA, het eerste online systeem voor het oplossen van prestatieproblemen bij het trainen van grote modellen op schaal, dat door middel van gedetailleerde profilering en differentiële observabiliteit succesvol hardware- en softwarefouten diagnoseert op productiesystemen met ongeveer 100.000 GPU's.
Dit paper introduceert BemaGANv2, een geavanceerde GAN-gebaseerde vocoder voor hoogwaardige en langdurige audio-generatie die gebruikmaakt van innovatieve architecturale wijzigingen en een systematische evaluatie van discriminatorscombinaties om temporale coherentie en harmonische structuur te verbeteren.
Dit paper introduceert Co-LoRA, een methode voor gepersonaliseerd federatief leren die heterogene data en modelarchitecturen overbrugt door middel van een taak-relevantiebewuste aggregatiestrategie en een dimensie-invariante module, wat resulteert in superieure prestaties vergeleken met bestaande methoden.
Dit artikel introduceert de efficiënte algoritmen Slate-GLM-OFU en Slate-GLM-TS voor het logistische contextuele slate-bandit-probleem, die door lokale planning en globale learing een lage regret van bereiken met een lage rekentijd per ronde, wat zowel theoretisch wordt onderbouwd als empirisch wordt geverifieerd in synthetische experimenten en praktische toepassingen voor het selecteren van in-context voorbeelden in taalmodellen.
Deze paper introduceert Sharp MinMax, een methode die Sharpness-Aware Minimization (SAM) combineert met scherpe maximalisatie om machine unlearning te verbeteren door het model te splitsen in een deel dat retain-signaals leert en een deel dat forget-signaals verwijdert, wat resulteert in superieure prestaties, verminderde feature-entanglement en sterkere weerstand tegen aanvallen vergeleken met bestaande methoden.
Dit paper introduceert het Kolmogorov-Arnold Energy Model (KAEM), een nieuwe generatieve aanpak die de snelheid en interpreteerbaarheid van VAE's combineert met de expressiviteit van Energy-based Models door gebruik te maken van een univariate latente structuur voor efficiënte inferentie.
Dit paper introduceert GLMask, een semi-zelftoezicht-leringsaanpak die met minimale handmatige annotatie een state-of-the-art instantiesegmentatiemodel voor tarwekoppen ontwikkelt en bovendien aanzienlijke prestatieverbeteringen boekt op het algemene COCO-dataset.
Deze paper introduceert SamS, een efficiënt algoritme dat de prestaties van Direct Preference Optimization (DPO) voor grote taalmodellen verbetert door trainingsstalen adaptief en dynamisch te plannen op basis van de evoluerende toestand van het model, zonder de kern van het DPO-algoritme te wijzigen.
DemoDiffusion is een methode die robots in staat stelt om complexe manipulatieopdrachten te leren door een enkele menselijke demonstratie na te bootsen, waarbij kinematische retargeting wordt gecombineerd met een vooringeschoolde diffusiepolicy om robuuste aanpassing mogelijk te maken zonder specifieke training of gekoppelde mens-robotdata.
Dit onderzoek toont aan dat kunstmatige visiesystemen robuuster en meer op de mens gelijkend worden door ze te trainen met een ontwikkelingsvisueel dieet dat is geïnspireerd op de menselijke visuele ontwikkeling, wat leidt tot een sterkere focus op vorm in plaats van textuur en een betere weerstand tegen verstoringen.