138 papers
Het paper introduceert {\lambda}Scale, een serverloos inferentiesysteem dat snelle schaling voor grote taalmodellen mogelijk maakt door gebruik te maken van RDMA-netwerken voor gelijktijdige modeloverdracht en uitvoering, wat leidt tot aanzienlijke verbeteringen in latentie en kosten.
Dit paper introduceert FAST, een efficiënte scheduler voor All-to-All(v)-communicatie die schaalbaarheid en snelheid verbetert door workload-scheefheid en congestie aan te pakken, waardoor synthetisatietijden drastisch worden verkort en prestaties op diverse GPU-clusters worden geoptimaliseerd.
Deze paper introduceert Linear Layouts, een nieuwe aanpak die tensorindelingen modelleert met lineaire algebra over om flexibele en efficiënte generatie van tensorberekeningen mogelijk te maken, de complexiteit van conversies te reduceren en de foutgevoeligheid in bestaande compilersystemen zoals Triton te verminderen.
In dit artikel wordt PyloChain voorgesteld, een hiërarchisch geshard blockchain-systeem dat door middel van speculatieve uitvoering op lokale ketens en een DAG-gebaseerde mempool op de hoofdketen een evenwicht vindt tussen hoge performance en beschikbaarheid, wat resulteert in een aanzienlijke verbetering van de doorvoer en latentie ten opzichte van bestaande oplossingen.
Deze studie toont aan dat het uitstellen, onderbreken en schalen van wetenschappelijke workflows de CO₂-uitstoot met meer dan 80% kan verminderen door gebruik te maken van koolstofbewuste uitvoering op basis van variabele energiekoolstofintensiteit.
Dit paper introduceert A-3PO, een methode die de rekentijd voor asynchrone LLM-training met 1,8 keer versnelt door de extra forward pass voor het proximal beleid in Decoupled PPO te vervangen door een efficiënte interpolatie, zonder de prestaties te verlagen.
Dit paper betoogt dat de focus op ruwe netwerkbandbreedte onvoldoende is voor hoogwaardige datatransfer en introduceert het 'Drainage Basin Pattern'-model om end-to-end prestaties te optimaliseren door een holistische hardware-software co-design die bottlenecks buiten het netwerkcore adresseert.
Dit paper concludeert dat Ethereum's idealen van decentralisatie en censuurresistentie niet kunnen worden gewaarborgd door enkel te vertrouwen op altruïstische blokpropositors, aangezien empirisch onderzoek aantoont dat minder dan 1,4% van de propositors consistent deze principes naleeft, wat de noodzaak onderstreept van extra prikkel- of sanctiemechanismen die niet afhankelijk zijn van altruïsme.
Dit artikel onderzoekt parallelisatiestrategieën voor de implementatie van dichte grote taalmodellen, waarbij het aantoont dat Tensor Parallelism de latentie verbetert terwijl Pipeline Parallelism beter geschikt is voor doorvoeroptimalisatie, en hoe een hybride aanpak de afweging tussen deze twee prestatie-indicatoren kan sturen.
Deze paper introduceert een nieuw lock-free werk-diefstal-algoritme dat is geoptimaliseerd voor bulk-operaties in een master-worker-framework voor mixed-integer programming, en dat door het elimineren van zware synchronisatie constante push- en steal-latenties bereikt die aanzienlijk beter presteren dan bestaande oplossingen zoals C++ Taskflow.
Dit paper introduceert een nieuwe eerste-orde Softmax-gewichtsschakelgradientmethode voor gedistribueerde stochastische minimax-optimalisatie met stochastische beperkingen, die een stabiele single-loop oplossing biedt voor federated learning met bewezen convergentie en verbeterde prestaties op taken zoals Neyman-Pearson-classificatie.
Dit artikel presenteert twee gedistribueerde algoritmen die garanderen dat een groep autonome, vergeetachtige robots in de Euclidische ruimte binnen eindige tijd verzamelt, zelfs onder de beperkende omstandigheden van het adversariele defecte zichtmodel en niet-rigide beweging, zowel in volledig synchrone als asynchrone omgevingen.
Het paper introduceert StreamWise, een adaptief en modulair serversysteem dat multi-modale generatieve modellen (zoals tekst-naar-spraak en video) efficiënt coördineert op heterogene hardware om real-time podcastvideo's te genereren met een sub-second startvertraging, terwijl het een dynamisch evenwicht zoekt tussen latentie, kosten en kwaliteit.
Dit paper introduceert een door kennis gedreven redeneringsframework voor mobiele agenten dat herbruikbare beslissingsstructuren uit eerdere uitvoeringen synchroniseert om, ondanks beperkte bronnen en onderbroken connectiviteit, de prestaties van on-device AI-modellen te optimaliseren door een balans te vinden tussen kennisoverdracht en foutrisico.
Dit paper introduceert DMM, een datavrij raamwerk dat kennis van sterk uiteenlopende domeinspecifieke modellen consolideert door eerst vergelijkbare modellen te samenvoegen en vervolgens via gesynthetiseerde pseudo-data een lichte verfijning toe te passen, waardoor state-of-the-art prestaties worden bereikt zonder gegevensuitwisseling.
Dit artikel introduceert LegalEdge, een randintelligentie-framework dat Federated Learning en Deep Q-Networks combineert met blockchain-gebaseerde slimme contracten om de laadinfrastructuur voor elektrische voertuigen te optimaliseren door privacy te waarborgen, realtime beslissingen te nemen en transparante prijspolitiek te garanderen.
Dit paper introduceert Provuse, een transparante platformzijde-optimalisatie voor FaaS-omgevingen die automatisch functies samenvoegt tijdens runtime om de latentie en het RAM-gebruik aanzienlijk te verminderen zonder dat ontwikkelaars hun code hoeven aan te passen.
Dit paper introduceert MoEless, het eerste serverless framework voor het serveren van Mixture-of-Experts (MoE) taalmodellen dat door middel van proactieve voorspelling en dynamische schaalbaarheid expert-loadbalancingproblemen oplost en zo de inferentielatentie met 43% en de kosten met 84% verlaagt ten opzichte van bestaande oplossingen.
Dit artikel biedt een uitgebreide vergelijkende analyse van vijf toonaangevende cross-chain tokenstandaarden en -kaders, waarbij de verschillen in architectuur, beveiliging, interoperabiliteit en vertrouwensmodellen worden belicht.
Dit paper introduceert OrchMLLM, een framework dat de trainingsefficiëntie van multimodale grote taalmodellen verbetert door mini-batch-ongelijkheden te corrigeren via Batch Post-Balancing, wat resulteert in een tot 3,1 keer hogere doorvoer en een MFU van 41,6% op 2560 H100 GPU's.