138 papers
Dit paper introduceert een cloudgebaseerd, duizend-GPU trainingsplatform voor embodied intelligence dat, door optimalisaties op het gebied van data, training, modelarchitectuur en infrastructuur, de trainingstijd van het GR00T-N1.5-model met een factor 40 heeft verkort en zo een cruciale basis legt voor de ontwikkeling van autonome robots.
Dit artikel introduceert het concept van 'subtime' als een reversibele informatiewisseling in verstrengelde systemen en toont aan hoe de klassieke tijdsrichting ontstaat als een asymptotisch limiet door decoherentie, waarbij entropie de mate van imperfecte causale echo's kwantificeert.
Dit paper introduceert een gedecentraliseerde, domein-agnostische orkestratiearchitectuur voor Fluid Computing die multi-domein samenwerking mogelijk maakt en Byzantine-beveiliging verbetert via een SDN-gestuurde anomaliedetectie (FU-HST) voor decentrale federatief leren.
Deze paper introduceert AGMARL-DKS, een adaptieve, graf-gebaseerde multi-agent reinforcement learning-scheduler voor Kubernetes die schaalbaarheid, contextbewustzijn en stress-gevoelige doelwitradingen verbetert om fault tolerance, resourcegebruik en kosten te optimaliseren.
Cornserve is een open-source, gedistribueerd serversysteem dat Any-to-Any multimodale modellen ondersteunt door flexibele taakabstractie en een efficiënte record-and-replay-uitvoeringsmodus te gebruiken, wat resulteert in tot 3,81 keer hogere doorvoer en 5,79 keer lagere tail-latency.
Dit paper introduceert WORKSWORLD, een nieuw domein voor geautomatiseerd plannen en plannen van gedistribueerde data-pipelines, waarbij een geavanceerde numerieke planner op standaard hardware in staat is om workflows van maximaal 14 componenten over acht locaties te bouwen en te plotten.
Dit artikel presenteert het ontwerp, de analyse en de prestaties van een concurrerende deterministische skiplist voor many-core NUMA-nodes, vergeleken met andere lock-free datastructuren en Intel TBB, en introduceert strategieën voor geheugenbeheer en hiërarchisch gebruik om cache-misses en remote NUMA-toegang te verminderen.
Dit paper introduceert GPSL, een server-gedreven split learning-methode die door globale steekproefneming de effectieve batchgrootte onafhankelijk maakt van het aantal clients en niet-IID-data bias elimineert, waardoor stabilisatie en centralisatie-achtige nauwkeurigheid worden bereikt met minimale overhead.
Dit artikel bewijst dat vergetelijke robots onder sequentiële schedulers een orthogonale en over het algemeen sterkere rekenkracht bezitten dan onder volledig synchrone schedulers, waardoor het Universele Patroonvormingsprobleem (behalve bij verzameling) zonder extra aannames oplosbaar is, terwijl verzameling juist zwakke multipliciteitsdetectie vereist.
Dit paper introduceert Cylon, een oplossing die serverless computing en high-performance computing combineert door middel van een op NAT Traversal gebaseerde communicator, waardoor de schaalbaarheid van AWS Lambda binnen 6,5% van traditionele EC2-instanties komt voor data-intensieve machine learning-taken.
Dit artikel analyseert voor het eerst de energie-efficiëntie van multimodale grote taalmodellen (MLLM's) door 'modality inflation' te onderzoeken, waarbij het verschillende energieknelpunten identificeert en aantoont dat dynamische spannings- en frequentieschaling (DVFS) aanzienlijke energiebesparingen mogelijk maakt met slechts een beperkte impact op de prestaties.
Dit artikel presenteert een volledige classificatie van de gedistribueerde complexiteit voor lokale optimalisatieproblemen in gerichte cycli, waarbij het aantoont dat de complexiteit voor zowel deterministische als probabilistische modellen valt binnen één van vier specifieke klassen en dat deze klasse automatisch kan worden bepaald en een optimale algoritme kan worden gegenereerd.
Dit artikel beschrijft het ontwerp, de implementatie en evaluatie van een MPI-gebaseerde GPU-communicatie-API die CPU-vrije communicatie mogelijk maakt, wat leidt tot aanzienlijke prestatiewinst in halo-uitwisselingstaken op supercomputers zoals Frontier en Tuolumne.
De auteurs presenteren een één-rond randomiseerde distributieve algoritme dat cycli 2-kleurt met een verwachte fractie monochrome randen onder de 0,24118, waarbij zowel de boven- als ondergrenzen zijn bewezen met behulp van grote taalmodellen en geformaliseerd in Lean 4.
Het artikel introduceert FedEMA-Distill, een serverzijde methode voor federatief leren die exponentiële voortschrijdende gemiddelden en kennisdistillatie op basis van client-logits combineert om de nauwkeurigheid te verhogen, de communicatiekosten te verlagen en de weerstand tegen Byzantijnse aanvallen te vergroten, zonder aanpassingen aan de client-zijde of modelhomogeniteit te vereisen.
Het artikel introduceert AMV-L, een framework voor agentgeheugenbeheer dat door middel van waardegedreven promotie en demotie de zoekruimte beperkt en zo de prestaties van langlopende LLM-systemen aanzienlijk verbetert door de tail-latentie te reduceren en de doorvoer te verhogen ten opzichte van traditionele TTL- en LRU-baselines.
Dit artikel presenteert een prototype voor een gedistribueerde bibliotheek die drie kerngrafiekalgoritmen implementeert met behulp van het HPX-runtime-systeem, waarmee door middel van asynchrone uitvoering en latency-hiding een aanzienlijke prestatieverbetering wordt bereikt ten opzichte van bestaande frameworks zoals GraphX en PBGL.
Dit paper introduceert een herschreven GPU-gebaseerde solver voor grote lineaire programmeringsproblemen die de schaalbaarheid en doorvoersnelheid van eerdere CPU-gebaseerde systemen aanzienlijk verbetert door een operatorcentrisch model, geoptimaliseerde GPU-technieken en geavanceerde regularisatiemethoden te combineren, wat resulteert in een snelheidswinst van minimaal 10x.
Dit artikel presenteert een hybride aanpak die theoretische modellering en empirische benchmarking combineert om de optimale verdeling van hardwarebronnen voor Prefill-Decode-disaggregatie in LLM-inferentie te bepalen, waarbij rekening wordt gehouden met SLO's en request-karakteristieken.
Dit artikel toont aan dat RDMA's voltooiingssemantiek een categorische fout bevat die de kloof tussen data-overdracht en semantische integratie over het hoofd ziet, en pleit voor een protocolarchitectuur met een verplicht reflectiefase om dit 'voltooiingsdwaalbegrip' op industriële schaal op te lossen.