138 Arbeiten
Das Paper stellt {\lambda}Scale vor, ein effizientes serverloses Inferenzsystem für große Sprachmodelle, das durch die Kombination von RDMA-basiertem Multicast und einer „execute-while-load"-Strategie die Skalierungsgeschwindigkeit drastisch erhöht und im Vergleich zu bestehenden Lösungen die Tail-Latenz um bis zu 5-fach sowie die Kosten um 31,3 % senkt.
Das Paper stellt FAST vor, einen effizienten Scheduler für All-to-All-Kommunikation in GPU-Clustern, der durch Lastausgleich und die Vermeidung von Incast-Verstopfung die Synthesezeit um Größenordnungen reduziert und dabei auf heterogenen Systemen wie NVIDIA H200 und AMD MI300X deutlich besser abschneidet als bestehende Lösungen.
Die Arbeit stellt „Linear Layouts" vor, einen neuartigen Ansatz zur effizienten Generierung von Tensor-Berechnungen, der Tensor-Layouts mithilfe linearer Algebra über modelliert, um eine generische Definition und Konvertierung zu ermöglichen, den Engineering-Aufwand zu reduzieren und die Leistung von Triton-Operatoren zu optimieren.
Die Arbeit stellt PyloChain vor, eine hierarchisch geshardete Blockchain, die durch eine Kombination aus lokalen Ketten für hohe Parallelität und einer DAG-basierten Hauptkette für Verfügbarkeit und globale Transaktionen einen effizienten Kompromiss zwischen Leistung und Ausfallsicherheit erreicht und dabei den aktuellen Stand der Technik in Durchsatz und Latenz signifikant übertrifft.
Diese Studie quantifiziert den CO₂-Fußabdruck wissenschaftlicher Workflows und zeigt durch eine systematische Evaluation, dass durch kohlenstoffbewusstes zeitliches Verschieben und dynamisches Skalieren Emissionen um bis zu 80 % bzw. 67 % reduziert werden können.
Das Paper stellt A-3PO vor, eine Methode, die den rechenintensiven zusätzlichen Vorwärtsdurchlauf bei der Decoupled PPO durch eine einfache Interpolation zur Approximation der proximalen Policy ersetzt, wodurch das asynchrone Training von Large Language Models um den Faktor 1,8 beschleunigt wird, ohne die Leistung einzubüßen.
Diese Studie widerlegt die verbreitete Annahme, dass hohe Netzwerkbandbreite allein für performante Datenübertragung ausreicht, und zeigt durch die Einführung des „Drainage Basin Pattern"-Modells sowie umfangreiche Produktionstests, dass Engpässe häufig außerhalb des Netzwerks liegen und eine ganzheitliche Hardware-Software-Ko-Design-Strategie für zuverlässige Datenbewegung in großem Maßstab erforderlich ist.
Die Studie zeigt, dass aufgrund der extrem geringen Anzahl wirklich altruistischer Block-Proposer, die weniger als 1,4 % ausmachen, Ethereum für die Wiederherstellung seiner Dezentralisierungs- und Zensurresistenz-Ideale nicht auf deren bloße Existenz vertrauen kann, sondern zusätzliche Anreiz- oder Sanktionsmechanismen benötigt.
Diese Arbeit untersucht Parallelisierungsstrategien für die Bereitstellung dichter LLMs, indem sie zeigt, dass Tensor-Parallelismus die Latenz verbessert, während Pipeline-Parallelismus den Durchsatz optimiert, und wie deren hybride Kombination einen gezielten Kompromiss zwischen diesen beiden Leistungszielen ermöglicht.
Diese Arbeit stellt einen neuen lock-freien Work-Stealing-Algorithmus vor, der speziell für Master-Worker-Frameworks in der gemischt-ganzzahligen Optimierung entwickelt wurde und durch native Stapeloperationen sowie eine auf einen Besitzer und einen Dieb beschränkte Konkurrenzkonfiguration eine konstante Latenz bei Push-Operationen und eine signifikant bessere Skalierbarkeit im Vergleich zu bestehenden Lösungen wie C++ Taskflow bietet.
Diese Arbeit stellt eine neuartige erste-Ordnung Softmax-gewichtete Switching-Gradienten-Methode für verteilte stochastische Minimax-Optimierung unter stochastischen Nebenbedingungen vor, die in einem Single-Loop-Primal-Only-Rahmen eine stabile Konvergenz ohne die üblichen Hyperparameter-Sensitivitäten erreicht und durch theoretische Garantien sowie Experimente zu Neyman-Pearson- und faire Klassifizierungsaufgaben validiert wird.
Diese Arbeit stellt zwei verteilte Algorithmen vor, die das deterministische, endzeitliche Sammeln von autonomen mobilen Robotern unter dem adversarischen defekten Sichtmodell garantieren, wobei der Fall der vollständig synchronen Ausführung für das (4, 2)-Modell gelöst wird und für asynchrone Systeme eine Lösung unter der Bedingung einer gemeinsamen Koordinatenachse bereitgestellt wird.
Der Paper stellt StreamWise vor, ein adaptives, modulares Serversystem, das durch dynamisches Management von Qualität, Parallelisierung und ressourcenbewusster Planung auf heterogener Hardware effiziente Echtzeit-Multi-Modal-Generierung (z. B. für Podcast-Videos) unter strengen Latenz- und Kosteneinschränkungen ermöglicht.
Die Arbeit stellt ein wissensgestütztes Rahmenwerk für mobile agentische KI vor, das wiederverwendbare Entscheidungsstrukturen aus vergangenen Abläufen extrahiert und über bandbreitenbeschränkte Verbindungen synchronisiert, um auf ressourcenbeschränkten Geräten wie UAVs Latenz, Energieverbrauch und Fehler zu minimieren, wobei eine optimale Balance zwischen zu wenig und zu viel Wissen für die Zuverlässigkeit entscheidend ist.
Die Arbeit stellt DMM vor, ein datenfreies Framework, das spezialisierte Modelle durch schrittweises Zusammenführen ähnlicher Modelle und Wissensdistillation auf synthetischen Daten erfolgreich zu einem robusten, domänenadaptiven Gesamtmodell vereint.
Die Arbeit stellt LegalEdge vor, ein Edge-Intelligence-Framework, das durch die Kombination von Federated Learning und Deep Q-Networks in Blockchain-Smart Contracts eine datenschutzkonforme, transparente und effiziente Optimierung der Dynamik von Ladeinfrastrukturen für Elektrofahrzeuge ermöglicht.
Die Arbeit stellt Provuse vor, eine plattformsseitige Optimierung für FaaS-Umgebungen, die durch transparente Laufzeit-Fusion unabhängiger Funktionen die Latenz und den RAM-Verbrauch signifikant reduziert, ohne dass Entwickler Änderungen am Code vornehmen müssen.
Das Paper stellt MoEless vor, ein serverloses Framework zur effizienten Bereitstellung von Mixture-of-Experts-LLMs, das durch lastproaktive Skalierung und Platzierung von Experten die Inferenz-Latenz um 43 % und die Kosten um 84 % im Vergleich zu bestehenden Lösungen reduziert.
Diese Arbeit bietet eine umfassende vergleichende Analyse von fünf führenden Cross-Chain-Token-Standards und Frameworks, wobei sie deren technische Designs, Vertrauensmodelle und Zielökosysteme hinsichtlich Architektur, Nachrichtenmechanismen und Sicherheitsfeatures gegenüberstellt.
Die Arbeit stellt OrchMLLM vor, ein Framework, das durch den Batch Post-Balancing Dispatcher und den MLLM Global Orchestrator die Ineffizienzen bei Multimodal Large Language Model-Trainings aufgrund von Modality Composition Incoherence beseitigt und so den Durchsatz auf 2560 H100 GPUs im Vergleich zu Megatron-LM um das 3,1-fache steigert.