136 articoli
Il paper presenta {\lambda}Scale, un sistema serverless per l'inferenza di grandi modelli linguistici che riduce i tempi di avvio e i costi sfruttando le reti RDMA per il multicast rapido dei modelli e l'esecuzione distribuita durante il caricamento ("execute-while-load"), ottenendo significativi miglioramenti nella latenza rispetto alle soluzioni esistenti.
Il paper presenta FAST, un efficiente scheduler per comunicazioni All-to-All(v) su GPU che risolve problemi di sbilanciamento del carico e congestione nei modelli MoE riducendo drasticamente i tempi di sintesi rispetto alle soluzioni esistenti.
Il paper introduce "Linear Layouts", un approccio innovativo che modella le disposizioni dei tensori tramite algebra lineare su per generare codice efficiente, offrire definizioni generiche e conversioni flessibili, riducendo l'errore umano e i costi computazionali nell'integrazione con Triton.
Il documento presenta PyloChain, una blockchain sharding gerarchica che bilancia prestazioni e disponibilità attraverso l'esecuzione speculativa delle transazioni locali e un meccanismo di auditing fine-granularità, dimostrando un throughput superiore e una latenza ridotta rispetto alle soluzioni esistenti.
Questo studio dimostra che sfruttare la tolleranza ai ritardi, l'interruttibilità e la scalabilità dei flussi di lavoro scientifici attraverso lo spostamento temporale e il ridimensionamento dinamico delle risorse può ridurre le emissioni di carbonio fino all'80% e al 67% rispettivamente.
Il paper introduce A-3PO, un metodo che accelera l'addestramento asincrono dei LLM sostituendo il calcolo esplicito della politica prossimale con un'approssimazione tramite interpolazione, ottenendo un speedup di 1,8 volte senza compromettere le prestazioni.
Questo paper esamina sei paradigmi che influenzano il trasferimento dati, introducendo il modello "Drainage Basin Pattern" per dimostrare come i colli di bottiglia risiedano spesso al di fuori della rete centrale e come un approccio olistico hardware-software sia essenziale per garantire prestazioni prevedibili su larga scala.
L'analisi empirica dimostra che la percentuale di propositori di blocchi su Ethereum che agiscono in modo altruistico è trascurabile, rendendo insufficiente la fiducia nella loro buona volontà e sottolineando la necessità di meccanismi di equità basati su incentivi o penalità piuttosto che sull'altruismo.
Questo studio analizza le strategie di parallelizzazione per il deployment di modelli LLM densi, evidenziando come l'uso combinato del parallelismo tensoriale e pipeline permetta di gestire i compromessi tra latenza e throughput in base ai requisiti specifici dell'applicazione.
Questo articolo presenta una nuova coda di lavoro lock-free ottimizzata per un framework master-worker nella risoluzione di problemi di programmazione a numeri interi, che supporta operazioni in blocco e garantisce prestazioni costanti e scalabilità superiore rispetto alle soluzioni generiche esistenti.
Questo articolo propone un nuovo metodo di gradiente commutante con pesi softmax per l'ottimizzazione minimax stocastica distribuita con vincoli stocastici, dimostrando teoricamente una complessità di e una convergenza ad alta probabilità in scenari di apprendimento federato con partecipazione parziale, senza richiedere assunzioni di limitatezza standard.
Questo articolo presenta due algoritmi distribuiti che garantiscono il gathering deterministico e in tempo finito di robot mobili autonomi nel piano euclideo, operando in condizioni di vista difettosa avversaria sia nel modello sincrono completo che in quello asincrono, pur in presenza di movimenti non rigidi e di informazioni sensoriali incomplete.
Il paper presenta StreamWise, un sistema di serving adattivo e modulare che ottimizza l'orchestrazione di modelli generativi multimodali su hardware eterogeneo per abilitare la creazione di podcast video in tempo reale, bilanciando dinamicamente latenza, costi e qualità.
Questo paper propone un framework di ragionamento guidato dalla conoscenza per l'IA agente mobile che, estraendo e sincronizzando strutture decisionali riutilizzabili su dispositivi con risorse limitate, ottimizza il compromesso tra velocità di ragionamento e rischio di errore, come dimostrato da uno studio su UAV che raggiunge un'affidabilità perfetta con costi inferiori rispetto ai metodi tradizionali.
Il paper presenta DMM, un framework di fusione di modelli privo di dati che, attraverso la sintesi di pseudo-dati e la distillazione della conoscenza, integra efficacemente modelli addestrati su domini diversi preservando le informazioni critiche senza necessità di condividere i dati originali.
Il documento presenta LegalEdge, un framework di intelligenza al bordo che integra l'apprendimento federato e le reti Q profonde per ottimizzare la gestione dinamica, la privacy e l'allocazione energetica delle infrastrutture di ricarica dei veicoli elettrici tramite smart contract su blockchain.
Il paper presenta Provuse, un'ottimizzazione trasparente lato piattaforma per ambienti FaaS che fonde automaticamente le funzioni a runtime per eliminare le istanze ridondanti, riducendo significativamente latenza e consumo di RAM senza richiedere modifiche al codice degli sviluppatori.
Il paper presenta MoEless, il primo framework di serving serverless per modelli LLM basati su Mixture-of-Experts (MoE), che risolve il problema dello squilibrio del carico tra esperti tramite predittori leggeri e strategie di scaling ottimizzate, riducendo la latenza di inferenza del 43% e i costi dell'84% rispetto alle soluzioni esistenti.
Questo articolo presenta un'analisi comparativa approfondita di cinque principali standard e framework per token cross-chain (xERC20, OFT, NTT, CCT e SuperchainERC20), esaminando le loro differenze architetturali, nei meccanismi di messaggistica, nei modelli di fiducia e negli ecosistemi di destinazione pur condividendo l'obiettivo comune di garantire la fungibilità unificata attraverso più blockchain.
Questo lavoro presenta la prima piattaforma di addestramento distribuito su cloud basata su mille GPU per l'intelligenza incarnata, che ottimizza l'intera pipeline dai dati all'infrastruttura per ridurre i tempi di addestramento del modello GR00T-N1.5 di 40 volte e creare un sistema di valutazione end-to-end che accelera lo sviluppo di robot autonomi.