9255 articoli
Il paper presenta FLoC, un framework di compressione efficiente e senza addestramento per i token visivi nei modelli multimodali su video lunghi, che utilizza una funzione di localizzazione delle strutture per selezionare in modo rapido e ottimale un sottoinsieme rappresentativo di token, migliorando significativamente le prestazioni su vari benchmark.
Il paper presenta CytoNet, un modello fondazionale addestrato su un milione di patch di immagini istologiche che permette l'analisi scalabile della microarchitettura corticale umana e il collegamento tra struttura cellulare e organizzazione funzionale del cervello.
Il paper introduce RefAgent, un framework multi-agente basato su LLM per il refactoring automatico del software che, attraverso la pianificazione, l'esecuzione e l'iterazione autonoma, dimostra di migliorare significativamente la qualità del codice e la capacità di identificare opportunità di refactoring rispetto agli approcci tradizionali.
Il paper propone CoRPO, una modifica all'ottimizzazione GRPO che introduce un bias di correttezza tramite l'uso di una soglia minima fissa per evitare la sovrastima dei vantaggi delle soluzioni errate, migliorando così la generalizzazione e il trasferimento delle capacità di ragionamento tra diversi domini.
Il paper propone SASG-DA, un metodo di aumento dei dati basato sulla diffusione che, integrando una guida semantica e un campionamento consapevole della sparsità, genera campioni sEMG sia fedeli che diversificati per migliorare il riconoscimento dei gesti miopotenziali e la generalizzazione dei modelli.
Il paper presenta DAP, un pianificatore autoregressivo basato su token discreti che, con un budget di soli 160 milioni di parametri, ottiene prestazioni all'avanguardia nel benchmark NAVSIM prevedendo congiuntamente la semantica BEV e le traiettorie del veicolo, integrando inoltre un affinamento tramite apprendimento per rinforzo.
Il paper propone CCSD, un nuovo framework di auto-distillazione cross-modale che, attraverso un'architettura condivisa-specifica e strategie di distillazione gerarchica e progressiva, garantisce una segmentazione robusta e generalizzabile dei tumori cerebrali anche in presenza di modalità MRI mancanti.
Il lavoro propone FlashCache, un nuovo framework di compressione della cache KV per modelli linguistici multimodali che, guidato dall'analisi delle frequenze e dalla preservazione dei "KV outlier", riduce drasticamente l'uso di memoria e accelera il decoding mantenendo le prestazioni.
Il paper presenta MambaTAD, un modello innovativo per la rilevazione temporale delle azioni che integra modelli a spazio di stato strutturato con un modulo DMBSS e una testina di fusione globale per superare le limitazioni nella modellazione a lungo raggio e nel contesto visivo globale, ottenendo prestazioni superiori su diversi benchmark.
Il paper presenta "CycleChemist", un innovativo framework di machine learning dualistico che, sfruttando il nuovo dataset OPV2D, combina modelli predittivi per le proprietà elettroniche e delle prestazioni delle celle solari organiche con un generatore di molecole basato su MatGPT per accelerare la scoperta di materiali donatori e accettori ad alta efficienza.
Il paper presenta L4L, un framework centrato sul risolutore che integra agenti LLM specializzati e verifica formale tramite solutori SMT per garantire che le decisioni legali siano logicamente allineate alle leggi statutarie e forniscano giustificazioni verificabili.
Lo studio dimostra che i modelli linguistici possono essere addestrati a rilevare con alta precisione l'iniezione di vettori di steering, sfatando l'ipotesi che tale intervento rimanga impercettibile e rivelando che la capacità di rilevamento non garantisce affatto una maggiore robustezza comportamentale contro le manipolazioni.
Il paper introduce DPAC, un metodo di controllo avversariale per il campionamento diffusion che, proiettando i gradienti avversariali sullo spazio tangente definito dalla geometria del punteggio generativo, minimizza la divergenza KL nel percorso e preserva la qualità dei campioni riducendo la distanza di Wasserstein e il FID.
Il paper propone Deep FlexQP, un risolutore di programmazione quadratica convessa basato su un'architettura di deep unfolding che garantisce la fattibilità e accelera significativamente la risoluzione di problemi di ottimizzazione non lineare, superando gli stati dell'arte in termini di velocità e successo in applicazioni come l'ottimizzazione di traiettorie e i filtri di sicurezza predittivi.
Il paper introduce Guided Flow Policy (GFP), un nuovo approccio per l'apprendimento per rinforzo offline che combina un policy a flusso multi-step con un attore distillato per concentrarsi sull'imitazione selettiva delle azioni ad alto valore, ottenendo prestazioni all'avanguardia su numerosi benchmark.
Questo studio dimostra che l'aggiunta di un segnale di ricompensa per l'ordine canonico delle azioni, combinato con una ricompensa di compito durante il post-training con RL su indovinelli Zebra, migliora le prestazioni del modello rispetto all'ottimizzazione basata solo sul compito, guidando il modello verso traiettorie canoniche senza modificare i dati supervisionati o l'architettura.
Il paper propone un framework di apprendimento multi-perdita per il riconoscimento delle emozioni nel parlato che integra un metodo di mixup adattivo all'energia e un modulo di attenzione a livello di frame, ottenendo prestazioni all'avanguardia su quattro dataset principali.
Questo articolo presenta un metodo di post-addestramento che rende l'attenzione dei transformer estremamente sparsa senza comprometterne le prestazioni, rivelando circuiti semplificati e migliorando l'interpretabilità meccanica dei modelli fino a 7 miliardi di parametri.
Il paper presenta ClinNoteAgents, un sistema multi-agente basato su LLM che trasforma le note cliniche non strutturate in rappresentazioni interpretabili per prevedere con alta accuratezza il rischio di riammissione ospedaliera a 30 giorni per insufficienza cardiaca, riducendo al contempo la dipendenza da dati strutturati e annotazioni manuali.
Il paper presenta InternGeometry, un agente basato su un modello linguistico potenziato da un meccanismo di memoria dinamica e da un'apprendimento per rinforzo a complessità crescente (CBRL), che risolve il 88% dei problemi di geometria delle Olimpiadi Internazionali di Matematica con una frazione minima dei dati di addestramento rispetto agli approcci precedenti, superando anche la media dei vincitori di medaglia d'oro.