6987 articoli
Il paper M2RL analizza e confronta le strategie di addestramento misto e di fusione dei modelli per l'apprendimento per rinforzo con ricompense verificabili (RLVR) nei grandi modelli linguistici, dimostrando che i domini basati sul ragionamento mostrano effetti sinergici e che le due approcci possono essere integrati efficacemente per ottenere esperti multi-dominio.
Il paper introduce SkillsBench, un benchmark che dimostra come le competenze curate migliorino significativamente le prestazioni degli agenti LLM su compiti diversificati, mentre le competenze auto-generate risultano inefficaci e una documentazione focalizzata si rivela superiore a quella esaustiva.
Questo lavoro propone una tassonomia geometrica delle allucinazioni nei LLM, classificandole in tre tipi distinti e introducendo gli indici SGI e DGI per rilevarle, mentre evidenzia come le limitazioni metodologiche nei benchmark esistenti possano mascherare la vera natura degli errori fattuali.
Il paper presenta TrasMuon, un ottimizzatore che combina la geometria ortogonale dei metodi Muon con una calibrazione globale e un clipping basato su regioni di fiducia per stabilizzare l'addestramento e accelerare la convergenza, eliminando la necessità di fasi di warmup.
Questo lavoro dimostra che un pipeline automatizzato leggero, integrato con modelli linguistici di nuova generazione e ottimizzato per la verifica tramite citazioni, è in grado di risolvere problemi matematici di livello di ricerca avanzato, generando prove verificate per dataset come l'ICCM e il "First Proof".
Il paper propone la "Mean Velocity Policy" (MVP), una nuova funzione di politica generativa che, tramite un vincolo di velocità istantanea, permette la generazione di azioni in un singolo passo mantenendo alta espressività e superando le prestazioni e la velocità delle politiche basate su flussi esistenti in compiti di manipolazione robotica.
Il paper presenta Pawsterior, un framework di variational flow matching che migliora l'inferenza basata su simulazioni gestendo sia vincoli geometrici strutturati che strutture latenti discrete, risolvendo così le limitazioni dei metodi tradizionali.
Il paper propone XTF, un framework di filtraggio del rumore a livello di token che migliora significativamente le prestazioni del fine-tuning dei LLM decomponendo i contributi dei dati in attributi espliciti e mascherando i gradienti dei token rumorosi.
Il paper presenta LongAudio-RAG, un framework ibrido che risolve il problema della risposta a domande su audio di lunga durata convertendo i flussi audio in eventi acustici strutturati e recuperabili tramite SQL, permettendo così a un LLM di generare risposte precise con grounding temporale e ridotte allucinazioni, anche in un'architettura edge-cloud.
Il paper presenta CogitoRAG, un framework RAG ispirato alla memoria episodica umana che, attraverso l'estrazione di "gist" semantici, la costruzione di un grafo della conoscenza multidimensionale e un meccanismo di diffusione semantica globale, supera i limiti delle rappresentazioni testuali discrete per migliorare significativamente l'integrazione della conoscenza e il ragionamento rispetto ai metodi RAG esistenti.
Il paper introduce CondMedQA, il primo benchmark per la risposta condizionata alle domande biomediche, e CGR, un nuovo framework che migliora il ragionamento medico modellando esplicitamente le condizioni specifiche del paziente per selezionare le conoscenze appropriate.
Questo lavoro propone un quadro operativo per i predittori conformali che, andando oltre la semplice copertura marginale, garantisce limiti finiti su metriche critiche come la frequenza di decisione e l'esposizione agli errori attraverso correzioni statistiche per piccoli campioni, audit indipendenti e una caratterizzazione geometrica dei compromessi tra le diverse prestazioni operative.
Il paper introduce ABD, un benchmark per valutare la capacità dei modelli linguistici di generare formule logiche di prima ordine che definiscono eccezioni sparsamente in mondi finiti, evidenziando attraverso l'analisi di dieci modelli all'avanguardia su 600 istanze che, sebbene ottengano alta validità, persistono significative lacune nella parsimonia e modalità di fallimento nella generalizzazione.
Il paper introduce INDUCTION, un benchmark per la sintesi di concetti in logica del primo ordine su strutture finite, che valuta la capacità dei modelli di generare formule logiche concise e generalizzabili attraverso tre diversi regimi di verifica.
Questo lavoro stabilisce un nuovo standard di benchmarking per l'Apprendimento per Rinforzo Multi-Agente (MARL) nella gestione energetica urbana utilizzando l'ambiente CityLearn, dimostrando che le strategie decentralizzate (DTDE) superano quelle centralizzate (CTDE) e proponendo nuove metriche per valutare la sostenibilità e la resilienza dei sistemi.
Il paper introduce MrBERT, una famiglia di encoder multilingue basata sull'architettura ModernBERT e pre-addestrata su 35 lingue, che combina prestazioni di punta in domini specifici e linguaggi locali con l'efficienza operativa grazie all'apprendimento di rappresentazioni Matryoshka (MRL).
Il paper introduce ARLArena, un framework unificato per analizzare la stabilità dell'apprendimento per rinforzo agenziale, e propone SAMPO, un metodo di ottimizzazione che garantisce un addestramento stabile e performante per agenti basati su LLM.
Il paper presenta CryoNet.Refine, un modello di diffusione deep learning a un singolo passaggio che automatizza e accelera il raffinamento dei modelli strutturali in mappe di densità Cryo-EM, superando i metodi tradizionali in termini di velocità e qualità geometrica.
Questo articolo esplora come gli agenti AI, attraverso il concetto di "vibe researching" e un framework cognitivo che delinea i limiti tra compiti codificabili e conoscenza tacita, possano potenziare ma non sostituire i ricercatori sociali, sollevando al contempo questioni critiche riguardo alla stratificazione professionale e alla crisi pedagogica.
Il paper introduce la "bipredicibilità" come misura fondamentale per distinguere l'agenzia dalla vera intelligenza, dimostrando che i sistemi AI attuali possiedono la prima ma non la seconda, e propone un'architettura di feedback ispirata alla biologia per monitorare e ripristinare l'efficacia dell'apprendimento adattivo.