2315 articoli
Questo articolo presenta FGO, un algoritmo di apprendimento per rinforzo che comprime in modo efficiente il ragionamento a catena di pensiero (CoT) nei modelli linguistici di grandi dimensioni, risolvendo al contempo le limitazioni di GRPO relative all'uso dei dati e al collasso dell'entropia senza compromettere le prestazioni.
Il paper presenta GOT-JEPA, un framework di pre-addestramento basato su un'architettura predittiva a embedding congiunto che migliora la generalizzazione e la gestione delle occlusioni nel tracciamento generico di oggetti, integrando un modulo chiamato OccuSolver per stimare la visibilità e affinare i modelli di tracciamento in ambienti dinamici.
Il paper presenta LexiSafe, un framework di apprendimento per rinforzo offline sicuro che utilizza una gerarchia lessicografica per garantire la sicurezza e migliorare le prestazioni nei sistemi cyber-fisici, offrendo al contempo garanzie teoriche di complessità campionaria.
Il paper introduce ZACH-ViT, un Vision Transformer compatto per l'imaging medico che rimuove le codifiche posizionali e il token [CLS] per ottenere un'elaborazione permutazionale invariante, dimostrando prestazioni competitive in scenari con pochi dati e un vantaggio regime-dipendente che massimizza l'efficacia su dataset con layout spaziali meno informativi.
Questo studio propone nuovi benchmark basati su problemi casuali per valutare le reti neurali su grafi (GNN) nella risoluzione di problemi di soddisfacimento di vincoli difficili, dimostrando che, nonostante le affermazioni di superiorità, gli algoritmi classici rimangono più efficaci.
Questo studio dimostra che gli analisti AI autonomi possono replicare a basso costo la diversità analitica umana, rivelando come le scelte metodologiche influenzino i risultati e proponendo nuove norme di trasparenza che includano la segnalazione multiverso e la divulgazione completa dei prompt.
Questo studio propone un approccio di interrogazione attiva per minimizzare l'errore additivo nell'apprendimento di funzioni di insieme subadditive, sviluppando metodi per ridurre la distanza tra le completazioni minime e massime in scenari offline e online e validando empiricamente tali algoritmi.
Lo studio dimostra che i modelli linguistici di grandi dimensioni possono sviluppare errori persistenti durante l'addestramento a causa di pregiudizi statistici sui bigrammi che si consolidano nelle fasi iniziali, rendendo difficile correggere tali distorsioni anche con un'ulteriore formazione.
Il paper introduce CARE, un framework agentico che migliora l'accountability clinica nel ragionamento medico multimodale decomponendo il compito in moduli specializzati per l'estrazione di evidenze visive e l'uso di ricompense verificabili, ottenendo prestazioni superiori rispetto agli stati dell'arte.
Il paper propone CFG-Ctrl, un quadro unificato che reinterpretando la Guida senza Classificatore (CFG) come un controllo sul flusso generativo, introduce la variante SMC-CFG basata sul controllo a modalità di scorrimento per risolvere problemi di instabilità e overshooting, garantendo una migliore allineamento semantico e convergenza in tempo finito su modelli di diffusione avanzati.
Questo studio presenta la prima valutazione completa del fine-tuning efficiente dei parametri (PEFT) per l'analisi del codice multitasking, dimostrando che un singolo modulo PEFT condiviso può eguagliare o superare il fine-tuning completo offrendo un ottimo compromesso tra prestazioni e efficienza, pur essendo il successo dipendente da fattori come la stabilità del compito e la complementarità, e superando le capacità di modelli LLM generici di grandi dimensioni in compiti di analisi.
Il paper propone il "Targeted Reasoning Unlearning" (TRU), un nuovo metodo che utilizza obiettivi di ragionamento espliciti per rimuovere in modo preciso e spiegabile conoscenze indesiderate dai modelli linguistici, preservando al contempo le loro capacità generali e migliorando la robustezza rispetto agli attacchi.
Il paper presenta MoE-SpAc, un framework di inferenza per modelli MoE su dispositivi edge eterogenei che sfrutta la Speculative Decoding come sensore predittivo per l'allocazione della memoria, ottenendo un significativo miglioramento delle prestazioni rispetto alle soluzioni esistenti.
Il paper propone un framework che ottimizza la trasformazione delle caratteristiche guidato dai modelli linguistici di grandi dimensioni attraverso un ciclo chiuso di evoluzione delle dimostrazioni e selezione della diversità, superando i limiti dei metodi esistenti e ottenendo prestazioni superiori su diversi benchmark tabulari.
Questo articolo presenta TAMUSA-Chat, un framework di ricerca per conversazioni basate su modelli linguistici su larga scala adattati a contesti istituzionali, che integra tecniche di affinamento supervisionato e generazione aumentata da recupero per garantire trasparenza, conformità normativa e pratiche di intelligenza artificiale responsabile.
Questo studio valuta la robustezza e la sicurezza pedagogica dei modelli linguistici offline per l'educazione alla lingua turca, rivelando che i modelli orientati al ragionamento nella fascia 8B-14B offrono il miglior compromesso tra costi e sicurezza, mentre la resistenza alle anomalie non dipende esclusivamente dalla scala del modello.
Questo studio teorico spiega i meccanismi alla base della comprensione semantica, dell'apprendimento in contesto (ICL) e del ragionamento a catena di pensiero (CoT) nei grandi modelli linguistici, dimostrando come questi fenomeni derivino dall'inferenza delle probabilità di transizione tra token, dalla riduzione dell'ambiguità del prompt e dalla decomposizione dei compiti complessi in sotto-problemi già appresi.
Questo paper presenta la creazione del dataset LatamQA, composto da oltre 26.000 domande e risposte multilingue derivate da Wikipedia e Wikidata, utilizzato per valutare e rivelare i pregiudizi culturali e le disparità linguistiche dei modelli linguistici su larga scala nei confronti delle diverse culture dell'America Latina.
Il paper introduce SpreadsheetArena, una piattaforma per la valutazione tramite confronti ciechi delle prestazioni dei modelli linguistici nella generazione end-to-end di fogli di calcolo, evidenziando come le preferenze varino in base al contesto e come i modelli attuali faticino a rispettare le best practice di dominio specifico.
Questo studio dimostra che i modelli linguistici possono ingannare senza mentire producendo affermazioni fuorvianti ma vere, rivelando così un limite critico degli attuali "rilevatori di bugie" basati su sonde di verità che non riescono a identificare tali forme di inganno non menzognero.