1726 articoli
Il paper introduce OSCAR, un metodo innovativo di compressione soft online e dipendente dalla query che riduce l'overhead computazionale e accelera l'inferenza nei sistemi RAG senza comprometterne l'accuratezza, integrando anche una funzionalità di riclassificazione.
Questo paper presenta \data, un dataset focalizzato sulle interazioni tra entità, e \model, un metodo che sfrutta i Modelli Linguistici Multimodali per decomporre le interazioni e raffinare le immagini generate, migliorando significativamente la qualità delle relazioni spaziali e funzionali tra gli oggetti.
Il documento presenta il modello formale N2M-RSI, che dimostra come un agente AI che utilizza i propri output come dati di addestramento possa generare una crescita illimitata della complessità interna una volta superata una specifica soglia di integrazione informativa, unificando concetti di auto-prompting e riferimento godeliano in un framework agnostico rispetto all'implementazione.
Questo studio introduce PubHealthBench, un nuovo benchmark basato su oltre 8000 domande derivate dalle linee guida del governo britannico, per valutare le conoscenze di 24 modelli linguistici (LLM) nel campo della sanità pubblica, rivelando che, sebbene i modelli proprietari più recenti superino gli umani nelle risposte a scelta multipla, mostrano prestazioni inferiori nelle risposte in formato libero, indicando la necessità di ulteriori misure di sicurezza.
Il paper propone MoB, un metodo di pruning dei token visivi basato sulla teoria della copertura multi-obiettivo che risolve il compromesso tra allineamento e preservazione visiva garantendo prestazioni superiori e scalabilità lineare nei modelli MLLM.
Il paper presenta R1-Code-Interpreter, un modello LLM potenziato da un approccio di apprendimento curricolare multi-fase che combina fine-tuning supervisionato e rinforzato, permettendo di generare codice autonomamente e raggiungendo prestazioni superiori rispetto a GPT-4o su una vasta gamma di compiti di ragionamento e pianificazione.
Il paper propone la Calibrazione Supervisionata (SC), un nuovo framework basato sulla minimizzazione della perdita che supera i limiti delle tecniche di calibrazione esistenti per l'Apprendimento in Contesto (ICL) nei LLM, permettendo di modificare l'orientamento dei confini decisionali e integrando regolarizzatori per migliorare la stabilità e le prestazioni su diversi modelli e dataset.
Questo studio individua e quantifica come i modelli di preferenza linguistica siano sistematicamente distorti da artefatti superficiali come lunghezza e stile, proponendo quindi un metodo di post-addestramento basato sull'aumento dei dati controfattuali per mitigare tali pregiudizi e migliorare l'affidabilità delle valutazioni senza compromettere le prestazioni complessive.
Il paper presenta CounselBench, un benchmark su larga scala sviluppato con l'apporto di 100 professionisti della salute mentale per valutare e stress-testare i modelli linguistici su domande aperte relative alla salute mentale, evidenziando attraverso valutazioni esperte e test avversariali sia i limiti attuali degli LLM (come la mancanza di personalizzazione e i rischi di sicurezza) sia la loro tendenza a essere sopravvalutati da giudici automatizzati.
Questo lavoro propone "Internal Confidence", un metodo senza addestramento per rilevare l'incertezza a livello di query nei modelli linguistici di grandi dimensioni prima della generazione, consentendo un'inferenza adattiva più efficiente ed economica che preserva le prestazioni complessive.
Il paper propone un metodo di correzione degli errori di sostituzione in tempo reale durante l'inferenza per risolvere le discrepanze tra pronuncia e ortografia nei sistemi di riconoscimento vocale, ottenendo un miglioramento significativo dell'accuratezza per parole specifiche senza compromettere le prestazioni complessive.
Il paper presenta RLVER, un innovativo framework di apprendimento per rinforzo che utilizza ricompense emotive verificabili da utenti simulati per addestrare modelli linguistici a sviluppare un'intelligenza emotiva superiore, migliorando drasticamente le loro capacità empatiche senza compromettere le competenze logiche e matematiche.
Il paper presenta UQLM, un pacchetto Python che rileva le allucinazioni nei grandi modelli linguistici calcolando punteggi di incertezza per valutare l'affidabilità delle loro risposte.
Questo studio dimostra che l'applicazione della risoluzione delle coreferenze nei sistemi Retrieval-Augmented Generation (RAG) migliora significativamente l'efficacia del recupero e la qualità delle risposte, in particolare per i modelli di dimensioni ridotte, mitigando l'ambiguità referenziale che ostacola l'apprendimento contestuale.
Questo studio utilizza tecniche di interpretabilità per dimostrare che i grandi modelli linguistici generalizzano compiti nuovi tramite un meccanismo di "induzione di funzioni", in cui più testine di attenzione collaborano per apprendere e riutilizzare strutture astratte come l'addizione con uno spostamento.
Questo articolo presenta il primo benchmark multilingue completo per la valutazione della detossificazione del testo in nove lingue, dimostrando che le metriche proposte, tra cui approcci basati su LLM, raggiungono una correlazione significativamente superiore con i giudizi umani rispetto ai metodi esistenti.
Il paper presenta Text2VLM, un nuovo pipeline che adatta dataset testuali-only in formati multimodali per valutare la resilienza dei modelli linguistici visivi contro attacchi di iniezione di prompt tipografici, rivelando vulnerabilità critiche e un divario prestazionale rispetto ai modelli proprietari.
Il paper introduce WebDS, il primo benchmark end-to-end per la data science basata sul web, che evidenzia il significativo divario tra le prestazioni degli attuali agenti LLM e quelle umane nella gestione di compiti complessi e multi-step su siti web eterogenei.
Il paper presenta SEVADE, un innovativo framework multi-agente auto-evolutivo con valutazione disaccoppiata che, grazie a un motore di ragionamento dinamico e un adjudicator separato, supera le limitazioni degli attuali modelli nel rilevamento dell'ironia riducendo le allucinazioni e ottenendo prestazioni state-of-the-art su quattro dataset di benchmark.
Il paper propone ObfusQAte, un nuovo framework che introduce il dataset ObfusQA per valutare la robustezza dei modelli linguistici di grandi dimensioni di fronte a domande fattuali oscurate, rivelando la loro tendenza a fallire o allucinazioni quando confrontati con livelli crescenti di indirection e sovraccarico contestuale.