4376 articoli
Il paper presenta AraModernBERT, un modello encoder-only adattato all'arico che dimostra come l'inizializzazione tramite transtokenizzazione e la modellazione nativa di contesti lunghi fino a 8.192 token migliorino significativamente le prestazioni nel modellamento linguistico e in diverse attività di comprensione del linguaggio naturale.
Il paper presenta MoE-SpAc, un framework di inferenza per modelli MoE su dispositivi edge eterogenei che sfrutta la Speculative Decoding come sensore predittivo per l'allocazione della memoria, ottenendo un significativo miglioramento delle prestazioni rispetto alle soluzioni esistenti.
Uno studio empirico su quattro modelli linguistici avanzati rivela che quelli con minore accuratezza mostrano un'eccessiva sovrastima delle proprie capacità, analogamente all'effetto Dunning-Kruger osservato nella cognizione umana, sollevando preoccupazioni per il loro utilizzo sicuro in contesti ad alto rischio.
Questo studio quantifica le allucinazioni nei modelli linguistici su testi medici, rivelando che LLaMA-70B-Instruct genera risposte non supportate dal 19,7% delle volte nonostante l'alta plausibilità, e dimostra una correlazione tra minori tassi di allucinazione e una maggiore preferenza da parte dei clinici.
Il paper propone un framework che ottimizza la trasformazione delle caratteristiche guidato dai modelli linguistici di grandi dimensioni attraverso un ciclo chiuso di evoluzione delle dimostrazioni e selezione della diversità, superando i limiti dei metodi esistenti e ottenendo prestazioni superiori su diversi benchmark tabulari.
Questo lavoro propone una pipeline che collega l'analisi dei circuiti neurali alle spiegazioni in linguaggio naturale per i modelli linguistici, dimostrando che è possibile generare spiegazioni fedeli e di alta qualità per l'identificazione di oggetti indiretti, pur rivelando la presenza di meccanismi di backup distribuiti e la scarsa correlazione tra la confidenza del modello e la fedeltà della spiegazione.
Il documento introduce la System Hallucination Scale (SHS), uno strumento psicometrico leggero e incentrato sull'utente per valutare in modo rapido e interpretabile il comportamento allucinatorio dei modelli linguistici su larga scala dal punto di vista dell'interazione reale, distinguendosi dai tradizionali rilevatori automatici.
Il paper propone un'architettura a due stadi che utilizza LLaMA-3.1-8B-Instruct per la segmentazione e un Legal-Roberta-Large fine-tuned per la classificazione delle clausole nei contratti di non divulgazione, ottenendo risultati elevati in termini di precisione e automazione.
Il paper presenta PoultryLeX-Net, un'architettura transformer duale adattata al dominio che combina modelli lessicali e contestuali per analizzare con elevata precisione i sentimenti e i temi relativi all'industria avicola sui social media, superando le prestazioni dei modelli di base esistenti.
Questo articolo presenta TAMUSA-Chat, un framework di ricerca per conversazioni basate su modelli linguistici su larga scala adattati a contesti istituzionali, che integra tecniche di affinamento supervisionato e generazione aumentata da recupero per garantire trasparenza, conformità normativa e pratiche di intelligenza artificiale responsabile.
Il documento presenta CEI, un nuovo benchmark composto da 300 scenari validati da umani progettato per valutare la capacità dei modelli linguistici di inferire significati pragmatici complessi (come sarcasmo, cortesia strategica e aggressività passiva) in contesti sociali e relazionali caratterizzati da diverse dinamiche di potere.
Il documento evidenzia una significativa discrepanza tra le rappresentazioni interne composizionali e le prestazioni funzionali nei modelli linguistici di grandi dimensioni, sottolineando la necessità di valutazioni contrastive per una comprensione completa delle loro capacità.
Lo studio dimostra che, nelle valutazioni dei colloqui comportamentali, l'approccio "human-in-the-loop" supera il prompting iterativo a catena di pensiero, offrendo miglioramenti significativi in autenticità e fiducia con meno iterazioni e una migliore integrazione dei dettagli personali.
Questo studio valuta la robustezza e la sicurezza pedagogica dei modelli linguistici offline per l'educazione alla lingua turca, rivelando che i modelli orientati al ragionamento nella fascia 8B-14B offrono il miglior compromesso tra costi e sicurezza, mentre la resistenza alle anomalie non dipende esclusivamente dalla scala del modello.
Nonostante le proteste degli utenti secondo cui i nuovi modelli OpenAI avrebbero perso empatia, uno studio clinico dimostra che i punteggi di empatia sono rimasti invariati tra le generazioni, rivelando invece che la percezione di un calo è dovuta a un cambiamento nella postura di sicurezza: i modelli più recenti hanno migliorato il rilevamento delle crisi ma ridotto la sicurezza dei consigli, creando un compromesso invisibile che gli utenti interpretano erroneamente come una mancanza di empatia.
Questo studio presenta un framework automatizzato di valutazione che, confrontando Google Translate con modelli LLM come GPT-4o e DeepSeek su testi cinesi di varia natura, rivela che, sebbene le prestazioni siano eccellenti nella traduzione giornalistica, rimangono sfide significative nel preservare le sfumature culturali e le espressioni figurative nei testi letterari.
Questo articolo presenta e convalida un assistente linguistico basato sul recupero di informazioni, progettato per supportare la valutazione della sicurezza e la conformità normativa dei sistemi di aeromobili senza equipaggio, garantendo tracciabilità e affidabilità attraverso l'uso esclusivo di fonti regolamentari autorevoli e citazioni verificabili.
Questo paper presenta la creazione del dataset LatamQA, composto da oltre 26.000 domande e risposte multilingue derivate da Wikipedia e Wikidata, utilizzato per valutare e rivelare i pregiudizi culturali e le disparità linguistiche dei modelli linguistici su larga scala nei confronti delle diverse culture dell'America Latina.
Il paper introduce SpreadsheetArena, una piattaforma per la valutazione tramite confronti ciechi delle prestazioni dei modelli linguistici nella generazione end-to-end di fogli di calcolo, evidenziando come le preferenze varino in base al contesto e come i modelli attuali faticino a rispettare le best practice di dominio specifico.
Il paper presenta SENS-ASR, un approccio che migliora la qualità della trascrizione nei sistemi di riconoscimento vocale in streaming iniettando informazioni semantiche estratte da un modulo addestrato tramite distillazione della conoscenza, ottenendo così una significativa riduzione del tasso di errore delle parole in scenari con finestre temporali ridotte.