2315 articoli
Il paper presenta l'approccio di GATech alla sfida AbjadGenEval per il rilevamento di testi arabi generati dall'IA, dimostrando che un semplice pooling medio su un encoder multilingue E5-large, unito all'osservazione che i testi umani sono significativamente più lunghi di quelli generati, ha ottenuto prestazioni superiori rispetto a strategie di pooling più complesse.
Questo articolo dimostra che i codificatori bidirezionali specializzati, come AraBERTv2, superano i decoder causali nel compito di classificazione del testo medico arabo su 82 categorie, grazie alla loro capacità di catturare un contesto globale più preciso rispetto alla natura sequenziale dei decoder.
Il paper introduce P-GRPO, un nuovo framework di allineamento che supera i limiti del GRPO standard nella gestione delle preferenze eterogenee normalizzando i vantaggi rispetto a storie di reward specifiche per gruppo, consentendo così ai modelli linguistici di adattarsi più efficacemente e rapidamente a diverse preferenze individuali senza sacrificare le capacità generali.
Questo articolo propone un quadro concettuale e operativo che definisce i modelli AI come parametri e architetture addestrati, e i sistemi AI come l'insieme di tali modelli più componenti aggiuntive, al fine di risolvere le ambiguità normative e chiarire la ripartizione delle responsabilità tra i diversi attori della catena del valore.
LWM-Temporal è un nuovo modello fondazionale per le comunicazioni wireless che utilizza un meccanismo di attenzione spaziotemporale sparsa allineata alla propagazione e un preaddestramento auto-supervisionato basato sulla fisica per apprendere rappresentazioni universali dei canali, migliorando significativamente le prestazioni nelle previsioni a lungo termine anche con dati di addestramento limitati.
Il paper introduce HTM-EAR, un sistema di memoria gerarchica che combina memoria di lavoro basata su HNSW e archiviazione a lungo termine con un routing ibrido e meccanismi di evizione consapevoli dell'importanza, dimostrando di preservare l'accuratezza delle query attive e di gestire efficacemente il contesto limitato anche in condizioni di saturazione estrema.
Il paper presenta Tureis, un metodo auto-supervisionato basato su Transformer che rileva e localizza con precisione i guasti dei sensori in ambienti domestici intelligenti complessi, offrendo un'implementazione efficiente ed edge-friendly senza richiedere dati etichettati.
Questo studio valuta la capacità di generalizzazione di agenti di attacco informatico autonomi di fronte a cambiamenti imprevisti negli indirizzi IP, rivelando che, sebbene gli agenti basati su LLM ottenano i migliori risultati di adattamento, lo fanno a scapito di costi computazionali elevati, ridotta trasparenza e nuove vulnerabilità operative.
Questo studio dimostra che le condizioni di valutazione, in particolare il formato delle domande, influenzano le misurazioni di sicurezza dei modelli linguistici più delle architetture di scaffolding stesse, rivelando che i ranking di sicurezza non sono generalizzabili e richiedono test specifici per ogni modello e configurazione.
Il paper propone un framework di apprendimento continuo efficiente per il riconoscimento delle attività umane su dispositivi IoT, basato su una modulazione a gate diagonale delle rappresentazioni pre-addestrate che riduce drasticamente l'oblio catastrofico e migliora l'accuratezza adattandosi a nuovi soggetti senza trasmettere dati sensibili al cloud.
Il paper propone XSAM, una nuova implementazione della Sharpness-Aware Minimization che supera le limitazioni delle versioni attuali offrendo una stima più accurata della direzione di massima curvatura e un migliore sfruttamento delle informazioni di gradino multi-step, garantendo così prestazioni superiori con un costo computazionale trascurabile.
Il documento introduce InFusionLayer, un nuovo strumento Python open-source basato sull'analisi di fusione combinatoria (CFA) che integra funzioni di caratteristiche punteggio-rank e diversità cognitiva per ottimizzare l'apprendimento di ensemble in problemi di classificazione multiclasse, dimostrando la sua efficacia su vari dataset di visione artificiale e la compatibilità con framework come PyTorch, TensorFlow e Scikit-learn.
Il paper propone FlowSem-MAE, un paradigma di pre-addestramento tabulare nativo dei protocolli che supera i limiti dei modelli basati su byte sequenziali per la classificazione del traffico cifrato, preservando le semantiche dei campi del protocollo e ottenendo prestazioni superiori con meno dati etichettati.
Il paper presenta OmniGuide, un framework universale che migliora le prestazioni dei modelli generalisti robotici (VLA) su compiti complessi integrando diverse fonti di guida come modelli fondazionali 3D e VLM semantici tramite funzioni di energia differenziabili che influenzano l'azione del robot.
Il paper propone CAADRL, un framework di apprendimento per rinforzo profondo che sfrutta esplicitamente la struttura a cluster dei problemi di prelievo e consegna tramite codifica attentiva e decodifica gerarchica, ottenendo prestazioni competitive rispetto allo stato dell'arte con tempi di inferenza significativamente ridotti.
Questo articolo risolve una congettura ventennale sulla quantizzazione della curvatura di Ricci nella geometria dell'informazione, dimostrando che il valore medio è quantizzato in semi-interi positivi per le reti bayesiane binarie ad albero o complete, ma smentendo l'universalità della congettura tramite controesempi con cicli e generalizzando il risultato alle reti DAG gaussiane con una dicotomia di segno tra curvature positive e negative.
Questo lavoro propone l'uso di automi cellulari neurali per generare dati sintetici non linguistici che, utilizzati in una fase di pre-pre-addestramento, migliorano l'efficienza e le prestazioni dei modelli linguistici su compiti di ragionamento, superando anche l'addestramento su grandi quantità di testo naturale.
Il paper introduce HTMuon, un metodo di ottimizzazione basato sulla teoria della regolarizzazione auto-organizzata a code pesanti che migliora l'algoritmo Muon correggendo spettri pesanti e riducendo la perplessità nel pre-addestramento di LLM e nella classificazione di immagini.
Il paper propone SAPO, un metodo che risolve l'instabilità dell'addestramento negli agenti di ricerca basati su TARL tramite una semplice modifica a una riga di codice che applica un vincolo KL condizionale, ottenendo miglioramenti significativi rispetto agli algoritmi esistenti.
Questo studio applica per la prima volta autoencoder sparsi al modello Chronos-T5, rivelando una gerarchia causale delle caratteristiche temporali in cui i livelli intermedi, dedicati alla rilevazione di cambiamenti bruschi, sono più critici per le previsioni rispetto ai livelli finali ricchi di concetti semantici.