3427 papers
Dit paper introduceert ZACH-ViT, een compacte Vision Transformer zonder positiële embeddings of [CLS]-token die door het verwijderen van vaste ruimtelijke prioren een adaptieve inductieve bias biedt die onder data-scarce omstandigheden in de medische beeldvorming superieure prestaties levert op datasets met zwakke ruimtelijke structuren.
Dit paper introduceert nieuwe benchmarks voor moeilijke constraint satisfaction problemen op basis van statistische fysica en toont aan dat klassieke algoritmen momenteel nog steeds beter presteren dan graph neural networks.
Dit artikel toont aan dat autonome AI-analisten, gebaseerd op grote taalmodellen, op grote schaal de variatie in analytische beslissingen en uiteenlopende conclusies kunnen repliceren die bij menselijke 'many-analyst'-studies worden waargenomen, wat de noodzaak onderstreept van transparante rapportage en volledige openbaarmaking van prompts om selectieve rapportage in de AI-gestuurde wetenschap te voorkomen.
Dit paper introduceert actieve query-methoden om de additieve fout te minimaliseren bij het leren van subadditieve verzamelfuncties, door de onzekerheid tussen minimale en maximale completering van ontbrekende waarden te verkleinen in zowel offline als online scenario's.
Dit onderzoek toont aan dat Meta's OPT-model, wanneer getraind op de BabyLM-dataset, in bijna een derde van de BLiMP-grammaticale tests faalt doordat het vroeg in het trainingsproces vastloopt in persistente, foutieve bias die moeilijk te corrigeren is, een fenomeen dat de auteurs verklaren met de Bigram-hypothese.
Dit paper introduceert CARE, een agentisch raamwerk dat multi-modale medische redenering verbetert door het werkproces te ontleden in gespecialiseerde modules voor visuele gronding en redenering, waardoor de nauwkeurigheid en klinische verantwoordbaarheid van AI-systemen aanzienlijk stijgt.
Dit paper introduceert CFG-Ctrl, een unificerend raamwerk dat Classifier-Free Guidance herinterpreteert als een regeling, en presenteert SMC-CFG, een methode gebaseerd op glijdende-modusregeling die de stabiliteit en semantische nauwkeurigheid van generatieve stromen verbetert door niet-lineaire feedback te gebruiken om de beperkingen van lineaire benaderingen te overwinnen.
Deze studie toont aan dat parameter-efficiënte fine-tuning (PEFT) voor meerdere code-analysetaken tegelijkertijd een uitstekende prestatie-efficiëntiebalans biedt die vaak volledig fine-tuning benadert of zelfs overtreft, terwijl het opslag- en rekencosten aanzienlijk verlaagt en superieur is aan directe prompting van grote open-source modellen.
Dit paper introduceert Targeted Reasoning Unlearning (TRU), een nieuwe methode die gebruikmaakt van een redeneringsgebaseerde doelstelling om ongewenste kennis in grote taalmodellen nauwkeurig en uitlegbaar te verwijderen zonder de algemene prestaties te schaden.
Dit paper introduceert MoE-SpAc, een inferentieframework voor MoE-modellen op heterogene randapparaten dat speculatieve decoding gebruikt als voorspellende sensor voor geheugenbeheer en dynamische werklastverdeling, wat resulteert in aanzienlijke snelheidsverbeteringen ten opzichte van bestaande methoden.
Deze paper introduceert een framework dat de prestaties van Large Language Models bij Feature Transformation verbetert door een gesloten lus te gebruiken waarin trajecten van succesvolle transformaties worden geëvolueerd en geselecteerd via diversiteitsbewuste contextoptimalisatie, wat leidt tot superieure resultaten op diverse tabulaire benchmarks.
Dit paper introduceert TAMUSA-Chat, een onderzoeksvriendelijk raamwerk voor het ontwikkelen van domein-geadapteerde conversatiemodellen voor academische instellingen, dat gebruikmaakt van gecontroleerde fijne afstemming en retrieval-augmented generation om verantwoorde en transparante AI-deployments te waarborgen.
Dit onderzoek evalueert de robuustheid en pedagogische veiligheid van offline grote taalmodellen voor het Turks erfgoedonderwijs en concludeert dat modellen met 8 tot 14 miljard parameters de beste balans bieden tussen kosten en veiligheid, aangezien grotere schaal niet automatisch leidt tot betere weerstand tegen anomalieën of minder sycofantische bias.
Deze studie biedt theoretische inzichten in de werking van grote taalmodellen door aan te tonen dat promptcomprehensie, in-context learning en chain-of-thought redenering gebaseerd zijn op het nauwkeurig infereren van overgangskansen, het verminderen van ambiguïteit en het activeren van taakdecompositie via autoregressieve processen.
Dit artikel introduceert LatamQA, een dataset van meer dan 26.000 meervoudige keuzevragen in het Spaans en Portugees, afgeleid van Wikidata en Wikipedia, om de geografische en culturele bias van grote taalmodellen ten opzichte van Latijns-Amerika te kwantificeren en te onthullen dat deze modellen vaak beter presteren voor Iberische Spaanse cultuur dan voor die van Latijns-Amerika.
Dit paper introduceert SpreadsheetArena, een platform voor de evaluatie van grote taalmodellen bij het genereren van volledige spreadsheetwerkboeken via blinde paarvergelijkingen, waarbij wordt vastgesteld dat voorkeuren sterk variëren en zelfs geavanceerde modellen moeite hebben met het naleven van domeinspecifieke beste praktijken.
Dit paper toont aan dat bestaande 'leugendetectors' voor grote taalmodellen tekortschotten omdat ze zich uitsluitend op onwaarheden richten, terwijl modellen ook succesvol kunnen bedriegen door misleidende maar feitelijke uitspraken te doen.
In deze paper presenteren de auteurs van GATech hun aanpak voor de AbjadGenEval-taak, waarbij ze vaststellen dat een eenvoudig gemiddelde pooling-methode op een fine-getuned multilinguale E5-large-encoder de beste resultaten boekt voor het detecteren van AI-gegenereerde Arabische tekst, mede door het waarneembare verschil in tekstlengte tussen menselijke en machine-gegenereerde inhoud.
Dit artikel toont aan dat voor de classificatie van Arabische medische teksten in 82 categorieën gespecialiseerde bidirectionele encoders (zoals AraBERTv2) aanzienlijk beter presteren dan causale decoders, omdat ze een meer robuuste globale semantische context vastleggen die essentieel is voor nauwkeurige fijnkorrelige categorisatie.
Dit paper introduceert Personalized GRPO (P-GRPO), een nieuw framework dat de beperkingen van standaard GRPO voor persoonlijke voorkeursuitlijning oplost door de voordeelsschatting te ontkoppelen van batchstatistieken en te normaliseren op basis van voorkeursgroepspecifieke geschiedenis, wat leidt tot snellere convergentie en een betere uitlijning met heterogene menselijke voorkeuren.