1071 papers
Het artikel introduceert Emotion Collider (EC-Net), een hyperbolisch hypergraafkader dat hiërarchische modale relaties en bidirectionele berichtuitwisseling combineert met contrastief leren om robuuste en nauwkeurige sentimentherstelmodellen te realiseren, zelfs bij aanwezigheid van ruis of ontbrekende modaliteiten.
Dit artikel introduceert ModalImmune, een trainingskader dat multimodale systemen robuust maakt tegen het verlies of de corruptie van invoerkanaal door middel van gecontroleerde, zelfdestructieve training die leidt tot stabiele en herstelbare gezamenlijke representaties.
Dit paper introduceert CondMedQA, het eerste benchmark voor conditioneel biomedisch vragen beantwoorden, en Condition-Gated Reasoning (CGR), een nieuw raamwerk dat kennisgrafiek-paden selectief activeert of verwijdert op basis van patiëntspecifieke omstandigheden om de betrouwbaarheid van medische redenering te verbeteren.
Deze paper introduceert MrBERT, een familie van moderne meertalige encodermodellen die door middel van vocabulaire-, domein- en dimensionale aanpassing, inclusief Matryoshka Representation Learning, state-of-the-art prestaties bereikt op Catalaanse en Spaanse taken en gespecialiseerde domeinen zoals biomedische en juridische toepassingen.
Dit paper introduceert CeRA, een parameter-efficiënte fine-tuning-methode die door middel van SiLU-gating en structurele dropout de lineaire beperkingen van LoRA doorbreekt en zo superieure prestaties bereikt op complexe redeneertaken door de dormantie van het singuliere waarden-spectrum te activeren.
Dit paper introduceert KVSlimmer, een theoretisch onderbouwde en gradient-vrije methode voor asymmetrische KV-merging die de prestaties van grote taalmodellen verbetert door de spectrale energie van projectiegewichten te analyseren, waardoor zowel de geheugengebruik als de latentie aanzienlijk worden verlaagd zonder in te leveren op kwaliteit.
Deze studie introduceert een conformal prediction-framework dat, ondanks variaties in modelkalibratie tussen gestructureerde FDA-documenten en vrije radiologieteksten, betrouwbare coverage-garanties biedt voor veilige medische entiteitsextractie met grote taalmodellen in klinische toepassingen.
Dit paper introduceert CyclicJudge, een efficiënte round-robin strategie die systematische beoordelaarsbias in LLM-evaluaties elimineert zonder extra kosten, door de variantie van benchmarkscores te ontleden en de bias precies op te heffen.
Dit paper introduceert PrivMedChat, een end-to-end framework voor differentieel private RLHF dat medische chatbots veilig en effectief afstemt op klinische dialogen zonder gevoelige patiëntgegevens te onthullen.
Dit onderzoek concludeert dat de methode CDD voor het detecteren van datacontaminatie in kleine taalmodellen (70M-410M parameters) over het algemeen niet effectiever is dan willekeur en dat probabilistische methoden zoals perplexiteit en Min-k% Prob in alle geteste scenario's superieure resultaten leveren.
Dit paper introduceert vLLM Hook, een open-source plug-in die programmabele toegang biedt tot de interne staten van vLLM-modellen, waardoor zowel passieve analyse als actieve interventie mogelijk wordt voor toepassingen zoals het detecteren van prompt-injecties en het verbeteren van RAG-systemen.
Dit paper introduceert een transformer-gebaseerd systeem dat de prestaties op ARC-AGI-2 aanzienlijk verbetert door neurale inferentie te combineren met structurele priors, test-tijd training en symmetrie-bewuste decoding om generalisatie buiten patroonherkenning te bereiken.
Dit onderzoek identificeert de 'P0 Sink Circuit' als een semantiek-onafhankelijk mechanisme dat in de eerste twee lagen van grote taalmodellen zorgt voor de vorming van een aandachtssink op het eerste token, wat dient als een indicator voor de convergentie van pre-training.
Dit artikel toont aan dat hiërarchische structuren in het data-generatieproces de onderliggende oorzaak zijn van de opkomst van diverse mechanistische fenomenen in taalmodellen, en biedt een unificerende verklaring en synthetische hulpmiddelen voor interpretatieonderzoek.
Dit paper introduceert Hierarchical Embedding Fusion (HEF), een tweestapsmethode die repository-informatie comprimeert naar een vaste set pseudo-tokens, waardoor de latency voor repository-gebaseerde codegeneratie aanzienlijk wordt verlaagd zonder in te leveren op de nauwkeurigheid.
Deze studie toont aan dat bestaande LLM-judges de robuustheid van AI-veiligheid tegen adversariale aanvallen onbetrouwbaar meten door distributieveranderingen en semantische ambiguïteit, waardoor veel succespercentages kunstmatig worden opgeblazen in plaats van echte schadelijkheid weer te geven.
Dit paper introduceert PerContrast en de bijbehorende PerCE-loss, een token-niveau methode die gebruikmaakt van causale interventie om de relevantie van tokens voor personalisatie te schatten en deze tijdens het trainen adaptief te versterken, wat leidt tot aanzienlijke prestatieverbeteringen bij gepersonaliseerde grote taalmodellen.
Dit paper introduceert een genormaliseerde betrouwbaarheidsscore die fouten en hallucinaties in grote taalmodellen detecteert, en onthult dat supervisie fine-tuning (SFT) betere kalibratie biedt dan versterkingsleermethoden, terwijl het een post-RL SFT-strategie voorstelt om deze betrouwbaarheid te herstellen en efficiëntere retrieval-augmented generation (RAG) mogelijk te maken.
Dit paper introduceert GraphSkill, een agentisch raamwerk dat hiërarchische documentretrieval en zelf-debugging combineert om de kwaliteit en efficiëntie van codegeneratie voor complexe grafenredenering te verbeteren, ondersteund door een nieuw evaluatiedataset.
Het artikel introduceert SR-TTT, een verbeterde Test-Time Training-architectuur die het probleem van vergeten cruciale informatie oplost door een verlies-gedreven, sparsere geheugenmechanisme toe te passen dat alleen onverwachte tokens naar een traditionele cache routeert, waardoor de O(1)-geheugenvoordeel behouden blijft terwijl de nauwkeurigheid bij exacte herinneringstaken wordt hersteld.