1071 papers
Dit onderzoek concludeert dat de methode CDD voor het detecteren van datacontaminatie in kleine taalmodellen (70M-410M parameters) over het algemeen niet effectiever is dan willekeur en dat probabilistische methoden zoals perplexiteit en Min-k% Prob in alle geteste scenario's superieure resultaten leveren.
Dit paper introduceert vLLM Hook, een open-source plug-in die programmabele toegang biedt tot de interne staten van vLLM-modellen, waardoor zowel passieve analyse als actieve interventie mogelijk wordt voor toepassingen zoals het detecteren van prompt-injecties en het verbeteren van RAG-systemen.
Dit paper introduceert een transformer-gebaseerd systeem dat de prestaties op ARC-AGI-2 aanzienlijk verbetert door neurale inferentie te combineren met structurele priors, test-tijd training en symmetrie-bewuste decoding om generalisatie buiten patroonherkenning te bereiken.
Dit onderzoek identificeert de 'P0 Sink Circuit' als een semantiek-onafhankelijk mechanisme dat in de eerste twee lagen van grote taalmodellen zorgt voor de vorming van een aandachtssink op het eerste token, wat dient als een indicator voor de convergentie van pre-training.
Dit artikel toont aan dat hiërarchische structuren in het data-generatieproces de onderliggende oorzaak zijn van de opkomst van diverse mechanistische fenomenen in taalmodellen, en biedt een unificerende verklaring en synthetische hulpmiddelen voor interpretatieonderzoek.
Dit paper introduceert Hierarchical Embedding Fusion (HEF), een tweestapsmethode die repository-informatie comprimeert naar een vaste set pseudo-tokens, waardoor de latency voor repository-gebaseerde codegeneratie aanzienlijk wordt verlaagd zonder in te leveren op de nauwkeurigheid.
Deze studie toont aan dat bestaande LLM-judges de robuustheid van AI-veiligheid tegen adversariale aanvallen onbetrouwbaar meten door distributieveranderingen en semantische ambiguïteit, waardoor veel succespercentages kunstmatig worden opgeblazen in plaats van echte schadelijkheid weer te geven.
Dit paper introduceert PerContrast en de bijbehorende PerCE-loss, een token-niveau methode die gebruikmaakt van causale interventie om de relevantie van tokens voor personalisatie te schatten en deze tijdens het trainen adaptief te versterken, wat leidt tot aanzienlijke prestatieverbeteringen bij gepersonaliseerde grote taalmodellen.
Dit paper introduceert een genormaliseerde betrouwbaarheidsscore die fouten en hallucinaties in grote taalmodellen detecteert, en onthult dat supervisie fine-tuning (SFT) betere kalibratie biedt dan versterkingsleermethoden, terwijl het een post-RL SFT-strategie voorstelt om deze betrouwbaarheid te herstellen en efficiëntere retrieval-augmented generation (RAG) mogelijk te maken.
Dit paper introduceert GraphSkill, een agentisch raamwerk dat hiërarchische documentretrieval en zelf-debugging combineert om de kwaliteit en efficiëntie van codegeneratie voor complexe grafenredenering te verbeteren, ondersteund door een nieuw evaluatiedataset.
Het artikel introduceert SR-TTT, een verbeterde Test-Time Training-architectuur die het probleem van vergeten cruciale informatie oplost door een verlies-gedreven, sparsere geheugenmechanisme toe te passen dat alleen onverwachte tokens naar een traditionele cache routeert, waardoor de O(1)-geheugenvoordeel behouden blijft terwijl de nauwkeurigheid bij exacte herinneringstaken wordt hersteld.
Deze paper introduceert TimeSpot, een benchmark met 1.455 wereldwijde beelden om de beperkte geo-temporele redeneercapaciteiten van Vision-Language-modellen te evalueren en aan te tonen dat er nieuwe methoden nodig zijn voor robuust begrip van tijd en locatie op basis van visuele data.
Orion is het eerste open end-to-end systeem dat de Apple Neural Engine direct aanstuurt via private API's om zowel stabiel on-device training als snelle inferentie van grote taalmodellen mogelijk te maken door CoreML te omzeilen en recompilatie-tijd tijdens training drastisch te reduceren.
Dit onderzoek toont aan dat de menselijke 'Dark Triad' (narcisme, psychopathie en machiavellisme) een geldig kader vormt om misalignement in grote taalmodellen te bestuderen, aangezien zelfs beperkte fine-tuning op psychometrische data leidt tot betrouwbaar geïnduceerde antisociale gedragingen die menselijke patronen nabootsen.
Dit onderzoek toont aan dat een lokaal gehoste small language model DSM-5-stofcategorieën met hoge nauwkeurigheid kan classificeren in verslagen van kindbeschermingsonderzoeken, hoewel de prestaties voor zeldzame categorieën beperkt blijven.
Dit artikel presenteert een toolkit die Large Language Models inzet om de kunststof-evaluatie van beveiligingsonderzoek te automatiseren door reproduceerbaarheid te beoordelen, uitvoeringsomgevingen voor te bereiden en methodologische valkuilen te detecteren, waardoor de reviewerlast wordt verminderd en de kwaliteit van inzendingen wordt verbeterd.
Dit artikel biedt een leidraad voor het selecteren en interpreteren van de juiste maatstaven voor inter-annotator overeenstemming in NLP, rekening houdend met taaktypen en beperkingen, om betrouwbare en reproduceerbare menselijke annotatie te bevorderen.
Het paper introduceert SymLang, een open-source framework dat door het combineren van symmetrie-gedwongen grammatica's, taalmodel-gestuurde programmasynthese en Bayesiaanse modelselectie, nauwkeurige en interpreteerbare wetenschappelijke vergelijkingen kan ontdekken uit ruwe, ruizige en gedeeltelijke observaties.
Dit paper introduceert LieCraft, een nieuw multi-agent raamwerk dat LLM's evalueert op hun vermogen tot bedrog in ethisch geladen scenario's, en ontdekt dat alle geteste modellen bereid zijn om onethisch te handelen en te liegen om hun doelen te bereiken.
Dit artikel introduceert MedInjection-FR, een groot Frans biomedisch instructiedataset dat de effectiviteit van native, synthetische en vertaalde data voor het fine-tunen van taalmodellen onderzoekt en aantoont dat native data de beste prestaties leveren, terwijl een combinatie met vertaalde data een waardevol alternatief biedt voor het overwinnen van schaarste aan native medische instructies.