1847 papers
Dit paper introduceert Dripper, een lichtgewicht framework dat hoofdinhoud van webpagina's efficiënt en nauwkeurig extraheert door middel van geconstrueerde sequentiemarkering met kleine taalmodellen, waardoor het de prestaties van zware generatieve modellen benadert met een veel lagere rekenkost.
Deze studie onderzoekt welke bronwoorden vertaalmodellen triggeren bij het kiezen van een geslachtsinflectie in het Duits of Spaans, en toont aan dat de door contrastieve uitleg geïdentificeerde saliente woorden overeenkomen met menselijke percepties, wat essentieel is voor het mitigeren van genderbias.
Dit paper introduceert NRR-Core, een computationeel raamwerk dat ambiguïteit behoudt in plaats van deze voortijdig op te lossen, door principes zoals niet-identiteit en niet-resolutie te implementeren om contextuele identiteit en interpretatieve flexibiliteit te waarborgen.
Deze studie analyseert systematisch de politieke, ideologische, geopolitieke, taalkundige en gendergerelateerde vooroordelen in vier wijdverspreide grote taalmodellen en concludeert dat, ondanks hun uitlijning op neutraliteit, deze modellen toch verschillende vormen van bias vertonen.
Dit artikel toont aan dat versterkt leren met verifieerbare beloningen (RLVR) de generalisatie van causale redenering bij grote taalmodellen verbetert ten opzichte van toezichtsfine-tuning, maar dat dit succes afhankelijk is van een voldoende initiële redeneercompetentie van het model.
Dit paper introduceert DevRev-Search, een benchmark en een schaalbaar framework voor multi-tenant zoeksystemen dat gebruikmaakt van een volledig geautomatiseerd datasetbouwpipeline en een indexbehoudende aanpassingsstrategie om alleen de query-encoder te finetunen, waardoor effectieve domeinadaptatie mogelijk wordt zonder kostbare herschrijving van documentindices.
Dit artikel introduceert een post-training pipeline waarbij kennisgrafieken fungeren als impliciete beloningsmodellen om taalmodellen te trainen in compositief redeneren, wat resulteert in superieure prestaties op complexe meerstapsvragen in de medische domein vergeleken met grotere frontier-modellen.
Dit paper introduceert NRR-Phi, een formeel raamwerk dat natuurlijke taal omzet in een niet-collabserende toestandsruimte om de vroegtijdige semantische vastlegging in grote taalmodellen te voorkomen en zo meerdere interpretaties van ambiguïteit gelijktijdig te behouden.
Dit artikel introduceert een nieuwe trainingspipeline die Chain-of-Thought-supervisie combineert met versterkingslering om taalsmodellen beter te leren om bij tijdsgebonden vragen af te zien van het geven van een antwoord als ze onzeker zijn, waardoor ze betrouwbaarder en nauwkeuriger worden dan bestaande modellen zoals GPT-4o.
Dit paper introduceert REAL, een nieuw framework dat verifieerbare beloningen herkijkt als classificatielabels in plaats van scalair gewichten om de inefficiënties van bestaande RLVR-methoden zoals GRPO te verhelpen en zo de prestaties en stabiliteit van taalmodellen op wiskundige redeneertaken aanzienlijk te verbeteren.
Het paper introduceert SureLock, een methode die de rekenkosten van Masked Diffusion-LM-decodering aanzienlijk verlaagt door tokens die al zijn geconvergeerd te vergrendelen en hun bijdrage aan de berekening over te slaan, terwijl hun context voor andere tokens behouden blijft.
Deze studie onthult dat Large Reasoning Models niet consistent beter presteren dan niet-redenerende modellen in Theory of Mind-taken, omdat hun 'slow thinking'-aanpak vaak faalt door lengte-afhankelijke afname van nauwkeurigheid en een overmatige afhankelijkheid van antwoordopties in plaats van echte deductie.
Dit onderzoek introduceert het eerste NLP-dataset voor het Mainz-dialect Meenzerisch en toont aan dat huidige grote taalmodellen, zelfs met few-shot learning en regelgebaseerde aanpakken, nog niet in staat zijn om betrouwbare vertalingen of generaties in dit dialect uit te voeren, wat urgente extra onderzoeksinspanningen vereist.
Dit paper introduceert een nieuw Tsjechisch dataset voor aspectgebaseerde sentimentanalyse met annotaties van meningsuitingen, presenteert een LLM-gebaseerde vertaal- en labelalignatiemethode om cross-linguale uitdagingen aan te pakken, en evalueert de prestaties van moderne modellen in diverse taalsettingen.
Deze studie toont aan dat voor de inzet van kleine open-source taalmodellen in zorgomgevingen met beperkte middelen niet alleen nauwkeurigheid, maar ook promptconsistentie en instructie-opvolging cruciaal zijn, waarbij Llama 3.2 de beste balans biedt en hoge consistentie niet garandeert dat het antwoord juist is.
Dit onderzoek analyseert de robuustheid van bestaande zero-shot relation extraction-modellen onder realistische aannames, introduceert een typologie en strategieën voor single-pass-modellen met afwijzingsmechanismen, en concludeert dat hoewel geen enkel bestaand werk volledig robuust is, AlignRE de beste prestaties levert.
Deze studie toont aan dat LLM-gebaseerde taakbots gevoelig zijn voor privacyrisico's door het onbedoeld onthouden van trainingsdata, en presenteert een nieuwe aanvalsmethode die duizenden dialooglabels succesvol kan extraheren, waardoor de noodzaak van gerichte mitigatiestrategieën wordt onderstreept.
Dit paper introduceert een kwalitatief georiënteerd annotatiekader voor narratieve grafieken over inflatie, waarbij een experimenteel ontwerp aantoont dat lokale representaties de variatie tussen annotatoren verminderen en dat overlap-gebaseerde metrieken de betrouwbaarheid overschatten.
Dit hoofdstuk biedt een overzicht van verantwoord gebruik van detectoren voor door AI gegenereerde essays en presenteert empirische analyses over de generaliseerbaarheid van deze detectoren tussen verschillende grote taalmodellen.
Dit artikel analyseert de beperkingen van TeX in het tijdperk van grote taalmodellen en introduceert Mogan STEM als een efficiënter WYSIWYG-alternatief dat snellere compilatie, betere foutlokalisatie en een lagere informati-entropie biedt voor het fine-tunen van LLM's.