Influence-driven Curriculum Learning for Pre-training on Limited Data
Dit artikel toont aan dat het vervangen van conventionele mensgerichte moeilijkheidsmetrieken door modelcentrische scores gebaseerd op de invloed van trainingsdata ervoor zorgt dat curriculumleren aanzienlijk beter presteert dan pre-training in willekeurige volgorde bij beperkte hoeveelheden data, waarbij een verbetering van meer dan 10 procentpunten op benchmarks wordt behaald.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.