Influence-driven Curriculum Learning for Pre-training on Limited Data
Diese Arbeit zeigt, dass der Ersatz herkömmlicher, menschenzentrierter Schwierigkeitsmetriken durch modellzentrierte Scores des Einflusses der Trainingsdaten das Curriculum Learning dazu befähigt, das vortrainieren in zufälliger Reihenfolge bei begrenzten Daten signifikant zu übertreffen, wobei eine Verbesserung von über 10 Prozentpunkten in den Benchmarks erreicht wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.