Benchmarking Few-shot Transferability of Pre-trained Models with Improved Evaluation Protocols
Questo lavoro introduce FEWTRANS, un benchmark completo con un protocollo di valutazione rigoroso per il trasferimento few-shot, rivelando che la scelta del modello pre-addestrato è il fattore dominante e che il semplice fine-tuning completo spesso supera metodi più complessi grazie a micro-aggiustamenti distribuiti, mentre i modelli multimodali subiscono un crollo delle prestazioni in domini specializzati a causa della rarità linguistica.