Scaling Laws for Masked-Reconstruction Transformers on Single-Cell Transcriptomics
यह अध्ययन व्यवस्थित प्रमाण स्थापित करता है कि सिंगल-सेल आरएनए सीक्वेंसिंग डेटा पर प्रशिक्षित मास्कड-रिकंस्ट्रक्शन ट्रांसफॉर्मर, नेचुरल लैंग्वेज प्रोसेसिंग के समान न्यूरल स्केलिंग लॉ का पालन करते हैं, लेकिन केवल तभी जब डेटा की कमी की सीमाओं को पार करने के लिए पर्याप्त डेटा उपलब्ध हो।