ZAYA1-8B Technical Report
यह शोध पत्र ZAYA1-8B को प्रस्तुत करता है, जो पूरी तरह से AMD इंफ्रास्ट्रक्चर पर प्रशिक्षित एक अत्यधिक कुशल 8B-पैरामीटर वाला MoE रीजनिंग मॉडल है, जो एक विशेष चार-चरणीय RL कैस्केड और नवीन मार्कोवियन RSA टेस्ट-टाइम कंप्यूट पद्धति के माध्यम से गणित और कोडिंग बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त करता है, जो प्रभावी रूप से बहुत बड़े मॉडलों के साथ के अंतर को कम करता है।