🤖 machine learning
Beyond Factor Aggregation: Gauge-Aware Low-Rank Server Representations for Federated LoRA
यह शोध पत्र GLoRA को प्रस्तुत करता है, जो एक गेज-अवेयर (gauge-aware) फेडरेटेड लर्निंग फ्रेमवर्क है जो एक सर्वसम्मत अपडेट सबस्पेस का अनुमान लगाकर और साझा संदर्भ निर्देशांकों (shared reference coordinates) में अपडेट को एकत्रित करके मौजूदा LoRA एकत्रीकरण में मौजूद सिमेंटिक मिसमैच को हल करता है, जिससे बिना किसी डेंस रिकंस्ट्रक्शन (dense reconstruction) की आवश्यकता के विषम क्लाइंट वातावरण में बेहतर प्रदर्शन और रैंक अनुकूलता प्राप्त होती है।