🤖 machine learning

FLoRIST: Singular Value Thresholding for Efficient and Accurate Federated Fine-Tuning of Large Language Models

يُعد FLoRIST إطار عمل للضبط الدقيق الاتحادي للنماذج اللغوية الكبيرة، والذي يحقق تجميعًا دقيقًا رياضيًا وأداءً أمثل عبر عملاء متباينين من خلال توظيف تحليل القيم المفردة على المحولات المحلية المتراكمة مع عتبة قابلة للضبط، مما يلغي الحاجة إلى إعادة بناء المصفوفة العالمية عالية التكلفة مع الحفاظ على كفاءة اتصال فائقة.

المؤلفون الأصليون: Hariharan Ramesh, Jyotikrishna Dass

نُشر 2026-05-26

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Hariharan Ramesh, Jyotikrishna Dass

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مكتبة ضخمة وذكية للغاية (نموذج لغوي كبير أو LLM) تعرف كل شيء عن العالم. ومع ذلك، تريد تعليمها مهارة جديدة محددة، مثل كتابة الشعر أو حل المسائل الرياضية.

عادةً، لتعليم هذه المكتبة، سيتعين عليك إعادة كتابة موسوعتها بالكامل. وهذا يستغرق وقتاً طويلاً، ويكلف ثروة، ويتطلب حاسوباً فائق القدرة.

المشكلة: لغز "الاتحاد" (Federated)
الآن، تخيل أنك لا تملك مكتبة واحدة كبيرة، بل لديك 100 فرع صغير منتشر في مدن مختلفة (هؤلاء هم العملاء). كل فرع لديه مجموعته الفريدة من الملاحظات (البيانات المحلية) التي لا يمكنه مشاركتها مع الفروع الأخرى بسبب قواعد الخصوصية. تريد أن تتعلم جميع هذه الفروع المهارة الجديدة معاً دون إرسال ملاحظاتها الخاصة أبداً إلى المقر الرئيسي.

للقيام بذلك بكفاءة، يستخدم الباحثون حيلة تسمى LoRA (التكيف منخفض الرتبة). فبدلاً من إعادة كتابة المكتبة بأكملها، يقوم كل فرع فقط بكتابة "ملاحظة لاصقة" صغيرة وخفيفة الوزن (محول/adapter) تحتوي على القواعد الجديدة.

الطرق القديمة (ولماذا فشلت)
يوضح البحث أن الطرق السابقة لدمج هذه الملاحظات اللاصقة كانت تعاني من ثلاث مشكلات رئيسية:

طريقة "المتوسط الأعمى": كان المقر الرئيسي يأخذ متوسط جميع الملاحظات اللاصقة فحسب. ولكن لأن الملاحظات كُتبت على أحجام مختلفة من الورق (رتب مختلفة)، فقد أدى ذلك إلى إنشاء صورة مشوشة وغير واضحة لا تعمل بشكل جيد.
طريقة "التكديس": لتجنب التشويش، قامت بعض الطرق بمجرد تكديس جميع الملاحظات اللاصقة فوق بعضها البعض وإرسال التكديس بالكامل إلى الفروع. كانت هذه الطريقة دقيقة، لكن التكديس كان ثقيلاً جداً بحيث لم تستطع الفروع تحميله بسرعة (ضعف كفاءة الاتصال).
طريقة "الرياضيات الثقيلة": حاولت طرق أخرى إعادة بناء الملاحظة العالمية المثالية رياضياً من خلال إجراء حسابات ضخمة ومكلفة على الحاسوب الفائق في المقر الرئيسي. كان هذا بطيئاً جداً وتطلب ذاكرة كبيرة.

الحل: FLoRIST (المصفاة الذكية)
يقترح المؤلفون طريقة جديدة تسمى FLoRIST. فكر في FLoRIST كـ مصفاة ذكية أو سماعة عازلة للضوضاء لعملية التعلم.

إليك كيف تعمل FLoRIST، خطوة بخطوة:

الجمع: يكتب كل فرع ملاحظته اللاصقة الصغيرة (محول LoRA) ويرسلها إلى المقر الرئيسي.
"التكديس" (بدون الوزن الزائد): بدلاً من مجرد حساب المتوسط أو تكديسهم، يقوم المقر الرئيسي بتكديسهم معاً بطريقة خاصة تحافظ على دقة الرياضيات ولكن تتجنب إنشاء ملف ضخم يصعب التعامل معه.
"SVD" (الأشعة السينية): يقوم المقر الرئيسي بإجراء "أشعة سينية" رياضية (تسمى تفكيك القيم المفردة - Singular Value Decomposition) على هذا التكديس. تكشف هذه الأشعة السينية عن الهيكل الحقيقي للمعرفة الجديدة. وهي توضح أنه بينما أرسلت الفروع الكثير من البيانات، فإن الكثير منها هو في الواقع فائض أو مجرد "ضجيج" (مثل التشويش في الراديو).
"الترشيح" (المصفاة): هذه هي الخطوة السحرية. تستخدم FLoRIST عتبة (إعداد للمصفاة). تنظر إلى الأشعة السينية وتقول: "احتفظ بالإشارات العالية والواضحة (الأجزاء الأكثر أهمية من المهارة الجديدة) وتخلص من التشويش الهادئ والضبابي".
- تشبيه: تخيل 100 شخص يحاولون غناء أغنية معاً. البعض يغني خارج النغمة، والبعض الآخر يهمس. تقوم FLoRIST بالاستماع إلى المجموعة بأكملها، وتحدد اللحن الأساسي الذي يتفق عليه الجميع، وتصفي الهمسات الخارجة عن النغمة. ثم ترسل خلفها اللحن المثالي والنقي فقط.
النتيجة: يرسل المقر الرئيسي ملاحظة لاصقة عالمية واحدة، صغيرة ومثالية إلى جميع الفروع. ولأنها قامت بتصفية الفائض، فإن هذه الملاحظة أصغر بكثير من مجموع الأجزاء، مما يجعل تحميلها سريعاً للغاية.

لماذا يعد هذا أمراً هاماً؟
يدعي البحث أن FLoRIST هي الحل "المثالي" (Goldilocks):

إنها دقيقة: من خلال الاحتفاظ بـ "الإشارات العالية" وتصفية الضجيج، يتعلم النموذج النهائي بشكل أفضل من طرق المتوسط المشوشة.
إنها سريعة: لأنها تقوم بتصفية الفائض، فإن الملف المرسل إلى الفروع يكون صغيراً جداً. يظهر البحث أنها يمكن أن تكون أسرع بمئات المرات في التحميل من الطرق السابقة.
إنها مرنة: تعمل حتى لو كانت الفروع تمتلك قدرات حوسبة مختلفة (بعضها يمكنه كتابة ملاحظات طويلة، والبعض الآخر قصيرة). تتعامل FLoRIST مع هذا المزيج بسلاسة.

الخلاصة
FLoRIST هي طريقة جديدة لتعليم نماذج الذكاء الاصطناعي عبر العديد من أجهزة الكمبيوتر المختلفة دون مشاركة البيانات الخاصة. إنها تستخدم "مصفاة" رياضية لتجريد المعرفة من الضجيج والفائض غير الضروري، تاركةً فقط الجزء الأهم من التعلم. وهذا يجعل العملية أسرع بكثير، وأقل تكلفة، وأكثر دقة من الطرق القديمة.

ملخص تقني: FLoRIST

بيان المشكلة

يوفر دمج التكيف منخفض الرتبة (LoRA) في التعلم الاتحادي (Federated Learning - FL) مساراً للضبط الدقيق الفعال للمعلمات للنماذج اللغوية الكبيرة (LLMs) دون مشاركة البيانات المحلية. ومع ذلك، تواجه طرق LoRA الاتحادية الحالية مقايضات كبيرة بين كفاءة الاتصال، ودقة النموذج، والتكلفة الحسابية، لا سيما في البيئات غير المتجانسة حيث يمتلك العملاء قدرات حسابية متفاوتة.

تعاني النهج الحالية من قيود محددة:

FedIT: يعتمد على المتوسط البسيط للمهايئات المحلية، مما يؤدي إلى إدخال "ضجيج الحدود المتقاطعة" ( $B_i A_j$ ) غير الدقيق رياضياً أثناء التجميع، مما يقلل من التقارب والأداء. كما يعاني من صعوبة في التعامل مع الرتب غير المتجانسة، وغالباً ما يتطلب حشواً صفرياً (zero-padding) مما يضخم تكاليف الاتصال.
FLoRA: يستخدم استراتيجية التكديس لضمان الصحة الرياضية ودعم عدم التجانس، ولكنه يتطلب إرسال المهايئات المكدسة محلياً إلى جميع العملاء. ينتج عن ذلك كفاءة ضعيفة في اتصالات التنزيل مع نمو الرتبة العالمية خطياً مع مجموع الرتب المحلية.
FlexLoRA: يحاول تخصيص المهايئات العالمية لرتب العملاء عن طريق إعادة بناء مصفوفة تحديث الوزن العالمية الكاملة ( $\Delta W$ ) وإجراء تحليل القيم المفردة (SVD). وهذا يتسبب في عبء حسابي وذاكرة باهظ الثمن على الخادم بسبب تفكيك المصفوفة الكثيفة $m \times n$ .
FFA-LoRA: يقوم بتجميد أحد المهايئات لتقليل الضجيج، ولكنه يفتقر إلى الدعم الأصلي للرتب غير المتجانسة وقد يقلل من القدرة التعبيرية للنموذج.

يبقى هناك سؤال جوهري مفتوح: ما هو البعد الجوهري للمهايئات المحلية المجمعة من LoRAs غير المتجانسة؟ هل من الضروري الحفاظ على كل مكون، أم يمكن التخلص من الحواجز الخفية لإنشاء LoRA عالمي موحد وفعال؟

المنهجية: FLoRIST

يقترح المؤلفون FLoRIST (التكامل منخفض الرتبة الاتحادي مع عتبة القيم المفردة)، وهو إطار عمل مصمم لتحقيق تجميع دقيق رياضياً دون عبء عالٍ في الاتصال أو الحوسبة.

سير العمل الأساسي

التكديس الموزون: يقوم العملاء برفع مهايئات LoRA المحلية الخاصة بهم ( $A_k, B_k$ ) مع رتب محددة ( $r_k$ ) وعوامل وزن ( $n_k/N$ ) إلى الخادم. بدلاً من حساب التحديث العالمي الكامل $\Delta W$ ، يقوم الخادم بتكديس هذه المصفوفات:
- $B_{stack} = B_1 \oplus \dots \oplus B_K \in \mathbb{R}^{m \times r}$
- $A_{stack} = \frac{n_1}{N}A_1 \oplus \dots \oplus \frac{n_K}{N}A_K \in \mathbb{R}^{r \times n}$
- حيث $r = \sum r_k$ و $\oplus$ ترمز إلى التكديس الأفقي/الرأسي.
SVD فعال في الفضاء الوسيط: بدلاً من بناء $\Delta W$ الكثيفة (كما في FlexLoRA)، يقوم FLoRIST بإجراء عمليات SVD مستقلة على المصفوفات المكدسة:
- $B_{stack} = U_B S_B V_B^T$
- $A_{stack} = U_A S_A V_A^T$
- يتم حساب مصفوفة وسيطة $P = S_B Q S_A$ ، حيث $Q = V_B^T U_A$ . هذا يلتقط التفاعلات بين المهايئات في فضاء مدمج $r \times r$ (حيث $r \ll \min(m, n)$ ).
عتبة القيم المفردة (SVT): يتم تفكيك المصفوفة الوسيطة $P$ ( $P = U_P S_P V_P^T$ ). تحتوي المصفوفة القطرية $S_P$ على القيم المفردة للتحديث المجمع الحقيقي. يطبق FLoRIST عتبة قائمة على الطاقة $\tau \in (0, 1]$ للاحتفاظ بأعلى- $p$ من القيم المفردة التي تحافظ على كسر محدد من التباين (الطاقة).
- يتم إعادة بناء المهايئات العالمية كـ $B_g = (U_B U_P)_{:,:p} (S_P)_{:p,:p}$ و $A_g = (V_P^T V_A)_{:p,:}$ .
البث: يقوم الخادم ببث المهايئات العالمية المدمجة ( $B_g, A_g$ ) برتبة $p$ إلى جميع العملاء. يقوم العملاء بتحديث نماذجهم المحلية باستخدام هذه المهايئات المشتركة، مع تعديل رتبهم المحلية عبر الحشو الصفري أو الاقتطاع إذا لزم الأمر.

المساهمات الرئيسية

إطار عمل مبتكر: يعد FLoRIST أول إطار عمل للضبط الدقيق الاتحادي يقوم بالتجميع مباشرة في الفضاء الكامن منخفض الرتبة باستخدام التكديس الموزون، متجنباً بناء مصفوفة تحديث الوزن العالمية الكاملة.
SVD فعال حسابياً: من خلال العمل على المهايئات المكدسة ومصفوفة وسيطة $r \times r$ ، يتجنب FLoRIST تعقيد $O(LKmn)$ الباهظ للـ SVD في FlexLoRA، مما يقلل تكلفة الخادم الحسابية بشكل كبير.
اختيار الرتبة الأمثل: يسمح إدخال عتبة القيم المفردة القابلة للضبط باختيار رتبة عالمية موحدة $p$ توازن بين الأداء وكفاءة اتصالات التنزيل. هذا يلغي الحاجة إلى نقل المكونات الزائدة أو مطابقة رتب العملاء المحددة عبر إعادة التوزيع المعقدة.
أدلة تجريبية على البعد الجوهري المنخفض: يكشف التحليل على مستوى الطبقات أن الرتبة الفعالة المطللة لإعادة بناء التحديث العالمي غالباً ما تكون أقل بكثير (مثلاً 6–10) من أقصى رتبة للعميل (مثلاً 64) أو مجموع الرتب المحلية، مما يبرر الاختزال القوي للرتبة.
تقييم شامل: تقدم الورقة مقارنة صارمة مع أحدث الطرق (FedIT, FFA-LoRA, FLoRA, FlexLoRA) عبر الإعدادات المتجانسة وغير المتجانسة، مما يظهر كفاءة اتصال فائقة ودقة تنافسية أو أفضل.

النتائج التجريبية

أُجريت التجارب على TinyLlama و LLaMA-3.2-1B باستخدام مجموعات بيانات Dolly و Alpaca و Wizard مع 100 عميل تحت تقسيمات غير متماثلة التوزيع (non-IID).

كفاءة الاتصال: يحقق FLoRIST أعلى كفاءة في اتصالات التنزيل. في الإعدادات المتجانسة، هو أكثر كفاءة بمقدار 345–400 ضعف من الضبط الدقيق الكامل (Full Fine-Tuning) ويتفوق بشكل كبير على النماذج المرجعية (على سبيل المثال، أكثر كفاءة بنحو ~60 ضعفاً من FLoRA). في الإعدادات غير المتجانسة، يحافظ على كفاءة عالية حتى مع وجود تفاوت في الرتب يصل إلى 16 ضعفاً بين العملاء.
الدقة: يحقق FLoRIST باستمرار دقة متفوقة أو مماثلة للنماذج المرجعية. على سبيل المثال، في TinyLlama مع مجموعة بيانات Wizard، وصلت دقة MMLU لـ FLoRIST ( $\tau^*$ ) إلى 40.95%، متفوقة على FedIT و FLoRA و FlexLoRA.
التقارب: يظهر FLoRIST تقارباً أسرع من FedIT و FLoRA. بينما يتقارب FFA-LoRA ببطء بسبب تجميد المعلمات، يوازن FLoRIST بفعالية بين القدرة التعبيرية والكفاءة.
تكلفة الخادم: يقلل FLoRIST من عمليات الـ FLOPs في جانب الخادم بنسبة تقارب 7.5× مقارنة بـ FlexLoRA (466.95M مقابل 3516.01M FLOPs) عن طريق تجنب تفكيك المصفوفة الكثيفة.
تأثير العتبة: تعمل العتبة الثابتة $\tau=0.9$ كخيار عملي قوي، حيث تحقق دقة ضمن ±1% من العتبة المثالية المضبوطة مع تعظيم توفير الاتصالات.

الأهمية والادعاءات

تدعي الورقة أن FLoRIST يعالج القيود الأساسية لطرق LoRA الاتحادية الحالية من خلال تحديد واستغلال البعد الجوهري المنخفض للمهايئات المحلية المجمعة. من خلال العمل في فضاء وسيط مدمج وتطبيق عتبة القيم المفردة، يحقق FLoRIST "أفضل توازن" من:

الدقة الرياضية: القضاء على ضجيج الحدود المتقاطعة المتأصل في المتوسط البسيط.
كفاءة الاتصال: تقليل تكاليف التنزيل بشكل جذري عبر نقل مهايئ عالمي موحد ومنخفض الرتبة بدلاً من التحديثات المكدسة أو كاملة الرتبة.
الجدوى الحسابية: جعل تجميع الخادم قابلاً للتوسع للنماذج الكبيرة عن طريق تجنب تفكيك المصفوفات الكثيفة.

يضع المؤلفون FLoRIST كحل قابل للتوسع وقوي للضبط الدقيق الاتحادي غير المتجانس، مما يوفر مساراً عملياً لنشر LLMs في بيئات موزعة حساسة للخصوصية ومحدودة الموارد دون التضحية بأداء النموذج. ويشيرون إلى أنه بينما تعتبر العتبة الثابتة فعالة، فإن العمل المستقبلي يمكن أن يستكشف استراتيجيات اختيار العتبة الآلية.