💬 NLP

Cross-Family Speculative Decoding for Polish Language Models on Apple~Silicon: An Empirical Evaluation of Bielik~11B with UAG-Extended MLX-LM

تقدم هذه الورقة تقييماً تجريبياً لفك التشفير التخميني عبر العائلات المختلفة لنماذج اللغة البولندية على معالجات "Apple Silicon"، حيث تُظهر أنه في حين أن ترجمة الرموز المدركة للسياق تحسن معدلات القبول، فإن قيود عرض نطاق الذاكرة الموحدة وعدم توافق أجهزة الترميز تحد من مكاسب الإنتاجية، لا سيما عندما تضعف أداء نماذج المسودة المتخصصة مقارنة بالبدائل العامة.

المؤلفون الأصليون: Krzysztof Fonal

نُشر 2026-04-21

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Krzysztof Fonal

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الفكرة الكبرى: "مساعد المسودة" مقابل "المحرر الصارم"

تخيل أنك تكتب قصة طويلة ومعقدة باللغة البولندية. لديك محرر صارم (نموذج الذكاء الاصطناعي الكبير، Bielik 11B) وهو ذكي للغاية، يعرف القواعد تماماً، ويكتب لغة بولندية مثالية. لكن المحرر بطيء؛ ففي كل مرة يكتب فيها كلمة، يتعين عليه الذهاب إلى المكتبة، والبحث عن الكتاب، وقراءة الصفحة، ثم العودة. هذا يستغرق الكثير من الوقت.

الترميز الاستدلالي (Speculative Decoding) هو تقنية حيث تقوم بتوظيف مساعد مسودة (نموذج ذكاء اصطناعي أصغر وأسرع) ليخمن الكلمات القليلة التالية بدلاً منك.

يقوم المساعد بسرعة بكتابة كلمتين أو 4 كلمات.
ينظر المحرر إلى هذه الكلمات دفعة واحدة.
إذا وافق المحرر قائلاً: "رائع! استمر في هذا!"، ينتقل لما بعدها.
إذا لم يوافق المحرر قائلاً: "لا، هذا خطأ"، فإنه يشطبها ويكتب الكلمة الصحيحة بنفسه.

الهدف: إذا كان المساعد جيداً بما يكفي، فإن المحرر يقضي وقتاً أقل في المشي إلى المكتبة لأنه يتحقق من عدة كلمات في رحلة واحدة. وهذا من شأنه أن يجعل العملية برمتها أسرع بكثير.

المشكلة: التحدث بـ "لهجات مختلفة"

عادةً ما يعمل هذا بشكل رائع إذا كان المساعد والمحرر يتحدثان نفس اللغة تماماً ويستخدمان نفس القاموس. لكن في هذه الورقة البحثية، حاول الباحثون الجمع بين محرر متخصص في اللغة البولندية وثلاثة مساعدين مختلفين:

مساعد متخصص في البولندية (Bielik 1.5B).
مساعد عام صيني/إنجليزي (Qwen).
مساعد عام إنجليزي (Llama).

العقبة: تستخدم هذه المساعدات قواميس (Tokenizers) مختلفة.

قد يرى المحرر كلمة "warszawa" كرمز (token) واحد.
قد يرى المساعد الكلمة كـ "w" + "arszawa".

إذا خمن المساعد "w" وكان المحرر يتوقع "warszawa"، فسيصاب المحرر بالارتباك. الأمر يشبه أن يتحدث المساعد بلهجة تسمى فيها كلمة "apple" بـ "pomme"، بينما لا يفهم المحرر سوى كلمة "apple". إذا لم يترجموا الكلمات بشكل صحيح، سيرفض المحرر التخمين، وتضيع فائدة السرعة.

الحل: "مترجم السياق"

بنى الباحثون مترجماً خاصاً (يسمى Universal Assisted Generation أو UAG) لإصلاح هذه المشكلة.

الترجمة الساذجة: مجرد ترجمة الكلمة مباشرة. فشلت هذه الطريقة غالباً لأن المساعد لم يكن يعرف السياق. (على سبيل المثال: هل "w" تعني حرف "و" أم هي بداية كلمة "wine"؟).
الترجمة المدركة للسياق: ينظر المترجم إلى الكلمات القليلة الأخيرة التي قبلها المحرر بالفعل لفهم السياق قبل ترجمة تخمين المساعد. هذا يشبه قول: "أوه، أنت تتحدث عن مدينة، لذا فإن 'w' تعني 'في' وارسو".

النتيجة: كان هذا "مترجم السياق" بمثابة تغيير لقواعد اللعبة. فقد سمح لنماذج الذكاء الاصطناعي المختلفة بالعمل معاً، مما أدى إلى تحسين كبير في عدد التخمينات التي يقبلها المحرر.

المفاجأة: "المتخصص البولندي" خسر

قد تعتقد أن المساعد المتخصص في البولندية (Bielik 1.5B) سيكون الأفضل في تخمين النصوص البولندية. لكن للمفاجأة، لم يكن كذلك.

المساعدون العامون (Qwen و Llama) خمنوا بشكل أفضل من المتخصص البولندي.
لماذا؟ استخدم المتخصص البولندي قاموساً مخصصاً ومعقداً للغاية مصمماً خصيصاً لقواعد اللغة البولندية. جعل هذا من الصعب ترجمة تخميناته إلى قاموس المحرر دون أخطاء. أما المساعدون العامون فقد استخدموا قواميس أبسط ومعيارية، مما جعل ترجمتها أسهل وأقل عرضة للأخطاء.

واقع الأجهزة: "الممر الضيق"

هذا هو الجزء الأهم في الورقة البحثية. اختبر الباحثون هذا على جهاز Apple Mac (M2 Pro).

على الحواسيب الفائقة (NVIDIA GPUs): "الممر" (مسار الذاكرة) واسع وسريع. يمكن للمحرر التحقق من 4 كلمات بنفس سرعة التحقق من كلمة واحدة تقريباً. لذا، فإن طلب التخمين لـ 4 كلمات من المساعد يعد مكسباً كبيراً.
على أجهزة Apple Mac: "الممر" ضيق وبطيء. يجب على المحرر الانتظار حتى تصل البيانات قبل أن يتمكن من فعل أي شيء.
- على الرغم من أن المساعد سريع، إلا أن المحرر لا يزال عالقاً في انتظار وصول البيانات من الذاكرة.
- النتيجة: طلب التخمين لـ 4 كلمات جعل العملية أبطأ في الواقع من كتابة كلمة واحدة في كل مرة. الوقت المستغرق في انتظار تحميل البيانات من الذاكرة فاق الفائدة من التحقق من عدة كلمات.
- النقطة المثالية: الحالة الوحيدة التي نجح فيها الأمر كانت عندما خمن المساعد كلمتين فقط. أي أكثر من ذلك كان يمثل عبئاً زائداً على الممر الضيق.

مكافأة الطاقة: "اللابتوب الصديق للبيئة"

نظرت الورقة أيضاً في استهلاك الطاقة.

مزارع الخوادم الضخمة (NVIDIA) تستهلك الكثير من الكهرباء لتوليد الكلمات.
جهاز Apple Mac يستخدم جزءاً ضئيلاً جداً من تلك الطاقة.
التشبيه: الأمر يشبه قيادة شاحنة ضخمة (الخادم) مقابل سيارة هجينة (Mac). الشاحنة أسرع، لكن السيارة الهجينة تستهلك وقوداً أقل بكثير لكل ميل. بالنسبة لشخص واحد يعمل من المنزل، فإن جهاز Mac أكثر كفاءة ويحافظ على خصوصية بياناتك (لا حاجة لإرسال مستنداتك إلى خادم سحابي).

ملخص النتائج الرئيسية

الترجمة هي المفتاح: لجعل نماذج الذكاء الاصطناعي المختلفة تعمل معاً، تحتاج إلى مترجم ذكي ينظر إلى السياق، وليس مجرد تبديل مباشر للكلمات.
لا تبالغ في التخمين: على أجهزة اللابتوب الاستهلاكية (مثل أجهزة Mac)، فإن طلب التخمين لعدد كبير من الكلمات في وقت واحد (أكثر من 2) يبطئك فعلياً بسبب قيود الذاكرة.
العام أفضل من المتخصص (أحياناً): في هذا الإعداد المحدد، كان نموذج الذكاء الاصطناعي العام "مساعداً" أفضل من النموذج البولندي المتخصص لأن لغته كانت أسهل في الترجمة.
الخصوصية والكفاءة: تشغيل هذه النماذج محلياً على جهاز Mac هو طريقة رائعة للحفاظ على خصوصية بياناتك وتوفير الطاقة، حتى لو لم تكن بنفس سرعة الحواسيب الفائقة.

باخت-صر: اكتشف الباحثون كيفية جعل نماذج الذكاء الاصطنا المختلفة تتحدث مع بعضها البعض على جهاز Mac. ووجدوا أنه بينما يعمل ذلك، عليك أن تكون حذراً من طلب الكثير من العمل من "المساعد" في وقت واحد، وإلا سيصاب "المحرر" بالإرهاق بسبب بطء تسليم البيانات!

إليك ملخص تقني مفصل للورقة البحثية بعنوان: "التوليد الاستدلالي عبر العائلات للنماذج اللغوية البولندية على معالجات Apple Silicon: تقييم تجريبي لنموذج Bielik 11B باستخدام UAG-Extended MLX-LM."

1. بيان المشكلة

تتناول الورقة ثلاث تحديات مترابطة في نشر النماذج اللغوية الكبيرة (LLMs) على الأجهزة المتاحة للمستهلكين:

عدم التوافق بين الرموز (Cross-Tokenizer Incompatibility): يتطلب التوليد الاستدلالي القياسي أن يتشارك النموذج المسودة (Draft Model) والنموذج المستهدف (Target Model) نفس الرمز (Tokenizer). ومع ذلك، تعتمد المنظومة اللغوية للغة البولندية على عائلة Bielik، وهي ليست متجانسة من حيث الرموز. فالنموذج المستهدف، Bielik 11B، يستخدم رمزاً مشتقاً من Mistral، بينما يستخدم نموذج المسودة الأصغر، Bielik 1.5B، رمزاً بولندياً مخصصاً (APT4) يعتمد على Qwen2.5. هذا الاختلاف يمنع عملية التوليد الاستدلالي القياسية.
القيود العتادية (Hardware Constraints): تستخدم معالجات Apple Silicon (مثل M2 Pro) بنية الذاكرة الموحدة (UMA) ذات عرض نطاق ترددي أقل بكثير (~~200 جيجابايت/ثانية) مقارنة ببطاقات NVIDIA GPU المنفصلة (~~2 تيرابايت/ثانية). تفترض التحسينات النظرية للتوليد الاستدلالي أن التحقق من $k$ من الرموز يكلف نفس تكلفة توليد رمز واحد (بسبب اختناقات عرض النطاق الترددي للذاكرة). ومن غير الواضح ما إذا كان هذا الافتراض ينطبق على بنية UMA، حيث تتنافس كل من نماذج المسودة والنموذج المستهدف على نفس الناقل (Bus)، مما قد يجعل عمليات المسودة المتتالية مكلفة للغاية.
نقص البيانات التجريبية: لا توجد دراسة منهجية للتقييم الخاص بالتوليد الاستدلالي للغات الغنية صرفياً (Morphologically Rich) والمصرفة مثل البولندية، ولا للنماذج من عائلات مختلفة على معالجات Apple Silicon.

2. المنهجية

قام المؤلفون بتوسيع إطار عمل الاستدلال MLX-LM (مكتبة Apple الأصلية للنماذج اللغوية الكبيرة) لدعم التوليد المساعد العالمي (UAG)، مما يتيح التوليد الاستدلالي عبر عائلات الرموز المختلفة.

النماذج:
- المستهدف: Bielik 11B-Instruct (بنية Mistral، مكمم بـ 8-بت).
- المسودات: ثلاثة نماذج من عائلات مختلفة (مكممة بـ 4-بت):
  1. Bielik 1.5B (أساس Qwen2.5، رمز APT4).
  2. Qwen2.5-1.5B (رمز Qwen).
  3. Llama 3.2-1B (رمز Llama).
استراتيجيات الترجمة:
- الترجمة الساذجة (Naive Translation): تقوم بفك تشفير رموز المسودة إلى نص ثم إعادة تشفيرها إلى مفردات النموذج المستهدف دون سياق.
- الترجمة المدركة للسياق (Context-Aware Translation): تنفيذ مبتكر لـ MLX-LM يقوم بإضافة نافذة من $p$ من الرموز المقبولة سابقاً (البادئة/Prefix) قبل إعادة التشفير. هذا يحل مشكلات الغموض عند الحدود الناتجة عن استراتيجيات الترميز المختلفة (مثل كيفية تقسيم الحروف البولندية الملحقة أو كلمات الوظائف مثل "w").
الإعداد التجريبي:
- العتاد: Apple M2 Pro (ذاكرة موحدة 32 جيجابايت، عرض نطاق 200 جيجابايت/ثانية).
- مجموعات البيانات: ويكيبيديا البولندية (هيكلية/واقعية)، pl_alpaca (اتباع التعليمات)، وأسئلة قصيرة اصطناعية.
- المتغيرات: أطوال المسودة $k \in \{2, 4, 6\}$ واستراتيجيات الترجمة.

3. المساهمات الرئيسية

تنفيذ UAG في MLX-LM: أول نقل لتقنية التوليد المساعد العالمي (UAG) إلى إطار عمل MLX الخاص بـ Apple، مع دعم استراتيجيات ترجمة الرموز الساذجة والمدركة للسياق.
التوصيف التجريبي للتوليد عبر العائلات: أول درسة منهجية تظهر أنه بالنسبة للغة البولندية، فإن النماذج العامة (Qwen, Llama) تتفوق على النموذج البولندي المتخصص (Bielik 1.5B) بسبب توافق الرموز الأفضل مع بنية مفردات النموذج المستهدف، رغم كونه من "نفس العائلة".
نموذج تكلفة مدرك للعتاد: استنتج المؤلفون صيغة تسريع بارامترية توضح أن تكلفة $k$ من عمليات مرور المسودة لا تتقلص كما يفترض في النظرية على Apple Silicon. لقد حددوا أن تكلفة المسودة خطية في $k$ بينما الفائدة تحت-خطية، مما يؤدي إلى "نقطة تعادل" ترتفع بشكل حاد مع زيادة $k$ .
تحليل نوع المحتوى: أثبتوا أن التوليد الاستدلالي يعتمد بشدة على نوع المحتوى، حيث يحقق تحسينات في النصوص الهيكلية/المتكررة (ويكيبيديا) ولكنه يفشل في مهام اتباع التعليمات المتغيرة.

4. النتائج الرئيسية

أ. معدلات قبول الرموز

الوعي بالسياق أمر ضروري: حققت الترجمة المدركة للسياق باستمرار أعلى معدلات قبول (30–45%). أما الترجمة الساذجة فقد كان أداؤها ضعيفاً (غالباً <15%)، ولم تكن "بدون ترجمة" صالحة إلا للنصوص الهيكلية حيث تتطابق معرفات الرموز بالصدفة.
"المفارقة البولندية": حقق نموذج المسودة المتخصص بالبولندية Bielik 1.5B أدنى معدلات قبول (حوالي 22–31%) مقارنة بـ Qwen (41–44%) و Llama (36–42%). ويُعزى ذلك إلى التقسيم الصرفي الشديد لرمز APT4، مما يخلق عدم تطابق مع رمز المستهدف القائم على Mistral، وهو ما تتعامل معه النماذج العامة بشكل أفضل عبر الترجمة المدركة للسياق.

ب. الإنتاجية والتسريع

الطول الأمثل للمسودة ( $k=2$ ): لم يكن من الممكن تحقيق التسريع إلا عند $k=2$ $k = 2$ .
- في ويكيبيديا (النصوص الهيكلية)، حقق Qwen و Llama تسريعاً قدره 1.06×.
- في بيانات اتباع التعليمات، كان التسريع هامشياً أو سالباً.
الفشل عند القيم الأعلى لـ $k$ : أدى رفع $k$ $k$ إلى 4 أو 6 إلى تدهور حاد في الأداء (0.40×–0.60× من الخط الأساسي).
- عتبة التعادل: لكي يتحقق التسريع عند $k=4$ ، كان يجب أن يتجاوز معدل القبول 77–90%، وهي عتبة لم يتم الوصول إليها في الممارسة العملية.
- السبب: في M2 Pro، يمثل عرض النطاق الترددي للذاكرة عنق الزجاجة. التحقق من $k$ من الرموز سريع، ولكن توليد $k$ من رموز المسودة يتطلب $k$ من عمليات المرور الأمامية المتتالية عبر نموذج المسودة، مما يستنزف الأوزان عبر الناقل المشترك. تكلفة هذه العمليات الـ $k$ تفوق فائدة المعالجة المجمعة (Batched verification).

ج. كفاءة الطاقة

رغم انخفاض الإنتاجية الخام مقارنة بمعالجات NVIDIA عالية الأداء، إلا أن M2 Pro يتميز بكفاءة عالية في استهلاك الطاقة لعمليات الاستدلال للمستخدم الواحد.
M2 Pro: حوالي 2.0–2.7 جول/رمز.
المقارنة: مشابه لنموذج NVIDIA A100 المخصص لمراكز البيانات (~~2.3 جول/رمز)، وأكثر كفاءة بشكل ملحوظ من RTX 4090 الاستهلاكي (~~5.6–7.5 جول/رمز) لحجم دفعة (Batch size) يساوي 1.

5. الأهمية والآثار المترتبة

قابلية التطبيق للغات ذات الموارد المحدودة: تثبت الدراسة أن التوليد الاستدلالي عبر العائلات قابل للتطبيق للغة البولندية (ولغات أخرى مماثلة) على الأجهزة الاستهلاكية، بشرط استخدام الترجمة المدركة للسياق. لا يحتاج المستخدمون إلى نموذج صغير متخصص في البولندية؛ فالنماذج العامة مثل Qwen أو Llama تعمل كمسودات فعالة.
واقع العتاد: تتحدى الورقة الافتراض القياسي بأن التوليد الاستدلالي مفيد دائماً. في بنيات الذاكرة الموحدة ذات عرض النطاق المحدود، تكون تتابعات المسودة الطويلة ( $k > 2$ ) ذات نتائج عكسية. "النقطة المثالية" هي المسودات القصيرة ( $k=2$ ) للمحتوى الهيكلي.
إرشادات النشر: للممارسين الذين ينشرون نماذج لغوية بولندية على Apple Silicon:
1. استخدم الترجمة المدركة للسياست (Context-Aware Translation) (نافذة البادئة) للتعامل مع عدم تطابق الرموز.
2. اضبط $k$ عند 2؛ لا ترفع طول المسودة.
3. توقع تسريعاً في النصوص الهيكلية/المتكررة بشكل أساس Ass; التوليد المفتوح قد لا يشهد أي فائدة أو قد يسبب تباطؤاً.
4. أعطِ الأولوية لكفاءة الطاقة وخصوصية البيانات (الاستدلال المحلي)، حيث يوفر M2 Pro مقاييس جول/رمز تنافسية مقارنة بـ GPUs مراكز البيانات.

الخاتمة

يسد هذا العمل فجوة حرجة في نشر النماذج اللغوية الكبيرة للغات ذات الموارد المحدودة على الأجهزة الاستهلاكية. من خلال توسيع MLX-LM باستخدام UAG، مكن المؤلفون التوليد الاستدلالي عبر العائلات للغة البولندية، وكشفوا أنه بينما هذه التقنية قابلة للتطبيق، فإن نجاحها مقيد بشدة بقيود عرض النطاق الترددي للذاكرة وقابلية التنبؤ بالمحتوى. توفر هذه النتائج إطاراً ملموساً ومرتبطاً بالعتاد لتحسين الاستدلال المحلي للنماذج اللغوية على Apple Silicon.