Efficient LLM-based Advertising via Model Compression and Parallel Verification
تقترح هذه الورقة إطار عمل "الاستهداف التوليدي الفعال" الذي يجمع بين التكميم المجموعاتي التكيفي، والتخلخل الهرمي المتكيف مع الطبقات، والتحقق المتوازي بشجرة البادئات لتسريع استنتاج النماذج اللغوية الكبيرة بشكل كبير لتطبيقات الإعلانات في الوقت الفعلي مع الحفاظ على جودة توليد مقبولة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً ذكياً للغاية (نموذج لغوي كبير، أو LLM)، وهو بارع جداً في كتابة الإعلانات واختيار المنتجات المثالية للعملاء. المشكلة هي أن هذا المساعد يشبه موسوعة ضخمة وثقيلة: يستغرق وقتاً طويلاً لتقليب الصفحات للعثور على إجابة، ويتطلب كمية هائلة من الطاقة لاستمراره في العمل. وفي عالم الإعلانات عبر الإنترنت سريع الوتيرة، حيث تحتاج إلى إجابة في جزء من الثانية، فإن نهج "الموسوعة الثقيلة" هذا سيكون بطيئاً ومكلفاً للغاية.
قام مؤلفو هذه الورقة البحثية، من شركة بايدو (Baidu)، ببناء نظام جديد لجعل هذا المساعد أسرع وأخف وزناً دون أن يقل ذكاءً. لقد فعلوا ذلك باستخدام حيلتين رئيسيتين: تصغير المساعد وإعطاؤه خريطة طريق مختصرة.
الحيلة الأولى: تصغير الم Assistant (ضغط النموذج)
فكر في نموذج الذكاء الاصطنا\ كأنه مكتبة ضخمة من المعرفة. معظم الكتب في هذه المكتبة نادراً ما تُستخدم، وبعض الصفحات ليست سوى أرقام لا تتغير كثيراً.
- "التعبئة الذكية" (الكمية - Quantization): تخيل أن لديك حقيبة سفر مليئة بالصور عالية الدقة والثقيلة (البيانات الأصلية). بدلاً من حمل الأصول الثقيلة، اكتشف الفريق كيفية ضغطها إلى صور JPEG أصغر وأخف (أرقام أقل دقة) دون فقدان وضوح الصورة. لم يقوموا بضغط كل شيء بنفس الطريقة؛ بل كانوا "تكيّفيين". فقد قاموا بتعبئة الأجزاء الأكثر أهمية وحساسية في المكتبة بعناية فائقة، بينما ضغطوا الأجزاء الأقل أهمية بشكل أكثر عدوانية. هذا حول الحقيبة الثقيلة إلى حقيبة ظهر خفيفة الوزن.
- استراتيجية "الرف الفارغ" (التناثر - Sparsity): تخيل أن المكتبة تحتوي على آلاف الرفوف الفارغة. قرر الفريق إزالة الكتب من الرفوف التي لا يزورها أحد أبداً. لم يقوموا بإزالة الكتب عشوائياً؛ بل بحثوا عن الرفوف الحرجة ("الطبقات الحساسة") وأبقوها ممتلئة، بينما أخلوا الرفوف الأقل أهمية. جعل هذا المكتبة أصغر بكثير وأسرع في التصفح.
- الأداة المخصصة: لضمان إمكانية قراءة هذه الرفوف المضغوطة والمفرغة بسرعة، بنوا "ماسحاً" مخصصاً (نواة حاسوبية متخصصة) يمكنه قراءة هذه الكتب الخفيفة والمتناثرة بسرعة أكبر بكثير من الأدوات القياسية.
الحيلة الثانية: خريطة الطريق المختصرة (التحقق المتوازي عبر شجرة البادئة)
عادةً، عندما يولد الذكاء الاصطناعي إعلاناً، فإنه يكتبه كلمة بكلمة، مثل شخص يكتب جملة ببطء. "أنا... أحب... هذه... السيارة..." وهذا بطيء.
- خريطة الشجرة: نظم الفريق جميع خيارات الإعلانات الممكنة في هيكل شجري ضخم ومتفرع (مثل شجرة العائلة أو شجرة القرار). قمة الشجرة تكون عريضة (خيارات كثمة)، ولكن كلما نزلت للأسفل، تضيق الفروع لتصل إلى الخيارات الأكثر احتمالاً.
- سباق "التخمين والتحقق": بدلاً من كتابة كلمة واحدة في كل مرة، ينظر الذكاء الاصطناعي الآن إلى الشجرة بأكملها. يقوم بعمل "تخمين" لعدة كلمات في وقت واحد (فك التشفير المتوازي) ثم يتحقق بسرعة مما إذا كانت هذه التخمينات منطقية على الخريطة.
- مفتاح التوقيت: الجزء الأذكى هو معرفة متى تستخدم هذا الاختصار. يقوم النظام بحساب مستمر: "هل من الأسرع كتابة الكلمات كلمة بكلمة، أم تخمين مجموعة كاملة والتحقق منها؟" إذا كانت طريقة "التخمين والتحقق" أسرع، فإنه ينتقل إلى هذا الوضع فوراً. يسمح هذا للذكاء الاصطناعي بـ "القفز" إلى نهاية الجملة في خطوة واحدة بدلاً من المشي إليها خطوة بخطوة.
النتائج
اختبر الفريق هذا النظام في سيناريوهين من الواقع:
- كتابة المحتوى الإبداعي للإعلانات: إنشاء نصوص جذابة للإعلانات.
- الإعلانات المستهدفة: اختيار الإعلان المناسب لمستخدم معين.
النتيجة:
- السرعة: كان النظام الجديد أسرع بمقدار 1.8 مرة في الاختبارات الواقعية. وفي بعض الاختبارات المحددة، كان تسريع السرعة أعلى (أسرع بأكثر من 78%).
- الجودة: على الرغم من كونه أخف وأسرع بكثير، إلا أن الإعلانات التي أنتجها كانت جيدة تماماً مثل النسخة الثقيلة والبطيئة. "الجودة" (الدقة) لم تنخفض بشكل ملحوظ.
- الاستخدام الواقعي: هذا ليس مجرد نظرية؛ فقد تم نشره بالفعل على منصة الإعلانات الخاصة بـ Baidu، وهو يتعامل مع حركة مرور حقيقية الآن.
باخت-صار
تصف الورقة البحثية طريقة لتحويل ذكاء اصطناعي بطيء وثقيل إلى ذكاء اصطناعي سريع وخفيف الوزن عن طريق ضغط ذاكرته (جعل البيانات أصغر) وتنظيم عملية تفكيره (استخدام خريطة شجرية لتخمين نتائج متعددة في وقت واحد). والنتي نتيجة ذلك هي نظام إعلاني يقدم الإعلان المناسب للشخص المناسب بشكل فوري تقريباً، دون التضحية بجودة التوصية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.