The Embedder's Dilemma: LLMs Are Better, but at What Cost?
تُظهر هذه الورقة أنه بينما تحقق النماذج اللغوية الكبيرة ونماذج التضمين المتخصصة أداءً إجماليًا متماثلاً عبر 37 مهمة، فإن نماذج التضمين تتفوق بشكل هائل من حيث التكلفة والسرعة، مما يشير إلى تقسيم للعمل حيث تتولى نماذج التضمين مهام التشابه والتصنيف بينما تُخصص النماذج اللغوية الكبيرة لمهام الاسترجاع كثيفة الاستدلال.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول العثور على إبرة محددة في كومة قش هائلة. في عالم الذكاء الاصطناعي، هذه "الإبرة" هي قطعة من المعلومات، و"كومة القش" هي قاعدة بيانات ضخمة من النصوص. لسنوات، كانت الطريقة القياسية للقيام بذلك هي استخدام أداة متخصصة تسمى نموذج التضمين (embedding model). فكر في هذه النماذج كأمناء مكتبات فائقين السرعة لا يقرؤون الكتب؛ بل يقومون بدلاً من ذلك بتعيين "رمز لوني" فريد (متجه) لكل وثيقة بناءً على طابعها العام. وعندما تطرح سؤالاً، يجدون الوثائق ذات الرموز اللونية المتطابقة. إنها عملية سريعة ورخيصة للغاية، لكنها تشبه إلى حد ما الحكم على الكتاب من غلافه — فقد تغفل عن المعنى العميق والمعقد بداخله.
مؤخراً، ظهر نوع جديد من أدوات الذكاء الاصطناعي يسمى النماذج اللغوية الكبيرة (LLM) وأصبح يحظى بشعبية هائلة. هذه هي النماذج "العبقرية" التي يمكنها كتابة القصص، وحل المسائل الرياضية، وإجراء المحادثات. ولأنها ذكية جداً، بدأ الناس يتساءلون: "لماذا نستخدم أمين المكتبة السريع والبسيط بينما لدينا عبقري يمكنه بالفعل قراءة كومة القش بأكملها وفهم القصة؟" أصبح السؤال الكبير هو: هل يمكننا استبدال أمناء مكتباتنا السريعين والزهيدين بهؤلاء العباقي المرتفعي التكلفة والبطيئين للحصول على نتائج أفضل؟ هذا البحث يغوص مباشرة في هذه المعضلة، مختبراً ما إذا كان نهج "العبقري" يستحق حقاً تلك التكلفة الباهظة، أم أن "أمين المكتبة" لا يزال الخيار الأفضل لمعظم المهام.
قام الباحثون بإعداد مواجهة ضخمة بين عشرة من أذكى النماذج اللغوية الكبيرة المتاحة وعشرين من أفضل نماذج التضمين المتخصصة. وضعوهم في 37 تحدياً مختلفاً، تتراوح من تصنيف رسائل البريد الإلكتروني حسب الموضوع إلى إيجاد الإجابة الصحيحة وسط بحر من الوثائق. كانت النتائج صادمة بعض الشيء: في الإجمالي العام، كان نوعا الذكاء الاصطناعي متعادلين تقريباً. حقق أذكى نموذج لغوي كبير (Gemini 3.1 Pro) درجة 77.6، بينما حقق أفضل نموذج تضمين (Octen-8B) درجة 77.2. هذا الفرق الضئيل البالغ 0.4 نقطة صغير جداً لدرجة أنه يعتبر مجرد ضجيج إحصائي.
ومع ذلك، فإن هذا التعادل يخفي سراً كبيراً: وهو التكلفة. للحصول على ميزة الـ 0.4 نقطة الضئيلة تلك، كلف النموذج اللغوي الكبير 154 دولاراً لتشغيله خلال الاختبارات، بينما كلف نموذج التضمين 0.11 دولاراً فقط. وهذا يعني أن النموذج اللغوي الكبير كان أغلى بمقدار 1,431 مرة لاستخدام نفس المهمة. إنه يشبه توظيف فريق من العلماء الحائزين على جائزة نوبل لفرز كومة من البريد بينما يمكن لمتدرب واحد مع آلة فرز القيام بذلك مقابل سنت واحد. كما وجد البحث أن النماذج اللغوية الكبيرة كانت أبطأ بكثير، حيث عالجت النصوص بسرعة أقل تتراوح بين 2.5 إلى 736 مرة من نماذج التضمين على نفس أجهزة الكمبيوتر.
اكتشف البحث أيضاً أن النماذج اللغوية الكبيرة "العبقرية" ليست دائماً عبقرية؛ بل هي جيدة في أشياء محددة. فعندما تتطلب المهمة تفكيراً عميقاً — مثل فهم عقد قانوني معقد أو إيجاد إجابة تتطلب الربط بين نقاط مختلفة من وثائق مختلفة — تتفوق النماذج اللغوية الكبيرة. ولكن بالنسبة لمهام مثل تصنيف رسائل البريد الإلكتروني، أو تجميع المواضيع المتشابهة، أو التحقق مما إذا كانت جملتان تعنيان الشيء نفسه، كانت نماذج التضمين المتخصصة أفضل أو مساوية لها في الأداء. في الواقع، وجد البحث أن النماذج اللغوية الكبيرة كانت غالباً "تفرط في التفكير". فعندما طلب الباحثون من النماذج اللغوية الكبيرة التوقف عن استخدام وضع "التفكير" (الذي يولد الكثير من النصوص الإضافية لحل المشكلات)، أصبحت النماذج في الواقع أفضل في بعض المهام ووفرت قدراً هائلاً من المال، مما يثبت أن التفكير الإضافي لم يكن ضرورياً دائماً.
إذاً، ما هو الحكم النهائي؟ يقترح البحث أنه لا ينبغي لنا مجرد استبدال أدواتنا بالأداة الأكثر بريقاً. بدلاً من ذلك، يجب أن نستخدم نهجاً هجيناً. استخدم نماذج التضمين السريعة والرخيصة كخطوة أولى لتضييق نطاق كومة القش بسرعة والعثور على المرشحين الأكثر احتمالاً. ثم، إذا كان السؤال صعباً حقاً ويتطلب تفكيراً عميقاً، استدعِ النموذج اللغوي الكبير المكلف فقط لقراءة تلك المرشحات القليلة العليا وإعطاء الإجابة النهائية. بهذه الطريقة، تحصل على أفضل ما في العالمين: سرعة وتكلفة منخفضة لنماذج التضمين، مع قوة التفكير العميق للعبقري، فقط عندما تحتاج إليها حقاً. ويخلص البحث إلى أنه بالنسبة لمعظم المهام اليومية، لا تزال نماذج التضمين المتخصصة هي الأبطال، وأن النماذج اللغية الكبيرة باهظة الثمن هي رفاهية يجب ألا نستخدمها إلا للألغاز الأكثر صعوبة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.