Test-Time Compute Games
تحدد هذه الورقة عدم الكفاءة الاجتماعية في أسواق نماذج اللغات الكبيرة كخدمة (LLM-as-a-service) حيث يتم تحفيز المزودين على الإفراط في استخدام الحوسبة المكلفة أثناء وقت الاختبار، وتقترح آلية مزاد عكسي من السعر الثاني لمواءمة التسعير مع القيمة الحدية، وهو ما تم التحقق منه من خلال تجارب على عائلات نماذج مختلفة عبر معايير الرياضيات والعلوم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة "ألعاب حساب وقت الاختبار" (Test-Time Compute Games) باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
الصورة الكبيرة: مشكلة "الإفراط في الهندسة"
تخيل أنك بحاجة إلى سيارة أجرة للذهاب إلى المطار. لديك شركتان لسيارات الأجرة: الشركة (أ) والشركة (ب).
- الشركة (أ) تستغرق عادةً 10 دقائق لإيصالك.
- الشركة (ب) تستغرق عادةً 12 دقيقة.
ومع ذلك، تمتلك كلتا الشركتين زرًا سريًا يمكنهما الضغط عليه يسمى "القيادة الفائقة" (Super-Drive).
- إذا ضغطت الشركة (أ) على الزر، فستستغرق 11 دقيقة ولكنها ستفرض عليك ضعف الأجرة.
- إذا ضغطت الشركة (ب) على الزر، فستستغرق 11 دقيقة ولكنها ستفرض عليك ثلاثة أضعاف الأجرة.
في العالم الطبيعي، ستختار الشركة (أ) للرحلة العادية التي تستغرق 10 دقائق لأنها أرخص وأسرع. ولكن هنا تكمن الخدعة: شركات سيارات الأجرة تتقاضى أجرها بناءً على كمية الوقود الذي تحرقه، وليس فقط بناءً على سرعة إيصالك.
بسبب هذا، تفكر الشركة (أ): "إذا ضغطت على 'القيادة الفائقة' واستغرقت 11 دقيقة، يمكنني أن أفرض عليك ضعف الأجرة. رغم أنك لم توفر سوى دقيقة واحدة مقارنة بسرعتي القديمة، إلا أنني سأجني مالاً أكثر. لذا، سأضغط على الزر دائماً."
النتيجة: ينتهي بك الأمر بدفع ضعف الأجرة مقابل رحلة لا تكاد تكون أسرع، وتقوم الشركة بحرق وقود إضافي دون أي فائدة حقيقية. هذا ما تسميه الورقة البحثية "حساب وقت الاختبار" (Test-Time Compute - TTC). في عالم الذكاء الاصطناعي، "الوقود" هو قوة الحوسبة، و"القيادة الفائقة" هي جعل الذكاء الاصطناعي يفكر لفترة أطول أو يجرب إجابات عديدة مختلفة قبل إعطائك إجابة واحدة.
المشكلة: لماذا السوق معطل؟
يجادل المؤلفون بأن الطريقة الحالية لشراء خدمات الذكاء الاصطناعي هي طريقة غير فعالة اجتماعياً.
- حافز المزود: شركات الذكاء الاصطناعي تريد جني المال. هم يعلمون أنهم إذا جعلوا ذكاءهم الاصطناعي "يفكر بعمق أكبر" (يستخدم المزيد من الحوسبة)، فيمكنهم مطالبتك بمباله أكثر. حتى لو كان التفكير الإضافي يجعل الإجابة أفضل بنسبة 1% فقط، فقد يظلون يفعلون ذلك لأن التكلفة الإضافية عليهم منخفضة، لكن السعر الإضافي الذي يمكنهم المطالبة به مرتفع.
- خسارة المستخدم: ينتهي بك الأمر بدفع ثمن "التفكير" الذي لا يساعدك كثيراً. الأمر يشبه دفع ثمن وجبة فاخرة مطبوخة ببطء بينما كان بإمكان شطيرة بسيطة أن تشبعك تماماً وبسعر أرخص بكثير.
توضح الورقة أنه في السوق الحر، ستختار شركات الذكاء الاصطناعي بطبيعتها "الإفراط في التفكير" في المشكلات لتعظيم أرباحها الخاصة، حتى لو كان ذلك يهدر الأموال والموارد للجميع.
الحل: المزاد العكسي
لإصلاح ذلك، يقترح المؤلفون طريقة جديدة لشراء خدمات الذكاء الاصطناي، تشبه المزاد العكسي (مثل عندما تريد حكومة شراء 1,000 مكتب وتطلب من الموردين تقديم أقل سعر).
إليك كيف يعمل "المزاد الذكي" الخاص بهم:
- الإعداد: لديك مهمة (أنت المستخدم). تخبر منصة محايدة: "أحتاج إلى ذكاء اصطناعي لحل هذه المسألة الرياضية".
- العروض: تقدم عدة شركات ذكاء اصطناعي عروضاً. يقولون:
- "يمكنني حل هذه المسألة بدقة 90%."
- "سأتقاضى 5 دولارات."
- (وهم يقررون سراً مقدار "التفكير" الذي سيقومون به للوص mencapai تلك الدقة بنسبة 90%).
- الفائز: تختار المنصة الشركة التي تقدم أفضل صفقة (أعلى دقة مقابل أقل سعر).
- الدفع (الجزء السحري): هذا هو الجزء الأهم. الفائز لا يحصل على المبلغ الذي طلبه.
- بدلاً من ذلك، يتم الدفع له بناءً على ثاني أفضل عرض.
- مثال: إذا قدمت الشركة (أ) عرضاً بدقة 90% مقابل 5 دولارات، وقدمت الشركة (ب) عرضاً بدقة 85% مقابل 4 دولارات، فإن الشركة (أ) تفوز. ولكن الشركة (أ) ستحصل فقط على 4 دولارات (بالإضافة إلى جزء ضئيل يمثل فرق الجودة)، وليس 5 دولارات.
لما لماذا يغير هذا كل شيء:
لأن الفائز يُدفع له بناءً على سعر المنافس، وليس سعره هو، فليس لديهم حافز للمبالغة في الأسعار أو الإفراط في الهندسة.
- إذا حاولت الشركة (أ) "التفكير بعمق أكبر" للوصول إلى دقة 95%، فقد تفوز، لكنها ستظل تُدفع لها بناءً على معيار الشركة (ب) الأقل.
- إذا حاولت الشركة (أ) فرض سعر 10 دولارات، فستخسر المزاد لصالح الشركة (ب).
- الاستراتيجية الأفضل: الطريقة الوحيدة لكي تفوز الشركة وتحقق ربحاً هي إيجاد الطريقة الأكثر كفاءة لحل المشكلة (القدر المناسب من "التفكير") الذي يعطي أفضل قيمة. إنهم مجبرون على التوقف عن "الإفراط في التفكير" لأن ذلك يكلفهم مالاً دون مساعدتهم في الفوز بالمزاد.
النتائج: ما أظهرته التجارب
اختبر المؤلفون هذه الفكرة باستخدام نماذج ذكاء اصطناعي حقيقية (مثل Llama و Qwen) على مسائل رياضية وعلمية.
- السوق الحالي مهدر للموارد: في سوق "الدفع مقابل كل رمز" (pay-per-token) الحالي، وجدوا أن النظام كان غير فعال بنسبة تصل إلى 19%. وهذا يعني أننا كنا نهدر ما يقرب من 20% من الأموال وقوة الحوسبة لأن الشركات كانت تختار "التفكير" أكثر من اللازم لمجرد جني بعض الدولارات الإضافية.
- المزاد يصلح الأمر: عندما قاموا بمحاكاة المزاد الخاص بهم، انخفضت نسبة عدم الكفاءة إلى صفر. اختارت شركات الذكاء الاصطناعي تلقائياً القدر المثالي من "التفكير" لحل المشكلة بكفاءة.
- من الرابح؟
- المستخدمون: يحصلون على قيمة أفضل بكثير. يدفعون أقل ويحصلون على إجابات جيدة (أو أفضل).
- المزودون: النتيجة مختلطة. قد تجني بعض الشركات مالاً أقل لأنها لا تستطيع المبالغة في الأسعار بعد الآن، ولكن شركات أخرى قد تجني مالاً أكثر لأنها تستطيع أخيراً المنافسة بنزاهة على الكفاءة بدلاً من مجرد تضخيم التكاليف.
ملخص التشبيه
- النظام الحالي: يشبه مطعماً يتقاضى فيه الطاهي أجره مقابل كل مكون يقوم بتقطيعه. سوف يقوم بتقطيع البصل إلى مسحوق فقط ليتقاضى منك مالاً أكثر، رغم أنك كنت تحتاج فقط لتقطيعه إلى شرائح.
- النظام المقترح: يشبه مطعماً يتقاضى فيه الطاهي سعراً ثابتاً بناءً على ما يتقاضاه المطعم المجاور مقابل طبق مشابه. أصبح الطاهي الآن مجبراً على تقطيع البصل بكفاءة. إذا قطعه ناعماً جداً، فإنه يهدر الوقت والمال لكنه لا يتقاضى مالاً إضافياً. وإذا قطعه خشناً جداً، فإنه يخسر الزبون. إنه يجد الحل الوسط المثالي.
تخلص الورقة البحثية إلى أنه من خلال تغيير قواعد اللعبة (آلية الدفع)، يمكننا منع شركات الذكاء الاصطناعي من إهدار الموارد وضمان أن "التفكير" الذي تقوم به يساعد المستخدم حقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.