Schema on the Inside: A Two-Phase Fine-Tuning Method for High-Efficiency Text-to-SQL at Scale
تقدم هذه الورقة نموذجاً متخصصاً بـ 8 مليارات معلمة (8B-parameter) لنظام Dream11 البيئي، يحقق أداءً عالي الدقة ومنخفض التأخير في تحويل النص إلى استعلام SQL (Text-to-SQL) عبر استخدام طريقة ضبط دقيق مبتكرة ثنائية المراحل لاستيعاب مخطط قاعدة البيانات داخلياً، مما أدى إلى تقليل رموز الإدخال (input tokens) بنسبة تزيد عن 99% والتفوق على النماذج المملوكة القائمة على واجهات برمجة التطبيقات (API-based) ذات الحالة الراهنة في بيئة إنتاج واسعة النطاق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
المشكلة الكبيرة: نهج "حقيبة الظهر الثقيلة"
تخيل أن لديك أمين مكتبة عبقرياً ولكنه باهظ الثمن للغاية (نموذج لغوي كبير، أو LLM) يعيش في بلد آخر. في كل مرة تسأله فيها سؤالاً عن مكتبة معينة، يتعين عليك إرسال موسوعة ضخمة مكونة من 17,000 صفحة إليه عبر البريد، تصف كل كتاب ورف وقاعدة في تلك المكتبة، فقط ليعرف أين يبحث.
هذه هي الطريقة التي تبني بها معظم الشركات حالياً أدوات "النص إلى SQL" (حيث تسأل سؤالاً باللغة الإنجليزية، ويقوم الكمبيوتر بكتابة استعلام لقاعدة البيانات).
- التكلفة: بما أن أمين المكتبة يتقاضى أجراً مقابل كل صفحة يقرؤها، فإن إرسال موسوعة من 17,000 صفحة إليه لكل سؤال واحد هو أمر مكلف للغاية.
- السرعة: يستغرق الأمر وقتاً طويلاً للإرسال والقراءة والرد. يجب على المستخدم الانتظار لثوانٍ (أو حتى دقائق) للحصول على الإجابة.
- النتيجة: العملية بطيئة، ومكلفة، ومحبطة.
الحل: "خبز" المعرفة في الداخل
أراد الفريق في Dream11 (تطبيق رياضي ضخم في الهند) بناء روبوت دردشة يمكنه الإجابة على أسئلة الكريكيت المعقدة فوراً. أدركوا أن إرسال الموسوعة عبر البريد في كل مرة هي فكرة سيئة.
بدلاً من ذلك، قرروا تعليم أمين المكتبة المكتبة بأكملها عن ظهر قلب قبل البدء في الإجابة على الأسئلة. أرادوا أن يحمل أمين المكتبة "الموسوعة" داخل عقله الخاص، بحيث لا يحتاجون لإرسال الكتاب إليه في كل مرة.
أطلقوا على هذا الاسم "استيعاب المخطط" (Schema Internalization). فكر في الأمر كالانتقال من سائح يحمل خريطة إلى شخص محلي يعرف كل الاختصارات.
كيف فعلوا ذلك: معسكر التدريب ذو المرحلتين
لتحويل ذكاء اصطناعي عام إلى خبير في الكريكيت يعرف قاعدة البيانات عن ظهر قلب، استخدموا طريقة تدريب ذكية مكونة من خطوتين (الضبط الدقيق - Fine-Tuning).
المرحلة الأولى: "الفصل الدراسي" (تعلم القواعد)
أولاً، وضعوا الذكاء الاصطناعي في فصل دراسي مع كتاب مدرسي ضخم.
- الدرس: عرضوا للذكاء الاصطناعي آلاف الأمثلة حيث يكون السؤال، وخريطة قاعدة البيانات الكاملة (المخطط)، والإجابة الصحيحة جميعها مرئية في وقت واحد.
- الواجب المنزلي: أعطوا الذكاء الاصطناعي أيضاً اختباراً محدداً: "إليك رمز سري (معرف قاعدة بيانات - ID). فقط كرر خريطة قاعدة البيانات بأكملها لي".
- الهدف: أجبر هذا الذكاء الاصطناعي على حفظ هيكل قاعدة البيانات، وليس مجرد الإجابات. كان الأمر يشبه تعليم طالب حفظ الجدول الدوري وكيفية استخدامه، بدلاً من مجرد البحث عنه.
المرحلة الثانية: "الامتحان" (استخدام الذاكرة)
بمجرد أن درس الذكاء الاصطناعي بجد في المرحلة الأولى، انتقلوا إلى المرحلة الثانية.
- التغيير: توقفوا عن إرسال الموسوعة المكونة من 17,000 صفحة. الآن، يرسلون فقط ملاحظة صغيرة تحتوي على سؤال المستخدم و"الرمز السري" (معرف قاعدة البيانات).
- السحر: لأن الذكاء الاصطناعي قد حفظ الخريطة في المرحلة الأولى، فإن رؤية الرمز تحفز ذاكرته. لقد استرجع فوراً هيكل قاعدة البيانات من "عقله" الخاص وكتب الإجابة الصحيحة.
- النتيجة: انخفض حجم المدخلات من 17,000 رمز (token) إلى أقل من 100. هذا يشبه تقليص كتاب من 17,000 صفحة إلى ورقة ملاحظات لاصقة واحدة.
النتائج: سريعة، رخيصة، ودقيقة
عندما انتقلوا إلى هذه الطريقة الجديدة، كانت النتائج مذهلة:
- السرعة: لأنهم توقفوا عن إرسال الموسوعة الضخمة عبر البريد، عادت الإجابات بشكل فوري تقريباً.
- التكلفة: توقفوا عن دفع الرسوم الباهظة "لكل صفحة" لواجهة برمجة التطبيقات (API) الخارجية. الآن، يقومون بتشغيل الذكاء الاصطناعي على خوادمهم الخاصة، وهي تكلفة ثابتة ويمكن التنبؤ بها.
- الدقة: للمفاجأة، أصبح الذكاء الاصطناعي أفضل في الإجابة على الأسئلة.
- الطريقة القديمة (السائح): دقة بنسبة 95.6%.
- الطالطريقة الجديدة (المحلي): دقة بنسبة 98.4%.
لماذا يهم هذا (ما الفائدة من ذلك؟)
فكر في الأمر على هذا النحو:
- قبل: كنت تستأجر سائق تاكسي لا يعرف المدينة، لذا كان عليك إعطاؤه خريطة GPS لكل منعطف. كان الأمر بطيئاً ومكلفاً.
- بعد: استأجرت سائقاً محلياً نشأ في تلك المدينة. أنت فقط تقول له "اذهب إلى الملعب"، وهو يعرف الطريق تماماً دون الحاجة إلى خريطة.
الخلاصة:
بالنسبة للشركات التي لديها مجموعة محددة وغير متغيرة من البيانات (مثل قاعدة بيانات رياضية، أو قانون قانوني، أو دليل منتج)، فمن الأذكى تدريب ذكاء اصطناعي متخصص ليعرف تلك البيانات من الداخل والخارج بدلاً من الاستمرار في تغذية ذكاء اصطناعي عام بقطع ضخمة من النصوص في كل مرة. هذا يوفر المال، ويسرع العمل، ويجعل الذكاء الاصطناعي أكثر ذكاءً بالفعل.
تثبت هذه الورقة البحثية أنك لست بحاجة دائماً إلى أكبر نموذج ذكاء اصطناعي وأكثرها تكلفة للحصول على أفضل النتائج؛ أحياناً، تحتاج فقط إلى المعلم المناسب وطريقة التدريب الصحيحة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.