تخيل عالم الذكاء الاصطناي كأنه مكتبة ضخمة وصاخبة، حيث تحاول روبوتات عملاقة تعلم كيفية التحدث بكل لغات الوجود. لفترة طويلة، احتاجت هذه الروبوتات للعيش في مراكز بيانات ضخمة ومبردة للغاية بعيداً، متصلة بالإنترنت كحبل نجاة. كانت تشبه العلماء العباقرة الذين لا يمكنهم التفكير إلا إذا كانوا متصلين بشبكة طاقة هائلة. ولكن ماذا لو أردت عالماً يمكنه العيش في جيبك، في هاتفك، ويعمل حتى عندما تكون في كهف بلا إشارة؟ هذا هو حلم "الذكاء الاصطناعي على الجهاز" (on-device AI). ولتحقيق ذلك، يحاول العلماء تصغير هذه الأدمغة العملاقة لتناسب مساحات صغيرة دون أن تفقد ذكاءها. التحدي الكبير هو أن الأدمغة الأصغر تعني عادةً روبوتات أقل ذكاءً، ما لم تتمكن من تعليمها بشكل جيد للغاية باستخدام دروس محددة وعالية الجودة.

إليك ELMOD، وهو مشروع جديد من قبل باحثين في معهد فراونهوفر الذين قرروا بناء نموذج لغوي صغير وفائق الذكاء مخصص للغة الألمانية. فكر في النماذج اللغوية كطلاب يتعلمون من خلال قراءة مليارات الكتب. عادةً، لجعل الطالب عبقرياً، فإنك تلقي عليه جبلاً من الكتب. لكن صانعي ELMOD أرادوا معرفة ما إذا كان بإمكانهم جعل الطالب ذكياً بنفس القدر من خلال كونهم أكثر دقة في اختيار أي الكتب يقرأها. لم يكتفوا بجمع صفحات عشوائية من الإنترنت؛ بل عملوا كأمين مكتبة صارم، يقوم بتصفية الضجيج، وتصحيح القواعد، وحتى إعادة كتابة الأجزاء المملة لجعلها أكثر تعليمية. كان هدفهم هو إنشاء نموذج بـ 2.7 مليار معلمة (وهو مقياس لحجم دماغه) يمكنه العمل بكفاءة على الأجهزة المحمولة، مما يثبت أنك لست بحاجة إلى سوبر كمبيوتر ليكون لديك مساعد ذكي يتحدث الألمانية.

وصفة العبقري الصغير

تبدأ قصة ELMOD بسؤال بسيط: هل يمكننا بناء ذكاء اصطناعي يتحدث الألمانية ويكون صغيراً بما يكفي ليتسع في هاتف، ولكنه ذكي بما يكفي لمنافسة النماذج الأكبر بكثير؟ بدأ الباحثون بمجموعة ضخمة من البيانات، مثل كومة فوضوية من النصوص من الإنترنت. كان لديهم 4.83 تريليون كلمة للعمل بها، لكن معظمها كان مجرد نفايات—إعلانات، روابط مكسورة، وهراء متكرر.

الخطوة 1: التنظيف العظيم
أولاً، كان عليهم تنظيف البيانات. تخيل أنك تحاول طهي وجبة فاخرة، لكن مكوناتك مختلطة بالصخور والأغلفة البلاستيكية. استخدم الفريق سلسلة من المرشحات لإزالة "الصخور". فقد استبعدوا الصفحات التي كانت مجرد قوائم من الأرقام، وأزالوا النصوص التي كانت معظمها بالإنجليزية بينما أرادوا الألمانية، وحتى قاموا بتصفية الكلمات التي كانت وقحة أو غير لائقة للغاية. كما استخدموا خدعة ذكية تسمى "إزالة التكرار" (deduplication)، وهي تشبه العثور على بطاقة وصفة متطابقة قام شخص ما بنسخها في كتاب الطبخ ألف مرة وإزالتها. كانت هذه العملية حاسمة لأنها وفرت عليهم الوقت والطاقة الضائعين في قراءة نفس الأشياء المملة مراراً وتكراراً.

الخطوة 2: فحص الجودة
بمجرد التخلص من النفايات، واجهوا مشكلة جديدة: ليست كل الكتب المتبقية جيدة للتعلم. بعضها كان مجرد عناوين إخبارية، والبعض الآخر كان مقالات علمية عميقة. أراد الباحثون أن يتعلم الذكاء الاصطناعي الخاص بهم من "أفضل" الكتب. استخدموا حكماً ذكياً من الذكاء الاصطناعي (نموذجاً أكبر) لتقييم النص على مقياس من 0 إلى 5، بناءً على مدى كونه تعليمياً. وجدوا أن التدريب على الكتب الأعلى جودة (درجة 2 فأعلى) جعل النموذج أكثر ذكاءً، لكن الذهاب إلى مستوى أعلى (درجة 3 فأعلى) لم يقدم أي دفعة إضافية. ومع ذلك، إليكم الجزء الذكي: أدركوا أنه حتى الكتب ذات الجودة "المتوسطة" (حوالي 1.5 إلى 2) يمكن ترقيتها.

الخطوة 3: سحر إعادة الكتابة
هنا حدث السحر. أخذ الفريق النصوص "متوسطة الجودة" وطلبوا من ذكاء اصطناعي آخر إعادة كتابتها. قالوا للذكاء الاصطناعي: "خذ هذا المنشور الممل من مدونة وأعد كتابته كأنه فصل من كتاب مدرسي للخبراء، أو قصة ممتعة للأطفال، أو مدونة احترافية". من خلال القيام بذلك، حولوا البيانات المتوسطة إلى دروس عالية الجودة. كان الأمر يشبه أخذ مسودة أولية لقصة وصقلها حتى تلمع. لقد أنتجوا حوالي 73 مليار توكن (وحدات نصية) بهذه الطريقة، مما أدى فعلياً إلى ترقية مكتبتهم دون الحاجة إلى العثور على كتب جديدة.

الخطوة 4: التدريب
مع جاهزية مكتبتهم المنظفة والمطورة، بدأوا تدريب النموذج. كان لديهم ميزانية صارمة: لم يكن بإمكانهم استخدام سوى 55,000 ساعة من وحدات معالجة الرسوميات القوية H100 (المحركات التي تشغل تدريب الذكاء الاصطناعي). ولتحقيق أقصى استفادة من ذلك، جربوا طرقاً مختلفة لكيفية تعلم النموذج. جربوا طرقاً مختلفة للتعامل مع الأرقام ومزيجاً مختلفاً من الألمانية والإنجليزية والبرمجة. وجدوا أن مزيجاً معيناً—50% إنجليزية، 40% ألمانية، و10% برمجة—كان يعمل بشكل أفضل. كما اكتشفوا أن إبطاء عملية التعلم في النهاية تماماً (تقنية تسمى "التلدين" أو annealing) ساعد النموذج على الاستقرار في معرفته بشكل أفضل، تماماً مثل الطالب الذي يراجع ملاحظاته بهدوء قبل اختبار كبير.

النتائج: صغير ولكن قوي

عندما انتهوا، حصلوا على ELMOD-2.7B، وهو نموذج بـ 2.7 مليار معلمة. ولوضع ذلك في المنظور، فهو صغير جداً مقارنة بالعمالقة الذين يهيمنون عادة على هذا المجال. ولكن عندما وضعوه للاختبار في تحديات اللغة الألمانية، كانت النتائج مفاجئة.

لم يؤدِّ ELMOD بشكل جيد فحسب؛ بل كان أقوى مؤدٍ في فئته الحجمية (أقل من 3 مليارات معلمة) وكان يضاهي النماذج التي هي أكبر منه بثلاث مرات تقريباً (7 مليارات معلمة) تحديداً في معايير اللغة الألمانية. كان يشبه سيارة رياضية مدمجة يمكنها التسابق بسرعة شاحنة ضخمة. اختبره الباحثون في مهام متنوعة، من الإجابة على أسئلة منطقية صعبة إلى فهم القصص المعقدة، وقد صمد أمام النماذج الأكبر بكثير التي تم تدريبها على ضعف كمية البيانات.

كما تأكدوا من أن النموذج آمن وجاهز للحياة الواقعية. فقد قاموا بتنقية بيانات التدريب من المعلومات الشخصية مثل عناوين البريد الإلكتروني وأرقام بطاقات الائتمان، لضمان عدم قيام الذكاء الاصطناعي بحفظ التفاصيل الخاصة عن طريق الخطأ. أخيراً، أثبتوا أنه يمكنه العمل بالفعل على الهاتف. فقد بنوا تطبيقاً تجريبياً يعمل بنموذجهم على هواتف Android مختلفة وحتى على جهاز MacBook Pro، مما أظهر أنه يمكنه معالجة النصوص بسرعة كافية لتكون مفيدة للمستخدم البشري، حتى بدون وجود سوبر كمبيوتر قريب.

لماذا يهم هذا؟

تظهر الورقة البحثية أنك لست بحاجة لأن تكون شركة تقنية عملاقة ذات أموال غير محدودة لبناء ذكاء اصطناعي رائع. من خلال كونك ذكياً بشأن جودة البيانات—عبر تصفية الضجيج، وترقية الأشياء المتوسطة، والحرص على كيفية تعليم النموذج—يمكنك بناء أداة قوية تتسع في جيبك. يثبت ELMOD أنه بالنسبة للغة الألمانية، يمكن لنموذج صغير وفعال أن يكون بقدر كفاءة النماذج الكبيرة والمكلفة، مما يفتح الباب أمام مساعدي الذكاء الاصطناعي الذين يحترمون الخصوصية ويعملون دون اتصال بالإنترنت في أي مكان وفي أي وقت.