في المشهد الرقمي الحديث، أحدثت أنظمة الذكاء الاصطناعي القوية المعروفة بنماذج اللغات الكبيرة تحولاً في كيفية فهم الحواسيب للغة البشرية وتوليدها. تُبنى هذه الأنظمة على مجموعات هائلة من نقاط البيانات تسمى "المعلمات" (parameters)، والتي تعمل كقاعدة معرفية داخلية للنموذج. قد يحتوي النموذج النموذجي على مليارات من هذه المعلمات، مما يتطلب كمية كبيرة من ذاكرة الحاسوب لتخزينها. ولسنوات، كان تشغيل هذه الأنظمة المعقدة حكراً على مراكز البيانات الضخمة المجهزة بمعالجات رسوميات متخصصة وعالية السرعة. ومع ذلك، هناك حركة متنامية تسعى لنقل هذا الذكاء إلى مكان أقرب حيث يعيش الناس ويعملون بالفعل، وذلك بوضعه على أجهزة حاسوب محلية أصغر تُعرف باسم "عقد الحافة" (edge nodes). توجد هذه الأجهزة غالباً في المكاتب أو المنازل أو المواقع النائية حيث تكون اتصالات الإنترنت غير موثوقة، أو حيث تمنع المخاوف المتعلقة بالخصوصية خروج البيانات من المبنى. ويكمن التحدي الذي يواجه المهندسين في أن هذه الأجهزة المحلية تفتقر عادةً إلى معالجات الرسوميات القوية الموجودة في مراكز البيانات، وتعتمد بدلاً من ذلك على وحدات المعالجة المركزية القياسية، وهي "الأدمغة" العامة لمعظم أجهزة الحاسوب. وكان السؤال الجوهري هو ما إذا كانت هذه الآلات المتواضعة واليومية قادرة حقاً على تحمل العبء الثقيل لتشغيل نماذج لغوية متقدمة، وإذا كان الأمر كذلك، فما مقدار الذاكرة التي ستحتاجها وما مدى سرعة عملها.

لقد وضع فريق من الباحثين هدفاً للإجابة على هذه الأسئلة من خلال اختبار حدود حاسوب محلي واحد يمثل نموذجاً للأجهزة الطرفية. لم يقوموا ببناء برمجيات جديدة أو اختراع شريحة أسرع؛ بل عملوا كمراقبين دقيقين، حيث قاموا بقياس ما يحدث بالضبط عندما يحاول حاسوب قياسي تشغيل ثلاثة أحجام مختلفة من النماذج اللغوية. لقد اختبروا نماذج تتراوح من نسخة مدمجة تحتوي على 1.1 مليار معلمة إلى نسخة أكثر قوة تحتوي على 7 مليارات معلمة. ولكل نموذج، قاموا بتشغيل النظام عند ثلاثة مستويات مختلفة من الدقة، والتي يمكن التفكير فيها ككمية التفاصيل التي يستخدمها الحاسوب لتخزين أرقامه الداخلية. أراد الباحثون معرفة ما إذا كانت الممارسة الشائعة لتقليل هذه التفاصيل، والمعروفة باسم "الكمية" (quantization)، ستساعد هذه الآلات المحلية على العمل بشكل أسرع واستخدام ذاكرة أقل، تماماً كما هو الحال في مراكز البيانات القوية.

كشفت النتائج التي توصلوا إليها عن واقع مفاجئ يناقض ما يُعتقد على نطاق واسع حول هذه الأنظمة. ففي مراكز البيانات عالية القدرة في العالم، تُعد عملية تقليل دقة النموذج استراتيجية مثبتة لخفض استخدام الذاكرة إلى النصف أو أكثر وتسريع الأداء. أما على الحاسوب المحلي الذي يعمل بمعالج مركزي فقط والذي تم اختباره في هذه الدراسة، فقد حدث العكس تماماً. فعندما قلل الباحثون الدقة لتوفير المساحة، احتاج الحاسوب في الواقع إلى ذاكرة أكبر بكثير لتشغيل النموذج. وبالنسبة لأكبر نموذج تم اختباره، والذي كان من المفترض نظرياً أن يتطلب حوالي 14 جيجابايت من الذاكرة، طلب النظام ما يقرب من 20 جيجابايت عندما تم خفض الدقة. حدثت هذه الزيادة بنسبة تقارب 48 بالمئة لأن معالج الحاسوب لم يستطع فهم الأرقام المضغوطة ذات الدقة المنخفضة بشكل أصلي. وبدلاً من معالجتها مباشرة، اضطر النظام إلى الاحتفاظ بالأوزان المضغوطة في الذاكرة مع تحويلها في الوقت نفسه إلى تنسيق قياسي لكل عملية حسابية. وقد خلق هذا عبئاً مزدوجاً حيث احتفظ الحاسوب بكل من الأوزان المضغة ومخازن التحويل المؤقتة، بينما ظلت التنشيطات وذاكرة التخزين المؤقت للانتباه (attention cache) بالتنسيق القياسي طوال الوقت، مما أدى فعلياً إلى زيادة حمل الذاكرة بدلاً من تخفيفه.

وإلى جانب مشكلة الذاكرة، حددت الدراسة بدقة ما الذي كان يبطئ الحاسوب. وجد الباحثون أن المعالج كان يعمل بقدرة تقترب من 100 بالمئة، ومع ذلك كان ينتج نتائج قليلة جداً. وهذا يشير إلى أن الآلة لم تكن تعاني من العمليات الحسابية نفسها، بل كانت تنتظر وصول البيانات من ذاكرتها. كان "عنق الزجاجة" هو السرعة التي يمكن بها للمعلومات الانتقال من شرائح الذاكرة إلى المعالج، وهو حد يُعرف باسم "نطاق عرض النطاق الترددي للذاكرة" (memory bandwidth). ولأن الحاسوب كان ينتظر البيانات باستمرار، فقد تمكن من التعامل مع طلب واحد فقط في كل مرة. فإذا حاول مستخدم طرح سؤالين في وقت واحد، فلن يتمكن النظام من تقسيم العمل بين مسارين (threads)؛ بل سيصبح مثقلاً ببساطة. لقد استنفد الطلب الواحد قدرة الآلة، مما يعني أنه لخدمة مستخدمين متعددين، ستحتاج الشبكة إلى إضافة حواسيب فيزيائية أكثر بدلاً من محاولة عصر المزيد من العمل من حاسوب واحد.

كان انخفاض الأداء أكثر دراماتيكية عندما نظر الباحثون إلى السرعة. فالنموذج الأكثر قدرة، الذي يعمل بدقته القياسية، كان بإمكانه توليد حوالي 3.76 كلمة في الثانية، وهو أمر بطيء ولكنه قابل للاستخدام في المحادثة. ومع ذلك، عندما طبق الباحثون تقنيات الضغط التي تهدف إلى جعل الأمور أسرع، انهارت السرعة. تباطأ النظام إلى أقل من كلمة واحدة في الثانية، مما جعل التفاعل يبدو بطيئاً للغاية بشكل مؤلم. وفي الحالة الأكثر تطرفاً من الضغط، لم ينتج النظام كلمة جديدة إلا مرة واحدة كل ست عشرة ثانية، مما جعله غير مفيد للمحادثة في الوقت الفعلي. وقد أكد هذا أن التقنيات المصممة لبطاقات الرسوميات القوية لم تكن غير فعالة فحظمة لهذه الآلات المحلية فحسب، بل كانت ضارة فعلياً، حيث استبدلت السرعة بعقوبة في الذاكرة لا تستطيع الآلة تحملها.

ولمساعدة المهندسين على التخطيط لهذه الحقائق، طور الباحثون قاعدة بسيطة لتقدير مقدار الذاكرة التي سيحتاجها الحاسوب المحلي فعلياً. ووجدوا أن كمية الذاكرة المطلوبة لا تتعلق فقط بحجم معلمات النموذج. بدلاً من ذلك، يعتمد إجمالي استخدام الذاكرة بشكل كبير على مستوى الدقة المختار. بالنسبة لنموذج قياسي غير مضغوط، تكون الذاكرة المطلوبة مساوية تقريباً لحجم أوزان النموذج. ولكن بالنسبة للنماذج المضغوطة، وجد الباحثون أن متطلبات الذاكرة تقفز إلى حوالي ثلاثة أضعاف حجم الوزن لمستوى واحد من الضغط، وإلى ما يقرب من ستة أضعاف للمستوى الأعمق. وهذا يعني أن المهندس الذي يخطط لتشغيل نموذج كبير على جهاز محلي يجب أن يوفر آلة بذاكرة أكبر بكثير مما يوحي به حجم ملف النموذج. فالحاسوب الذي يمتلك 32 جيجابايت من الذاكرة قد يكون قادراً على تشغيل نموذج كبير، ولكنه سيمتلك مساحة صغيرة جداً لنظام التشغيل أو المهام الأخرى، وبالتأكيد لن يستطيع تشغيل نموذجين من هذا النوع في آن واحد.

تخلص الدراسة إلى أنه بينما يعد تشغيل نماذج اللغات المتقدمة على الأجهزة المحلية التي تعمل بمعالج مركزي فقط أمراً ممكناً، إلا أنه يتطلب إعادة تفكير كاملة في كيفية نشر هذه الأنظمة. فالاستراتيجيات التي تنجح في السحابة لا تترجم إلى "الحافة". لا يمكن للمهندسين ببساء أخذ نموذج مُحسَّن لمركز بيانات وتوقع تشغيله بكفاءة على حاسوب محمول أو خادم محلي. يجب عليهم مراعاة حقيقة أن هذه الآلات محدودة بكيفية نقل البيانات، وليس بسرعة كيفية حسابها. كما يجب عليهم قبول أن ضغط النموذج لتوفير المساحة سيؤدي على الأرجح إلى جعله أبطأ ويتطلب ذاكرة أكثر، وليس أقل. وبالنسبة لأولئك الذين يحتاجون إلى نشر هذه الأنظمة في أماكن تثير مخاوف بشأن الخصوصية أو ضعف الإنترنت، فإن الطريق إلى الأمام يتضمن اختيار حجم النموذج المناسب لحجم الذاكرة المتاحة وقبول أن الحاسوب المحلي الواحد يمكنه خدمة شخص واحد فقط في كل مرة. إن عصر ذكاء الحافة قد بدأ، لكنه يتطلب قواعد مختلفة عن مراكز البيانات التي سبقتنا.