Gram-Space: Structure-Preserving Codebook Compression for Memory-Efficient Neuro-Symbolic AI

تخيل عالماً لا تكتفي فيه الحواسيب بالتعرف على الأنماط مثل الدماغ البشري، بل تتبع أيضاً قواعد منطقية صارمة مثل عالم الرياضيات. هذا هو مجال الذكاء الاصطناعي العصبي-الرمزي (Neuro-symbolic AI)، وهو مجال يحاول الجمع بين أفضل ما في العالمين: مرونة الشبكات العصبية ودقة المنطق الرمزي. ولجعل هذا الأمر يعمل، تستخدم هذه الأنظمة غالباً أداة خاصة تسمى "كتاب الشفرات" (codebook). فكر في كتاب الشفرات كأنه قاموس ضخم من الشفرات السرية، حيث كل كلمة هي عبارة عن متجه عملاق عالي الأبعاد—قائمة من آلاف الأرقام. تعمل هذه المتجهات كبصمات فريدة لمفاهيم مختلفة. والمشكلة هي أن هذه البصمات ضخمة وكثيرة لدرجة أنها تستهلك كمية هائلة من ذاكرة الكمبيوتر، مثل محاولة حمل مكتبة من الموسوعات في جيبك. هذا الجوع للذاكرة يجعل من الصعب تشغيل هذه الأنظمة الذكية على الأجهزة اليومية، مما يؤدي إلى إبطائها أو جعلها تتوقف عن العمل.

هنا يأتي دور "Gram-Space"، وهي طريقة جديدة اقترحها الباحثان ويلون وانغ ووانتونج لي لحل أزمة الذاكرة هذه. فبدلاً من محاولة تقليص حجم القاموس عبر التخلص من المعلومات (مما قد يجعل الكمبيوتر غبياً)، وجدا طريقة ذكية لإعادة ترتيب المكتبة بأكملها. لقد اكتشفا أنه على الرغم من أن متجهات كتاب الشفرات تبدو ضخمة وفوضوية، إلا أنها تعيش في الواقع داخل غرفة أصغر بكثير ومخفية. ومن خلال استخدام خدعة رياضية تسمى "تعامد غرام-شميت" (Gram-Schmidt orthogonalization)، يمكنهما إسقاط هذه المتجهات الضخمة في نظام إحداثيات مدمج ومنظم دون فقدان بت واحد من المعنى. الأمر يشبه أخذ مدينة واسعة وفوضوية وإدراك أن جميع مبانيها تتناسب تماماً داخل خريطة شبكية صغيرة وفعالة. وتظهر الورقة البحثية أنه من خلال القيام بذلك، يمكنهما تقليص الذاكرة المطلوبة لتشغيل نماذج الذكاء الاصطناعي هذه بمقدار يصل إلى 15.75 مرة، وجعلها تعمل أسرع بمقدار يصل إلى 3.62 مرة، وكل ذلك دون الحاجة إلى إعادة تدريب الذكاء الاصطناعي أو التضحية بقدرته على حل الألغاز المعقدة.

الفكرة الكبرى: وضع مكتبة داخل حقيبة ظهر

تخيل أن لديك مكتبة ضخمة من الكتب، ولكن بدلاً من الورق، كل كتاب عبارة عن وثيقة ضخمة مكونة من 256 صفحة. تحتاج إلى حمل هذه المكتبة إلى قرية نائية لتعليم السكان المحليين، لكن حقيبة ظهرك لا تتسع إلا لبضع صفحات فقط. معظم الناس سيحاولون تصوير الكتب على ورق أصغر، لكن ذلك غالباً ما يؤدي إلى لطخ النص أو فقدان تفاصيل مهمة، مما يجعل القصص صعبة القراءة.

كان لدى الباحثين خلف "Gram-Space" فكرة مختلفة. لقد أدركوا أنه على الرغم من أن الكتب يبلغ طولها 256 صفحة، إلا أن "القصة" بداخلها لا تحتاج حقاً لأكثر من 40 صفحة لتُروى بشكل مثالي. الصفحات الـ 216 الأخرى هي مجرد مساحات فارغة أو أنماط متكررة. لذا، بدلاً من تقليص حجم الورق، قرروا إعادة كتابة الكتب باستخدام لغة جديدة فائقة الكفاءة تستخدم تلك الصفحات الـ 40 الأساسية فقط.

هذا بالضبط ما يفعله "Gram-Space" للذكاء الاصطناعي العصبي-الرمزي. تستخدم هذه الأنظمة "كتب شفرات" مليئة بمتجهات عالية الأبعاد (الكتب ذات الـ 256 صفحة) لتمثيل المفاهيم. وقد وجد الباحثون أن هذه المتجهات، رغم ضخامتها، تشغل في الواقع "فضاءً فرعياً" (subspace) أصغر بكثير. ومن خلال تطبيق تقنية رياضية تسمى تعامد غرام-شميت، أنشأوا نظام إحداثيات جديداً مدمجاً (اللغة ذات الـ 40 صفحة) يلتقط جوهر المتجهات الأصلية بشكل مثالي.

كيف يعمل الأمر: سحر الـ "Gram-Loc"

العملية تشبه امتلاك مترجم بارع وشفرة سرية.

1. الإعداد: يبدأ الذكاء الاصطناي بكتيب من المتجهات الضخمة. يبني الباحثون "أساساً" خاصاً (مجموعة من المتجهات المرجعية) يمتد عبر الفضاء الذي تعيش فيه جميع متجهات كتاب الشفرات هذه.
2. الترجمة: بدلاً من تخزين المتجهات الضخمة، يخزن النظام "معاملاً" (coefficient) صغيراً لكل منها. يخبرك هذا المعامل بالضبط كيفية إعادة بناء المتجه الضخم باستخدام الأساس المرجعي. ويطلق الباحثون على هذا المكان المضغوط اسم "Gram-loc".
3. الجزء الأفضل: عندما يحتاج الذكاء الاصطناعي للقيء عمليات حسابية تتضمن مقارنة هذه المتجهات (مثل التحقق من مدى تشابه فكرتين)، يمكنه إجراء الحسابات مباشرة على المعاملات الصغيرة. الأمر يشبه إجراء عمليات حسابية باستخدام أرقام على منديل ورقي بدلاً من استخدام سبورة بيضاء. وتثبت الورقة البحثية رياضياً أن هذا لا يغير الإجابة على الإطلاق؛ فـ "الضرب الداخلي" (inner product) -وهو مقياس التشابه- يبقى كما هو تماماً.
4. القبض والتحرير: في بعض الأحيان، يحتاج الذكاء الاصطناعي للقيام بنوع معين من الألغاز المنطقية التي تتطلب الشكل الأصلي الكامل للمتجه. في تلك اللحظات النادرة، يقوم النظام بسرعة بـ "إعادة بناء" المتجه الضخم من المعامل الصغير، ويحل اللغز، ثم يعود إلى النسخة الصغيرة. يحدث هذا بسرعة كبيرة لدرجة أنه لا يبطئ أي شيء تقريباً.

ماذا تقول الأرقام

اختبر الباحثون هذه الفكرة على ثلاثة نماذج مختلفة من الذكاء الاصطناعي (NVSA و LearnVRF و ARLC) باستخدام بطاقة رسوميات قوية (NVIDIA RTX 5070). وكانت النتائج مبهرة:

• توفير الذاكرة: قللت الطريقة من استخدام ذاكرة وحدة معالجة الرسومات (GPU) بمقدار يصل إلى 15.75 مرة. بالنسبة لبعض النماذج، انخفضت بصمة الذاكرة بشكل كبير لدرجة أن المهام التي كانت تتطلب سابقاً خادماً عالي المواصفات يمكن تشغيلها على أجهزة استهلاكية عادية.
• دفعة السرعة: نظرًا لأن الكمبيوتر كان يحتاج لنقل بيانات أقل، أصبح الذكاء الاصطناعي أسرع. تحسنت زمن الاستجابة للاستنتاج (inference latency) -وهو الوقت المستغرق لاتخاذ قرار- بمقدار يصل إلى 3.62 مرة.
• الدقة: من الناحية الحاسمة، كان الضغط "بدون فقدان" (lossless). فعندما أعادوا بناء المتجهات، كانت درجة التشابه بين النسخة الأصلية والنسخة الجديدة هي 100%. لم يصبح الذكاء الاصطناعي أقل ذكاءً؛ بل أصبح فقط أكثر رشاقة.

لماذا هذا مهم

قبل هذا، كان محاولة ضغط كتب الشفرات هذه تعني غالباً استخدام طرق "عشوائية" (stochastic) أو فقدان المعلومات، مما قد يؤدي إلى كسر منطق الذكاء الاصطناعي. الطرق الأخرى كانت تعمل جيداً في المهام البسيطة مثل تصنيف الصور، لكنها فشلت عندما يحتاج الذكاء الاصطناعي للقيام باستنتاجات معقدة بقواعد صارمة.

"Gram-Space" مختلف لأنه "مدرك للعمليات" (operator-aware). فهو يعرف أي أجزاء من دماغ الذكاء الاصطناعي تحتاج إلى المتجهات كاملة عالية الدقة، وأي أجزاء يمكنها العمل بسعادة مع النسخ المضغوطة ذات النطاق الترددي المنخفض. إنه يحافظ على البنية الرياضية المطلوبة لكي يستنتج الذكاء الاصطناعي بشكل صحيح.

كما بحث الباحثون في سبب ارتفاع استهلاك الذاكرة في المقام الأول. ووجدوا أن العائق لم يكن فقط حجم البيانات، بل الطريقة التي يخصص بها الكمبيوتر المساحة لها. من خلال إبقاء البيانات مضغوطة في تنسيق "Gram-loc"، قللوا من العبء الإضافي "الكثيف في تخصيص المساحة" الذي يبطئ الأمور عادةً.

باختصار، "Gram-Space" لا يكتفي بضغط البيانات فحسب؛ بل يعيد تنظيم سير العمل بأكمله. فهو يسمح لهذه الأنظمة العصبية-الرمزية المتطورة بالعمل على أجهزة أصغر، وأرخص، وأسرع، مما قد ينقل الاستنتاج المتقدم للذكاء الاصطناعي من مراكز البيانات إلى جيوبنا. وتشير الورقة البحثية إلى أن هذا النهج يعد خطوة مهمة نحو جعل الذكاء الاصطناعي عالي الدقة قابلاً للتوسع وعملياً للاستخدام في العالم الحقيقي.