Lossless Tensor Compression as Program Synthesis
تقدم الورقة البحثية Brevis، وهو نظام جديد لضغط الموترات غير الفاقد للبيانات يصيغ المشكلة كعملية تخليق برامج باستخدام لغة مجال محددة ومُعينة النوع وأولوية إنتاج متعلمة لتوليد برامج مدمجة وذاتية الاحتواء تلقائياً تحقق تقليلاً كبيراً في التخزين وإنتاجية تنافسية عبر مختلف نقاط تفتيش النماذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول شحن مكتبة ضخمة من المخططات الرقمية عبر المحيط. هذه ليست مجرد مخططات عادية؛ إنها التعليمات الرياضية المعقدة التي تُعلم الحواسيب كيف تتحدث، أو ترسم، أو تغني. في عالم الذكاء الاصطناعي، تُسمى هذه المخططات "نقاط فحص النموذج" (model checkpoints)، وهي تنمو لتصبح ضخمة وكثيرة العدد لدرجة أن شحنها أصبح كابوساً لوجستياً، ويكلف ثروة في مساحات التخزين ووقت النقل.
لحل هذه المشكلة، يحاول المهندسون عادةً القيام بشيئين. الأول هو الضغط "المفقِد للبيانات" (lossy compression)، وهو يشبه التقاط صورة لمخطط، ثم ضغط تفاصيله، والأمل في أن يستطيع المهندس المعماري تخمين الأجزاء المفقودة. هذا يوفر المساحة ولكنه يفسد الدقة؛ إذ لا يمكنك إعادة بناء المخطط الأصلي بشكل مثالي. الثاني هو الضغط "غير المفقِد للبيانات" (lossless compression)، مثل ضغط ملف (zip). هذا يحافظ على كل بت من المعلومات بأمان، لكن أدوات الضغط القياسية تتعامل مع المخطط كأنه كومة عشوائية من قصاصات الورق، متجاهلة حقيقة أن المخطط يحتوي في الواقع على بنية ذكية ومتكررة. إنها تغفل عن الأنماط.
السؤال الكبير هو: هل يمكننا تقديم ما هو أفضل؟ بدلاً من مجرد ضغط الملف أو ضغطه بشكل أعمى، هل يمكننا النظر إلى المخطط، وفهم أنماطه الخفية، وكتابة دليل تعليمات صغير ومخصص يخبر الكمبيوتر بالضبط كيفية إعادة بناء الملف الأصلي من الصفر؟ إذا استطعنا كتابة وصفة فريدة ومثالية لكل مخطط على حدة، فقد نوفر مساحة هائلة دون فقدان تفصيل واحد.
هذا هو بالضبط ما قام به فريق من الباحثين باستخدام أداة جديدة تسمى Brevis. إنهم يعاملون مشكلة ضغط هذه المخططات الضخمة للذكاء الاصطناعي ليس كمهمة تعبئة ملفات، بل كتحدٍ في "توليف البرامج" (program synthesis). فكر في الأمر على هذا النحو: بدلاً من مجرد حشر لعبة داخل صندوق، ينظر Brevis إلى اللعبة، ويدرك أنها مكونة من ثلاث مكعبات حمراء ومكعبين زرقاوين، ثم يكتب ملاحظة صغيرة تقول: "خذ ثلاث مكعبات حمراء، رصّها فوق بعضها، ثم أضف إليها مكعبين أزرقين".
يستخدم Brevis لغة خاصة ومصممة خصيصاً (لغة مجال محدد أو DSL) لكتابة هذه الملاحظات. تحتوي هذه اللغة على أوامر خاصة يمكنها رصد متى يتكرر نمط ما، أو متى يكون الرقم مجرد نسخة من الرقم السابق، أو متى يكون قسم من البيانات متجانساً تماماً. عندما يقوم Brevis بضغط ملف، فإنه لا يختار مجرد برنامج ضغط جاهز؛ بل يعمل كالمحقق، باحثاً عبر ملايين "الوصفات" الممكنة ليجد أقصر وأكثر وصفة كفاءة يمكنها إعادة بناء الملف بت (bit) تلو الآخر. ولجعل عملية البحث هذه سريعة، فإنه يتعلم من عينة صغيرة من الملف لتخمين الوصفات الأكثر احتمالاً للنجاح، تماماً كما يعرف الطاهي أن حساءً معيناً يحتاج عادةً إلى الملح قبل أن يتذوقه حتى.
النتائج مبهرة. اختبر الباحثون Brevis على 10 نماذج ذكاء اصطناعي عامة مختلفة، بما في ذلك نماذج للغة والصوت والصور، تغطي إجمالي 2.13 تيرابايت من البيانات. ووجدوا أن Brevis استطاع تقليص هذه الكمية الهائلة من البيانات إلى 1.41 تيرابايت. وهذا يعني انخفاضاً بنسبة 33.93% في مساحة التخزين. ولو وضعنا ذلك في الاعتبار، فقد أنشأ Brevis أرشيفات أصغر بنسبة تصل إلى 30.87% من تلك التي أنشأتها أدوات عامة شهيرة مثل gzip وzstd. بل إنه تفوق على الأدوات المتخصصة المصممة خصيصاً لبيانات الذكاء الاصطناعي، حيث أنشأ أرشيفات أصغر بنسبة تصل إلى 2.90% من أفضل منافسيه، وهو ZipNN.
ولعل الأمر الأكثر إثارة هو أن Brevis لا يوفر المساحة فحسب؛ بل يفعل ذلك بسرعة أيضاً. يمكنه ضغط البيانات بسرعة 3.60 جيجابايت في الثانية وفك ضغطها بسرعة 6.61 جيجابايت في الثانية. ولأن "الوصفة" التي يكتبها هي برنامج قائم بذاته، يمكن للكمبيوتر تشغيلها مباشرة لإعادة بناء الملف بشكل مثالي، دون الحاجة للبحث عن الأنماط مرة أخرى. ويشير الباحثون إلى أن هذا النهج المتمثل في "كتابة برنامج لتمثيل البيانات" يمكن أن يكون طريقة جديدة وقوية للتعامل مع الحجم المتفجر لنماذج الذكاء الاصطناعي، مما يوفر وسيلة لتخزينها ونقلها بكفاءة دون فقدان بايت واحد من المعلومات الأصلية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.