Tensor Data Scattering and the Impossibility of Slicing Theorem

تخيل العالم الرقمي كمكتبة ضخمة متعددة الطبقات، حيث لا تُكتب المعلومات في صفوف وأعمدة مثل جداول البيانات، بل تتراكم في كتل بيانات ثلاثية الأبعاد شاهقة. في عالم الذكاء الاصطناعي، تُسمى هذه الكتل بـ "التنسورات" (Tensors). فكر في "التنسور" كأنه مكعب عملاق غير مرئي من الأرقام يمكن أن يحتوي على أبعاد عديدة — مثل كومة من الصفحات، حيث كل صفحة هي شبكة من الأرقام، وتلك الشبكات نفسها يمكن أن تكون متراكمة فوق بعضها البعض. وبينما تتفوق الحواسيب في معالجة الأرقام داخل هذه الكتل، فإن بيانات الذكاء الاصطناعي في العالم الحقيقي غالبًا ما تكون "متفرقة" (Sparse). وهذا يعني أن الكتل تكون فارغة في معظمها، مليئة بالأصفار، مع وجود عدد قليل فقط من الأرقام المهمة المختبئة بداخلها، تمامًا كالبحث عن بضع عملات ذهبية داخل مستودع ضخم من الرمال.

لجعل الذكاء الاصطناعي يعمل بسرعة، تحتاج الحواسيب إلى التقاط هذه العملات الذهبية بسرعة. ومع ذلك، فإن الأدوات الحالية لالتقاطها خرقاء نوعًا ما. فبعض الأدوات تحاول التقاط العملات بناءً على موقعها (المؤشرات/indices)، بينما تحاول أدوات أخرى التقاطها بناءً على شكلها، لكنهما لا يتوافقان دائمًا بشكل جيد. السؤال الكبير الذي يواجه العلماء هو: كيف يمكننا تنظيم هذه الكتل المتفرقة والفارغة بحيث تستطيع رقائق الكمبيوتر فائقة السرعة (المسرعات) التقاط البيانات بالتوازي، مثل فريق من العمال الذين يلتقطون العناصر من حزام ناقل في وقت واحد؟ إذا لم نتمكن من القيام بذلك بكفاءة، فسيتباطأ الذكاء الاصطناعي، مما يهدر الطاقة والوقت. هذا هو اللغز الذي يعالجه بحث "وومينج بان" (Wuming Pan)، حيث يغوص في أعماق الرياضيات لكيفية "تشتيت" البيانات دون فقدان صوابنا.

لغز تشتيت البيانات العظيم

في هذا البحث، يعمل "وومينج بان" كمحقق يحاول حل ازدحام مروري فوضوي في المكتبة الرقمية. هذا الازدحام ناتج عن كيفية محاولتنا لنقل البيانات المتفرقة ("العملات الذهبية") من مكان إلى آخر في أنظمة الذكاء الاصطناعي. يقترح المؤلف طريقة جديدة ومعيارية لوصف كتل البيانات هذه، ويقدم مجموعة من القواعد لمعرفة ما إذا كان بإمكاننا نقلها بكفاءة.

الـ "الالتقاط" (Pick) والـ "شريحة" (Slice)
لفهم المشكلة، تخيل أن لديك كعكة ضخمة متعددة الطبقات (التنسور). تريد أخذ شريحة محددة منها ونقلها إلى كعكة أخرى. في البحث، يُعرف المؤلف "الالتقاط" (Pick) بأنه مجموعة من التعليمات التي تخبرك أي الطبقات أو الصفوف يجب أن تأخذها. إذا استطعت التقاط قطعة من الكعكة تكون على شكل كتلة صلبة ومثالية ("شريحة")، يمكنك نقلها بسهولة. وهذا ما يسمى بكونها "قابلة للتقطيع" (Sliceable). الأمر يشبه استخدام قطاعة البسكويت: تضغط للأسفل، فتحصل على شكل مثالي يناسب المكان التالي تمامًا.

ومع ذلك، يكشف البحث عن واقع محبط: أحيانًا، مهما حاولت تقطيع الكعكة، فإن الشكل الذي ستحصل عليه يكون ملتوياً، أو متشابكاً، أو مكسوراً. لا يمكنك مجرد تمريرها إلى مكانها الجديد؛ بل يتعين عليك إعادة بنائها قطعة بقطعة. يثبت المؤلف "نظرية استحالة التقطيع" (Theorem of the Impossibility of Slicing). تنص هذه النظرية على أنه بالنسبة لطرق معينة في تنظيم البيانات، من المستحيل رياضياً قطع شريحة نظيفة وصلبة. إذا كانت تعليمات نقل البيانات "متشابكة" (أي مختلطة بطريقة تجعل نقاط البداية والنهاية تتداخل بشكل مربك)، فلا يمكنك ببساطة إجراء عملية نقل متوازية نظيفة. أنت مضطر للقيام بذلك قطعة قطعة، وهو أمر بطيء وغير فعال لرقائق الكمبيوتر عالية السرعة.

حل الـ "X-Sparse" الجديد
بما أن بعض البيانات تكون فوضوية للغاية بحيث يصعب تقطيعها بنظافة، يقترح المؤلف طريقة جديدة لوصفها تسمى "تمثيل x-sparse". فكر في هذا كأنه لغة عالمية جديدة لوصف كيفية تشتت البيانات. بدلاً من مجرد قول "انقل هذه القطعة"، يقوم هذا الأسلوب الجديد بتفكيك تعليمات الحركة إلى ثلاثة أجزاء:

1. الخريطة (The Map): قائمة توضح أين تختبئ البيانات.
2. الشكل (The Shape): قيم البيانات الفعلية.
3. القواعد (The Rules): مجموعة محددة من التعليمات (الالتقاطات) حول كيفية إعادة تجميعها.

يقدم البحث صيغة لقياس "التشتت" (Sparsity)، وهي في الأساس درجة تخبرنا بمدى "فوضوية" البيانات. إذا كانت الدرجة عالية (قريبة من 1)، فإن البيانات مشتتة لدرجة تجعل من المستحيل تقريبًا نقلها بالتوازي — الأمر يشبه محاولة حمل كومة من الرمل السائب في دلو به ثقوب. أما إذا كانت الدرجة منخفضة، فإن البيانات منظمة بما يكفي ليتمكن فريق من العمال (المعالجات المتوازية) من التقاطها جميعًا في وقت واحد.

لماذا تقصر الأدوات الحالية؟
يشير المؤلف إلى أن أدوات الذكاء الاصطناعي الشهيرة مثل TensorFlow وPyTorch لديهما طرق مختلفة للقيء بهذا "التشتيت". طريقة TensorFlow عادة ما تكون "قابلة للتقطيع"، مما يعني أنها تستطيع التقاط كتل نظيفة. أما طريقة PyTorch، فهي غالباً "غير قابلة للتقطيع"، مما يعني أنها تتعقد ولا تستطيع التقاط كتل نظيفة بسهولة. يجادل البحث بأنه بسبب "نظرية استحالة التقطيع"، لا يمكن لهاتين الأداتين محاكاة بعضهما البعض بسهولة. إحداهما تحاول نقل طوبة صلبة، بينما الأخرى تحاول نقل كومة من الرمل، وليستا تمتلكان نفس الأدوات للقيام بذلك.

الخلاصة
لا يدعي البحث أنه بنى حاسوباً خارقاً جديداً أو حل كل مشاكل الذكاء الاصطناعي بين عشية وضحاها. بدلاً من ذلك، فإنه يقدم إطاراً نظرياً وطريقة معيارية لوصف عمليات نقل البيانات هذه. لقد أثبت أنه بالنسبة لأنواع معينة من تشتيت البيانات، فإن النقل المتوازي النظيف مستحيل رياضياً. ومن خلال فهم سبب استحالة ذلك، يقترح المؤلف أنه يمكننا تصميم خوارزميات أفضل تعرف متى تحاول التقطيع ومتى تستخدم طريقة "x-sparse" للتعامل مع البيانات المتشابكة والفوضوية.

كما يقدم المؤلف مثالاً برمجياً بلغة بايثون (تنفيذ مرجعي) لإظهار كيف يمكن لفكرة "x-scattering" هذه أن تعمل في الممارسة العملية. والأمل هو أنه باستخدام هذا المعيار الجديد، يمكن برمجة مسرعات الذكاء الاصطناعي المستقبلية (تلك الرقائق الخاصة التي تجعل الذكاء الاصطناعي سريعاً) للتعامل مع البيانات المتفرقة بكفاءة أكبر بكثير، وتحويل ذلك المستودع الفوضوي من الرمال إلى نظام منظم جيداً حيث يعرف كل عامل بالضبط ما الذي يجب أن يلتقطه.