Parameterized Complexity of $L_p$-Lipschitz Constants for Input Convex Neural Networks and $L_p$-Norm Maximization over Zonotopes

في عالم الذكاء الاصطناعي، تُعد الشبكات العصبية هي المحركات التي تشغل كل شيء، من التعرف على الصور إلى ترجمة اللغات. تتعلم هذه الأنظمة من خلال ضبط ملايين الإعدادات الداخلية، لكنها تتسم بهشاشة ملحوظة. فالتغيير الطفيف، غير المرئي تقريبًا، في المدخلات — مثل بضعة بكسلات تم تعديلها في صورة فوتوغرافية — يمكن أن يتسبب أحيانًا في جعل الشبكة تقدم تنبؤًا خاطئًا تمامًا. ولفهم مدى هشاشة أو قوة الشبكة، يقيس العلماء "ثابت ليبشيتز" (Lipschitz constant) الخاص بها. فكر في هذا الرقم كجهاز قياس للحساسية: القيمة المنخفضة تعني أن الشبكة تغير مخرجاتها بشكل طفيف فقط عندما تتغير مدخلاتها بشكل طفيف، بينما تشير القيمة العالية إلى أن الوخزات الصغيرة يمكن أن تؤدي إلى تقلبات هائلة وغير متوقعة. لسنوات، عرف الباحثون أن حساب هذه الحساسية الدقيقة للشبكات المعقدة أمر صعب للغاية، وغالبًا ما يتطلب قدرة حوسبة كبيرة تجعل الأمر مستحيلاً عمليًا مع نمو الشبكات وتوسعها.

تم اقتراح نوع محدد من الشبكات يسمى "الشبكة العصبية المحدبة للمدخلات" (input-convex neural network) مؤخرًا كوسيلة لجعل هذه الأنظمة أكثر استقرارًا وأسهل في التحليل. في هذه الشبكات، تكون القواعد أكثر صرامة: حيث تُجبر الروابط بين الطبقات على أن تكون غير سالبة، مما يضمن أن تتصرف الشبكة بطريقة رياضية متوقبة ومحدبة. بدا هذا القيد واعدًا كاختصار مفيد. وبالنسبة لبعض أنواع قياسات الحساسية، جعل هذا القيد المشكلة بالفعل قابلة للحل في وقت معقول. ومع ذلك، بالنسبة لفئة واسعة وهامة من القياسات التي تتضمن حسابات المسافة القياسية، ظل السؤال مفتوحًا عما إذا كان هذا القيد الهيكلي كافيًا لجعل المشكلة سهلة الحل، أم أن الصعوبة ستستمر.

لقد أجاب فريق من الباحثين الآن على ذلك السؤال بسلبية قاطعة. فقد أثبتوا أنه حتى مع القواعد الصارمة للشبكات المحدبة للمدخلات، يظل حساب الحساسية لهذه القياسات المحددة أمرًا مستعصيًا حوسبيًا مع زيادة حجم الشبكة. ويظهر عملهم أنه لا يوجد خوارزمية ذكية يمكنها حل هذه المشكلة بكفاءة؛ فالطريقة الوحيدة لإيجاد الإجابة هي التحقق من كل تكوين ممكن واحدًا تلو الآخر، وهي طريقة تصبح بطيئة بشكل مستحيل مع نمو الشبكة. هذا الاكتشاف يغلق فصلًا مهمًا في دراسة متانة الشبكات العصبية، كاشفًا أن الوعد الذي قدمته الشبكات المحدبة للمدخلات لا يمتد لجعل جميع حسابات الحساسية سهلة.

اقترب الباحثون من هذه المشكلة عن طريق ترجمة سلوك الشبكة العصبية إلى شكل هندسي يُعرف باسم "الزونوتوب" (zonotope). يمكنك تخيل الزونوتوب ككتلة متعددة الأبعاد تتكون من تكديم العديد من القطع المستقيمة الصغيرة معًا. يصبح السؤال حول مدى حساسية الشبكة هو سؤال البحث عن أطول خط ممكن يمكن رسمه من مركز هذه الكتلة إلى حافتها، مقاسًا بطريقة معينة. وبينما يكون إيجاد أطول خط أمرًا سهلاً لبعض الأشكال وسهلاً لأنواع معينة من قياسات المسافة، اكتشف الباحثون أنه بالنسبة للقياسات المحددة ذات الصلة بهذه الشبكات، تصبح المشكلة أصعب بشكل أسي مع زيادة عدد الأبعاد.

ولإثبات ذلك، بنى الفريق سلسلة من الجسور المنطقية التي تربط مشكلة قياس حساسية الشبكة بمشكلة شهيرة وصعبة للغاية في علوم الحاسوب تُعرف باسم "مشكلة الكليك متعدد الألوان" (Multicolored Clique problem). تسأل هذه اللغز عما إذا كان بإمكان المرء اختيار عدد معين من العناصر من مجموعات مختلفة بحيث يكون كل زوج من العناصر المختارة متصلًا ببعضه البعض. أظهر الباحثون أنه إذا كان بإمكانك العثور بسرعة على أطول خط في أشكالهم الهندسية، فيمكنك أيضًا حل هذا اللغز الصعب بسرعة. وبما أن علماء الحاسوب يعتقدون على نطاق واسع أن هذا اللغز لا يمكن حله بسرعة، فإن هذا يعني أن العثور على أطول خط في هذه الأشكال لا يمكن القيام به بسرعة أيضًا. لقد أظهروا هذا الارتباط باستخدام بناءين رياضيين مختلفين، اعتمد أحدهما على تقنيات أولية والآخر على رؤى هندسية أعمق، وكلاهما أدى إلى نفس النتيجة.

كما استكشفت الدراسة كيف تتغير هذه الصعوبة عندما يتغير نوع قياس المسافة. وبينما كانت المشكلة معروفة بصعوبتها لبعض القياسات، لم يكن من الواضح ما إذا كانت ستظل صعبة لمجموعة واسعة من القياسات القياسية الأخرى المستخدمة في الرياضيات والهندسة. أثبت الفريق أن الصعوبة تظل قائمة لكل نوع ثابت من قياسات المسافة القياسية في هذا النطاق. وقد حققوا ذلك من خلال إظهار أن الأشكال الهندسية المستخدمة لنوع واحد من القياس يمكن تحويلها إلى أشكال لأنواع أخرى دون فقدان الصعوبة الجوهرية للمشكلة. وهذا يعني أن الحاجز أمام حل هذه المشكلات ليس مجرد سمة غريبة في طريقة قياس واحدة، بل هو خاصية أساسية للهندسة المعنية.

إن تداعيات هذا العمل كبيرة لمستقبل سلامة وتصميم الذكاء الاصطناعي. فهو يوضح أن مجرد جعل الشبكة العصبية محدبة للمدخلات ليس حلاً سحريًا يجعل جميع جوانب سلوكها سهلة التحقق. ورغم أن هذه الشبكات مفيدة لضمان أن المخرجات محدبة، إلا أنها لا تمنح تلقائيًا القدرة على حساب مدى حساسيتها للأخطاء الصغيرة أو الهجمات بسرعة. كما أشار الباحثون إلى أن نتائجهم تشير إلى أن طرق "القوة الغاشمة" (brute-force) التي يستخدمها العلماء حاليًا — أي التحقق من كل سيناريو ممكن — هي في الأساس أفضل ما يمكننا نيله في ظل الافتراضات الحالية حول حدود الحوسبة. فلا يوجد اختصار مخفي ينتظر اكتشافه يسمح بإجراء هذه الحسابات بسرعة على الشبكات الكبيرة.

وفي إضافة فريدة لورقتهم البحثية، تأمل المؤلفون أيضًا في عملية البحث الخاصة بهم، معترفين بأنهم استخدموا أدوات الذكاء الاصطناعي للمساعدة في توليد الأفكار الأولية لبراهينهم. ووصفوا كيف قدم لهم الذكاء الاصطناعي حججًا رياضية خامًا كانت صحيحة تقنيًا ولكنها تفتقر إلى الوضوح والفهم الحدسي. ثم قضى الباحثون البشر وقتًا طويلاً في تنقيح هذه الحجج، وتجريدها من التعقيد غير الضروري، واستخراج الحدس الهندسي الذي جعل البرهان مقنعًا وواضحًا. وجادلوا بأنه بينما يمكن للذكاء الاصطناعي أن يكون أداة قوية لتوليد الأفكار، فإن الدور البشري في تشكيل تلك الأفكات وتحويلها إلى رياضيات مفهومة وسليمة مفاهيميًا يظل أمرًا لا يمكن استبداله. ويقف عملهم كشهادة على فكرة أنه في عصر الذكاء الاصطناعي، تكمكمن قيمة البصيرة البشرية ليس فقط في إيجاد الإجابات، بل في شرحها بطريقة تكشف عن الحقيقة الكامنة وراءها.