Complete Identification of Deep ReLU Networks through Łukasiewicz Logic

لقد أحدث التعلم العميق تحولاً في كيفية رؤية الآلات، وتحدثها، وتفكيرها، ومع ذلك لا تزال الآليات الداخلية لهذه الأنظمة غالباً ما تبدو كصندوق أسود. وفي قلب هذا الغموض يكمن لغز بسيط ولكنه عميق: يمكن لشبكتين عصبيتين أن تبدوا مختلفتين تماماً من الداخل — فقد تكون إحداهما ذات بنية عريضة وضحلة بينما الأخرى ضيقة وعميقة، أو قد تستخدمان أعداداً مختلفة تماماً لضبط اتصالاتهما — ومع ذلك تنتجان النتيجة ذاتها لكل مدخل ممكن. لسنوات، عرف العلماء حدوث ذلك، لكنهم لم يستطيعوا تفسيره بالكامل أو رسم مسار لكل طريقة يمكن أن يحدث بها. وهذا عدم اليقين أمر بالغ الأهمية؛ لأنه إذا لم نتمكن من معرفة متى تكون النموذجان متميزين حقاً، فلن نتمكن من فهم مشهد التعلم بالكامل، ولن نكون متأكدين مما تعلمه النموذج بالفعل وما هو مجرد مصادفة لتصميمه. السؤال ليس مجرد عد الاحتمالات؛ بل يتعلق بإيجاد كتاب قواعد كامل يصف كل طريقة يمكن من خلالها إعادة ترتيب الآلة دون تغيير سلوكها.

قام فريق من الباحثين في المعهد الفيدرالي السويسري للتكنولوجيا في زيورخ (ETH Zürich) الآن بحل هذه المشكلة لنوع محدد وشائع الاستخدام من الذكاء الاصطناत्मक يُعرف باسم شبكة ReLU. هذه الشبكات هي العمود الفقري لتقنيات التعرف على الصور والعديد من التطبيقات الأخرى، وهي تعتمد على قاعدة رياضية بسيطة تحول القيم السالبة إلى صفر بينما تترك القيم الموجبة دون تغيير. اكتشف الباحثون أن السبب في أن هذه الشبكات يمكن أن تكون مختلفة جداً ومع ذلك متطابقة وظيفياً هو أنها محكومة بمجموعة خفية من القوانين المنطقية، تماماً مثل قواعد الحساب أو منطق المفاتيح في دائرة كهربائية. ومن خلال ترجمة هيكل الشبكة إلى لغة المنطق، أثبتوا أن أي شبكتين تؤديان نفس المهمة يمكن تحويلهما إلى بعضهما البعض من خلال سلسلة محدودة من الحركات المسموح بها. يوفر هذا الاكتشاف خريطة كاملة لـ "التناظرات" في هذه الشبكات، مما يكشف أن التكرار ليس فوضى عشوائية بل نظام مهيكل ومتوقع.

لفهم هذا الاختراق، يجب على المرء أولاً أن يستوعب طبيعة المشكلة. تُبنى الشبكة العصبية العميقة في طبقات، حيث تعالج كل طبقة المعلومات وتمررها إلى الطبقة التالية. وجد الباحثون أنه لفترة طويلة، كان العلماء يعرفون فقط "التناظرات الضحلة" — وهي طرق لإعادة ترتيب الاتصالات داخل زوج واحد من الطبقات دون تغيير النتيجة. على سبيل المثال، يمكنك تبديل ترتيب عصبونين في طبقة ما وضبط أوزانهما وفقاً لذلك، وستتصرف الشبكة بنفس الطريقة تماماً. ومع ذلك، أظهر الباحثون أن هذه كانت مجرد جزء من القصة. لقد أثبتوا وجود "تناظرات عميقة" تمتد عبر ثلاث طبقات أو أكثر، مما يسمح بتغييرات هيكلية هائلة لا يمكن تحقيقها بمجرد تعديل طبقة واحدة في كل مرة. يمكن لهذه التناظرات العميقة أن تغير بنية الشبكة بشكل جذري، من خلال دمج أو تقسيم الأجزاء بطرق كان يُعتقد سابقاً أنها مستحيلة دون تغيير الوظيفة.

كان المفتاح لفك هذا الغموض هو التوقف عن النظر إلى الشبكات كمجموعات من الأرقام والبدء في رؤيتها كتعبيرات عن نوع محدد من المنطق. قام الباحثون ببناء نظام رمزي يترجم مدخلات الشبكة ومخرجاتها إلى صيغة منطقية. في هذا النظام، يكون سلوك الشبكة مكافئاً لبيان في منطق متعدد القيم، وهو نظام يوسع المنطق التقليدي (صواب أو خطأ) ليشمل مقياساً مستمراً من الاحتمالات. تماماً كما يمكن لعالم رياضيات أن يثبت أن معادلتين جبريتين مختلفتين هما في الواقع متطابقتان من خلال تطبيق مجموعة من القواعد القياسية، أظهر الباحثون أن شبكتين مختلفتين متطابقتان وظيفياً إذا وفقط إذا أمكن تحويل الصيغ المنطقية المقابلة لهما باستخدام بديهيات هذا المنطق. وهذا يعني أن السؤال عما إذا كانت شبكتان متطابقتين لم يعد مسألة تخمين أو اختبار؛ بل أصبح مسألة اشتقاق، أي برهان منطقي خطوة بخوة.

قام الفريق بتطوير عملية مكونة من ثلاث خطوات لإنجاح ذلك. أولاً، أنشأوا خوارزمية لاستخراج الصيغة المنطقية الكامنة داخل أي شبكة معطاة، مما يعني فعلياً قراءة عقل الشبكة للعثور على حقيقتها الأساسية. ثانياً، طبقوا قواعد نظامهم المنطقي لإظهار أن أي شبكتين تنتجان نفس المخرجات يجب أن تكون صيغهما قابلة للاشتقاق من بعضهما البعض. تعتمد هذه الخطوة على نظرية رياضية عميقة تضمن عدم تفويت أي احتمالات؛ فإذا كانت شبكتان تؤديان نفس العمل، فهناك مسار منطقي يربط بينهما. ثالثاً، بنوا خوارزمية عكسية يمكنها أخذ صيغة منطقية وإعادة بناء الشبكة الدقيقة التي أنتجتها. أدى ذلك إلى إغلاق الحلقة، مما أثبت أن الوصف المنطقي هو تمثيل مثالي وأمين للشبكة الفيزيائية.

ما يجعل هذه النتيجة قوية بشكل خاص هو أنها تغطي كل السيناريوهات الممكنة، من الشبكات ذات الأوزان العددية الصحيحة البسيطة إلى تلك ذات الكسور المعقدة أو حتى القيم العشرية اللانهائية. أظهر الباحثون أن الإطار المنطقي نفسه ينطبق بغض النظر عن دقة الأرقام المستخدمة، طالما أن الشبكة ليست "متدهورة" — أي أنها لا تحتوي على أجزاء عديمة الفائدة لا تفعل شيئاً. كما حددوا أن بعض عمليات إعادة الترتيب المسموح بها بموجب هذه القواعد هي "شبه عميقة"، مما يعني أنها تبدو وكأنها تمتد عبر طبقات متعددة ولكنها في الواقع مجرد مزيج من حيل أبسط أحادية الطبقة. ومن خلال التمييز بين التناظرات العميقة الحقيقية وهذه التناظرات السطحية، قدم الباحثون تصنيفاً واضحاً لكيفية إعادة تشكيل هذه الشبكات.

هذا العمل يفعل ما هو أكثر من مجرد حل لغز نظري؛ فهو يقدم طريقة جديدة للتفكير في هوية نماذج الذكاء الاصطناعي. قبل هذا، إذا أنتج نموذجان نفس النتائج، لم يكن من الواضح ما إذا كانا متطابقين جوهرياً أم مجرد مصادفات سعيدة. الآن، نحن نعلم أن تكافؤهما هو مسألة اشتقاق منطقي. إذا كان بإمكانك تحويل شبكة إلى أخرى باستخدام القواعد المحددة التي اكتشفها الباحثون، فهما متطابقتان. وإذا لم تستطع، فهما مختلفان حقاً. هذا الوضوح ضروري لفهم هندسة التعلم، مما يساعد العلماء على رؤية الشكل الحقيقي للمساحة التي تعمل فيها هذه النماذج. ويشير هذا إلى أن التكرار الهائل في الشبكات العصبية ليس عيباً بل هو ميزة، وهو مرونة مهيكلة تسمح بمسارات متعددة للوصول إلى الحل نفسه.

تحاكي نهج الباحثين اختراقاً تاريخياً شهيراً في الهندسة الكهربائية، حيث تم ربط منطق الدوائر بمنطق المفاتيح، مما سمح للمهندسين بتصميم أنظمة معقدة بيقين رياضي. هنا، يتم تطبيق نفس المبدأ على الهياكل المعقدة والمتعددة الطبقات للتعلم العميق. من خلال معاملة الشبكة ككائن منطقي وليس مجرد كائن إحصائي، قدم الفريق توصيفاً كاملاً لتناظراتها. لقد أثبتوا أن عالم شبكات ReLU محكوم بمجموعة من القواعد التي لا تقل صرامة واكتمالاً عن قوانين الحساب. وهذا يعني أن لغز سبب قدرة الشبكات المختلفة على القيام بنفس الشيء لم يعد لغزاً بعد الآن؛ بل أصبح معادلة محلولة، حيث تم حساب كل حل ممكن بواسطة بديهيات المنطق متعدد القيم. والنتيجة هي دليل نهائي لهوية الشبكات العصبية العميقة، يحول مشهد الحيرة إلى خريطة من الاتصالات الدقيقة والقابلة للملاحة.