Sequential operator learning under dependent data

في المشهد الشاسع للعلوم الحديثة، غالبًا ما يواجه الباحثون لغزًا يبدو بسيطًا في ظاهره: كيف تتعلم قواعد نظام ما عندما يغير فعل المراقبة نفسه ما تراه لاحقًا؟ يقع هذا السؤال في قلب التعلم التكيفي، وهو مجال لا تكتفي فيه الآلات باستيعاب البيانات الساكنة بشكل سلبي، بل تتفاعل مع عالم متغير. تخيل عالمًا يحاول فهم تدفق نهر؛ إذا قام ببساطة بإلقاء أجهزة استشعار في أماكن عشوائية، فسيحصل على صورة مشتتة. ولكن إذا استخدم نموذجًا لتحديد مكان وضع جهاز الاستشعار التالي بناءً على ما وجدته الأجهزة السابقة، فستصبح البيانات قصة متصلة. هذا هو جوهر التعلم المتسلسل. ومع ذلك، يفرض هذا النهج صداعًا رياضيًا. تفترض معظم نظريات التعلم التقليدية أن كل قطعة من البيانات مستقلة، مثل رمي حجر نرد حيث لا تملك الرمية التالية أي ذاكرة عن الرمية السابقة. أما في العالم الحقيقي، خاصة عند التعامل مع الأنظمة المعقدة والمستمرة مثل أنماط الطقس أو ديناميكا السوائل، فتكون نقاط البيانات مرتبطة ببعضها البعض بعمق؛ فهي تشكل سلسلة معتمدة حيث يؤثر الماضي باستمرار على المستقبل، وغالبًا ما تنهار الأدوات القياسية لقياس الثقة في النموذج.

هذا هو المجال المحدد الذي رسم خريطة معالمه رافائيل أوليفيرا من "سي إس آ روي" (CSIRO) للتكنولوجيا في سيدني في دراسة جديدة. يتناول البحث مشكلة تعلم "المؤثرات" (operators)، وهي في الأساس آلات رياضية تحول دالة كاملة أو شكلًا كاملاً إلى آخر. فكر في المؤثر ليس كآلة حاسبة بسيطة تحول رقمًا إلى رقم، بل كجهاز يحول خريطة طقس كاملة إلى تنبؤ بخريطة ططق الغد. وبينما حقق الذكاء الاصطناعي الحديث خطوات كبيرة في تعلم هذه التحولات المعقدة، فإن الضمانات بأن هذه النماذج صحيحة بالفعل اعتمدت إلى حد كبير على افتراض أن بيانات التدريب قد جُمعت بشكل مستقل. عمل أوليفيرا يزيل هذا العكاز؛ إذ تقدم الورقة إطارًا رياضيًا صارمًا يثبت أن نماذج التعلم هذه يمكن الوثوق بها حتى عندما تُجمع البيانات في تسلسل فوضوي ومعتمد، حيث يتم اختيار الملاحظات المستقبلية بناءً على ما تم تعلمه من الماضي.

الإنجاز الجوهري لهذا العمل هو تطوير طريقة جديدة لقياس عدم اليقين تظل صالحة بمرور الوقت، بغض النظر عن كيفية جمع البيانات. وبعبارة أبسط، استنتج الباحثون مجموعة من القواعد التي تعمل بمثابة شبكة أمان لخوارزميات التعلم. تضمن هذه القواعد أنه حتى بينما تتعلم الخوارزمية من تدفق من الملاحظات المتصلة والمعتمدة، يمكنها لا تزال حساب حد دقيق لمدى ابتعاد توقعاتها عن الواقع. ويمثل هذا قفزة نوعية للأمام لأنه يسمح بضمانات "موحدة زمنيًا" (time-uniform). فبدلاً من القول فقط إن النموذج دقيق في المتوسط، تضمن الطريقة الجديدة أن خطأ النموذج يظل ضمن نطاق آمن ومعروف في كل خطوة من خطوات عملية التعلم، من الملاحظة الأولى إلى الألف. وهذا أمر بالغ الأهمية لتطبيقات مثل التصميم التجريبي التكيفي، حيث قد يُكلف روبوت بمهمة إيجاد أفضل الظروف لتفاعل كيميائي من خلال ضبط مدخلاته باستمرار بناءً على النتائج الفورية. فبدون هذه الضمانات، قد يتجه الروبوت نحو مناطق خطرة أو غير منتجة، مخدوعًا برياضيات خاطئة توهمه بأنه على المسار الصحيح.

تتناول الدراسة نوعين رئيسيين من سيناريوهات التعلم. أولاً، تنظر في العلاقات الخطية، وهي الروابط المستقيمة بين المدخلات والمخرجات في فضاء عالي الأبعاد. وقد أظهر الباحثون أن طريقتهم الجديدة تعمل حتى عندما تكون العلاقة الحقيقية معقدة للغاية بحيث لا يمكن تمثيلها تمامًا بواسطة الفضاء الرياضي الذي تستخدمه الخوارزمية. وهذه مشكلة شائعة في العالم الحقيقي حيث يكون النموذج تقريبيًا، وتثبت الرياضيات الجديدة أن الخطأ لا يزال يمكن التحكم فيه بدقة. ثانيًا، توسع الورقة هذه النتائج لتشمل النماذج غير الخطية، وهي العلاقات المعقدة والمنحنية الموجودة غالبًا في الشبكات العصبية والتعلم العميق. ومن خلال تطبيق حدود التركيز الجديدة هذه على هذه النماذج، أثبت المؤلف أنه حتى عندما تتضمن عملية التعلم تعديلات معقدة وغير خطية وعوامل تنظيم (penalties رياضية تبقي النموذج من أن يصبح جامحًا)، يظل الخطأ قابلًا للتنبؤ ومحدودًا.

ما يجعل هذا العمل قويًا بشكل خاص هو أنه لا يعتمد على كون البيانات "مختلطة" أو عشوائية من الناحية الإحصائية. تطلبت العديد من النظريات السابقة أن تفقد البيانات ذاكرتها عن الماضي في النهاية، وهو شرط يُعرف باسم "الاختلاط" (mixing)، وهو أمر نادر الحدوث في الأنظمة التكيفية الحقيقية. نتائج أوليفيرا تعمل دون هذا الافتراض؛ فهي تظل صالحة لأي تسلسل يمكن التنبؤ به من البيانات، مما يعني أن المدخلات والطريقة التي يتم بها رصدها يمكن أن تعتمد بشكل تعسفي على كل ما حدث من قبل. وهذا يفتح الباب للتعلم من البيانات الديناميكية العشوائية، مثل التطور الفوضوي لنظام عاصفة، حيث تكون الحالة المستقبلية نتيجة مباشرة ومعتمدة للحالة الحالية. وتستبعد الورقة صراحةً الحاجة إلى الاستقلالية، موضحة أن المتطلب القديم لوجود نقاط بيانات عشوائية وغير متصلة ليس ضروريًا للتقارب.

بنى الباحثون حجتهم على أساس من نظرية الاحتمالات المتقدمة، وتحديدًا من خلال توسيع مفهوم يُعرف بالتركيز ذاتي المعايرة (self-normalized concentration). وبالتعبير عن ذلك في الحياة اليومية، هي طريقة لقياس مدى انحراف عملية عشوائية عن مسارها المتوقع، ولكن مع لمسة مختلفة: مقياس القياس يعدل نفسه بناءً على البيانات المرئية حتى الآن. ومن خلال تكييف هذا المفهوم مع الفضاءات ذات الأبعاد اللانهائية والضجيج ذي القيم المتجهة، أنشأ الفريق أداة يمكنها التعامل مع تعقيد الدوال المستمرة. لقد أثبتوا أنه بالنسبة للمؤثرات الخطية وغير الخطية، فإن الخطأ في النموذج المتعلم يتقلص بمعدل يمكن التنبؤ به مع جمع المزيد من البيانات، بشرما كانت عملية جمع البيانات غنية بالمعلومات الكافية. وهذا يعني أنه مع جمع النظام التكيفي لمزيد من المعلومات، يصبح من المؤكد رياضيًا أن نموذجه يقترب من الحقيقة، وأن الحدود على عدم اليقين لديه تصبح أكثر دقة.

إن آثار هذا العمل تظهر بشكل مباشر في المجالات التي تعتمد على التعلم النشط والتحسين البايزي (Bayesian optimization)، حيث يكون الهدف هو إيجاد أفضل نتيجة ممكنة بأقل عدد من التجارب. في هذه السيناريوهات، تكون كل نقطة بيانات مكلفة أو تستغرق وقتًا طويلاً للحصول عليها، لذا فإن القدرة على اختيار المدخل التالي بذكاء أمر بالغ الأهمية. توفر الضمانات الجديدة الدعم النظري اللازم للوثوق بهذه الاستراتيجيات التكيفية في البيئات عالية المخاطر. وسواء كان الأمر يتعلق بتصميم مادة جديدة، أو تحسين نموذج مناخي، أو التحكم في نظام روبوتي، فإن القدرة على التعلم من البيانات المتسلسلة والمعتمدة بحدود خطأ صارمة تحول هذه المهام من تخمينات محفوفة بالمخاطر إلى إجراءات قائمة على أسس رياضية. لا تدعي الورقة أنها حلت كل مشكلة في تعلم المؤثرات، ولا تقترح أن هذه النماذج مثالية؛ بل تقدم إطارًا مثبتًا وصلبًا يزيل حاجزًا نظريًا رئيسيًا، مما يسمح للعلماء بالمضي قدمًا بثقة في أن أنظمة التعلم التكيفي الخاصة بهم تسلك المسار المتوقع، حتى في أكثر البيئات تعقيدًا واعتمادًا.