Evaluating Agentic Learning Harness Capabilities Without Labels via the Scaling Hypothesis
تقترح هذه الورقة وتتحقق من إطار عمل للتقييم الخالي من الملصقات (label-free) لأدوات التعلم المستمر الوكيلية (agentic continual learning) في مجال الأمن السيبراني، مبرهنةً على أن قياس تقارب نموذج الطالب نحو نموذج معلم أقوى عبر تصحيحات متفرقة يعمل كبديل موثوق للتحسن الحقيقي في الأداء عند عدم توفر معايير مرجعية مصنفة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت كيفية رصد رسالة بريد إلكتروني سيئة. في عالم الذكاء الاصطناعي، لدينا هذه "النماذج اللغوية الكبيرة" (LLMs) فائقة الذكاء التي يمكنها القراءة والكتابة مثل البشر. ولكن لجعلها مفيدة حقًا للأمن، نحتاج إلى جعلها تتعلم من أخطائها أثناء سير العملية، وهي عملية تسمى "التعلم المستمر" (Continual Learning). عادةً، لكي نرى ما إذا كان الروبوت يتعلم، نعطيه اختبارًا مع نموذج إجابة معروف (بيانات مصنفة). ولكن في العالم الحقيقي للأمن السيبراني، يغير الأشرار حيلهم كل يوم، ونادرًا ما نملك نموذج إجابة مثاليًا. نحن فقط نحصل على تعليقات عندما يرتكب الروبوت خطأً فادحًا وواضحًا. هذا يضع فرق الأمن في مأزق: لديهم روبوت يحتاج إلى التعلم، ولكن ليس لديهم طريقة لمعرفة ما إذا كانت أدوات التعلم الجديدة الخاصة بهم تعمل بالفعل أم أنها تجعل الأمور أسوأ فقط. إنهم بحاجة إلى طريقة لقياس التقدم دون وجود نموذج إجابة مرجعي.
هذه الورقة تعالج تلك المشكلة تحديدًا. يقترح المؤلفون حلاً ذكيًا باستخدام إعداد "المعلم-الطالب". بدلاً من انتظار إنسان ليقيم عمل الروبوت، يستخدمون نموذج ذكاء اصطناعي أكبر وأذكى بكثير كـ "معلم". إنهم يتركون هذا المعلم يقيم عمل نموذج "طالب" أصغر. الفكرة هي أنه إذا بدأ الطالب يتصرف بشكل يشبه المعلم الذكي بعد استخدام أداة تعلم جديدة، فإن تلك الأداة هي على الأرجح جيدة. تشير الورقة إلى أن هذا التحسن "النسبي بالنسبة للمعلم" هو علامة موثوقة على أن الأداة ستعمل جيدًا أيضًا مع التعليقات البشرية الحقيقية، حتى في حالة عدم وجود تصنيفات بشرية. ومع ذلك، يطلق المؤلفون تحذيرًا عاليًا: استخدام ذكاء اصطناعي آخر بنفس حجم النموذج لتقييم العمل هو فكرة سيئة. فهؤلاء القضاة من "نفس القوة" متحيزون للغاية؛ فهم يفضلون أشباههم ولا يستطيعون رؤية متى يكون الطالب قد تحسن بالفعل.
مدرسة الروبوت ونموذج الإجابة المفقود
دعونا نتعمق في قصة "حزام التعلم" (Learning Harness). تخيل أن لديك روبوتًا مبتدئًا شابًا (الطالب) يحاول تعلم كيفية فرز البريد. إنه جيد نوعًا ما، لكنه ليس مثاليًا. لمساعدته على التحسن، تقوم بإرفاق "حزام تعلم". هذا ليس ترقية سحرية للدماغ؛ إنه أشبه بحقيبة ظهر مليئة بالملاحظات اللاصقة. في كل مرة يرتكب فيها الروبوت خطأً، يكتب إنسان (أو في هذه الحالة، روبوت أذكى) ملاحظة على ورقة لاصقة تشرح لماذا كان خطأً وما هي الإجابة الصحيحة. ثم ينظر الروبوت إلى هذه الملاحظات عندما يواجه مشكلة جديدة مشابهة.
المشكلة هي أن البشر في العالم الحقيقي مشغولون. هم يكتبون هذه الملاحظات فقط عندما يرتكب الروبوت خطأً سيئًا حقًا يتسبب في أزمة. وهذا يعني أن الروبوت يحصل على ملاحظات قليلة جدًا، وتأتي في أوقات عشوائية. لذا، كيف تعرف ما إذا كانت حقيبة الملاحظات تساعد الروبوت على التعلم فعليًا؟
عادةً، ستعطي الروبوت اختبارًا مع نموذج إجابة. ولكن في الأمن السيبراني، نموذج الإجابة هذا غير موجود بعد لأن التهديدات جديدة. لا يمكنك الانتظار للحصول على اختبار مثالي؛ أنت بحاجة لمعرفة ما إذا كان نظام التعلم يعمل الآن.
خدعة المعلم والطالب
ابتكر مؤلفو هذه الورقة حلاً عبقريًا: فرضية القياس (The Scaling Hypothesis). فكر في هذا كعائلة من الروبوتات. لديك روبوت صغير ومبتدئ (الطالب) وروبوت عملاق وكبير (المعلم) من نفس العائلة. ولأن الروبوت الكبير أكبر وقد رأى المزيد من البيانات، فهو دائمًا ما يكون أذكى.
إليك التجربة التي أجروها:
- أخذوا مجموعة من رسائل البريد الإلكتروني وطلبوا من المعلم فرزها. وبما أن المعلم ذكي جدًا، فقد عامل المؤلفون إجابات المعلم على أنها "الحقيقة" (على الرغم من عدم امتلاكهم لنموذج إجابة بشري).
- أعطوا الطالب نفس رسائل البريد الإلكتروني.
- تركوا الطالب يرتكب الأخطاء، ثم أعطوه بعض "الملاحظات اللاصقة" (التصحيحات) بناءً على ما قال المعلم إنه صحيح.
- راقبوا ما إذا كان الطالب سيصبح أفضل في مطابقة إجابات المعلم.
السؤال الكبير كان: هل يعني تحسن الطالب في مطابقة المعلم أن الطالب يتحسن فعليًا في المهمة الحقيقية؟
لمعرفة ذلك، أجروا اختبارًا سريًا. كان لديهم بعض رسائل البريد الإلكتروني مع نماذج إجابة بشرية حقيقية ("المعيار الذهبي") احتفظوا بها سرية خلال عملية التعلم. تحققوا مما إذا كان تحسن الطالب نحو المعلم يتوافق مع تحسنه نحو الإجابات البشرية الحقيقية.
النتيجة: لقد نجح الأمر! وجدت الورقة صلة قوية. عندما تعلم الطالب محاكاة المعلم، فقد أصبح أيضًا أفضل في الاختبار البشري الحقيقي. هذا يشير إلى أنه إذا استخدمت ذكاءً اصطناعيًا فائق الذكاء لتقييم نظام التعلم الخاص بك، وتحسن النظام، يمكنك أن تثق في أنه سيتحسن أيضًا مع التعليقات البشرية الحقيقية. إنه يشبه قول: "إذا بدأ طالبي يفكر مثل أستاذي العبقري، فمن المحتمل أنه يتعلم شيئًا قيمًا، حتى لو لم يكن لدي الامتحان النهائي بعد".
فخ القاضي من "نفس القوة"
لكن كانت هناك مفاجأة. اختبر المؤلفون أيضًا فكرة مختلفة يستخدمها الكثيرون: الذكاء الاصطناعي كقاضٍ (LLM-as-a-Judge). وهذا عندما تطلب من روبوت بنفس حجم وذكاء الطالب أن يقرر أي نسخة هي الأفضل: النسخة التي تحمل حقيبة الظهر التعليمية أم النسخة التي بدونها.
تخيل أنك تطلب من طفلين في العاشرة من عمرهما أن يحكما من منهما أفضل في الرياضيات. إذا كان لدى أحدهما نموذج إجابة مرجعي، فهل سيلاحظ الآخر ذلك؟ وجدت الورقة أن لا، لن يلاحظوا.
عندما استخدم المؤلفون قاضيًا من "نفس القوة"، كانت النتائج فوضوية:
- التحيز: غالبًا ما كان القضاة يختارون الإجابة الأولى التي رأوها، بغض النظر عما إذا كانت صحيحة أم لا.
- تفضيل الذات: مال القضاة إلى تفضيل الإجابات من الروبوت الذي يشبههم (الذي بدون حقيبة الظهر) ورفضوا النسخة المحسنة.
- الموثوقية: عندما كان القاضي محقًا، كان محقًا في نصف الحالات تقريبًا فقط (48% لبعض النماذج، وهو ما يعادل تقريبًا رمية عملة معدنية).
تستبعد الورقة صراحةً استخدام ذكاء اصطناعي من نفس الحجم للقيام بهذه المهمة. وتقترح أن الروبوت لا يمكنه التعرف بشكل موثوق على متى تحسن روبوت آخر من مستواه. إنه يشبه طلب من شخص لا يعرف الإجابة أن يصحح اختبارًا؛ فهو ببساه لا يستطيع التمييز بين التخمين الجيد والتخمين الرائع.
ماذا يعني هذا للمستقبل
يؤكد المؤلفون أنهم لا يقولون إن هذه الطريقة هي حل سحري يحل كل شيء للأبد. هم يقترحون أن طريقة "المعلم-الطالب" هذه هي وسيلة صالحة لقياس أدوات التعلم عندما لا تتوفر لديك تصنيفات. لقد أظهروا أنه كلما زادت الفجوة في الذكاء بين المعلم والطالب، أصبح الاختبار أكثر موثوقية. إذا كان المعلم أذكى بقليل فقط، يصبح الاختبار غير دقيق.
كما يشيرون إلى أن هذا يعمل بشكل أفضل عندما تكون التصحيحات "متفرقة" و"عالية الدقة" — مما يعني أنه يتم إصلاح الأخطاء المهمة حقًا فقط، تمامًا كما يحدث في العالم الحقيقي.
لذا، الخلاصة للمراهق الفضولي هي: في عالم لا يمكننا فيه دائمًا الحصول على نموذج إجابة مثالي، يمكننا استخدام ذكاء اصطناعي "فائق الذكاء" لتقييم أدوات التعلم الخاصة بنا. إذا ساعدت الأداة الطالب على التصرف مثل الذكاء الاصطناعي فائق الذكاء، فمن المحتمل أنها أداة جيدة. ولكن لا تطلب من الذكاء الاصطناعي المتوسط أن يقيم أصدقاءه؛ فسيكونون متحيزين فقط وسيفوتهم التحسن. هذا يعطي فرق الأمن طريقة جديدة لبناء روبوتات أفضل ذاتية التعلم دون الحاجة إلى جبل من البيانات المصنفة بشريًا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.