تخيل أنك تحاول تعليم روبوت كيف يكون مفيداً، ولطيفاً، وذكياً. لا يمكنك ببساطة برمجته بقواعد جامدة؛ لأن التفضيلات البشرية فوضوية ومعقدة. بدلاً من ذلك، تعرض على الروبوت آلاف الأمثلة على الإجابات "الجيدة" مقابل الإجابات "السيئة"، وتتركه يتعلم ما يحبه البشر. هذا هو عالم التعلم المعزز من التعليقات البشرية (RLHF)، وهي تقنية تساعد نماذج الدردشة الآلية العملاقة على التوافق مع قيمنا. وللقيام بذلك، يستخدم الذكاء الاصطائي "نموذج مكافأة"، يعمل كمعلم صارم يصحح واجبات الروبوت المدرسية. لكن الجزء الصعب هنا هو أن هذا المعلم أحياناً يكون "صندوقاً أسود". نحن نعرف أنه يعطي درجة عالية لإجابة جيدة، لكننا لا نعرف لماذا قرر ذلك. هل كان السبب لأن الإجابة مضحكة؟ أم لأنها مهذبة؟ أم لأنها اتبعت تنسيقاً معيناً؟

لحل هذه المشكلة، حاول الباحثون مؤخراً بناء نموذج مكافأة يعتمد على "خليط من الخبراء" (Mixture-of-Experts - MoE). فكر في هذا ليس كمعلم واحد ضخم، بل كفصل دراسي يضم 20 متخصصاً مختلفاً. عندما يأتي سؤال، يقوم "الموجه" (الذي يشبه مدير المدرسة) بالنظر في السؤال ويقرر أي متخصص يجب أن يصحح الإجابة. ربما يكون أحد الخبراء بارعاً في الرياضيات، وآخر في الكتابة الإبداعية، وثالث في تقديم المشورة القانونية. كان الهدف هو جعل هؤلاء الخبراء سهلين الفهم من خلال النظر في نوع الأسئلة التي يتلقونها. ولكن، كما تشير الورقة البحثية التي سنستعرضها، فإن مجرد معرفة من تلقى السؤال لا يخبرك كيف قام بتقييم الإجابة.

هذه الورقة البحثية، بعنوان "ما وراء أوزان التوجيه" (Beyond Routing Weights)، تقدم طريقة جديدة لإلقاء نظرة داخل عقول هؤلاء المتخصصين في الذكاء الاصطناعي. يرى المؤلفون، وهم فريق من جامعة سارلاند ومؤسسات أخرى، أن مجرد النظر إلى الأسئلة التي يتلقاها المتخصص يشبه الحكم على طاهٍ فقط من خلال المكونات التي وُضعت بين يديه، دون تذوق الطبق. بدلاً من ذلك، يقترحون طريقة تسمى التباين المساهم (CoCo). تنظر تقنية CoCo إلى اللحظات المحددة التي صنع فيها رأي المتخصص الفرق الأكبر بين إجابة "جيدة" وإجابة "سيئة". ومن خلال مقارنة هذه الأزواج، تكشف CoCo بالضبط عما يهتم به الخبير — سواء كان ذلك "الاختصار" أو "استخدام المنطق خطوة بخطوة". لقد اختبر الباحثون هذه الطريقة على مجموعتي بيانات ضخمتين ووجدوا أن CoCo تعطي صورة أوضح، وأكثر صدقاً، وأكثر تفصيلاً لما يفعله هؤلاء الخبراء فعلياً، دون جعل الذكاء الاصطناعي أقل دقة في أداء مهمته.

المشكلة: "المدير" مقابل "الطاهي"

في عالم نماذج مكافأة الذكاء الاصطناعي، يشبه إعداد "خليط من الخبراء" مدرسة بها مدير ومعلمين كثيرين. يقرأ المدير (الموجه) سؤال الطالب ويقرر أي معلم هو الأنسب لتصحيحه. إذا كان السؤال عن الطبخ، يرسله المدير إلى "خبير الطهي". وإذا كان عن البرمجة، يذهب إلى "خبير البرمجة".

لفترة من الوقت، اعتقد الباحثون أن بإمكانهم فهم هؤلاء الخبراء بمجرد النظر إلى ملاحظات المدير. كانوا يقولون: "آه، خبير الطهي يتلقى معظم الأسئلة المتعلقة بالخبز، إذاً لا بد أنه 'خبير الخبز'". وهذا ما يسمى بالنظر إلى أوزان التوجيه (routing weights).

لكن مؤلفي هذه الورقة أدركوا أن هذا يشبه إلى حد ما الحكم على طاهٍ من خلال المكونات التي قُدمت له، بدلاً من الوجبة التي طبخها. فمجرد تلقي خبير الطهي لسؤال حول الخبز لا يخبرك كيف حكم على الإجابة. هل فضل الوصفات التفصيلية؟ هل كره الشروحات الطويلة؟ هل اهتم بتحذيرات السلامة؟ أوزان التوجيه تخبرك فقط من الذي حصل على العمل، وليس كيف قام به. إنها قصة ناقصة تغفل الجزء الأهم: عملية اتخاذ القرار الفعلية.

الحل: CoCo (التباين المساهم)

لإصلاح ذلك، اخترع الفريق CoCo، وهي اختصار لـ Contribution-Contrast (التباين المساهم). بدلاً من مجرد السؤال: "أي خبير حصل على هذا السؤال؟"، تسأل CoCo: "أي خبير أحدث الفرق الأكبر في تقرير أن هذه الإجابة أفضل من تلك؟".

تخيل أنك قاضٍ في مسابقة طبخ. لديك طبقان: أحدهما لازانيا مثالية، والآخر محترقة قليلاً.

• الطريقة القديمة (أوزان التوجيه): تنظر إلى ورقة الدرجات وترى أن "الخبير الإيطالي" تم تعيينه للحكم في هذه الجولة. تستنتج: "الخبير الإيطالي يحب المعكرونة". لكنك لا تعرف ما إذا كان قد أحب اللازانيا لأنها كانت مليئة بالجبن، أو لأنها كانت ساخنة، أو لأنها تحتوي على الريحان.
• طريقة CoCo: تنظر إلى ورقة الدرجات وترى أن "الخبير الإيطالي" منح اللازانيا دفعة هائلة من النقاط مقارنة بالطبق المحترق، بينما كان الخبراء الآخرون محايدين في الغالب. تقول CoCo حينها: "آها! الخبير الإيطالي يحب تحديداً اللازانيا الغنية بالجبن، والساخنة، والمزينة بالريحان".

تعمل CoCo من خلال إيجاد أزواج الإجابات التي كان رأي الخبير فيها هو العامل الحاسم. فهي تضرب شيئين في بعضهما البعض:

1. مدى احتمالية حصول الخبير على السؤال (وزن التوجيه).
2. مقدار التغيير الذي أحدثه سكور (درجة) الخبير في النتيجة النهائية (الفرق بين الإجابة "الجيدة" والإجابة "السيئة").

من خلال التركيز على هذه اللحظات عالية التأثير، يمكن لـ CoCo توليد وصف للخبير يكون أميناً لسلوكه الفعلي. فهي لا تكتفي بالقول "هذا الخبير يتعامل مع أسئلة الطبخ"؛ بل تقول "هذا الخبير يفضل تعليمات الطبخ المفصلة والخطوات المتسلسلة على الاقتراحات الغامضة".

ما وجدوه: صورة أوضح

اختبر الباحثون CoCo مقابل طرق أخرى، بما في ذلك طريقة "أوزان التوجيه" القديمة وبعض التقنيات المتطورة الأخرى التي تستخدم ما يسمى "المشفرات التلقائية المتفرقة" (Sparse Autoencoders) (والتي تشبه محاولة العثور على أنماط مخفية في كومة ضخمة من البيانات). وقد اختبروا ذلك على مجموعتي بيانات ضخمتين: إحداهما تضم 700,000 مثال والأخرى من موقع Reddit.

كانت النتائج واضحة تماماً. أنتجت CoCo تفسيرات كانت:

• أكثر أمانة: تطابقت الأوصاف مع ما فعله الخبراء فعلياً في عملية اتخاذ القرار للذكاء الاصطناعي. فعندما أزال الباحثون الخبير من الذكاء الاصطناعي، تغير سلوك الذكاء الاصطناعي تماماً كما توقعت CoCo.
• أكثر تخصصاً: كانت الشخصيات التي وصفتها CoCo متميزة جداً. فقد يكون أحدها "شرطي القواعد الصارم"، بينما يكون الآخر "الحكواتي المبدع". أما الطرق الأخرى فغال ختمت بوصف غامض أو مكرر.
• بنفس القدر من الدقة: والأهم من ذلك، أن استخدام CoCo لفهم الخبراء لم يجعل الذكاء الاصطناعي أسوأ في أداء مهمته. ظل نموذج المكافأة جيداً كما كان في اختيار أفضل الإجابات.

وفي الاختبارات البشرية، حيث قرأ الأشخاص أوصاف الخبراء، صنفوا أوصاف CoCo بأنها الأكثر تماسكاً وفائدة. لقد استطاعوا حقاً فهم ما يجيده كل "معلم" في الفصل الدراسي.

لماذا يهم هذا؟

تشير هذه الورقة إلى أنه إذا أردنا حقاً فهم كيفية اتخاذ الذكاء الاصطناعي للقرارات، فنحن بحاجة إلى النظر إلى ما وراء السطح. مجرد معرفة الموضوع الذي يتعامل معه خبير الذكاء الاصطناعي ليس كافياً؛ بل نحتاج إلى معرفة كيف يقيم جودة الاستجابة. توفر CoCo طريقة للقيام بذلك دون الحاجة إلى إعادة تدريب الذكاء الاصطناعي أو إضافة طبقات معقدة جديدة. إنها أداة لـ "تدقيق" الذكاء الاصطناعي، مما يساعدنا على رؤية ما إذا كان معلمونا الرقميون يعلمون حقاً ما نعتقد أنهم يعلمونه.

ويشير المؤلفون بحذر إلى أن هذا ليس عصا سحرية تكشف "الأفكار" الحقيقية المخفية للذكاء الاصطناعي. فجودة التفسير تعتمد على مدى جودة تدريب الذكاء الاصطناعي في المقام الأول. فإذا كانت بيانات التدريب فوضوية، فقد يكون الخبراء فوضويين أيضاً. ومع ذلك، ضمن حدود التكنولوجيا الحالية، توفر CoCo النافذة الأكثر صدقاً وتفصيلاً التي نملكها في عقول هذه النماذج المتخصصة في مكافآت الذكاء الاصطناعي. إنها تنقلنا من مرحكن التخمين حول ما يفعله الخبراء بناءً على من يتحدثون إليهم، إلى فهم كيفية تقييمهم للعمل الذي يقومون به بدقة.