From Brute Force to Semantic Insight: Performance-Guided Data Transformation Design with LLMs

تخيل أنك تحاول تعليم روبوت كيفية التعرف على القطط في الصور. يمكنك ببساطة أن تريه مليون صورة لقطط، لكن هذا أمر ممل وأحياناً يصاب الروبوت بالارتباك بسبب الإضاءة أو الزاوية. هناك خدعة أذكى، وهي أن تري الروبوت نفس القطة، ولكن بشكل ملتوٍ، أو ممدد، أو بألوان مختلفة، أو مكبرة ومصغرة. يُسمى هذا "تعزيز البيانات" (Data Augmentation). إنه يشبه إعطاء الروبوت منظاراً من الرؤى المتغيرة (كالمنظار الملون) ليتعلم كيف تبدو القطة حقاً، وليس مجرد صورة واحدة محددة.

لفترة طويلة، كان تحديد أفضل طريقة لالتواء وتمديد هذه الصور عملية تعتمد على التخمين. كان العلماء إما يجربون مجموعات عشوائية (القوة الغاشمة - Brute Force) أو يستخدمون رياضيات معقدة للبحث عن الوصفة المثالية. ولكن ظهر لاعب جديد في الساحة: النماذج اللغوية الكبيرة (LLMs). قد تعرفها بصفتها برامج الدردشة الذكية للغاية التي يمكنها كتابة القصص أو الأكواد البرمجية. السؤال الكبير كان: هل يمكن لهذه الدردشة الآلية، وهي بارعة في الكلمات، أن تكون بارعة أيضاً في كتابة الكود الذي يلتوي صورنا لجعل الروبوت أكثر ذكاءً؟ كان التحدي هو أن هذه الدردشة الآلية تتعلم عادةً من النصوص، وليس من التغذية الراجعة مثل "هل جعل هذا الكود الروبوت أكثر ذكاءً؟". هذا البحث يتعمق في هذه المشكلة تحديداً، متسائلاً عما إذا كان بإمكاننا تعليم الدردشة الآلية كتابة كود أفضل لخلط الصور من خلال عرض النتائج عليها، بدلاً من مجرد إعطائها كتاباً مدرسياً.

من ألعاب التخمين إلى التدريب الذكي

قرر الباحثون من جامعة فورسبورغ (University of Würzburg) التوقف عن التخمين والبدء في التدريب. أرادوا معرفة ما إذا كان بإمكانهم تحويل برنامج دردشة آلي قياسي إلى طاهٍ ماهر في تحويلات البيانات. فبدلاً من مجرد طلب "اكتب بعض الكود لالتواء الصور" من الدردشة الآلية، بنوا نظاماً يمكن للدردشة من خلاله "تذوق" النتائج.

مطبخ "القوة الغاشمة"
أولاً، احتاجوا إلى كتاب طبخ ضخم للتعلم منه. لم يكتفوا بسؤال الدردشة الآلية للتخمين؛ بل أجروا تجربة "قوة غاشمة". تخيل طاهياً يخلط المكونات عشوائياً في المطبخ 6,000 مرة. لقد أخذوا 6,000 تركيبة مختلفة من التواءات الصور (مثل تغيير الحجم، أو القلب، أو تغيير الألوان) واختبروا كل واحدة منها على نموذج بسيط للتعرف على الصور. لم يهتموا بالوصفة؛ بل اهتموا فقط بالنتيجة. هل ساعد هذا المزيج المحدد من الالتواءات النموذج على التعرف على الصور بشكل أفضل؟ لقد سجلوا النتيجة لكل واحدة منها. أنشأ هذا قاعدة بيانات ضخمة تضم أكثر من 6,000 "وصفة" وما يقابلها من "درجات التذوق".

تعليم الدردشة الآلية التذوق
بعد ذلك، أخذوا برنامج دردشة برمجي قوي (Olympic Coder 7B) وأعطوه نظاماً غذائياً خاصاً. لم يكتفوا بتغذيته بالكود؛ بل غذيوه بأزواج من الكود والدرجات. أظهروا للدردشة الآلية: "إليك وصفة حصلت على درجة منخفضة. وإليك وصفة حصلت على درجة عالية. هل يمكنك رؤية الفرق؟"

استخدموا تقنية تسمى "التكيف منخفض الرتبة" (LoRA)، وهي تشبه إعطاء الدردشة الآلية نظارات خاصة تساعدها على التركيز على التفاصيل الأكثر أهمية دون إعادة كتابة دماغها بالكامل. تعلمت الدردشة الآلية النظر إلى الكود والتنبؤ: "إذا كتبت كوداً مثل هذا، فإن الدرجة سترتفع. إذا كتبت كوداً مثل ذاك، فإن الدرجة ستنخفض". لم تكن تحفظ الكلمات بدقة؛ بل كانت تتعلم "شعور" ما يجعل التحويل جيداً.

النتائج: تخمين أقل، عبقرية أكثر
كانت النتائج واضحة بشكل مدهش. عندما طُلب من الدردلة الآلية كتابة الكود قبل هذا التدريب، كان الأمر كارثياً نوعاً ما. فقد نجحت في ضبط الصيغة البرمجية (Syntax) بنسبة 22% فقط، وكان متوسط درجات ابتكاراتها منخفضاً جداً (حوالي 0.10). كان الأمر يشبه طالباً لم يدرس، يكتب الإجابات عشوائياً في اختبار.

ولكن بعد التدريب؟ أصبحت الدردشة الآلية محترفة.

• الكفاءة: الطريقة القديمة "القوة الغاشمة" كان عليها تجربة 6,000 تركيبة عشوائية لإيجاد الأفضل منها. أما الدردلة الآلية المدربة، فقد احتاجت فقط لتجربة 280 مرشحاً (10 يومياً لمدة 28 يوماً) لتجد حلولاً لا تقل جودة، بل وتتفوق على غيرها. كان الأمر يشبه العثور على إبرة في كومة قش من خلال معرفة المكان الذي تحب الإبرة الاختباء فيه بالضبط، بدلاً من البحث في كومة القش بأكملها.
• ذكاء وليس مجرد قوة: لم تكتفِ الدردلة الآلية بنسخ أفضل الوصفات التي رأتها، بل تعلمت المنطق. على سبيل المثال، أدركت أن تغيير حجم الصورة إلى حجم معين (مثل 256 بكسل) كان غالباً مفتاحاً للحصول على درجة عالية. لقد فهمت العلاقة بين الكود والنتيجة، بدلاً من مجرد حفظ الكود نفسه.
• فخ "سلسلة الأفكار": جرب الباحثون شيئاً مثيراً للاهتمام. طلبوا من الدردلة الآلية أن "تفكر خطوة بخطوة" وتشرح منطقها قبل كتابة الكود (وهي حيلة مشهورة تسمى "سلسلة الأفكار" - Chain-of-Thought). ومن المثير للدهشة أن هذا جعل الأمور أسوأ. فقد ارتبكت الدردلة الآلية بسبب الكلمات الإضافية التي توجب عليها كتابتها، وانخفض أداؤها. اتضح أنه بالنسبة لهذه المهمة المحددة، تعمل الدردلة الآلية بشكل أفضل عندما تذهب مباشرة إلى الكود، دون الشرح الطويل الممل.

ماذا يعني هذا؟
يشير هذا البحث إلى أننا لسنا بحاجة إلى أنظمة مكافأة معقدة أو معلمين بشريين لجعل الذكاء الاصطناي أفضل في البرمجة. نحتاج فقط إلى إظهار النتائج للذكاء الاصطناعي. من خلال إنشاء حلقة حيث يكتب الذكاء الاصطناعي الكود، ويختبره، ويتعلم من الدرجة، يمكنه تلقائياً اكتشاف كيفية كتابة كود أفضل.

توضح الدراسة أنه بينما يمكن للدردلة الآلية تعلم كتابة كود يحسن التعرف على الصور، إلا أنها ليست عصا سحرية تعمل مع كل شيء. لقد اختبر الباحثون ذلك فقط على نوع واحد من نماذج الصور (ResNet) ومجموعة بيانات واحدة (CIFAR-10). وهم يقترحون أن أفضل طريقة لالتواء الصورة قد تعتمد بشكل كبير على الروبوت المحدد والصور التي ينظر إليها. لكن الخلاصة الكبرى مثيرة: يمكن للذكاء الاصطناعي أن يتعلم كيف يكون مهندساً أفضل ببساطة من خلال مراقبة ما ينجح وما لا ينجح، محولاً لعبة التخمين الفوضوية إلى اكتشاف ذكي وموجه.