Agents Explore but Agents Ignore: LLMs Lack Environmental Curiosity
تكشف هذه الورقة أن الوكلاء الحاليين القائمين على النماذج اللغوية الكبيرة يفتقرون إلى "الفضول البيئي"، حيث يفشلون بشكل متكرر في إدراك واستغلال المعلومات غير المتوقعة وذات الصلة بالمهمة التي يكتشفونها في بيئاتهم رغم معدلات الكشف العالية، وهو قصور مدفوع بعوامل مثل توفر الأدوات، والحوسبة، وبيانات التدريب التي تحد في نهاية المطئ من أدائهم العام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الكبرى: المحقق "الذكي ولكن الغافل"
تخيل أنك وظفت محققاً بارعاً (عميل ذكاء اصطناعي) لحل لغز ما. أعطيته عدسة مكبرة وخريطة. إنه بارع جداً في النظر حوله. وجد ملاحظة مخفية على الأرض تقول: "حل هذا اللغز مكتوب هنا تماماً في هذه الملاحظة".
في العالم المثالي، سيقوم المحقق بالتقاط الملاحظة، وقراءتها، وحل القضية فوراً.
لكن في هذه الورقة البحثية، وجد المؤلفون أن المحققين الحاليين من الذكاء الاصطناعي عنيدون بشكل غريب. يجدون الملاحظة، يلقون نظرة عليها، ثم يضعونها فوراً ويعودون للمشي في أرجاء الغرفة، محاولين حل اللغز "بالطريقة الصعبة" وكأنهم لم يروا الملاحظة أبداً.
تسمي الورقة هذه السمة المفقودة "الفضول البيئي" (Environmental Curiosity). وهو القدرة على قول: "مهلاً، لقد وجدت شيئاً غير متوقع قد يساعدني. دعني أستقصي الأمر!" بدلاً من مجرد الالتزام بنص أو خطة مسبقة.
التجربة: اختبار "شفرة الغش"
لإثبات ذلك، وضع الباحثون لعبة تتكون من ثلاثة أنواع مختلفة من الألغاز (تسمى معايير الاختبار: Terminal-Bench و SWE-Bench و AppWorld).
الإعداد:
قاموا بإخفاء الحل الكامل للغز أمام أعين الذكاء الاصطناعي مباشرة وبشكل سري.
- في بعض الحالات، تركوا ملفاً باسم
solution.sh(مثل شفرة الغش) في المجلد. - وفي حالات أخرى، أضافوا أمراً خاصاً إلى قائمة تقول حرفياً: "اكتب هذا للحصول على الإجابة".
النتائج:
- الاكتشاف: وجد الذكاء الاصطناعي شفرة الغش في كل مرة تقريباً (بنسبة 80-90% من الوقت). لقد رأى الملف. قرأ القائمة.
- التفاعل: ولكن ماذا بعد ذلك؟ لقد تجاهلها.
- في اختبار "AppWorld"، رأى الذكاء الاصطناعي زر "الحصول على الحل" بنسبة 97% من المرات، لكنه ضغط عليه في أقل من 1% من الحالات.
- كان الأمر أشبه بطاهٍ يجد بطاقة وصفة مكتوب عليها "إليك الكعكة الجاهزة" ولكنه يقرر خبز الكعكة من الصفر لأنه لا يريد كسر روتينه.
لماذا يحدث هذا؟ (المتهمون الثلاثة)
بحث الباحثون في سبب تصرف الذكاء الاصطناعي بهذا الشكل ووجدوا ثلاثة أسباب رئيسية:
1. كثرة الأدوات (مشكلة "السكين السويسري")
عندما يمتلك الذكاء الاصطناعي أداة بسيطة (مجرد سطر أوامر أساسي)، فإنه يضطر للنظر حوله ليفهم الأمور. ولكن عندما تعطيه أدوات متطورة (مثل محرر ملفات فائق القوة)، يصبح كسولاً.
- التشبيه: إذا أعطيت طفلاً عصا بسيطة، فقد يبحث حوله ليرى ما يمكنه وخزه به. أما إذا أعطيته مؤشراً ليزرياً عالي التقنية، فسيبدأ فقط بالضغط على الأزرار دون النظر إلى الغرفة. كلما زادت الأدوات التي يمتلكها، قلّ نظرُه إلى محيطه الفعلي.
2. عدم التفكير بعمق كافٍ (مقايضة "السرعة مقابل العمق")
عندما يُطلب من الذكاء الاصطناعي "التفكير بجهد أكبر" أو يُمنح مزيداً من الوقت للتفكير، يصبح أكثر فضولاً قليلاً.
- التشبيه: إذا استعجلت شخصاً ما، فقد يفوت علامة معلقة على الجدار. أما إذا قلت له: "خذ وقتك وانظر جيداً حولك"، فمن المرجح أن يلاحظ العلامة. ولكن حتى عندما يفكر بعمق، فإنه لا يزال غالياً ما يغفل عن شفرة الغش الواضحة.
3. التدريب السيئ (مشكلة "المتخصص الضيق")
هذه هي المشكلة الأكبر. يتم تدريب الذكاء الاصطناعي على أنواع محددة من المهام. إذا تعلم فقط كيفية إصلاح الأكواد البرمجية، فسيصبح بارعاً جداً في إصلاح الأكواد، لكنه سينسى كيف يكون فضولياً بشأن أي شيء آخر.
- التشبيه: تخيل تدريب كلب على جلب كرة التنس فقط. إذا رميت له قرصاً طائراً (Frisbee)، فقد يتجاهله الكلب لأنه لم يتعلم أبداً أن يكون فضولياً تجاه الأقراص الطائرة. يتم تدريب الذكاء الاصطناعي على اتباع مسار محدد، لذا عندما يرى طريقاً مختصراً، يفكر: "هذا ليس المسار الذي تدربت عليه"، ويستمر في المشي في الطريق الطويل.
حل "المطالبة السحرية" (ولماذا لا يكفي)
حاول الباحثون إصلاح ذلك عبر إعطاء الذكاء الاصطناعي تعليمات خاصة: "كن فضولياً! انظر إلى كل ما تجده قبل أن تتصرف!"
- الأخبار الجيدة: ساعد هذا الأمر! بدأ الذكاء الاصطناعي ينظر إلى شفرات الغش بشكل أكثر تكراراً، وبالفعل حل الألغاز بشكل أفضل.
- الأخبار السيئة: حتى مع أفضل التعليمات، وأفضل الأدوات، وأكبر وقت للتفكير، ظل الذكاء الاصطناği يتجاهل الحل في أكثر من نصف الحالات.
الخلاصة: لماذا يجب أن نهتم؟
تخلص الورقة البحثية إلى أن وكلاء الذكاء الاصطناعي الحاليين هم مولدات مفتوحة الحلقة (open-loop generators). إنهم مثل قطار على سكة حديد: يتحركون للأمام، يبحثون عن المحطة التالية التي يتوقعون رؤيتها، ويستمرون في المضي قدماً. ليس لديهم القدرة على قول: "مهلاً، أرى مساراً جديداً يتفرع من هنا. ربما يجب أن أسلك هذا الطريق بدلاً من ذلك".
لماذا يهم هذا؟
- الواقع معقد: في العالم الحقيقي، لا يمكنك التنبؤ بكل شيء. أنت بحاجة إلى وكيل يمكنه رصد المفاجآت والتكيف معها.
- هشاشة الذكاء الاصطناعي: إذا كان الذكاء الاصطناعي يتبع نصاً فقط، فسيفشل بمجرد أن يتغير العالم قليلاً.
- المستقبل: لبناء ذكاء اصطناعي حقيقي، نحتاج لتعليمهم ليس فقط كيفية أداء المهام، بل كيفية ملاحظة متى يحدث شيء غير متوقع وتغيير خطتهم.
باختاً: وكلاء الذكاء الاصطناعي لدينا أذكياء للغاية في اتباع التعليمات، لكنهم سيئون بشكل مفاجئ في كونهم فضوليين. إنهم يجدون "شفرات الغش" ولكنهم يرفضون استخدامها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.