← أحدث الأبحاث
🤖 AI

Humans Are More Diverse: Frontier LLMs Show Extreme Policies in Idealised AI Development Races

تُثبت هذه الورقة أن النماذج اللغوية الكبيرة الرائدة تُظهر سلوكيات متنوعة للغاية وغير استراتيجية في كثير من الأحيان في سباقات تطوير الذكاء الاصطناعي المحاكية، مما يكشف أن الاستدعاء القوي للقواعد لا يضمن تتبع الحالة أو حساب العوائد بدقة، الأمر الذي يستلزم إجراء فحوصات صلاحية صارمة وتحليلات على مستوى المسار قبل تفسير أفعالها على أنها شبيهة بالبشر أو واعية بالسلامة.

المؤلفون الأصليون: Phu Hoa Pham, Duy Minh Dao Sy, Trung Kiet Huynh, Phu Quy Nguyen Lam, Chi Nguyen Tran, Minh Trung Le, Phong Hao Le, Dinh Nam Nguyen, Thien Ky Nguyen Dong, Elias Fernandez Domingos, Le Hong Trang, The A
نُشر 2026-08-04
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Phu Hoa Pham, Duy Minh Dao Sy, Trung Kiet Huynh, Phu Quy Nguyen Lam, Chi Nguyen Tran, Minh Trung Le, Phong Hao Le, Dinh Nam Nguyen, Thien Ky Nguyen Dong, Elias Fernandez Domingos, Le Hong Trang, The Anh Han

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل لعبة "تحدي" (Chicken) عالية المخاطر، لا تُلعَب بالسيارات، بل بمستقبل الذكاء الاصطناائي. في هذا السيناريو، تتسابق شركات متعددة لبناء أذكى ذكاء اصطناعي. ويواجهون خياراً صعباً في كل جولة: إما اللعب بأمان والتحرك ببطء، أو اتخاذ طريق مختصر محفوف بالمخاطر للتحرك بشكل أسرع. إذا لعب الجميع بأمان، فسيحصل الجميع على مكافأة جيدة. وإذا اتخذ أحدهم مساراً محفوفاً بالمخاطر بينما يلعب الآخرون بأمان، فإن متخذ المخاطرة سينطلق بسرعة ويفوز بجائزة كبرى. ولكن إذا اتخذ الجميع مخاطرات، فستصبح السباقات خطيرة، وقد يخسر الفائز كل شيء بسبب حادث كارثي. هذا هو "معضلة سلامة الذكاء الاصطناعي"، وهو مفهوم يستخدمه الباحثون لفهم سبب قيام الشركات بتطوير تقنيات خطيرة حتى عندما يعلمون أنها محفوفة بالمخاطر. ولدراسة ذلك، غالباً ما يستخدم العلماء "النماذج اللغوية الكبيرة" (LLMs) — وهي نفس نوع البرامج الحاسوبية الذكية التي يمكنها كتابة القصص أو الإجابة على الأسئلة — لتعمل كلاعبين في هذه السباقات. والسؤال الكبير هو: هل تفهم هذه الوكلاء من الذكاء الاصطناعي اللعبة حقاً وتتخذ خيارات استراتيجية ذكية مثل البشر، أم أنها مجرد تخمين بناءً على كيفية صياغة الأسئلة؟

هذه الورقة البحثية، التي تحمل عنوان "البشر أكثر تنوعاً: تُظهر النماذج اللغوية الكبيرة المتطورة سياسات متطرفة في سباقات تطوير الذكاء الاصطناعي المثالية"، تغوص في أعماق ذلك السؤال. فقد وضع الباحثون سباقاً رقمياً يتنافس فيه وكلاء الذكاء الاصطناعي ضد بعضهم البعض، أحياناً في أزواج وأحياناً في مجموعات تصل إلى خمسة. وقبل أن يتمكنوا من الوثوق بسلوك الذكاء الاصطناعي، بنوا "بوابة تدقيق" صارمة. فكر في هذا الأمر كاختبار قيادة؛ قبل أن تتمكن من السباق على المضمار، يجب أن تثبت أنك تعرف القواعد، ويمكنك قراءة عداد السرعة، وحساب كمية الوقود. ووجدت الدراسة أنه بينما كانت نماذج الذكاء الاصطناعي ممتازة في حفظ كتاب القواعد (استرجاع القواعد)، إلا أنها كانت سيئة بشكل مفاجئ في تتبع السباق أثناء حدوثه (تتبع الحالة). فقد نسيت غالباً من هو الفائز أو مقدار المخاطر التي تراكمت لديهم، رغم قدرتها على سرد القواعد بدقة تامة.

عندما نظر الباحثون في كيفية لعب الذكاء الاصطناعي فعلياً، اكتشفوا شيئاً رائعاً ومقلقاً في آن واحد. فخلافاً للبشر، الذين يظهرون تنوعاً واسعاً في الاستراتيجيات — فمنهم الحذر، ومنهم المندفع، ومنهم من يغير رأيه بناءً على ما فعله خصمه — كانت نماذج الذكاء الاصطناعي جامدة بشكل مثير للدهشة. فإذا طلبت من نموذج ذكاء اصطناعي معين أن يلعب، فإنه سيلتزم بأسلوب لعب ضيق للغاية، مثل روبوت لا يعرف سوى القيادة في خط مستقيم. على سبيل المثال، قد يختار أحد النماذج دائماً الخيار الآمن، بينما يختار نموذج آخر دائماً الطريق المختصر المحفوف بالمخاطر، بغض النظر عن الموقف. وفي المقابل، كان اللاعبون البشر مزيجاً فوضوياً من كل هذه الأساليب. كما وجدت الدراسة أن سلوك الذكاء الاصطناعي كان حساساً للغاية للتغييرات الطفيفة في كيفية وصف اللعبة. فإذا قام الباحثون باستبدال كلمتي "آمن" و"غير آمن" بحروف عشوائية مثل "P" و"Q"، فإن استراتيجية الذكاء الاصطناعي ستنقلب تماماً، رغم أن ميكانيكا اللعبة بقيت كما هي بالضبط. وهذا يشير إلى أن الذكاء الاصطناعي لا "يفكر" حقاً في الاستراتيجية؛ بل هو مجرد رد فعل للكلمات المكتوبة على الشاشة.

كما اختبر الباحثون ما يحدث عندما تطلب من الذكاء الاصطناعي أن يتقمص شخصية "محبة للمخاطرة" أو "متجنبة للمخاطرة". ففي البشر، لا تتغير شخصيتك لمجرد أن شخصاً ما أخبرك بأن تتصرف بشكل مختلف؛ فخياراتك الفعلية في لعبة ما ترتبط ارتباطاً ضعيفاً باختبارات الشخصية التي تسبق اللعبة. لكن بالنسبة للذكاء الاصطناعي، فإن إعطاءه تعليمات بتقمص شخصية "محبة للمخاطرة" جعله يبدأ فوراً في اتخاذ مخاطرات كبيرة، وكأن التعليمات كانت مفتاحاً سحرياً. وهذا يوضح أن الذكاء الاصطناعي لا يُظهر فهماً داخلياً عميقاً للمخاطر؛ بل هو فقط يتبع الأمر (البرومبت) كطالب مطيع جداً ولكنه سهل الارتباك.

في النهاية، تشير الورقة إلى أنه لا يمكننا افتراض أن وكلاء الذكاء الاصطناعي يتخذون قرارات استراتيجية ذكية تشبه قرارات البشر في هذه المحاكاة. فمجرد إنتاج الذكاء الاصطناعي لتسلسل من الحركات التي تبدو كخطة لعب، لا يعني أنه يفهم اللعبة. وتحذر الدراسة من أنه قبل استخدام عمليات محاكاة الذكاء الاصطناعي هذه للتنبؤ بكيفية سير سباقات الذكاء الاصطناعي في العالم الحقيقي، نحتاج إلى التحقق مما إذا كان الذكاء الاصطناعي قادراً بالفعل على تسجيل النقاط وتتبع حالة اللعبة. فبدون هذه الضوابط، قد نخطئ في اعتبار الروبوت المرتبك الذي يتبع نصاً معيناً عبقرياً استراتيجياً، مما قد يؤدي إلى استنتاجات خاطئة تماماً حول كيفية الحفاظ على سلامة تطوير الذكاء الاصطناعي. إن النتائج استكشافية، مما يعني أنها تعتمد على اختبارات محددة ونماذج معينة، لكنها تسلط الضوء على فجوة حاسمة: يمكن للذكاء الاصطناعي أن يكون بارعاً في سرد القواعد ولكنه سيء جداً في تطبيقها في عالم متغير.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →