💻 computer science

Scaling Laws for Moral Machine Judgment in Large Language Models

تُظهر هذه الدراسة أن قدرات الحكم الأخلاقي لنماذج اللغات الكبيرة، والتي تُقاس بمدى توافقها مع التفضيلات البشرية في معضلات الحياة والموت، تتحسن بشكل يمكن التنبؤ به وفقًا لعلاقة قياس قانون القوة مع زيادة حجم النموذج، مع تعزيز الاستدلال الممتد لهذا التوافق لا سيما في النماذج الأصغر.

المؤلفون الأصليون: Kazuhiro Takemoto

نُشر 2026-05-04

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Kazuhiro Takemoto

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت كيفية اتخاذ قرارات صعبة، مثل تحديد من يجب إنقاذه في حادث سيارة. تريد من الروبوت أن يفكر كالبشر. ولكن هل جعل الروبوت "أذكى" (عن طريق منحه قوة دماغية أكبر) يجعله تلقائياً "أكثر لطفاً" أو أكثر تماشياً مع القيم البشرية؟

هذه الورقة البحثية، التي تحمل عنوان "قوانين القياس للحكم الأخلاقي في الآلة"، تجيب على هذا السؤال من خلال اختبار 75 نموذجاً مختلفاً من الذكاء الاصطناعي، تتراوح بين النماذج الصغيرة جداً والضخمة. إليك قصة ما وجدوه، مشروحة ببساطة.

التجربة الكبرى: "الآلة الأخلاقية" (Moral Machine)

استخدم الباحثون اختباراً شهيراً يسمى "الآلة الأخلاقية". تخيل أنها لعبة فيديو حيث يتعين عليك اتخاذ 10,000 قرار مختلف حول من يعيش ومن يموت في حادث تصادم.

المعيار البشري: ملايين البشر الحقيقيين قد لعبوا هذه اللعبة بالفعل. إجاباتهم تشكل "خريطة" لما يفضله البشر عموماً (على سبيل المثال: البشر عادة ما يُفضلون على الحيوانات الأليفة؛ وإنقاذ عدد أكبر من الناس يُفضل عادةً على إنقاذ عدد أقل).
الاختبار: طلب الباحثون من 75 نموذجاً مختلفاً من نماذج الذكاء الاصطناعي لعب نفس اللعبة. وقاسوا مدى ابتعاد إجابات الذكاء الاصطناعي عن "الخريطة" البشرية. كلما اقتربت إجابات الذكاء الاصطناعي من إجابات البشر، كانت النتيجة أفضل.

الاكتشاف الرئيسي: الأدمغة الأكبر = توافق أفضل

وجد الباحثون نمطاً واضحاً وقابلاً للتنبؤ، وهو ما يسمونه "قانون القياس".

فكر في نماذج الذكاء الاصطناعي كطلاب في مدرسة.

النماذج الصغيرة تشبه طلاب المرحلة الابتدائية. إنهم مشتتون للغاية؛ فبعضهم جيد جداً وبعضهم سيء جداً، وإجاباتهم عشوائية وغير منتظمة.
النماذج الكبيرة تشبه مرشحي الدكتوراه. فكلما كبر حجم النماذج (زيادة عدد "المعلمات" أو الـ parameters، والتي تشبه امتلاك المزيد من الخلايا العصبية أو الخلاية الدماغية)، تقترب باستمرار مما يراه البشر صحيحاً.

الرياضيات (بشكل مبسط):
وجد البحث أنه مع زيادة حجم النموذج، تتقلص المسافة عن التفضيلات البشرية. إنه ليس خطاً مستقيماً، بل هو منحنى.

إذا جعلت النموذج أكبر بـ 10 مرات، فإنه لا يصبح أفضل بـ 10 مرات. بل يصبح فقط أقرب بنسبة 21% إلى الأخلاق البشرية.
الأمر يشبه تسلق جبل: كلما ارتفعت، اقتربت من القمة، لكن الخطوات الأخيرة تكون بطيئة جداً وتتطلب جهداً كبيراً.

عامل "التفكير": أدوات التفكير تساعد النماذج الصغيرة

نظر الباحثون أيضاً في النماذج التي تمتلك "وضع تفكير" خاصاً (مثل أخذ نفس عميق والتفكير خطوة بخطوة قبل الإجابة).

النتيجة: النماذج التي تستخدم هذا "التفكير الممتد" هي بشكل عام أفضل في الاختيارات الأخلاقية.
المفاجأة: هذه الحيلة الخاصة بـ "التفكير" تساعد النماذج الصغيرة بشكل أكبر. الأمر يشبه إعطاء آلة حاسبة لطالب ضعيف في الرياضيات؛ فهي تساعده بشكل هائل. أما بالنسبة للنموذج العملاق الذي يمتلك بالفعل دماغاً ضخماً، فإن الآلة الحاسبة تساعده، ولكن ليس بنفس الدرجة الكبيرة. فالنموذج العملاق كبير بما يكفي ليدرك المنطق من تلقاء نفسه.

لماذا هذا مهم (وفقاً للورقة البحثية)

إنه أمر قابل للتنبؤ: يمكنك النظر إلى حجم الذكاء الاصطناعي وتوقع مدى قدرته على التعامل مع المعضلات الأخلاقية. الأمر ليس مجرد حظ عشوائي، بل هو قاعدة طبيعية لهذه الآلات.
إنه ثابت: هذه القاعدة تعمل مع كل أنواع الذكاء الاصطناعي التي اختبروها تقريباً، سواء تم صنعها بواسطة جوجل، أو ميتا، أو باحثين مستقلين.
إنه موثوق: مع كبر حجم النماذج، لا تصبح فقط "أفضل في المتوسط"، بل تصبح أيضاً "أكثر اتساقاً". النماذج الصغيرة فوضوية (أحياناً تكون رائعة وأحياناً سيئة للغاية)، لكن النماذج الكبيرة ثابتة وموثوقة.

ما لا تقوله الورقة البحثية

هي لا تقول إن الذكاء الاصطناعي أصبح الآن "أخلاقياً" بالمعنى البشري. هي تقول فقط إن إجابات الذكاء الاصطناعي تطابق الإحصائيات البشرية بشكل أفضل.
هي لا تقول إنه يجب علينا الاستمرار في صنع نماذج أكبر فحسب. تشير الورقة إلى أنه نظرًا لأن التحسن بطيء (قاعدة الـ 21% تلك)، فإن مجرد جعلها أكبر قد يكون مكلفاً للغاية أو غير فعال. أحياناً، يكون استخدام "أدوات التفكير" طريقاً مختصراً أفضل.
هي لا تدعي أن هذا ينطبق على كل الثقافات. "الخريطة البشرية" التي استخدموها كانت تعتمد بشكل أساسي على أشخاص من دول غربية. وتعترف الورقة بأننا لا نعرف ما إذا كانت هذه القاعدة تعمل بنفس الطريقة بالنسبة لأشخاص في أجزاء أخرى من العالم.

الخلاصة

إذا كنت تريد من الذكاء الاصطناعي اتخاذ قرارات أخلاقية تبدو بشرية، فإن الحجم مهم. النماذج الأكبر هي الأكثر عرضة للاتفاق معنا. ومع ذلك، فإن التحسن بطيء، لذا بالنسبة للنماذج الأصغر، فإن تعليمهم "التفكير" بعناية هو وسيلة قوية للحاق بالركب. وهذا يعطينا قاعدة رياضية تساعدنا في التنبؤ بمدى أمان وموثوقية الذكاء الاصطناعي عندما يتخذ خيارات تتعلق بالحياة أو الموت.

إليك ملخص تقني مفصل لورقة البحث بعنوان "قوانين القياس للحكم الأخلاقي في النماذج اللغوية الكبيرة" للباحث كازوهيرو تاكيموتو.

1. بيان المشكلة

مع تزايد دمج الأنظمة المستقلة (مثل المركبات ذاتية القيادة، والذكاء الاصطناعي الطبي) في أدوار اتخاذ القرار الحرجة للسلامة، فإنها تواجه معضلات أخلاقية تتطلب أحكاماً قائمة على القيم. وبينما أثبتت الأبحاث الحديثة أن القدرات المعرفية في النماذج اللغوية الكبيرة (LLMs) تتبع قوانين قياس يمكن التنبؤ بها (تتحسن مع زيادة عدد المعلمات/Parameters)، إلا أنه لم يتم استكشاف ما إذا كانت قدرات الحكم الأخلاقي تتطور بشكل مماثل.

الفجوة: تعتمد الاختبارات المرجعية الحالية غالباً على إجابات "صحيحة" (الحقيقة الأرضية)، وهو أمر غير مناسب للمعضلات الأخلاقية حيث توجد وجهات نظر متعددة معقولة ولا توجد حقيقة موضوعية واحدة.
السؤال: هل تتحسن قدرات المحاذاة الأخلاقية بشكل يمكن التنبؤ به مع زيادة حجم النموذج، وهل يتبع ذلك علاقة قانون القوة (Power-law) مشابهة للمجالات المعرفية الأخرى؟

2. المنهجية

قيمت الدراسة بشكل منهجي 75 تكويناً من النماذج اللغوية الكبيرة، تراوحت من 0.27 مليار إلى 1,000 مليار معلمة، مغطيةً بنيات متنوعة (Llama, Gemma, Qwen, DeepSeek, Mistral, GPT, Claude) وأنماط استدلال متنوعة (قياسي مقابل ممتد/تفكيري).

أ. إطار التقييم: الآلة الأخلاقية (The Moral Machine)

استخدم المؤلفون إطار عمل "الآلة الأخلاقية"، وهو أداة تم التحقق من صحتها لمعالجة معضلات المركبات ذاتية القيادة.

توليد السيناريوهات: تم توليد 10,000 سيناريو متميز من خلال تغيير تسعة عوامل أخلاقية بشكل منهجي: العمر، الجنس، الحالة الاجتماعية، اللياقة البدنية، النوع (Species)، القانونية، عدد الشخصيات، نوع التدخل، والدور (راكب مقابل مشاة).
المقياس: تم قياس المحاذاة باستخدام متوسط تأثير المكون الهامشي (AMCE). وهذا يحدد التأثير السببي لكل عامل أخلاقي على اتخاذ القرار.
درجة المحاذاة: كان المقياس الأساسي هو المسافة الإقليدية ( $D$ ) بين متجه AMCE ذي الأبعاد التسعة الخاص بالنموذج ومتجه AMCE البشري الإجمالي المستمد من تجربة "الآلة الأخلاقية" الأصلية (40 مليون قرار بشري). تشير المسافة الأقل إلى محاذاة أفضل مع التفضيلات البشرية.

ب. التحليل الإحصائي

توفيق قانون القياس: تم اختبار العلاقة بين حجم النموذج ( $S$ ) والمسافة ( $D$ ) مقابل النماذج الخطية، واللوغاريتمية، والأسية، ونموذج قانون القوة ( $D \propto S^{-\alpha}$ ).
اختبارات المتانة: تم استخدام نماذج التأثيرات المختلطة الخطية للتحكم في المتغيرات المربكة:
- عائلة النموذج: تأثيرات عشوائية للعائلات (DeepSeek, Llama، إلخ) لمراعاة الاختلافات الهيكلية.
- تاريخ الإصدار: متغير مستمر للتحكم في التحسينات الزمنية في بيانات التدريب/المنهجية.
- قدرة الاستدلال: متغير ثنائي (نماذج قياسية مقابل نماذج ممتدة/تفكيرية).
- التفاعل: حد التفاعل بين (الحجم $\times$ الاستدلال).

3. النتائج الرئيسية

أ. علاقة قياس قانون القوة

حددت الدراسة علاقة ثابتة لقانون القوة بين حجم النموذج والمحاذاة الأخلاقية:
$D \propto S^{-0.10 \pm 0.01}$

الملاءمة: حقق نموذج قانون القوة معامل تحديد ( $R^2$ ) قدره 0.50، متفوقاً بشكل كبير على النماذج الخطية ( $R^2=0.16$ )، واللوغاريتمية ( $R^2=0.47$ )، والأسية.
الدلالة: مع زيادة حجم النموذج، تنخفض المسافة عن التفضيلات الأخلاقية البشرية بشكل يمكن التنبؤ به. زيادة المعلمات بمقدار 10 أضعاف تقلل المسافة إلى التفضيلات البشرية بنسبة تقارب 21%.

ب. المتانة تجاه المتغيرات المربكة

أكدت نماذج التأثيرات المختلطة أن علاقة القياس هذه تستمر حتى بعد التحكم في:

عائلة النموذج: يستمر هذا الاتجاه عبر بنيات متنوعة (Llama, Gemma, Qwen، إلخ).
الاتجاهات الزمنية: لم يؤدِ تاريخ الإصدار إلى تحسين ملاءمة النموذج بشكل كبير ( $p=0.76$ )، مما يشير إلى أن التحسينات مدفوعة بالحجم بدلاً من مجرد التقدم الزمني في منهجية التدريب.

ج. دور الاستدلال الممتد

التأثير الرئيسي: أظهرت النماذج ذات قدرات الاستدلال الممتدة (مثل أنماط "التفكير") محاذاة أفضل بشكل ملحوظ ( $\beta = -0.16, p=0.001$ ).
تأثير التفاعل: تم العثور على تفاعل (الحجم $\times$ الاستدلال) ذي دلالة إحصائية ( $p=0.024$ $p = 0.024$ ). وتكون فائدة الاستدلال الممتد أكثر وضوحاً في النماذج الأصغر.
- التفسير: قد تكون النماذج الكبيرة جداً قد استوعبت بالفعل قدرات الاستدلال من خلال الحجم الهائل، بينما تحقق النماذج الأصغر تحسينات جوهرية في المحاذاة من خلال توظيف بنيات استدلال صريحة (مثل سلسلة الأفكام/Chain-of-Thought).

د. تقليل التباين

بالإضافة إلى متوسط المحاذاة، ينخفض التباين في الأداء مع زيادة حجم النموذج. تظهر النماذج الأصغر تبايناً عالياً، بينما تتجمع النماذج الأكبر بإحكام حول اتجاه قانون القوة، مما يشير إلى حكم أخلاقي أكثر موثوقية واتساقاً عند هذا النطاق.

4. المساهمات الرئيسية

أول قانون قياس منهجي للأخلاق: توسيع أبحاث قوانين القياس من المهام ذات الحقيقة الأرضية الموضوعية (مثل الرياضيات والبرمجة) إلى الأحكام القائمة على القيم حيث تُعرّف "الصحة" من خلال المحاذاة مع التفضيلات البشرية.
أساس كمي لحوكمة الذكاء الاصطناي: تقديم دليل تجريبي على أن الحجم الحسابي هو محرك أساسي للمحاذاة الأخلاقية، مما يوفر نموذجاً تنبؤياً لمصممي الأنظمة.
رؤى هيكلية: إثبات أنه بينما يعد الحجم أمراً جوهرياً، فإن الاستدلال الممتد يعمل كمسار تكميلي، وهو أمر بالغ الأهمية خاصة للنماذج ذات الموارد المحدودة (الأصغر) لتحقيق المحاذاة في المهام الحرجة للسلامة.
الصرامة المنهجية: استخدام إطار عمل "الآلة الأخلاقية" لتجنب مشكلات تلوث البيانات الشائعة في الاختبارات المرجعية ذات الإجابات "الصحيحة" الثابتة، والتركيز بدلاً من ذلك على توزيعات التفضيلات.

5. الأهمية والآثار المترتبة

سلامة وحوكمة الذكاء الاصطناعي: تشير النتائج إلى أن تحقيق المحاذاة الأخلاقية على المستوى البشري قد يتطلب زيادات بمقدار عشرة أضعاف (order-of-magnitude) في حجم النموذج أو دمج بنيات الاستدلال الممتد. إن مجرد زيادة المعلمات وحدها قد لا تكون فعالة لتحقيق تحسينات سريعة في المحاذاة.
تقييم المخاطر: يعني انخفاض التباين عند المقاييس الأكبر أن النماذج الأكبر توفر استدلالاً أخلاقياً أكثر قابلية للتنبؤ، وهو أمر بالغ الأهمية للتطبيقات عالية المخاطر (مثل القيادة الذاتية) حيث يمكن أن تكون الأحكام الشاذة كارثية.
التحول النظري: تدعم النتائج الفرضية القائلة بأن نظم القيم البشرية يمكن اكتسابها ضمنياً من خلال التعرض لبيانات تدريب متنوعة، متبعةً قوانين كمية قابلة للتنبؤ تشبه القدرات المعرفية الأخرى.
القيود والعمل المستقبلي: تشير الدراسة إلى أن مقياس "المسافة" يتطلب التحقق من صحته مقابل النتائج في العالم الحقيقي. بالإضافة إلى ذلك، فإن مجموعة البيانات منحازة بشدة نحو التفضيلات الغربية؛ لذا يجب على العمل المستقبلي معالجة إمكانية التعميم عبر الثقافات المختلفة.

باخت ملخص، تثبت الورقة أن الحكم الأخلاقي هو قدرة ناشئة تتوسع بشكل يمكن التنبؤ به مع الموارد الحسابية، مما يوفر أساساً كمياً لتصميم أنظمة ذكاء اصطناعي أكثر أماناً ومحاذاة.