Toward a Theory of Value in AI Alignment
من خلال تحليل 94 ورقة بحثية حول توافق القيم، تنتقد هذه الدراسة اعتماد المجال على التفضيلات غير المحددة والبيانات الاصطناعية، محاجةً بأن مثل هذه النهج تبسط القيم البشرية بشكل مفرط وتخاطر بإغلاق الآفاق أمام وجهات النظر المتنوعة حول كيفية تحقيق الذكاء الاصطنا truly توافق مع الاحتياجات البشرية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً نقوم فيه ببناء عقول رقمية—برامج حاسوبية فائقة الذكاء يمكنها كتابة القصص، وحل المسائل الرياضية، وحتى إجراء المحادثات. هذه ليست مجرد آلات حاسبة بسيطة؛ بل هي أشبه بمكتبات ضخمة متعطشة، قرأت كل شيء تقريباً على الإنترنت. ولكن هنا تكمن المشكلة: مجرد امتلاك المكتبة لكل الكتب لا يعني أنها تعرف أي القصص هي الطيبة، أو أي الحقائق هي الصحيحة، أو كيف تكون صديقاً جيداً. هذا هو جوهر مجال يسمى محاذاة الذكاء الاصطناعي (AI Alignment). فكر في الأمر كأنه فن تعليم هذه العقول الرقمية أن تشاركنا أهدافنا وقيمنا الأخلاقية، بدلاً من أن تفعل بالضبط ما نأمرها به بطريقة قد تؤذينا دون قصد.
لفهم المشكلة، عليك أن تعرف ما هي نماذج اللغات الكبيرة (LLMs). هذه هي النوع المحدد من الذكاء الاصطناعي الذي يشغل برامج الدردشة الآلية التي ربما استخدمتها. وهي تعمل عن طريق التنبؤ بالكلمة التالية في الجملة، مراراً وتكراراً. ولجعلها "آمنة"، يستخدم الباحثون تقنية تسمى التعلم المعزز من التعليقات البشرية (RLHF). تخيل معلماً يعطي طالباً نجمة ذهبية للإجابة الجيدة وعلامة (X) حمراء للإجابة السيئة. يتعلم الذكاء الاصطنانا لكي يحصل على المزيد من النجوم الذهبية عبر تخمين ما يحبه المعلم. والسؤال الكبير الذي يدفع هذا البحث هو: ما الذي نعلم هذه الأنظمة أن تقدّره حقاً؟ هل نعلمها أن تكون نافعة، وصادقة، وغير ضارة؟ أم أننا نعلمها بالخطأ شيئاً أكثر غرابة بكثير؟
الخلط الكبير في مفهوم "القيم"
قرر فريق من الباحثين إلقاء نظرة خلف الستار على 94 ورقة علمية كتبها الأشخاص الذين يحاولون حل مشكلة المحاذاة هذه. أرادوا الإجابة على سؤال بسيط ولكنه شائك: ماذا يقصد هؤلاء الباحثون حقاً عندما يقولون "القيم الإنسانية"؟
قد تعتقد أنه إذا كنت تبني روبوتاً ليكون شخصاً صالحاً، فإنك ستجلس أولاً وتحدد معنى كلمة "صالح". لكن مؤلفي هذا البحث وجدوا شيئاً مفاجئاً: معظم الباحثين لا يحددون ذلك على الإطلاق.
في الواقع، 79% من الأوراق التي اطلعوا عليها لم تشرح أبداً ما يقصدونه بكلمة "القيم". وبدلاً من ذلك، استبدلوا كلمة "القيم" بكلمة "التفضيلات". الأمر يشبه محاولة خبز كعكة ولكنك تسمي "الدقيق" باسم "أشياء"، ثم تفترض ببساطة أن الجميع يعرف أنك تقصد الدقيق. وجد الباحثون أنه في عالم الذكاء الاصطناعي، غالباً ما تُعامل "القيم" (مثل العدالة، أو اللطف، أو الحقيقة) تماماً مثل "التفضيلات" (مثل "أنا أفضل آيس كريم الشوكولاتة على الفانيليا").
فخ "التفضيل"
يجادل البحث بأن هذا الاستبدال خطير لأنه يعتمد على فكرة قديمة من علم الاقتصاد تسمى تعظيم المنفعة (Utility Maximization). تخيل روبوتاً يعتقد أن الشيء الوحيد المهم في الكون هو الحصول على أعلى درجة ممكنة في لعبة ما. في هذه الرؤية، يكون الإنسان مجرد آلة تحاول دائماً الحصول على أكبر قدر من "النقاط" (أو "المنفعة") مقابل كل خيار تتخذه.
يشير المؤلفون إلى أن هذه الرؤية بسيطة للغاية. البشر الحقيقيون فوضويون؛ فأحياناً نختار الشيء "الخاطئ" لأننا متعبون، أو لأننا نهتم بأصدقائنا أكثر من الفوز، أو لأن قيمنا تتغير حسب اليوم. لكن يبدو أن مجال محاذاة الذكاء الاصطناعي يبني عالماً يكون فيه البشر روبوتات مثالية ومنطقية تسعى دائماً لاتخاذ الخيار الأمثل لتعظيم سعادتها.
يشير البحث إلى أن 87% من الدراسات التي راجعوها تستخدم نهج "تعظيم الدرجة" هذا. إنهم يعاملون القيم الإنسانية كما لو كانت أرقاماً ثابتة لا تتغير، يمكن قياسها ووضعها في الحاسوب. ويجادل المؤلفون بأن هذا يتجاهل حقيقة أن القيم تشبه الحديقة الحية؛ فهي تنمو، وتتغير مع الفصول، وتبدو مختلفة في الثقافات المختلفة.
مشكلة "المَن" و"الكيف"
هناك قضية كبرى أخرى يسلط البحث الضوء عليها وهي مسألة قيم مَن التي يتعلمها الذكاء الاصطناعي. إذا طلبت من كمبيوتر أن يتعلم "القيم الإنسانية"، فعليك أن تسأل: أي بشر تقصد؟
وجد الباحثون أن 91% من الأوراق لم تحدد المجموعة التي يحاولون تمثيلها. لقد تصرفوا وكأن "القيم الإنسانية" شيء واحد عالمي يتفق عليه الجميع. لكن في الواقع، قد يقدّر مراهق في طوكيو شيئاً مختلفاً تماماً عما يقدره مزارع في كينيا.
ولزيادة الأمور تعقيداً، يشير البحث إلى أن الباحثين بدأوا يتوقفون عن سؤال البشر الحقيقيين عن آرائهم. بدلاً من ذلك، يستخدمون بيانات اصطناعية أو نماذج ذكاء اصطناعي أخرى للحكم على الإجابات. إنه يشبه محاولة تعليم طالب جديد من خلال جعله يصحح واجبه المنزلي بنفسه، أو بسؤال روبوت لتخمين ما قد يفكر فيه الإنسان. ويخشى المؤلفون أنه من خلال استبدال البشر الحقيقيين بـ "المُقيِّمين الآليين" (الذكاء الاصطناعي الذي يعمل كحكم)، فإننا نغلق الباب أمام الواقع الفوضوي والمتنوع والجميل لما يعنيه أن تكون بشراً.
الوصف "الرقيق" مقابل الوصف "العميق"
لاحظ المؤلفون أيضاً أن معظم الأوراق تصف القيم بطريقة "رقيقة" (Thin). الوصف "الرقيق" يشبه قول: "كن لطيفاً"؛ إنها قاعدة بلا قصة. أما الوصف "العميق" (Thick) فهو يشبه قول: "كن لطيفاً لأن جدتك علمتك أن اللطف يبني مجتمعاً يشعر فيه الجميع بالأمان".
وجد البحث أن 66% من الدراسات استخدمت هذه الأوصاف "الرقيقة". لقد عاملوا القيم كتعليمات بسيطة يجب اتباعها، بدلاً من كونها قصصاً ثقافية عميقة تشرح لماذا نفعل ما نفعله. و3% فقط من الأوراق حاولت فهم القيم بهذه الطريقة "العميقة"، من خلال النظر في كيفية تشكيل الثقافة والسياق لما يهتم به الناس.
الخلاصة
إذاً، ما هي النتيجة الرئيسية؟ يشير البحث إلى أن الطريقة الحالية التي نحاول بها محاذاة الذكاء الاصطناعي مع القيم الإنسانية مبنية على أساس مهتز. فمن خلال معاملة الأخلاق البشرية المعقدة كمسائل رياضية بسيطة (تعظيم التفضيلات)، قد نبني أنظمة ذكاء اصطناعي "متوافقة" تقنياً مع نسخة روبوتية ضيقة جداً من البشرية، ولكنها تخطئ تماماً في فهم جوهر ما يجعلنا بشراً.
المؤلفون لا يقولون إن علينا التوقف عن محاولة جعل الذكاء الاصطناعي آمناً. بدلاً من ذلك، هم يدعون إلى تغيير في "الوصفة". إنهم يريدون من الباحثين التوقف عن التظاهر بأن القيم الإنسانية هي مجرد قائمة من التفضيلات التي يجب تحسينها. إنهم يريدون منا استدعاء خبراء من الأنثروبولوجيا (علم الإنسان)، والفلسفة، وعلم النفس لمساعدتنا على فهم أن القيم ديناميكية، وثقافية، ومرتبطة بعمق بالعالم الحقيقي الفوضوي الذي نعيش فيه.
باختصار، إذا أردنا للذكاء الاصطناعي أن يكون متوافقاً معنا حقاً، فعلينا أن نتوقف عن تعليمه ليكون حاسبة مثالية، ونبدأ في تعليمه كيف يفهم القصة المعقدة والمتغيرة والرائعة لكوننا بشراً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.