Behavioral Inference at Scale: The Fundamental Asymmetry Between Motivations and Belief Systems
تُظهر هذه الورقة عدم تماثل جوهري في الاستدلال السلوكي، حيث يمكن استرداد دوافع وكلاء النماذج اللغوية الكبيرة بدقة تقارب الكمال، بينما تظل أنظمة معتقداتهم الأساسية غامضة إلى حد كبير، حيث تستقر عند معدلات دقة منخفضة تشير إلى وجود حد معماري أو ذاتي لما تكشف عنه الأفعال الملحوظة بشأن القيم الداخلية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق يحاول حل لغز ما، لكنك لا تستطيع سوى رؤية آثار أقدام المشتبه به في الطين. لا يمكنك رؤية وجهه، ولا سماع صوته، ولا قراءة مذكراته. عليك أن تخمن من هو، وماذا يريد، وماذا يعتقد بمجرد مراقبة خطواته. هذا هو عالم الاستدلال السلوكي، وهو مجال يحاول فيه العلماء معرفة ما يحدث داخل "عقل" الذكاء الاصطناعي بمجرد مراقبة ما يفعله. في هذا الركن المحدد من العلم، يدرس الباحثون نماذج اللغات الكبيرة (LLMs) — وهي برامج حاسوبية فائقة الذكاء يمكنها كتابة القصص، والإجابة على الأسئلة، ولعب الألعاب. السؤال الكبير هو: إذا شاهدنا ذكاءً اصطناعيًا يلعب لعبة لفترة طويلة، فهل يمكننا اكتشاف شخصيته السرية ومنظومته الأخلاقية؟ إن هذا الأمر مهم لأنه بينما نبني المزيد من الذكاء الاصطناعي لمساعدتنا، نحتاج إلى معرفة ما إذا كانوا يفعلون حقًا ما نريد، أم أنهم يتظاهرون فقط بأنهم جيدون بينما يخفون أجندة مختلفة.
تتعمق الورقة البحثية التي أوشكت على قراءتها في هذا اللغز من خلال تجربة ضخمة. فقد أنشأ الباحثون عالمًا رقميًا — لعبة تقمص أدوار في دهليز يعتمد على شبكة — حيث قاموا ببرمجة 36 نوعًا مختلفًا من شخصيات الذكاء الاصطناعي. كان لكل شخصية مزيج فريد من نظام معتقدات (منظومة أخلاقية قائمة على مخطط التوافق الكلاسيكي للعبة "Dungeons & Dragons"، والتي تتراوح من "الخير المنضبط" إلى "الشر الفوضوي") ودافع (محرك بسيط مثل الثراء، أو البقاء آمنًا، أو الاستكشاف، أو التحرك بسرعة). تركوا هؤلاء الوكلاء من الذكاء الاصطناعي يلعبون أكثر من 1.5 مليون مرة، مما ولد جبلًا من البيانات حول أفعالهم. ثم حاولوا استخدام برامج حاسوبية لتخمين ملفات تعريفهم السرية بمجرد النظر إلى سجلات الأفعال.
إليك المفاجأة التي وجدوها: كان المحققون من الذكاء الاصطناعي بارعين للغاية في تخمين ما يريده الوكلاء (دوافعهم)، لكنهم كانوا سيئين للغاية في تخمين ما يعتقدونه (توافقهم الأخلاقي). كانت نماذج تخمين الدوافع دقيقة للغاية، حيث أصابت الهدف بنسبة تتراوح بين 98% إلى 100%. إذا كان الوكيل يحاول الثراء، كان بإمكان الذكاء الاصطناعي رصد ذلك فورًا. ولكن عندما تعلق الأمر بالمنظومة الأخلاقية، اصطدم الذكاء الاصطناعي بجدار صلب. فحتى أكثر النماذج حاسوبية تقدمًا (المحولات/Transformers) لم تستطع تخمين التوافق الأخلاقي بشكل صحيح إلا بنسبة 34% تقريبًا. وهذا بالكاد يتجاوز مجرد التخمين العشوائي في لعبة تحتوي على تسعة خيارات ممكنة.
اكتشف الباحثون أن هذا ليس بسبب عدم امتلاكهم لبيانات كافية أو لأن النماذج الحاسوبية لم تكن ذكية بما يكفي. لقد حاولوا جعل النماذج أكبر وأعطوها المزيد من الأدلة، لكن الجدار ظل قائمًا. اتضح أن "الرغبة في الثراء" تترك أثرًا واضحًا وجليًا جدًا في الطين. لكن "كون المرء شخصًا جيدًا" هو أمر أكثر دهاءً بكثير. فالوكيل "الجيد" قد يساعد شخصًا ما لأنه طيب، أو لأنه يتبع القواعد، أو لمجرد الحفاظ على السلم. وكل تلك الأسباب المختلفة تبدو متطابقة تمامًا من الخارج. تشير الورقة البحثية إلى وجود حد جوهري لما يمكن تعلمه بمجرد مراقبة السلوك. فبينما يمكننا تتبع ما يطارده الذكاء الاصطناعي بثقة عالية، فإن معرفة بوصلته الأخلاقية الحقيقية قد تكون مستحيلة دون سؤاله مباشرة أو مراقبته وهو يتفاعل مع الآخرين بطرق أكثر تعقيدًا. كانت الشخصيات "المحايدة" هي الأصعب في التحديد، حيث كانت تندمج جيدًا لدرجة أن الذكاء الاصطناعي لم يستطع التمييز بين كونها محايدة حقًا، أو أنها طيبة سرًا، أو أنها تتظاهر بذلك فقط. تظهر هذه الدراسة أنه بينما يمكننا تتبع أهداف الذكاء الاصطناعي بيقين عالٍ، فإن قيمه الخفية قد تظل لغزًا، مهما شاهدناه وهو يلعب.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.