From Ethical Principles to Governable Action: A Priority Architecture for Context-Sensitive Normative Governance of Large Language Models
تقدم هذه الورقة "بنية الأولوية" (Priority Architecture - PA)، وهي نموذج فوقي (metamodel) يعمل على إخراج الحوكمة المعيارية الحساسة للسياق لنماذج اللغات الكبيرة عبر تحويل المبادئ الأخلاقية المجردة إلى سلسلة إنفاذ تتبعية وحتمية، مما يثبت من خلال الاختبار التجريبي أن هذا النهج يحسن الامتثال للسياسات بشكل كبير مقارنة بالطرق القائمة على التلقين (prompt-based methods) وحدها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، تشكل إجماع هادئ حول مجموعة من الأهداف النبيلة. يتفق الخبراء على أن الآلات الذكية يجب أن تكون نافعة، وغير ضارة، وصادقة، وأن تحترم الخصوصية، والعدالة، والاستقلالية البشرية. تعمل هذه الأفكار كمفردات مشتركة لمناقشة كيفية بناء تكنولوجيا أفضل. ومع ذلك، لا تزال هناك فجوة كبيرة بين هذه المثليات رفيعة المستوى وبين القرارات الفعلية التي يتخذها الكمبيوتر في أجزاء من الثانية. فعندما يتصادم مبدآن جيدان — مثل الحاجة إلى حماية معلومات شخص ما الخاصة مقابل الحاجة الملحة لمنع الضرر — غالبًا ما تعاني الأنظمة الحالية لتحديد أي قاعدة يجب أن تنتصر. قد تكتفي هذه الأنظمة بالتخمين، أو الأسوأ من ذلك، قد تطبق قاعدة جامدة تتسبب في نوع آخر من المشاكل. إن التحدي الجوهري الذي يواجه الباحثين لا يكمن فقط في سرد هذه القيم، بل في ابتكار منهج واضح وخطوة بخطوة لحل النزاعات بطريقة شفافة ويمكن للبشر مراجعتها.
هذه هي المشكلة التي سعى مايكل باخله (Michael Bächle) لحلها في دراسة جديدة ركزت على النماذج اللغوية الكبيرة، وهي أنظمة الذكاء الاصطناعي القوية التي تولد النصوص وتجيب على الأسئلة. قدم الباحث إطار عمل يسمى "بنية الأولويات" (Priority Architecture)، والذي يعمل كجسر بين القواعد الأخلاقية المجردة والأفعال الحاسوبية الملموسة. وبدلاً من مطالبة الذكاء الاصطناعي بتحديد الخيار الأخلاقي الصحيح بمفرده، يضع هذا النظام "طبقة حوكمة" حتمية منفصلة أمام النموذج. تعمل هذه الطبقة مثل مراقب حركة المرور الذي يفحص الموقف أولاً، ويتحقق من قائمة قواعد معتمدة مسبقاً، ثم يوجه للذكاء الاصطناعي تعليمات واضحة بشأن ما يُسمح له بفعله. كان الهدف هو معرفة ما إذا كان هذا النظام الخارجي يمكنه فرض أولويات أخلاقية محددة بشكل موثوق، مثل الحفاظ على سرية البيانات الخاصة ما لم يحدث ظرف طارئ محدد للغاية، دون الاعتماد على الحكم الداخلي للذكاء الاصطناعي لاتخاذ القرار النهائي.
ولاختبار هذه الفكرة، صمم الباحث سيناريو محكماً يتضمن مساعداً مؤسسياً اصطناعياً. صُمم هذا المساعد للتعامل مع نوع معين من البيانات الحساسة: رقم الهاتف المحمول الخاص بموظف. وضعت الدراسة مجموعة واضحة من القواعد لمتى يمكن مشاركة هذا الرقم؛ فعلى سبيل المثال، إذا كان لدى المستخدم تفويض مناسب، يمكن مشاركة الرقم. وإذا كان هناك تهديد خطير ومباشر لسلامة شخص ما، فإن القواعد تسمح بمسار مختلف، ولكن فقط إذا قام مشرف بشري بمراجعة القرار أولاً. تم برمجة النظام للتعرف على هذه المواقف وترجمتها إلى "أغلفة إجراءات" (action envelopes) صارمة، وهي حدود قابلة للقراءة آلياً تخبر الذكاء الاصطناعي بدقة بما هو مسموح به، أو مقيد، أو محظور. لم يقرر الذكاء الاصطناعي نفسه القواعد؛ بل تلقى فقط التعليمات النهائية من طبقة الحوكمة الخارجية.
تضمنت التجربة إجراء آلاف الاختبارات باستخدام نموذجين رائدين مختلفين من الذكاء الاصطناعي، أحدهما من شركة OpenAI والآخر من شركة Anthropic. وقارن الباحثون بين ثلاث طرق مختلفة للتفاعل مع هذه النماذج. في الإعداد الأول، لم تتلقَّ النماذج أي تعليمات خاصة وكان عليها الاعتماد على تدريبها العام. وفي الإعداد الثاني، تم تزويدها بمطالبة نصية قوية تذكرها بالقواعد الأخلاقية. أما في الإعداد الثالث، فقد تولى نظام "بنية الأولويات" الخارجي العمل الشاق: حيث قام بتحليل الموقف، وتطبيق القواعد، وإرسال أمر دقيق إلى النموذج. وأظهرت النتائج فرقاً واضحاً في الموثوقية؛ فعندما تُركت النماذج لتتصرف بمفردها أو اعتمدت فقط على مطالبة نصية، ارتكبت أخطاءً؛ إذ رفضت أحياناً مشاركة رقم هاتف في حين كان ينبغي لها ذلك، أو فشلت في إدراك متى تتطلب الحالة مراجعة بشرية بدلاً من الاستجابة التلقائية.
ومع ذلك، عندما استُخدمت "بنية الأولويات" الخارجية، اتبعت النماذج القواعد بموثوقية عالية جداً. ففي الاختبارات التي كان فيها النظام نشطاً، حقق نموذج OpenAI امتثالاً بنسبة 100 بالمئة، بينما وصل نموذج Anthropic إلى 98 بالمئة من الامتثال، حيث تعامل بشكل صحيح مع كل سيناريو تقريباً وفقاً للقواعد الموضوعة مسبقاً. شمل ذلك الحالات الصعبة حيث كان على الذكاء الاصطناعي إدراك أن الموقف شديد التعقيد بحيث لا يمكن حله تلقائياً، وبالتالي يجب تصعيده إلى إنسان. ووجدت الدراسة أن النظام الخارجي نجح في فصل مهمة فهم السياق عن مهمة اتخاذ القرار الأخلاقي. هذا الفصل يعني أنه في حال حدوث خطأ، يمكن للباحثين تحديد مكانه بدقة: هل كان فشلاً في فهم المدخلات، أم فشلاً في نظام القواعد، أم فشلاً في اتباع الذكاء الاصطناعي للتعليمات النهائية؟
كما سلط البحث الضوء على قصور جوهري يمنع اعتبار هذا النظام حلاً سحرياً لكل أخلاقيات الذكاء الاصطناعي. فلم تثبت الدراسة أن هذا النظام يجعل الذكاء الاصطناعي "أكثر أخلاقية" من منظور فلسفي، كما لم تدعِ أن القواعد المحددة التي اختيرت للاختبار هي القواعد الصحيحة الوحيدة؛ فقد اختار الباحث تلك القواعد لأغراض التجربة. الإنجاز الحقيقي كان إثبات أن مجموعة محددة من الأولويات الأخلاقية يمكن جعلها صريحة، وقابلة للتتبع، وقابلة للتنفيذ تقنياً. لقد أثبت النظام إمكانية أخذ معضلة أخلاقية معقدة، وتفكيكها إلى سلسلة منطقية واضحة، ومن ثم تقديم ذلك المنطق للذكاء الاصطناعي كقيد صارم. وهذا يسمح للبشر بمراجعة عملية صنع القرار، ورؤية السبب الدقيق وراء السماح بإجراء معين أو رفضه، بدلاً من التعامل مع خيار الذكاء الاصطناعي كصندوق أسود غامض.
في نهاية المطاف، تشير الدراسة إلى أن مستقبل الذكاء الاصطناعي المسؤول قد لا يكمن في محاولة تعليم الآلات كيف تكون أفضل في الفلسفة، بل في بناء هياكل أفضل حولها. ومن خلال نقل العمل الصعب المتمثل في حل النزاعات الأخلاقية من الذكاء الاصطناعي إلى نظام منفصل وقابل للمراجعة، يمكن للمطورين إنشاء شبكة أمان تتسم بالمرونة والصرامة في آن واحد. وتشير النتائج إلى أنه بينما تعد نماذج الذكاء الاصطناعي مولدات قوية للمحتوى، إلا أنها ليست بعد حكماً موثوقاً في المقايضات الأخلاقية المعقدة. بدلاً من ذلك، تعمل هذه النماذج بشكل أفضل عندما يتم توجيهها بواسطة إطار خارجي يحدد بوضوح حدود سلوكها، مما يضمن بقاء أفعال الآلة متوافقة مع النوايا البشرية والقواعد المؤسسية. هذا النهج لا يحل مسألة ماهية القيم الصحيحة، ولكنه يوفر طريقة موثوقة لضمان تطبيق أي قيم تختارها المجتمعات بشكل متسق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.