Governance of Generative Artificial Intelligence for Companies
تتناول هذه الورقة المراجعية غياب الحوكمة التنظيمية للذكاء الاصطناٍعي التوليدي من خلال توسيع عملية تطوير إطار عمل "نيكرسون" لإنشاء نموذج مخصص يحدد النطاق والأهداف والآليات التي تمكن الشركات من الموازنة بفعالية بين فرص الذكاء الاصطناعي التوليدي في مجال الأعمال والمخاطر المرتبطة به.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن شركتك عبارة عن مطبخ عصري يعج بالحركة. لسنوات، كان لديك فريق من الطهاة (موظفوك) يستخدمون سكاكين وأفرانًا قياسية (البرمجيات التقليدية) لإعداد الوجبات. كانت القواعد واضحة: إذا جرحت إصبعك، تتوقف؛ وإذا احترق الخبز، ترميه.
ثم وصل الذكاء الاصطناعي التوليدي (GenAI). إنه يشبه مساعد طاهٍ سحرياً فائق السرعة يمكنه في ثوانٍ استحضار ألف وصفة، أو كتابة رواية عن قائمة طعامك، أو تصميم شعار جديد لمطعمك. إنه قوي للغاية ويمكنه جعل مطبخك يعمل بشكل أسرع من أي وقت مضى.
لكن هنا تكمن المشكلة: هذا المساعد السحري لا يمتلك عقلاً مثل البشر. هو لا "يعرف" الحقيقة؛ بل يخمن فقط الكلمات الأكثر احتمالاً للقول تالياً. أحياناً، يقدم لك طبقاً مكوناً من مكونات غير مرئية بكل ثقة (الهلوسة). وأحياناً أخرى، قد يسرق وصفة عائلية سرية من جارك عن طريق الخطأ (انتهاك حقوق الطبع والنشر). ولأن استخدامه سهل للغاية، قد يبدأ طهاتك المبتدئون في استخدامه من تلقاء أنفسهم، حتى لو لم يقل رئيس الطهاة أن ذلك مسموح به (مشكلة "من القاعدة إلى القمة").
هذه الورقة هي في الأساس كتاب قواعد جديد لكيفية إدارة هذا المساعد السحري في مطبخك، بحيث تحصل على السرعة والإبداع دون أن تحرق المنزل.
إليك تفصيل "إطار حوكمة المطبخ" الخاص بهم باستخدام تشبيهات بسيطة:
1. الظروف "القبيلة" (المقدمات)
قبل أن تقوم بتشغيل الفرن السحري، عليك التحقق من جاهزية مطبخك.
- الظروف الداخلية: هل فريقك منفتح على تجربة أدوات جديدة، أم أنهم خائفون؟ هل لديك الميزانية لشراء أفضل المكونات؟ هل مهامك بسيطة (تقطيع البصل) أم معقدة (إنشاء قائمة تذوق مكونة من 5 أطباء)؟
- الظروف الخارجية: ما هي القوانين المحلية؟ (مثلاً: "لا تسرق الوصفات من فرنسا"). كيف هي المنطقة المحيطة؟ (مثلاً: هل اتصال الإنترنت في بلدك سريع بما يكفي ليعمل الذكاء الاصطناعي بشكل جيد؟).
2. ما تديره فعلياً (النطاق)
يقول المؤلفون إنك لا تستطيع مجرد إدارة "الروبوت". يجب عليك إدارة خمسة أشياء محددة:
- المكونات (البيانات): من أين حصل الذكاء الاصطناعي على معرفته؟ هل أكل بيانات سيئة؟ هل يخلط بين قوائم العملاء الخاصة والأخبار العامة؟ تحتاج إلى ضمان أن "المكونات" طازجة، وآمنة، ومكتسبة بشكل قانوني.
- روبوت الطاهي (النموذج): هذا هو الذكاء الاصطناعي نفسه. هل هو عرضة للكذب؟ هل يرتبك إذا سألته سؤالاً بلغة مختلفة؟ هل "يهلوس" (يختلق حقائق)؟ يجب أن تعرف حدوده.
- تجهيزات المطبخ (النظام): كيف يتصل الروبوت بموقدك، وثلاجتك، وصندوق المحاسبة الخاص بك؟ إذا حاول الروبوت فتح الثلاجة وحذف المخزون بالخطأ، فهذا فشل في النظام.
- الناس (الموظفون): هذا هو الإضافة الجديدة الكبيرة. في الماضي، كان خبراء تكنولوجيا المعلومات فقط هم من يتعاملون مع البرمجيات. الآن، الجميع يتحدث إلى الذكاء الاصطناعي. قد يسرب موظف تسويق سراً بالخطأ عبر طلب تلخيص "هذا البريد الإلكتروني السري" من الذكاء الاصطعي. يحتاج الموظفون إلى التدريب على كيفية التحدث إلى الروبوت دون أن يتم خداعهم من قبله.
- المؤسسة بأكملها (الشركة): كيف يتناسب هذا مع أهداف عملك؟ هل تحاول توفير المال، أم تحاول أن تكون المطعم الأكثر ابتكاراً في المدينة؟ يجب أن تتوافق القواعد مع أهدافك.
3. قواعد الطريق (آليات الحوكمة)
كيف تتحكم في هذا فعلياً؟ تقترح الورقة ثلاثة أنواع من الأدوات:
- هيكلية (الهيكل التنظيمي): من المسؤول؟ قد تحتاج إلى مسمى وظيفي جديد، مثل "مسؤول سلامة الذكاء الاصطناعي". أنت بحاجة إلى لجنة تضم محامين، وخبراء تقنيين، وخبراء أخلاقيات لاتخاذ القرارات بشأن ما هو مسموح به.
- إجرائية (كتيب التعليمات): هذا هو الدليل خطوة بخطوة.
- الاستراتيجية: "سنستخدم الذكاء الاصطناعي للتسويق، ولكن ليس أبداً للاستشارات القانونية".
- السياسات: "إذا كنت تستخدم النسخة المجانية من الذكاء الاصطناعي، فلا يمكنك لصق وصفة 'الخلطة السرية' الخاصة بنا فيها".
- القدرة على التكيف: لا يمكن كتابة القواعد في الحجر. الذكاء الاصطناعي يتغير كل شهر. يجب أن تكون قواعدك مثل وثيقة حية تتحدث بنفس سرعة تطور التكنولوجيا.
- علاقية وتقنية (الأدوات والحديث):
- علاقية: تدريب موظفيك على التفكير النقدي. تعليمهم: "لا تثق في الروبوت بشكل أعمى؛ تحقق من عمله".
- تقنية: تركيب "حواجز حماية". فكر في هذه الحواجز كأنها مطبات سرعة أو مرشحات. إذا حاول الذكاء الاصطناعي توليد شيء كراهية أو كشف كلمة مرور، فإن النظام يوقفه تلقائياً.
4. النتيجة (العواقب)
إذا اتبعت كتاب القواعد الجديد هذا، فماذا سيحدث؟
- الأشياء الجيدة: سيعمل مطبخك بشكل أسرع، وسيكون عملاؤك أكثر سعادة، وستوفر المال.
- تجنب الأشياء السيئة: لن تتعرض للمقاضاة بسبب سرقة الوصفات، وستظل سمعتك نظيفة، ولن تقوم بفصل موظفيك بالخطأ لأن الذكاء الاصطناعي ارتكب خطأً.
الخلاصة الكبرى
النقطة الرئيسية لهذه الورقة هي أن كك لا يمكنك استخدام القواعد القديمة للسحر الجديد.
في الماضي، كانت الشركات تعامل الذكاء الاصطناعي كأداة متخصصة لعدد قليل من الخبراء. الآن، أصبح الذكاء الاصطناعي التوليدي (GenAI) مثل قوة خارقة يمتلكها كل موظف في جيبه. إنه قوي، ولكنه أيضاً غير قابل للتنبؤ به.
يجادل المؤلفون بأن الشركات بحاجة إلى إطار عمل مرن متمحور حول الإنسان. يجب أن تعامل موظفيك كأنهم "طيارون" لهذه التكنولوجيا الجديدة، وتمنحهم التدريب وأحزمة الأمان التي يحتاجونها للطيران بالطائرة دون تحطمها. الأمر لا يتعلق بمنع السحر؛ بل يتعلق بتعلم كيفية استخدامه بأمان لكي يحلق عملك عالياً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.