Tuning the Stochastic Machine: A Systems Engineer's Operating Model for Human-AI Engineering
بالاستناد إلى ثلاثين عاماً من الخبرة في هندسة النظم، تجادل هذه الورقة بأن الأخطاء المتكررة في النماذج اللغوية الكبيرة تنبع من نقص الانضباط التشغيلي بدلاً من محدودية الأدوات، مقترحةً نموذج تشغيل يتكون من سبعة مبادئ يكيف مفاهيم إدارة النظم التقليدية مثل الإصدار والمراقبة والتقاعد لحوكمة الهندسة البشرية-الذكية بفعالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناي الحديث، أصبح نوع معين من الإحباط شائعاً لدى الخبراء الذين يعملون مع هذه الأدوات. فقد يقضي مهندس أو كاتب متمرس ساعات في تصحيح خطأ طفيف ارتكبه مساعد ذكاء اصطناعي، ليكتشف لاحقاً أن الخطأ ذاته يتكرر في محادثة مستقبلية. لم ينسَ الأداة التصحيح لأنه لم يتم إخبارها حقاً بأن تتذكره. يحدث هذا لأن التصميم الحالي لهذه الأنظمة يعامل كل محادثة جديدة كبداية جديدة، مما يمسح السجل تماماً مما تم تعلمه قبل لحظات. تستكشف الورقة هذه الفجوة بين قدرة الآلة على توليد النصوص وحاجة الإنسان إلى نظام يتعلم ويحتفظ بالتصحيحات بمرور الوقت. وتجادل بأن الحل ليس في نوع جديد من البرمجيات أو خوارزمية أكثر ذكاءً، بل في مجموعة من العادات التشغيلية المستعارة من مجال هندسة النظم الراسخ، حيث تعد إدارة الآلات المعقدة وغير المتوقعة روتيناً يومياً.
يلاحظ المؤلف، وهو مهندس نظم لديه ثلاثون عاماً من الخبرة، أن الصناعة ركزت بشكل كبير على الأدوات التي تسمح للذكاء الاصطناعي بتذكر الأشياء، مثل ملفات الذاكرة المستمرة أو أدلة التعليمات. ومع ذلك، تشير الورقة إلى أن امتلاك هذه الأدوات ليس كافياً إذا لم يكن لدى الأشخاص الذين يستخدمونها عملية منضبطة لحكمها. فبدون طريقة صارمة لتسجيل سبب إجراء التصحيح، والتحقق مما إذا كان يعمل، وإحالة القواعد التي لم تعد هناك حاجة إليها للتقاعد في نهاية المطاف، ستصبح مجموعة التعليمات فوضى غير فعالة ومزدحمة. إن النتيجة الجوهرية هي أن القطعة المفقودة ليست التكنولوجيا، بل الانضباط. يقترح المؤلف نموذج تشغيل مكون من سبع خطوات يعامل الذكاء الاصطناعي ليس كعراف سحري، بل كقطعة من المعدات تتطلب تهيئة دقيقة، ومراقبة مستمرة، ودورة واضحة للتعلم من الأخطاء.
يبدأ هذا النهج بإدراك بسيط ولكنه قوي: معرفة الذكاء الاصطناعي ثابتة، مثل شريحة كمبيوتر لا يمكن تغييرها أثناء تشغيلها، بينما المحادثة نفسها مؤقتة، مثل الذاكرة في الكمبيوتر التي تختفي عند إيقاف تشغيل الطاقة. عندما يصحح إنسان ذكاءً اصطناعياً أثناء الدردشة، يكون هذا التصحيح فعالاً فقط لتلك الجلسة المحددة. وبمجرد انتهاء الجلسة، يتلاشى التصحيح. لجعل الذكاء الاصطناعي أفضل حقاً، يجب كتابة التصحيح في ملف تهيئة دائم يتم تحميله في كل مرة يبدأ فيها النظام. تسمي الورقة هذا "مسار الكتابة الراجعة" (write-back path). إنه الفرق بين إخبار عامل بإصلاح مشكلة لمرة واحدة وبين تحديث الدليل الرسمي بحيث يعرف كل عامل، في كل نوبة عمل مستقبلية، كيفية تجنب نفس الخطأ.
يعتمد النظام المقترح على سبعة مبادئ توجيهية لإدارة هذه العملية. أولاً، يجب حفظ كل تصحيح ذي معنى كسجل دائم؛ فإذا لم يتم ذلك، فسيضيع. ثانياً، يجب تنظيم هذه القواعد في طبقات، بحيث توضع القواعد العامة لجميع المهام بشكل منفصل عن القواعد الخاصة بمشروع معين، وذلك لمنع الارتباك والتكرار. ثالثاً، نظراً لأن الذكاء الاصطناعي غير متوقع بطبيعته وينتج مجموعة من الإجابات المحتملة بدلاً من إجابة واحدة مضمونة، فإن الهدف هو إدارة كامل نطاق النتائج، مع التركيز بشكل خاص على الأخطاء النادرة ولكن الخطيرة عند الأطراف. رابعاً، يعمل الخبير البشري كفحص سلامة نهائي، حيث يرصد الأخطاء التي لا تستطيع الآلة اكتشافها بمفردها ويضمن كتابة الإصلاح في النظام الدائم.
تركز المبادئ المتبقية على القياس والصيانة. يحذر المؤلف من أن مجرد عد عدد المرات التي استُخدمت فيها الأداة هو مقياس سيء للنجاح، لأنه يكافئ النشاط بدلاً من الجودة. بدلاً من ذلك، يجب على الفرق تتبع ما إذا كانت أنواع معينة من الأخطاء قد توقفت عن الحدوث بمرور الوقت. كما يجب عليهم مراجعة قائمة قواعدهم بانتظام لإزالة القواعد التي لم تعد مفيدة، لضمان عدم إثقال النظام بتعليمات عفا عليها الزمن. وأخيراً، يجب على الفريق التحقق دائماً مما إذا كانوا يصوبون نحو هدف حقيقي؛ فإذا كانت العملية مجرد ضجيج عشوائي، فلن يجعلها أي قدر من الانضباط أفضل.
ولتوضيح كيفية عمل ذلك في الممارسة العملية، يشارك المؤلف ثلاثة أمثلة من العالم الحقيقي. في حالة واحدة، اقترح ذكاء اصطناعي طريقة تقنية لتسريع برنامج كمبيوتر بناءً على سمعتها، لكن الطريقة فشلت في موقف محدد، مما تسبب في نفس البطء الذي كان من المفترض أن تمنعه. ومن خلال تطبيق الانضباط الجديد، لم يقم المهندس بإصلاح الكود فحسب، بل أنشأ قاعدة دائمة تمنع الذكاء الاصطناعي من اختيار تلك الطريقة مرة أخرى دون التحقق من الشروط المحددة. وفي مثال آخر، كانت قاعدة أمنية تهدف إلى منع الوصول غير المصرح به مكتوبة بشكل سيء للغاية لدرجة أنها سمحت للجميع بالدخول بالخطأ. رصد النظام هذا من خلال طرح سؤال محدد حول ما إذا كانت القاعدة قد تسبب الضرر الذي كان من المفترض أن تمنعه. وأظهر المثال الثالث عمل النظام بشكل عكسي: راجع الذكاء الاصطناعي عمل إنسان ووجد فجوة في تفكير الإنسان نفسه، مما أدى إلى تصحيح حسن إطار عمل الإنسان. أظهر هذا أن الشراكة تعمل في الاتجاهين، حيث يصحح الإنسان والآلة بعضهما البعض.
تخلص الورقة إلى أنه بينما تكنولوجيا الذكاء الاصطناعي جديدة، فإن الانضباط المطلوب لتشغيلها بأمان ليس كذلك. فالأساليب الموصوفة هي نفسها المستخدمة لعقود لإدارة الآلات الصناعية المعقدة وأنظمة التداول. ويجادل المؤلف بأن الصناعة تتحرك حالياً نحو تصميم حيث ينسى الذكاء الاصطناعي كل شيء بين المحادثات، وهو أمر فعال للآلة ولكنه خطير للمستخدم. الحل هو بناء طبقة من الحوكمة البشرية حول الآلة، لضمان حفظ كل درس مستفاد، واختباره، واستخدامه لتعزيز أداء النظام بمرور الوقت. ويعترف المؤلف بأن هذا الاقتراح مبني على الخبرة والمنطق، وليس برهاناً علمياً نهائياً، ويضع خطة للدراسات المستقبلية لاختبار هذه الأفكاء ببيانات صلبة. وحتى ذلك الحين، فإن الرسالة واضحة: للحصول على أقصى استفادة من هذه الأدوات القوية، يجب ألا نعاملها كالسحر، بل كآلات تتطلب يداً ثابتة ومجموعة واضحة من القواعد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.