تخيل أنك قبطان سفينة ضخمة، ومهمتك هي توجيهها عبر عاصفة. في الأيام الخوالي، كانت العاصفة مجرد رياح وأمطار؛ كنت تستطيع رؤية الأمواج، وتلمس رذاذ الماء، وتعرف تماماً متى تدير المقود. ولكن الآن، تخيل أن العاصفة مكونة من ملايين الأشباح غير المرئية ومتغيرة الأشكال التي يمكنها التحدث، والكتابة، والمجادلة. هذا هو عالم الذكاء الاصطناعي (AI) في المجالات عالية المخاطر مثل القانون والطب والعلوم. المشكلة الكبرى ليست فقط في وجود الكثير من الأشباح؛ بل في أنها أصبحت بارعة جداً في جعل نفسها تبدو حقيقية لدرجة أن أفضل القادة يبدأون في الشك في أعينهم.

لفترة طويلة، اعتقد الخبراء أن الحل بسيط: "فقط أضف المزيد من القادة!" أو "اجعل القادة أكثر ذكاءً!". كانوا يعتقدون أنه إذا بقي البشر في الحلقة للتحقق من عمل الذكاء الاصطناعي، فسيكون كل شيء آمناً. لكن فكرة جديدة تشير إلى أن هذا يشبه محاولة الإمساك بإعصار باستخدام شبكة فراشة. فالذكاء الاصطناعي يمكنه الآن إنتاج العمل بسرعة تفوق قدرة أي إنسان على القراءة. وكلما أصبح الذكاء الاصطناعي "مثالياً" أكثر، بدأ العقل البشري في الاسترخاء والثقة به بشكل مفرط، مما يؤدي لتجاهل الأخطاء الدقيقة. الورقة البحثية التي ننظر إليها تجادل بأننا لا نستطيع الاستمرار في إضافة المزيد من العيون البشرية؛ بل يجب علينا تغيير قواعد اللعبة تماماً. فبدلاً من محاولة قراءة كل صفحة يكتبها الذكاء الاصطناعي، نحتاج إلى بناء "بوابة رسوم" تقيس مدى "ثقل" العمل قبل أن يصل إلى القبطان.

تقترح هذه الورقة، بعنوان "التدفق تلو الآخر" (Flow-by-Flow)، طريقة ذكية لإدارة فيضان المحتوى الناتج عن الذكاء الاصطناعي دون قراءة المحتوى نفسه. يقترح المؤلف أنه بدلاً من السؤال، "هل هذه القصة حقيقية؟" (وهو أمر صعب ومخاطرة)، يجب أن نسأل، "كم من الجهد يبدو أن هذه القصة استغرقت؟". لقد قدموا نظاماً يسمى "درجة التكلفة المعرفية". فكر في الأمر كأنه لعبة فيديو حيث لا يمكنك مجرد الضغط المتكر وراء زر "الهجوم". إذا حاولت الهجوم عدة مرات كثيرة، أو إذا كانت هجماتك معقدة للغاية، فإن اللعبة تبطئك تلقائياً. تقترح الورقة استخدام أشياء بسيطة وقابلة للعد — مثل عدد الصفحات، أو عدد الادعاءات القانونية، أو عدد الرسوم البيانية في التقرير — لحساب درجة معينة. إذا كانت الدرجة مرتفعة جداً، فإن النظام لا يرفض العمل؛ بل يقوم بتوجيهه إلى "مسار تجاوز" حيث يجب على مقدم الطلب تحمل احتكاك كبير، مثل الانتظار في طابور مادي أو دفع "ضريبة وقت"، قبل أن يتمكن من التقديم.

أجرى المؤلف محاكاة حاسوبية (تحديداً تحليل مونت كارلو مع 1,000 سيناريو مختلف) ووجد أن طريقة "التحكم في التدفق" هذه تعمل بشكل أفضل من مجرد محاولة توظيف المزيد من الأشخاص للتحقق من العمل في حوالي 90.8% من الحالات. ويجادلون بأن محاولة التحقق من كل مخرج للذكاء الاصطناعي هي معركة خاسرة لأن الذكاء الاصطناعي يمكنه الكتابة بسرعة تفوق قدرة البشر على التفكير. وبدلاً من ذلك، من خلال جعل تقديم مجموعات ضخمة ومعقدة من العمل "مكلفاً" (من حيث الوقت والجهد)، فإننا نبطئ الفيضان بشكل طبيعي. وتقترح الورقة أنه بالنسبة للمشاركات الأكثر تعقيداً، فإن الطريقة الوحيدة العادلة للتعامل معها هي مطالبة الإنسان بالحضور شخصياً والانتظار، مما يحول مشكلة رقمية إلى مشكلة مادية. وهذا يضمن أنه حتى لو كان الذكاء الاصطناعي سريعاً، فإن المشرف البشري لن يتعرض للإرهاق، مما يبقي "العاصفة" في حجم يمكن السيطرة عليه.

الفكرة الجوهرية: لماذا "المزيد من البشر" ليس هو الحل

تشير الورقة في بدايتها إلى خلل في كيفية تفكيرنا الحالي في سلامة الذكاء الاصطناعي. نحن نفترض عادة أنه إذا ارتكب الذكاء الاصطناعي خطأً، فيمكن للبشر ببساطة اكتشافه. لكن المؤلف يقول إن هذا ينهار عندما يحدث شيئان في آن واحد: الذكاء الاصطناعي يصبح بارعاً جداً في الكتابة، والذكاء الاصطناعي يبدأ في الكتابة بكثرة.

تخيل مصنعاً حيث يمكن لروبوت بناء سيارة لعبة في ثانية واحدة. إذا بنى الروبوت 10 سيارات، يمكن للمفتش البشري فحصها جميعاً. ولكن إذا بنى الروبوت 10,000 سيارة في ساعة واحدة، فسيصاب المفتش بالتعب، أو يفوت بعض الأخطاء، أو يبدأ في التفكير: "حسناً، الروبوت جيد جداً، فمن المرجح أنه لم يرتكب خطأً". هذا ما يسمى بـ "انحياز الأتمتة". وتجادل الورقة بأنه في المجالات الخطرة (مثل تشخيص الأمراض أو كتابة القوانين)، لا يمكننا تحمل ترك المفتش يصاب بالتعب أو الثقة المفرطة.

يقدم المؤلف طريقة جديدة للنظر إلى المشكلة. يقول إن المشكلة ليست فقط في عدد العناصر (الحجم، أو $V$). بل هي عدد العناصر مضروباً في مدى صعوبة فحص كل عنصر (الحمل، أو $L$).

• الحجم ($V$): عدد الأشياء التي يكتبها الذكاء الاصطناعي.
• الحمل ($L$): مقدار الجهد الذهني الذي يتطلبه فحص شيء واحد.

حتى لو كتب الذكاء الاصطناعي أشياء أقل، إذا كانت تلك الأشياء شديدة التعقيد، فسيظل العقل البشري مثقلاً. وتجادل الورقة أنه مع زيادة ذكاء الذكاء الاصطناعي، فإنه لا يكتب أكثر فحسب؛ بل يكتب أشياء أصعب في الفحص، أو يخدعنا ليعتقدنا أنها أسهل مما هي عليه. لذا، فإن الفكرة القديمة المتمثلة في "مجرد فحص كل شيء" تصطدم بحائط صلب يسمى $C_{max}$ (أقصى قدر من التفكير يمكن للإنسان القيام به في يوم واحد). وبمجرد أن يتجاوز الذكاء الاصطناعي هذا الحائط، يصبح الفحص البشري مجرد إجراء شكلي زائف، وتتسرب الأخطاء.

الحل: "درجة التكلفة المعرفية"

إذاً، كيف نوقف الفيضان دون قراءة كل قطرة؟ تقترح الورقة نظام "التدفق تلو الآخر" (Flow-by-Flow).

بدلاً من قراءة النص لمعرفة ما إذا كان حقيقياً (وهو أمر صعب وعرضة للأخطاء)، ينظر النظام إلى شكل النص. فهو يحصي أشياء مثل:

• كم عدد الصفحات؟
• كم عدد الرسوم البيانية أو المخططات الموجودة؟
• كم عدد المراجع التي يستشهد بها؟
• كم عدد المطالبات القانونية المدرجة؟

هذه أشياء يمكنك عدّها دون الحاجة إلى فهم المعنى. يقوم النظام بضرب هذه الأرقام معاً لإنشاء درجة التكلفة المعرفية.

• إذا قدمت ورقة قصيرة وبسيطة، ستكون الدرجة منخفضة، وتمر عبر البوابة بسرعة.
• أما إذا قدمت وثيقة ضخمة مكونة من 500 صفحة مع 1,000 رسم بياني، فإن الدرجة سترتفع بشكل أسي. الأمر ليس مجرد "أصعب قليلاً"؛ بل هو قفزة هائلة.

تعمل هذه الدرجة كـ "مطب سرعة". النظام لا يقول: "هذا سيء". بل يقول: "هذا ثقيل". ولأن هذا العمل ثقيل، فإنه يفعل قاعدة: سقف القدرة المؤسسية.

"البوابة المادية": تحويل السرعة الرقمية إلى وقت مادي

هذا هو الجزء الأكثر إبداعاً في الورقة. يدرك المؤلف أنه إذا قلت فقط "لا" للطلبات الضخمة، فسيجد الناس طريقة للالتفاف على ذلك؛ فقد يقومون بتقسيم ورقة واحدة كبيرة إلى عشر ورقات صغيرة. لمنع ذلك، تقترح الورقة "بوابة مادية".

إذا كانت درجة التكلفة المعرفية الخاصة بك عالية جداً (بمعنى أن طلبك معقد للغاية أو ضخم جداً بالنسبة للمسار السريع القياسي)، فلن يتم رفضك. بدلاً من ذلك، سيتم توجيهك إلى مسار التجاوز. في هذا المسار، لن تحصل على قبول تلقائي؛ بل يجب عليك الانتظار.

• القاعدة: لتقديم طلب معقد، يجب عليك الذهاب إلى مكتب مادي، وإظهار هويتك، والانتظار في طابور لفترة زمنية محددة.
• الرياضيات: إذا كانت درجتك أعلى بـ 8 مرات من الحد المسموح به، فقد يتعين عليك الانتظار 16 ساعة (أو حسب ما تمليه الصيغة).
• الفخ: لا يمكنك القيام بهذا 1,000 مرة في الدقيقة. لا يمكنك توظيف روبوت ليقف في الطابور نيابة عنك. يجب أن تكون إنساناً حقيقياً، حاضراً جسدياً، وتضيع وقتك.

هذا يحول "التكلفة القريبة من الصفر" للنسخ الرقمي إلى "تكلفة حقيقية" تتمثل في الوقت المادي.

• بالنسبة لشخص عادي: إذا كان لديه فكرة واحدة معقدة حقاً، فإن الانتظار لبضع ساعات هو أمر مزعج ولكنه عادل.
• بالنسبة لممارسي "السبام" بالذكاء الاصطناعي: إذا أرادوا تقديم 1,000 طلب معقد، فسيحتاجون إلى 1,000 شخص يقفون في الطابور لمدة 1,000 ساعة. وهذا مستحيل.

تسمي الورقة هذا "الاحتكاك المرتبط بالهوية لكل طلب". إنه يجعل عملية "السبام" مكلفة، ولكنه يظل سهلاً بالنسبة للإنسان الطبيعي.

ما الذي تقول له الورقة "لا"

المؤلف واضح جداً بشأن ما لا يعمل، وقد أمضى وقتاً طويلاً في شرح سبب عدم اعتمادنا على تلك الطرق:

1. "فقط أضف المزيد من البشر": يقول إن هذا فخ. لا يمكنك توظيف عدد كافٍ من البشر لمواكبة ذكاء اصطناعي يمكنه كتابة مليون ورقة في اليوم. التكلفة ستكون لانهائية.
2. "دع الذكاء الاصطناعي يفحص الذكاء الاصطناعي": يجادل بأن هذه حلقة مفرغة. إذا قام ذكاء اصطناعي بفحص ذكاء اصطنا آخر، فمن سيفحص الفاحص؟ في النهاية، يجب على البشر التوقيع، وسيعودون إلى نفس مشكلة الإرهاق.
3. "فقط اطلب من الناس أن يكونوا صادقين": تقول الورقة إن مطالبة الناس بـ "الإفصاح عما إذا كانوا قد استخدموا الذكاء الاصطناعي" لا تجدي نفعاً لأنه لا توجد طريقة لإثبات صدقهم. سيقوم الناس بالكذب ببساطة.
4. "اقرأ المحتوى للتحقق منه": هذا هو الـ "لا" الأكبر. تجادل الورقة بأن محاولة قراءة والحكم على حقيقة كل مخرج للذكاء الاصطناعي هو بالضبط ما يسبب الاختناق. نحن بحاجة إلى تجاوز جزء القراءة تماماً والتركيز على التدفق.

ما مدى تأكدهم؟

الورقة حذرة في عدم الادعاء بأنها قد "حلت" مشكلة سلامة الذكاء الاصطناعي للأبد. لقد استخدموا عمليات المحاكاة لاختبار فكرتهم.

• أجروا محاكاة حاسوبية (تحليل مونت كارلو) مع 1,000 سيناريو عشوائي مختلف.
• في 90.8% من تلك المحاكاة، عمل نظام "التدفق تلو الآخر" الخاص بهم بشكل أفضل من مجرد محاولة توظيف المزيد من الأشخاص للتحقق من العمل.
• يعترفون بأن الذكاء الاصطناعي يصبح أذكى كل عام. ويقترحون أنه في النهاية، قد يصبح الذكاء الاصطناعي بارعاً جداً في "التلاعب" بالنظام (مثل إيجاد طرق لجعل ورقة طويلة تبدو قصيرة) لدرجة أن القواعد ستحتاج إلى التغيير مرة أخرى.
• يقرون بأن فكرة "البوابة المادية" (جعل الناس ينتظرون في طابور) صعبة التنفيذ في العالم الحقيقي. قد يكون من غير العادل للأشخاص الذين يعيشون بعيداً أو يعانون من إعاقات. ويقترحون أنه ربما يمكن استخدام "الانتظار عن بعد" (مثل مكالمة فيديو حيث تجلس وتنتظر فقط)، لكنهم يعترفون بأن هذا تحدٍ كبير.

الصورة الكبيرة

الرسالة الرئيسية للورقة هي تغيير في المنظور. كنا نعتقد أن المشكلة هي "كيف نجعل الذكاء الاصطناعي أذكى؟" أو "كيف نجعل البشر أذكى؟". يقول المؤلف إن المشكلة هي في الواقع "كيف ندير حركة المرور؟".

تخيل طريقاً سريعاً. إذا كان هناك مليون سيارة تحاول دخول نفق يتسع لـ 100 سيارة فقط، فأنت لا تحل المشكلة ببناء نفق أكبر (لا يمكنك بناء نفق كبير بما يكفي لمليون سيارة). ولا تحلها بتوظيف المزيد من جباة الرسوم. أنت تحلها بوضع بوابة تقول: "إذا كنت تقود شاحنة ثقيلة، فعليك الانتظار في مسار خاص".

نظام "التدفق تلو الآخر" هو تلك البوابة. لا يهتم إذا كانت شاحنتك تحمل ذهباً أو قمامة؛ هو يهتم فقط بأنها ثقيلة. ومن خلال جعل العمل "ثقيلاً" لتقديمه، فإنه يجبر النظام على التباطؤ إلى سرعة يمكن للعقول البشرية التعامل معها فعلياً. إنها طريقة للاستفادة من قدرات الذكاء الاصتدماعية دون السماكن من تحطيم النظام.

يخلص المؤلف إلى أنه بينما قد يكون تطبيق فكرة "البوابة المادية" تحديداً صعباً في الواقع، إلا أن المبدأ صلب: يجب أن نتوقف عن محاولة فحص كل شيء ونبدأ في إدارة التدفق. إذا لم نفعل ذلك، تشير الورقة إلى أنه في المجالات عالية المخاطر، سنصل في النهاية إلى نقطة يصبح فيها الإشراف البشري مجرد إجراء شكلي زائف، وستحدث أخطاء حقيقية في الظلام.