The Invisible Editorial Layer: Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models
تجادل هذه الورقة بأن التدخلات غير المعلنة أثناء مرحلة الاستنتاج تخلق "طبقة تحريرية" خفية في النماذج اللغوية المنشورة، مما يؤدي إلى تحيز المخرجات بشكل منهجي وطمس نسب المصدر، وهو ما يستلزم أطر حوكمة جديدة مثل "شفافية سياسة الاستنتاج" لمعالجة الفجوة بين أوزان النموذج والسلوك الملحوظ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
عندما نسأل نموذج لغة كبير سؤالاً، غالباً ما نتخيل حواراً مباشراً بين إنسان وآلة. نحن نفترض أن الإجابة تأتي مباشرة من عقل الحاسوب، مشكلةً فقط من خلال البيانات التي تدرب عليها والكلمات التي كتبناها. هذه الرؤية تعامل النموذج كأنه مكتبة ثابتة، حيث الكتب بداخلها محددة، والمتغير الوحيد هو أي كتاب سيخرجه أمين المكتبة من الرف. ومع ذلك، فإن واقع كيفية عمل هذه الأنظمة في العالم الحقيقي أكثر تعقيداً. لقد نضجت التكنولوجيا وراء هذه النماذج إلى حد جعل الحاسوب قادراً على فعل ما هو أكثر من مجرد استرجاع المعلومات؛ إذ يمكنه تغيير احتمالات ما سيقوله تالياً بشكل طفيف، حتى قبل أن ينهي جملة واحدة. يحدث هذا في طبقة برمجية خفية تقع بين المعرفة الجوهرية للنموذج والنص النهائي الذي تراه على شاشتك. إنه فضاء يمكن فيه توجيه المخرجات الخام للآلة، أو تعديلها، أو قيادتها دون تغيير الذاكرة الأساسية للآلة.
تستكشف ورقة بحثية جديدة لأوغستو كامارغو عواقب هذه الطبقة الخفية، جازمةً بأننا ننظر إلى الجزء الخطأ من النظام إذا كنا نهتم بالنموذج نفسه فقط. يقترح المؤلف أن التأثير الأكبر على ما يقوله الذكاء الاصطناعي قد لا يكون في بيانات تدريبه أو كوده الداخلي، بل في القواعد غير المرئية التي تُطبق في اللحظة التي يوشك فيها على التحدث. ينقل هذا البحث التركيز من السؤال "ماذا يعرف النموذج؟" إلى "من الذي يتحكم فيما يُسمح للنموذج بقوله؟". لا تدعي الورقة أن هذه الأنظمة تُستخدم حالياً للتلاعب بالعالم بطريقة محددة ومثبتة، بل تقول إن الأدوات التقنية للقيام بذلك موجودة، وهي مستخدمة بالفعل لأغراض أخرى، وتظل غير مرئية إلى حد كبير للأشخاص الذين يستخدمونها. إنها دعوة لإدراك أن الإجابة التي تتلقاها ليست مجرد انعكاس للنموذج، بل هي نتاج نظام يمكن ضبطه لأسباب سياسية أو تجارية أو أيديولوجية دون أن يعلم أحد.
يرتكز جوهر هذا الطرح على ملاحظة بسيطة ولكنها قوية: النموذج ليس هو الشيء نفسه الذي يقدم إجاباته. في الإعداد القياسي، يكتب المستخدم أمراً (prompt)، ويولد النموذج قائمة بالكلمات التالية المحتملة مع احتمالات مختلفة، ثم يختار الحاسوب واحدة منها. تشير الورقة إلى أنه في التطبيقات الحديثة في العالم الحقمي، غالباً ما تكون هناك خطوة إضافية في المنتصف. فقبل أن يختار الحاسوب خياره النهائي، يمكن لقطعة برمجية منفصلة أن تنظر إلى تلك الاحتمالات وتعدلها. يمكنها جعل كلمات معينة أكثر احتمالاً للظهور وأخرى أقل احتمالاً، كل ذلك دون تغيير الأوزان الداخلية للنموذج أو أمر المستخدم. تشبه هذه العملية كيفية قيام محطة راديو برفع مستوى صوت أغنية معينة قليلاً لتبرز، رغم أن الأغنية نفسها لم تتغير. وتصيغ الورقة هذا كـ "سياسة استدلال" (inference policy)، وهي مجموعة من القواعد التي تعمل في اللحظة الأخيرة من التوليد.
يوضح المؤلف أن هذه القدرة ليست نظرية؛ فهي تقنية مثبتة تُستخدم لأمور أخرى بالفعل. فعلى سبيل المثال، تستخدم الشركات أساليب مماثلة لدمج علامات مائية غير مرئية في النصوص لإثبات أنها كُتبت بواسطة ذكاء اصطناعي، أو لتوجيه النموذج بعيداً عن اللغة السامة. وتجادل الورقة بأن نفس الآلات التقنية المستخدمة لإضافة العلامات المائية أو ضمان السلامة يمكن إعادة توظيفها لشيء أكثر دقة: "التأطير" (Framing). التأطير هو عرض موضوع ما بطريقة تسلط الضوء على جوانب معينة بينما تقلل من أهمية جوانب أخرى، مما يؤثر على فهم الشخص للقضية دون الكذب بشأن الحقائق. يمكن برمجة نظام ما ليختار باستمرار كلمات تجعل سياسة حكومية تبدو كإجراء وقائي، بينما يمكن ضبط نسخة أخرى من نفس النظام لجعل السياسة ذاتها تبدو كعبء بيروقراطي. كلا الإجابتين يمكن أن تكونا صحيحتين من الناحية الواقعية، لكن اختيار الكلمات سيقود المستخدم نحو استنتاج عاطفي أو سياسي محدد.
يقود هذا إلى مشكلة رئيسية تسميها الورقة "مشكلة الإسناد" (attribution problem). فإذا طرح مستخدم سؤالاً سياسياً وتلقى إجابة منحازة، فمن الصعب جداً معرفة مصدر هذا الانحياز. هل هو بسبب تدريب النموذج على بيانات منحازة؟ أم لأن المطورين أضافوا تعليمات مخفية للنظام؟ أم لأن طرفاً ثالثاً دفع مقابل تحريك الاحتمالات في اتجاه معين؟ ولأن التعديل يحدث في الجزء من الثانية الذي يسبق توليد الإجابة، فإنه لا يترك أي أثر في سجل المحادثة. وخلافاً للتعليمات المخفية التي قد تُكشف بالصدفة، أو مجموعة التدريب المنحازة التي قد تظهر في الاختبار، فإن هذا النوع من التوجيه غير مرئي لأي شخص ينظر في كود النموذج أو النص النهائي. وتقترح الورقة أن هذا يجعل من الصعب للغاية محاسبة أي شخص على الآراء التي يعبر عنها الذكاء الاصطناعي، لأن مصدر التأثير يكمن في طبقة النشر، وليس في النموذج نفسه.
كما يقدم المؤلف مفهوماً يُسمى "وضع الاحتمالية" (probability placement)، والذي يصف شكلاً جديداً من الإعلانات الافتراضية. فبدلاً من أن تدفع شركة ما لذكر منتجها صراحة في الإجابة، يمكنها الدفع لزيادة احتمالية اختيار علامتهم التجارية بشكل طفيف عندما يقرر النموذج الاختيار بين الخيارات. تخيل أنك تطلب توصية بشأن أي قاعدة بيانات يجب استخدامها. قد يفكر النموذج طبيعياً في أن ثلاثة خيارات جيدة بالتساوي، لكن سياسة تجارية يمكن أن توجه الاحتمالات بحيث يصبح منتج الشركة الدافعة هو الخيار الأكثر احتمالاً. سيحدث هذا دون أي إعلان صريح، ودون أن يدرك المستخدم أنه يتعرض للتأثير، ودون أن يُؤمر النموذج بـ "البيع" لأي شيء. إنها طريقة لدمج التأثير التجاري مباشرة في نسيج التوصية، مما يجعلها تبدو وكأنها رأي طبيعي وغير منحاز.
تدرس الورقة كيف تتفاعل هذه الديناميكيات مع القوانين واللوائح الحالية، مثل قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي ومعايير الإعلان. وتشير إلى أنه بينما توجد قوانين لمنع التلاعب اللاواعي أو تتطلب الإفصاح عن الروابط التجارية، إلا أنها كُتبت مع مراعية تقنيات أقدم. فهي تفترض أنه إذا تم الترويج لمنتج ما، فسيكون ذلك واضحاً. وهي لا تأخذ في الحسبان نظاماً يكون فيه الترويج عبارة عن تحول إحصائي ضئيل في احتمالية ظهور كلمة ما. ويجادل المؤلف بأنه إذا كان بإمكان نظام ما توجيه المستخدمين بشكل منهجي نحو وجهة نظر سياسية أو خيار تجاري معين دون علمهم، فإن ذلك يتحدى المفهوم الجوهري لاتخاذ القرار المستنير. قد لا يكون الضرر فورياً أو واضحاً في محادثة واحدة، لكن الورقة تشير إلى أنه عبر ملايين التفاعلات، يمكن لهذا التوجيه الخفي أن يتراكم ليشكل الرأي العام والسلوك السوقي بطرق عميقة.
في النهاية، تقترح الورقة مبدأً جديداً للحوكمة يسمى "شفافية سياسة الاستدلال" (inference policy transparency). وهذا يتطلب من الشركات الإفصاح ليس فقط عن كيفية تدريب نماذجهما، بل أيضاً عن كيفية توجيهها عند استخدامها. إنها تدعو إلى نظام تكون فيه القواعد التي تعدل الاحتمالات مرئية وقابلة للتدقيق، تماماً مثل الملصق الموجود على عبوة الطعام. الهدف هو نقل السؤال من "ماذا يرمز النموذج؟" إلى "من يتحكم في توزيع الاحتمالات بين النموذج والمستخدم؟". وتخلص الورقة إلى أنه مع زيادة مركزية هذه الأنظمة في كيفية وصولنا إلى المعلومات، واتخاذ القرارات، ومناقشة الأفكار، يجب أن ندرك أن النموذج هو جزء واحد فقط من المعادلة. إن الطبقة الخفية التي تقع بين الآلة والإنسان هي حيث قد تكمن الآن القوة الحقيقية لتشكيل الواقع، وهي طبقة تعمل حالياً في الظلام.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.