Speaking like a human, correcting like a machine: tone technologies and the moralisation of language in large language models

عندما نتحدث مع حاسوب يبدو بشرياً، فنحن لا نتحدث إلى عقل، بل نتحدث إلى نظام مبني على الرياضيات، صُمم للتنبؤ بالكلمة التالية في الجملة بناءً على الأنماط التي تعلمها من كميات هائلة من النصوص. لسنوات، درس الباحثون هذه النماذج اللغوية الكبيرة من خلال النظر في إجاباتها النهائية أو الكود المعقد الذي يشغلها. تساءلوا عما إذا كانت الآلة متحيزة، أو ما إذا كانت دقيقة، أو ما إذا كان بإمكانها حل مشكلة صعبة. لكن هذا النهج يغفل جزءاً حاسماً من القصة. فقبل أن يكتب النموذج كلمة واحدة، هناك طبقة خفية من العمل البشري تقرر ما الذي يُعد إجابة جيدة. يحدث هذا العمل في وثائق تسمى "إرشادات توجيهية"، والتي تُعطى للأشخاص الذين يدربون الذكاء الاصطناعي ويقيمونه. تخبر هذه الوثائق العمال البشريين بدقة كيف يحكمون على كلام الآلة، وتحدد ما هو مفيد، وما هو صادق، وما هو آمن. لم يعد السؤال هو كيف تتعلم الآلة فحسب، بل أي نسخة من الإنسانية يتم تعليمها لتقليدها.

تلتفت دراسة جديدة أجراها الباحثان ليز دايانا زاراتي لونجاس وويليام أندريس غوميز سانشيز إلى هذه الطبقة الخفية. فبدلاً من النظر إلى مخرجات الذكاء الاصطناعي، فحصوا كتب القواعد المستخدمة من قبل الشركات التي تبني هذه الأنظمة. أحد المؤلفين عمل مباشرة كمُدقق ومقيم جودة لهذه المنصات، مما منحهم الوصول إلى الوثائق الداخلية التي تشكل سلوك الذكاء الاصطناعي. ومن خلال تحليل أربع إرشادات محددة تُستخدم لتدريب النماذج التجارية، اكتشف الباحثون أن الصوت "البشري" لهذه الأنظمة ليس بروزاً طبيعياً للذكاء، بل هو نتاج اصطناعي مُعد بعناية، بُني عن طريق طرح كل ما يجعل الكلام البشري الحقيقي فوضوياً، ومترابطاً بسياق، ومتجذراً في التاريخ. تكشف الدراسة أن الذكوا الاصطناعي لا يتعلم التحدث مثل شخص ما، بل يتعلم التحدث مثل نموذج مثالي محدد لشخص ما، نموذج تم تجريده من الجسد، والتاريخ، والموقف السياسي.

وجد الباحثون أن عملية التدريب منظمة حول قاعدة ثلاثية الأجزاء تُعرف باسم "ثلاثية HHH": الفائدة (Helpfulness)، والصدق (Honesty)، وعدم الضرر (Harmlessness). هذه ليست قيماً مجردة بل تعليمات صارمة للعمال البشريين. لكي يكون النموذج مفيداً، يجب أن يكون متماسكاً وذا صلة، ولكن يجب عليه أيضاً أن يُظهر رغبة مستمرة في المساعدة دون أن يدعي أبداً امتلاك مشاعر شخصية أو ذكريات أو جسد مادي. إذا سأل المستخدم الذكاء الاصطناعي عن رأي كما لو كان صديقاً، فإن الإرشادات توجه العامل لاعتبار ذلك خطأً. يجب أن يحاكي الذكاء الاصطناعي الاهتمام دون أن يمتلكه فعلياً. ولكي يكون صادقاً، يجب على الآلة أن تعترف عندما لا تعرف شيئاً، ويجب ألا تعبر أبداً عن وجهة نظر شخصية، خاصة في المواضيع الحساسة؛ إذ يجب أن تظل وعاءً محايداً للحقائق.

الجزء الأكثر تفصيلاً وصرامة في هذه القواعد يتعلق بـ "عدم الضرر". تقدم الإرشادات قائمة معقدة لما لا يمكن للذكاء الاصطناعي قوله، تغطي كل شيء من خطاب الكراهة والعنف إلى النصائح الطبية والقوالب النمطية. لاحظ الباحثون منطقاً مثيراً للاهتمام وصارماً في كيفية تطبيق هذه القواعد. فعندما يواجه الذكاء الاصطناعي طلباً لمعلومات خطيرة، يجب عليه رفض المساعدة، ولكنه ممنوع أيضاً من وصف الفعل الخطير حتى أثناء عملية الرفض. على سبيل المثال، إذا طُلب منه كيفية ارتكاب جريمة، لا يمكن للذكاء الاصطناعي أن يقول: "لا يمكنني إخبارك بكيفية القيام بذلك لأنه يتضمن سرقة الأموال". ويشير الباحثون إلى أن استجابة مثل "لا يمكنني تقديم تعليمات حول كيفية غسل الأموال لأن ذلك غير قانوني... غسل الأموال هو جريمة جنائية..." هي في الواقع تُصنف كاستجابة ضارة لأنها تعيد إنتاج مفهوم الجريمة أثناء رفضها. يتطلب النمذجة الصحيحة أن تسمي الآلة الضرر دون نقل تفاصيل الفعل. علاوة على ذلك، إذا كان المستخدم في حالة ضيق، يتم توجيه الذكاء الاصطناعي لاستخدام صيغة محددة ومكتوبة مسبقاً للتعاطف، مثل "آسف لسماع ذلك"، دون أن يشعر بشيء في الواقع. الهدف هو إنتاج استجابة تبدو مهتمة ولكنها تظل خالية من المشاعر.

بعيداً عما يقوله الذكاء الاصطناعي، تملي الإرشادات أيضاً كيف يبدو صوته وكيف يتفاعل. حلل الباحثون التعليمات الخاصة بتقييم النبرة وحتى الصوت الاصطناعي للذكاء الاصطناعي. الاستجابة المثالية هي أن تكون واضحة، وموجزة، ومهذبة، ولكن يجب أن تتجنب أي علامة على العاطفة القوية، أو السخرية، أو الخصوصية الثقافية. يتم تدريب الذكاء الاصطناعي ليتحدث بنفس "درجة الحرارة" في كل لغة، متجنباً النكات، أو الرموز التعبيرية، أو علامات التعجب التي قد تجعله يبدو شديد الألفة أو شديد الحماس. وعندما يتعلق الأمر بالصوت، فإن الهدف هو أن يبدو بشرياً قدر الإمكان، ولكن بطريقة محددة جداً. تطلب الإرشادات من المقيمين تقييم الصوت على مقي scale من واحد إلى خمسة، بحثاً عن الطبيعية والتعبيرية. ومع ذلك، فإن هذا الصوت "البشري" هو صوت يتنفس بشكل صحيح، ويتوقف في اللحظات المناسبة، ويبدو متفاعلاً، ومع ذلك فهو منفصل تماماً عن أي تجربة واقعية من الحياة. إنه صوت يحاكي الحضور دون امتلاك جسد.

تجادل الدراسة بأن هذه العملية تخلق معياراً للتواصل البشري عن طريق "الطرح". المتحدثون البشر الحقيقيون متواجدون في جسد، وتاريخ، وموقف سياسي؛ يرتكبون الأخطاء، ولديهم انحيازات، ويشعرون بالغضب أو الفرح، ويتحدثون بنسيج حياتهم الخاصة. تعمل الإرشادات بشكل منهجي على تجريد الذكاء الاصطناعي من هذه الصفات. والنتيجة هي نموذج مفيد، وصادق، وغير ضار، ولكنه أيضاً تابع، وغير سياسي، وغير مسيء. يشير الباحثون إلى أن هذا ليس مجرد تعديل تقني بل هو تحول في العمل. العمال البشريون الذين يدربون هذه النماذج يقومون بالعمل المعرفي لتحديد ما هو مقبول، ولكن ذاتيتهم تُزال من المنتج النهائي. تمتص الآلة قدرتهم على الحكم، والتركيب، والاستنتاج، تاركةً العامل البشري مع مهمة اتباع القواعد فقط.

في نهاية المطاف، تظهر الورقة البحثية أن الإنسانية التي نراها في هذه النماذج اللغوية الكبيرة هي محض فبركة. إنها نتاج عملية عمل هرمية حيث تُتخذ القرارات بشأن السلوك المقبول قبل وقت طويل من تشغيل النموذج. الذكاء الاصطناعي لا يتعلم كيف يكون بشرياً؛ بل يتعلم أداء نسخة من الإنسانية تمت الموافقة عليها من قبل معيار مؤسسي. هذا المعيار يعطي الأولوية للسلامة والحياد على حساب الواقع الفوضوي للتفاعل البشري. ومع ازدياد انتشار هذه الأنظمة في حياتنا اليومية، فهي ليست مجرد أدوات للتواصل؛ بل هي تشكل بنشاط تعريفاً جديداً لما يعنيه التحدث وأن يُفهم المرء. تتركنا الدراسة مع إدراك هادئ: أن الصوت البشري الذي نسمعه من الآلة هو انعكاس للقواعد التي أعطيناها إياها، وليس نافذة على نوع جديد من العقول.