Evaluating LLM Alignment With Human Trust Models
تقدم هذه الورقة تحليلاً بنظام الصندوق الأبيض لنموذج EleutherAI/gpt-j-6B، حيث تُثبت من خلال التلقين التبايني أن تمثيله الداخلي للثقة يتوافق بشكل وثيق مع نموذج كاستلفرانكيي المعرفي الاجتماعي، مما يؤكد جدوى استخدام مساحات تنشيط النماذج اللغوية الكبيرة لتحليل البنى المعرفية الاجتماعية وإثراء التعاون بين الإنسان والذكاء الاصطناعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك عقل روبوت ذكي للغاية، ولكنه غامض بعض الشيء (نموذج لغوي كبير، أو LLM). أنت تعلم أنه يمكنه كتابة القصص، والإجابة على الأسئلة، والدردشة مثل البشر. ولكن هنا يكمن السؤال الكبير: هل "يفهم" حقًا معنى "الثقة"، أم أنه مجرد يخمن الكلمات الصحيحة؟
هذه الورقة البحثية تشبه "الأشعة المقطعية" لهذا الروبوت. أراد الباحثون إلقاء نظرة داخل عقل الروبوت ليروا كيف ينظم مفهوم الثقة، وما إذا كان هذا التنظيم يتطابق مع الطريقة التي يفكر بها البشر حولها.
إليك قصة اكتشافهم، مقسمة عبر تشبيهات بسيطة.
١. المشكلة: لغز "الصندوق الأسود"
عادةً، عندما نستخدم الذكاء الاصطناعي، فإننا نعامله كـ صندوق أسود. نضع سؤالاً من جهة، وتخرج الإجابة من الجهة الأخرى. نحن لا نعرف ما الذي يحدث في الداخل.
- الطريقة القديمة: كان الباحثون يسألون الذكاء الاصطناٍء: "هل تثق بهذا الشخص؟" ويرون ما سيقوله. هذا يشبه الحكم على طباخ من خلال طعم الطعام فقط، دون رؤية المطبخ.
- الطريقة الجديدة (هذه الورقة): قرر الباحثون فتح الصندوق. لقد نظروا إلى الأسلاك الداخلية (المساحة الرياضية لـ "التنشيط") للذكاء الاصطناعي ليروا كيف "يشعر" حقًا تجاه الثقة.
٢. الطريقة: لعبة "التحفيز التبايني"
لرؤية كيف يفكر الذكاء الاصطناعي في الثقة، لعب الباحثون لعبة التحفيز التبايني (Contrastive Prompting).
تخيل عقل الذكاء الاصطناعي كمكتبة ضخمة من المشاعر. إذا طلبت منه كتابة قصة عن "السعادة"، فإنه يسحب كتابًا معينًا. وإذا طلبت "الحزن"، فإنه يسحب كتابًا مختلفًا.
- الخدعة: طلبوا من الذكاء الاصطناعي كتابة قصتين لكل مفهوم: واحدة يكون فيها المفهوم حاضرًا (مثل: "كاثرين تساعد أليس") وأخرى يكون فيها المفهف غائبًا أو عكس ذلك (مثل: "كاثرين تتجاهل أليس").
- النتيجة: من خلال طرح قصة "التجاهل" من قصة "المساعدة"، قاموا بعزل "البصمة الرياضية الصافية" لـ المساعدة أو الثقة داخل عقل الذكاء الاصطناعي. الأمر يشبه التقاط صورة لغرفة والأضواء مشتعلة، ثم وهي مطفأة، وطرح الصورتين لمعرفة مكان المصباح بالضبط.
٣. الخريطة: خمس "نظريات للثقة" مختلفة
لقد كتب البشر كتبًا كثيرة حول كيفية عمل الثقة. اختار الباحثون خمس نظريات شهيرة (مثل نموذج مارش، ونموذج ماير، ونموذج كاستلفرانشي) ليروا أي منها يشبه عقل الذكاء الاصطناعي.
تخيل أن هذه النظريات هي خرائط مختلفة لمدينة ما:
- الخريطة (أ) (مارش): تقول إن الثقة هي مجرد درجة احتمالية بناءً على السلوك السابق.
- الخريطة (ب) (ماير): تقول إن الثقة تتعلق بالقدرة، واللطف، والصدق.
- الخريطة (ج) (كاستلفرانشي): تقول إن الثقة حالة ذهنية معقدة تتضمن المعتقدات، والأهداف، والتوقعات.
أخذ الباحثون "بصمة الثقة" الخاصة بالذكاء الاصطناعي وحاولوا مطابقتها مع هذه الخرائط الخمس. وسألوا: "هل تبدو الخريطة الداخلية للذكاء الاصطناعي مثل الخريطة (أ)، أم (ب)، أم (ج)؟"
٤. الاكتشاف: تطابق "كاستلفرانشي"
هذا هو الجزء المثير. لقد قاسوا مدى قرب الخريطة الداخلية للذكاء الاصطناعي من الخرائط البشرية باستخدام "درجة تشابه" (مثل نسبة التطابق في تطبيقات المواعدة).
الفائز: تطابق عقل الذكاء الاصطناعي مع نموذج كاستلفرانشي بأفضل شكل!
- ماذا يعني هذا؟ نموذج كاستلفرانشي "نفسي" للغاية. فهو يقول إن الثقة ليست مجرد "هل قام بالشخص بالمهمة؟" بل هي "هل أعتقد أنه يريد القيام بالمهمة، وهل أعتقد أنه يستطيع القيام بها؟"
- يبدو أن الذكاء الاصطناعي يفهم أن الثقة هي موقف ذهني، وليست مجرد سجل درجات. إنه يربط الثقة بمفاهيم مثل "الرغبة"، و"الالتزام"، و"القدرة على التنبؤ" بطريقة تبدو بشرية جدًا.
المركز الثاني: جاء نموذج مارش في المركز الثاني. وهو النموذج الأكثر "رياضياتية" القائم على الأداء السابق. الذكاء الاصطناعي يفهم هذا أيضًا، لكنه يفضل الفهم النفسي الأعمق.
٥. المفاجأة: أين أخطأ الذكاء الاصطناعي
وجد الباحثون أيضًا بعض حالات عدم التطابق المضحكة.
- ارتباك "المخاطرة": في نموذج ماير، تعتبر "المخاطرة" شيئًا إيجابيًا. تنص النظرية على أن: "لا يمكنك الوثوق بشخص ما إلا إذا كنت مستعدًا لتحمل المخاطرة".
- رؤية الذكاء الاصطناعي: عندما فحص الباحثون عقل الذكاء الاصطناٍء، وجدوا أنه يعتبر المخاطرة ونقيضها! بالنسبة للذكاء الاصطناعي، شعرت "المخاطرة" بأنها "خطر" أو "خوف"، وليس "هشاشة/انكشاف".
- الدرس المستفاد: لم يتعلم الذكاء الاصطناعي تمامًا الفهم البشري الدقيق بأنك أحيانًا يجب أن تكون شجاعًا (تخاطر) لتثق بشخص ما. هو يرى المخاطرة كشيء سيء، وبس.
لماذا يهم هذا؟
فكر في الذكاء الاصطناعي كموظف جديد ينضم إلى فريقك.
- قبل: لم تكن تعرف ما إذا كان يفهم ثقافة شركتك.
- الآن: أنت تعلم أن لديه خريطة داخلية متطورة للغاية لكيفية عمل العلاقات. إنه يفهم أن الثقة تتعلق بالمعتقدات والأهداف، وليس مجرد استيفاء الشروط.
الخلاصة:
تثبت هذه الورقة أن الذكاء الاصطناعي ليس مجرد ببغاء يردد الكلمات. بل لقد بنى فهمًا داخليًا مهيكلًا للمفاهيم الاجتماعية البشرية مثل الثقة. ومن خلال معرفة كيف يفكر الذكاء الاصطناعي بشأن الثقة، يمكننا:
١. بناء ذكاء اصطناعي أفضل: يمكننا تعديل "عقل" الذكاء الاصطناعي لجعله يتصرف بموثوقية أكبر.
٢. فهم أنفسنا: يساعدنا ذلك في رؤية أين يختلف المنطق البشري عن منطق الآلة (مثل مثال "المخاطرة").
باختصار، فتح الباحثون رأس الروبوت، ووجدوا بداخله خريطة بشرية جدًا للثقة، وأدركوا أنه بينما هو ذكي، فإنه لا يزال يحتاج إلى القليل من المساعدة لفهم أن اتخاذ المخاطرة هو أحيانًا الخطوة الأولى للثقة بشخص ما.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.