Framing Matters: Addressing Framing Sensitivity in Decision-Making through Behaviorally-Grounded Value Alignment
यह शोध पत्र "Fragile" बेंचमार्क प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि बड़े भाषा मॉडल (Large Language Models) उच्च-दांव वाले परिदृश्यों में फ्रेमिंग-प्रेरित निर्णय संबंधी विसंगतियों के प्रति अत्यधिक संवेदनशील होते हैं, और "Valign" का प्रस्ताव करता है, जो एक प्रतिनिधित्व-स्तरीय (representation-level) विधि है जो निर्णयों को स्थिर मूल्य पूर्वधारणाओं (value priors) से जोड़कर इस संवेदनशीलता को प्रभावी ढंग से कम करती है जहाँ पूर्व हस्तक्षेप विफल रहे थे।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Framing Matters" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
बड़ी समस्या: "फ्रेमिंग" का जाल (The "Framing" Trap)
कल्पना कीजिए कि आप एक मामले पर फैसला सुनाने वाले न्यायाधीश हैं। तथ्य स्पष्ट हैं: एक व्यक्ति ने अपने भूखे परिवार को खिलाने के लिए रोटी चुराई।
- परिदृश्य A: अभियोजक कहता है, "प्रतिवादी ने जीवित रहने के लिए चोरी की।"
- परिदृश्य B: अभियोजक कहता है, "प्रतिवादी ने एक बच्चे को भुखमरी से बचाने की हताशा में यह कदम उठाया।"
दोनों मामलों में, तथ्य बिल्कुल समान हैं। लेकिन परिदृश्य B में, आप अधिक सहानुभूति महसूस कर सकते हैं और उदार निर्णय ले सकते हैं। परिदृश्य A में, आप अधिक सख्त हो सकते हैं। इसे फ्रेमिंग इफेक्ट (framing effect) कहा जाता है। मनुष्य ऐसा करते ही हैं, लेकिन यह पेपर एक डरावना सवाल पूछता है: क्या AI मॉडल (लार्ज लैंग्वेज मॉडल्स) भी ऐसा करते हैं?
शोधकर्ताओं ने पाया कि हाँ, वे करते हैं। भले ही तथ्य न बदलें, केवल कहानी का "स्वाद" (फ्रेम) बदलने से AI अपना निर्णय पूरी तरह से बदल देता है। यह ऐसा है जैसे AI पैकेजिंग के झांसे में आ जाता है और असली उत्पाद को अनदेखा कर देता है।
जांच: "FRAGILE" का परिचय
इसका अध्ययन करने के लिए, टीम ने एक विशाल परीक्षण मैदान बनाया जिसे FRAGILE (एक बेंचमार्क) कहा जाता है। इसे AI मस्तिष्क के लिए एक "स्ट्रेस टेस्ट" की तरह समझें। उन्होंने हजारों गंभीर निर्णय लेने वाली स्थितियों (जैसे कानूनी निर्णय, मेडिकल ट्राइएज और नैतिक दुविधाएं) को लिया और उन्हीं तथ्यों को तीन अलग-अलग तरीकों से "रिपैकेज" करने के तरीके बनाए:
मूल्य-रंजित वर्णन (The "Moral Lens"):
- उदाहरण: कल्पना कीजिए कि आप एक पेड़ का वर्णन कर रहे हैं। एक संस्करण कहता है, "यह पेड़ पक्षियों को घर प्रदान करता है (परोपकारिता/Benevolence)।" दूसरा कहता है, "यह पेड़ प्रकृति की जंगली स्वतंत्रता का प्रतीक है (स्व-निर्देशन/Self-Direction)।" पेड़ वही है, लेकिन नैतिक कोण बदल जाता है।
- परिणाम: जिस नैतिक कोण को उजागर किया गया था, उसके आधार पर AI के निर्णय बहुत अधिक बदल गए।
सामयिक खंड (The "Time Lens"):
- उदाहरण: एक वित्तीय विकल्प का वर्णन करना। एक संस्करण कहता है, "इससे अभी पैसे बचेंगे।" दूसरा कहता है, "इससे लंबे समय में पैसे बचेंगे।"
- परिणाम: समय बताने वाले शब्दों को बदलने मात्र से AI या तो जल्दबाजी करने लगा या अत्यधिक सतर्क हो गया, भले ही पैसे की राशि बिल्कुल समान थी।
कथा जीवंतता (The "Movie Lens"):
- उदाहरण: किसी क्रिया का वर्णन करना। एक संस्करण शुष्क है: "पोस्ट को सेंसर किया गया।" दूसरा एक फिल्मी दृश्य है: "सेंसर ने बटन को ज़ोर से दबाया, जिससे प्रसार तुरंत रुक गया।"
- परिणाम: इसका प्रभाव छोटा था, लेकिन इसने AI के आंतरिक तर्क को हिलाकर रख दिया।
चौंकाने वाला आंकड़ा: औसतन, 28.6% बार AI ने केवल इसलिए अपना मन बदल लिया क्योंकि कहानी को अलग तरह से पेश किया गया था। यह एक सिक्का उछालने और हर तीसरी बार अलग परिणाम मिलने जैसा है, भले ही सिक्का नहीं बदला।
पुराने समाधान क्यों विफल रहे?
शोधकर्ताओं ने AI व्यवहार को ठीक करने के मानक तरीकों को आज़माया, जैसे:
- प्रॉम्प्टिंग (Prompting): AI को कहना, "निष्पक्ष बनो!" या "कदम-दर-कदम सोचो।"
- एक्टिवेशन स्टीयरिंग (Activation Steering): AI के आंतरिक गणित को थोड़ा धकेलने की कोशिश करना।
परिणाम: ये तरीके विफल रहे। वास्तव में, इन्होंने अक्सर समस्या को और बढ़ा दिया। यह कार को सही दिशा में चलाने के लिए ड्राइवर पर चिल्लाने जैसा है; कार और भी तेज़ी से भटक जाती है। पेपर सुझाव देता है कि ये उपचार केवल सतही लक्षणों का इलाज करते हैं, AI के "मस्तिष्क" के भीतर के मूल कारण का नहीं।
समाधान: "VALIGN" (आंतरिक दिशा-सूचक यंत्र)
टीम ने VALIGN नामक एक नया तरीका प्रस्तावित किया। केवल AI को यह बताने के बजाय कि क्या करना है, उन्होंने यह ठीक किया कि AI कैसे सोचता है।
AI की निर्णय लेने की प्रक्रिया को तूफानी समुद्र में एक नाव की तरह समझें। "फ्रेम्स" (कहने के अलग-अलग तरीके) वे लहरें हैं जो नाव को रास्ते से भटका देती हैं।
- पुराने उपचार: नाव को यह बताने की कोशिश की, "लहरों की बात मत सुनो!" (फिर भी नाव भटक जाती है)।
- VALIGN: एक गहरा, भारी लंगर (एक स्थिर मूल्य प्रणाली) और एक पतवार (rudder) स्थापित करता है जो नाव को स्वचालित रूप से केंद्र की ओर वापस लाता है, लहरों को अनदेखा करते हुए।
VALIGN तीन चरणों में काम करता है:
- लंगर खोजें: यह AI से पूछता है, "आपके मूल मूल्य क्या हैं?" और उन मूल्यों की ओर इशारा करने वाला एक गणितीय "कंपास" बनाता है।
- जहाज को नियंत्रित करें: जब AI कोई निर्णय लेने वाला होता है, तो यह उसके आंतरिक विचार प्रक्रिया को उस कंपास के साथ संरेखित (align) करने के लिए मजबूर करता है।
- लहरों को रोकें: यह गणितीय रूप से फ्रेमिंग से उत्पन्न होने वाले विशिष्ट "शोर" (जैसे "अभी" की तात्कालिकता या "जीवंत" भाषा का ड्रामा) को फ़िल्टर करता है।
परिणाम: VALIGN ने उन मौकों की संख्या को काफी कम कर दिया जब AI अपना मन बदल लेता था। इसने केवल AI को यह नहीं कहा कि "मैं निष्पक्ष हूँ"; इसने वास्तव में आंतरिक तंत्र को इस तरह बदल दिया कि AI पैकेजिंग के झांसे में आसानी से न आ सके।
निष्कर्ष
पेपर का निष्कर्ष है कि यदि हम चाहते हैं कि AI उच्च-जोखिम वाली स्थितियों (जैसे अदालतों या अस्पतालों) में निष्पक्ष और सुसंगत निर्णय ले, तो हम उन्हें केवल "अच्छा बनने" के लिए नहीं कह सकते। हमें उनके आंतरिक वायरिंग को ठीक करना होगा ताकि वे कहानी के "स्वाद" को अनदेखा कर सकें और तथ्यों पर ध्यान केंद्रित कर सकें। फ्रेमिंग मायने रखती है, और इसे ठीक करने के लिए, हमें AI की छिपी हुई परतों में गहराई तक उतरना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।