Geometric Representations of Knowledge Inside Biological Large Language Models: an Empirical Analysis
यह अनुभवजन्य अध्ययन प्रकट करता है कि जबकि जैविक लार्ज लैंग्वेज मॉडल्स (SCFMs) जैविक ज्ञान के लिए एक वास्तविक, निम्न-आयामी और आंशिक रूप से रैखिकीकृत ज्यामितीय संरचना को एनकोड करते हैं, यह संरचना मामूली है, अक्सर गैर-रैखिक रूप से उलझी हुई है, और काफी हद तक उस चीज़ के साथ ओवरलैप करती है जिसे शास्त्रीय अभिव्यक्ति-आधारित विधियाँ जैसे कि PCA पहले से ही पुनः प्राप्त कर सकती हैं, जो प्राकृतिक भाषा मॉडल्स में देखी गई स्पष्ट, नियमित ज्यामिति से कम है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, जादुई पुस्तकालय है जहाँ हर किताब मानव शरीर की एक जीवित कोशिका है। वर्षों से, वैज्ञानिक इन किताबों को पढ़ने और यह समझने की कोशिश कर रहे हैं कि हमारे शरीर कैसे काम करते हैं, लेकिन टेक्स्ट बिखरा हुआ और समझने में कठिन है। हाल ही में, एक प्रकार का "सुपर-रीडर" (super-reader) जिसे 'बायोलॉजिकल लार्ज लैंग्वेज मॉडल' (Biological Large Language Model या Biological LLM) कहा जाता है, का आविष्कार किया गया है। ये कंप्यूटर प्रोग्राम लाखों सेल "किताबों" पर प्रशिक्षित हैं ताकि वे पैटर्न पहचान सकें, ठीक वैसे ही जैसे आपके फोन का कीबोर्ड यह अनुमान लगाने के लिए सीखता है कि आप अगला शब्द क्या टाइप करेंगे।
बड़ा सवाल यह है कि क्या ये वैज्ञानिक सुपर-रीडर्स ज्ञान को एक व्यवस्थित, सीधी रेखा के रूप में व्यवस्थित करते हैं? नियमित भाषा मॉडलों (जो निबंध लिखते हैं या आपसे चैट करते हैं) में, शोधकर्ताओं ने पाया कि "राजा" और "रानी" जैसे विचार एक सीधी रेखा पर स्थित होते हैं, और विपरीत चीजें बस एक सरल कदम की दूरी पर होती हैं। यह एक पूरी तरह से व्यवस्थित मानचित्र की तरह है जहाँ प्रत्येक अवधारणा की अपनी स्पष्ट सड़क है। वैज्ञानिकों को उम्मीद थी कि इन जैविक सुपर-रीडर्स के पास भी "स्वस्थ बनाम बीमार" या "बढ़ने बनाम आराम करने" जैसी चीजों के लिए ऐसा ही एक साफ, सीधी रेखा वाला मानचित्र होगा। यदि ऐसा होता, तो इसका अर्थ होता कि हम बीमारियों या विकास को समझने के लिए कंप्यूटर की सोच को आसानी से बदल सकते। लेकिन, जैसा कि हम देखने वाले हैं, इन जैविक मॉडलों के भीतर का मानचित्र एक सीधी शहर की सड़क के बजाय एक घुमावदार, पहाड़ी जंगल के रास्ते जैसा है।
मशीन के भीतर का मानचित्र: एक जंगल, राजमार्ग नहीं
इस अध्ययन में, ओलिविया डेनविस नामक एक शोधकर्ता ने यह देखने के लिए इन चार जैविक सुपर-रीडर्स (scBERT, Geneformer, scGPT, और UCE नाम से) की गहराई से जांच करने का निर्णय लिया कि क्या उनमें वास्तव में वह व्यवस्थित, सीधी रेखा वाली संरचना है। उन्होंने उन्हें खोजकर्ताओं की तरह माना, उन्हें 420,000 कोशिकाओं के एक विशाल डेटासेट में भेजा जिसमें विस्तृत नोट्स थे कि वे क्या हैं, कहाँ रहती हैं, और वे क्या कर रही हैं। फिर उन्होंने मॉडलों के आंतरिक "मानचित्रों" की तुलना पुराने-स्कूल के विश्वसनीय उपकरणों के साथ की, जिनका उपयोग वैज्ञानिक दशकों से पीसीए (PCA) जैसे सरल गणितीय ट्रिक्स के रूप में करते आए हैं।
यहाँ उन्हें क्या मिला: मॉडलों के पास एक मानचित्र है, लेकिन यह वह स्पष्ट, सीधी राजमार्ग नहीं है जिसकी सभी को उम्मीद थी।
1. मानचित्र संक्षिप्त है, लेकिन भीड़भाड़ वाला है
सबसे पहले, शोधकर्ताओं ने जांचा कि मॉडल जानकारी संग्रहीत करने के लिए कितनी जगह का उपयोग करते हैं। एक विशाल गोदाम (मॉडल का पूर्ण आकार) की कल्पना करें जो 1,280 अलमारियां रख सकता है। अध्ययन में पाया गया कि मॉडल अपने ज्ञान को संग्रहीत करने के लिए वास्तव में केवल लगभग 12 से 26 अलमारियों का उपयोग करते हैं। यह एक बहुत ही कम-आयामी (low-dimensional) स्थान है, जो अच्छा है क्योंकि इसका मतलब है कि मॉडल कुशल हैं। हालाँकि, यह स्थान "एनिसोट्रोपिक" (anisotropic) है, जो एक फैंसी शब्द है जिसका अर्थ है कि यह एक गोल गेंद के बजाय एक लंबे, संकीत शंकु (cone) के आकार का है। छोटे मॉडल इस संकीर्ण शंकु में और भी अधिक दबे हुए थे, जिससे पता चलता है कि वे सोचने के तरीके में थोड़े "संकुचित" हो सकते हैं।
2. आसान चीजें सीधी हैं, कठिन चीजें घुमावदार हैं
जब शोधकर्ता ने मॉडलों से सरल चीजें पहचानने के लिए कहा, जैसे कि "क्या यह कोशिका पुरुष की है या महिला की?" या "क्या यह प्रतिरक्षा प्रणाली (immune system) में है?", तो मॉडल अद्भुत थे। वे इन समूहों को अलग करने के लिए एक सीधी रेखा खींच सकते थे, ठीक वैसे ही जैसे भाषा मॉडल करते हैं। वास्तव में, इन आसान श्रेणियों के लिए, मॉडल लगभग सटीक थे।
लेकिन यहाँ एक मोड़ आया: जब उन्होंने मॉडलों से दिलचस्प चीजों के बारे में पूछा—जैसे कि "क्या यह कोशिका बीमार है?" या "यह किस विशिष्ट उपप्रकार की है?" या "यह अपने विकास के कितने चरण तक पहुँच गई है?"—तो सीधी रेखाएं काम करना बंद कर गईं। ज्ञान अभी भी वहीं था, लेकिन यह घुमावों में उलझा हुआ था।
- प्रमाण: जब शोधकर्ता ने एक साधारण सीधी रेखा का उपयोग करके कोशिका के विकास के समय की भविष्यवाणी करने की कोशिश की, तो उसे केवल 61% उत्तर सही मिला। लेकिन जब उन्होंने कंप्यूटर को डेटा के प्राकृतिक, घुमावदार पथ का अनुसरण करने दिया (जैसे किसी खेत को काटकर जाने के बजाय एक घुमावदार रास्ते पर चलने की तरह), तो सटीकता बढ़कर 80% हो गई।
- निष्कर्ष: मॉडल जटिल चीजों को जानते हैं, लेकिन वे उन्हें एक घुमावदार, गैर-रेखीय (non-linear) तरीके से संग्रहीत करते हैं जिसे सरल सीधी रेखाएं आसानी से नहीं छू सकतीं। यह भाषा मॉडलों से अलग है, जहाँ जटिल विचार भी अक्सर सीधी रेखाओं पर स्थित होते हैं।
3. "स्टीयरिंग व्हील" थोड़ा डगमगाता है
भाषा मॉडलों में, यदि आप किसी शब्द का अर्थ बदलना चाहते हैं (जैसे "खुश" को "दुखी" में बदलना), तो आप बस एक विशिष्ट वेक्टर (एक दिशा) जोड़ सकते हैं, और यह पूरी तरह से काम करता है। शोधकर्ता ने जैविक मॉडलों के साथ भी ऐसा ही करने की कोशिश की। उन्होंने एक दिशा वेक्टर जोड़कर कोशिका की पहचान को "स्टीयर" (नियंत्रित) करने की कोशिश की।
- परिणाम: यह काम कर गया, लेकिन केवल 54% से 66% बार। यह एक सिक्के के उछाल (coin flip) से बेहतर था, लेकिन भाषा मॉडलों में देखे गए पूर्ण नियंत्रण से बहुत दूर था। कभी-कभी, एक चीज़ को बदलने की कोशिश करने से अनजाने में दूसरी चीज़ भी बदल जाती थी। विभिन्न विचारों के लिए दिशाएं कुछ हद तक समानांतर थीं, लेकिन पूरी तरह से नहीं, और वे केवल कमजोर रूप से संरेखित (aligned) थीं।
4. मॉडल एक-दूसरे से सहमत हैं, "सत्य" से नहीं
शोधकर्ता ने यह भी जांचा कि क्या चारों मॉडल एक ही तरह से सोच रहे हैं। वे एक-दूसरे के प्रति मध्यम रूप से समान थे (लगभग 55% से 74% समान), जो अच्छी बात है। लेकिन जब उन्होंने उनकी तुलना जैविक ज्ञान के "गोल्ड स्टैंडर्ड" (कोशिका प्रकार वास्तविक जीवन में कैसे संबंधित हैं, इसका एक विस्तृत मानचित्र) के साथ की, तो वे केवल 36% से 45% समान थे।
- आश्चर्य: मॉडल वास्तव में पुराने-स्कूल के गणितीय उपकरणों (PCA) के अधिक करीब थे बजाय इसके कि वे वास्तविक जैविक सत्य के करीब हों। वे डेटा के एक साझा, सरलीकृत दृष्टिकोण पर केंद्रित थे जो जटिल वास्तविकता के बजाय बुनियादी गणित के करीब था।
5. "गहरा" ज्ञान बीच में है
अंत में, उन्होंने देखा कि मॉडल के परतों (इसके "मस्तिष्क") में यह ज्ञान कहाँ रहता है।
- सरल पहचान: "यह किस तरह की कोशिका है" यह जानना मॉडल में जितना गहरा जाएंगे, उतना मजबूत होता जाता है।
- रोग की स्थिति: कोशिका बीमार है या नहीं, यह जानना मध्य परतों (middle layers) में चरम पर था और जैसे-जैसे मॉडल गहरा होता गया, यह फीका पड़ता गया।
- बैच प्रभाव (Batch Effects): मॉडल शुरुआती परतों में तकनीकी शोर (जैसे कि फोटो किसने ली) को अनदेखा करने में अच्छे थे, लेकिन वे इसे पूरी तरह से भूल नहीं पाए।
मुख्य निष्कर्ष
तो, फैसला क्या है? जैविक लार्ज लैंग्वेज मॉडल वास्तविक हैं, और उनके पास ज्ञान का एक ज्यामितीय मानचित्र है। लेकिन यह भाषा मॉडलों में देखे गए साफ, सीधी रेखा वाले, पूरी तरह से व्यवस्थित मानचित्र जैसा नहीं है। इसके बजाय, यह एक "आंशिक रूप से रैखिक, निम्न-आयामी" (partially linearized, low-dimensional) मानचित्र है।
मॉडल आसान चीजों के लिए बेहतरीन हैं (जैसे कि एक पुरुष कोशिका को महिला कोशिका से अलग बताना), लेकिन कठिन, नैदानिक रूप से महत्वपूर्ण चीजों के लिए (जैसे बीमारी या विकास), ज्ञान घुमावदार और उलझा हुआ है। मॉडलों के पास जो अधिकांश "सीधी रेखा" वाला ज्ञान है, वह वास्तव में वही है जो हम पहले से ही सरल, पुराने-स्कूल के गणितीय उपकरणों से प्राप्त कर सकते थे। जो नया ज्ञान मॉडलों ने सीखा है, वह वहां मौजूद है, लेकिन वह घुमावों में छिपा हुआ है, जिससे इसे पढ़ना और उपयोग करना कठिन हो जाता है।
अध्ययन निष्कर्ष निकालता है कि हालांकि ये मॉडल उपयोगी हैं, लेकिन वे वह जादुई "सीधी रेखा" वाली सफलता नहीं हैं जिसकी कुछ लोगों को उम्मीद थी। भविष्य के लिए असली चुनौती केवल बड़े मॉडल बनाना नहीं है, बल्कि उन घुमावदार, टेढ़े-मेढ़े रास्तों को पढ़ने के लिए बेहतर उपकरण बनाना है जहाँ सबसे महत्वपूर्ण जैविक रहस्य वास्तव में छिपे हुए हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।