🧬 biology

Phylogenetic Tree Inference with Tropical Axial Attention

यह शोध पत्र एक ट्रॉपिकल एक्सियल अटेंशन (Tropical Axial Attention) आर्किटेक्चर प्रस्तुत करता है जो फाइलोगेनेटिक पेड़ों (phylogenetic trees) के अनुमान के लिए एक ज्यामितीय रूप से सुसंगत ढांचा प्रदान करने हेतु मैक्स-प्लस ऑपरेटरों और फाइलोगेनेटिक पेड़ों एवं ट्रॉपिकल ग्रासमानियन (tropical Grassmannian) के बीच समरूपता का लाभ उठाता है, जो वास्तविक ट्री मेट्रिक्स के साथ संरेखित दूरी मैट्रिसेस (distance matrices) उत्पन्न करने में बेसलाइनों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Chris Teska, Kurt Pasque, Ruriko Yoshida, Baran Hashemi

प्रकाशित 2026-05-15

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Chris Teska, Kurt Pasque, Ruriko Yoshida, Baran Hashemi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ⚕️ यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप जानवरों, पौधों या वायरस के एक समूह के पारिवारिक इतिहास को समझने की कोशिश कर रहे हैं। आपके पास उनके डीएनए अनुक्रम (DNA sequences) हैं (जैसे अक्षरों की लंबी कतारें), और आपका लक्ष्य एक "फैमिली ट्री" (वंशवृक्ष) बनाना है जो यह दिखाए कि कौन किससे संबंधित है और वे कितने समय पहले अलग हुए थे। इसे फाइलोगेनेटिक ट्री इन्फरेंस (phylogenetic tree inference) कहा जाता है।

लंबे समय से, वैज्ञानिक इस समस्या को हल करने के लिए जटिल गणित और कंप्यूटरों का उपयोग करते आए हैं। लेकिन इस शोध पत्र के लेखक, क्रिस टेस्का और उनके सहयोगियों का तर्क है कि आधुनिक एआई (विशेष रूप से "ट्रांसफॉर्मर्स") जिस तरह से इस समस्या को हल करने की कोशिश करता है, वह एक गोल छेद में चौकोर खूँटा फिट करने जैसा है।

यहाँ इस शोध पत्र का विचार दिया गया है, जिसे सरल उपमाओं के माध्यम से समझाया गया है:

1. समस्या: स्मूथ (Smooth) बनाम शार्प (Sharp)

अधिकांश आधुनिक एआई मॉडल एक उपकरण का उपयोग करते हैं जिसे सॉफ्टमैक्स अटेंशन (Softmax Attention) कहते हैं। इसे एक "सॉफ्ट स्पॉटलाइट" की तरह समझें। जब एआई डीएनए के विभिन्न हिस्सों को देखता है, तो वह उन पर रोशनी डालता है, लेकिन वह रोशनी धुंधली होती है। यह हर चीज़ पर थोड़ा-थोड़ा ध्यान देता है, जिससे अंतर धुंधले हो जाते हैं।

हालाँकि, एक फैमिली ट्री बनाना एक शार्प, कॉम्बिनेटोरियल (combinatorial) समस्या है। यह इस बारे में नहीं है कि "शायद यह उससे संबंधित है या नहीं।" यह कठोर नियमों के बारे में है: "यदि A, B से संबंधित है, और B, C से संबंधित है, तो A और C एक विशिष्ट तरीके से संबंधित होने चाहिए।" ये नियम एक बॉक्स या पिरामिड के किनारों की तरह हैं (गणितज्ञ इसे "पॉलीहेड्रल" संरचना कहते हैं)।

लेखक कहते हैं: "जब समस्या के लिए शार्प, हार्ड किनारों की आवश्यकता हो, तो हम एक धुंधली, सॉफ्ट स्पॉटलाइट का उपयोग क्यों करें?"

2. समाधान: "ट्रॉपिकल" अटेंशन (Tropical Attention)

लेखकों ने एक नया प्रकार का एआई अटेंशन पेश किया है जिसे ट्रॉपिकल एक्सियल अटेंशन (Tropical Axial Attention) कहा जाता है।

उपमा: कल्पना कीजिए कि आप एक शहर में रास्ता खोज रहे हैं।
- मानक एआई (Euclidean): आप प्रत्येक संभावित गंतव्य तक की औसत दूरी की गणना करते हैं। आपको एक चिकना, घुमावदार रास्ता मिलता है।
- ट्रॉपिकल एआई: आप केवल सबसे तेज़ मार्ग या सबसे लंबे मार्ग की परवाह करते हैं। आप बीच के रास्ते को अनदेखा कर देते हैं। आप "अधिकतम" (Maximums) और "न्यूनतम" (Minimums) के आधार पर निर्णय लेते हैं।

गणित में, इसे ट्रॉपिकल अल्जेब्रा (Tropical Algebra) कहा जाता है। संख्याओं को सामान्य रूप से जोड़ने के बजाय, आप अधिकतम (maximum) लेते हैं। गुणा करने के बजाय, आप जोड़ते हैं। यह एक "पीसवाइज-लीनियर" (piecewise-linear) संरचना बनाता है—इसे एक ऐसे परिदृश्य के रूप में सोचें जो सपाट, तीखे ढलानों और कोनों से बना है, न कि चिकनी, लुढ़कती पहाड़ियों से।

यह फैमिली ट्री के वास्तविक गणित से पूरी तरह मेल खाता है। फैमिली ट्री "चरम" संबंधों (निकटतम साझा पूर्वज) पर आधारित होते हैं, न कि औसतों (averages) पर। ट्रॉपिकल अटेंशन का उपयोग करके, एआई का "मस्तिष्क" उसी शार्प, ब्लॉक जैसी ज्यामिति (geometry) के साथ बनाया गया है जो उस फैमिली ट्री को बनाने के लिए आवश्यक है।

3. उन्होंने इसे कैसे प्रशिक्षित किया

टीम ने एक मॉडल (एक "ट्रॉपिकल एक्सियल ट्रांसफार्मर") बनाया जो डीएनए अनुक्रमों को देखता है और प्रजातियों के बीच की दूरी का अनुमान लगाता है।

मॉडल को सिखाने के लिए, उन्होंने केवल यह नहीं बताया कि "सही उत्तर के करीब रहो।" उन्होंने एक विशेष लॉस फंक्शन (loss function) (गलतियों के लिए स्कोरिंग सिस्टम) का उपयोग किया जो फैमिली ट्री के नियमों को समझता था:

"अल्ट्रामेट्रिक" पेनल्टी (The "Ultrametric" Penalty): एक फैमिली ट्री में, यदि आप एक साझा पूर्वज तक जाते हैं, तो उस पूर्वज तक की दूरी उसके सभी बच्चों के लिए समान होनी चाहिए। यदि मॉडल इस नियम को तोड़ता था, तो उसे दंडित किया जाता था।
"ट्रॉपिकल" पेनल्टी (The "Tropical" Penalty): यदि मॉडल के अनुमान एक वैध पेड़ के शार्प, ज्यामितिक आकार में फिट नहीं होते थे, तो उसे दंडित किया जाता था।

4. परिणाम: अज्ञात को संभालने में बेहतर

लेखकों ने अपने मॉडल का परीक्षण दो प्रसिद्ध मौजूदा मॉडलों (Phyloformer और Phyloformer 2) के विरुद्ध किया।

परिदृश्य A (प्रशिक्षण जैसा ही): जब उन्होंने अपने मॉडल का परीक्षण उस डेटा पर किया जो बिल्कुल वैसा ही था जैसा कि उन्हें प्रशिक्षण दिया गया था, तो नया मॉडल ठीक-ठाक प्रदर्शन करता है, लेकिन पुराने मॉडल सटीक ब्रांच लेंथ (शाखा की लंबाई) प्राप्त करने में कभी-कभी थोड़े बेहतर थे।
परिदृश्य B (असली परीक्षण - "आउट ऑफ डिस्ट्रीब्यूशन"): यह वह जगह है जहाँ नया मॉडल चमक उठा। उन्होंने मॉडल का परीक्षण पूरी तरह से अलग प्रक्रिया (अलग विकासवादी नियम) द्वारा उत्पन्न डेटा पर और वास्तविक दुनिया के जैविक डेटा पर किया जहाँ "सच्चा" फैमिली ट्री अज्ञात है।
- निष्कर्ष: ट्रॉपिकल मॉडल बहुत अधिक सुसंगत (consistent) था। भले ही उसे सटीक उत्तर का पता न हो, फिर भी उसके द्वारा अनुमानित दूरियां एक फैमिली ट्री के नियमों के अनुसार बहुत बेहतर तरीके से फिट बैठती थीं।
- रूपक: यदि अन्य मॉडल उन छात्रों की तरह थे जिन्होंने पाठ्यपुस्तक के उत्तर रट लिए थे लेकिन प्रश्न थोड़े बदलते ही घबरा गए, तो ट्रॉपिकल मॉडल उस छात्र की तरह था जिसने विषय के तर्क (logic) को समझा था। भले ही प्रश्न बदल गए, उनके उत्तर अभी भी तार्किक रूप से सही थे।

सारांश

शोध पत्र का दावा है कि मानक एआई के "सॉफ्ट, धुंधले" गणित को "शार्प, हार्ड-एज" गणित (ट्रॉपिकल अल्जेब्रा) से बदलकर, उन्होंने एक ऐसा उपकरण बनाया है जो फैमिली ट्री की ज्यामिति को बेहतर ढंग से समझता है।

यह दावा नहीं करता कि यह हर एक मामले में बिल्कुल सबसे तेज़ या सबसे सटीक है।
यह दावा करता है कि यह अधिक मजबूत (robust) है: जब डेटा बदलता है या अव्यवस्थित हो जाता है (जो वास्तविक जीव विज्ञान में अक्सर होता है), तो यह मॉडल गणितीय रूप से अधिक सुसंगत परिणाम देता है कि एक फैमिली ट्री को कैसा दिखना चाहिए।

संक्षेप में: उन्होंने एक विशेष एआई टूल बनाया है जो फैमिली ट्री की मूल भाषा बोलता है, बजाय इसके कि फैमिली ट्री को मानक एआई की भाषा बोलने के लिए मजबूर किया जाए।

तकनीकी सारांश: ट्रॉपिकल एक्सियल अटेंशन के साथ फाइलोगैनेटिक ट्री इन्फरेंस

समस्या विवरण

फाइलोगैनेटिक ट्री पुनर्निर्माण एक कॉम्बिनेटोरियल ऑप्टिमाइज़ेशन समस्या है जिसका उद्देश्य मल्टीपल सीक्वेंस अलाइनमेंट (MSAs) से विकासवादी संबंधों का अनुमान लगाना है। जबकि मानक सांख्यिकीय दृष्टिकोण (जैसे, मैक्सिमम लाइकलीहुड, बायेसियन इन्फरेंस) और दूरी-आधारित विधियाँ (जैसे, नेबर जॉइनिंग, बैलेंस्ड मिनिमम इवोल्यूशन) मौजूद हैं, वे महत्वपूर्ण चुनौतियों का सामना करती हैं। दूरी-आधारित विधियों को एक युग्मवार दूरी मैट्रिक्स (pairwise distance matrix) का अनुमान लगाने और फिर उसे वैध फाइलोगैनेटिक ट्री के स्थान पर प्रोजेक्ट करने की आवश्यकता होती है। यह स्थान एक सुचारू यूक्लिडियन मैनिफोल्ड नहीं है, बल्कि एक संरचित, गैर-यूक्लिडियन सबस्पेस है जो पॉलीहेड्रल बाधाओं (विशेष रूप से फोर-पॉइंट कंडीशन और अल्ट्रामेट्रिक इनइक्वेलिटीज) द्वारा परिभाषित है।

हालिया डीप लर्निंग दृष्टिकोण, जैसे कि फाइलोफॉर्मर (Phyloformer) और फाइलोफॉर्मर 2, MSAs से सीधे दूरी मैट्रिक्स की भविष्यवाणी करने के लिए स्टैंडर्ड सॉफ्टमैक्स डॉट-प्रोडक्ट अटेंशन के साथ ट्रांसफार्मर आर्किटेक्चर का उपयोग करते हैं। हालाँकि, ये मॉडल यूक्लिडियन स्पेस में काम करते हैं और सुचारू, सघन संभाव्यता वितरण (dense probability distributions) पर निर्भर करते हैं। लेखक तर्क देते हैं कि यह ज्यामितीय बेमेल (geometric mismatch) ट्री मेट्रिक्स की अंतर्निहित कॉम्बिनेटोरियल और पीसवाइज-लीनियर संरचना को पकड़ने में विफल रहता है, जिससे ऐसे आउटपुट मिलते हैं जो ट्री बाधाओं का उल्लंघन कर सकते हैं और वितरण बदलाव (जैसे, अनुक्रम लंबाई या विकासवादी मॉडल में परिवर्तन) के तहत सामान्यीकरण करने में संघर्ष करते हैं।

कार्यप्रणाली

यह शोध पत्र एक ट्रॉपिकल एक्सियल अटेंशन (Tropical Axial Attention) न्यूरल आर्किटेक्चर प्रस्तावित करता जिसे फाइलोगैनेटिक ट्री स्पेस की ज्यामिति के साथ मॉडल के इंडक्टिव बायस (inductive bias) को संरेखित करने के लिए डिज़ाइन किया गया है।

1. सैद्धांतिक आधार: ट्रॉपिकल ज्यामिति (Tropical Geometry)

मुख्य सैद्धांतिक अंतर्दृष्टि $n$ प्रजातियों वाले फाइलोगैनेटिक ट्री और ट्रॉपिकल ग्रासमानियन (tropical Grassmannian) के बीच आइसोमोर्फिज्म (isomorphism) है। ट्रॉपिकल बीजगणित मानक जोड़ और गुणा के स्थान पर $\max$ और जोड़ (addition) का उपयोग करता है, जो मैक्स-प्लस सेमिरिंग (max-plus semiring) है।

ट्री मेट्रिक्स (Tree Metrics): वैध ट्री मेट्रिक्स फोर-पॉइंट कंडीशन द्वारा अभिलक्षित होते हैं, जिसमें लीनियर कॉम्बिनेशन के बजाय अधिकतम संचालन (maximum operations) शामिल होते हैं।
अल्ट्रामेट्रिक्स (Ultrametrics): रूटेड इक्विडिस्टेंट ट्री अल्ट्रामेट्रिक स्थिति को संतुष्ट करते हैं, जो $\max$ ऑपरेशन्स द्वारा नियंत्रित होता है।
मेट्रिक स्पेस: लेखक $\mathbb{R}^D / \mathbb{R}\mathbf{1}$ के कोटिएंट स्पेस पर हिल्बर्ट प्रोजेक्टिव मेट्रिक (ट्रॉपिकल मेट्रिक) का उपयोग करते हैं, जो एडिटिव शिफ्ट्स के प्रति अपरिवर्तनीय है और सापेक्ष संरचना के प्रति संवेदनशील है, मानक यूक्लिडियन मेट्रिक्स के विपरीत।

2. मॉडल आर्किटेक्चर

यह मॉडल वैनिला सॉफ्टमैक्स अटेंशन को ट्रॉपिकल एक्सियल अटेंशन से बदलकर फाइलोफॉर्मर आर्किटेक्चर का विस्तार करता है:

इनपुट प्रोसेसिंग: MSAs को वन-हॉट एनकोड और एम्बेड किया जाता है। अनऑर्डर्ड लीफ पेयर्स को एक टेंसर बनाने के लिए संयोजित किया जाता है जो अनुक्रम स्थितियों में युग्मवार संबंधों का प्रतिनिधित्व करता है।
ट्रॉपिकल अटेंशन मैकेनिज्म:
- क्वेरीज ( $Q$ ), कीज़ ( $K$ ), और वैल्यूज ( $V$ ) को मैक्स-प्लस सेमिरिंग में ट्रॉपिकल लीनियर प्रोजेक्शन (उपयोग करके $\max$ और $+$ ) के माध्यम से कंप्यूट किया जाता है।
- अटेंशन स्कोर की गणना ट्रॉपिकल मेट्रिक का उपयोग करके की जाती है: $S_{i,j} = -(\max(k_j - q_i) - \min(k_j - q_i))$ ।
- एकत्रीकरण (Aggregation) ट्रॉपिकल मैट्रिक्स गुणन के माध्यम से किया जाता है: $\text{Attn}(Q, K, V)_i = \max_j (S_{i,j} + v_j)$ ।
- यह सॉफ्टमैक्स के "सॉफ्ट" एवरेजिंग को एक "शार्प" सिलेक्शन मैकेनिज्म से बदल देता है जो पीसवाइज-लीनियर निर्णय सीमाओं को संरक्षित करता है।
एक्सियल डीकंपोजिशन (Axial Decomposition): मॉडल दो अक्षों (axes) के साथ अटेंशन लागू करता है: सीक्वेंस एक्सिस (एलाइनमेंट साइट्स में म्यूटेशन साक्ष्य सीखने के लिए) और पेयर एक्सिस (लीफ पेयर्स के बीच संबंधों को सीखने के लिए, जो ज्यामितीय ट्री बाधाओं को लागू करता है)।
आउटपुट: एक पॉइंटवाइज फीड-फॉरवर्ड प्रोजेक्शन चैनल डायमेंशन को कोलैप्स करके युग्मवार दूरियों की भविष्यवाणी करता है, जिसके बाद नॉन-नेगेटिविटी सुनिश्चित करने के लिए सॉफ्टप्लस (Softplus) एक्टिवेशन का उपयोग किया जाता है।

3. लॉस फंक्शन्स (Loss Functions)

प्रशिक्षण उद्देश्य सटीकता और ज्यामितीय निरंतरता दोनों को लागू करने के लिए तीन घटकों को जोड़ता है:

$\ell_1$ लॉस: एम्बिएंट यूक्लिडियन स्पेस में एब्सोल्यूट कोऑर्डिनेट-वाइज एरर को मापता है ताकि ग्राउंड ट्रुथ के करीब रहा जा सके।
ट्रॉपिकल सिमेट्रिक लॉस: हिल्बर्ट प्रोजेक्टिव मेट्रिक ( $d_{tr}$ ) का उपयोग करता है जो ट्रॉपिकल ज्यामिति में विरूपण (distortions) को दंडित करता है, जिससे मॉडल को दूरियों के पूर्ण मानों के बजाय दूरियों की सापेक्ष संरचना को संरक्षित करने के लिए प्रोत्साहित किया जाता है।
अल्ट्रामेट्रिक पेनल्टी: अल्ट्रामेट्रिक स्थिति के उल्लंघन को दंडित करता है (जहाँ किसी भी ट्रिपल में दो सबसे बड़ी दूरियाँ समान होनी चाहिए)।

प्रशिक्षण रणनीति: मॉडल को पहले मोटे तौर पर दूरी की ज्यामिति सीखने के लिए और फिर सख्त ट्री बाधाओं को लागू करने के लिए पहले 20 एपोच के बाद अल्ट्रामेट्रिक पेनल्टी को सक्रिय किया जाता है।

मुख्य परिणाम

मॉडल का मूल्यांकन तीन प्रकार के डेटासेट्स पर फाइलोफॉर्मर और फाइलोफॉर्मर 2 के विरुद्ध किया गया था:

इन-डिस्ट्रीब्यूशन सिमुलेशन: उसी बर्थ-डेथ प्रोसेस के साथ जनरेट किए गए डेटा पर (बदलते लीफ काउंट $n=10$ से $n=100$ ), ट्रॉपिकल मॉडल प्रतिस्पर्धी रहा, जिसने आमतौर पर टोपोलॉजिकल (रोबिन्सन-फौल्ड्स) और ब्रांच-लेंथ मेट्रिक्स में फाइलोफॉर्मर और फाइलोफॉर्मर 2 के बीच के परिणाम प्राप्त किए।
आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) सिमुलेशन: एक अलग सिमुलेशन प्रोसेस (GTR मॉडल्स के साथ PhML बेंचमार्क) का उपयोग करके जनरेट किए गए डेटा पर, ट्रॉपिकल मॉडल ने बेहतर मजबूती (robustness) प्रदर्शित की। इसने फाइलोफॉर्मर 2 के समान टोपोलॉजिकल सटीकता हासिल की और ब्रांच-लेंथ संवेदनशील मेट्रिक्स (वेटेड RF और KF डिस्टेंस) पर दोनों बेसलाइन को महत्वपूर्ण रूप से पीछे छोड़ दिया।
एम्पिरिकल डेटासेट्स (DS1–DS11): वास्तविक दुनिया के जैविक डेटा पर जहाँ वास्तविक ट्री अज्ञात हैं, मूल्यांकन मैट्रिक्स-टू-ट्री कंसिस्टेंसी पर केंद्रित था। ट्रॉपिकल मॉडल ने ऐसे डिस्टेंस मैट्रिसेस बनाए जो बेसलाइन मॉडल्स की तुलना में उनके प्रेरित BME (बैलेंस्ड मिनिमम इवोल्यूशन) ट्री मेट्रिक्स के काफी करीब थे (MAE और ट्रॉपिकल डिस्टेंस दोनों में)। यह इंगित करता है कि ट्रॉपिकल मॉडल एक ऐसा प्रतिनिधित्व सीखता है जो ट्री स्पेस की अंतर्निहित पॉलीहेड्रल संरचना के साथ अधिक सुसंगत है।

महत्व और दावे

शोध पत्र का दावा है कि फाइलोगैनेटिक इन्फरेंस की कठिनाई केवल कम्प्यूटेशनल नहीं बल्कि स्ट्रक्चरल है, जो ट्री स्पेस की गैर-यूक्लिडियन, कॉम्बिनेटोरियल प्रकृति से उत्पन्न होती है।

ज्यामितीय इंडक्टिव बायस (Geometric Inductive Bias): प्राथमिक योगदान यह प्रदर्शित करना है कि यूक्लिडियन अटेंशन को ट्रॉपिकल अटेंशन से बदलने से फाइलोगैनेटिक इन्फरेंस के लिए एक प्राकृतिक ज्यामितीय ढांचा प्रदान होता है। ट्री मेट्रिक्स (फोर-पॉइंट कंडीशन) की बाधाओं के साथ मॉडल के ऑपरेशन्स (max-plus) को संरेखित करके, मॉडल ऐसे प्रतिनिधित्व सीखता है जो स्वाभाविक रूप से ट्री टोपोलॉजी के साथ अधिक सुसंगत होते हैं।
वितरण बदलाव के प्रति मजबूती (Robustness to Distribution Shift): परिणाम बताते हैं कि ट्रॉपिकल अटेंशन एक मजबूत इंडक्टिव बायस के रूप में कार्य करता है, विशेष रूप से तब जब मॉडल का परीक्षण प्रशिक्षण सेट से भिन्न डेटा वितरण पर किया जाता है।
शुद्ध सटीकता के ऊपर निरंतरता (Consistency over Pure Accuracy): हालांकि मॉडल इन-डिस्ट्रीब्यूशन सेटिंग्स में सभी मेट्रिक्स पर सार्वभौमिक रूप से बेसलाइन्स से बेहतर प्रदर्शन नहीं करता है, लेकिन यह लगातार ऐसे आउटपुट प्रदान करता है जो ट्री मेट्रिक की गणितीय परिभाषा के अधिक सुसंगत होते हैं। यह डाउनस्ट्रीम कार्यों के लिए विशेष रूप से मूल्यवान है जहाँ डिस्टेंस मैट्रिक्स की वैधता महत्वपूर्ण होती है।

लेखक निष्कर्ष निकालते हैं कि ट्रॉपिकल एक्सियल अटेंशन न्यूरल फाइलोगैनेटिक इन्फरेंस के लिए एक सिद्धांतपूर्ण दृष्टिकोण प्रदान करता है, जो डीप लर्निंग आर्किटेटेक्चर और विकासवादी पेड़ों की बीजगणितीय ज्यामिति के बीच के अंतर को पाटता है।