🤖 machine learning

EEG-FuseFormer: A Transformer-Driven Feature Fusion Framework for Seizure Onset Prediction

यह शोध पत्र EEG-FuseFormer का प्रस्ताव करता है, जो एक ट्रांसफार्मर-संचालित फीचर फ्यूजन फ्रेमवर्क है जो CHB-MIT डेटासेट पर स्टेट-ऑफ-द-आर्ट सीज़र ऑनसेट प्रेडिक्शन सटीकता (98.85% रिकॉल) प्राप्त करने के लिए CNN-LSTM और ResNet-18 फीचर्स को संयोजित करता है, जो क्रॉस-पेशेंट परिदृश्यों में बेहतर प्रदर्शन प्रदर्शित करता है और विविध हार्डवेयर प्लेटफॉर्म पर इसकी कम्प्यूटेशनल दक्षता का मूल्यांकन करता है।

मूल लेखक: Vigneshwar Hariharan (National University of Singapore), Chithra Reghuvaran (University College Dublin), Arlene John (University of Twente), Nhat Pham (Cardiff University), Omer Rana (Cardiff Universi

प्रकाशित 2026-06-02

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Vigneshwar Hariharan (National University of Singapore), Chithra Reghuvaran (University College Dublin), Arlene John (University of Twente), Nhat Pham (Cardiff University), Omer Rana (Cardiff University), Deepu John (University College Dublin), Ganesh Neelakanta Iyer (National University of Singapore)

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपका मस्तिष्क एक व्यस्त ऑर्केस्ट्रा की तरह है जो संगीत की एक जटिल रचना बजा रहा है। कभी-कभी, यह संगीत अचानक बेसुरा हो जाता है, जिससे "दौरे" (seizure) की स्थिति बन जाती है। मिर्गी (epilepsy) से पीड़ित लोगों के लिए, ये अप्रत्याशित संगीत संबंधी दुर्घटनाएं खतरनाक हो सकती हैं। इस शोध पत्र का लक्ष्य एक सुपर-स्मार्ट "कंडक्टर" (एक AI) बनाना है जो ऑर्केस्ट्रा को सुन सके और वास्तव में दुर्घटना होने से पहले ही चिल्ला सके, "चेतावनी! एक क्रैश आने वाला है!"

यहाँ बताया गया है कि कैसे शोधकर्ताओं, विग्नेशवर हरिहरन और उनकी टीम ने इस कंडक्टर को बनाया, जिसे सरल शब्दों में समझाया गया है:

1. समस्या: एक शोर भरे कमरे को सुनना

मस्तिष्क के संकेत (EEG) बहुत अव्यवधर होते हैं। वे समय के साथ बदलते हैं, और हर व्यक्ति का "संगीत" अलग होता है। दौरे की भविष्यवाणी करना ऐसा ही है जैसे केवल एक बादल को देखकर यह अनुमान लगाना कि तूफान कब आएगा। यह कठिन है क्योंकि केवल एक प्रकार के बादल से पूरी कहानी का पता नहीं लगाया जा सकता।

2. समाधान: दो आँखों वाला जासूस

टीम ने एक नया AI मॉडल बनाया जिसे EEG-FuseFormer कहा जाता है। इस मॉडल को एक ऐसे जासूस के रूप में सोचें जिसकी दो बहुत अलग प्रकार की आँखें हैं, जो एक ही मस्तिष्क संकेत को देख रही हैं लेकिन अलग-अलग चीजें देख रही हैं:

आँख 1 (समय यात्री - The Time Traveler): यह आँख 1D-CNN-LSTM नामक एक प्रणाली का उपयोग करती है। यह मस्तिष्क की तरंगों को उनके घटित होने के क्रम में, प्रति सेकंड देखती है। यह समय के साथ लय में होने वाले बदलावों को पकड़ने में माहिर है, जैसे कि यह देखना कि संगीत की गति तेज हो रही है या धीमी।
आँख 2 (फ्रीक्वेंसी एनालिस्ट - The Frequency Analyst): यह आँख ResNet-18 का उपयोग करती है। लेकिन देखने से पहले, यह ध्वनि को एक रंगीन चित्र में बदल देती है जिसे "स्पेक्ट्रोग्राम" (STFT का उपयोग करके) कहा जाता है। यह चित्र मस्तिष्क की तरंगों के 'पिच' (pitch) और 'ऊर्जा' (energy) को दर्शाता है। यह एक म्यूजिकल स्कोर को देखने जैसा है ताकि देखा जा सके कि कौन से स्वर कितनी जोर से बज रहे हैं।

3. जादुई गोंद: ट्रांसफॉर्मर (The Transformer)

आमतौर पर, यदि आपके पास दो जासूस हैं, तो आप उनसे केवल उत्तर पर वोट करने के लिए कह सकते हैं। लेकिन यह शोध पत्र कुछ अधिक स्मार्ट उपयोग करता है: एक ट्रांसफॉर्मर।

कल्पना कीजिए कि दो जासूसों के बीच एक बुद्धिमान मध्यस्थ (mediator) बैठा है। केवल उनके विचारों का औसत निकालने के बजाय, ट्रांसफॉर्मर दोनों की बात सुनता है, यह पता लगाता है कि कौन सा जासूस किसी विशिष्ट सुराग के बारे में अधिक आश्वस्त है, और उनके अंतर्दृष्टि (insights) को पूरी तरह से मिला देता है। यह "फ्यूजन" AI को पूरी तस्वीर देखने की अनुमति देता है: मस्तिष्क की गतिविधि की टाइमिंग और पिच दोनों।

4. परिणाम: एक बहुत ही सटीक भविष्यवक्ता

टीम ने इस नए AI का परीक्षण बच्चों के मस्तिष्क रिकॉर्डिंग के एक प्रसिद्ध डेटासेट (CHB-MIT डेटासेट) पर किया।

स्कोर: नया "दो-आँखों वाला" मॉडल आने वाले दौरों को 98.85% सटीकता के साथ पकड़ने में अविश्वसनीय रूप से सक्षम रहा।
तुलना: यह केवल "समय यात्री" आँख या केवल "फ्रीक्वेंसी एनालिस्ट" आँख के अकेले उपयोग करने से बेहतर था। इसने पिछले शोध में पाए गए कई अन्य उच्च-तकनीकी तरीकों को भी पीछे छोड़ दिया।

5. "स्ट्रेंजर डेंजर" टेस्ट (क्रॉस-पेशेंट टेस्टिंग)

यहाँ एक पेचीदा हिस्सा है: यदि कोई मॉडल व्यक्ति A पर प्रशिक्षित है, तो वह अक्सर व्यक्ति B को देखते समय विफल हो जाता है क्योंकि हर किसी का मस्तिष्क संगीत अद्वितीय होता है।

पुराना तरीका: यदि आप AI को 12 लोगों पर प्रशिक्षित करते हैं और 13वें व्यक्ति पर बिना किसी मदद के परीक्षण करते हैं, तो यह भ्रमित हो जाता है और लगभग आधे दौरे चूक जाता है (केवल ~59% सटीकता)।
नया तरीका (टारगेट अडैप्टेशन): शोधकर्ताओं ने एक "फाइन-ट्यूनिंग" ट्रिक आजमाई। उन्होंने उस स्मार्ट AI को लिया, उसे उस नए व्यक्ति के मस्तिष्क डेटा का एक छोटा सा हिस्सा दिखाया, और उसे कुछ मिनटों के लिए "पुनः सीखने" (re-learn) दिया।
परिणाम: यह छोटा सा समायोजन एक गेम-चेंजर साबित हुआ। सटीकता 59% से उछलकर 93% हो गई। यह एक जासूस को केस शुरू होने से पहले संदिग्ध की आदतों के बारे में संक्षिप्त जानकारी देने जैसा है।

6. चुनौती: गति बनाम बुद्धिमत्ता (Speed vs. Smarts)

शोध पत्र ने यह भी जांचा कि यह AI विभिन्न कंप्यूटरों पर कितनी तेजी से चलता है।

सरल मॉडल (CNN-LSTM): तेज़ और हल्का, जैसे एक साइकिल। यह एक छोटे, कम बिजली वाले उपकरण (जैसे पहनने योग्य गैजेट) के लिए अच्छा है।
जटिल मॉडल (EEG-FuseFormer): बहुत स्मार्ट लेकिन भारी, जैसे एक बड़े इंजन वाली स्पोर्ट्स कार। इसे तेजी से चलाने के लिए शक्तिशाली कंप्यूटरों (जैसे हाई-एंड सर्वर) की आवश्यकता होती है।
समझौता (Trade-off): आपको चुनना होगा: क्या आप पूर्ण सटीकता चाहते हैं (शक्तिशाली सर्वर पर भारी मॉडल का उपयोग करें), या क्या आपको इसे एक छोटे बैटरी से चलने वाले डिवाइस पर चलाने की आवश्यकता है (सरल मॉडल का उपयोग करें)?

सारांश

यह शोध पत्र EEG-FuseFormer को प्रस्तुत करता है, जो एक स्मार्ट AI है जो मस्तिष्क की तरंगों को देखने के दो अलग-अलग तरीकों को जोड़ता है। यह तब सबसे अच्छा काम करता है जब इसे किसी व्यक्ति के विशिष्ट मस्तिष्क पैटर्न को सीखने के लिए थोड़ी सी मदद मिलती है। हालांकि यह सबसे सटीक परीक्षण किया गया तरीका है, इसके लिए अधिक कंप्यूटिंग शक्ति की आवश्यकता होती है, इसलिए डॉक्टरों और इंजीनियरों को यह चुनना होगा कि वे इसे कहाँ उपयोग करने की योजना बना रहे हैं, उसके आधार पर सही उपकरण का चयन करें।

तकनीकी सारांश: EEG-FuseFormer

समस्या विवरण
मिर्गी एक प्रचलित न्यूरोलॉजिकल विकार है जो अप्रत्याशित दौरे (seizure) की घटनाओं द्वारा पहचाना जाता है, जो रोगी के जीवन की गुणवत्ता के लिए महत्वपूर्ण जोखिम पैदा करता है। हालांकि इलेक्ट्रोएन्सेफलोग्राफी (EEG) का उपयोग करके स्वचालित सीज़र ऑनसेट प्रेडिक्शन (दौरे की शुरुआत का पूर्वानुमान) एक संभावित शमन रणनीति प्रदान करता है, लेकिन EEG संकेतों की अंतर्निहित जटिलता—जो अनियमित टेम्पोरल विविधताओं और महत्वपूर्ण अंतर-रोगी परिवर्तनशीलता (inter-patient variability) प्रदर्शित करती है—सटीक पहचान को चुनौतीपूर्ण बनाती है। मौजूदा दृष्टिकोण अक्सर एकल फीचर सेट या रोगी-विशिष्ट मॉडलों पर निर्भर करते हैं जो अनदेखे रोगियों तक सामान्यीकरण करने में विफल रहते हैं। इसके अलावा, केवल कई फीचर्स को फ्यूज करना रनटाइम ओवरहेड और अप्रासंगिक डेटा पेश कर सकता है, जिसके लिए प्रदर्शन और कम्प्यूटेशनल दक्षता के बीच संतुलन बनाने वाले अधिक परिष्कृत फ्यूजन तंत्र की आवश्यकता होती है।

कार्यप्रणाली (Methodology)
यह शोध पत्र EEG-FuseFormer का प्रस्ताव करता है, जो एक ट्रांसफार्मर-संचालित फीचर फ्यूजन फ्रेमवर्क है जिसे EEG संकेतों के टाइम-डोमेन और फ्रीक्वेंसी-डोमेन विशेषताओं का लाभ उठाकर सीज़र ऑनसेट की भविष्यवाणी करने के लिए डिज़ाइन किया गया है। कार्यप्रणाली इस प्रकार है:

डेटासेट और प्री-प्रोसेसिंग: यह अध्ययन CHB-MIT स्कैल्प EEG डेटासेट का उपयोग करता है, जिसमें असाध्य दौरों वाले 13 बाल चिकित्सा रोगियों का चयन किया गया है। कच्चे संकेतों को फ़िल्टर (1 Hz हाई-पास और 50–60 Hz नॉच) किया जाता है और 5-सेकंड की विंडोज़ में विभाजित किया जाता है। इंटरइक्टल (सामान्य) और प्रीइक्टल (दौरे से पूर्व) अवस्थाओं के बीच क्लास असंतुलन को संबोधित करने के लिए, ओवरलैपिंग सेगमेंट के साथ एक स्लाइडिंग विंडो दृष्टिकोण का उपयोग किया जाता है, जिसके बाद रैंडम अंडर-सैंपलिंग की जाती है। शोर से बचने के लिए पोस्ट-इक्टल सेगमेंट को बाहर रखा जाता है।
डुअल-चैनल फीचर एक्सट्रैक्शन: आर्किटेक्चर डेटा को दो समानांतर चैनलों के माध्यम से प्रोसेस करता है:
1. चैनल 1 (टाइम-डोमेन): एक 1D-CNN-LSTM आर्किटेक्चर कच्चे फ़िल्टर्ड संकेतों को प्रोसेस करता है। यह स्थानिक (spatial) और टेम्पोरल फीचर्स निकालने के लिए दो कनवल्शनल ब्लॉक्स (बैच नॉर्मलाइजेशन, ReLU और मैक्स-पूलिंग के साथ) का उपयोग करता है, जिसके बाद टेम्पोरल डिपेंडेंसी को कैप्चर करने के लिए दो-परत वाला LSTM उपयोग किया जाता है।
2. चैनल 2 (फ्रीक्वेंसी-डोमेन): कच्चे संकेतों को शॉर्ट-टाइम फूरियर ट्रांसफॉर्म (STFT) स्पेक्ट्रोग्राम में परिवर्तित किया जाता है। इन्हें टाइम-फ्रीक्वेंसी रिप्रजेंटेशन से स्थानिक फीचर्स निकालने के लिए एक ResNet-18 नेटवर्क (128×90 कंकैटिनेटेड स्पेक्ट्रोग्राम इनपुट स्वीकार करने के लिए संशोधित) में फीड किया जाता है।
ट्रांसफार्मर फ्यूजन: दोनों चैनलों के फीचर्स को एक सामान्य 64-डायमेंशनल वेक्टर स्पेस में प्रोजेक्ट किया जाता है। इन वेक्टर्स को एक ट्रांसफार्मर एनकोडर का उपयोग करके फ्यूज किया जाता है जिसमें दो परतें हैं, प्रत्येक में एक 8-हेड मल्टी-हेड सेल्फ-अटेंशन मैकेनिज्म और एक फीड-फॉरवर्ड नेटवर्क है। यह मॉडल को दोनों आर्किटेक्चर से फीचर्स के महत्व को गतिशील रूप से वेट (weight) करने की अनुमति देता है।
वर्गीकरण (Classification): फ्यूज किए गए फीचर्स डेंस लेयर्स और एक सॉफ्टमैक्स फंक्शन से गुजरते हैं ताकि स्थिति को इंटरइक्टल या प्रीइक्टल के रूप में वर्गीकृत किया जा सके।
मूल्यांकन फ्रेमवर्क: मॉडल का मूल्यांकन दो परिदृश्यों के तहत किया जाता है:
1. पेशेंट-स्पेसिफिक (रोगी-विशिष्ट): एक ही रोगी के लिए प्रशिक्षण और परीक्षण।
2. क्रॉस-पेशेंट (रोगी-क्रॉस): $N-1$ रोगियों पर प्रशिक्षण और शेष रोगी पर परीक्षण। इसमें एक टारगेट अडैप्टेशन (Target Adaptation) चरण शामिल है जहाँ अंतिम परीक्षण से पहले लक्षित रोगी के डेटा के एक छोटे नमूने (3–5 एपोक) पर प्री-ट्रेंड मॉडल को फाइन-ट्यून किया जाता है।

प्रमुख योगदान

नवाचार आर्किटेक्चर: EEG-FuseFormer का परिचय, जो सरल कंकैटिनेशन या अटेंशन मैकेनिज्म से आगे बढ़ते हुए, ट्रांसफार्मर एनकोडर के माध्यम से CNN-LSTM की टेम्पोरल मॉडलिंग क्षमताओं को ResNet-18 के स्थानिक फीचर एक्सट्रैक्शन के साथ एकीकृत करता है।
क्रॉस-पेशेंट जनरलाइजेशन: मॉडल की विभिन्न रोगियों में सामान्यीकरण करने की क्षमता का एक कठोर मूल्यांकन, यह प्रदर्शित करते हुए कि टारगेट अडैप्टेशन, फाइन-ट्यूनिंग के बिना पारंपरिक क्रॉस-पेशेंट वैलिडेशन की तुलना में प्रदर्शन मेट्रिक्स में काफी सुधार करता है।
कम्प्यूटेशनल ट्रेड-ऑफ विश्लेषण: विभिन्न हार्डवेयर प्लेटफॉर्म्स (NVIDIA L4, A100 SXM4, और Jetson Nano) पर मॉडल के रनटाइम और जटिलता का एक व्यापक मूल्यांकन, जो प्रस्तावित फ्यूजन मॉडल और इसके घटक भागों के बीच प्रदर्शन-जटिलता ट्रेड-ऑफ को उजागर करता है।

परिणाम

पेशेंट-स्पेसिफिक प्रदर्शन: CHB-MIT डेटासेट पर, EEG-FuseFormer ने औसतन 98.85% रिकॉल और औसतन 97.92% F1-स्कोर प्राप्त किया, जो स्टैंडअलोन ResNet-18 (97.53% रिकॉल) और 1D-CNN-LSTM (93.4% रिकॉल) से बेहतर है। इसने 0.12/घंटा का निम्न फॉल्स अलार्म रेट (FAR) भी बनाए रखा।
क्रॉस-पेशेंट प्रदर्शन: बिना अडैप्टेशन के क्रॉस-पेशेंट सेटिंग में, रिकॉल काफी गिर गया (जैसे, EEG-FuseFormer के लिए ~59%)। हालांकि, टारगेट अडैप्टेशन के साथ, रिकॉल बढ़कर 93%, प्रिसिजन 82%, और F1-स्कोर 88% हो गया। यह नॉन-एडेप्टेड बेसलाइन की तुलना में पर्याप्त सुधार है और समान सेटिंग्स में अन्य स्टेट-ऑफ-द-आर्ट तरीकों से बेहतर प्रदर्शन करता है।
स्टेट-ऑफ-द-आर्ट के साथ तुलना: प्रस्तावित मॉडल मौजूदा तरीकों (जैसे, Truong et al., Zhang et al., Jemal et al.) की तुलना में रिकॉल में आगे निकल जाता है, जबकि सांख्यिकीय मोमेंट्स या एंट्रॉपी विशेषताओं पर निर्भर दृष्टिकोणों की तुलना में बहुत कम मैनुअल फीचर इंजीनियरिंग की आवश्यकता होती है।
जटिलता: जबकि EEG-FuseFormer उच्चतम भविष्य कहनेवाला सटीकता प्रदान करता है, यह ResNet-18 (11.17M) और 1D-CNN-LSTM (0.12M) की तुलना में उच्च कम्प्यूटेशनल लागत (12.40M ट्रेन करने योग्य पैरामीटर्स) वहन करता है। रनटाइम विश्लेषण इंगित करता है कि जबकि यह हाई-एंड GPUs पर व्यवहार्य है, मॉडल को हल्के आर्किटेक्चर की तुलना में एज डिप्लॉयमेंट के लिए सावधानीपूर्वक विचार की आवश्यकता है।

महत्व
यह पेपर दावा करता है कि EEG-FuseFormer एक ट्रांसफार्मर मैकेनिज्म के माध्यम से मल्टी-स्केल फीचर्स को प्रभावी ढंग से फ्यूज करके सीज़र ऑनसेट प्रेडिक्शन के लिए एक मजबूत समाधान प्रदान करता है। इसका प्राथमिक महत्व यह प्रदर्शित करना है कि फीचर फ्यूजन के साथ टारगेट अडैप्टेशन रोगी-विशिष्ट सटीकता और क्रॉस-पेशेंट जनरलाइजेबिलिटी के बीच के अंतर को पाट सकता है। अध्ययन इस बात पर जोर देता है कि हालांकि डीप फ्यूजन मॉडल बेहतर प्रदर्शन प्रदान करते हैं, लेकिन एक विशिष्ट आर्किटेक्चर (CNN-LSTM, ResNet-18, या EEG-FuseFormer) का चयन लक्ष्य अनुप्रयोग के विशिष्ट बाधाओं द्वारा निर्देशित होना चाहिए, जो उच्च सटीकता की आवश्यकता और कम्प्यूटेशनल संसाधनों (क्लाउड बनाम एज) के बीच संतुलन बनाता है।