Falcon: Functional Assembly and Language for Compositional Reasoning in X-ray
यह शोध पत्र फाल्कन (Falcon) को प्रस्तुत करता है, जो एक मल्टीमॉडल फ्रेमवर्क है जो एक्स-रे बैगेज स्क्रीनिंग में ऑब्जेक्ट-सेंट्रिक विजन-लैंग्वेज मॉडल्स की सीमाओं को संबोधित करने के लिए खतरे का पता लगाने को स्थानिक रूप से बिखरे हुए घटकों पर कंपोजिशनल रीजनिंग (compositional reasoning) के रूप में औपचारिक रूप देता है, जिसे संरचित सुरक्षा अनुमान (structured safety inference) के मूल्यांकन के लिए नए फाल्कन-एक्स (Falcon-X) बेंचमार्क द्वारा समर्थित किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुरक्षा गार्ड हैं जो सूटकेस के एक्स-रे को देख रहे हैं। आज के अधिकांश कंप्यूटर प्रोग्राम एक बहुत ही सख्त लाइब्रेरियन की तरह काम करते हैं: वे छवि को देखते हैं और कहते हैं, "मुझे एक बैटरी दिख रही है," "मुझे एक चाकू दिख रहा है," या "मुझे एक बोतल दिख रही है।" वे व्यक्तिगत वस्तुओं को पहचानने में बहुत कुशल हैं।
लेकिन समस्या यह है: एक अकेली बैटरी हानिरहित है। एक अकेला डिटोनेटर हानिरहित है। विस्फोटकों का ढेर बस रसायनों का एक ढेर है। असली खतरा केवल तब पैदा होता है जब ये विशिष्ट वस्तुएं एक साथ होती हैं और इस तरह से जुड़ी होती हैं कि वे एक बम के रूप में काम कर सकें।
एक बम की तरह काम करने के लिए इन चीजों को एक साथ और कनेक्टेड होना आवश्यक है।
वर्तमान AI इस मामले में संघर्ष करता है। वह हिस्सों को तो देखता है लेकिन इस बात को नहीं समझ पाता कि वे एक-दूसरे में कैसे फिट होते हैं। यह एक ऐसे बच्चे की तरह है जो लेगो (Lego) सेट के हर टुकड़े का नाम तो बता सकता है, लेकिन यह नहीं समझ पाता कि यदि आप लाल ब्लॉक को नीले ब्लॉक से जोड़ देते हैं, तो आपने एक कार बना ली है।
पेश है "Falcon" (फाल्कन)।
Falcon एक नया AI सिस्टम है जिसे विशेष रूप से एक्स-रे बैगेज स्क्रीनिंग में इस "पहेली" वाली समस्या को हल करने के लिए डिज़ाइन किया गया है। केवल वस्तुओं की सूची बनाने के बजाय, Falcon एक जासूस की तरह काम करता है जो यह समझता है कि चीजें मिलकर कैसे काम करती हैं।
यह कैसे काम करता है, यहाँ सरल चरणों में दिया गया है:
1. "सेफ्टी स्टेट" (जासूस की नोटबुक)
अधिकांश AI मॉडल सीधे तस्वीर से उत्तर का अनुमान लगाने की कोशिश करते हैं। Falcon एक अलग दृष्टिकोण अपनाता है। जवाब देने से पहले, यह एक संरचित "नोटबुक" (Structured Safety State) भरता है।
इस नोटबुक में, यह तीन चीजें लिखता है:
- वहाँ कौन है? (क्या वहां एक बैटरी है? एक डिटोनेटर है? विस्फोटक हैं?)
- क्या वे फिट बैठते हैं? (यदि बैटरी वहां है, तो क्या वह डिटोनेटर से जुड़ने लायक दिख रही है?)
- यह कितना खतरनाक है? (वहां कौन मौजूद है और वे कैसे फिट होते हैं, इसके आधार पर जोखिम स्कोर क्या है?)
इसे एक शेफ (रसोइया) की तरह समझें जो रेसिपी चेक कर रहा है। "यह केक तैयार है" कहने से पहले, शेफ चेक करता है: "क्या मेरे पास आटा है? हाँ। अंडे? हाँ। क्या वे मिले हुए हैं? हाँ। ठीक है, अब मैं कह सकता हूँ कि यह एक केक है।" Falcon बोलने से पहले इसी तरह की सुरक्षा जांच करता है।
2. "फंक्शनल ग्राउंडिंग" (खिलाड़ियों को नहीं, बल्कि टीम को खोजना)
यदि आप एक सामान्य AI से पूछते हैं, "बैटरी कहाँ है?" तो वह बैटरी की ओर इशारा करता है।
यदि आप Falcon से पूछते हैं, "इस बैग में कौन सी वस्तुएं मिलकर एक बम बना सकती हैं?" तो वह केवल एक चीज़ की ओर इशारा नहीं करता। वह बैटरी, डिटोनेटर और विस्फोटकों के चारों ओर एक घेरा बनाता है और कहता है, "ये तीनों एक टीम हैं।"
वह समझता है कि खतरा व्यक्तिगत वस्तुओं में नहीं, बल्कि उनके संबंध (relationship) में है। वह यह भी बता सकता है कि क्या गायब है। यदि वह एक बैटरी और एक डिटोनेटर देखता है लेकिन विस्फोटक नहीं देखता, तो वह कहता है, "मैं बम के दो हिस्से देख रहा हूँ, लेकिन मुख्य विस्फोटक हिस्सा गायब है। जोखिम अधिक है, लेकिन अभी यह 100% नहीं है।"
3. "Falcon-X" बेंचमार्क (प्रशिक्षण का मैदान)
Falcon को यह कौशल सिखाने के लिए, शोधकर्ताओं ने Falcon-X नामक एक नया डेटासेट बनाया।
- पुराने डेटासेट्स: "बुरे लड़कों" (बंदूक, चाकू, कैंची) के फोटो एल्बम की तरह थे।
- Falcon-X: "अलग किए गए पहेलियों" (Disassembled Puzzles) के संग्रह की तरह है। इसमें हजारों ऐसे एक्स-रे शामिल हैं जहाँ बम के पुर्जे बिखरे हुए, कपड़ों के नीचे छिपे हुए, या अव्यवस्था (clutter) के बीच मिले हुए हैं। यह AI को यह सीखने के लिए मजबूर करता है कि शर्ट के नीचे छिपी हुई बैटरी भी एक बैटरी ही है, और यदि वह डिटोनेटर के पास है, तो वह एक समस्या है।
4. परिणाम: यह क्यों मायने रखता है
पेपर में Falcon का परीक्षण अन्य स्मार्ट AI मॉडलों के विरुद्ध किया गया।
- प्रतिस्पर्धा: अन्य मॉडल यह कहने में अच्छे थे कि "यह एक बैटरी लग रही है।" लेकिन जब पूछा गया, "क्या यह एक बम है?" तो वे अक्सर भ्रमित हो गए या उन्होंने गलत जानकारी दी (hallucinated)।
- Falcon: क्योंकि यह पहले "संबंधों" को चेक करने के लिए खुद को मजबूर करता है, इसलिए यह कार्यात्मक खतरे (functional threat) को पहचानने में बहुत बेहतर है। यह एक अस्त-व्यस्त, बिखरे हुए बैग को देखकर कह सकता है, "ये तीन विशिष्ट वस्तुएं, भले ही वे एक-दूसरे से दूर हों, एक बम बनाने के लिए मिलकर काम कर सकती हैं।"
निष्कर्ष
पेपर का दावा है कि AI को केवल क्या हिस्से मौजूद हैं (ऑब्जेक्ट डिटेक्शन) के बजाय हिस्से कैसे जुड़ते हैं (कंपोजिशनल रीजनिंग) के बारे में सोचने के लिए मजबूर करके, हम बहुत सुरक्षित सुरक्षा प्रणालियाँ बना सकते हैं। Falcon केवल टुकड़ों को नहीं देखता; वह उस मशीन को समझता है जो वे बना सकते हैं।
संक्षेप में: Falcon एक ऐसा AI है जो केवल ईंटों को नहीं गिनता; वह जानता है कि कब ईंटों को इस तरह से रखा गया है कि पूरी इमारत ढह सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।