The Last Fingerprint: How Markdown Training Shapes LLM Prose
यह शोध पत्र तर्क देता है कि एआई-जनित पाठ में एम-डैश (em dash) का विशिष्ट अतिप्रयोग मार्कडाउन-संतृप्त प्रशिक्षण डेटा का एक संरचनात्मक अवशेष है जो मॉडलों को स्वरूपण (formatting) से बचने के निर्देश देने पर भी बना रहता है, जो इसे केवल एक शैलीगत दोष के बजाय विशिष्ट फाइन-ट्यूनिंग पद्धतियों के एक नैदानिक हस्ताक्षर के रूप में प्रस्तुत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक केक बनाने की कोशिश कर रहे हैं, लेकिन आपको जो बैटर (मिश्रण) दिया गया है वह एक बहुत ही विशिष्ट, कठोर रसोई में तैयार किया गया था। इस रसोई में, हर एक रेसिपी व्हाइटबोर्ड पर बुलेट पॉइंट्स, बोल्ड हेडर्स और स्पष्ट सेक्शनों के साथ लिखी जाती है। इन बेकर्स (AI मॉडल्स) ने अपना पूरा जीवन इन व्हाइटबोर्ड्स को देखते हुए बिताया है।
अब, आप इनमें से एक बेकर से एक कहानी लिखने के लिए कहते हैं। आप कहते हैं, "कृपया इसे एक बहती हुई, स्वाभाविक कहानी के रूप में लिखें। कोई बुलेट पॉइंट्स या हेडर्स नहीं, बस शुद्ध गद्य (prose)।"
ज्यादातर समय, बेकर बात मानता है। वह बुलेट पॉइंट्स और हेडर्स का उपयोग करना बंद कर देता है। लेकिन एक छोटी सी आदत है जिसे वह तोड़ नहीं पाता: वह एम् डैश (em dash —) का उपयोग करना जारी रखता है।
यह शोध पत्र, The Last Fingerprint, ठीक यही समझाता है कि ऐसा क्यों होता है। यह दो चीजों को जोड़ता है जिनके बारे में लोग ऑनलाइन शिकायत कर रहे हैं:
- "AI बहुत अधिक एम् डैश लिखता है!" (लेखक की शिकायत)।
- "AI बुलेट पॉइंट्स में सोचता है!" (डेवलपर की शिकायत)।
यहाँ एक सरल स्पष्टीकरण दिया गया है कि क्या हो रहा है, कुछ उपमाओं (analogities) का उपयोग करते हुए।
1. "व्हाइटबोर्ड" प्रशिक्षण (मूल कारण)
कल्पना कीजिए कि AI को एक विशाल पुस्तकालय पर प्रशिक्षित किया गया था जहाँ लगभग हर किताब, लेख और नोट Markdown में लिखा गया था। Markdown लिखने का एक सरल तरीका है जो संरचना बनाने के लिए प्रतीकों का उपयोग करता है (जैसे शीर्षक के लिए # या सूची के लिए -)।
चूंकि AI ने इस "संरचित" टेक्स्ट को बहुत अधिक पढ़ा, इसलिए उसने केवल शब्द नहीं सीखे; उसने एक मानसिकता सीखी। उसने सीखा कि दुनिया बक्सों, सूचियों और स्पष्ट विभाजनों में व्यवस्थित है। इस मानसिकता में, एक डैश (dash) एक उपकरण के रूप में उपयोग किया जाता है यह कहने के लिए कि, "यहाँ रुकें, यह एक नया सेक्शन है।"
2. "लीक" (डैश क्यों बच जाता है)
जब आप AI को कहते हैं, "Markdown का उपयोग बंद करो! इंसान की तरह लिखो," तो वह आज्ञा मानता है। वह बड़े, स्पष्ट उपकरणों को हटा देता है:
- वह हेडर्स (जैसे
## Title) बनाना बंद कर देता है। - वह बुलेट पॉइंट्स (
-) बनाना बंद कर देता है। - वह बोल्ड टेक्स्ट (
**text**) बनाना बंद कर देता है।
लेकिन एम् डैश (—) एक चालाक सर्वाइवर है। क्यों?
- दोहरा एजेंट: AI के "संरचित" मस्तिष्क में, डैश एक संरचनात्मक उपकरण है (जैसे कमरों को अलग करने वाली दीवार)। लेकिन सामान्य अंग्रेजी में, डैश एक विराम चिह्न (punctuation) भी है (जैसे कॉमा या पूर्ण विराम)।
- लूपहोल (छेद): जब आप AI को कहते हैं, "कोई फॉर्मेटिंग नहीं!" तो वह बड़े फॉर्मेटिंग टूल्स (हेडर्स, लिस्ट) को खोजता है और उन्हें हटा देता है। लेकिन वह एम् डैश को नहीं हटाता क्योंकि, तकनीकी रूप से, एक डैश सामान्य गद्य में अनुमत है। यह एक सुरक्षा गार्ड को यह कहने जैसा है कि, "कोई हथियार नहीं!" और गार्ड आपको बंदूक लाने से तो रोकता है, लेकिन आपको एक स्विस आर्मी नाइफ के साथ जाने देता है क्योंकि वह एक हथियार के बजाय एक टूल जैसा दिखता है।
एम् डैश AI के संरचित प्रशिक्षण का अंतिम फिंगरप्रिंट है। यह "व्हाइटबोर्ड सोच" का सबसे छोटा हिस्सा है जो आपकी कहानी में दरारों से निकल आता है।
3. "वॉल्यूम नॉब" (क्यों कुछ AI अधिक करते हैं)
आप ध्यान देंगे कि कुछ AI (जैसे पुराने वर्ज़न वाले GPT) लगातार डैश का उपयोग करते हैं, जबकि अन्य (जैसे Meta का Llama) लगभग कोई नहीं करते।
पेपर समझाता है कि AI के प्रशिक्षण डेटा ने उसे डैश का उपयोग करने की इच्छा दी, लेकिन Fine-Tuning (वह अंतिम पॉलिश जो इंसान AI को देते हैं) एक वॉल्यूम नॉब की तरह कार्य करती है।
- "हाई वॉल्यूम" वाले AI: कुछ कंपनियों (जैसे OpenAI या Anthropic) ने पाया कि लोगों को वह लेखन पसंद आया जो स्मार्ट, सटीक और संरचित लगता था। इसलिए, उन्होंने एम् डैश के लिए वॉल्यूम बढ़ा दिया। उन्होंने AI को उन्हें उपयोग करने के लिए पुरस्कृत किया।
- "जीरो वॉल्यूम" वाले AI: अन्य कंपनियों (जैसे Meta) ने निर्णय लिया कि स्वाभाविक गद्य में इतने अधिक डैश नहीं होने चाहिए। उन्होंने वॉल्यूम को शून्य पर कम कर दिया।
- "नए" AI: एक ही कंपनी के भीतर भी, नए मॉडल्स इस आदत को कम करने के लिए सीख रहे हैं क्योंकि लोगों ने बहुत अधिक डैश के "AI स्मेल" (AI की गंध) के बारे में शिकायत करना शुरू कर दिया है।
4. प्रयोग (सिद्धांत को सिद्ध करना)
शोधकर्ताओं ने 12 अलग-अलग AI को एक सख्त निर्देश देकर इसका परीक्षण किया: "एक कहानी लिखें। कोई फॉर्मेटिंग नहीं। और विशेष रूप से, एम् डैश का उपयोग न करें।"
- परिणाम: AI ने हेडर और बुलेट पॉइंट्स का उपयोग करना सफलतापूर्वक बंद कर दिया।
- ट्विस्ट: "हाई वॉल्यूम" वाले AI (जैसे GPT-4.1) ने डैश का उपयोग करना जारी रखा, भले ही उन्हें स्पष्ट रूप से मना किया गया था। वे खुद को रोक नहीं सके; यह आदत बहुत गहरी थी।
- "जीरो" वाले AI: वे AI जिन्हें इस आदत को दबाने के लिए ट्यून किया गया था (जैसे Llama), उन्होंने नियम का पूरी तरह से पालन किया और शून्य डैश का उपयोग किया।
मुख्य निष्कर्ष
एम् डैश केवल एक रैंडम गलती नहीं है। यह एक डायग्नोस्टिक टूल (निदान उपकरण) है।
यदि आप एम् डैश से भरा हुआ टेक्स्ट देखते हैं, तो यह केवल "खराब लेखन" नहीं है। यह एक हस्ताक्षर है। यह आपको बताता है:
- यह टेक्स्ट एक ऐसे AI द्वारा लिखा गया है जो संरचित डेटा पर प्रशिक्षित है।
- जिस विशिष्ट कंपनी ने इस AI को बनाया है, उसने उस संरचनात्मक आदत को बढ़ावा देने का निर्णय लिया क्योंकि उन्हें लगा कि इससे लेखन स्मार्ट लगता है।
संक्षेप में: एम् डैश AI का कहानी को व्यवस्थित करने का तरीका है, भले ही आपने उसे सिर्फ "कहानी सुनाने" के लिए कहा हो। यह व्हाइटबोर्ड की वह छाया है जो गद्य में भटक रही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।