टोकन, संदर्भ और याददाश्त
तीन विचार "इसने ऐसा क्यों किया?" वाले बहुत से क्षणों को खोल देते हैं: टोकन, संदर्भ विंडो (context window), और याददाश्त।
टोकन: वह इकाई जिसमें मॉडल सोचते हैं
मॉडल अक्षर या शब्द नहीं पढ़ते — वे टोकन पढ़ते हैं, टेक्स्ट के टुकड़े जो अंग्रेज़ी में किसी शब्द के लगभग ¾ के बराबर होते हैं। "Unbelievable" 3–4 टोकन हो सकता है; आम शब्द एक-एक होते हैं। आपका इनपुट और मॉडल का आउटपुट दोनों टोकन में गिने जाते हैं, और मूल्य निर्धारण और सीमाएँ इसी में मापे जाते हैं।
आपको हाथ से गिनने की ज़रूरत नहीं है, पर एक मोटा-मोटा अंदाज़ा मदद करता है: ~750 शब्द ≈ ~1,000 टोकन। इसे आज़माएँ:
केवल एक मोटा अंदाज़ा (~अक्षर ÷ 4, या शब्द × 1.33)। टोकन गिनती मॉडल के हिसाब से अलग होती है — कभी किसी दूसरे मॉडल का टोकनाइज़र इस्तेमाल न करें। सटीक संख्या के लिए Anthropic का टोकन-काउंटिंग एंडपॉइंट इस्तेमाल करें।
संदर्भ विंडो: वर्किंग मेमोरी
संदर्भ विंडो टोकनों की वह अधिकतम संख्या है जिन पर मॉडल एक साथ विचार कर सकता है — आपका प्रॉम्प्ट, साथ ही उसका उत्तर, साथ ही अब तक की पूरी बातचीत। इसे मॉडल की मेज़ की तरह सोचिए: बड़ी, पर सीमित।
जब कोई बातचीत विंडो से आगे बढ़ जाती है, तो सबसे पुरानी सामग्री मेज़ से गिर जाती है। यही कारण है कि एक बहुत लंबी चैट जो आपने शुरुआत में कहा था उसे "भूलती" हुई लग सकती है, या भटकने लगती है।
:::tip व्यावहारिक प्रभाव
- लंबे दस्तावेज़ों के लिए, मुख्य निर्देश को सबसे ऊपर रखें और अंत में दोहराएँ।
- किसी विशाल इतिहास को साथ घसीटने के बजाय किसी नए विषय के लिए एक नई चैट शुरू करें।
- Claude Code में, इसे सोच-समझकर प्रबंधित करें — देखें संदर्भ प्रबंधन। :::
याददाश्त: कोई नहीं है, जब तक कि आप न दें
डिफ़ॉल्ट रूप से, हर बातचीत एक कोरी स्लेट होती है। मॉडल को आपकी पिछली चैट याद नहीं रहती। प्रत्यक्ष "याददाश्त" इनमें से किसी एक से आती है:
- इतिहास दोबारा भेजना — चैट ऐप्स हर बारी पर बातचीत दोबारा भेजते हैं (जब तक विंडो भर न जाए)।
- स्पष्ट याददाश्त सुविधाएँ — कुछ Claude सतहें चैट-पार याददाश्त देती हैं (देखें चैट्स के पार याददाश्त)।
- आपके द्वारा प्रदान की गई फ़ाइलें — Projects और CLAUDE.md आपके नियंत्रण वाला स्थायी संदर्भ देते हैं।
- API stateless है — किसी बातचीत को जारी रखने के लिए आप पिछले संदेश स्वयं वापस भेजते हैं (पहली API कॉल)।
यह क्यों मायने रखता है
लगभग हर "इसने मेरे पिछले निर्देश को अनदेखा कर दिया" या "इसका सूत्र खो गया" वाली समस्या संदर्भ विंडो के भरने या किसी नए सत्र के ठंडे शुरू होने तक जाती है। यह जानकर, आप प्रॉम्प्ट और सत्रों को इस तरह संरचित करेंगे कि महत्वपूर्ण चीज़ें मेज़ पर बनी रहें।