इंजीनियरिंग लीडर्स के लिए डिसीज़न गाइड
क्या आपकी इंजीनियरिंग टीम को ओपन-वेट कोडिंग मॉडल सेल्फ-होस्ट करना चाहिए?
Revolut के 2,000 इंजीनियर कहते हैं कि यह विचारधारा पर नहीं, वॉल्यूम पर निर्भर करता है।
यह केवल मॉडल की क्वालिटी पर नहीं, बल्कि इंजीनियरों की संख्या, इन-हाउस GPU व ऑप्स स्किल, और डेटा-रेज़िडेंसी ज़रूरतों पर निर्भर करता है। Revolut ने लगभग 2,000 इंजीनियरों के स्तर पर एक ओपन-वेट मॉडल सेल्फ-होस्ट किया और अपना फ्रंटियर API बिल लगभग 90% घटा दिया, लेकिन सबसे मुश्किल समस्याओं के लिए फ्रंटियर टूल्स अब भी तैयार रखे हैं। छोटी टीमों को आमतौर पर फ्रंटियर API चलाना सस्ता लगेगा।
प्रकाशित
मुख्य बातें
- लगभग 2,000 इंजीनियरों के स्तर पर, Revolut ने Z.ai का GLM 56 Nvidia B200 GPU पर सेल्फ-होस्ट किया और अपनी ब्लेंडेड टोकन कॉस्ट को पहले के Anthropic और OpenAI बिल के लगभग दसवें हिस्से तक घटा दिया।
- लीड टाइम (किसी फ़ीचर को उठाने से लेकर मर्ज-रेडी होने तक के दिन) कोडिंग टाइम से ज़्यादा सुधरा, लगभग 70% बनाम 60%, जो इस बात का सबूत है कि असली बॉटलनेक कभी भी शुद्ध कोडिंग नहीं था।
- यह सुधार टोकन बजट हटाने के साथ जुड़ा था, सिर्फ़ मॉडल बदलने के साथ नहीं: एक बार जब टोकन की कमी नहीं रही, तो इंजीनियरों ने AI को ईमेल, टिकट, और डॉक्स पर भी लगाया।
- सेल्फ-होस्टिंग के लिए असली इंफ्रास्ट्रक्चर काम चाहिए था, सिर्फ़ वेट डाउनलोड करना नहीं: कॉन्टेक्स्ट लेंथ, क्वांटाइज़ेशन, और पैरेललिज़्म को ट्यून करने से समान GPU संख्या पर टाइम-टू-फ़र्स्ट-टोकन 88% घट गया।
- Revolut अब भी Anthropic का Claude Code, OpenAI का Codex, और Google का Gemini सबसे मुश्किल समस्याओं के लिए फ्रंटियर एक्सेप्शन के तौर पर तैयार रखता है, रोज़मर्रा के डिफ़ॉल्ट के तौर पर नहीं।
पूरी गाइड
किसी भी सेक्शन को खोलने के लिए उस पर टैप करें।
इस गाइड के बारे में
यह इंजीनियरिंग लीडर्स के लिए एक खरीद गाइड है जो यह तय कर रहे हैं कि फ्रंटियर API के लिए प्रति सीट या प्रति टोकन भुगतान करने के बजाय Z.ai के GLM जैसा ओपन-वेट कोडिंग मॉडल सेल्फ-होस्ट किया जाए या नहीं। यह Revolut के सार्वजनिक आंकड़ों पर आधारित है: एक बैंक जिसने अपने लगभग 2,000 इंजीनियरों में से ज़्यादातर को प्रति-टोकन बिलिंग से हटा दिया, जबकि सबसे मुश्किल समस्याओं के लिए Anthropic का Claude Code, OpenAI का Codex, और Google का Gemini बरकरार रखा। सबक यह नहीं है कि Revolut ने कौन-सा मॉडल चुना, बल्कि यह है कि टोकन राशन करना बंद होने के बाद क्या बदला।
सेल्फ-होस्टिंग बनाम फ्रंटियर API या सीट प्लान: एक डिसीज़न चेकलिस्ट
| फ़ैक्टर | सेल्फ-होस्टेड ओपन-वेट की ओर झुकाव | फ्रंटियर API या सीट प्लान की ओर झुकाव |
|---|---|---|
| टीम का आकार और टोकन वॉल्यूम | सैकड़ों से हज़ारों इंजीनियर, जो लगातार उच्च दैनिक टोकन वॉल्यूम जनरेट करते हैं, जैसा Revolut के लगभग 2,000-इंजीनियर स्केल पर है। | एक छोटी या मिड-साइज़ टीम जहाँ GPU और ऑप्स ओवरहेड उस API बिल से ज़्यादा लागत का होगा जिसकी जगह यह लेता है। |
| इन-हाउस GPU और ऑप्स स्किल | आप पहले से GPU इंफ्रास्ट्रक्चर चला रहे हैं या इसके लिए हायर कर सकते हैं: सर्विंग-स्टैक ट्यूनिंग, क्वांटाइज़ेशन, और कैपेसिटी प्लानिंग असली, लगातार चलने वाला काम है। | कोई डेडिकेटेड ML इंफ्रास्ट्रक्चर टीम नहीं है, और सिर्फ़ एक कोडिंग मॉडल सर्व करने के लिए एक बनाने की कोई इच्छा नहीं है। |
| डेटा रेज़िडेंसी और कंप्लायंस | कोड या कॉन्टेक्स्ट आपके नियंत्रण वाले इंफ्रास्ट्रक्चर से बाहर नहीं जा सकता, या कोई रेगुलेटर यह चाहता है कि आप बताएँ कि इनफ़रेंस ठीक कहाँ होता है। | किसी वेंडर की स्टैंडर्ड डेटा-हैंडलिंग शर्तें आपकी कंप्लायंस और डेटा-रेज़िडेंसी ज़रूरतों को पहले से पूरा करती हैं। |
| सबसे मुश्किल समस्याओं के लिए फ़ॉलबैक | कभी-कभार फ्रंटियर API उपयोग के लिए बजट उपलब्ध रहता है, उस छोटे हिस्से के कामों के लिए जिन्हें ओपन-वेट मॉडल ठीक से नहीं संभाल पाता। | आपका ज़्यादातर वर्कलोड ठीक उस तरह की मुश्किल, विविध समस्या है जिसके लिए फ्रंटियर मॉडल ट्यून किए गए हैं, न कि रोज़मर्रा की कोडिंग। |
| बिलिंग का पूर्वानुमान बनाम फ़्लेक्सिबिलिटी | आप फ्लैट, पूर्वानुमान योग्य इंफ्रास्ट्रक्चर लागत चाहते हैं, बजाय ऐसे बिल के जो उपयोग और मॉडल प्राइसिंग बदलावों के साथ बदलता रहे। | आप सर्विंग-स्टैक को फिर से ट्यून किए बिना तेज़ी से मॉडल या वेंडर बदलना चाहते हैं, और उपयोग इतना असमान है कि उसके हिसाब से GPU तय करना मुश्किल है। |
सोर्स केसRevolut ने असल में क्या किया और क्या मापा
David Abitbol, जो Revolut में AI ऑपरेशन्स चलाते हैं, ने 2026 के आख़िर में AI Engineer के न्यूयॉर्क कॉन्फ़्रेंस में एक टॉक में इस रोलआउट का ज़िक्र किया। Revolut लगभग 2,000 इंजीनियरों के सैंपल पर दो आंकड़े ट्रैक करता है: घंटों में कोडिंग टाइम, और किसी फ़ीचर को उठाने से लेकर मर्ज होकर डिप्लॉय के लिए तैयार होने तक दिनों में लीड टाइम।
इंटरनल डेटा एक्सेस के साथ Google के Gemini के शुरुआती रोलआउट ने दोनों मेट्रिक्स में मामूली सुधार किया, ज़्यादातर डॉक्यूमेंटेशन लुकअप की जगह लेकर। इसके बाद Anthropic का Claude Code सख़्त प्रति-इंजीनियर टोकन बजट के साथ लॉन्च हुआ, क्योंकि कुछ इंजीनियरों ने बिना साफ़ फ़ायदे के बड़े बिल बना दिए थे, और Abitbol कहते हैं कि शुरुआत में इसका मापा जा सकने वाला असर बहुत कम दिखा।
आंकड़ों में बदलाव तब आया जब एक ओपन-वेट मॉडल, Z.ai का GLM, अप्रैल 2026 के आसपास बिना किसी टोकन लिमिट के सेल्फ-होस्ट किया गया। कोडिंग टाइम में लगभग 60% और लीड टाइम में लगभग 70% सुधार हुआ। Revolut अब रोज़मर्रा की कोडिंग के लिए सेल्फ-होस्टेड मॉडल को डिफ़ॉल्ट मानता है, जिसकी बिलिंग फ्लैट और पूर्वानुमान योग्य है, और सबसे मुश्किल समस्याओं के लिए फ्रंटियर टूल्स को एक्सेप्शन के तौर पर रखता है।
लगभग 2,000 इंजीनियरों पर, मॉडल सर्व करने के लिए 56 Nvidia B200 GPU लगे, जिसका लक्ष्य टाइम-टू-फ़र्स्ट-टोकन तीन सेकंड से कम रखना था (पाँच सेकंड के बाद शिकायतें शुरू होती हैं)। ब्लेंडेड कॉस्ट लगभग $0.30 प्रति मिलियन टोकन आई, जो Revolut द्वारा पहले Anthropic और OpenAI को मिलाकर चुकाई जा रही राशि के लगभग दसवें हिस्से के बराबर है।
असली सबकसबक मॉडल नहीं, राशनिंग है
Abitbol की अपनी डेटा-व्याख्या सबसे काम की बात है: लीड टाइम कोडिंग टाइम से ज़्यादा सुधरा, जिसका मतलब है कि कोडिंग कभी मुख्य बॉटलनेक नहीं थी। एक बार जब किसी को क्वार्टर के सबसे मुश्किल टिकट के लिए टोकन बचाने की ज़रूरत नहीं रहती, तो इंजीनियर AI को ईमेल, Jira, Confluence, और फ़ीचर के आसपास के बाकी काम पर भी लगाने लगते हैं, न कि सिर्फ़ कोड पर।
यह सबक इस बात से बेअसर है कि टीम कौन-सा मॉडल चला रही है। एक टीम जो फ्रंटियर API पर प्रति इंजीनियर टोकन बजट रखती है, या कॉस्ट कंट्रोल करने के लिए यूज़ेज कैप करती है, वह ठीक वही राशनिंग समस्या दोहरा रही है जिसे Revolut ने लिमिट हटाकर हल किया। समाधान हमेशा सेल्फ-होस्टिंग नहीं है; कभी-कभी यह उसी फ्रंटियर मॉडल पर एक सस्ता या फ्लैट प्राइसिंग प्लान हो सकता है।
किसी भी इंजीनियरिंग लीडर के लिए व्यावहारिक सीख यह है कि AI टूलिंग फ़ायदेमंद है या नहीं, यह तय करने से पहले सिर्फ़ कोडिंग टाइम या जनरेट की गई लाइनें नहीं, बल्कि लीड टाइम मापें, और यह देखें कि क्या कॉस्ट या कोटा के दबाव में इंजीनियर अपने उपयोग को खुद राशन कर रहे हैं।
यह पेज टीम-कॉस्ट और रोलआउट के फ़ैसले पर केंद्रित है: सेल्फ-होस्ट करना है या नहीं, और तय करने के बाद इसे कैसे रोल आउट करें। ओपन वेट, ओपन सोर्स, और क्लोज़्ड API का असल में क्या मतलब है और लैब्स व सरकारें इन्हें अलग-अलग क्यों मानती हैं, इस व्यापक, मॉडल-निरपेक्ष सवाल के लिए Nightschool AI की गाइड Open-Source vs Closed AI Models यह पूरा विषय कवर करती है।
स्केलिंग से पहले ट्यूनिंगसेल्फ-होस्टिंग के लिए इंजीनियरिंग चाहिए थी, सिर्फ़ वेट नहीं
Revolut के इंफ्रास्ट्रक्चर आंकड़े यह मानने के ख़िलाफ़ एक उपयोगी चेतावनी हैं कि GPU मिलने के बाद सेल्फ-होस्टिंग आसान हो जाती है। अप्रैल से अगस्त 2026 तक, 56 पर फ्लैट रखी गई GPU संख्या के साथ, लोड लगभग 3 से बढ़कर 7 से अधिक रिक्वेस्ट प्रति सेकंड हो गया, जबकि टाइम-टू-फ़र्स्ट-टोकन लगभग 14 सेकंड से घटकर 2 सेकंड से कम रह गया, यानी किसी नए हार्डवेयर के बिना 88% लेटेंसी सुधार।
Abitbol उस सुधार का लगभग 80% क्रेडिट सर्विंग कॉन्फ़िगरेशन को देते हैं, न कि GPU को: कॉन्टेक्स्ट लेंथ को मॉडल की विज्ञापित अधिकतम सीमा से काफ़ी नीचे कैप करना, मौजूदा जेनरेशन के GPU हार्डवेयर पर लोअर-प्रेसिज़न क्वांटाइज़ेशन चलाना, और यह ट्यून करना कि मॉडल का अटेंशन कैश डिवाइसों में कैसे बँटे। इस राह पर विचार करने वाली टीमों के लिए उनकी सारांश लाइन साफ़ है: GPU पर वेट लोड करके काम पूरा मानना बहुत ख़राब परफ़ॉर्मेंस देता है।
यह ट्यूनिंग काम एक असली, लगातार चलने वाली ऑप्स लागत है जिसे ज़्यादातर टीमें कम आँकती हैं जब वे सेल्फ-होस्टेड मॉडल की स्टिकर कीमत को किसी API बिल से तुलना करती हैं।
रोलआउट करनाइंफ्रास्ट्रक्चर छूने से पहले आदत सिखाएँ
Revolut का फ़ायदा टोकन लिमिट हटाने के साथ जुड़ा था, मॉडल बदलने के साथ नहीं। ये वे क़दम हैं जो किसी भी टीम में, किसी भी मॉडल पर, इस आदत को टिकाऊ बनाते हैं।
पहले लीड-टाइम बेसलाइन तय करें
किसी भी टूलिंग या बजट को बदलने से पहले, मापें कि एक सामान्य फ़ीचर उठाने से लेकर मर्ज-रेडी होने तक असल में कितना समय लगता है। इस बेसलाइन के बिना आप यह नहीं बता सकते कि बाद का कोई बदलाव मदद कर रहा है या नहीं।
छिपी हुई राशनिंग हटाएँ
जाँच करें कि क्या इंजीनियर बजट या कोटा की वजह से महीने के सबसे मुश्किल टिकट के लिए AI उपयोग बचा रहे हैं। यदि हाँ, तो यह राशनिंग आपके नतीजों को सीमित कर रही है, भले ही इसके पीछे कोई भी मॉडल हो।
सिर्फ़ मुश्किल टिकटों पर नहीं, हर टिकट पर ट्रेन करें
जिस आदत ने Revolut के आंकड़े बदले वह थी AI को ईमेल, टिकट, और डॉक्यूमेंटेशन पर भी लगाना, न कि सिर्फ़ मुश्किल कोडिंग समस्याओं पर। यह आदत साफ़ तौर पर सिखाएँ; यह सिर्फ़ इसलिए खुद-ब-खुद नहीं बनती कि कोई लिमिट हटा दी गई।
फिर से लीड टाइम मापें, सिर्फ़ कोडिंग टाइम नहीं
बदलाव के बाद वही लीड-टाइम मेट्रिक फिर से ट्रैक करें। यदि कोडिंग टाइम सुधरता है लेकिन लीड टाइम नहीं, तो बॉटलनेक अब भी प्रोसेस में कहीं और है, और ज़्यादा टोकन इसे ठीक नहीं करेंगे।
ईमानदार सीमाएँRevolut का केस क्या साबित नहीं करता
Revolut के आंकड़े एक रेगुलेटेड बैंक के अपने पैमाने पर एक डिप्लॉयमेंट का वर्णन करते हैं। इसे किसी सार्वभौमिक नतीजे की तरह लेने से पहले इन सीमाओं को ध्यान में रखें।
एक कंपनी के आंकड़े, कोई बेंचमार्क नहीं
इस गाइड में दी गई कॉस्ट और लेटेंसी के आंकड़े Revolut के ख़ास डिप्लॉयमेंट, उपयोग के तरीके, और बातचीत से तय हुई शर्तों का वर्णन करते हैं। इन्हें यह दिखाने के सबूत के तौर पर लें कि क्या संभव है, अपने वर्कलोड के लिए कीमत या परफ़ॉर्मेंस की गारंटी के तौर पर नहीं।
फ्रंटियर टूल्स मिक्स में बने रहे
Revolut ने Anthropic का Claude Code, OpenAI का Codex, या Google का Gemini ख़त्म नहीं किया। इन्हें उन समस्याओं के लिए जानबूझकर एक्सेप्शन के तौर पर रखा गया जिन्हें उनका सेल्फ-होस्टेड मॉडल कम अच्छी तरह संभालता है, जो एक ऐसी लागत है जिसे ज़्यादातर सेल्फ-होस्टिंग पिच छोड़ देते हैं।
कंप्लायंस का विवरण कंपनी-विशिष्ट है
Revolut का यह तर्क कि वह मॉडल कहाँ चलाता है और यह उसके रेगुलेटर को कैसे संतुष्ट करता है, यह EU-रेगुलेटेड बैंक के रूप में उसकी अपनी परिस्थितियों को दर्शाता है। यह कोई सामान्य नतीजा नहीं है कि कोई भी मॉडल, क्षेत्र, या सेटअप किसी दूसरे संगठन की ज़िम्मेदारियाँ पूरी करता है।
इंफ्रास्ट्रक्चर छूने से पहले आदत सिखाएँ
Revolut का फ़ायदा टोकन लिमिट हटाने से आया, जिससे इंजीनियरों ने AI को हर टिकट पर इस्तेमाल किया, न कि सिर्फ़ मुश्किल टिकटों पर। यह आदत बदलना किसी भी सेल्फ-होस्टिंग फ़ैसले से पहले आता है, और Nightschool AI का कॉर्पोरेट ट्रेनिंग इसे पूरी इंजीनियरिंग टीम में बनाता है।
अक्सर पूछे जाने वाले प्रश्न
ओपन-वेट कोडिंग मॉडल क्या है?
एक ऐसा मॉडल जिसके ट्रेंड वेट डाउनलोड किए जा सकते हैं और आपके नियंत्रण वाले इंफ्रास्ट्रक्चर पर चलाए जा सकते हैं, न कि एक क्लोज़्ड मॉडल जिसे आप सिर्फ़ किसी प्रोवाइडर के API के ज़रिए इस्तेमाल कर सकते हैं। Z.ai का GLM, Revolut के केस वाला मॉडल, इसका एक उदाहरण है; इसे चलाने के लिए भी असली GPU इंफ्रास्ट्रक्चर और सर्विंग-स्टैक ट्यूनिंग चाहिए होती है।
क्या Revolut ने Claude Code, Codex, और Gemini का उपयोग पूरी तरह बंद कर दिया?
नहीं। Revolut ने रोज़मर्रा की कोडिंग के लिए एक सेल्फ-होस्टेड ओपन-वेट मॉडल को डिफ़ॉल्ट बनाया, लेकिन Anthropic का Claude Code, OpenAI का Codex, और Google का Gemini अपनी सबसे मुश्किल समस्याओं के लिए एक्सेप्शन के तौर पर उपलब्ध रखे, जहाँ उसकी रिपोर्ट के मुताबिक़ ये फ्रंटियर टूल्स अब भी अच्छा परफ़ॉर्म करते हैं।
Revolut ने सेल्फ-होस्टिंग से असल में कितनी बचत की?
इसकी अपनी रिपोर्ट की गई ब्लेंडेड कॉस्ट लगभग $0.30 प्रति मिलियन टोकन थी, जो Anthropic और OpenAI को मिलाकर पहले चुकाई जा रही राशि के लगभग दसवें हिस्से के बराबर है, और यह लगभग 2,000 इंजीनियरों को 56 Nvidia B200 GPU पर सर्व करते हुए हासिल हुई। यह आँकड़ा Revolut के डिप्लॉयमेंट और उपयोग का वर्णन करता है, किसी भी टीम के लिए अपेक्षित कीमत का नहीं।
इंजीनियरिंग काम को गिनने के बाद भी क्या सेल्फ-होस्टिंग असल में सस्ती है?
ज़रूरी नहीं। Revolut की रिपोर्ट के मुताबिक़ उसके परफ़ॉर्मेंस सुधार का लगभग 80% सर्विंग कॉन्फ़िगरेशन ट्यून करने से आया, ज़्यादा GPU ख़रीदने से नहीं, जो एक लगातार चलने वाला इंफ्रास्ट्रक्चर काम है। बिना यह स्किल इन-हाउस रखने वाली एक छोटी टीम तुलनीय परफ़ॉर्मेंस हासिल करने में फ्रंटियर API बिल से ज़्यादा ख़र्च कर सकती है।
क्या GLM जैसा सेल्फ-होस्टेड ओपन-वेट मॉडल इस वजह से सुरक्षा जोखिम है कि यह कहाँ बनाया गया?
किसी मॉडल के वेट कहाँ ट्रेन किए गए और आप उन्हें कहाँ चलाते हैं, ये दो अलग सवाल हैं। एक रेगुलेटेड बैंक के तौर पर Revolut का अपना रुख़ यह था कि वेट डाउनलोड करना और उन्हें स्वीकृत क्षेत्रों में अपने नियंत्रण वाले इंफ्रास्ट्रक्चर पर चलाना किसी तीसरे पक्ष के होस्टेड एंडपॉइंट पर रिक्वेस्ट भेजने से एक अलग डेटा पथ है; अलग रेगुलेटर वाले संगठनों को यह मान लेने के बजाय अपनी ख़ुद की कंप्लायंस ज़रूरतों के हिसाब से इसकी पुष्टि करनी चाहिए कि यह उन पर भी लागू होता है।
एक छोटी इंजीनियरिंग टीम को सेल्फ-होस्टिंग के बदले क्या करना चाहिए?
इंफ्रास्ट्रक्चर के बजाय सबक पर ध्यान दें: पता करें कि क्या इंजीनियर कॉस्ट या कोटा लिमिट की वजह से AI उपयोग राशन कर रहे हैं, और यदि हाँ, तो सेल्फ-होस्टिंग के लिए ज़रूरी GPU और ऑप्स निवेश पर विचार करने से पहले अपने मौजूदा फ्रंटियर मॉडल पर एक फ्लैट या सस्ता प्लान देखें।
यह जानने के लिए हमें क्या मापना चाहिए कि AI कोडिंग टूल्स असल में मदद कर रहे हैं?
कोडिंग टाइम के साथ लीड टाइम मापें, यानी किसी फ़ीचर को उठाने से लेकर मर्ज होकर डिप्लॉय के लिए तैयार होने तक के दिन। Revolut के डेटा में लीड टाइम कोडिंग टाइम से ज़्यादा सुधरा, जो यह दिखाता है कि असली बॉटलनेक टाइपिंग नहीं, बल्कि उसके आसपास का काम था।
क्या Nightschool AI, Anthropic, Z.ai, या Revolut से संबद्ध है?
नहीं। Nightschool AI एक स्वतंत्र लर्निंग प्लेटफ़ॉर्म है और Anthropic, Z.ai, Revolut, OpenAI, या Google से संबद्ध, समर्थित, या प्रायोजित नहीं है। Claude, Codex, Gemini, और GLM उनकी संबंधित कंपनियों के प्रोडक्ट हैं, जिन्हें यहाँ सिर्फ़ यह बताने के लिए नाम दिया गया है कि वे क्या हैं और इस केस में उनका उपयोग कैसे हुआ।
पहले आदत बनाएँ, फिर इंफ्रास्ट्रक्चर पर फ़ैसला करें
मॉडल और होस्टिंग का चुनाव इतना मायने नहीं रखता जितना यह कि आपकी टीम अब भी टोकन राशन कर रही है या नहीं।