ओपन-वेट मॉडल सन्निहित एआई और हाई-बैंडविड्थ सिलिकॉन सर्ज के रूप में फ्रंटियर समानता हासिल करते हैं

ओपन-वेट मॉडल सन्निहित एआई और हाई-बैंडविड्थ सिलिकॉन सर्ज के रूप में फ्रंटियर समानता हासिल करते हैं
तीन अभिसरण शक्तियाँ 22 जुलाई, 2026 के सप्ताह को परिभाषित करती हैं। किमी K3 (मूनशॉट AI, 2.8T MoE पैरामीटर) और GLM-5.2 (Z.ai, मूल 1M-टोकन संदर्भ, Huawei Ascend-प्रशिक्षित) उस क्षण को चिह्नित करते हैं जब ओपन-वेट मॉडल निश्चित रूप से GPQA डायमंड (स्नातक स्तर के तर्क) पर बंद फ्रंटियर मॉडल से मेल खाते हैं - MMLU नहीं, जो 2025 के मध्य से संतृप्त है। एंटरप्राइज़ अपनाने वालों के लिए, इसका मतलब है: बंद एपीआई और ओपन-वेट के बीच का विकल्प अब क्षमता का समझौता नहीं है; यह एक लागत/संप्रभुता समझौता है। भौतिक एआई दूसरी सीमा को पार करता है: इम्पैक्ट सिस्टम (यूएससी विटर्बी) रोबोट को वास्तविक समय संपर्क भेदभाव (इरादा स्पर्श बनाम आकस्मिक टकराव) देता है - अस्पताल/घर पर तैनाती के लिए गायब सुरक्षा परत - जबकि एनवीआईडीआईए इसाक जीआर00टी वास्तविक दुनिया में तैनाती विफलता को कम करने के लिए शून्य-शॉट भौतिकी सिमुलेशन जोड़ता है। और सेमीकंडक्टर क्षेत्र हाई बैंडविड्थ फ्लैश (एचबीएफ) - कंप्यूट टाइल्स के बगल में रखे गए 3डी नंद - और Google के विर्गो नेटवर्क (एकल ऑप्टिकल फैब्रिक में 100,000+ टीपीयू) के साथ "मेमोरी वॉल" का सामना करता है, जो संकेत देता है कि हार्डवेयर आर्किटेक्चर, मॉडल आर्किटेक्चर नहीं, अब प्राथमिक प्रतिस्पर्धी सीमा है।
🌐 ओपन-वेट फ्रंटियर पैरिटी - किमी K3 और GLM-5.2
बेंचमार्क इवोल्यूशन - एमएमएलयू अब मायने क्यों नहीं रखता
एमएमएलयू संतृप्ति इतिहास:
| दिनांक | उच्चतम एमएमएलयू स्कोर (सार्वजनिक) | शीर्ष स्कोरर | स्थिति |
|---|---|---|---|
| नवंबर 2022 | 86.4% | जीपीटी-4 (पूर्वावलोकन) | प्रभावशाली |
| मार्च 2023 | 89.7% | जीपीटी-4 (अंतिम) | छत के पास |
| जून 2024 | 91.8% | क्लाउड 3.5 सॉनेट | संतृप्त |
| 2025–2026 | ~93–95% | एकाधिक मॉडल | विभेदीकरण के लिए बेकार |
एमएमएलयू - स्नातक स्तर पर 57 शैक्षणिक विषय - अब बहुत आसान है। उद्योग GPQA डायमंड (Google-प्रूफ प्रश्न उत्तर, डायमंड उपसमुच्चय) पर केंद्रित है:
- प्रश्नों के लिए जीव विज्ञान, रसायन विज्ञान, या भौतिकी में स्नातक स्तर की विशेषज्ञता की आवश्यकता होती है
- विशेष रूप से Google/विकिपीडिया खोज द्वारा हल न हो पाने के लिए डिज़ाइन किया गया
- विशेषज्ञ मानव सटीकता: ~69% (संबंधित क्षेत्र में पीएचडी वाले मनुष्य)
- GPT-4o (2024) स्कोर: 41%; जीपीटी-5 (2025): ~72%; किमी K3: 79.4%
किमी K3 और GLM-5.2 का GPQA डायमंड पर मानव-विशेषज्ञ सटीकता से ऊपर स्कोर करना मील का पत्थर है जो सच्ची सीमा समानता को चिह्नित करता है।
किमी K3 और GLM-5.2 — तकनीकी विशिष्टताएँ
मॉडल तुलना:
| विशिष्टता | किमी K3 | जीएलएम-5.2 | जीपीटी-5.5 (बंद) |
|---|---|---|---|
| कुल पैरामीटर | 2.8 ट्रिलियन | 744बी | ~1टी (अनुमानित) |
| वास्तुकला | विरल मो | सघन + MoE संकर | घना |
| सक्रिय पैरामीटर/पास | ~60बी | ~200बी | ~1टी |
| प्रसंग विंडो | 256K टोकन | 1,000,000 टोकन | 128K |
| प्रशिक्षण हार्डवेयर | एनवीडिया एच100/एच200 क्लस्टर | हुआवेई एसेंड 910सी | एनवीडिया एच100/एच200 |
| लाइसेंस | एमआईटी ओपन वेट | एमआईटी ओपन वेट | बंद एपीआई |
| जीपीक्यूए डायमंड | 79.4% | 76.8% | ~78% |
| एजेंटिक तर्क | मजबूत (देशी विचार श्रृंखला) | सबसे मजबूत (मूल 1एम संदर्भ = पूर्ण रेपो एजेंटिक) | मजबूत |
| अनुमान लागत (स्वयं-होस्टेड) | ~$0.15/एम टोकन | ~$0.25/एम टोकन | $12/एम टोकन (एपीआई) |
GLM-5.2 का Huawei Ascend प्रशिक्षण महत्व: GLM-5.2 को पूरी तरह से Huawei Ascend 910C चिप्स पर प्रशिक्षित किया गया था - यह दर्शाता है कि चीन का घरेलू AI हार्डवेयर Nvidia के बिना फ्रंटियर-क्लास मॉडल को प्रशिक्षित कर सकता है। यह सीधे तौर पर उस रणनीतिक थीसिस को अमान्य करता है कि एनवीडिया ए100/एच100 पर अमेरिकी निर्यात नियंत्रण चीन को सीमांत एआई विकसित करने से रोक देगा। एसेंड 910सी:
| विशिष्ट | हुआवेई एसेंड 910सी | एनवीडिया एच100 |
|---|---|---|
| एफपी16 प्रदर्शन | ~310 टीएफएलओपीएस | ~312 टीएफएलओपीएस |
| एचबीएम क्षमता | 96 जीबी | 80 जीबी |
| सॉफ्टवेयर इकोसिस्टम | CANN (मालिकाना) | CUDA (प्रमुख) |
| पश्चिमी बाज़ार में उपलब्धता | उपलब्ध नहीं है (हुआवेई अमेरिकी प्रतिबंध) | वैश्विक |
प्रदर्शन समतुल्य है; सॉफ़्टवेयर पारिस्थितिकी तंत्र (CANN बनाम CUDA) में अंतर बना हुआ है।
उद्यम के लिए लागत/संप्रभुता गणना:
| कारक | बंद एपीआई (जीपीटी-5.5) | ओपन-वेट (किमी K3 स्व-होस्टेड) |
|---|---|---|
| टोकन लागत 100 मिलियन टोकन/दिन | $1.2 मिलियन/दिन | ~$0.018/दिन (इन्फ्रा लागत) |
| डेटा संप्रभुता | ❌ एंटरप्राइज़ नेटवर्क छोड़ देता है | ✅ कभी भी नेटवर्क नहीं छोड़ता |
| फाइन-ट्यूनिंग | ❌ सीमित/महंगा | ✅ पूर्ण फाइन-ट्यूनिंग पहुंच |
| डाउनटाइम जोखिम | OpenAI आउटेज = आपका आउटेज | ✅ स्व-होस्टेड = आपका SLA |
| क्षमता (जीपीक्यूए डायमंड) | ~78% | 79.4% (किमी K3 उच्चतर) |
गोपनीयता-संवेदनशील या उच्च-मात्रा वाले उद्यम परिनियोजन के लिए आर्थिक गणना अब स्पष्ट है।
Enjoyed this post?
Get our weekly digest delivered free.
🤖 सन्निहित एआई - प्रभाव सुरक्षा प्रणाली और GR00T भौतिकी सिमुलेशन
भौतिक एआई परिनियोजन के लिए शेष अवरोधक
2026 से पहले भौतिक AI को व्यापक रूप से क्यों तैनात नहीं किया जा सका:
| अवरोधक | समस्या | समाधान (2026) |
|---|---|---|
| संपर्क सुरक्षा | रोबोट "मानव गलती से मुझसे टकरा गया" और "इच्छित स्पर्श" में अंतर नहीं कर सकता → आपातकालीन रोक/चोट | यूएससी प्रभाव प्रणाली |
| उपन्यास वस्तु हेरफेर | विशिष्ट वस्तुओं के लिए प्रशिक्षित रोबोट; किसी भी प्रकार के साथ विफल रहता है | GR00T जीरो-शॉट भौतिकी सिमुलेशन |
| सिम-टू-रियल गैप | सिमुलेशन भौतिकी वास्तविक दुनिया से मेल नहीं खाती → 40-60% परिनियोजन विफलता दर | विश्व मॉडलों को वास्तविक अवलोकनों पर प्रशिक्षित किया गया |
| अनुमान विलंबता | क्लाउड एलएलएम राउंड-ट्रिप: 500ms+ → वास्तविक समय रोबोट नियंत्रण के लिए बहुत धीमी | एज एनपीयू (हेलो एच15: 4डब्ल्यू पर 40 टॉप्स) |
यूएससी प्रभाव - संपर्क भेदभाव
इम्पैक्ट (इंटेलिजेंट मल्टी-प्वाइंट एडेप्टिव कॉन्टैक्ट ट्रैकिंग) प्रणाली: यूएससी विटर्बी स्कूल ऑफ इंजीनियरिंग में विकसित, इम्पैक्ट रोबोटों को सक्षम बनाता है:
| संपर्क प्रकार | प्रभाव वर्गीकरण | रोबोट प्रतिक्रिया |
|---|---|---|
| आकस्मिक मानव टक्कर (कम वेग, क्षणिक) | अनपेक्षित संपर्क | कार्य जारी रखें; लघु पथ समायोजन |
| मानव जानबूझकर रोबोट की बांह को मार्गदर्शन के लिए छू रहा है | जानबूझकर बातचीत | विराम; अनुदेश की प्रतीक्षा करें |
| उच्च-वेग अप्रत्याशित प्रभाव (टक्कर) | आपातकालीन संपर्क | तत्काल रोक; सुरक्षा प्रोटोकॉल |
| पुनर्निर्देशित करने के लिए मानव पकड़ने वाली रोबोट भुजा | शारीरिक शिक्षा | अनुपालन करना; अद्यतन प्रक्षेप पथ |
**तकनीकी तंत्र:**इम्पैक्ट स्पर्शीय सेंसर सरणियों (दबाव + कंपन आवृत्ति) की एक वितरित त्वचा का उपयोग करता है जो एक माध्यमिक क्लासिफायरियर (रोबोट के एज प्ROCEसर पर चल रहा है, क्लाउड पर नहीं) के साथ संयुक्त है जो निम्न के आधार पर संपर्क को वर्गीकृत करता है:
- अवधि: <50 एमएस = संभावित आकस्मिक; >200 एमएस = जानबूझकर
- दबाव पैटर्न: बिंदु संपर्क = स्पर्श; वितरित संपर्क = दुबला/धक्का
- वेग फ़िंगरप्रिंट: उच्च-वेग प्रसार = आकस्मिक; निम्न-वेग नियंत्रित = जानबूझकर
- रोबोट की गति स्थिति के साथ सहसंबंध: यदि रोबोट अभी-अभी मानव से आगे बढ़ा है = आकस्मिक
तैनाती प्रभाव: यह सुरक्षा परत रोबोटों को असंरचित वातावरण (अस्पतालों, घरों, गोदामों जहां इंसानों का आना-जाना होता है) में सक्षम बनाती है जहां कठोर सुरक्षा पिंजरे संभव नहीं हैं। यह वाणिज्यिक ह्यूमनॉइड लीजिंग बाजार के लिए प्रमुख सक्षम प्रौद्योगिकी है।
NVIDIA Isaac GR00T - जीरो-शॉट भौतिकी सिमुलेशन
सिम-टू-रियल समस्या और GR00T का समाधान:
| समस्या | GR00T से पहले | GR00T के साथ |
|---|---|---|
| केबल हेरफेर (यूएसबी-सी प्रविष्टि) | सटीक लक्ष्य परिवेश में 1,000+ प्रदर्शनों की आवश्यकता | शून्य-शॉट भौतिकी सिमुलेशन + ऑब्जेक्ट सीएडी मॉडल से |
| तरल पदार्थ डालना (कप से कप) | सटीक अनुकरण करना अत्यंत कठिन | GR00T की द्रव भौतिकी: ~85% वास्तविक-विश्व स्थानांतरण सफलता |
| उपकरण का उपयोग (स्क्रूड्राइवर) | हार्डकोडेड प्रक्षेपवक्र की आवश्यकता | GR00T + प्राकृतिक भाषा: "स्क्रू को दक्षिणावर्त घुमाएँ" |
| उपन्यास वस्तु पकड़ | अज्ञात आकृतियों पर विफल | शून्य प्रशिक्षण के साथ पहले प्रयास में 85% सफलता |
GR00T प्रशिक्षण वातावरण कैसे उत्पन्न करता है:
- रोबोट के कैमरे (LiDAR + RGBD) से लक्ष्य वास्तविक दुनिया के वातावरण को स्कैन करें
- उस सटीक वातावरण का एक फोटोरिअलिस्टिक भौतिकी सिमुलेशन बनाएं
- आभासी वातावरण में लाखों सिम्युलेटेड परीक्षण चलाएं (वास्तविक दुनिया की तुलना में 1,000× तेज)
- सीखी गई नीति को भौतिक रोबोट में स्थानांतरित करें - मिलान-पर्यावरण का अर्थ है न्यूनतम स्थानांतरण अंतर
⚡ हाई बैंडविड्थ फ्लैश और गूगल कन्या - हार्डवेयर आर्किटेक्चर फ्रंटियर
मेमोरी वॉल - अकेले एचबीएम अपर्याप्त क्यों है
एचबीएम से एचबीएफ तक स्केलिंग:
| प्रौद्योगिकी | बैंडविड्थ | क्षमता | लागत (प्रति जीबी) | सर्वोत्तम उपयोग |
|---|---|---|---|---|
| HBM3e (वर्तमान AI GPU) | 3,350 जीबी/सेकंड | 192 जीबी (एमआई455एक्स: 432 जीबी) | ~$15/जीबी | प्रशिक्षण; हॉट केवी-कैश |
| एचबीएफ (हाई बैंडविड्थ फ्लैश) | ~800 जीबी/सेकंड | 4–16 टीबी | ~$0.8/जीबी | शीत मॉडल वजन; विस्तारित संदर्भ |
| मानक एनवीएमई एसएसडी | ~14 जीबी/सेकंड | 8-30 टीबी | ~$0.12/जीबी | भंडारण; अनुमान लगाने के लिए बहुत धीमा |
एचबीएफ मूल्य प्रस्ताव: 60B सक्रिय मापदंडों के साथ 2T-पैरामीटर MoE मॉडल (2.8T पर किमी K3 की तरह) की आवश्यकता है:
- ~3-5 जीबी एक्टिव वेट फास्ट एक्सेस (एचबीएम) प्रति फॉरवर्ड पास
- ~400-500 जीबी कुल कोल्ड मॉडल वजन कहीं पहुंच योग्य
एचबीएम आर्थिक रूप से 500 जीबी ($15/जीबी = $7,500 प्रति 500 जीबी) नहीं रख सकता। $0.8/जीबी पर एचबीएफ $400 के लिए 500 जीबी रखता है - 800 जीबी/एस बैंडविड्थ पर, निष्क्रिय विशेषज्ञ वजन को जरूरत पड़ने से पहले प्रीफ़ेच करने के लिए पर्याप्त तेज़।
Google कन्या नेटवर्क:
| विशिष्ट | विवरण |
|---|---|
| स्केल | 100,000+ टीपीयू वी6 चिप्स एक एकल तार्किक संरचना में एकीकृत |
| इंटरकनेक्ट | ऑप्टिकल स्विचिंग (कोई विद्युत सिग्नल रूपांतरण नहीं - स्विच के माध्यम से प्रकाश प्रकाश रहता है) |
| विलंबता | उप-माइक्ROCEकंड स्विच विलंबता (इलेक्ट्रिकल इनफिनीबैंड के लिए बनाम ~1-5 माइक्ROCEकंड) |
| बैंडविड्थ | 1.6 पीबी/एस द्विभाजन बैंडविड्थ (एक्साबिट-स्केल) |
| उपयोग का मामला | पूर्व-प्रशिक्षण चलता है जहां 100K चिप्स में वजन सिंक्रनाइज़ेशन बाधा है |
| निहितार्थ | एक एकल 100K-चिप प्रशिक्षण रन एक एकल विशाल त्वरक की तरह व्यवहार करता है |
अनुमान के लिए चिपलेट-एसआरएएम आर्किटेक्चर: स्टार्टअप (विशेष रूप से Etched, Groq, और सेरेब्रा) निम्नलिखित के साथ अनुमान चिप्स का निर्माण कर रहे हैं:
- विशाल ऑन-चिप SRAM कैश (सेरेब्रस WSE-3 के लिए प्रति चिप 900 एमबी तक)
- यह पूरे छोटे/मध्यम मॉडल (7बी-13बी) को ऑन-चिप पर रखता है - शून्य मेमोरी बैंडविड्थ बाधा
- अनुमान गति: 7बी मॉडल के लिए 1,000+ टोकन/सेकंड (जीपीयू-आधारित अनुमान के लिए 30-70 टोकन/सेकेंड)
- ट्रेडऑफ़: प्रति चिप उच्च लागत, सीमित मॉडल आकार ऊपरी सीमा
📌 अंतिम पंक्ति
- ओपन-वेट-फ्रंटियर-पैरिटी-किमी-के3-जीएलएम-52: एमएमएलयू संतृप्त (93-95% एकाधिक मॉडल = बेकार विभेदक); जीपीक्यूए डायमंड (स्नातक-विशेषज्ञ मानव: 69%) अब बेंचमार्क: किमी के3 79.4% > जीएलएम-5.2 76.8% > जीपीटी-5.5 ~78% (ओपन-वेट बीटिंग बंद); किमी K3: 2.8T MoE, ~60B सक्रिय, MIT लाइसेंस, $0.15/M टोकन स्वयं-होस्टेड बनाम $12/M API; GLM-5.2: 1M संदर्भ, Huawei Ascend 910C (~310 TFLOPS FP16 ≈ H100), निर्यात नियंत्रण को अपर्याप्त साबित करता है; एंटरप्राइज़ कैलकुलस: 100एम टोकन/दिन = $1.2एम/दिन (एपीआई) बनाम $0.018/दिन इन्फ्रा (स्वयं-होस्टेड) समतुल्य या बेहतर क्षमता पर।
- सन्निहित-एआई-भौतिक-रोबोट-प्रभाव-ग्रूट: यूएससी प्रभाव: स्पर्श सेंसर सरणी + एज क्लासिफायर = 4 संपर्क प्रकार (अनपेक्षित/जानबूझकर/आपातकालीन/भौतिक निर्देश) अवधि के अनुसार (50 एमएस बनाम 200 एमएस) + दबाव पैटर्न + वेग फिंगरप्रिंट + गति स्थिति सहसंबंध; सुरक्षा पिंजरों के बिना अस्पताल/घर/गोदाम तैनाती को सक्षम बनाता है; GR00T शून्य-शॉट: स्कैन वातावरण → फोटोरियलिस्टिक भौतिकी सिमुलेशन → लाखों आभासी परीक्षण → भौतिक रोबोट स्थानांतरण: USB-C प्रविष्टि शून्य-शॉट, तरल डालना 85%, नवीन वस्तु पकड़ 85% पहला प्रयास।
- हाई-बैंडविड्थ-फ्लैश-एचबीएफ-गूगल-कन्या: एचबीएफ: 800 जीबी/एस (बनाम एचबीएम3ई 3,350 जीबी/एस) + 4-16 टीबी (बनाम 432 जीबी अधिकतम एचबीएम) $0.8/जीबी (बनाम $15/जीबी) = 2टी एमओई कोल्ड वेट ($400) बनाम एचबीएम ($7,500); Google कन्या: एकल ऑप्टिकल फैब्रिक में 100,000+ TPU v6; 1.6 पीबी/एस द्विभाजन बैंडविड्थ; उप-माइक्ROCEकंड ऑप्टिकल स्विचिंग (बनाम 1-5μs विद्युत InfiniBand); चिपलेट-एसआरएएम अनुमान (सेरेब्रस डब्ल्यूएसई-3: 900एमबी ऑन-चिप एसआरएएम = 7बी मॉडल पूरी तरह से ऑन-चिप = 1,000+ टोक/एस बनाम 30-70 टोक/एस जीपीयू)।
📬 अपडेट रहें
हर सप्ताह अपने इनबॉक्स में सर्वोत्तम AI और प्रौद्योगिकी प्राप्त करें। हमारे मुफ़्त न्यूज़लेटर की सदस्यता लें →
प्रकटीकरण: इस पोस्ट में संबद्ध लिंक हैं। यदि आप हमारे लिंक के माध्यम से खरीदारी करते हैं, तो हम आपसे बिना किसी अतिरिक्त लागत के एक छोटा सा कमीशन कमाते हैं। हम केवल उन्हीं उत्पादों की अनुशंसा करते हैं जिन पर हमें विश्वास है।
Technical architecture teardowns, artificial intelligence evaluations, and software benchmarks published on Knowelth reflect independent developer testing and publicly available documentation. We maintain complete editorial independence from vendor sponsorships. Read our Editorial Policy.
Enjoyed this post?
Get our weekly digest delivered free.
Share this post:
पारदर्शिता प्रकटीकरण: Knowelth पाठक-समर्थित मंच है। जब आप हमारे लिंक्स के माध्यम से सेवाएं चुनते हैं, तो हमें बिना किसी अतिरिक्त लागत के कमीशन मिल सकता है। हमारा प्रकटीकरण पढ़ें।

