एआई रिसर्च अपडेट

Inkling 2 Mini आया: 26B AI अब लैपटॉप पर चलेगा!

Suvadip Ghara
By Suvadip Ghara On November 21, 2026
2 min read • 1.2k views

अरे भाई सुनो, मार्केट में एकदम गदर मच गया है। Thinking Machines Lab ने 20 नवंबर 2026 को एक ऐसा AI मॉडल लॉन्च कर दिया है जो बड़े-बड़े दिग्गजों की रातों की नींद हराम कर देगा। नाम है Inkling 2 Mini — 26 अरब पैरामीटर वाला दिमाग, लेकिन चलता है आपके अपने लैपटॉप पर। जी हाँ, अब सुपरपावर AI के लिए महंगा सर्वर या क्लाउड सब्सक्रिप्शन नहीं चाहिए। सीधी बात नो बकवास — यह मॉडल अपने दिमाग को लूप में घुमाकर छोटा होकर भी बड़ा काम करता है।

सबसे तगड़ा जुगाड़ यह है कि Inkling 2 Mini अपने बीच की 12 लेयरों को तीन-तीन बार दोहराता है, जिससे यह 24 लेयरों के बावजूद 48 लेयरों जितना गहरा सोचता है। और सबसे बड़ी बात — इसके वेट्स ओपन हैं, यानी कोई भी इसे Hugging Face से मुफ्त में डाउनलोड करके अपने कंप्यूटर पर चला सकता है। अगर आप अब भी पुराने घिसे-पिटे क्लाउड AI पर निर्भर हैं, तो संभल जाइए, क्योंकि लोकल AI का भौकाल अब सच में शुरू हो चुका है।

Inkling 2 Mini क्या है?

Inkling 2 Mini, Thinking Machines Lab का नया लूप्ड ट्रांसफॉर्मर मॉडल है, जो 20 नवंबर 2026 को Hugging Face पर ओपन वेट्स के साथ रिलीज हुआ। यह एक मल्टीमॉडल Mixture-of-Experts (MoE) मॉडल है — यानी यह टेक्स्ट और इमेज दोनों को इनपुट के तौर पर समझता है और टेक्स्ट में जवाब देता है। Hugging Face की आधिकारिक ब्लॉग पोस्ट के मुताबिक, इसमें करीब 26 अरब फिजिकल पैरामीटर हैं, लेकिन हर टोकन पर सिर्फ करीब 3 अरब पैरामीटर एक्टिव होते हैं। मॉडल कार्ड के मुताबिक कुल पैरामीटर 26.2 अरब और एक्टिव पैरामीटर 3.4 अरब हैं।

इसकी सबसे बड़ी खासियत है 1 मिलियन टोकन का कॉन्टेक्स्ट — यानी आप इसमें पूरी किताब, लंबा कोडबेस या ढेर सारे डॉक्यूमेंट एक साथ डालकर सवाल पूछ सकते हैं। मॉडल NVFP4 और MXFP8 मिक्स्ड-प्रिसिजन फॉर्मेट में शिप होता है, और तेज़ी के लिए DSpark ड्राफ्टर भी साथ मिलता है।

लूप वाला दिमाग कैसे काम करता है?

आम ट्रांसफॉर्मर मॉडल में हर लेयर एक बार चलती है। Inkling 2 Mini में कुल 24 डिकोडर लेयर हैं, लेकिन बीच की 12 लेयर (लेयर 6 से 17) एक ही वेट्स के साथ तीन बार चलती हैं। पहली 6 लेयर एक बार, बीच की 12 लेयर तीन बार, और आखिरी 6 लेयर एक बार — इस तरह हर टोकन पर कुल 48 लेयर विज़िट होती हैं, जबकि स्टोर सिर्फ 24 लेयरों के वेट्स होते हैं।

हर पास पिछले पास के काम को रिफाइन करता है। लूप्ड लेयरें क्रॉस-पास मैसेज के ज़रिए पिछले पास की जानकारी पढ़ती हैं, और एक छोटा गेटिंग कंट्रोलर तय करता है कि मौजूदा इनपुट को कितना भूलना है और मैसेज को कितना जोड़ना है। आसान भाषा में — मॉडल एक ही सवाल पर तीन बार सोचता है, और हर बार थोड़ा और गहरा जाता है। यही वजह है कि यह बिना ज़्यादा शब्द लिखे, अंदर ही अंदर लंबी रीजनिंग कर लेता है।

तकनीकी तौर पर हर लेयर विज़िट पर टोकन को 128 एक्सपर्ट्स में से 8 एक्सपर्ट्स के पास भेजा जाता है। इसका हिडन साइज़ 2,304 है, जबकि बड़े भाई Inkling 2 Small का हिडन साइज़ 4,608 है — यानी Mini सच में छोटा और हल्का वर्ज़न है, जिसे लोकल सेटअप के लिए बनाया गया है।

बेंचमार्क में कैसा प्रदर्शन?

Hugging Face की ब्लॉग पोस्ट के मुताबिक, Inkling 2 Mini अपनी कैटेगरी में Artificial Analysis Intelligence Index v5 (AAv5) में स्टेट-ऑफ-द-आर्ट है। Gemma 4 31B, Muse Glimmer, Qwen3.8-27B और Nemotron 3.5 Super VL से तुलना में यह 48 में से 32 बेंचमार्क में आगे रहा। ये सभी आंकड़े Thinking Machines Lab और Hugging Face की अपनी रिपोर्टिंग हैं, स्वतंत्र वेरिफिकेशन अभी बाकी है — यह बात साफ तौर पर समझ लें।

कोडिंग में इसके नतीजे खास तौर पर दमदार हैं। यह FrontierCode v2.0 में सबसे आगे है, Terminal-Bench 4.0 पर Qwen3.8-27B के बराबर है, और AutomationBench-AA v1.0.6 पर Qwen से पीछे है। The Decoder की रिपोर्ट के मुताबिक, 100 अरब पैरामीटर से छोटे ओपन मॉडलों में यह एजेंटिक कोडिंग में सबसे आगे है — DeepSWE v1.1 पर 48.2 प्रतिशत और Vals Index v2.2 पर 46.5 प्रतिशत स्कोर के साथ।

Hugging Face की टीम के वाइब टेस्ट में भी इसने गजब का भौकाल दिखाया। इसने एक ही प्रॉम्प्ट से WebGL फ्रैगमेंट शेडर वाली सनसेट फ्लाईथ्रू सीन बनाई, वैन गॉ की मशहूर पेंटिंग The Starry Night को 24 राउंड की स्क्रीनशॉट जांच के बाद जीवंत एनिमेशन में बदल दिया, और एक हाथ से बने नैपकिन स्केच से Trip Split नाम का पूरा खर्च-बांटने वाला ऐप बना डाला — जो 13 में से 13 जांच में पास हुआ। 4-बिट क्वांटाइज़्ड वर्ज़न ने तो एक छोटे से प्रॉम्प्ट से पौधों को लाइसेंस्ड थैरेपिस्ट से मिलाने वाली वेबसाइट तक बना दी।

Inkling 2 Mini बनाम दूसरे लोकल AI मॉडल

मॉडल कुल पैरामीटर एक्टिव पैरामीटर कॉन्टेक्स्ट खासियत
Inkling 2 Mini लगभग 26 अरब लगभग 3.4 अरब 1M टोकन लूप्ड ट्रांसफॉर्मर, 48 लेयर विज़िट, ओपन वेट्स
Qwen3.8-27B 27 अरब जानकारी उपलब्ध नहीं जानकारी उपलब्ध नहीं Terminal-Bench पर Inkling के बराबर
Gemma 4 31B 31 अरब जानकारी उपलब्ध नहीं जानकारी उपलब्ध नहीं 48 में से 32 बेंचमार्क में Inkling से पीछे
Nemotron 3.5 Super VL जानकारी उपलब्ध नहीं जानकारी उपलब्ध नहीं जानकारी उपलब्ध नहीं NVIDIA का विजन-लैंग्वेज मॉडल

तालिका से साफ है — पैरामीटर के मामले में Inkling 2 Mini सबसे बड़ा नहीं है, फिर भी लूप वाली आर्किटेक्चर की वजह से यह बेंचमार्क में बड़े मॉडलों को टक्कर देता है। यही इस रिसर्च की सबसे बड़ी सीख है — सिर्फ साइज़ बढ़ाना ही रास्ता नहीं है, स्मार्ट आर्किटेक्चर भी उतनी ही ताकतवर हो सकती है।

अपने लैपटॉप पर Inkling 2 Mini कैसे चलाएं?

अच्छी खबर यह है कि यह मॉडल लोकल चलाने के लिए ही बनाया गया है। The Decoder के मुताबिक यह कम से कम 32 GB मेमोरी वाले Mac पर चलता है, और NVIDIA के DGX Spark पर भी। Unite.AI के मुताबिक इसका मेमोरी फुटप्रिंट करीब 20 GB है। GGUF फॉर्मेट में 4-बिट (IQ4_NL) और 8-बिट (Q8_0) क्वांटाइज़्ड वर्ज़न भी उपलब्ध हैं।

  1. Hugging Face से thinkingmachines/Inkling-2-Mini मॉडल डाउनलोड करें।
  2. Transformers लाइब्रेरी में AutoModelForMultimodalLM क्लास से मॉडल लोड करें।
  3. कमांड लाइन से चलाना हो तो llama.cpp का कमांड इस्तेमाल करें: llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL
  4. Mac यूज़र MLX सपोर्ट के ज़रिए भी इसे चला सकते हैं, और SGLang में डे-ज़ीरो सपोर्ट मौजूद है।
  5. रीजनिंग एफर्ट को reasoning_effort पैरामीटर से none, low, medium, high या max पर सेट करें — डिफॉल्ट high (0.9) है।

ध्यान रखें, SGLang पर सर्वर चलाने के लिए SM103 आर्किटेक्चर वाला हार्डवेयर चाहिए, जैसे NVIDIA B300 GPU। आम लैपटॉप यूज़र के लिए llama.cpp या MLX वाला रास्ता सबसे आसान है।

रिसर्च वर्ज़न: लूप की संख्या खुद तय करें

फ्लैगशिप मॉडल के साथ Thinking Machines Lab ने एक रिसर्च आर्टिफैक्ट भी जारी किया है — TML-d24-varloop-research। इसमें लूप की संख्या 1 से 5 के बीच खुद तय की जा सकती है। 1 या 2 पास पर इनफेरेंस काफी तेज़ चलती है, लेकिन क्वालिटी थोड़ी कम हो सकती है। हर अतिरिक्त पास से प्रति टोकन करीब 1 अरब इफेक्टिव एक्टिव पैरामीटर जुड़ते हैं — 1 पास पर 3.4 अरब से 5 पास पर 7.4 अरब तक।

लेकिन यहाँ एक बड़ी चेतावनी है। इस वेरिएंट को 1 से 5 पास के साथ ट्रेन किया गया था, लेकिन पोस्ट-ट्रेनिंग सिर्फ 3 पास पर हुई है। मॉडल कार्ड साफ कहता है कि 3 के अलावा किसी और पास संख्या पर यह अनप्रेडिक्टेबल व्यवहार कर सकता है, इसलिए यह प्रोडक्शन के लिए बिल्कुल नहीं है। Hugging Face ने भी साफ लिखा है कि उन्होंने इसे टेस्ट किया है, यह काम करता है, लेकिन गहराई से इवैल्यूएट नहीं किया है। रिसर्चर के लिए यह सोने की खान है, आम यूज़र के लिए फिक्स्ड-लूप वाला Inkling 2 Mini ही सही चुनाव है।

आम जनता और भारतीय युवाओं के लिए क्यों है खास?

भारतीय युवाओं के लिए यह खबर सीधे जेब और करियर से जुड़ी है। अब तक ताकतवर AI चलाने के लिए महंगे क्लाउड सब्सक्रिप्शन या API बिल चाहिए होते थे। Inkling 2 Mini जैसा ओपन-वेट मॉडल आपके अपने लैपटॉप पर चलता है — यानी कोई मंथली फीस नहीं, कोई डेटा बाहर नहीं जाता, और प्राइवेसी पूरी तरह आपके हाथ में।

कोडिंग सीख रहे स्टूडेंट्स के लिए यह एक मुफ्त का पर्सनल कोडिंग असिस्टेंट है, जो एजेंटिक कोडिंग बेंचमार्क में बड़े मॉडलों को टक्कर देता है। फ्रीलांसर इससे क्लाइंट का काम तेज़ी से कर सकते हैं, बिना हर टोकन के पैसे गिनें। रिसर्चर और AI एंथूज़ियास्ट के लिए वेरिएबल-लूप वर्ज़न एक खुली लैब है, जहाँ वे खुद देख सकते हैं कि ज़्यादा कंप्यूटेशन से मॉडल की सोच कैसे बदलती है। और सबसे बड़ी बात — 1 मिलियन टोकन कॉन्टेक्स्ट का मतलब है कि आप अपने पूरे प्रोजेक्ट, लंबी PDF या रिसर्च पेपर एक साथ डालकर सवाल पूछ सकते हैं। सरकारी नौकरी जैसी सिक्योरिटी तो नहीं, लेकिन अपने डेटा पर पूरा कंट्रोल और ज़ीरो सब्सक्रिप्शन — यह भी किसी वरदान से कम नहीं।

क्या ध्यान रखें — कमियाँ और चेतावनियाँ

हर चमकती चीज़ सोना नहीं होती, इसलिए कुछ बातें साफ रखना ज़रूरी है। पहला, सभी बेंचमार्क आंकड़े Thinking Machines Lab और Hugging Face की अपनी रिपोर्टिंग हैं, स्वतंत्र जांच अभी नहीं हुई है। दूसरा, लूपिंग की वजह से मॉडल बिना लिखे ही लंबी रीजनिंग कर लेता है, जिससे उसकी सोच पर नज़र रखना मुश्किल हो जाता है — मॉडल कार्ड खुद कहता है कि इसके चेन-ऑफ-थॉट पर कंट्रोल बहुत कम है। तीसरा, वेरिएबल-लूप वर्ज़न रिसर्च के लिए है, प्रोडक्शन में इस्तेमाल करना जोखिम भरा हो सकता है। चौथा, यह Inkling-Small (276 अरब पैरामीटर वाला बेस मॉडल) से अलग है — दोनों को एक ही न समझें।

निष्कर्ष

Inkling 2 Mini सिर्फ एक और AI मॉडल नहीं है, यह एक सोच का बदलाव है। 26 अरब पैरामीटर को लूप में घुमाकर 48 लेयरों जितनी गहराई देना, 1 मिलियन टोकन कॉन्टेक्स्ट देना, और फिर सब कुछ ओपन वेट्स के साथ अपने लैपटॉप पर चलने देना — यह लोकल AI के भविष्य की झलक है। बेंचमार्क में इसने बड़े नामों को पीछे छोड़ा है, कोडिंग में यह छोटे मॉडलों का बादशाह है, और प्राइवेसी के मामले में यह क्लाउड AI से मीलों आगे है। हाँ, स्वतंत्र वेरिफिकेशन अभी बाकी है और रिसर्च वर्ज़न को सावधानी से इस्तेमाल करना होगा, लेकिन एक बात पक्की है — AI अब आपके लैपटॉप की जेब में आ चुका है, और इसका भौकाल अभी और बढ़ेगा।

पिछला लेख पढ़ें: Payhawk को $280M फंडिंग, AI एजेंट अब संभालेंगे फाइनेंस!

आधिकारिक जानकारी यहाँ पढ़ें: Hugging Face — Welcome Inkling 2 Mini

Suvadip Ghara

Suvadip Ghara

Bringing you the latest news and in-depth analysis from around the world.

Leave a Comment