✦AI

कम स्ट्रीम करें, ज़्यादा देखें: डिवाइस पर चलने वाला सुपर-रिज़ॉल्यूशन रिमोट डेस्कटॉप की बैंडविड्थ आधी कैसे कर सकता है

गेमिंग ने कम रेंडर करके ज़्यादा देखना सीख लिया। हम वही तरकीब रिमोट डेस्कटॉप में ला रहे हैं — आपके डिवाइस पर एक छोटा मॉडल जो अपने से आधे आकार की स्ट्रीम से 4K तस्वीर दोबारा बनाता है।

बैंडविड्थ की वह समस्या जिसकी कोई बात नहीं करता

रिमोट डेस्कटॉप का एक छिपा हुआ राज़ है: यह बैंडविड्थ का भक्षक है।

आधुनिक कोडेक के साथ 60 fps पर डेस्कटॉप स्ट्रीम करने में 1080p पर लगभग 3 से 8 Mbps और 4K पर 8 से 15 Mbps लगते हैं। फ़ाइबर पर यह ठीक है। मज़बूत घरेलू Wi-Fi पर ठीक है। पर होटल के Wi-Fi पर जाइए, फ़ोन से टेदर कीजिए, या किसी व्यस्त शहर की कॉफ़ी शॉप से काम करने की कोशिश कीजिए — और सब कुछ बिखर जाता है।

मौजूदा समाधान निराश करने की हद तक सीधा है। जब बैंडविड्थ गिरे, तो क्वालिटी घटा दो। रिज़ॉल्यूशन कम करो। फ़्रेमरेट गिराओ। हालात सुधरने तक धुँधला टेक्स्ट और अटकता वीडियो स्वीकार करो। हर रिमोट डेस्कटॉप ऐप यही करता है। बीस साल से यही इकलौता विकल्प रहा है।

क्या कोई बेहतर तरीक़ा हो सकता है?

क्या हो अगर साफ़-सुथरी 1080p स्ट्रीम भेजने और हालात बिगड़ने पर उसे घटाने के बजाय, आप हर समय एक छोटी 1080p स्ट्रीम भेजें — और दूसरे सिरे पर उसे 4K जैसा दिखा दें?

यही है AI सुपर-रिज़ॉल्यूशन। और यह विज्ञान-कथा नहीं है। गेमिंग इसे सालों से कर रही है।

सुपर-रिज़ॉल्यूशन स्ट्रीमिंग पाइपलाइन

गेमिंग से रिमोट डेस्कटॉप तक का अनुवाद हैरानी की हद तक साफ़ है। गेमिंग में, आप कम रिज़ॉल्यूशन पर रेंडर करते हैं और अपस्केल करते हैं। स्ट्रीमिंग में, आप कम रिज़ॉल्यूशन पर एन्कोड करते हैं और अपस्केल करते हैं। चार चरण, बाएँ से दाएँ, शुरू से अंत तक।

सुपर-रिज़ॉल्यूशन पाइपलाइन — चार चरण
चरणआउटपुटमेट्रिक
01 · कैप्चरनेटिव रिज़ॉल्यूशन का फ़्रेम3840×2160 → 1920×1080 कम्प्रेशन से पहले
02 · एन्कोड1080p H.265 स्ट्रीमकोडेक: HEVC · CBR 3 Mbps
03 · ट्रांसमिटWAN पर ~3 Mbpsबैंडविड्थ: 3 Mbps · लेटेंसी ~20 ms
04 · अपस्केल और रेंडर4K Metal / Vulkan आउटपुटमॉडल: 280 KB · जुड़ने वाली लेटेंसी <3 ms

वही महसूस होने वाली तीक्ष्णता। लगभग चौथाई बैंडविड्थ। और क्योंकि होस्ट एक छोटी तस्वीर एन्कोड कर रहा है, वह भी कम मेहनत करता है — कम CPU उपयोग, कम गर्मी, लैपटॉप पर ज़्यादा बैटरी।

बैंडविड्थ का खाता — महसूस होने वाला 4K, तीन तरीक़ों से
तरीक़ाज़रूरी बैंडविड्थ
आज · नेटिव 4K स्ट्रीम~12 Mbps
आज · 1080p स्ट्रीम~5 Mbps
सुपर-रिज़ॉल्यूशन के साथ · अपस्केल किया 4K~3 Mbps

गेमिंग उद्योग यह पहले ही हल कर चुका है

2018 में, NVIDIA ने DLSS पेश किया — Deep Learning Super Sampling। विचार लगभग यक़ीन करने लायक़ नहीं था: गेम को कम रिज़ॉल्यूशन पर रेंडर करो, फिर न्यूरल नेटवर्क से उसे इस तरह अपस्केल करो कि वह नेटिव रिज़ॉल्यूशन जैसा दिखे। GPU पर कम काम, वही दृश्य क्वालिटी।

गेमर्स को शक था। AI से बनी तस्वीर नेटिव रेंडर किए पिक्सेल जितनी अच्छी कैसे दिख सकती है? पर नतीजे ख़ुद बोलते थे। 2026 तक, DLSS 4.5 ट्रांसफ़ॉर्मर मॉडल इस्तेमाल करता है जो ऐसी तस्वीरें बनाते हैं जिन्हें कई खिलाड़ी नेटिव रेंडरिंग से सचमुच ज़्यादा पसंद करते हैं — तीखे किनारे, बेहतर टेम्पोरल स्थिरता, कम आर्टिफ़ैक्ट।

AMD ने FSR के साथ पीछा किया। Apple ने MetalFX पेश किया। Intel ने XeSS भेजा। पूरा उद्योग एक ही अंतर्दृष्टि पर आ मिला:

सबसे समझदार पिक्सेल वह है जिसे आपको कभी रेंडर ही नहीं करना पड़ता।

गेमिंग उद्योग को "यह एक दिखावा है" से "यह अनिवार्य है" तक पहुँचने में लगभग पाँच साल लगे। रिमोट डेस्कटॉप ने अभी शुरू भी नहीं किया।

डिवाइस पर AI, डिज़ाइन से निजी

यहाँ से बात सचमुच दिलचस्प हो जाती है — और यहीं हम उससे अलग हैं जैसा आप AI से काम करने की उम्मीद करते होंगे।

सुपर-रिज़ॉल्यूशन मॉडल पूरी तरह आपके डिवाइस पर चलता है। क्लाउड में नहीं। किसी सर्वर पर नहीं। आपके हाथ के फ़ोन या लैपटॉप पर।

आधुनिक डिवाइस डिवाइस-पर-AI के लिए हास्यास्पद रूप से ताक़तवर हैं। M-सीरीज़ चिप्स पर Apple का Neural Engine प्रति सेकंड 15.8 ट्रिलियन ऑपरेशन सँभालता है। हाल की Snapdragon चिप्स पर Qualcomm का Hexagon NPU उसी श्रेणी में है। ये समर्पित AI प्रोसेसर ज़्यादातर समय निष्क्रिय पड़े रहते हैं। हम इन्हें काम पर लगा रहे हैं।

इन्फ़रेंस रेंडरिंग पाइपलाइन में, डिकोड और डिस्प्ले के बीच चलता। मॉडल 1080p फ़्रेम देखता है और 4K फ़्रेम निकालता है। लेटेंसी का बजट 3 मिलीसेकंड से कम है — जो प्रोटोटाइप इसे न निभा पाए वह जारी नहीं होता।

और क्योंकि सब कुछ लोकल चलता है:

यह Remio के निजता-पहले वाले दर्शन से मेल खाता है। हमें आपका डेटा नहीं चाहिए। हम तो आपकी स्क्रीन की सामग्री देखना भी नहीं चाहते। डिवाइस पर AI हमें अत्याधुनिक फ़ीचर देने देता है जबकि हमें सचमुच नहीं पता कि आप क्या कर रहे हैं।

यह सिर्फ़ नेटिव ऐप्स पर ही क्यों काम करता है

यह वह हिस्सा है जो सबको जोड़ देता है — और इसीलिए हमने नेटिव जाने पर पूरी एक पोस्ट लिखी।

रेंडरिंग पाइपलाइन में बिना दिखती लेटेंसी जोड़े न्यूरल नेटवर्क चलाने के लिए आपको चाहिए:

  1. Neural Engine या NPU तक पहुँच। इसके लिए नेटिव API चाहिए — Apple पर CoreML, Android पर NNAPI। Neural Engine के लिए कोई वेब API नहीं है। Electron ऐप वहाँ तक नहीं पहुँच सकते।
  2. GPU पाइपलाइन एकीकरण। अपस्केल किया फ़्रेम बिना अतिरिक्त कॉपी के सीधे डिस्प्ले तक जाना चाहिए। Metal और Vulkan यह करने देते हैं। WebGL आपको इस स्तर का नियंत्रण नहीं देता।
  3. 3 ms से कम की टाइमिंग। रीयल-टाइम स्ट्रीमिंग पाइपलाइन में हर अतिरिक्त मिलीसेकंड मायने रखता है। अकेला JavaScript का गार्बेज कलेक्टर अप्रत्याशित ठहराव ला सकता है। नेटिव कोड निश्चित टाइमिंग देता है।

एक Electron ऐप को वीडियो Chromium की मीडिया पाइपलाइन में डिकोड करना होगा, फ़्रेम को JavaScript में निकालना होगा, किसी तरह Neural Engine को बुलाना होगा (नेटिव बाइंडिंग के बिना असंभव), अपस्केल किया फ़्रेम वापस लेना होगा, और उसे Chromium के कंपोज़िटर से दिखाना होगा। हर क़दम लेटेंसी और जटिलता जोड़ता है। कुल ओवरहेड शायद 15 से 25 ms चलेगा — रीयल-टाइम इस्तेमाल के लिए बहुत धीमा।

स्ट्रीमिंग पाइपलाइन में सुपर-रिज़ॉल्यूशन सिर्फ़ AI की समस्या नहीं है। यह सिस्टम इंजीनियरिंग की समस्या है। और सिस्टम इंजीनियरिंग नेटिव कोड माँगती है।

यही वजह है कि Remio बनाने के दो साल बाद भी, किसी Electron-आधारित रिमोट डेस्कटॉप ने AI अपस्केलिंग नहीं भेजी। ऐसा नहीं कि वे नहीं चाहते। आर्किटेक्चर उन्हें करने नहीं देगा।

तकनीकी चुनौतियाँ, और हम उन्हें कैसे हल कर रहे हैं

हम यह दिखावा नहीं करेंगे कि यह आसान है। असली चुनौतियाँ हैं।

मॉडल की लेटेंसी। मॉडल को 60 fps पर प्रति फ़्रेम 3 ms से कम में चलना होगा। इसका मतलब फूले हुए आर्किटेक्चर के लिए ज़रा भी गुंजाइश नहीं। हम ऑप्टिमाइज़्ड कन्वोल्यूशनल मॉडल इस्तेमाल कर रहे हैं — ट्रांसफ़ॉर्मर नहीं, प्रति-फ़्रेम इन्फ़रेंस के लिए वे बहुत धीमे हैं — जिन्हें ख़ास तौर पर Neural Engine की एक्ज़ीक्यूशन यूनिटों के लिए ट्यून किया गया है।

सामग्री की विविधता। रिमोट डेस्कटॉप की सामग्री गेमिंग की सामग्री से बेहद अलग है। टेक्स्ट, स्प्रेडशीट, कोड एडिटर, वीडियो प्लेबैक, डिज़ाइन टूल — मॉडल को सब सँभालना होगा। हम ऐसे डेटासेट पर ट्रेन कर रहे हैं जिनमें ख़ास तौर पर डेस्कटॉप UI तत्व शामिल हैं, सिर्फ़ प्राकृतिक तस्वीरें नहीं।

टेम्पोरल स्थिरता। फ़्रेम-दर-फ़्रेम अपस्केलिंग झिलमिलाहट पैदा कर सकती है। गेमिंग ने इसे टेम्पोरल संचयन से हल किया — पिछले फ़्रेमों की जानकारी दोबारा इस्तेमाल करके। हम इसी तरह की तकनीकें खोज रहे हैं, वीडियो कोडेक से मोशन वेक्टर को अपस्केलिंग मॉडल में डालते हुए।

ऊर्जा दक्षता। फ़ोन पर सेकंड में 60 बार न्यूरल नेटवर्क चलाना महँगा लगता है। पर Neural Engine ठीक इसी के लिए बना है — मैट्रिक्स ऑपरेशन के लिए वह GPU से ज़्यादा ऊर्जा-कुशल है। शुरुआती लैब प्रोटोटाइप बैटरी की सिर्फ़ छोटी एक-अंकीय लागत की ओर इशारा करते हैं।

ईमानदार चुनौती: यह गेमिंग से कठिन क्यों है

हमने DLSS और गेमिंग सुपर-रिज़ॉल्यूशन को प्रेरणा के रूप में बताया है — और वे हैं भी। पर बौद्धिक ईमानदारी माँगती है कि हम समझाएँ कि रिमोट डेस्कटॉप अपस्केलिंग मूलतः कठिन समस्या क्यों है।

गेमिंग DLSS के पास अनुचित फ़ायदे हैं। गेम इंजन AI को समृद्ध डेटा देते हैं जो हमारी दुनिया में मौजूद नहीं है:

दूसरे शब्दों में, गेमिंग सुपर-रिज़ॉल्यूशन समृद्ध सहायक डेटा के साथ निर्देशित पुनर्निर्माण है। रिमोट डेस्कटॉप अपस्केलिंग हानिकारक, कम्प्रेस्ड वीडियो से अंधा सुपर-रिज़ॉल्यूशन है — एक कहीं कठिन शुरुआती बिंदु।

इसका मतलब यह नहीं कि तरीक़ा गलत है। कम बिटरेट पर दृश्य क्वालिटी में मामूली सुधार भी असली बैंडविड्थ बचत देते हैं। पर हम पारदर्शी रहना चाहते हैं: अंधी अपस्केलिंग की क्वालिटी-सीमा उससे कम है जो DLSS पूर्ण इंजन एकीकरण के साथ पाता है। हम सचमुच उपयोगी चीज़ बना रहे हैं, किसी दूसरी तकनीक की बराबरी का दावा नहीं कर रहे।

इसका आपके लिए क्या मतलब है

जब Remio में AI सुपर-रिज़ॉल्यूशन आएगा, तो आपको उसके बारे में सोचना नहीं पड़ेगा। कोई टॉगल नहीं, कोई सेटिंग नहीं, कोई "AI मोड" नहीं। ऐप अपने-आप:

तेज़ कनेक्शन पर, शायद उसे अपस्केल करने की ज़रूरत ही न पड़े। धीमे कनेक्शन पर, यह "इस्तेमाल लायक़ नहीं" और "ऐसा लगता है जैसे मैं अपने कंप्यूटर के सामने बैठा हूँ" के बीच का फ़र्क़ होगा।

यही लक्ष्य है। ऐसा AI नहीं जिसके बारे में आपको सोचना पड़े। ऐसा AI जो बस हर चीज़ को बेहतर बना दे, चुपचाप, निजी तौर पर, उस डिवाइस पर जो आपके पास पहले से है।

हम इसे अभी खोज रहे हैं — कोई तारीख़ का वादा नहीं — AI रिमोट डेस्कटॉप को कहाँ ले जा सकता है, इसके दूसरे विचारों के साथ। यह तभी आएगा जब यह जिस स्ट्रीम की जगह लेगा उससे टेक्स्ट को ज़्यादा तीखा रख पाए।

कम स्ट्रीम करें। ज़्यादा देखें। यही भविष्य है।

✦सवाल

अक्सर पूछे जाने वाले सवाल

सुपर-रिज़ॉल्यूशन कितनी बैंडविड्थ बचा सकता है?
यही वह लक्ष्य है जिसका हम पीछा कर रहे हैं: आज 4K स्ट्रीम को आम तौर पर लगभग 12 Mbps चाहिए, और डिवाइस पर अपस्केलिंग के साथ 1080p पर एन्कोड करना उसके एक अंश में वैसी ही महसूस होने वाली क्वालिटी दे सकता है। लैब के आँकड़े टिकने तक कुछ जारी नहीं होता।
क्या डिवाइस पर सुपर-रिज़ॉल्यूशन ध्यान देने लायक़ लेटेंसी जोड़ता है?
जिस बजट के लिए हम डिज़ाइन कर रहे हैं वह आधुनिक Apple Silicon और हाल के Snapdragon NPU पर प्रति फ़्रेम कुछ मिलीसेकंड है — 60 fps स्ट्रीम के फ़्रेमों के बीच के समय का एक छोटा हिस्सा। अगर कोई प्रोटोटाइप उस रेखा को न निभा पाए, तो वह जारी नहीं होता।
यह सिर्फ़ नेटिव ऐप्स पर ही क्यों काम करता है?
रीयल-टाइम अपस्केलिंग के लिए Neural Engine या NPU तक सीधी पहुँच और Metal या Vulkan के ज़रिए ज़ीरो-कॉपी GPU एकीकरण चाहिए। ब्राउज़र और Electron स्टैक ज़रूरी टाइमिंग बजट के साथ उन API तक नहीं पहुँच सकते।
क्या मेरी स्क्रीन की सामग्री किसी क्लाउड सर्वर को भेजी जाती है?
नहीं। डिज़ाइन सख़्ती से डिवाइस पर ही है: ऐप के साथ बंडल किया एक छोटा मॉडल, हर इन्फ़रेंस लोकल। कोई फ़्रेम, एम्बेडिंग या मॉडल ट्रेस कभी आपकी मशीन से बाहर नहीं जाएगा।
क्या यह मेरी बैटरी खाली कर देगा?
मैट्रिक्स के काम के लिए Neural Engine GPU से कहीं ज़्यादा ऊर्जा-कुशल है। शुरुआती लैब प्रोटोटाइप 60 fps पर छोटी एक-अंकीय खपत की ओर इशारा करते हैं, जो अक्सर छोटी स्ट्रीम की कम डिकोड और रेडियो लागत से बराबर हो जाती है — और जारी करना इसी के सही बने रहने पर टिका है।
क्या यह NVIDIA DLSS जैसा ही है?
यह DLSS से प्रेरित है पर तकनीकी रूप से कठिन है। DLSS इंजन से मोशन वेक्टर और डेप्थ पढ़ता है। हम अकेले कम्प्रेस्ड वीडियो से काम करते — अंधा सुपर-रिज़ॉल्यूशन। संभावित बचत असली है; क्वालिटी की सीमा कम है।
Remio ऐप आइकन

नींव को ख़ुद आज़माएँ

Remio मुफ़्त है, हर प्लेटफ़ॉर्म पर नेटिव है, और एंड-टू-एंड एन्क्रिप्टेड है। वही लो-लेटेंसी पाइपलाइन जो AI सुपर-रिज़ॉल्यूशन को ले जाएगी, अभी चल रही है।

इस्तेमाल मुफ़्तडिवाइस पर AIडिज़ाइन से निजी