✦Sinirsel ölçek büyütme · geliştirilmekte

Aygıt üzerinde sinirsel ölçek büyütme, geliştirilmekte — daha hafif bir yayından daha keskin pikseller.

Daha düşük bit hızlı bir yayından daha keskin metin ve kenarlar yeniden kuran bir aygıt üstü model geliştiriyoruz; tümüyle aygıtınızın NPU'sunda çalışır — asla bulutta değil. Geliştirme aşamasında ve henüz uygulamada değil. İşte fikir ve bunların hiçbiri olmadan bugün bir Remio oturumunu zaten keskin tutan şey.

✦Fikir

Yayınlanan metin neden bulanıklaşır ve aygıt üstü ölçek büyütme bunu düzeltmek için nasıl kuruluyor.

Klasik video kodlayıcıları harekete göre ayarlıdır; metin ve arayüz çerçevesinin yapıldığı ince, yüksek kontrastlı kenarlara göre değil. Bant genişliği daraldığında ilk giden o kenarlardır — bu yalnızca video sıkıştırmanın işleyişidir, her uzak masaüstünde, yalnızca Remio'da değil.

Bir uzak masaüstü yayını gözlerinize ulaşmadan önce iki sıkıştırma darbesi yer. Birincisi, kaynak çözünürlük istemcinizin gösterebileceğini aştığında host küçültme yapar — 2266 x 1488'lik bir iPad mini'ye yayın yapan 3024 x 1964'lük M4 MacBook Pro 14", kodlayıcı kareyi görmeden önce piksellerinin kabaca üçte birinden vazgeçmiştir. İkincisi, kodlayıcının kendisi ağın taşıyabileceği bit hızına sığmak için kayıplı sıkıştırma uygular. İki adım da yüksek frekanslı ayrıntıyı atar — net bir harf glifi ile bulanık bir leke arasındaki farkı yaratan tam da budur.

Araştırdığımız fikir, çözmeden sonra istemcide çalışacak bir kalite kurtarma geçişidir: açılmış kareye bakıp orijinal karenin küçültülmeden ve kodlayıcıdan sıkıştırılmadan önce sahip olduğu yüksek frekanslı içeriği tahmin etmek. Yalnızca zaten var olan piksellerden ara değer hesaplayabilen klasik çift doğrusal veya çift kübik ölçek büyütmenin aksine, eğitilmiş bir sinir ağı kenarların, harf biçimlerinin ve arayüz şekillerinin tam çözünürlükte nasıl göründüğünü öğrenebilir ve basit bir ara değerlemenin kurtaramayacağı ayrıntıyı yeniden kurabilir.

Umduğumuz gibi çalışırsa etki, en çok ihtiyaç duyduğunuz yerde en görünür olurdu: 11 punto gövde metni, tek aralıklı yazı tipinde kod, bir Figma dosyasındaki ince çizgiler, bir kenar çubuğundaki düğme çerçeveleri. Birkaç bulanık pikselin "okunabilir" ile "yaklaşmam gerekiyor" arasındaki farkı yarattığı durumlar bunlardır. Bu, hareket için ayarlı herhangi bir kodlayıcının kendi başına yapabildiğinde gerçek bir boşluktur — bir aygıt üstü modelin onu kapatıp kapatamayacağını öğrenmek için araştırma zamanına değmesinin nedeni tam olarak budur.

Henüz orada değiliz. Bugün "kötü bir bağlantıda oturumu nasıl keskin tutarım" sorusunun dürüst yanıtı, Remio'nun uyarlamalı bit hızı motorudur — ağınızı zaten okur ve gecikmeyi sıçratmadan görüntüyü bağlantının izin verdiği kadar keskin tutan aralığı seçer. Sinirsel ölçek büyütme, onun üzerine eklenecek bir katman olurdu; yerine geçen bir şey değil.

✦Yerel olmak neden bize avantaj sağlıyor

Sarılmış bir web görünümü değil, gerçek bir yerel istemci.

Her Remio istemcisi kendi platformunda %100 yerel bir uygulamadır — Electron yok, arada tarayıcı korumalı alanı yok. Bu yüzden bir sinirsel ölçek büyütme modelinin ihtiyaç duyacağı aynı donanım çerçeveleriyle zaten doğrudan konuşur: Apple Silicon'da Core ML ve Neural Engine, özel NPU'lu Android aygıtlarda NNAPI. Bunu kurarsak yakalama, kodlama ve çözme için zaten var olan bir mimariye takılır — bulut sıçraması yok, ayrıca eklenecek çalışma ortamı yok.

Bu fikrin değerlendireceğimiz tek sürümünün aygıt üstü olmasının tüm nedeni budur. Bir bulut gidiş-dönüşü, Remio'nun sıfır arabellek felsefesinin kabul etmediği gecikmeyi eklerdi — bu yüzden yayına alacağımız her model yerel çalışmalı, yoksa hiç yayına girmez.

Remio'nun yerel iPhone istemcisi bir Mac masaüstünü yayınlıyor

Apple Silicon'da — her M serisi Mac, iPad Pro, iPad Air ve yeni iPhone Pro'da — Core ML derlenmiş bir modeli Neural Engine'e yönlendirebilir; bu, aynı kalıp üzerinde CPU ve GPU'nun yanında duran, sinir ağlarının zamanlarının çoğunu harcadığı küçük, tekrarlı matris çarpımları için GPU'nun kullanacağı gücün bir kesriyle kurulmuş özel bir yardımcı işlemcidir. Bu fikrin ihtiyaç duyacağı türden bir model için yetenekli, verimli bir hedeftir — yalnızca henüz bağlanmadı.

Android'de NNAPI, desteklenen aygıtlara — Google Tensor'lu Pixel, yeni Galaxy ve OnePlus telefonlar — bir donanım NPU'suna aynı türden yönlendirme verir. İki platformda da yeterince hızlı NPU'su olmayan eski aygıtlar basitçe 1:1 çözmeye döner; Remio bugün her yerde nasıl davranıyorsa öyle: orada olmayan donanımı beklerken yayını asla engellemez.

Bunların hiçbiri bir yayın tarihi sözü değildir. Araştırmanın yapılmaya değer olduğunu düşünmemizin nedenidir — zor mimari önkoşul zaten var; bu, böyle bir özellik için gerçekten alışılmadık bir başlangıç noktasıdır.

✦Yayına çıkış çıtamız

Bu yayına girmeden önce neyi kanıtlamamız gerekir.

Yalnızca "yapay zekâ" sattığı için bir yapay zekâ özelliği eklemeyeceğiz. İşte önce iyi yanıtlar bulmamız gereken dürüst sorular.

Zaten elimizdekini açıkça geçiyor mu? Remio'nun uyarlamalı bit hızı motoru bağlantınızı zaten okur ve görüntüyü ağın izin verdiği kadar keskin tutan aralığı seçer. Sinirsel bir model, ancak insanların gerçekten fark edeceği bir farkla bu temel çizginin ötesinde ayrıntıyı geri kazanırsa yerini hak eder — normal izleme mesafesinde kaybolan bir kıyaslama zaferiyle değil.

Telefon veya tablette anlamlı pil harcıyor mu? Tüm oturum boyunca çözülen her karede herhangi bir modeli çalıştırmanın gerçek bir güç maliyeti vardır. O maliyetin kimsenin düşünmesi gerekmeyecek kadar küçük olmasını — ya da yalnızca geri kazanmaya değer bir şey olduğunda pil harcayan, bunu hiç ödemek istemeyen herkes için gerçek bir kapatma anahtarı olan açık, dürüst bir "Otomatik" davranışını isterdik.

Ne yaptığı konusunda dürüst kalıyor mu? Sıkıştırılmış piksellerden makul görünen ayrıntıyı yeniden kuran bir model, hiç var olmamış içeriği uyduran bir modelden farklı bir şey yapar. Gördüğünüzün host'ta gerçekten olanla örtüşmesi gereken bir uzak masaüstü için bu ayrım olsa-iyi-olur değil — tüm güven modelidir. Yayına alacağımız her şey yeniden kurmalı, asla halüsinasyon görmemeli.

Üçünü de projeksiyonlarla değil gerçek sayılarla yanıtlayana dek bu, bu sayfada bir araştırma fikri olarak kalır — uygulamada bir anahtar değil.

✦Bugün gerçek

Görüntüyü zaten keskin tutan şey — yapay zekâ gerekmez.

Bugün keskin bir Remio oturumu için bir araştırma projesine ihtiyacınız yok. İşi, yayındaki dört düz mühendislik parçası zaten yapıyor.

Codec
Baştan sona donanım H.265kodlama ve çözme ikisi de özel silikonda çalışır, yedek olarak H.264
Bit hızı
Ağınıza uyarlanırgidiş-dönüş süresini okur ve gecikmeyi sıçratmadan keskin kalan aralığı seçer
Ekran
Pencerenize göre boyutlandırılırhost monitörünün sıkıştırılmış bir kopyası değil, istemci tuvalinize uyan sanal bir ekran
Çizim
Sıfır arabellekçizilen her kare mevcut en yenisidir — kayıp bir paket hâlâ zamanında ulaşabiliyorsa yeniden gönderilir, aksi halde yeni bir kare için atlanır; asla bayat olanların tekrarı değil

Baştan sona donanım H.265, host'taki kodlayıcının ve istemcinizdeki çözücünün ikisinin de CPU'da değil özel video silikonunda çalışması demektir — 4K bir videonun, yazılımla çözmeye çalışırken zorlanacak bir telefonda akıcı oynamasıyla aynı neden. Remio'nun bir yazılım codec'inin sürdüremeyeceği bit hızında ayrıntıyı tutabilmesini sağlayan o boşluktur.

Uyarlamalı bit hızı motoru, sinirsel ölçek büyütmenin yardım etmesi için araştırıldığı asıl işi yapan parçadır: oturum başında bağlantınızı ölçer ve yayını sessizce aç bırakmak yerine, bağlantının gecikme sıçramaları olmadan sürdürebileceği en yüksek bit hızı aralığını seçer. Uyarlamalı kalitenin nasıl çalıştığını oku →

Sanal ekran ve sıfır arabellekli çizici tabloyu tamamlar. Remio'nun yayınladığı ekran host'un tam monitörü değil, tam olarak pencerenize göre boyutlandırıldığı için daha büyük bir şeyin küçültülmüş kopyasına hiç bakmazsınız. Ve çizici her zaman en yeni çözülmüş kareyi çizdiği — bayatlarına yetişmek yerine onları attığı — için gördüğünüz hiçbir şey ekranınıza ulaştığında eski değildir. Dördü arasında çoğu oturum bir kalite kurtarma geçişine hiç ihtiyaç duymaz.

✦Yayına almayacaklarımız

Bunun tutması için kurulduğu ilkeler.

Üretken yapay zekâ pazarlaması "yapay zekâ iyileştirmesi"nin ayrıntı uydurmak anlamına geldiği beklentisini yarattı. Remio'ya böyle bir model koymadan önce kısa ve dürüst bir listeyi aşması gerekirdi.

Eksik arayüzü halüsinasyonla uydurmazdı. Kodlayıcı bir bölgeyi attığı için bir düğme yayının kenarında kesilmişse, düğmenin geri kalanını uyduran bir model uzak masaüstüne ait değildir. iPad'inizde gördüğünüzün host'ta gerçekte olanla örtüştüğüne güvenmeniz gerekir — hiç var olmamış içeriği dolduran üretken bir model bu güveni bozardı; bu yüzden yalnızca gerçekten kodlanmış piksellerden yeniden kuran bir modeli yayına alırdık, asla uyduran birini değil.

Kare hızını artırdığını iddia etmezdi. Remio'da kare hızı, host'un yakalama hızı ve ağın kareleri zamanında iletme yeteneğiyle belirlenir — bu, bir ölçek büyütücünün değil, zaten yayındaki sıfır arabellekli çizicinin işidir. Kurduğumuz her model, çözülen her kare için bir daha keskin kare üretirdi, fazlasını değil.

Host'ta video oynatmayı düzelttiği iddiasıyla sunulmazdı. Uzak Mac'inizde film izliyorsanız yayınlanan şey, host'un kendi video çözücüsünün host çözünürlüğünde çizdiğidir. Yayında bir kalite kurtarma geçişi, host'un zaten ürettiği bir kaynağı iyileştirmez; daha keskin film oynatma için dürüst öneri bugünküyle aynı kalır: onu host'ta değil, istemci aygıtınızda oynatın.

Ve asla iyi bir ağın yerine geçen bir şey olarak satılmazdı. Doğrudan bir LAN bağlantısı, üzerine ne kadar ölçek büyütme konursa konsun kısıtlanmış bir WAN bağlantısından her zaman daha keskin olacaktır — Remio'nun bugün sunduğu uyarlamalı bit hızı motoru, gerçek bağlantınızın sürdürebileceği en iyi görüntüyü zaten verir. Burada kuracağımız her şey kötü ağlar için ek sigorta olurdu, iyi bir ağın yerine geçen bir şey değil.

✦SSS

Sık sorulan sorular

Aygıt üstü sinirsel ölçek büyütme hakkında gelen sorular — dürüst yanıtlar aşağıda.

Aygıt üstü sinirsel ölçek büyütme bugün Remio'da mevcut mu?
Henüz değil. Araştırdığımız bir yön; açabileceğiniz bir özellik değil ve bir yayın tarihi sözü vermiyoruz. Bugün bir Remio oturumunu zaten keskin tutan şey düz mühendisliktir: baştan sona donanım H.265, ağınızı okuyup doğru aralığı seçen uyarlamalı bir bit hızı motoru, tam olarak pencerenize göre boyutlandırılmış sanal bir ekran ve her zaman en yeni kareyi gösteren sıfır arabellekli bir çizici.
Kurarsanız bunun herhangi bir şeyi aygıtımdan çıkar mı?
Hayır. Remio'nun istemcileri, aygıt üstü donanım çerçevelerine doğrudan erişimi olan yerel uygulamalardır — Apple platformlarında Core ML ve Neural Engine, Android NPU'larında NNAPI. Yayına alacağımız her model, Remio'daki diğer her şeyin zaten çalıştığı gibi çalışırdı: yerel olarak, aygıtınızda; bulutta işlenmek üzere ekstra hiçbir şey ayrılmadan.
Neden doğrudan yayına almak yerine bunu araştırıyorsunuz?
Çünkü zaten elimizdeki kollardan açıkça daha iyi olması gerekir. Remio'nun uyarlamalı bit hızı motoru bir bağlantının sürdürebileceği en keskin aralığı zaten seçer; bu yüzden bir modelin, bunun ötesinde gerçek, görünür bir keskinlik kattığını — ve bunu telefon ve tabletlerde anlamlı bir pil maliyeti olmadan yaptığını — uygulamada yer kazanmadan önce kanıtlaması gerekir.
Remio'da şu an metni ve kodu ne keskin tutuyor?
Bugün yayında olan dört şey. Baştan sona donanım H.265 kodlama ve çözme, yedek olarak H.264. Gidiş-dönüş süresini okuyan ve gecikmeyi sıçratmadan görüntüyü keskin tutan aralığı seçen uyarlamalı bir bit hızı motoru. Host monitörünün sıkıştırılmış bir kopyası değil, tam olarak istemci pencerenize göre boyutlandırılmış sanal bir ekran. Ve sıfır arabellekli bir çizici — çizilen her kare mevcut en yenisidir; bu yüzden hiçbir şey bir kuyrukta beklerken yumuşamaz.
Bu yayına girdiğinde söyleyecek misiniz?
Evet. Bu sayfa ve yapay zekâ genel bakış sayfası her yeteneğin gerçek durumunu izler — araştırılıyor veya yayında. Sinirsel ölçek büyütme gerçek ve doğrulanabilir hale geldiği an iki sayfa da aynı dürüstlükle bunu söylemek üzere değişir. O zamana dek olduğu şey olarak etiketli kalır: araştırmadaki bir fikir.
Remio uygulama simgesi

Bugün hızlı ve keskin. Sinirsel ölçek büyütme geliyor.

Baştan sona donanım H.265 yayını, ağınızı okuyan uyarlamalı bir bit hızı motoru ve tam olarak pencerenize göre boyutlandırılmış sanal bir ekran için Remio'yu kurun — hepsi şimdi yayında. Aygıt üstü sinirsel ölçek büyütme bu sayfada hâlâ bir araştırma fikri; tarih sözü yok ve bu değiştiği an bu sayfa bunu dürüstçe söyleyecek.