✦神經網路放大 · 開發中

裝置端神經網路放大,開發中: 從更輕的串流還原更清晰的像素。

我們正在打造一個裝置端模型,能從較低位元率的串流重建更清晰的文字與邊緣,並完全在你裝置的 NPU 上執行,絕不經過雲端。它還在開發中,尚未加入 App。以下是這個構想,以及今天在沒有它的情況下,是什麼讓 Remio 連線保持清晰。

✦構想

為什麼串流的文字會變模糊,以及裝置端放大是如何設計來解決它。

傳統視訊編碼器是為動態畫面調校的,而不是為文字與介面元件那種細緻、高對比的邊緣。頻寬吃緊時,這些邊緣最先消失,這只是視訊壓縮的運作方式,任何遠端桌面都一樣,並非只有 Remio。

遠端桌面串流在到達你眼中之前,會經歷兩次壓縮損失。第一,當來源解析度超過用戶端能顯示的範圍時,主機會先縮小:以 3024 × 1964 運作的 M4 MacBook Pro 14 吋串流到 2266 × 1488 的 iPad mini,在編碼器看到畫格之前就已經捨棄約三分之一的像素。第二,編碼器本身為了符合網路能承載的位元率,會進行破壞性壓縮。這兩個步驟都會丟掉高頻細節,而那正是清晰字形與模糊一團之間的差別。

我們正在探索的構想是在解碼後於用戶端執行的畫質還原步驟:檢視解壓縮後的畫格,預測原始畫格在被縮小並擠過編碼器之前所擁有的高頻內容。傳統的雙線性或雙三次放大只能從已有的像素內插,而訓練過的神經網路能學會邊緣、字母形狀與介面形狀在完整解析度下的樣子,並重建簡單內插無法還原的細節。

如果它如我們所願地運作,效果會最明顯地出現在你最需要的地方:11 點的內文、等寬字型的程式碼、Figma 檔案中的細線、側邊欄的按鈕外框。在這些情況下,幾個模糊的像素就是「看得清楚」與「得湊近看」的差別。這是任何針對動態調校的編碼器自己無法填補的真正缺口,也正是值得花研究時間去弄清楚裝置端模型能否補上它的原因。

我們還沒做到。今天,對於「在糟糕的連線上如何保持連線清晰」,誠實的答案是 Remio 的自適應位元率引擎:它已經會讀取你的網路,並選出在不造成延遲飆高的前提下,讓畫面盡可能清晰的範圍。神經網路放大會是疊加在其上的額外一層,而不是取代它。

✦為什麼原生讓我們先行一步

真正的原生用戶端,而不是包裝的網頁檢視。

每個 Remio 用戶端都是其平台上 100% 原生的 App,中間沒有 Electron,也沒有瀏覽器沙盒。這就是為什麼它已經能直接與神經網路放大模型所需的同一批硬體框架溝通:Apple 晶片上的 Core ML 與 Neural Engine,以及有專用 NPU 的 Android 裝置上的 NNAPI。如果我們打造它,它會接上擷取、編碼與解碼已經存在的架構,不需繞經雲端,也不需另外加裝執行環境。

這正是裝置端成為我們唯一會考慮的版本的原因。一趟雲端往返會增加 Remio 零緩衝理念無法接受的延遲,所以我們推出的任何模型都必須在本機執行,否則就不推出。

Remio 原生 iPhone 用戶端串流 Mac 桌面

在 Apple 晶片上,包括每台 M 系列 Mac、iPad Pro、iPad Air 與近期的 iPhone Pro,Core ML 能把編譯好的模型送到 Neural Engine 上執行。它是與 CPU、GPU 位於同一晶粒的專用協同處理器,專為神經網路大部分時間所做的小型重複矩陣乘法而設計,耗電只有 GPU 的一小部分。對這個構想所需的那類模型來說,這是強大又高效的目標,只是目前還沒接上。

在 Android 上,NNAPI 讓支援的裝置(搭載 Google Tensor 的 Pixel、近期的 Galaxy 與 OnePlus 手機)有同樣的方式把運算送到硬體 NPU。在兩個平台上,NPU 不夠快的舊裝置會直接退回 1:1 解碼,就和 Remio 今天在所有地方的行為一樣:它絕不會為了等不存在的硬體而卡住串流。

以上都不是對推出日期的承諾。這是我們認為這項研究值得進行的原因:最困難的架構前提已經存在,對這類功能來說,這是真正不尋常的起點。

✦我們推出的標準

推出之前,我們必須證明的事。

我們不會只因為「AI」好賣就硬加一個 AI 功能。以下是我們必須先有好答案的幾個誠實問題。

它是否明顯勝過我們已有的做法?Remio 的自適應位元率引擎已經會讀取你的連線,並選出在網路允許下讓畫面最清晰的範圍。神經網路模型只有在還原出超越該基準的細節,而且幅度是人們真的看得出來的,才有資格存在,而不是在正常觀看距離下就消失的基準測試勝利。

它會不會在手機或平板上耗掉可觀的電量?整個連線過程對每個解碼畫格都執行任何模型,都有實際的耗電成本。我們希望那個成本小到沒人需要在意,或是有清楚、誠實的「自動」行為,只在有東西值得還原時才耗電,並為不想付出這個代價的人提供真正的關閉開關。

它是否對自己在做什麼保持誠實?從壓縮像素重建看似合理的細節的模型,與憑空捏造從未存在內容的模型,做的是不同的事。對遠端桌面來說,你看到的必須與主機上實際的內容一致,這個區別不是加分項,而是整個信任模型。我們推出的任何東西都必須是重建,絕不能是幻想。

在我們能用真實數字而非預測回答這三個問題之前,它在這一頁上仍只是研究構想,而不是 App 裡的開關。

✦今天已實現

不需要 AI,今天就已讓畫面保持清晰的做法。

今天要有清晰的 Remio 連線,不需要研究專案。四項已推出的純工程做法已經完成了這項工作。

編碼
全程硬體 H.265編碼與解碼都在專用晶片上執行,H.264 作為備援
位元率
依你的網路自適應讀取往返時間,選出保持清晰又不造成延遲飆高的範圍
顯示
配合你的視窗大小與你的用戶端畫布相符的虛擬顯示器,而不是主機螢幕被壓縮的副本
渲染
零緩衝顯示的每個畫格都是當下最新的:遺失的封包若還來得及就重送,否則跳過並換取新畫格,絕不重播過時的畫格

全程硬體 H.265 代表主機上的編碼器與你用戶端上的解碼器,都在專用的視訊晶片上執行,而不是 CPU,這和一支用軟體解碼 4K 影片會卡頓的手機,卻能流暢播放 4K 影片是同樣的原因。這份餘裕讓 Remio 能在軟體編碼器撐不住的位元率下保住細節。

自適應位元率引擎才是真正在做神經網路放大正被探索來協助的那件事:它在連線開始時量測你的連線,並選出該連線能撐住、不會讓延遲飆高的最高位元率範圍,而不是悄悄讓串流挨餓。了解自適應畫質如何運作 →

虛擬顯示器與零緩衝渲染器補全了這一切。因為 Remio 串流的顯示器大小剛好符合你的視窗,而不是主機完整的螢幕,所以你看到的永遠不是某個更大畫面的縮小副本。又因為渲染器永遠繪製最新解碼的畫格,捨棄過時的而不是去追趕它們,所以你看到的任何東西到達螢幕時都不是舊的。這四者合起來,大多數連線根本不需要畫質還原這一步。

✦我們不會推出的

這個功能被打造來堅守的原則。

生成式 AI 的行銷讓人預期「AI 增強」就是憑空創造細節。在我們把這樣的模型放進 Remio 之前,它必須通過一份簡短而誠實的清單。

它不會幻想缺失的介面。如果某個按鈕因為編碼器丟掉一塊區域而在串流邊緣被切掉,一個憑空補出按鈕其餘部分的模型就不屬於遠端桌面。你必須能相信你在 iPad 上看到的與主機上實際的內容一致,填入從未存在內容的生成式模型會破壞這份信任,所以我們只會推出根據真正編碼過的像素重建的模型,絕不推出憑空捏造的。

它不會聲稱能提高畫面更新率。Remio 的畫面更新率由主機的擷取速率與網路準時送達畫格的能力決定,那是已經推出的零緩衝渲染器的工作,不是放大器的事。我們打造的任何模型,每個解碼畫格都只會產生一個更清晰的畫格,僅此而已。

它不會被宣傳為修正主機上的影片播放。如果你在遠端 Mac 上看電影,串流出去的是主機自己的視訊解碼器以主機解析度渲染的內容。串流上的畫質還原步驟無法改善主機已產生的來源;想要更清晰的電影播放,誠實的建議和今天一樣:在你的用戶端裝置上播放,而不是在主機上。

而且它絕不會被當成好網路的替代品來販售。直接的區域網路連線永遠比被限縮的廣域網路連線更清晰,無論疊加多少放大。Remio 今天推出的自適應位元率引擎,已經讓你得到實際連線所能撐住的最佳畫面。我們在這裡打造的任何東西,都是為糟糕網路多一層保險,而不是好網路的替代品。

✦常見問題

常見問題

關於裝置端神經網路放大常被問到的問題,以下是誠實的回答。

Remio 今天有裝置端神經網路放大嗎?
還沒有。這是我們正在探索的研究方向,不是你可以開啟的功能,我們也不承諾推出日期。今天讓 Remio 連線保持清晰的是純工程:全程硬體 H.265、讀取你的網路並選出合適範圍的自適應位元率引擎、大小剛好符合你視窗的虛擬顯示器,以及永遠顯示最新畫格的零緩衝渲染器。
如果你們做出來,會有任何資料離開我的裝置嗎?
不會。Remio 的用戶端是原生 App,能直接存取裝置端的硬體框架:Apple 平台上的 Core ML 與 Neural Engine,Android NPU 上的 NNAPI。我們推出的任何模型,都會和 Remio 中其他一切一樣在你的裝置上於本機執行,沒有任何額外資料送去雲端處理。
為什麼是探索而不是直接推出?
因為它必須明顯勝過我們已有的手段。Remio 的自適應位元率引擎已經會選出連線能撐住的最清晰範圍,所以模型必須證明它帶來超越這點的真實、可見的清晰度,而且在手機與平板上不造成可觀的電量成本,才有資格進入 App。
目前是什麼讓 Remio 上的文字與程式碼保持清晰?
今天已推出的四件事。全程硬體 H.265 編碼與解碼,H.264 作為備援。讀取往返時間,選出保持畫面清晰又不讓延遲飆高的範圍的自適應位元率引擎。大小剛好符合你用戶端視窗的虛擬顯示器,而不是主機螢幕被壓縮的副本。以及零緩衝渲染器:顯示的每個畫格都是當下最新的,所以不會有東西因為在佇列中等待而變模糊。
推出時你們會說嗎?
會。這一頁與 AI 總覽頁會追蹤每項功能的真實狀態:探索中,或已推出。一旦神經網路放大成真且可驗證,兩頁都會改成這麼說,並保持同樣的誠實。在那之前,它仍會標示它本來的樣子:研究中的構想。
Remio App 圖示

今天就快速又清晰。神經網路放大即將到來。

安裝 Remio,獲得全程硬體 H.265 串流、讀取你網路的自適應位元率引擎,以及大小剛好符合你視窗的虛擬顯示器,這些現在都已推出。裝置端神經網路放大在這一頁上仍只是研究構想,不承諾日期,情況一有改變,這一頁會誠實地說明。