✦AI

少傳一點,看到更多:裝置上的超解析度如何把遠端桌面的頻寬減半

遊戲界已經想通了怎麼少繪製一點、多看到一點。我們要把同樣的技巧帶進遠端桌面 — 在你的裝置上放一個小模型,從只有一半大小的串流重建出 4K 畫面。

沒人談論的頻寬問題

遠端桌面有個不可告人的祕密:它非常耗頻寬。

以 60 fps 串流桌面,使用新式編解碼器時,1080p 大約需要 3 到 8 Mbps,4K 則需要 8 到 15 Mbps。在光纖上沒問題,在良好的家用 Wi-Fi 上也沒問題。但一踏進飯店 Wi-Fi、用手機網路共享,或試著在繁忙城市的咖啡店工作 — 一切就崩潰了。

目前的解法簡單得令人沮喪:頻寬下降時,就降低畫質。降低解析度、降低影格率,接受模糊的文字和斷斷續續的影片,直到情況好轉。每個遠端桌面 app 都這樣做。二十年來,這是唯一的選擇。

如果有更好的方法呢?

如果不是傳送清晰的 1080p 串流、再在狀況變差時降低畫質,而是隨時都傳送小型的 1080p 串流 — 並讓它在另一端看起來像 4K 呢?

這就是 AI 超解析度。它不是科幻小說。遊戲界已經做了好幾年了。

超解析度串流流程

從遊戲轉換到遠端桌面,出奇地乾淨俐落。在遊戲中,你以低解析度繪製再升頻。在串流中,你以低解析度編碼再升頻。四個階段,由左至右,端到端。

超解析度流程 — 四個階段
階段輸出指標
01 · 擷取原生解析度畫面3840×2160 → 壓縮前 1920×1080
02 · 編碼1080p H.265 串流編解碼器:HEVC · CBR 3 Mbps
03 · 傳輸廣域網路上約 3 Mbps頻寬:3 Mbps · 延遲約 20 ms
04 · 升頻與繪製4K Metal / Vulkan 輸出模型:280 KB · 增加延遲 <3 ms

相同的感知銳利度,大約只要四分之一的頻寬。而且因為主機編碼的是較小的影像,它的工作量也更少 — CPU 使用率更低、發熱更少、筆電更省電。

頻寬帳本 — 感知 4K 的三種做法
做法所需頻寬
現在 · 原生 4K 串流~12 Mbps
現在 · 1080p 串流~5 Mbps
使用超解析度 · 升頻 4K~3 Mbps

遊戲產業早就解決了這件事

2018 年,NVIDIA 推出了 DLSS — 深度學習超取樣。這個概念好得幾乎令人難以置信:以較低的解析度繪製遊戲,再用神經網路升頻,讓它看起來像原生解析度。GPU 工作量更少,畫質相同。

玩家一開始半信半疑。AI 產生的影像,怎麼可能看起來和原生繪製的像素一樣好?但成果自己會說話。到了 2026 年,DLSS 4.5 使用 Transformer 模型,產生許多玩家實際上更喜歡於原生繪製的影像 — 邊緣更銳利、時間穩定性更好、瑕疵更少。

AMD 跟進推出 FSR。Apple 推出 MetalFX。Intel 推出 XeSS。整個產業匯聚到同一個洞見:

最聰明的像素,就是你根本不用繪製的那一個。

遊戲產業花了大約五年,從「這是噱頭」走到「這是必備」。遠端桌面連起步都還沒有。

裝置上的 AI,以隱私為設計

接下來才真正有趣 — 也是我們和你可能預期的 AI 運作方式不同的地方。

超解析度模型完全在你的裝置上執行。不在雲端,不在某台伺服器上,而是在你手上的手機或筆電。

新式裝置對於裝置上的 AI 強大得離譜。M 系列晶片上的 Apple Neural Engine 每秒能處理 15.8 兆次運算。近期 Snapdragon 晶片上的 Qualcomm Hexagon NPU 也在同一個級別。這些專用的 AI 處理器大部分時間都閒置著。我們要讓它們工作。

推論會在繪製流程中執行,介於解碼與顯示之間。模型看到的是 1080p 畫面,輸出的是 4K 畫面。延遲預算在 3 毫秒以內 — 撐不住這個預算的原型就不會推出。

而且因為一切都在本機執行:

這與 Remio 隱私優先的理念一致。我們不想要你的資料。我們甚至不想看到你的螢幕內容。裝置上的 AI 讓我們能提供尖端的功能,同時對你在做什麼一無所知。

為什麼這只有原生 app 才做得到

這是把一切串連起來的部分 — 也是我們寫了整整一篇談原生開發的文章的原因。

要在繪製流程中執行神經網路,又不增加可察覺的延遲,你需要:

  1. 存取 Neural Engine 或 NPU 的能力。這需要原生 API — Apple 上的 CoreML、Android 上的 NNAPI。Neural Engine 沒有網頁 API。Electron app 碰不到它。
  2. GPU 流程整合。升頻後的畫面必須直接送到螢幕,不經額外的複製。Metal 與 Vulkan 讓你做得到這一點。WebGL 沒有給你這種等級的控制。
  3. 3 毫秒以內的時序。在即時串流流程中,每多一毫秒都很重要。光是 JavaScript 的垃圾回收就可能造成不可預測的停頓。原生程式碼則能提供確定性的時序。

Electron app 需要在 Chromium 的媒體流程中解碼影片、把畫面取到 JavaScript、設法呼叫 Neural Engine(沒有原生繫結就辦不到)、把升頻後的畫面取回來,再透過 Chromium 的合成器顯示。每一步都增加延遲與複雜度。總開銷很可能達到 15 到 25 毫秒 — 對即時使用來說太慢了。

串流流程中的超解析度不只是 AI 問題,而是系統工程問題。而系統工程需要原生程式碼。

這就是為什麼在 Remio 開發兩年後,沒有任何以 Electron 為基礎的遠端桌面推出過 AI 升頻。不是他們不想。是架構不讓他們做。

技術挑戰,以及我們如何解決

我們不會假裝這很容易。這裡有真正的挑戰。

模型延遲。在 60 fps 下,模型每張畫面必須在 3 毫秒內執行完畢。這讓肥大的架構毫無空間。我們使用經過最佳化的卷積模型 — 不是 Transformer,它們對每張畫面的推論來說太慢 — 專門針對 Neural Engine 的執行單元調校。

內容多樣性。遠端桌面的內容和遊戲內容截然不同。文字、試算表、程式碼編輯器、影片播放、設計工具 — 模型都得能處理。我們以專門包含桌面介面元素的資料集進行訓練,而不只是自然影像。

時間穩定性。逐張畫面的升頻可能造成閃爍。遊戲界以時間累積解決了這個問題 — 重複使用前幾張畫面的資訊。我們正在探索類似的技術,把影片編解碼器的動態向量餵給升頻模型。

能源效率。在手機上每秒執行神經網路 60 次,聽起來很耗電。但 Neural Engine 正是為此而設計 — 在矩陣運算上比 GPU 更省電。早期的實驗室原型顯示,耗電成本只有個位數的小幅百分比。

誠實的挑戰:為什麼這比遊戲更難

我們把 DLSS 與遊戲超解析度當作靈感來談 — 它們確實是。但知識上的誠實,要求我們說明為什麼遠端桌面升頻本質上是更難的問題。

遊戲 DLSS 有不公平的優勢。遊戲引擎提供給 AI 豐富的資料,而這些在我們的世界裡並不存在:

換句話說,遊戲超解析度是有豐富輔助資料的引導式重建。遠端桌面升頻則是從失真的壓縮影片進行的盲超解析度 — 起點難得多。

這不代表這個方法是錯的。即使畫質在較低位元率下只有小幅提升,也能帶來實質的頻寬節省。但我們想坦白說明:盲升頻的畫質上限,低於 DLSS 在完整引擎整合下所能達到的。我們打造的是真正有用的東西,而不是宣稱與另一種技術比肩。

這對你意味著什麼

當 AI 超解析度在 Remio 中推出時,你不需要去想它。沒有開關、沒有設定、沒有「AI 模式」。app 會自動:

在快速連線上,它可能根本不需要升頻。在慢速連線上,它將是「無法使用」與「感覺像坐在自己電腦前」之間的差別。

這就是目標。不是你得去思考的 AI,而是讓一切運作得更好、悄悄地、私密地、在你已有的裝置上的 AI。

我們現在正在探索它 — 不承諾日期 — 並同時探索AI 可能把遠端桌面帶往何方的其他想法。只有在它比它所取代的串流能讓文字更銳利時,才會推出。

少傳一點,看到更多。這就是未來。

✦問題

常見問題

超解析度能節省多少頻寬?
這是我們追求的目標:4K 串流目前通常需要約 12 Mbps,而以 1080p 編碼再搭配裝置上升頻,能以其中一小部分的頻寬帶來相近的感知畫質。實驗室數字站得住腳之前,什麼都不會推出。
裝置上的超解析度會增加可察覺的延遲嗎?
我們設計的預算是:在新式 Apple Silicon 與近期 Snapdragon NPU 上,每張畫面幾毫秒 — 這只占 60 fps 串流畫面間隔時間的一小部分。如果原型守不住這條線,就不會推出。
為什麼這只有原生 app 才做得到?
即時升頻需要直接存取 Neural Engine 或 NPU,以及透過 Metal 或 Vulkan 進行零複製的 GPU 整合。瀏覽器與 Electron 技術堆疊,無法在所需的時序預算內取用這些 API。
我的螢幕內容會被傳到任何雲端伺服器嗎?
不會。設計嚴格限於裝置上:一個隨 app 一起提供的小型模型,每次推論都在本機。沒有畫面、嵌入向量或模型軌跡會離開你的機器。
這會耗盡我的電池嗎?
在矩陣運算上,Neural Engine 比 GPU 省電得多。早期的實驗室原型顯示,60 fps 下耗電只有個位數的小幅百分比,而且常因較小串流所帶來較低的解碼與無線電成本而抵銷 — 而推出與否取決於這點持續成立。
這和 NVIDIA DLSS 一樣嗎?
它受 DLSS 啟發,但技術上更難。DLSS 從引擎讀取動態向量與深度。我們只能憑壓縮影片作業 — 盲超解析度。潛在的節省是真實的;畫質上限則較低。
Remio app 圖示

親自試試這個基礎

Remio 免費、各平台原生,並採用端對端加密。日後會承載 AI 超解析度的同一套低延遲流程,現在就在運作。

免費使用裝置上的 AI以隱私為設計