✦AI

少传输,多看见:设备端超分辨率如何把远程桌面带宽减半

游戏行业早已想明白了如何少渲染、多看见。我们要把同样的技巧带到远程桌面——在你的设备上运行一个小模型,用只有一半大小的串流重建出 4K 画面。

没人谈论的带宽问题

远程桌面有个不可告人的秘密:它是个带宽大户。

以 60 fps 串流桌面,使用现代编解码器,1080p 大约需要 3 到 8 Mbps,4K 则需要 8 到 15 Mbps。在光纤上没问题。在稳定的家庭 Wi-Fi 上也没问题。但一旦踏进酒店 Wi-Fi、用手机共享网络,或者试图在繁忙城市的咖啡馆里工作——一切就都垮了。

目前的解决办法简单得令人沮丧:带宽下降时,降低画质。降低分辨率。降低帧率。接受模糊的文字和卡顿的视频,直到状况好转。每一款远程桌面应用都是这么做的。二十年来这是唯一的选择。

如果有更好的办法呢?

如果与其发送清晰的 1080p 串流、在状况变差时再降低画质,不如始终发送一路小小的 1080p 串流——并让它在另一端看起来像 4K,会怎样?

这就是 AI 超分辨率。而且它不是科幻。游戏行业已经用了好几年。

超分辨率串流管线

从游戏到远程桌面的转换出人意料地干净利落。在游戏里,你以低分辨率渲染再放大。在串流中,你以低分辨率编码再放大。四个阶段,从左到右,端到端。

超分辨率管线——四个阶段
阶段输出指标
01 · 捕获原生分辨率的帧3840×2160 → 压缩前缩为 1920×1080
02 · 编码1080p H.265 串流编解码器:HEVC · CBR 3 Mbps
03 · 传输广域网上约 3 Mbps带宽:3 Mbps · 延迟 ~20 ms
04 · 放大 & 渲染4K Metal / Vulkan 输出模型:280 KB · 增加延迟 <3 ms

同样的主观清晰度。带宽大约只有四分之一。而且因为主机编码的是较小的图像,它的负担也更小——CPU 占用更低,发热更少,笔记本更省电。

带宽账本——三种方式达到主观 4K
方式所需带宽
现状 · 原生 4K 串流~12 Mbps
现状 · 1080p 串流~5 Mbps
使用超分辨率 · 放大后的 4K~3 Mbps

游戏行业已经解决了这个问题

2018 年,NVIDIA 推出了 DLSS——深度学习超级采样。这个概念好得几乎让人难以置信:以较低分辨率渲染游戏,然后用神经网络放大,使其看起来像原生分辨率。GPU 的工作更少,画质却相同。

玩家们起初持怀疑态度。AI 生成的图像怎么可能看起来和原生渲染的像素一样好?但结果胜于雄辩。到 2026 年,DLSS 4.5 使用 Transformer 模型生成的图像,许多玩家实际上更喜欢它胜过原生渲染——边缘更锐利,时间稳定性更好,伪影更少。

AMD 随之推出了 FSR。Apple 推出了 MetalFX。Intel 发布了 XeSS。整个行业汇聚到了同一个洞见上:

最聪明的像素,是你根本不需要渲染的那一个。

游戏行业用了大约五年,就从“这是个噱头”走到了“这是必备”。远程桌面还没有开始呢。

设备端 AI,从设计上保护隐私

接下来才真正有意思——也是我们与你可能预想的 AI 运作方式不同的地方。

超分辨率模型完全在你的设备上运行。不在云端。不在某台服务器上。就在你手中的手机或笔记本上。

现代设备用于设备端 AI 的算力强大得离谱。Apple M 系列芯片上的神经网络引擎每秒可处理 15.8 万亿次运算。高通近期骁龙芯片上的 Hexagon NPU 也处于同一量级。这些专用的 AI 处理器大部分时间都闲置着。我们要让它们派上用场。

推理会在渲染管线中运行,位于解码与显示之间。模型接收一帧 1080p 的画面,输出一帧 4K 的画面。延迟预算在 3 毫秒以内——做不到这一点的原型不会发布。

而且因为一切都在本地运行:

这与 Remio 隐私优先的理念一致。我们不想要你的数据。我们甚至不想看到你的屏幕内容。设备端 AI 让我们在提供前沿功能的同时,对你在做什么一无所知。

为什么这只有原生应用才能做到

这是把一切串联起来的部分——也是我们为什么写了一整篇关于转向原生的文章。

要在渲染管线中运行神经网络而不增加可见的延迟,你需要:

  1. 访问神经网络引擎或 NPU 的能力。这需要原生 API——Apple 上是 CoreML,Android 上是 NNAPI。神经网络引擎没有对应的 Web API。Electron 应用够不着它。
  2. GPU 管线集成。放大后的帧必须不经额外拷贝直接送到显示器。Metal 和 Vulkan 能做到这一点。WebGL 不提供这种程度的控制。
  3. 3 ms 以内的时序。在实时串流管线中,每多一毫秒都很要紧。仅 JavaScript 的垃圾回收器就可能引入不可预测的停顿。原生代码提供确定性的时序。

一个 Electron 应用需要在 Chromium 的媒体管线中解码视频,把帧提取到 JavaScript 中,设法调用神经网络引擎(没有原生绑定是不可能的),把放大后的帧取回来,再通过 Chromium 的合成器显示出来。每一步都会增加延迟和复杂度。总开销大概会达到 15 到 25 ms——对实时使用来说太慢了。

串流管线中的超分辨率不只是一个 AI 问题。它是一个系统工程问题。而系统工程需要原生代码。

这就是为什么在构建 Remio 的两年里,没有任何基于 Electron 的远程桌面发布过 AI 放大功能。不是他们不想。是架构不允许。

技术挑战,以及我们如何解决

我们不会假装这很容易。确实有真正的挑战。

模型延迟。在 60 fps 下,模型必须在每帧 3 ms 以内完成运行。这给臃肿的架构留不出任何余地。我们使用经过优化的卷积模型——不是 Transformer,它们对逐帧推理来说太慢——并专门针对神经网络引擎的执行单元进行了调优。

内容多样性。远程桌面的内容与游戏内容截然不同。文字、电子表格、代码编辑器、视频播放、设计工具——模型都需要应对。我们使用专门包含桌面 UI 元素的数据集来训练,而不仅仅是自然图像。

时间稳定性。逐帧放大可能导致闪烁。游戏行业用时间累积解决了这一点——复用之前帧的信息。我们正在探索类似的技术,把视频编解码器的运动矢量输入到放大模型中。

能效。在手机上每秒运行 60 次神经网络,听起来代价很高。但神经网络引擎正是为此设计的——在矩阵运算上它比 GPU 更省电。早期的实验室原型显示,耗电只有个位数百分比的小幅增加。

坦率的挑战:为什么这比游戏更难

我们谈到 DLSS 和游戏超分辨率时,把它们当作灵感来源——确实如此。但出于对事实的诚实,我们必须解释为什么远程桌面放大从根本上是一个更难的问题。

游戏中的 DLSS 有不公平的优势。游戏引擎为 AI 提供了我们这个世界里不存在的丰富数据:

换句话说,游戏超分辨率是带有丰富辅助数据的有引导的重建。远程桌面放大则是从有损压缩视频中进行的盲超分辨率——起点难得多。

这并不意味着这种方法是错的。即使在较低码率下画质只有小幅提升,也能带来实实在在的带宽节省。但我们想坦诚说明:盲放大的画质上限,低于 DLSS 在深度集成引擎后能达到的水平。我们在构建的是真正有用的东西,而不是声称与另一种技术平起平坐。

这对你意味着什么

当 AI 超分辨率在 Remio 中发布时,你不需要去想它。没有开关,没有设置,没有“AI 模式”。应用会自动:

在高速连接上,它也许根本不需要放大。在慢速连接上,它将是“无法使用”与“感觉就像坐在自己的电脑前”之间的区别。

这就是目标。不是需要你去想的 AI。而是默默地、私密地、在你已经拥有的设备上,让一切运转得更好的 AI。

我们现在正在探索它——不承诺发布日期——同时也在探索 AI 能把远程桌面带向何方的其他想法。只有当它能让文字比它所取代的串流更清晰时,才会发布。

少传输,多看见。这就是未来。

✦常见问题

常见问题解答

超分辨率能节省多少带宽?
这是我们追求的目标:如今一路 4K 串流通常需要约 12 Mbps,而以 1080p 编码再配合设备端放大,也许能以其零头的带宽提供相近的主观画质。在实验室数据站得住之前,什么都不会发布。
设备端超分辨率会增加明显的延迟吗?
我们设计的预算是在现代 Apple 芯片和近期骁龙 NPU 上每帧几毫秒——只占 60 fps 串流帧间时间的一小部分。如果某个原型守不住这条线,它就不会发布。
为什么这只有原生应用才能做到?
实时放大需要直接访问神经网络引擎或 NPU,并通过 Metal 或 Vulkan 实现零拷贝的 GPU 集成。浏览器和 Electron 技术栈无法在所需的时间预算内访问这些 API。
我的屏幕内容会被发送到任何云服务器吗?
不会。设计严格限于设备端:应用内置一个小模型,每次推理都在本地完成。任何帧、嵌入向量或模型轨迹都不会离开你的设备。
这会耗尽我的电池吗?
在矩阵运算上,神经网络引擎比 GPU 省电得多。早期的实验室原型显示,60 fps 下耗电只有个位数百分比的小幅增加,而且往往会被更小的串流带来的解码和射频开销降低所抵消——只有这一点继续成立,才会发布。
这和 NVIDIA DLSS 一样吗?
它受 DLSS 启发,但技术上更难。DLSS 会从引擎读取运动矢量和深度。我们只能依赖压缩后的视频——也就是盲超分辨率。潜在的节省是真实的;画质上限则更低。
Remio 应用图标

亲自试试这个基础

Remio 免费,每个平台都是原生应用,并且端到端加密。将来承载 AI 超分辨率的同一套低延迟管线,此刻正在运行。

免费使用设备端 AI从设计上保护隐私