✦AI

AI 智能体也需要屏幕:为什么远程桌面是缺失的那一块。

我们打造 Remio,并不是为了 AI 智能体。但我们越是研究智能体需要什么——能看到真实屏幕的眼睛,能敲击真实键盘的手,以及它们之间一条安全的隧道——就越觉得,远程桌面恰恰是一直以来缺失的那个界面。

AI 使用电脑的时代

过去一年里,AI 世界发生了一件根本性的变化。语言模型不再只是文本生成器。它们开始使用电脑了。

Anthropic 推出了 Claude Computer Use。OpenAI 的智能体可以浏览网页。Google 的 Gemini 能与 Android 交互。趋势再明显不过:AI 智能体越来越需要查看屏幕、点击按钮,并在真实的应用里输入内容。

但这里有个没人谈论的问题:AI 智能体究竟要怎样才能接触到一台电脑?

智能体需要屏幕的地方

在谈基础设施之前,先看看工作本身。人们让智能体做的大多数事情,并不是一次整洁的 API 调用。而是一整屏的状态,一张带有条件字段的表单,一个不通过 HTTP 暴露你所需内容的应用。智能体需要一双眼睛。如今,在大多数技术栈里,它是在黑暗中摸索。

01报税

智能体需要看到多页表单的第 12 行,为申报身份选对下拉选项,并在提交前核对合计是否已更新。底层的税务软件没有公开的 API——图形界面就是接口。

远程桌面展示实时的表单。智能体读取各个字段、填写,并在点击提交之前,看着运行中的合计数更新。

02预订复杂的行程

多个网站,不同的布局,取决于库存的日期,一个在这个网站会自动填写、在那个网站却不会的会员号。API 能覆盖其中一部分——但永远覆盖不全。

远程桌面让智能体用上人类会用的同一个浏览器。它跨标签页比较结果,并在付款前在屏幕上确认最终价格。

03审阅合同

PDF 存放在一个带有修订追踪、红线标注和批注的桌面应用里。智能体需要读取页边空白、跟进行内批注,并提出律师可以接受或拒绝的修改。

远程桌面把文档按律师看到的样子串流出来。智能体做批注,律师签字确认,全都在同一个视图里完成。

04调试浏览器里的编辑器

一个 bug 只有在 Figma 里画布处于某个缩放比例、并且运行了某个特定插件之后才会出现。没有任何无头工具能复现它。智能体必须看到工程师看到的东西。

远程桌面把实时的编辑器交给智能体。它复现步骤,捕获出问题的那一帧,并为团队提交一份干净的复现报告。

现有的做法,以及它们为什么不够好

目前,需要与图形界面交互的 AI 智能体,选择有限:

每种做法都有同一个根本局限:它们不是为此而设计的。浏览器自动化只在浏览器里有用。虚拟机是昂贵的沙盒。本地 SDK 引发安全担忧。

如果有一套早已建成的基础设施,专门用来让一个主体安全地、实时地、通过任何网络去查看和控制另一台电脑,会怎样?

远程桌面,就藏在眼前

想想远程桌面实际做了什么:

再想想 AI 智能体使用电脑需要什么:

这是同一个循环。远程桌面的本质,恰恰就是 AI 智能体所需要的界面层。

智能体需要一双眼睛。如今,在大多数技术栈里,它是在黑暗中摸索——而远程桌面,就是让它终于能看见的那一层。

为什么 Remio 的架构格外合适

并非每个远程桌面都为此做好了同样的准备。大多数远程桌面是为盯着屏幕的人类打造的,而不是为以毫秒级间隔发出命令的、由 API 驱动的智能体。Remio 恰好已经具备了合适的部件。

原生输入注入

Remio 不会通过辅助功能的取巧办法或虚拟键盘来模拟输入。它使用操作系统自己的输入管线,进行精确的、原生级别的鼠标和键盘注入。操作系统分不出人类和 Remio 之间的差别。AI 智能体继承了这同一项能力。

屏幕截图捕获

Remio 主机已经能捕获屏幕,最高 6K 120 FPS,并且能按需交付单独的帧。AI 智能体不需要完整的帧率——它每个动作只需要一张干净的截图,而且要送得快。当捕获管线本来就在运行时,这轻而易举。

为速度而设计的协议

客户端和主机之间的每一条命令,都通过一种零拷贝的二进制格式传输,解析耗时不到一毫秒。当 AI 智能体发出“在 (500, 300) 处点击”时,这条命令的解析和执行开销可以忽略不计。没有 JSON 解析,没有 XML。

直接的加密连接

一切都在两台设备之间端到端加密——默认点对点直连,只有在你的网络需要时才使用加密中继。智能体的命令和屏幕数据从不会以可读的形式经过我们的服务器;就连中继看到的也只是密文。当智能体在与你真正的工作电脑、你的文件、你的应用交互时,这一点非常重要。

启动应用

Remio 已经能为已连接的客户端在主机上启动应用。一旦有了面向智能体的 API,智能体就可以说“打开终端”,让 Remio 来完成——而不必重新发明早已建好的应用启动管道。

它可能是什么样子

想象这样一个工作流:

你对 Claude 说:“去我的 Mac 上,用 Excel 打开财务报告,用这些数据更新第四季度的数字,导出为 PDF,然后用邮件发给团队。”

Claude 通过 Remio 的 API 连接到你的 Mac。它看到你的桌面。它打开 Excel。它找到正确的文件。它更新单元格。它导出。它打开邮件。它发出邮件。每一步都看得见、可审计,并且端到端加密。

没有虚拟机。没有只限浏览器的局限。你真正的电脑,你真正的应用,你真正的文件——由 AI 通过一条早已存在的安全隧道来控制。

最难的部分已经完成

打造一个可靠的远程桌面,需要数年的工作。屏幕捕获管线。视频编码。能应对每一种操作系统怪癖的输入注入。穿过家用路由器和防火墙的点对点直连。加密。延迟优化。

这一切在 Remio 里都已经存在。面向智能体的平台并不需要是从零开始打造的新产品——它会是对已有基础设施的一个新界面。不再是人在看屏幕,而是 AI 智能体来处理这些画面。不再是人在移动鼠标,而是由一次 API 调用发送坐标。

还需要打造的,是 API 层本身:一个干净的、带身份验证的接口,让 AI 智能体可以连接、请求截图、发送命令并接收结果。这一层目前还不存在。这是有分量的工程,但相比底层基础设施的复杂度,它只是一小部分。

一份坦诚的评估

我们在这方面还处于早期研究阶段。确实存在一些挑战:

我们并不假装这些问题已经解决。但基础设施的根基——那个困难的部分——已经在那儿了。

无意中成形的平台

我们打造 Remio,并不是为了 AI 智能体。但回头看我们已经做出来的东西——原生输入注入、实时屏幕捕获、直接的端到端加密连接、为速度调校的二进制协议——很难想象还有比这更适合 AI 使用电脑的基础。

有时候,最好的产品来自意想不到的交汇。远程桌面技术和 AI 智能体,表面上并不显得应该走到一起。但你越是看清双方各自需要什么,这种结合就越显得是必然。

AI 智能体需要屏幕。Remio 提供屏幕——安全、原生、实时、通过任何网络。缺失的那一块一直都在。我们只是不知道它缺的是用来干什么的。

我们正在积极探索这个领域。如果你正在打造需要与真实电脑交互的 AI 智能体,我们很乐意听到你的想法。未来也许会比我们任何人预料的都来得更快。

Remio 应用图标

亲自试试这个基础。

Remio 免费,在每个平台上都是原生的,并且端到端加密。不到一分钟就能设置好,感受一下真正的低延迟远程桌面是什么样子。

免费使用无需账号30 秒完成配对