✦Upscaling neural · em exploração

Uma ideia no laboratório — pixels mais nítidos, um dia.

Estamos explorando se um modelo no próprio dispositivo poderia reconstruir texto e bordas mais nítidos a partir de uma transmissão com bitrate menor, rodando inteiramente na NPU do seu dispositivo — nunca na nuvem. Nada foi lançado ainda e não prometemos uma data. Esta é a ideia, e o que já mantém uma sessão do Remio nítida hoje sem nada disso.

✦A ideia

Por que o texto transmitido fica borrado, e por que acreditamos que o upscaling poderia ajudar.

Os codificadores de vídeo clássicos são ajustados para movimento, não para as bordas finas e de alto contraste de que são feitos o texto e os elementos da interface. Quando a banda aperta, essas bordas são a primeira coisa a se perder — isso é só como a compressão de vídeo funciona, em qualquer área de trabalho remota, não apenas no Remio.

Uma transmissão de área de trabalho remota sofre duas perdas de compressão antes de chegar aos seus olhos. Primeiro, o host reduz a resolução quando a resolução de origem supera o que o seu cliente consegue exibir — um MacBook Pro M4 de 14" como host a 3024 por 1964, transmitido a um iPad mini a 2266 por 1488, já abriu mão de cerca de um terço dos pixels antes de o codificador ver o quadro. Segundo, o próprio codificador aplica compressão com perdas para caber no bitrate que a rede consegue transportar. As duas etapas descartam detalhes de alta frequência — exatamente o que separa um caractere nítido de uma mancha borrada.

A ideia que estamos explorando é uma etapa de recuperação de qualidade que rodaria no cliente depois da decodificação: olhar para o quadro descomprimido e prever o conteúdo de alta frequência que o quadro original tinha antes de ser reduzido e espremido pelo codificador. Ao contrário do upscaling bilinear ou bicúbico clássico — que só consegue interpolar a partir dos pixels que já existem —, uma rede neural treinada pode aprender como bordas, letras e formas de interface se parecem em resolução total, e reconstruir detalhes que uma interpolação simples não recupera.

Se funcionar como esperamos, o efeito seria mais visível exatamente onde você mais precisa: texto corrido em corpo 11, código em fonte monoespaçada, linhas finas em um arquivo do Figma, contornos de botões em uma barra lateral. São os casos em que alguns pixels borrados fazem a diferença entre “legível” e “preciso chegar mais perto”. Essa é uma lacuna real do que qualquer codificador ajustado para movimento consegue fazer sozinho — e é justamente por isso que vale o tempo de pesquisa para descobrir se um modelo no dispositivo consegue fechá-la.

Ainda não chegamos lá. Hoje, a resposta honesta para “como manter uma sessão nítida em uma conexão ruim” é o mecanismo de bitrate adaptativo do Remio — ele já lê a sua rede e escolhe a faixa que mantém a imagem tão nítida quanto a conexão permite, sem picos de lag. O upscaling neural seria uma camada adicional por cima disso, não uma substituição.

✦Por que ser nativo nos dá uma vantagem

Um cliente nativo de verdade, não uma web view embrulhada.

Todo cliente do Remio é um app 100% nativo na sua plataforma — sem Electron, sem sandbox de navegador no meio. É por isso que ele já conversa diretamente com os mesmos frameworks de hardware de que um modelo de upscaling neural precisaria: Core ML e o Neural Engine no Apple Silicon, NNAPI em dispositivos Android com NPU dedicada. Se construirmos isso, ele se encaixa em uma arquitetura que já existe para captura, codificação e decodificação — sem desvio pela nuvem, sem um runtime separado para acoplar.

Esse é todo o motivo de o processamento no dispositivo ser a única versão desta ideia que consideraríamos. Uma ida e volta à nuvem acrescentaria uma latência que a filosofia de zero buffer do Remio não aceita — então qualquer modelo que lançarmos tem de rodar localmente, ou não é lançado.

O cliente nativo do Remio para iPhone transmitindo a área de trabalho de um Mac

No Apple Silicon — todo Mac da linha M, iPad Pro, iPad Air e iPhone Pro recente — o Core ML pode direcionar um modelo compilado para o Neural Engine, um coprocessador dedicado ao lado da CPU e da GPU no mesmo chip, feito para as multiplicações de matrizes pequenas e repetitivas em que as redes neurais passam a maior parte do tempo, com uma fração da potência que a GPU usaria. É um alvo capaz e eficiente para exatamente o tipo de modelo que esta ideia exigiria — só que ainda não está ligado.

No Android, o NNAPI oferece aos dispositivos compatíveis — Pixel com Google Tensor, celulares Galaxy e OnePlus recentes — o mesmo tipo de direcionamento para uma NPU em hardware. Nas duas plataformas, os dispositivos mais antigos sem uma NPU rápida o bastante simplesmente voltariam a decodificar em 1:1, como o Remio se comporta hoje em todo lugar: ele nunca trava a transmissão esperando um hardware que não existe.

Nada disso é uma promessa de data de lançamento. É o motivo de acharmos que vale a pena pesquisar — o pré-requisito arquitetural difícil já existe, o que é um ponto de partida realmente incomum para um recurso como este.

✦Nosso critério para lançar

O que precisaríamos provar antes de lançar.

Não vamos acoplar um recurso de IA só porque “IA” vende. Estas são as perguntas honestas para as quais precisaríamos de boas respostas antes.

Ele supera claramente o que já temos? O mecanismo de bitrate adaptativo do Remio já lê a sua conexão e escolhe a faixa que mantém a imagem tão nítida quanto a rede permite. Um modelo neural só merece o seu lugar se recuperar detalhes além dessa base por uma margem que as pessoas realmente percebam — não uma vitória de benchmark que desaparece na distância normal de visualização.

Ele custa bateria de forma significativa em um celular ou tablet? Rodar qualquer modelo em cada quadro decodificado, durante toda a sessão, tem um custo real de energia. Queremos que esse custo seja pequeno o bastante para ninguém precisar pensar nele — ou um comportamento “Automático” claro e honesto, que só gasta bateria quando há algo que valha a pena recuperar, com um botão de desligar de verdade para quem preferir não pagar esse custo.

Ele continua honesto sobre o que está fazendo? Um modelo que reconstrói detalhes plausíveis a partir de pixels comprimidos faz algo diferente de um modelo que inventa conteúdo que nunca existiu. Em uma área de trabalho remota, onde o que você vê precisa corresponder ao que de fato está no host, essa distinção não é um luxo — é todo o modelo de confiança. Qualquer coisa que lançarmos teria de reconstruir, nunca alucinar.

Enquanto não pudermos responder às três perguntas com números reais, não com projeções, isto continua sendo uma ideia de pesquisa nesta página — não uma opção no app.

✦Real hoje

O que já mantém a imagem nítida — sem precisar de IA.

Você não precisa de um projeto de pesquisa para ter uma sessão do Remio nítida hoje. Quatro peças de engenharia simples, já em produção, fazem o trabalho.

Codec
H.265 em hardware, de ponta a pontaa codificação e a decodificação rodam em silício dedicado, com H.264 como alternativa
Bitrate
Adaptado à sua redelê o tempo de ida e volta e escolhe a faixa que continua nítida sem picos de lag
Tela
Do tamanho da sua janelauma tela virtual que corresponde ao canvas do seu cliente, não uma cópia espremida do monitor do host
Renderização
Zero buffertodo quadro desenhado é o mais recente disponível — um pacote perdido é reenviado se ainda puder chegar a tempo; caso contrário, é pulado em favor de um quadro novo, nunca um replay de quadros velhos

H.265 em hardware de ponta a ponta significa que o codificador no host e o decodificador no seu cliente rodam em silício de vídeo dedicado, não na CPU — o mesmo motivo de um vídeo 4K rodar sem engasgos em um celular que travaria tentando decodificá-lo em software. Essa folga é o que permite ao Remio manter detalhes em um bitrate que um codec em software não sustentaria.

O mecanismo de bitrate adaptativo é a peça que faz o trabalho real que o upscaling neural está sendo explorado para ajudar: ele mede a sua conexão no início de uma sessão e escolhe a maior faixa de bitrate que essa conexão sustenta sem picos de lag, em vez de deixar a transmissão passar fome em silêncio. Leia como funciona a qualidade adaptativa →

A tela virtual e o renderizador de zero buffer completam o conjunto. Como a tela que o Remio transmite tem exatamente o tamanho da sua janela, e não o do monitor inteiro do host, você nunca olha para uma cópia reduzida de algo maior. E como o renderizador sempre desenha o quadro decodificado mais recente — descartando os antigos em vez de correr atrás deles —, nada do que você vê está velho quando chega à sua tela. Com as quatro peças juntas, a maioria das sessões nem chega a precisar de uma etapa de recuperação de qualidade.

✦O que não lançaremos

Princípios aos quais submeteríamos isto, se um dia o lançarmos.

O marketing de IA generativa criou a expectativa de que “aprimoramento por IA” significa inventar detalhes. Antes de colocar um modelo assim no Remio, ele teria de passar por uma lista curta e honesta.

Ele não alucinaria interface ausente. Se um botão aparece cortado na borda da transmissão porque o codificador descartou uma região, um modelo que inventa o resto do botão não tem lugar em uma área de trabalho remota. Você precisa confiar que o que vê no iPad corresponde ao que de fato está no host — um modelo generativo que preenchesse conteúdo que nunca existiu quebraria essa confiança, então só lançaríamos um modelo que reconstrói a partir de pixels realmente codificados, nunca um que inventa.

Ele não afirmaria aumentar a taxa de quadros. A taxa de quadros no Remio é definida pela taxa de captura do host e pela capacidade da rede de entregar os quadros a tempo — isso é trabalho do renderizador de zero buffer que já está em produção, não de um upscaler. Qualquer modelo que construíssemos produziria um quadro mais nítido por quadro decodificado, nada além disso.

Ele não seria vendido como correção para a reprodução de vídeo no host. Se você está assistindo a um filme no seu Mac remoto, o que é transmitido é o que o decodificador de vídeo do próprio host renderizou — na resolução do host. Uma etapa de recuperação de qualidade na transmissão não melhora uma fonte que o host já produziu; para uma reprodução de filmes mais nítida, o conselho honesto continua o mesmo de hoje: reproduza no dispositivo cliente, não no host.

E nunca seria vendido como substituto de uma boa rede. Uma conexão direta na rede local sempre será mais nítida do que uma conexão WAN limitada com qualquer quantidade de upscaling por cima — o mecanismo de bitrate adaptativo que o Remio entrega hoje já dá a melhor imagem que a sua conexão real sustenta. Qualquer coisa que construirmos aqui seria um seguro adicional para redes ruins, não um substituto para uma boa.

✦Perguntas frequentes

Dúvidas comuns

Perguntas que surgem sobre o upscaling neural no dispositivo — respostas honestas abaixo.

O upscaling neural no dispositivo está disponível no Remio hoje?
Ainda não. É uma direção de pesquisa que estamos explorando, não um recurso que você possa ligar, e não prometemos data de lançamento. O que já mantém uma sessão do Remio nítida hoje é engenharia simples: H.265 em hardware de ponta a ponta, um mecanismo de bitrate adaptativo que lê a sua rede e escolhe a faixa certa, uma tela virtual com exatamente o tamanho da sua janela e um renderizador de zero buffer que sempre mostra o quadro mais recente.
Se vocês construírem isso, alguma parte sairia do meu dispositivo?
Não. Os clientes do Remio são apps nativos com acesso direto aos frameworks de hardware do dispositivo — Core ML e o Neural Engine nas plataformas Apple, NNAPI nas NPUs do Android. Qualquer modelo que lançarmos rodaria como tudo o mais no Remio já roda: localmente, no seu dispositivo, sem que nada extra saia para processamento na nuvem.
Por que explorar isso em vez de simplesmente lançar?
Porque ele precisa superar claramente as alavancas que já temos. O mecanismo de bitrate adaptativo do Remio já escolhe a faixa mais nítida que uma conexão sustenta, então um modelo teria de provar que acrescenta nitidez real e visível além disso — e sem um custo significativo de bateria em celulares e tablets — antes de merecer um lugar no app.
O que mantém texto e código nítidos no Remio agora?
Quatro coisas que já estão em produção. Codificação e decodificação H.265 em hardware de ponta a ponta, com H.264 como alternativa. Um mecanismo de bitrate adaptativo que lê o tempo de ida e volta e escolhe a faixa que mantém a imagem nítida sem picos de lag. Uma tela virtual com exatamente o tamanho da janela do seu cliente, não uma cópia espremida do monitor do host. E um renderizador de zero buffer — todo quadro desenhado é o mais recente disponível, então nada fica borrado esperando em uma fila.
Vocês avisarão quando isso for lançado?
Sim. Esta página e a página geral de IA acompanham o status real de cada capacidade — em exploração ou lançada. No momento em que o upscaling neural for real e verificável, as duas páginas mudam para dizer isso, com a mesma honestidade. Até lá, ele continua rotulado como o que é: uma ideia em pesquisa.
Ícone do app Remio

Rápido e nítido hoje. Explorando formas de deixar ainda mais nítido.

Instale o Remio para ter transmissão H.265 em hardware de ponta a ponta, um mecanismo de bitrate adaptativo que lê a sua rede e uma tela virtual com exatamente o tamanho da sua janela — tudo já em produção. O upscaling neural no dispositivo ainda é uma ideia de pesquisa nesta página; sem datas prometidas, e esta página dirá isso com honestidade no momento em que isso mudar.