Thomas King
Acredite ou não, atualmente apenas 16% das pessoas em todo o mundo utilizam IA, de acordo com o 2025 AI Diffusion Report da Microsoft. É claro que este número é global e, em alguns países, a percentagem é muito mais elevada. O crescimento da utilização nos últimos três anos tem sido significativo. Um relatório sobre a utilização de IA em 14 países da OCDE revelou que, no final de 2025, quase 40% dessas populações eram utilizadores ativos de IA generativa, com uma adoção mais elevada entre os 18 e os 35 anos. Contudo, este crescimento irá parecer insignificante face à vaga de inferência de IA que irá chegar em 2027.
Em breve, cada dispositivo e aplicação serão melhorados com IA. Isto significa não apenas os dispositivos utilizados por cada homem, mulher e criança – os seus computadores portáteis, tablets, smartphones e wearables –, mas também o vasto ecossistema da IoT, desde a casa inteligente às fábricas totalmente automatizadas (dark factory), passando pelos veículos autónomos, logística e os casos de uso na agricultura e na saúde. A Morgan Stanley Research estima 2,9 biliões de dólares americanos em CAPEX global para centros de dados entre 2025 e 2028. O atual crescimento da construção está a mostrar-nos claramente a trajetória do alcance futuro da IA.
Enquanto grande parte do entusiasmo, até agora, se tem centrado na construção de hyperscalers para o treino de IA, a vaga que se avizinha em aplicações e no mundo real será a inferência de IA. A McKinsey prevê que a inferência será a carga de trabalho dominante nos centros de dados de IA até 2030, enquanto a Precedence Research prevê que o tamanho do mercado global de Inferência de IA como Serviço (AI Inference as a Service) irá crescer a uma taxa de crescimento anual composta (CAGR) superior a 25% e atingir um volume próximo de 200 mil milhões de dólares americanos até 2035.
Um fator de mudança para as neoclouds
Esta nova vaga de inferência de IA muda as regras do jogo para fornecedores de GPU como Serviço (GPU as a Service), como as neoclouds. Embora o treino de IA possa ser centralizado em locais remotos onde a energia e os terrenos são abundantes e os dados podem ser transportados, a inferência requer uma interação em tempo real com os utilizadores finais, sejam eles dispositivos, utilizadores individuais ou clientes empresariais. A proximidade e a baixa latência tornam-se fundamentais para que a inferência possa criar a experiência de utilização esperada.
Já vimos anteriormente uma procura semelhante por redes de baixa latência com os conteúdos de vídeo em tempo real, e sabemos que a distribuição em escala de conteúdos com recurso a computação edge oferece a resposta. Por isso, é claro que a computação edge tornar-se-à vital para atingir o desempenho da inferência em escala. E a conetividade voltará a ser o elemento catalisador. As redes de distribuição de conteúdos (CDNs) – como a Akamai, CloudFlare, Fastly e G-Core Labs – irão entrar no mercado da inferência e aplicar as lições que aprenderam na distribuição de conteúdos. Algumas já o fizeram e estão a desenvolver uma concorrência adicional para as neoclouds, além dos hyperscalers.
Para as neoclouds garantirem que conseguem uma fatia da ação na vaga de inferência que se avizinha, precisam de começar a pensar como operadores de rede.
Até agora, a conetividade tem desempenhado um papel secundário na arquitetura das neoclouds. Um estudo da Omdia Informa TechTarget mostra que mais de 50% das neoclouds ainda não utilizam pontos de troca de tráfego (peering exchanges) e 20% dependem de um único fornecedor de tráfego, arriscando um ponto único de falha. A análise da Omdia mostra que um dos poucos pontos de agregação para as neoclouds até agora é o DE-CIX Frankfurt, o maior ponto de troca de Internet, Cloud e IA da Europa e um dos maiores do mundo – que, por si só, suporta 10% da capacidade global de portas IX para neoclouds.
Enquanto os principais hyperscalers e CDNs fazem peering em IXs por todo o mundo, apenas umas poucas neoclouds o fazem: fornecedores como a CoreWeave e a Nebius, por exemplo, estão disponíveis em múltiplos locais na Europa e nos EUA na plataforma DE-CIX. Para as restantes, as suas escolhas de conetividade correm o risco de fazer das suas redes um estrangulamento no desempenho, eficiência e crescimento das receitas à medida que cresce a vaga de inferência.
O imperativo do peering para as neoclouds
Por que razão o peering é uma parte importante do futuro das neoclouds? A conetividade através de IXs permite que as neoclouds encontrem as redes de que necessitam para a sua própria prestação de serviços de inferência de IA: não apenas as fontes de dados essenciais dos clientes (frequentemente armazenadas nos hyperscalers), mas também o acesso a utilizadores individuais e empresariais. Isto porque IXs consolidados possuem os intervenientes Cloud e as redes de acesso (eyeball networks) de que as neoclouds precisam. Além disso, ao construírem as suas próprias ligações (on-ramps) a plataformas de Cloud e IX de IA, tornam mais fácil aos seus clientes empresariais ligarem-se a elas de forma segura e privada.
A conetividade direta a redes relevantes – em vez de depender do trânsito IP – reduz significativamente a latência entre fontes de dados, modelos de IA e utilizadores. A ligação a pontos de troca como os do DE-CIX ajuda as neoclouds a controlar o seu ambiente de rede – podem ver como e para onde o seu tráfego está a fluir e escolher as rotas mais curtas. Podem também garantir a conformidade com a regulamentação regional, manter a soberania sobre os seus dados e assegurar fluxos de dados fiáveis, previsíveis e de baixa latência, em vez de dependerem de uma experiência de Internet opaca e baseada no “melhor esforço” (best-effort).
O poder da baixa latência
A latência da rede é importante por uma variedade de razões no que diz respeito à IA. Em primeiro lugar, uma latência elevada em relação à infraestrutura de IA implica que os GPUs estejam em repouso enquanto esperam – quer estejam à espera de uma instrução (prompt) do utilizador quer de dados relevantes. Isto leva a uma subutilização e uma ineficiência de custos. A somar a isto, a latência acumula-se sobre si mesma. Milissegundos adicionais somam-se rapidamente se a conetividade de rede não estiver otimizada. Além disso, a adoção de IA Agêntica por parte das organizações está a exercer ainda mais pressão sobre as arquiteturas existentes. Com os agentes a acederem autonomamente a dados, a consultarem modelos e a interagirem com outros agentes a velocidades tremendos, a procura por redes de ultra-baixa latência e definidas por software aumenta massivamente.
Ao utilizarem IXs locais, as neoclouds podem reduzir drasticamente a sua latência ponta a ponta (end-to-end). Eis um exemplo: a Runloop disponibiliza uma latência de rede típica para clusters de IA de 50 a 200 milissegundos (ms). Mas para a inferência, não é necessário um cluster, é necessária uma instalação edge em cada cidade ou região onde os utilizadores estão localizados. Com recurso aos IXs da DE-CIX, a latência pode ser reduzida para menos de um milissegundo dentro de uma área metropolitana. Veja-se o exemplo do DE-CIX Nova Iorque, o maior IX no Nordeste dos EUA e o 3.º maior na América do Norte. O seu alcance geográfico cobre não só a cidade de Nova Iorque, mas estende-se a Long Island, Brooklyn e Nova Jersey, proporcionando conetividade <1 ms em toda esta região. Com isto, uma neocloud pode ter os seus GPUs de inferência configurados numa instalação de colocation em qualquer lugar dentro desta área metropolitana e servir toda a população da região à velocidade da luz – pelo menos, tão rápido quanto a sua própria infraestrutura conseguir gerar tokens. A latência de rede para o utilizador deixa de ser uma preocupação.
Por que motivo o peering se está a tornar um imperativo tecnológico
A NVIDIA refere que “o desafio central da inferência de IA é equilibrar a latência, o custo e capacidade de processamento e que “ao favorecer um, poderá ter de abdicar do valor máximo noutro”. A utilização de IXs trata de uma parte da latência envolvida e reduz o seu impacto na equação. Ao diminuir o Tempo até ao Primeiro Token (Time to First Token – TTFT) e a latência de ponta a ponta para o processamento de IA, os fornecedores podem aumentar o número de tokens gerados por segundo. A Gartner a prevê uma queda de 90% nos custos associados à operação de LLMs até 2030 e as neoclouds podem garantir que não se limitam a apanhar a vaga da inferência de IA, mas que a conseguem navegar com confiança. O peering está, assim, a tornar-se um imperativo tecnológico.
Mas existem outras razões para assumir o controlo da sua conetividade. Uma delas é proteger a rede contra ameaças como os ataques de Negação de Serviço Distribuída (DDoS). Tendo o trânsito IP como única infraestrutura de conetividade, as neoclouds ficam à mercê de ataques DDoS, que inutilizam toda a linha de trânsito, deixam os GPUs em repouso e os clientes frustrados. Com o peering, as redes podem proteger-se contra ataques DDoS. Se uma das redes ligadas sofrer um ataque, esta pode ser isolada e contida, protegendo a conetividade com todas as outras redes e mantendo os GPUs em funcionamento.
Causar impacto com infraestrutura edge
Por isto tudo, as neoclouds precisam de estar bem conectadas em peering e utilizar a infraestrutura edge em muitas localizações – não apenas em locais com alta densidade de rede, como Frankfurt, Londres ou Nova Iorque, mas em todo o lado onde os seus clientes estão a operar. De Barcelona (Espanha), Lisboa (Portugal), Rio de Janeiro (Brasil), do Dubai (EAU) a Dallas (EUA), de Bangalore (Índia) a Estocolmo (Suécia), a fórmula é simples: quanto menor for a latência da rede, mais as neoclouds podem ganhar e mais disruptivo será o seu impacto no mercado.
Os operadores de pontos de troca de Internet (Internet Exchanges) como a DE-CIX – que está a evoluir para um fornecedor de Rede como Serviço (Network as a Service) para conetividade Cloud e IA – oferecem a resposta sobre como as neoclouds podem evoluir as suas redes e modelos de negócio para se destacarem. De acordo com a JLL, a inferência irá ultrapassar as cargas de trabalho de treino muito antes de 2030. A especialista em centros de dados antecipa que, até 2027, as cargas de trabalho de inferência irão igualar o treino e que, até 2030, quase três quartos (72%) de todas as cargas de trabalho de IA serão baseadas em inferência. E o mercado é suficientemente grande para que hyperscalers, CDNs e neoclouds captem todos a sua quota-parte: a ABI Research prevê que, até 2030, as neoclouds possam triplicar as suas receitas apenas com a inferência, o que representará 150 mil milhões de dólares americanos anuais – mas isso só irá funcionar se tiverem sucesso na sua estratégia de conetividade.
Thomas King é Chief Technology Officer (CTO) da DE-CIX
