O relatório State of Application Strategy 2026 da F5, com 1.100 líderes de TI e cibersegurança, aponta que 78% das grandes empresas executam inferência de IA em infraestrutura própria, seja on-premises ou híbrida. A média é de sete modelos rodando simultaneamente. Apenas 8% dependem exclusivamente de provedores públicos.

O número chama atenção porque não é sobre treinar modelos. É sobre rodar inferência em escala. Quando a inferência vira a atividade dominante, 77% dos respondentes assim a veem, o gargalo deixa de ser capacidade de computação e passa a ser governança, latência e custo por token em produção.

Por que o in-house está ganhando

Não é só privacidade. É custo de inferência em nuvem que escala linearmente com uso e a perda de controle sobre dados sensíveis que alimentam os modelos. Quando uma empresa já opera em multicloud e arquiteturas híbridas, 93% e 86% dos casos no estudo, adicionar mais uma camada de dependência externa aumenta o risco operacional.

88% das organizações já enfrentaram incidentes de segurança ligados diretamente à IA. A camada de prompt aparece como principal mecanismo de entrega para 29%, token para 23%. Isso mostra que o problema não é só onde o modelo roda, mas como ele é exposto e monitorado.

O contraponto que ninguém quer admitir

Manter inferência própria exige um custo altíssimo em hardware, custo esse que inclusive é proibitivo no mercado Brasileiro. Para rodar um modelo de fonteira, uma empresa precisa adquirir e operar um cluster de pelo menos dez H100 da NVidia, a um custo de centenas de milhares de reais cada uma. Exige também uma equipe que saiba operar, monitorar e evoluir modelos em produção para, no final, atender pouquíssimas requisições simultâneas com janela de contexto baixa. Para ser financeiramente viável, é preciso uma escala altíssima. O que as empresas estão fazendo, na prática, é hospedar modelos pequenos e com menor capacidade, ou desperdiçando recursos investindo na tecnologia muitas vezes sem a menor noção do que estão fazendo.

E mesmo assim, a média de sete modelos pequenos simultâneos não é trivial. Exige MLOps maduro, pipelines de avaliação contínua e gente que entenda o que acontece quando o modelo deriva.

Muitas empresas que hoje celebram a decisão de trazer tudo para dentro vão descobrir que o custo não some: ele migra do provedor para a folha de pagamento e para o tempo de engenheiros que agora precisam ser especialistas em inferência, não só em modelagem.

Felizmente, existem muitas possibilidades. É possível ter segurança e privacidade mesmo na nuvem, usando VPNs, alugando GPUs ou contratando modelos de pesos abertos em provedores seguros, que não fazem retenção de dados. Na T2S, temos um modelo híbrido. Preocupados com sigilo e confidencialidade, usamos o Relpz desde 2023 para disponibilizar modelos de qualidade e seguros aos nossos colaboradores. Em projetos especiais, usamos hospedagem de GPUs ou TPUs em VPNs para hospedar modelos de pesos abertos de forma privada e garantir compliance em situações específicas.

O que isso muda na prática e na sala de aula

Para quem decide arquitetura em 2026, a pergunta deixa de ser “qual modelo é mais barato na nuvem?” e vira “qual modelo consigo manter, avaliar e corrigir internamente com a equipe que tenho?”.

Na Fatec, isso já aparece nas discussões com alunos. O currículo de Machine Learning precisa sair do foco exclusivo em treinamento e incluir, de forma concreta, o que significa colocar sete modelos em produção, monitorar eficiência e gerenciar identidade para agentes. Caso contrário, formamos gente que sabe treinar, mas não sabe manter.

98% das empresas dizem estar se preparando para a era agêntica. 77% esperam problemas sérios de gerenciamento de identidade com agentes. Se a inferência já é complexa hoje, imagine quando cada agente for um conjunto de chamadas de modelo com estado próprio.