Hoje de manhã, eu estava revisando um log de testes de um LLM para um projeto interno e me peguei rindo de um erro previsível. O modelo escreveu um raciocínio impecável até a penúltima linha e, na hora da conclusão, inverteu a lógica completamente. Ele não fez isso porque é falho de propósito. Fez porque a palavra incorreta era uma predição mais assertiva naquele contexto de vizinhança de tokens. A inteligência do modelo escorregou na casca de banana da própria previsão.

Esse é o teto de vidro da predição do próximo token (next-token prediction). Nós treinamos matrizes preditivas bilionárias e agora queremos que elas operem pacientes, aprovem crédito e comandem tropas. A conta não fecha. Quando a inteligência é puramente preditiva, ela imita o pensamento instintivo, mas não possui a âncora simbólica da realidade.

Dois preprints recém-saídos do forno expõem essa falha estrutural. A equipe de Sydney Johns, pesquisadora da Virginia Tech, propôs o ARMOR 2025, um benchmark focado no uso de LLMs em contextos militares. Eles testaram 21 modelos comerciais contra a Lei da Guerra e as Regras de Engajamento, usando o framework OODA (Observe, Orient, Decide, Act). O resultado mostra que os modelos falham no alinhamento básico de segurança militar. Para um LLM, o princípio da proporcionalidade em um conflito não é uma fronteira rígida; é apenas um aglomerado de textos que ele leu em manuais desidratados de contexto. Ele não compreende a lei, ele prevê a continuidade textual da lei.

A medicina sofre do mesmo mal. Yichi Zhang e sua equipe de pesquisadores em inteligência artificial nas instituições Tsinghua e Cambridge apresentaram o GLEAN. O objetivo do projeto é forçar agentes de IA a seguir diretrizes clínicas em diagnósticos de alto risco no dataset MIMIC-IV. A solução que eles encontraram foi tirar a decisão final do LLM nu e empilhar uma regressão logística bayesiana para calibrar a certeza do modelo a cada passo. Quando a IA hesita, o sistema aborta a predição e aciona uma verificação humana. Já abordamos aqui como camadas determinísticas são a única defesa real em ambientes hospitalares.

Esses dois papers assumem a mesma premissa: o modelo fundacional não é confiável por design. Quando escrevi "Engenharia de Prompt para Devs", eu deixei claro que técnicas como Chain-of-Thought ou Few-Shot são tentativas de ancorar a previsão à lógica. A cadeia depensamento estimula o raciocínio articicial, mas para funcionar bem precisa estar somada à regras rígidas determiníisticas. Nós usamos palavras para amarrar os pesos do modelo. Mas o prompt tem limites. A IA não consegue parar de mentir para si mesma se o viés de treinamento for forte demais e empurrar o texto para outra direção.

Na prática corporativa, o cenário é idêntico. Na T2S, quando alocamos profissionais, a primeira diretriz para arquiteturas de software críticas é isolar o modelo. Se o sistema aprova uma apólice de seguro ou sugere o desligamento de uma máquina industrial, a saída do LLM precisa colidir com um motor de regras de negócios inegociável. O LLM extrai as entidades e interpreta a intenção; o código tradicional, duro e determinístico, aprova a ação.

A "intuição" preditiva dos modelos atuais é fascinante para sumarizar textos, gerar boilerplate de código ou traduzir idiomas. Mas a lógica estrita exige símbolos e fronteiras matemáticas que não aceitam aproximações. Talvez a pergunta da década não seja qual LLM vai raciocinar primeiro por conta própria. A pergunta é por quanto tempo ainda vamos insistir que uma probabilidade de 99% é sinônimo de verdade absoluta.

Se você lida com essas limitações no seu código ou no seu negócio, me chame para conversarmos. Você me encontra em todas as redes através do meu Linktree.