Li a notícia da encíclica 'Magnifica Humanitas' do Papa Leão XIV e a frase que mais ficou foi a que diz que a tecnologia não deve ficar concentrada nas mãos de poucos. Não é uma condenação da IA em si, mas um alerta sobre quem controla os modelos, os dados e as decisões que eles produzem.
O que a encíclica realmente destaca
O documento, assinado em 15 de maio de 2026, trata de dignidade humana, trabalho, decisões automatizadas e uso militar. O Papa repudia a ideia de que algoritmos possam tornar a guerra moralmente aceitável e pede frameworks legais com supervisão independente. O evento de apresentação contou com a presença de Christopher Olah, da Anthropic, o que mostra que o Vaticano está conversando diretamente com quem constrói os sistemas mais avançados.
O ponto central não é proibir, mas garantir que a IA sirva ao bem comum em vez de lucro ou poder concentrado. Isso inclui proteção de dados, segurança de crianças, direitos dos trabalhadores e acesso equitativo. A advertência sobre armas autônomas que escapam ao controle humano é o exemplo mais dramático, mas o mesmo princípio vale para sistemas de crédito, recrutamento ou diagnóstico médico que operam sem transparência.
A intenção é nobre e as preocupações são válidas. Mas é apenas uma carta, e escrever é fácil. Difícil será equilibrar a balança economica. Um desafio que nós, como humanidade, teremos que superar.
Para quem desenvolve, o que muda na prática
Quando escolhemos modelos fechados de poucas empresas, estamos reforçando exatamente a concentração que o Papa critica. A alternativa não é rejeitar tudo, mas avaliar com critério: o modelo permite fine-tuning local? Os dados de treinamento são auditáveis? Existe fallback humano claro quando o sistema erra? Já vi projetos bonitos morrerem porque a dependência de uma única API criou risco operacional que ninguém queria assumir.
Regulação vem, mas um artigo meu aqui no portal já avisava que leis escritas para a tecnologia de ontem perdem validade rápido. O caminho mais sólido é construir sistemas que sejam mais difíceis de capturar por poucos atores. Isso significa priorizar pesos abertos quando possível, arquiteturas que permitam rodar em infraestrutura própria e avaliações que não dependam só de benchmarks de laboratório.
O Papa não está pedindo que paremos de inovar. Está pedindo que paremos de tratar o humano como meio para otimizar métricas. Para engenheiros e CTOs, isso se traduz em uma pergunta simples antes de cada deploy: quem perde o controle se esse sistema falhar ou for manipulado?