Em 10 de setembro de 2026, o governador Gavin Newsom sancionou na Califórnia um pacote de 13 leis para proteger menores em redes sociais e chatbots de inteligência artificial, conforme o comunicado oficial do governo estadual. A notícia importa menos pelo número de leis do que pelo alvo escolhido: a Califórnia passou a regular recursos de produto, mecanismos de publicidade e etapas de lançamento. Em vez de ficar apenas em princípios abstratos de segurança, o pacote alcança aquilo que engenheiros colocam no ar. A pergunta deixou de ser somente o que o modelo responde e passou a incluir como a plataforma captura atenção, identifica idade e reage quando a conversa envolve risco.

A Califórnia está regulando o desenho do produto

A AB 1709 proíbe feeds personalizados, identificados pela expressão "For You", além de rolagem infinita e autoplay para usuários menores de 16 anos. A medida ataca recursos que organizam a experiência para prolongar o tempo de uso, não apenas publicações consideradas inadequadas. Isso desloca a discussão para a camada de interface e recomendação, onde decisões de produto costumam ser tratadas como detalhes de crescimento. Para uma equipe técnica, a restrição alcança regras que antes poderiam ser avaliadas apenas por retenção e comportamento de usuário.

Essa escolha também limita o uso de recomendações baseadas em dados pessoais e vem acompanhada de salvaguardas de privacidade mais rigorosas. Uma plataforma que depende de personalização para organizar o feed terá de separar a experiência de menores daquela oferecida a adultos, sem presumir que o mesmo mecanismo serve para todos. A consequência prática é direta: idade, recomendação e publicidade passam a dividir a mesma conversa de arquitetura. Quando o produto depende de maximizar tempo de tela, a Califórnia está dizendo que esse objetivo encontra um limite jurídico quando o usuário tem menos de 16 anos.

Chatbots passam a carregar obrigações específicas

Para os chatbots, a SB 1119 exige verificação de idade, limita a exposição a conteúdos impróprios e restringe publicidade direcionada a menores. Não basta mais apresentar um assistente conversacional como uma interface neutra e deixar toda a responsabilidade na resposta gerada. A identificação do usuário passa a influenciar quais conteúdos podem aparecer e quais mensagens comerciais podem ser exibidas. Isso afeta o fluxo de entrada, as políticas de segurança e a forma como o sistema decide o que fazer quando não tem certeza sobre a idade da pessoa.

O pacote também exige protocolos de segurança para temas de automutilação, obriga o sistema a informar que o interlocutor é uma IA e determina avaliações de risco antes da implementação dos chatbots. São exigências que atingem o produto antes e durante a interação. A equipe precisa saber quais comportamentos serão avaliados, quais respostas acionam proteção e como o usuário será informado sobre a natureza artificial da conversa. Em uma demonstração controlada, essas decisões parecem simples; em um serviço aberto, elas precisam sobreviver a diferentes idades, intenções e formas de uso.

Privacidade infantil não é sinônimo de dados estudantis

A privacidade aparece nas informações divulgadas como uma das frentes das novas leis, ao lado da restrição a publicidade baseada em dados pessoais. Esse ponto merece cuidado porque a coleta de informação não acontece apenas no cadastro: ela também pode surgir no histórico de conversas, na personalização do conteúdo e na escolha do anúncio exibido. Quando o usuário é menor, cada uma dessas camadas passa a ter relação com a proteção infantil. O problema não deixa de ser apenas armazenar dados com segurança e passa a incluir a decisão de quais dados precisam ser usados em primeiro lugar.

Eu evitaria, porém, tratar o pacote como uma regulação detalhada sobre dados estudantis. As informações divulgadas descrevem salvaguardas de privacidade infantil e regras para chatbots, mas não apresentam uma obrigação específica para sistemas educacionais ou bases de estudantes. Essa distinção é necessária para não transformar uma pauta legítima em uma conclusão que as fontes não sustentam. Em outra análise sobre o tema, discuti por que um ambiente controlado pode ser uma escolha mais responsável para IA voltada a crianças, abordagem que continua pertinente quando privacidade e supervisão entram no desenho do produto: IA para crianças: por que criei um LLM privado para minha família.

O risco financeiro muda a conversa sobre segurança

A AB 2 estabelece multas de até US$ 1 milhão por criança em casos de danos causados por plataformas, incluindo situações como ansiedade ou depressão. A cifra não prova que a lei resolverá esses danos, mas altera a forma como uma empresa calcula o custo de lançar um recurso sem avaliação suficiente. Segurança deixa de ser uma camada que entra depois da experiência do usuário e passa a disputar espaço na decisão de produto. Para quem lidera engenharia, a pergunta passa a ser quanto custa testar antes, não apenas quanto custa corrigir depois.

Esse é risco econômico que combina com outra medida aprovada pelo estado: o registro de auditores independentes de IA, exigido por leis sancionadas em 9 de setembro, um dia antes do pacote de segurança infantil. As fontes também mencionam apoio da Anthropic a essa iniciativa. A ideia amplia a cobrança para além da declaração da própria empresa, embora o material disponível não detalhe como esses registros funcionarão nem quais critérios serão usados nas auditorias. Ainda assim, a direção é clara: avaliação de risco começa a ser tratada como uma etapa verificável, e não como uma promessa escrita em uma página de política.

A regulação chega antes da próxima demonstração

Minha leitura é que a mudança mais relevante está na passagem de princípios gerais para regras sobre desenho de produto. Verificação de idade, aviso de que o interlocutor é uma IA, protocolos para automutilação e avaliação prévia de risco formam uma cadeia única de decisões. Se uma dessas partes for tratada como detalhe, as demais ficam mais difíceis de operar e auditar. A Califórnia está pressionando as empresas a explicar como o sistema se comporta antes que a própria criança descubra seus limites.

Para as equipes, o critério mais útil não é perguntar se o modelo é inteligente, mas qual erro o produto consegue impedir, detectar e corrigir. As leis já sancionadas tornam esse teste mais concreto para chatbots e redes sociais voltados a menores de 16 anos, enquanto os detalhes de aplicação ainda precisam ser acompanhados. A tecnologia pode continuar sendo usada, mas a arquitetura terá de carregar idade, privacidade, publicidade e segurança como decisões integradas. A pergunta que sobra é incômoda: quantas empresas chamam de inovação um sistema que ainda não sabe o que fazer quando a conversa dá errado?