--- title: "Califórnia regula chatbots de IA e redes sociais para menores" author: "Ricardo Pupo Larguesa" date: "2026-09-11 13:10:00-03" category: "Opinião" url: "http://aintuicao.scale.press/portal/aintuicao/post/2026/09/11/california-regula-chatbots-de-ia-e-redes-sociais-para-menores/md" --- ## Resumo - A Califórnia sancionou 13 leis de segurança digital para menores em 10 de setembro de 2026. - A AB 1709 restringe feeds personalizados, rolagem infinita e autoplay para usuários menores de 16 anos. - A SB 1119 exige verificação de idade e impõe regras específicas para chatbots de IA. - Chatbots deverão informar que são sistemas de IA, adotar protocolos para temas de automutilação e passar por avaliações de risco antes do lançamento. - O pacote prevê multas de até US$ 1 milhão por criança em casos comprovados de danos causados por plataformas. - A regulação passa a atingir diretamente arquitetura, publicidade, privacidade e processos de avaliação de produtos digitais. --- Em **10 de setembro de 2026**, o governador Gavin Newsom sancionou na Califórnia um pacote de **13 leis** para proteger menores em redes sociais e chatbots de inteligência artificial, conforme o [comunicado oficial do governo estadual](https://www.gov.ca.gov/2026/09/10/governor-newsom-signs-the-strongest-child-safety-chatbot-and-social-media-laws-in-the-nation). A notícia importa menos pelo número de leis do que pelo alvo escolhido: a Califórnia passou a regular recursos de produto, mecanismos de publicidade e etapas de lançamento. Em vez de ficar apenas em princípios abstratos de segurança, o pacote alcança aquilo que engenheiros colocam no ar. A pergunta deixou de ser somente o que o modelo responde e passou a incluir como a plataforma captura atenção, identifica idade e reage quando a conversa envolve risco. ## A Califórnia está regulando o desenho do produto A **AB 1709** proíbe feeds personalizados, identificados pela expressão "For You", além de rolagem infinita e autoplay para usuários menores de 16 anos. A medida ataca recursos que organizam a experiência para prolongar o tempo de uso, não apenas publicações consideradas inadequadas. Isso desloca a discussão para a camada de interface e recomendação, onde decisões de produto costumam ser tratadas como detalhes de crescimento. Para uma equipe técnica, a restrição alcança regras que antes poderiam ser avaliadas apenas por retenção e comportamento de usuário. Essa escolha também limita o uso de recomendações baseadas em dados pessoais e vem acompanhada de **salvaguardas de privacidade** mais rigorosas. Uma plataforma que depende de personalização para organizar o feed terá de separar a experiência de menores daquela oferecida a adultos, sem presumir que o mesmo mecanismo serve para todos. A consequência prática é direta: idade, recomendação e publicidade passam a dividir a mesma conversa de arquitetura. Quando o produto depende de maximizar tempo de tela, a Califórnia está dizendo que esse objetivo encontra um limite jurídico quando o usuário tem menos de 16 anos. ## Chatbots passam a carregar obrigações específicas Para os chatbots, a **SB 1119** exige verificação de idade, limita a exposição a conteúdos impróprios e restringe publicidade direcionada a menores. Não basta mais apresentar um assistente conversacional como uma interface neutra e deixar toda a responsabilidade na resposta gerada. A identificação do usuário passa a influenciar quais conteúdos podem aparecer e quais mensagens comerciais podem ser exibidas. Isso afeta o fluxo de entrada, as políticas de segurança e a forma como o sistema decide o que fazer quando não tem certeza sobre a idade da pessoa. O pacote também exige protocolos de segurança para temas de **automutilação**, obriga o sistema a informar que o interlocutor é uma IA e determina avaliações de risco antes da implementação dos chatbots. São exigências que atingem o produto antes e durante a interação. A equipe precisa saber quais comportamentos serão avaliados, quais respostas acionam proteção e como o usuário será informado sobre a natureza artificial da conversa. Em uma demonstração controlada, essas decisões parecem simples; em um serviço aberto, elas precisam sobreviver a diferentes idades, intenções e formas de uso. ## Privacidade infantil não é sinônimo de dados estudantis A privacidade aparece nas informações divulgadas como uma das frentes das novas leis, ao lado da restrição a publicidade baseada em dados pessoais. Esse ponto merece cuidado porque a coleta de informação não acontece apenas no cadastro: ela também pode surgir no histórico de conversas, na personalização do conteúdo e na escolha do anúncio exibido. Quando o usuário é menor, cada uma dessas camadas passa a ter relação com a proteção infantil. O problema não deixa de ser apenas armazenar dados com segurança e passa a incluir a decisão de quais dados precisam ser usados em primeiro lugar. Eu evitaria, porém, tratar o pacote como uma regulação detalhada sobre **dados estudantis**. As informações divulgadas descrevem salvaguardas de privacidade infantil e regras para chatbots, mas não apresentam uma obrigação específica para sistemas educacionais ou bases de estudantes. Essa distinção é necessária para não transformar uma pauta legítima em uma conclusão que as fontes não sustentam. Em outra análise sobre o tema, discuti por que um ambiente controlado pode ser uma escolha mais responsável para IA voltada a crianças, abordagem que continua pertinente quando privacidade e supervisão entram no desenho do produto: [IA para crianças: por que criei um LLM privado para minha família](https://scale.press/portal/aintuicao/post/2026/02/21/ia-para-criancas-por-que-criei-um-llm-privado-para-minha-familia). ## O risco financeiro muda a conversa sobre segurança A **AB 2** estabelece multas de até **US$ 1 milhão por criança** em casos de danos causados por plataformas, incluindo situações como ansiedade ou depressão. A cifra não prova que a lei resolverá esses danos, mas altera a forma como uma empresa calcula o custo de lançar um recurso sem avaliação suficiente. Segurança deixa de ser uma camada que entra depois da experiência do usuário e passa a disputar espaço na decisão de produto. Para quem lidera engenharia, a pergunta passa a ser quanto custa testar antes, não apenas quanto custa corrigir depois. Esse é risco econômico que combina com outra medida aprovada pelo estado: o registro de **auditores independentes de IA**, exigido por leis sancionadas em 9 de setembro, um dia antes do pacote de segurança infantil. As fontes também mencionam apoio da Anthropic a essa iniciativa. A ideia amplia a cobrança para além da declaração da própria empresa, embora o material disponível não detalhe como esses registros funcionarão nem quais critérios serão usados nas auditorias. Ainda assim, a direção é clara: avaliação de risco começa a ser tratada como uma etapa verificável, e não como uma promessa escrita em uma página de política. ## A regulação chega antes da próxima demonstração Minha leitura é que a mudança mais relevante está na passagem de princípios gerais para regras sobre **desenho de produto**. Verificação de idade, aviso de que o interlocutor é uma IA, protocolos para automutilação e avaliação prévia de risco formam uma cadeia única de decisões. Se uma dessas partes for tratada como detalhe, as demais ficam mais difíceis de operar e auditar. A Califórnia está pressionando as empresas a explicar como o sistema se comporta antes que a própria criança descubra seus limites. Para as equipes, o critério mais útil não é perguntar se o modelo é inteligente, mas qual erro o produto consegue impedir, detectar e corrigir. As leis já sancionadas tornam esse teste mais concreto para chatbots e redes sociais voltados a menores de 16 anos, enquanto os detalhes de aplicação ainda precisam ser acompanhados. A tecnologia pode continuar sendo usada, mas a arquitetura terá de carregar idade, privacidade, publicidade e segurança como decisões integradas. A pergunta que sobra é incômoda: quantas empresas chamam de inovação um sistema que ainda não sabe o que fazer quando a conversa dá errado?