Califórnia sanciona pacote de 13 leis para proteger menores de riscos nas redes sociais e na inteligência artificial

Medidas restringem recursos considerados viciantes para usuários com menos de 16 anos e ampliam exigências de segurança para chatbots voltados ao público infantil e adolescente

Por Prime Rádio - O governador da Califórnia, Gavin Newsom, sancionou na quinta-feira (10) um pacote de 13 leis voltadas à proteção de crianças e adolescentes diante de riscos associados às redes sociais, à inteligência artificial e a outras tecnologias. As medidas estabelecem novas obrigações para plataformas digitais e desenvolvedores de sistemas de IA e ampliam mecanismos de proteção de dados de menores.

Entre as principais mudanças está a proibição, para usuários com menos de 16 anos, de determinados recursos considerados potencialmente viciantes. A Assembleia Bill 1709 (AB 1709) restringe funcionalidades como rolagem infinita, reprodução automática de vídeos e feeds determinados por algoritmos com base no histórico e no perfil do usuário.

A legislação classifica essas ferramentas como recursos capazes de maximizar o engajamento e, potencialmente, contribuir para o uso compulsivo das plataformas. As regras fazem parte de uma estratégia mais ampla do estado para limitar mecanismos de design considerados prejudiciais à experiência de crianças e adolescentes nas redes sociais.

Outro eixo do pacote envolve os chamados chatbots de companhia, sistemas de inteligência artificial desenvolvidos para manter conversas prolongadas e oferecer interações semelhantes às humanas. A chamada “Adam’s Law”, estabelecida pelo projeto SB 1119, determina a adoção de mecanismos de segurança específicos para crianças, incluindo protocolos para situações de ideação suicida, controles parentais e notificações quando determinadas configurações de segurança forem desativadas.

A legislação também prevê avaliações anuais de risco e auditorias independentes relacionadas à segurança infantil dos chatbots. O nome da lei faz referência a Adam Raine, adolescente de 16 anos que morreu por suicídio em 2025. Segundo seus pais, ele havia mantido conversas sobre pensamentos suicidas com o ChatGPT. A OpenAI afirmou que pretende aprimorar as salvaguardas do sistema e reconheceu problemas de confiabilidade em interações mais prolongadas.

O pacote ainda inclui uma medida que proíbe, durante quatro anos, a fabricação e a comercialização de brinquedos equipados com chatbots de companhia. Outra lei amplia a legislação criminal relacionada à exploração sexual infantil para abranger material digitalmente alterado ou produzido por inteligência artificial que represente uma pessoa com menos de 18 anos envolvida em ato sexual.

As novas regras também abrangem privacidade e educação. Segundo o governo californiano, uma das medidas restringe o uso de dados pessoais de estudantes em sistemas de inteligência artificial, enquanto outras tratam de bem-estar digital, dispositivos eletrônicos fornecidos por escolas e mecanismos relacionados ao acesso de crianças a serviços e produtos digitais.

A Associated Press informou ainda que algumas das novas normas permitem penalidades de até US$ 1 milhão por criança quando grandes empresas de redes sociais forem consideradas negligentes em casos de danos a menores. O pacote também prevê avaliações de risco para operadores de chatbots antes da implementação de determinados sistemas.

A iniciativa recebeu apoio de grupos que defendem maior proteção de crianças no ambiente digital. Ao mesmo tempo, empresas do setor e organizações de direitos digitais apresentaram ressalvas. A Meta, por exemplo, afirmou que a restrição aos feeds personalizados pode prejudicar a capacidade das plataformas de oferecer conteúdo considerado relevante e adequado para adolescentes. A Electronic Frontier Foundation criticou algumas das medidas por possíveis impactos sobre privacidade, liberdade de expressão e acesso de jovens à internet.

Com a sanção, a Califórnia amplia uma política que já vinha sendo desenvolvida nos últimos anos para estabelecer limites ao funcionamento de plataformas digitais utilizadas por menores. O estado, que abriga empresas como Google, Meta e outras companhias do setor de tecnologia, passa a adotar um conjunto ainda mais abrangente de regras envolvendo redes sociais, inteligência artificial, privacidade e segurança infantil.

As medidas refletem uma tendência crescente nos Estados Unidos de regulamentação das plataformas digitais voltadas a crianças e adolescentes. Outros estados norte-americanos, incluindo Nova York, também aprovaram ou vêm desenvolvendo regras destinadas a limitar mecanismos de recomendação e outras funcionalidades consideradas potencialmente prejudiciais a menores.

Fontes: Governo da Califórnia; Reuters; Associated Press