Gavin Newsom sancionou 13 leis para proteger crianças e adolescentes online. Elas limitam funções que criam dependência entre jovens e impõem protocolos de segurança para IA que interage com menores.

O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) um pacote com 13 leis voltadas à proteção de crianças e adolescentes no ambiente digital. As medidas foram desenhadas para limitar recursos que, segundo legisladores, podem tornar plataformas mais perigosas para usuários jovens e para exigir protocolos de segurança em sistemas de inteligência artificial que interagem com menores.

Entre as normas aprovadas está uma regra que proíbe plataformas de redes sociais de oferecer determinados recursos considerados “viciantes” a usuários com menos de 16 anos. A legislação mira funcionalidades presentes em diversas plataformas, como reprodução automática de vídeos e sistemas que utilizam informações dos usuários para decidir quais conteúdos serão exibidos.

“É um bom dia para nossas crianças. É um bom dia para o Estado da Califórnia”, afirmou Newsom.

As novas regras fazem parte de uma iniciativa mais ampla do Estado para estabelecer limites sobre o que adolescentes podem encontrar na internet. Autoridades e debatedores vêm discutindo há anos como regular plataformas muito populares entre jovens, como TikTok e Instagram, e a aprovação busca traduzir essas preocupações em normas práticas e fiscalizáveis.

Parlamentares e advogados destacaram que determinadas características das redes sociais podem contribuir para problemas de saúde mental entre adolescentes, incluindo transtornos alimentares e automutilação. Em paralelo, a discussão ganhou impulso quando a Meta, dona do Facebook e do Instagram, concordou, no mês passado, com um acordo de US$ 18 bilhões (cerca de R$ 94,5 bilhões) que encerrou um julgamento sobre o impacto das redes sociais em adolescentes e exigiu mudanças na forma como menores interagem com suas plataformas.

Em resposta às novas regras, um porta-voz da Meta afirmou: “Personalização também é como oferecemos conteúdo apropriado para a idade dos adolescentes e relevante para eles — tudo com as devidas proteções”.

Um dos projetos sancionados recebeu o nome Adam’s Law, em homenagem a Adam Raine, adolescente de 16 anos que morreu após manter longas conversas com o ChatGPT sobre suicídio. A Adam’s Law exige que sistemas de IA contem com protocolos específicos para situações de ideação suicida, controles parentais e auditorias independentes de segurança infantil.

Outra medida aprovada estabelece regras para combater material manipulado digitalmente ou gerado por IA que retrate menores praticando atos sexuais, ampliando o escopo de proteção ao prevenir a circulação de conteúdos sexualmente exploradores produzidos ou alterados por tecnologia.

Um representante da OpenAI afirmou que a legislação “trata adolescentes como adolescentes quando se trata de garantir que a IA seja segura e uma ferramenta que ajude a contribuir para sua capacidade de aprender”.

A aprovação destas leis representa uma mudança prática: além de definir limites sobre funcionalidades, o Estado exigirá revisões e auditorias que tornem as plataformas mais responsáveis no trato com usuários jovens. Para famílias, educadores e gestores de tecnologia, as novas regras apontam caminhos claros — controles parentais firmes, transparência sobre como algoritmos decidem conteúdo e exigência de mecanismos de resposta quando há risco de dano psicológico.

As medidas agora dependem de implementação e fiscalização para produzir efeitos concretos, e os próximos passos incluirão a criação de normas técnicas, cronogramas de conformidade e procedimentos de auditoria que as empresas terão de seguir.