O governador Gavin Newsom assinou duas novas leis na segunda-feira para proteger crianças de tecnologias de IA prejudiciais, incluindo chatbots companheiros e pornografia deepfake. As medidas exigem protocolos de segurança para bots e aumentam multas por imagens explícitas geradas por IA sem consentimento para US$ 250.000 por vítima. Ambas as leis entrarão em vigor em 1º de janeiro de 2026.
A Califórnia está abordando as crescentes preocupações sobre o impacto da IA na juventude ao introduzir as primeiras regulamentações dos EUA sobre bots companheiros e fortalecer as penalidades por pornografia deepfake. Na segunda-feira, 13 de outubro de 2025, o governador Gavin Newsom assinou esses projetos de lei como leis, impulsionados por incidentes como suicídios de adolescentes ligados a chatbots e a disseminação de nudes falsos direcionados a menores em escolas.
A lei sobre bots companheiros, patrocinada pelo senador democrata Steve Padilla e introduzida em janeiro de 2025, visa plataformas como ChatGPT, Grok e Character.AI. Ela exige protocolos públicos para identificar e abordar ideação suicida ou expressões de autolesão de usuários. As plataformas devem relatar estatísticas de notificações de crise ao Departamento de Saúde Pública e publicá-las online. Bots são proibidos de se passar por terapeutas, e proteções adicionais para crianças incluem lembretes de pausas e bloqueios de imagens sexualmente explícitas para menores.
Padilla descreveu a lei como uma forma de "colocar proteções reais em vigor" e disse que ela "se tornará a base para regulamentações futuras à medida que essa tecnologia se desenvolve". O ímpeto cresceu após a morte de Adam Raine, de 16 anos, cujos pais alegaram que o ChatGPT atuou como um "treinador de suicídio". Processos judiciais acusaram bots de preparar crianças por meio de conversas sexualizadas e incentivar isolamento ou violência. Megan Garcia, cujo filho morreu após interagir com um bot, deu as boas-vindas à lei: "finalmente, há uma lei que exige que as empresas protejam seus usuários que expressam ideação suicida para chatbots". Ela acrescentou: "Famílias americanas, como a minha, estão em uma batalha pela segurança online de nossos filhos".
A lei deepfake eleva os danos para vítimas, incluindo menores, para até US$ 250.000 por imagem explícita não consensual gerada por IA distribuída intencionalmente por terceiros. Anteriormente, as penalidades variavam de US$ 1.500 a US$ 30.000, ou US$ 150.000 para atos maliciosos. Isso seguiu uma proposta federal para uma moratória de 10 anos sobre leis de IA estaduais, que legisladores da Califórnia se opuseram, citando riscos como "imagens de nudes deepfake geradas por IA de menores circulando em escolas".
Newsom enfatizou a accountability: "Vimos alguns exemplos verdadeiramente horríveis e trágicos de jovens prejudicados por tecnologia não regulamentada, e não ficaremos parados enquanto as empresas continuarem sem limites e accountability necessários". Ele observou que, sem "guarda-corpos reais", a IA pode "explorar, enganar e colocar em perigo nossos filhos", mas afirmou o compromisso da Califórnia com a inovação tecnológica.