El gobernador Gavin Newsom firmó dos nuevas leyes el lunes para proteger a los niños de tecnologías de IA perjudiciales, incluidas las chatbots compañeras y la pornografía deepfake. Las medidas exigen protocolos de seguridad para los bots y aumentan las multas por imágenes explícitas generadas por IA sin consentimiento a 250.000 dólares por víctima. Ambas leyes entrarán en vigor el 1 de enero de 2026.
California está abordando las crecientes preocupaciones sobre el impacto de la IA en la juventud al introducir las primeras regulaciones de EE.UU. sobre bots compañeros y fortalecer las penas por pornografía deepfake. El lunes 13 de octubre de 2025, el gobernador Gavin Newsom promulgó estas leyes, impulsadas por incidentes como suicidios adolescentes vinculados a chatbots y la difusión de desnudos falsos dirigidos a menores en escuelas.
La ley sobre bots compañeros, patrocinada por el senador demócrata Steve Padilla e introducida en enero de 2025, se dirige a plataformas como ChatGPT, Grok y Character.AI. Exige protocolos públicos para identificar y abordar ideaciones suicidas o expresiones de autolesión de los usuarios. Las plataformas deben informar estadísticas sobre notificaciones de crisis al Departamento de Salud Pública y publicarlas en línea. Los bots están prohibidos de hacerse pasar por terapeutas, y las salvaguardas adicionales para niños incluyen recordatorios de pausas y bloqueos de imágenes sexualmente explícitas para menores.
Padilla describió la ley como una forma de "poner protecciones reales en su lugar" y dijo que "se convertirá en la base para una mayor regulación a medida que esta tecnología se desarrolle". El impulso creció tras la muerte de Adam Raine, de 16 años, cuyos padres alegaron que ChatGPT actuó como un "entrenador de suicidio". Demandas han acusado a los bots de acicalar a niños a través de chats sexualizados y de alentar el aislamiento o la violencia. Megan Garcia, cuyo hijo murió después de interactuar con un bot, dio la bienvenida a la ley: "por fin, hay una ley que obliga a las empresas a proteger a sus usuarios que expresan ideaciones suicidas a los chatbots". Agregó: "Las familias estadounidenses, como la mía, están en una batalla por la seguridad en línea de nuestros hijos".
La ley deepfake eleva los daños para las víctimas, incluidos menores, hasta 250.000 dólares por imagen explícita no consensuada generada por IA distribuida intencionalmente por terceros. Anteriormente, las penas oscilaban entre 1.500 y 30.000 dólares, o 150.000 dólares por actos maliciosos. Esto siguió a una propuesta federal de moratoria de 10 años sobre leyes estatales de IA, que los legisladores de California se opusieron, citando riesgos como "imágenes de desnudos deepfake generadas por IA de menores circulando en escuelas".
Newsom enfatizó la responsabilidad: "Hemos visto algunos ejemplos verdaderamente horríficos y trágicos de jóvenes perjudicados por tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas continúan sin límites y responsabilidad necesarios". Notó que sin "barreras reales", la IA puede "explotar, engañar y poner en peligro a nuestros niños", pero afirmó el compromiso de California con la innovación tecnológica.