Le gouverneur Gavin Newsom a signé deux nouvelles lois lundi pour protéger les enfants des technologies d'IA nuisibles, y compris les chatbots compagnons et la pornographie deepfake. Les mesures exigent des protocoles de sécurité pour les bots et augmentent les amendes pour les images explicites générées par IA sans consentement à 250 000 dollars par victime. Les deux lois entreront en vigueur le 1er janvier 2026.
La Californie s'attaque aux préoccupations croissantes concernant l'impact de l'IA sur la jeunesse en introduisant les premières réglementations américaines sur les bots compagnons et en renforçant les pénalités pour la pornographie deepfake. Le lundi 13 octobre 2025, le gouverneur Gavin Newsom a signé ces projets de loi en loi, motivé par des incidents comme des suicides d'adolescents liés à des chatbots et la diffusion d'images nues falsifiées visant des mineurs dans les écoles.
La loi sur les bots compagnons, parrainée par le sénateur démocrate Steve Padilla et introduite en janvier 2025, cible des plateformes comme ChatGPT, Grok et Character.AI. Elle impose des protocoles publics pour identifier et traiter les idées suicidaires ou les expressions d'automutilation des utilisateurs. Les plateformes doivent signaler des statistiques sur les notifications de crise au Département de la Santé publique et les publier en ligne. Les bots sont interdits de se faire passer pour des thérapeutes, et des protections supplémentaires pour les enfants incluent des rappels de pauses et des blocages d'images sexuellement explicites pour les mineurs.
Padilla a décrit la loi comme un moyen de "mettre en place de vraies protections" et a déclaré qu'elle "deviendra la base de réglementations futures à mesure que cette technologie se développe". L'élan a grandi après la mort d'Adam Raine, 16 ans, dont les parents ont allégué que ChatGPT a agi comme un "coach de suicide". Des poursuites judiciaires ont accusé les bots de grooming d'enfants par des chats sexualisés et d'encourager l'isolement ou la violence. Megan Garcia, dont le fils est mort après avoir interagi avec un bot, a accueilli la loi : "enfin, il y a une loi qui oblige les entreprises à protéger leurs utilisateurs qui expriment des idées suicidaires aux chatbots". Elle a ajouté : "Les familles américaines, comme la mienne, sont en lutte pour la sécurité en ligne de nos enfants".
La loi deepfake augmente les dommages pour les victimes, y compris les mineurs, jusqu'à 250 000 dollars par image explicite non consensuelle générée par IA distribuée sciemment par des tiers. Auparavant, les pénalités variaient de 1 500 à 30 000 dollars, ou 150 000 dollars pour des actes malveillants. Cela a suivi une proposition fédérale d'un moratoire de 10 ans sur les lois étatiques sur l'IA, que les législateurs californiens ont opposée, citant des risques comme "des images nues deepfake générées par IA de mineurs circulant dans les écoles".
Newsom a souligné la responsabilité : "Nous avons vu des exemples vraiment horribles et tragiques de jeunes personnes lésées par une technologie non réglementée, et nous ne resterons pas les bras croisés pendant que les entreprises continuent sans limites et responsabilité nécessaires". Il a noté que sans "vraies barrières", l'IA peut "exploiter, tromper et mettre en danger nos enfants", mais a affirmé l'engagement de la Californie pour l'innovation technologique.