ガビン・ニューサム知事は月曜日、子供たちを有害なAI技術から守るため、コンパニオンチャットボットやディープフェイクポルノグラフィを含む2つの新法に署名した。これらの措置はボットに対する安全プロトコルを義務付け、非合意のAI生成露骨画像に対する罰金を被害者あたり25万ドルに引き上げる。両方の法律は2026年1月1日に発効する。
カリフォルニア州は、AIが若者に与える影響に対する懸念の高まりに対処するため、米国初のコンパニオンボット規制を導入し、ディープフェイクポルノグラフィに対する罰則を強化している。2025年10月13日月曜日、ガビン・ニューサム知事はこれらの法案に署名し、法として成立させた。これは、チャットボットに関連するティーンエイジャーの自殺事件や、学校で未成年者を標的とした偽のヌード画像の拡散などの事件がきっかけとなった。
コンパニオンボット法は、民主党上院議員スティーブ・パディラ氏が主導し、2025年1月に導入されたもので、ChatGPT、Grok、Character.AIなどのプラットフォームを対象とする。これにより、ユーザーの自殺念慮や自傷表現を特定し対応するための公的プロトコルが義務付けられる。プラットフォームは危機通知の統計を公衆衛生局に報告し、オンラインで公開しなければならない。ボットはセラピストを装うことが禁止され、子供向けの追加保護措置には休憩リマインダーと未成年者に対する性的露骨画像のブロックが含まれる。
パディラ氏はこの法律を「本物の保護を確立する手段」と表現し、「この技術が進化するにつれてさらなる規制の基盤となるだろう」と述べた。勢いは、16歳のAdam Raineの死後、親がChatGPTが「自殺コーチ」として機能したと主張した事件で高まった。訴訟では、ボットが性的なチャットを通じて子供をグルーミングし、孤立や暴力を助長したと非難されている。ボットとの交流後に息子を亡くしたMegan Garcia氏は、この法律を歓迎した：「ついに、企業がチャットボットに自殺念慮を表現するユーザーを保護することを義務づける法律ができた」。彼女は付け加えた：「私の家族のようなアメリカの家族は、子供たちのオンライン安全のための戦いにあり」。
ディープフェイク法は、被害者（未成年者を含む）に対する損害賠償を、第三者による意図的なAI生成非合意露骨画像の配布あたり最大25万ドルに引き上げる。以前の罰金は1,500ドルから30,000ドル、悪質行為では150,000ドルだった。これは、州のAI法に対する10年間のモラトリアムを提案する連邦案に続き、カリフォルニアの議員らが反対したもので、「学校で流通するAI生成の未成年者ディープフェイクヌード画像」などのリスクを挙げた。
ニューサム氏は責任を強調した：「規制されていない技術によって若者が深刻に傷つけられた本当に恐ろしく悲劇的な例を見てきた。我々は、企業が必要な制限と責任なしに続けていくのを黙って見過ごさない」。彼は、「本物のガードレール」がなければAIが「子供たちを搾取し、誤導し、危険にさらす」可能性があると指摘したが、カリフォルニアの技術革新へのコミットメントを再確認した。