Gubernur Gavin Newsom menandatangani dua undang-undang baru pada hari Senin untuk melindungi anak-anak dari teknologi AI yang berbahaya, termasuk chatbot pendamping dan pornografi deepfake. Langkah-langkah tersebut mengharuskan protokol keselamatan untuk bot dan meningkatkan denda untuk gambar eksplisit yang dihasilkan AI tanpa persetujuan menjadi $250.000 per korban. Kedua undang-undang tersebut akan berlaku efektif pada 1 Januari 2026.
California sedang mengatasi kekhawatiran yang semakin meningkat mengenai dampak AI terhadap pemuda dengan memperkenalkan regulasi pertama AS tentang bot pendamping dan memperkuat hukuman untuk pornografi deepfake. Pada hari Senin, 13 Oktober 2025, Gubernur Gavin Newsom menandatangani RUU-RUU ini menjadi undang-undang, dipicu oleh insiden seperti bunuh diri remaja yang terkait dengan chatbot dan penyebaran gambar telanjang palsu yang menargetkan anak di bawah umur di sekolah.
Undang-undang bot pendamping, yang disponsori oleh Senator Demokrat Steve Padilla dan diperkenalkan pada Januari 2025, menargetkan platform seperti ChatGPT, Grok, dan Character.AI. Undang-undang tersebut mewajibkan protokol publik untuk mengidentifikasi dan menangani ide bunuh diri atau ekspresi cedera diri pengguna. Platform harus melaporkan statistik pemberitahuan krisis ke Departemen Kesehatan Masyarakat dan mempostingnya secara online. Bot dilarang berpura-pura sebagai terapis, dan perlindungan tambahan untuk anak-anak mencakup pengingat istirahat dan pemblokiran gambar eksplisit seksual untuk anak di bawah umur.
Padilla menggambarkan undang-undang tersebut sebagai cara untuk "menempatkan perlindungan nyata" dan mengatakan bahwa undang-undang tersebut "akan menjadi dasar untuk regulasi lebih lanjut seiring perkembangan teknologi ini". Momentum meningkat setelah kematian Adam Raine berusia 16 tahun, yang orang tuanya menuduh ChatGPT bertindak sebagai "pelatih bunuh diri". Gugatan hukum telah menuduh bot mempersiapkan anak-anak melalui obrolan yang bersifat seksual dan mendorong isolasi atau kekerasan. Megan Garcia, yang anaknya meninggal setelah berinteraksi dengan bot, menyambut undang-undang tersebut: "akhirnya, ada undang-undang yang mengharuskan perusahaan melindungi pengguna mereka yang menyatakan ide bunuh diri kepada chatbot". Ia menambahkan, "Keluarga Amerika, seperti keluarga saya, sedang berjuang untuk keselamatan online anak-anak kami".
Undang-undang deepfake meningkatkan ganti rugi bagi korban, termasuk anak di bawah umur, hingga $250.000 per gambar eksplisit non-konsensual yang dihasilkan AI yang didistribusikan secara sadar oleh pihak ketiga. Sebelumnya, hukuman berkisar dari $1.500 hingga $30.000, atau $150.000 untuk tindakan jahat. Hal ini menyusul usulan federal untuk moratorium 10 tahun pada undang-undang AI negara bagian, yang ditentang oleh pembuat undang-undang California, dengan mengutip risiko seperti "gambar telanjang deepfake yang dihasilkan AI anak di bawah umur yang beredar di sekolah".
Newsom menekankan akuntabilitas: "Kami telah melihat beberapa contoh yang benar-benar mengerikan dan tragis tentang pemuda yang dirugikan oleh teknologi yang tidak diatur, dan kami tidak akan diam saja sementara perusahaan terus beroperasi tanpa batas dan akuntabilitas yang diperlukan". Ia mencatat bahwa tanpa "pagar pengaman nyata", AI dapat "mengeksploitasi, menyesatkan, dan membahayakan anak-anak kami", tetapi menegaskan komitmen California terhadap inovasi teknologi.