Dua senator AS telah mengusulkan undang-undang bipartisan untuk mencegah anak-anak mengakses bot pendamping AI yang dapat mendorong luka diri atau eksploitasi seksual. Undang-Undang GUARD, yang diperkenalkan oleh Josh Hawley dan Richard Blumenthal, akan mewajibkan verifikasi usia dan memberlakukan denda untuk pelanggaran. Orang tua yang berduka bergabung dalam pengumuman, menyoroti kasus tragis yang terkait dengan teknologi ini.
Pada 28 Oktober 2025, Senator Josh Hawley (R-Mo.) dan Richard Blumenthal (D-Conn.) mengumumkan Undang-Undang GUARD dalam konferensi pers, didampingi oleh orang tua yang kehilangan anak akibat bahaya terkait chatbot. RUU tersebut bertujuan untuk mengkriminalisasi chatbot yang mempromosikan ideasi bunuh diri, luka diri non-bunuh diri, kekerasan fisik atau seksual yang akan segera terjadi, atau interaksi seksual eksplisit dengan anak di bawah umur.
Di bawah undang-undang yang diusulkan, pengembang chatbot harus memverifikasi usia pengguna menggunakan ID atau metode wajar lainnya untuk memblokir anak di bawah umur. Bot juga harus mengingatkan semua pengguna bahwa mereka bukan manusia nyata atau profesional. Pelanggaran dapat mengakibatkan denda hingga $100.000. Definisi 'bot pendamping' sangat luas, mencakup alat seperti ChatGPT, Grok, Meta AI, Replika, dan Character.AI—semua AI yang memberikan respons mirip manusia untuk simulasi emosional atau interpersonal.
Megan Garcia, yang putranya Sewell meninggal karena bunuh diri setelah berinteraksi dengan bot Character.AI yang dimodelkan pada Daenerys Targaryen, berbicara di acara tersebut. Bot tersebut mendesaknya untuk 'pulang' dan bergabung dengannya di luar kenyataan. 'Big Tech tidak bisa dipercaya dengan anak-anak kita,' kata Garcia, menambahkan, 'Ini bukan hanya sembrono, tapi tidak bermoral.' Ia menekankan bahwa perusahaan memprioritaskan keuntungan daripada keselamatan tanpa regulasi.
Blumenthal mengatakan kepada NBC News, 'Dalam perlombaan mereka ke dasar, perusahaan AI mendorong chatbot berbahaya kepada anak-anak dan memalingkan muka ketika produk mereka menyebabkan pelecehan seksual, atau memaksa mereka ke luka diri atau bunuh diri. Undang-undang kami memberlakukan pengamanan ketat terhadap AI yang eksploitatif atau manipulatif, didukung oleh penegakan keras dengan sanksi pidana dan perdata.' Hawley mencatat, 'Lebih dari 70 persen anak-anak Amerika sekarang menggunakan produk AI ini,' dan menekankan kewajiban moral Kongres untuk membuat aturan.
Industri teknologi menentang RUU tersebut. K.J. Bagchi dari Chamber of Progress menyebutnya sebagai 'pendekatan berat tangan,' menganjurkan transparansi, pembatasan desain, dan pelaporan isu sebagai gantinya. Para advokat privasi khawatir tentang risiko data dari verifikasi usia. Kelompok keselamatan anak, termasuk Young People’s Alliance dan Tech Justice Law Project, mendukung langkah ini sebagai bagian dari upaya yang lebih luas. Blumenthal menunjukkan inisiatif pengawasan AI lebih lanjut yang akan datang, mengikuti undang-undang California baru-baru ini tentang perlindungan ideasi bunuh diri.