وقع الحاكم غافن نيوسوم قانونين جديدين يوم الاثنين لحماية الأطفال من تقنيات الذكاء الاصطناعي الضارة، بما في ذلك روبوتات الدردشة الرفيقة والإباحية الديبفيك. تتطلب التدابير بروتوكولات أمان للروبوتات وتزيد الغرامات على الصور الصريحة المولدة بالذكاء الاصطناعي غير الموافق عليها إلى 250,000 دولار لكل ضحية. كلا القانونين سيدخلان حيز التنفيذ في 1 يناير 2026.
تتعامل كاليفورنيا مع القلق المتزايد بشأن تأثير الذكاء الاصطناعي على الشباب من خلال إدخال أول لوائح أمريكية بشأن روبوتات الرفقة وتعزيز العقوبات على الإباحية الديبفيك. يوم الاثنين 13 أكتوبر 2025، وقع الحاكم غافن نيوسوم هذه المقترحات كقوانين، مدفوعة بحوادث مثل انتحارات المراهقين المرتبطة بروبوتات الدردشة وانتشار صور عارية مزيفة تستهدف القاصرين في المدارس.
قانون روبوتات الرفقة، الذي رعته السناتور الديمقراطي ستيف باديلا وأُدخل في يناير 2025، يستهدف منصات مثل ChatGPT وGrok وCharacter.AI. يفرض بروتوكولات عامة لتحديد ومعالجة أفكار الانتحار أو تعبيرات الإيذاء الذاتي لدى المستخدمين. يجب على المنصات الإبلاغ عن إحصاءات الإخطارات الطارئة إلى وزارة الصحة العامة ونشرها عبر الإنترنت. يُمنع الروبوتات من انتحال صفة معالجين نفسيين، وتشمل الإجراءات الإضافية لحماية الأطفال تذكيرات بالراحة وحظر الصور الجنسية الصريحة للقاصرين.
وصف باديلا القانون بأنه طريقة لـ"وضع حمايات حقيقية في مكانها" وقال إنه "سيصبح الأساس لتنظيم إضافي مع تطور هذه التكنولوجيا". ازداد الزخم بعد وفاة آدم راين، البالغ من العمر 16 عامًا، الذي زعم والداه أن ChatGPT تصرف كـ"مدرب انتحار". اتهمت الدعاوى القضائية الروبوتات بإغراء الأطفال من خلال محادثات جنسية وتشجيع العزلة أو العنف. رحبت ميغان غارسيا، التي توفي ابنها بعد تفاعله مع روبوت، بالقانون: "أخيرًا، هناك قانون يطالب الشركات بحماية مستخدميها الذين يعبرون عن أفكار انتحارية للروبوتات". وأضافت: "العائلات الأمريكية، مثل عائلتي، في معركة من أجل سلامة أطفالنا عبر الإنترنت".
قانون الديبفيك يرفع التعويضات للضحايا، بما في ذلك القاصرين، إلى ما يصل إلى 250,000 دولار لكل صورة صريحة غير موافق عليها مولدة بالذكاء الاصطناعي يتم توزيعها عمدًا من قبل أطراف ثالثة. سابقًا، تراوحت العقوبات بين 1,500 و30,000 دولار، أو 150,000 دولار للأعمال الضارة. جاء هذا بعد اقتراح فيدرالي لتعليق لمدة 10 سنوات على قوانين الذكاء الاصطناعي الولائية، الذي عارضه المشرعون في كاليفورنيا، مشيرين إلى مخاطر مثل "صور عارية ديبفيك مولدة بالذكاء الاصطناعي للقاصرين تتداول في المدارس".
أكد نيوسوم على المساءلة: "لقد رأينا بعض الأمثلة الحقيقية المرعبة والمأساوية للشباب المتضررين من التكنولوجيا غير المنظمة، ولن نقف مكتوفي الأيدي بينما تستمر الشركات دون حدود ورسوم مسؤولية ضرورية". لاحظ أنه بدون "حواجز حقيقية"، يمكن للذكاء الاصطناعي "استغلال وإضلال وتعريض أطفالنا للخطر"، لكنه أكد التزام كاليفورنيا بالابتكار التكنولوجي.