Guvernör Gavin Newsom undertecknade två nya lagar på måndagen för att skydda barn från skadliga AI-teknologier, inklusive kompanjonschattbotar och deepfake-pornografi. Åtgärderna kräver säkerhetsprotokoll för botar och höjer böter för icke-samtyckta AI-genererade explicita bilder till 250 000 dollar per offer. Båda lagarna träder i kraft den 1 januari 2026.
Kalifornien hanterar växande oro över AI:s inverkan på unga genom att införa de första amerikanska reglerna för kompanjonsbotar och förstärka straffen för deepfake-pornografi. På måndagen den 13 oktober 2025 undertecknade guvernör Gavin Newsom dessa lagförslag, drivna av incidenter som tonårs självmord kopplade till chattbotar och spridning av falska nakenbilder riktade mot minderåriga i skolor.
Lagen om kompanjonsbotar, sponsrad av demokratiske senatorn Steve Padilla och introducerad i januari 2025, riktar sig mot plattformar som ChatGPT, Grok och Character.AI. Den mandat publicerar protokoll för att identifiera och hantera användares självmordsidéer eller självskadeuttryck. Plattformar måste rapportera statistik om krishänvisningar till avdelningen för folkhälsa och publicera dem online. Botar förbjuds att posera som terapeuter, och ytterligare barnsäkerhetsåtgärder inkluderar pauspåminnelser och blockering av sexuellt explicita bilder för minderåriga.
Padilla beskrev lagen som ett sätt att "införa verkliga skyddsåtgärder" och sade att den "kommer att bli grunden för ytterligare reglering i takt med att tekniken utvecklas". Momentum växte efter 16-årige Adam Raines död, vars föräldrar anklagade ChatGPT för att agera som en "självmordstränare". Rättstvister har anklagat botar för att grooma barn genom sexualiserade chattar och uppmuntra isolering eller våld. Megan Garcia, vars son dog efter interaktion med en bot, välkomnade lagen: "slutligen finns det en lag som kräver att företag skyddar sina användare som uttrycker självmordsidéer till chattbotar". Hon tillade: "Amerikanska familjer, som min, kämpar för våra barns online-säkerhet".
Deepfakelagen höjer skadestånd för offer, inklusive minderåriga, till upp till 250 000 dollar per AI-genererad icke-samtyckt explicit bild som medvetet distribueras av tredje part. Tidigare varierade böterna från 1 500 till 30 000 dollar, eller 150 000 dollar för illvilliga handlingar. Detta följde ett federalt förslag om 10 års moratorium på delstatliga AI-lagar, som Kaliforniens lagstiftare motsatte sig med hänvisning till risker som "AI-genererade deepfake-nakenbilder av minderåriga som cirkulerar i skolor".
Newsom betonade ansvar: "Vi har sett verkligt skrämmande och tragiska exempel på unga människor skadade av oreglerad teknik, och vi kommer inte att stå vid sidan medan företag fortsätter utan nödvändiga gränser och ansvar". Han noterade att utan "verkliga ränder", kan AI "utnyttja, vilseleda och äventyra våra barn", men bekräftade Kaliforniens engagemang för teknisk innovation.