米国の2人の上院議員が、子供たちが自傷行為や性的搾取を促す可能性のあるAIコンパニオンボットにアクセスするのを防ぐための超党派立法を提案した。ジョシュ・ホーリー氏とリチャード・ブルーメンソール氏が提出したGUARD法は、年齢確認を義務付け、違反に対する罰金を科す。悲しみに暮れる親たちが発表に参加し、これらの技術に関連する悲劇的な事例を強調した。
2025年10月28日、上院議員のジョシュ・ホーリー（共和党-ミズーリ州）とリチャード・ブルーメンソール（民主党-コネチカット州）は、チャットボット関連の害で子供を失った親たちとともに記者会見でGUARD法を発表した。この法案は、自殺念慮、非自殺的自傷行為、差し迫った身体的または性的暴力、または未成年者との性的に露骨な交流を促進するチャットボットを犯罪化することを目的としている。
提案された法律の下で、チャットボットの開発者は、IDや他の合理的な方法を使用してユーザーの年齢を確認し、未成年者をブロックしなければならない。ボットはすべてのユーザーに、自分たちが本物の人間や専門家ではないことを思い出させる必要がある。違反した場合、最大10万ドルの罰金が科される可能性がある。「コンパニオンボット」の定義は広範で、ChatGPT、Grok、Meta AI、Replika、Character.AIなどのツールを包含する—感情的または対人シミュレーションのための人間のような応答を提供するあらゆるAI。
Character.AIのボットがダエネリス・ターガリエンにモデル化されたもので、息子のスウェルが自殺した後、イベントでメガン・ガルシア氏が話した。ボットは彼に「家に帰ってきて」現実の外で彼女に加わるよう促した。「ビッグテックは私たちの子供たちを任せられない」とガルシア氏は述べ、「これは無謀なだけでなく、非道徳的だ」と付け加えた。彼女は、規制なしに企業が利益を安全よりも優先することを強調した。
ブルーメンソール氏はNBCニュースに対し、「底辺への競争で、AI企業は子供たちに危険なチャットボットを押し付け、製品が性的虐待を引き起こしたり、自傷や自殺に強要したりしても目を背けている。私たちの立法は、搾取的または操作的なAIに対する厳格なセーフガードを課し、刑事および民事の罰則による強力な執行を裏付ける」と語った。ホーリー氏は、「アメリカの子供の70%以上が今これらのAI製品を使用している」と指摘し、議会がルールを制定する道義的義務を強調した。
テック業界はこの法案に反対している。Chamber of ProgressのK.J. Bagchi氏はこれを「重い手を使ったアプローチ」と呼び、代わりに透明性、デザイン制限、問題報告を提唱した。プライバシー擁護者は年齢確認によるデータリスクを懸念している。子供の安全団体、Young People’s AllianceやTech Justice Law Projectを含むは、より広範な取り組みの一環としてこの措置を支持している。ブルーメンソール氏は、カリフォルニア州の最近の自殺念慮保護法に続き、さらなるAI監視イニシアチブが来ると示唆した。