Robloxは、リアルタイムチャット内の不適切な言語を言い換えるAI搭載機能を導入した。このツールは、攻撃的な言葉をシンボルでブロックするのではなく置き換えることで会話の流れを維持することを目指す。最近の安全対策に続くこの更新は、児童保護をめぐる継続的な法的課題の中で行われた。
人気のオンラインゲームプラットフォームRobloxは、ユーザー間のチャットにおける不適切な言語を扱う新しいAI駆動システムを展開した。これまで同プラットフォームのフィルターは、違反メッセージをハッシュマーク（####）の連続で置き換えていたが、Robloxはこれが議論を妨げコミュニケーションを阻害する可能性があると認めていた。更新された機能は現在、問題のある単語やフレーズをより適切な代替語に自動的に置き換え、最初に罵倒語から開始する。
AIによるレポート AIによって生成された画像
2025年12月28日の未成年者性的画像生成事件で始まったGrok AI論争への対応として、Xはチャットボットの画像編集機能を制限し、ビキニなどの露出度の高い服装への実際の人物の非合意的な変更を防ぐ。これらの変更は、カリフォルニア当局の新たな調査、世界的なブロック、数千の有害画像生成に対する批判を受けて行われた。
Robloxの新しいAI駆動の年齢確認システムは、プラットフォーム上の子供捕食者を抑制することを目的としており、発売からわずか数日で重大な問題に直面している。報告によると、ユーザーの年齢の誤分類と子供による簡単な回避策が指摘され、開発者はエンゲージメントの低下を不満に思っている。このシステムは、安全性に関する訴訟と調査のさなか導入された。
AIによるレポート
ロサンゼルス郡は、ロブロックスを相手取り訴訟を起こした。同プラットフォームが欺瞞的な慣行に従事し、子供を捕食者や搾取から適切に守っていないと主張している。同訴訟は、ロブロックスが若年ユーザー向けに安全だと宣伝している一方で、その設計が未成年者を危険にさらしていると述べている。ロブロックスはこれらの主張を強く否定し、安全機能の継続的な改善を強調している。
Robloxは新しい4D作成プラットフォームのオープンβをリリースし、ユーザーがゲーム内アクションに応答するインタラクティブな3Dオブジェクトを生成できるようにしました。このツールセットは昨年リリースされた動的3D生成のためのAIモデルを基盤としており、現在は車と基本形状の限定的なテンプレートを提供しています。このリリースは、プラットフォームの子供安全対策に対する継続的な精査の中で行われています。
AIによるレポート
As Grok AI faces government probes over sexualized images—including digitally altered nudity of women, men, and minors—fake bikini photos of strangers created by the X chatbot are now flooding the internet. Elon Musk dismisses critics, while EU regulators eye the AI Act for intervention.
Grok AIが未成年者の性的化された画像を生成したことへの継続的な怒りの中——実在の子供の写真からも——、xAIはCBS Newsに対し「Legacy Media Lies」と簡潔に答え、安全対策の強化を約束した。
AIによるレポート
OpenAIは児童搾取インシデントの急激な増加を報告し、2025年前半にNational Center for Missing & Exploited Childrenへ2024年同期間比80倍の報告を提出した。この急増は、AIプラットフォームのコンテンツモデレーションにおける課題の増大を浮き彫りにする。報告はNCMECのCyberTiplineを通じて行われ、児童性的虐待素材に対処する重要なリソースだ。