Robloxは、リアルタイムチャット内の不適切な言語を言い換えるAI搭載機能を導入した。このツールは、攻撃的な言葉をシンボルでブロックするのではなく置き換えることで会話の流れを維持することを目指す。最近の安全対策に続くこの更新は、児童保護をめぐる継続的な法的課題の中で行われた。
人気のオンラインゲームプラットフォームRobloxは、ユーザー間のチャットにおける不適切な言語を扱う新しいAI駆動システムを展開した。これまで同プラットフォームのフィルターは、違反メッセージをハッシュマーク（####）の連続で置き換えていたが、Robloxはこれが議論を妨げコミュニケーションを阻害する可能性があると認めていた。更新された機能は現在、問題のある単語やフレーズをより適切な代替語に自動的に置き換え、最初に罵倒語から開始する。
AIによるレポート AIによって生成された画像
OpenAI has rolled out an optional safety tool allowing adult ChatGPT users to designate one trusted adult who can be alerted about potential self-harm risks detected in conversations. The feature, called Trusted Contact, involves human review before any notification is sent.
Roblox is introducing three age-specific account types to improve safety for younger users amid growing regulatory pressure. The tiers, Roblox Kids for ages 5-8, Roblox Select for 9-15, and standard Roblox for 16 and older, will roll out globally starting mid-May or early June. Restrictions on chat and content access will vary by age group.
AIによるレポート
Roblox has agreed to a $12 million settlement with Nevada to resolve claims related to child safety and exploitation on its platform, avoiding a trial. The deal includes funding for child support programs and new safety measures like enhanced age verification. Nevada Attorney General Aaron Ford hailed the agreement as a step toward safer online environments for children.
Canada has introduced legislation that would prohibit anyone under 16 from having social media accounts. The Safe Social Media Act also sets new rules for platforms and AI chatbots.
AIによるレポート
A new report indicates that NSFW uses make up well over half of traffic on the Grok chatbot developed by xAI. This includes requests for porn, adult role-play and erotica. The findings come from former employees cited in the report.