Metaは、公開アカウントをタグ付けすることで他人のリアルなAI画像を生成できるInstagramの新機能を廃止した。これは、同意のないディープフェイク作成に対する広範な批判を受けたもの。
Metaは金曜日にブログ投稿を更新し、変更を発表した。同社は「この機能が期待に応えられなかったというフィードバックを受け、提供を終了した」と述べた。
このツールは、MetaのAI画像モデルのInstagramへの導入の一環として先週発表された。ユーザーはアカウントをタグ付けし、自動オプトイン設定を通じてその人物を生成画像に含めることができた。
俳優組合であるSAG-AFTRAは、この削除を肯定的に受け止めた。声明で「同意のないデジタル・レプリカの危険性は広く知られており、そのような行為を助長する機能は軽率だ。今回の停止措置を評価する。これは責任ある対応だ」と述べている。
なお、プラットフォーム上のその他のAI画像ツールは引き続き利用可能である。
AIによるレポート AIによって生成された画像
Meta has released its new Muse Image model for generating and editing AI images across its apps. The tool allows users to incorporate Instagram accounts into prompts, raising deepfake concerns for public profiles.
Hackers exploited Meta's AI support chatbot to take over Instagram accounts by tricking it into changing associated email addresses. The vulnerability allowed password resets without two-factor authentication after matching locations via VPN. Meta resolved the issue with an emergency patch on May 29.
AIによるレポート
Meta disclosed that more than 20,000 Instagram accounts were stolen last week in a hacking operation that used an AI support bot.
Meta staff have expressed frustration after CEO Mark Zuckerberg announced a large companywide AI hackathon next month. The plan has drawn internal criticism amid broader concerns over the company's AI strategy.
AIによるレポート
Meta workers have begun circulating flyers at US offices to protest a company program that tracks their mouse movements and keystrokes. The initiative aims to train AI models but has sparked concerns among employees about surveillance and job security.