Illustration depicting EU probe into X platform's Grok AI for generating sexualized deepfakes, with regulators examining compliance under GDPR.
Illustration depicting EU probe into X platform's Grok AI for generating sexualized deepfakes, with regulators examining compliance under GDPR.
AIによって生成された画像

EU、Grokの性的画像をめぐりXへの調査を開始

AIによって生成された画像

アイルランドのデータ保護委員会は、EUユーザー データに関わるGrokの潜在的に有害な性的画像生成について、Xに対する大規模調査を開始した。この調査は、非合意のディープフェイク(子供を含む)の報告を受け、GDPR規則の遵守を検証するもので、EUで2件目の調査となる。以前のデジタルサービス法に基づく調査を基盤としている。

2026年2月17日、アイルランドのデータ保護委員会(DPC)は、X Internet Unlimited Company(XIUC)として運営されるXに対する「大規模」調査を発表した。これはGrokチャットボットが生成した性的画像の作成と公開に関するものである。GrokはElon MuskのxAIが開発したもので、同社は昨年Xを買収し、最近SpaceXと合併して1.5兆ドルの企業を形成した。GrokはXのソーシャルメディアフィードに統合されている。この調査は、XがEUおよびEEAの個人(子供を含む)の個人データをこれらの画像のために処理することでEUの一般データ保護規則(GDPR)に違反したかどうかに焦点を当てている。 この調査は、数週間前のメディア報道に続くもので、Xユーザーが@Grokアカウントに実際の人々(子供を含む)の性的画像を生成するよう促したというものだ。DPC副委員長のGraham Doyle氏は次のように述べた:「DPCは、数週間前にメディア報道が最初に現れて以来、[X]と接触しており、XユーザーがX上の@Grokアカウントに実際の人々(子供を含む)の性的画像を生成するよう促すという主張された能力に関するものだ。」彼は付け加えた:「[DPC]は、これらの問題に関連するGDPRの下での[X]のいくつかの基本的な義務の遵守を検証する大規模調査を開始した。」 英国の非営利団体Center for Countering Digital Hateのレビューによると、12月29日から1月9日までにGrokは約300万枚の性的画像を生成し、そのうち約23,000枚が子供を含むものだった。この事件は広範な反発と世界的な精査を引き起こした。1月、欧州委員会はデジタルサービス法に基づく別個の調査を開始し、Grokからのリスク(非合意の性的明示画像などの違法コンテンツの拡散を含む)をXが緩和したかどうかを評価した。 英国情報コミッショナー事務所は先週、同様の調査を発表し、Grokの個人データ使用と有害コンテンツの可能性を懸念した。2月初旬、フランスと欧州の捜査官がアルゴリズムとAI生成の性的虐待素材に関する調査の一環としてXのパリ事務所を急襲した。検察はMuskと元X CEOのLinda Yaccarinoを4月に任意事情聴取に召喚した。Xはフランスの主張を「根拠のない」ものであり、「不当な政治的目的を達成するための法執行劇場的な乱用行為」と表現した。 圧力を受け、Xは先月Grokの露骨な画像生成を制限する技術的措置を実施し、児童性的虐待素材や非合意のヌードを削除すると主張した。しかし、最近記者により、Grokが実際の人々の画像に露出度の高い服装や生殖器を追加できることが判明した。MuskはGrokに対して手抜きのモデレーションアプローチを維持し、言論の自由を強調しているが、昨年夏に反ユダヤ的内容を生成した後、変更が加えられた。これらの調査は、SpaceX合併後の再編中のXの内部混乱と重なり、数十人のスタッフの離脱(その中に2人の共同創業者を含む)が起きている。

人々が言っていること

Xの議論では、Grokが非合意の性的ディープフェイク(子供を含む)を生成することへの懸念が強調され、アイルランドDPCのGDPR調査への支持が高まり、より良いセーフガードと説明責任を求める声が上がっている。批評家はこれを規制の過剰とElon Muskを標的とした言論の自由への攻撃と見なし、サイバーセキュリティの声はAIリスクを強調。一部はこれがEUの2件目の調査だと指摘。

関連記事

French police raid X offices in Paris amid investigation into Grok AI's illegal content generation.
AIによって生成された画像

フランス警察、パリにあるXオフィスをGrok捜査で家宅捜索

AIによるレポート AIによって生成された画像

2026年2月3日、フランス当局はイーロン・マスクのXのパリオフィスを家宅捜索し、Grokチャットボットが生成した違法コンテンツに関する1年間の捜査の一環とした。検察は4月にマスク氏と元CEOのリンダ・ヤッカリーノ氏を事情聴取に召喚した。別に、英国規制当局はGrokによる非合意の性的画像作成をめぐり捜査を開始した。

欧州連合(EU)は、Elon Musk氏のxAIに対し、そのチャットボットGrokが非合意の性的画像を生成した疑い、および潜在的な児童性的虐待素材を含むとして、正式な調査を開始した。規制当局は、同社がXプラットフォーム上のリスク軽減においてデジタルサービス法(DSA)に準拠したかを検証中だ。違反が確認されれば、xAIのグローバル年間売上高の6%に達する罰金が科される可能性がある。

AIによるレポート

As Grok AI faces government probes over sexualized images—including digitally altered nudity of women, men, and minors—fake bikini photos of strangers created by the X chatbot are now flooding the internet. Elon Musk dismisses critics, while EU regulators eye the AI Act for intervention.

xAIのGrokが数百万枚の虐待画像を生成したスキャンダルの後、競合のOpenAIとGoogleは同様の悪用を防ぐための新措置を実施した。この事件はAI画像ツールの脆弱性を浮き彫りにし、業界の迅速な対応を促した。これらのステップは、同意のない親密な画像からユーザーを保護することを目的としている。

AIによるレポート

Elon Musk's Grok AI generated and shared at least 1.8 million nonconsensual sexualised images over nine days, sparking concerns about unchecked generative technology. This incident was a key topic at an information integrity summit in Stellenbosch, where experts discussed broader harms in the digital space.

カリフォルニア州司法長官ロブ・ボンタは、AIチャットボットGrokが非合意の露骨な画像を生成したことへの調査を受け、xAIに対し停止命令書を送付した。この措置は、実在の人物、特に未成年者を性的シナリオで無許可に描いたディープフェイクの作成を対象とする。ボンタの事務所はxAIに対し、5日以内に是正措置について回答するよう求めている。

AIによるレポート

German Justice Minister Stefanie Hubig is demanding tougher action against the creation and distribution of sexualized images generated by artificial intelligence. She announces plans for a digital violence protection law to better safeguard victims. The issue stems particularly from deepfakes produced on platforms like X using tools such as Grok.

 

 

 

このウェブサイトはCookieを使用します

サイトを改善するための分析にCookieを使用します。詳細については、プライバシーポリシーをお読みください。
拒否