x.AIのチャットボット「Grok」が生成したとされる女性や未成年の性的に露骨なディープフェイク画像が拡散しているとの報告を受け、世界的な批判が高まる中、欧州をはじめとする各国の規制当局による監視が強まっている。Grokはソーシャルメディア・プラットフォームXに統合されている。

英国のメディア規制機関であるOfcomは1月12日、「X上のGrok AIチャットボットのアカウントが、人々の裸の画像を作成・共有するために利用されているとの憂慮すべき報告」を受け、Xに対する正式な調査を開始した。BBCによれば、Ofcomは最大で企業の全世界売上高の10％に相当する罰金を科す可能性があるという。

欧州委員会のウルズラ・フォン・デア・ライエン委員長は、「衝撃を受けている」と述べ、EUは子どもの保護や同意の問題を「シリコンバレーに委ねることはしない」と付け加えた。「彼らが行動しなければ、我々が行動する」と複数のメディアに語った。これは、EUがXに対しGrok関連のすべての文書およびデータの保存を命じたことや、これよりも踏み込んだ措置を取るべきだとの声がEU機関内部から上がっていることを受けたものである。

フランスの検察当局は、Xをめぐる進行中の刑事捜査の対象をディープフェイク疑惑にも拡大しており、他の複数のEU加盟国も同様に懸念を表明している。

インドネシアおよびマレーシアは、Grokへのアクセスを一時的に遮断した。

Xは今月初めに自社のセーフティアカウントが投稿した声明を報道機関に提示し、「違法コンテンツを生成するためにGrokを使用したり、または生成を促した者は、違法コンテンツをアップロードした場合と同様の結果を被る」としている。GrokはAIによる画像編集機能を有料ユーザーに限定したと説明しているが、こうした対応は問題の本質を解決していないとして批判されている。