1月15日、X社は、同社が運営するソーシャル・ネットワーキング・サービス「X」において、実在の人物の画像がビキニなどの露出の多い服装へと編集されることを防ぐため、Grokアカウントに技術的な制限を導入したことを発表した。
今回の仕様変更は、有料サブスクライバーを含むすべてのユーザーに適用される。
— Safety (@Safety) January 14, 2026
XのGrok機能は、ユーザーが「@grok」とメンションを付けてテキストを送ると、xAI社の対話型チャットAI「Grok」が指示通りの画像を生成・編集するというもの。
2025年12月に追加された本機能は、追加後から他者の投稿を勝手に編集し、児童性的虐待素材（CSAM）や同意のないわいせつ画像を投稿するユーザーがあらわれ、問題となっていた。
このような問題が発生するなか、X社は1月6日に、違法コンテンツが含まれる投稿に対する声明を発表。
Grokを使用して違法コンテンツを作成した場合や、Grokに違法コンテンツの作成を促すなどの行為を行った場合は、違法コンテンツをアップロードした場合と同様、投稿の削除やアカウントの永久凍結などを含む対応を行うことにくわえ、行政や法執行機関と協力した措置をとることを明言した。
そして、1月9日にはGrokの画像生成と編集機能の利用を、プレミアムプラン加入者限定に変更した。
X社は今回の声明内で、Grokの画像生成と編集機能の利用をプレミアムプラン加入者に限定したことで、法律やX社のポリシーに違反する利用を行った個人に対し、責任を追及しやすくなるとしている。
また現在、実在の人物のビキニ、下着、およびそれに類する服装の画像を生成する機能は、それらが違法とされる法域では、すべてのユーザーに対して地域制限（ジオブロック）が行われていることも記載。
最後に、規約違反や違法なコンテンツについては、無料ユーザーか有料サブスクライバーかに関わらず、24時間体制でコンテンツの削除、必要に応じたアカウントの永久凍結、そして地方自治体や法執行機関との連携を必要に応じて行っていくことを改めて明記している。
なお、違法コンテンツの詳細については、X社が公開している「強制的対応の適用レベルと適用範囲」および「Xルール」を確認してほしい。
