Grokが未成年をビキニ姿などにする問題を受けてロンドンに設置された、Xを批判しアカウント削除を訴えるポスター(2026年1月13日) Xを運営するxAI社が1月15日、Grokをアップデートし、実在する人物をビキニなどの露出度の高い服装に編集にできないようにしたと 発表 した。 発表によると、制限は有料契約者を含むすべてのユーザーに適用される。 また、X上でGrokを使って画像生成・編集する機能は、現在は有料ユーザーのみが利用できるようになっているという。 女性や未成年などを無断でビキニ姿に編集 Xでは、AIアシスタントのGrokを使って無断で実在の人物の服を脱がせ、ビキニなどの姿にする編集が2025年末から相次いでおり、世界各地で 問題になっていた 。 被害者の多くは女性で、著名人や政治家、一般人のほか未成年も含まれており、「児童性的虐待コンテンツ(CSAM)」だと批判を招いていた。 日本でも漫画家がアイドルを勝手にビキニにした後、 謝罪 した。 【画像】 Grokを使ったディープフェイクの性被害を訴える投稿 このGrokを使ったディープフェイク画像について複数の国が調査を行うと 発表 。マレーシアとインドネシアは Grokへのアクセスを遮断 した。 アメリカ・カリフォルニア州も14日、Xが「ネット上での女性や少女に対する嫌がらせに使われる同意のないディープフェイク画像の大規模な制作を助長している」として調査を開始したと 発表 した。 xAI社を率いるイーロン・マスク氏は、当初はGrokによるビキニ編集を面白がっていたが、その後「Grokを使って違法なコンテンツを作成した者は、違法コンテンツをアップロードした場合と同じ結果を被ることになる」とコメントし、投稿しないよう呼びかけた。 日本のxAI社も、「違法コンテンツ(児童性的虐待素材(CSAM)を含む)が含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとります」という 声明 を1月6日に発表した。 xAI社は15日の声明で「すべての人にとってXが安全なプラットフォームであり続けることを最優先としており、いかなる形の児童の性的搾取、同意のないヌード、望まれない性的コンテンツに対してゼロトレランス(厳格に認めない)の姿勢を貫いていきます」と述べている。 【画像】 Grokを使ったディープフェイクの性被害を訴える投稿 Related... 【画像】Grokを使ったディープフェイクの性被害を訴える投稿 「ビキニにして」XのGrokで女性や未成年の性的画像を無断で作成。「性加害」だと批判 Grok作成の「子どもの性的な画像」がダークウェブに投稿されている。イギリスの団体が指摘 トランプの作戦司令室の“画面”に衝撃走る。「信じられない」「最も愚かな時代を生きている」 Gmailの情報が知らないうちに利用されているかも。手動で「オフ」にする方法と注意点は? ...クリックして全文を読む