ソーシャルメディア「X」を率いる米実業家イーロン・マスク氏の人工知能（AI）開発企業「xAI」が提供する生成AI「Grok（グロック）」を巡り、実在する人物の写真を無断で性的に加工しているとの報告が相次ぎ、批判が集まっている。昨年12月下旬頃から「自分の写真から、着ている服が消された」「ビキニ姿にされた」などと被害を訴える女性が相次ぎ、未成年者のように見える画像も複数確認されているという。

報道によると、Xでは投稿やスレッド内の画像をグロックに編集するよう頼める新機能が追加され、それを悪用して服を着た人物の写真から服を取り除くよう指示することで性的ディープフェイクの作成が可能となっていた。マスク氏もこの機能を使い、自身やマイクロソフト創業者ビル・ゲイツ氏らのビキニ画像をリポストしている。

英国やフランス、インドやマレーシアなど各国の当局が調査に乗り出す中、Xは画像編集ツールの利用を有料ユーザーのみに限定した。一方、有料会員が今後も性的な画像を作成したり同意なしに女性の写真を加工できるのかどうかは分かっていない。（千歳香奈子）