年齢制限なしのスパイシーモードで性的動画生成、マスクのAIに規制なき危険性とディープフェイク悪用懸念

本人認証なしで半裸キャラクターの生成が可能

全国性的搾取告発センター「18歳未満はブロックすべき」

イーロン・マスクが設立したAIスタートアップxAIのチャットボット「グロック」が、わいせつ表現を巡り物議を醸している。

xAIは4日（現地時間）、画像・動画生成ツール「グロック・イマジン（Grok Imagine）」を正式にリリースした。スーパーグロック（SuperGrok）やXプレミアムプラス（Premium+）などの有料会員向け機能として、iOSアプリで提供している。

グロック・イマジンは、テキストや画像のプロンプトから最長15秒の動画を生成する。グーグルの「Veo」、OpenAIの「Sora」、アドビの「Adobe Firefly」などに類似したサービスだ。

問題となっているのは、グロック・イマジンに搭載された「スパイシー（Spicy）」モードだ。動画生成時にユーザーはカスタム、ノーマル、ファン、スパイシーのいずれかを選択できるが、スパイシーを選ぶと露出度の高い、または性的に描写されたアニメーションを作成できる。

「スパイシー」オプションを選ぶと、生年月日の入力が求められるが、本人確認が不要なため、事実上無制限で利用できる状態となっている。また、直接作成しなくてもこうした動画がX上で共有されており、問題視されている。

マスクはグロックで作成したとする6秒の動画を共有した。翼を持ち、露出度の高い服を着た女性が動く様子が描かれている。マスクによれば、グロック・イマジンでこれまでに3,400万枚以上の画像が生成されたという。

グロックは過度に露骨な画像をぼかして生成するが、IT専門メディアの「テッククランチ」は「露骨な表現には限界があるものの、回避の手段は何通りも存在する。実際に半裸の画像が生成できた」と報じている。

また、一部を除いて有名人の写真を用いた動画制作も可能であり、ディープフェイク悪用への懸念も高まっている。

xAIは以前にも、わいせつ性に関する問題で物議を醸したことがある。「AIコンパニオン」機能で紹介されたキャラクター「アニ」が、網タイツと薄手のランジェリー姿で描かれたためだ。全国性的搾取告発センター（NCOSE）は「未成年者でもアニと会話可能な仕様になっている」として、xAIに対し、アニキャラクターの削除、またはアップルにグロックアプリの利用年齢制限を18歳に引き上げるよう要求した。