「想像以上に過激…」マスクのAI“Grok”に成人向け機能？動画生成“スパイスモード”が炎上の兆し

「18禁にするべきか」マスク氏のxAI、動画AIに成人向け機能追加で物議

xAI、動画生成機能「Grok Imagine」を公開

「スパイスモード」選択で際どい動画生成も可能に

イーロン・マスク氏が率いるAI企業xAIが、画像や動画の生成機能を搭載した「Grok Imagine」を公開した。この新機能には、最大15秒の動画を生成できるという特徴があるが、一部では成人向け機能も追加され、利用実態を巡って懸念の声が上がっている。

xAIは、4日（現地時間）にAIアプリ「グロック（Grok）」のiOS版で「Grok Imagine」の提供を開始したと発表した。月額30ドル（約4,412円）の「スーパーグロック」など、有料会員向けの機能となっている。

Grok Imagineは、ユーザーが入力したテキストや画像のプロンプトに基づいて、短い動画を自動生成するサービスで、グーグルの「Veo」やOpenAIの「Sora」、アドビの「Firefly」などと類似した技術だ。しかし、他のサービスと異なり、「スパイスモード（Spice Mode）」と呼ばれる設定を選ぶと、より露出度の高い映像も生成できるとされる。

一部のグロック利用者はこの機能を使って下着姿に近い女性の映像を制作し、SNSやネット掲示板などで共有したという。

マスク氏自身も、同日、自身のXチャンネルにGrok Imagineで作成した動画を複数投稿しており、積極的に新機能のプロモーションを行っている。投稿された動画の中には、薄手で半透明の白いレースの衣装を身にまとった金髪の女性が登場する映像もあり、「天使」などのプロンプトが使われたとみられている。

xAIの過激なコンテンツ問題はこれが初めてではない。過去には、「AIコンパニオン」機能でも、同様の議論が生じていた。たとえば、金髪で黒のミニドレスと網タイツを着用したキャラクター「アニ（Ani）」が、ユーザーとの会話やチャットを通じて性格や嗜好を学習し、「NSFW（業務に不適切）」モードに切り替えることで、薄いランジェリー姿に変身する機能があるとされる。

こうした中、米国立性的搾取防止センター（NCOSE）は、未成年者でもアニと対話できるとして、xAIに対しアニキャラクターの削除を要求した。さらに、アップルに対しては、グロックアプリの年齢制限を18歳以上に引き上げるよう要請したという。