「見たことはない」マスク氏が否定したグロック未成年画像、世界は信じなかった

X（旧ツイッター）を所有する実業家イーロン・マスク氏は最近、自身のXで、AIチャットボット「Grok（グロック）」が未成年の裸体画像を自発的に生成した例は見たことがないと述べ、そうした事例は検閲を回避する形の利用者の要請に限って起きるとの認識を示した。マスク氏が率いるAI企業xAIのグロックが裸体画像を生成するとの批判が広がる中、後追いで説明に乗り出した形だ。

ただ、テック業界では、AIの安全装置を軽視したまま拙速にサービスを投入する「マスク流」の進め方自体が、今回の騒動を招いたとの見方が強い。

マスク氏のAI、出発点から不安

マスク氏は、グロックを最も自由度の高いAIモデルとして打ち出し、昨年は成人向けコンテンツを許容する「スパイシーモード」も提供したとされる。同メディアは、そもそも安全を前提に設計しても不具合を完全に防ぐのは難しいのに、xAIは問題が見つかるたびに都度対処する「モグラたたき」型の運用を続けてきた結果、いまその姿勢が逆風として返ってきたと指摘した。

各国政府、xAI規制に動く

グロックはこれまでも差別的表現をめぐり批判を受けてきたが、未成年の裸体画像生成をめぐっては、各国が相次いで強い対応に踏み切ったのが特徴だという。マレーシアやインドネシアなどのイスラム圏の国々では、グロックの利用を一時停止する動きが出ている。英国、インド、ブラジルなどでは、運営元のxAIや、グロックを組み込んだXに対する調査が始まったとされる。韓国政府もXに対し、未成年者保護策の提示を求めた。

とりわけ欧州連合（EU）と米国の対応は打撃になり得る。EUではデジタルサービス法（DSA）違反の有無が調査対象となっており、違法と判断されれば、世界売上高の最大6％に相当する制裁金が科される可能性がある。米カリフォルニア州も、グロックとXを対象に調査に乗り出したとされ、米国内ではアプリストアからの配信停止を求める圧力が強まる展開も取り沙汰されている。

Xも危機論

マスク氏は16日、実在の人物の服を脱がせるような生成ができないよう対策を講じたと説明した。それでも利用者の離脱が進んでいるとして、危機感が広がっている。

トラフィック統計サービス「Similarweb」によると、今年1月1日〜13日のXモバイルアプリの平均日次利用者数は1億2,620万人で、前年1月の1億4,300万人から12％減少した。一方、メタの「Threads（スレッズ）」は、1年前の1億400万人から1億4,300万人へ増えたとされる。スレッズは2022年にメタが緊急投入したXの「コピーアプリ」だ。業界では当初、スレッズがXを超えるのは難しいとの見方もあったが、マスク氏の判断が裏目に出る中で利用者が伸びたとの分析が紹介された。

広告面でも逆風が続く。市場調査会社eMarketerによると、2023年のXの世界の広告収入は前年比51.7％減の20億ドル（約3,160億円）に落ち込み、2024年も2.8％減少した。2025年は約16.5％の増加が見込まれるものの、依然として2022年の半分程度にとどまるという。マスク氏が掲げる「表現の自由」の路線が、広告主にとってブランド毀損リスクとして意識され、広告出稿をためらう要因になっているとの見方も出ている。