「秩序を守るため日本政府が動いた」生成AI“脱がせ加工”が世界的問題に…Xへ異例の改善要求

日本政府がソーシャルメディアX（旧Twitter）の生成AIの悪用による性的加工画像問題を理由に改善を公式に要求した。他人の写真を水着や下着姿など、過度な露出に変造して投稿する事例が急増したため、内閣府がX側に不適切コンテンツ生成抑制を促した。改善がなければAI法に基づく初の行政指導措置も検討される。

Xに搭載された画像編集機能は、アメリカ企業xAIの対話型AIである「グロック（Grok）」を基に動作する。ユーザーは ①返信ウィンドウに加工指示文を入力するか、②投稿画像を選択して編集画面で変造内容を入力する二つの方法で利用できる。12月末に ②番機能が追加されて以降、全世界で被害が爆増した。

日本でもアイドルや未成年者の画像を過度な露出に変造した事例が確認された。政府関係者によると、AI法を管轄する内閣府は、9日にX側に対して性的加工画像出力抑制などを口頭で要求した。同時にAI法に基づき ①問題に対する X 側見解 ②不適切コンテンツ生成拒否機能の現状 ③今後の対応方針などを文書で迅速に報告するよう求めた。

15日の夕方まで、X側から公式回答はなかったと内閣府は明らかにした。Xはこれに先立ち ①番機能について9日に有料会員のみ利用可能に制限した後、15日には全てのユーザーが実在の人物をビキニ姿などに変造できないように技術措置を講じたと発表した。しかし ②番機能は読売新聞確認結果、15日午後7時時点で、依然として露出度が高い姿で加工が可能な状態に残っている。

AI法は9月に全面施行された。生成AI技術革新とリスク管理を調和させるために制定されたこの法律は、国民権利侵害が発生した場合、国家がAI事業者を調査し、その結果に基づいて指導・助言できるようにした。罰則規定はないが、これまで行政指導事例は一件もない。今回のX事態が法律施行以降初の規制事例として記録される可能性が提起されている。

問題は日本に限らない。インドネシア政府は10日グロックサービスへのアクセスを一時遮断した。イギリスは12日オンライン安全法を根拠にグロックに対する調査に着手したと発表した。カリフォルニア州司法長官も14日グロックサービスに対する調査着手を公式化した。

X側はすでに一部対応に乗り出したが、完全な解決には不十分だとの評価がある。内閣府はXの後続措置を綿密に点検し、追加対策を検討中だ。生成AI技術の悪用による個人プライバシー侵害が全世界的な問題として浮上する中、日本政府の断固たる対応が国際的関心を集めている。

今回の事態は生成AIの商用化以降発生した初の大規模不適切犯罪コンテンツ流通問題だ。政府はAI事業者に対する法的責任を強化し、利用者保護装置を整備することに本格着手する見通しだ。Xの技術改善の有無が今後の規制方向を決定づける決定的な変数となるだろう。