イーロン・マスク氏が設立した米xAIの対話型AI「Grok（グロック）」が、児童を含む人物画像を性的に加工・生成していたとして、インド、フランス、マレーシアの各国政府が相次いで調査に乗り出すなど、法的対応を警告している。不適切なAI画像生成をめぐる国際的な規制の動きが加速している。
6日、「ブルームバーグ通信」によると、「マレーシア通信」やマルチメディア委員会（MCMC）は、未成年者や女性の写真を加工して不適切なコンテンツを生成するAI利用に関する通報を受け、現在調査を進めているという。MCMCは「有害コンテンツの制作・配布はマレーシア法で犯罪に当たる」とし、関与したAI利用者や関連企業の代表者を呼び出す方針を示した。
問題視されているのは、xAIが開発した対話型AI「Grok」だ。マスク氏は2022年に「ツイッター」を買収後、名称を「X」に変更し、昨年このプラットフォームをxAIに売却した。Grokは他のAIチャットボットと比べ、性的表現に対する制限が緩いと以前から指摘されてきた。
「ChatGPT（オープンAI）」や「Gemini（グーグル）」が関連コンテンツの生成を厳格に禁止しているのに対し、Grokは「表現の自由」を理由に規制を最小限に抑えてきた。昨年8月には、性的画像や文章の生成を許可する「スパイシーモード」も導入している。
Grokでは、写真の人物を完全な全裸に変換する機能は制限されているものの、「X」に投稿された人物写真に対し「脱がせろ」「水着を着せろ」といった指示を与えると、最小限の衣服のみを残した画像を生成できるケースが確認されている。しかも「X」上で誰でも命令文と生成結果を公開できるため、著名人や若年女性の画像を改変した不適切な写真が不特定多数に拡散される事態も起きていた。
マレーシア当局が特に問題視しているのは、昨年末以降、ビキニ姿の子ども画像がGrokによって生成され、「X」を通じて拡散されていた点だ。この中には、1～2歳前後の乳幼児とみられる子どもを対象として描写した画像も含まれていたとされる。
この問題に先立って動いたのは、インドとフランスだった。インド電子情報技術省は今月1日、「X」に対し、Grokが露骨な表現を生成しないよう即時是正措置を取るよう正式に要請した。
インド政府は、刑法および情報技術（IT）関連法に基づき、不適切なAI生成コンテンツを流通させたSNSプラットフォームを規制できるとの立場を示している。
翌日、フランス政府も、Grokが生成した不適切な搾取画像が「X」上で拡散されたことは、EUの「デジタルサービス法（DSA）」違反に当たる可能性があるとして、同件を仏放送・通信規制機関「Arcom」に付託したと発表した。「フィナンシャル・タイムズ」によると、調査結果次第では最大6万ユーロ（約1,000万円）の罰金が科される可能性があるという。
利用者からの批判が相次ぎ、各国当局の調査が始まったことを受け、Grokは2日午後、「安全対策の抜け穴を確認した」として関連画像を削除し、機能改善を行うと発表した。しかし各国の規制当局は、事後対応だけでは不十分だとして、プラットフォーム運営企業とAI開発企業の構造的責任を明確にすべきだとの姿勢を崩していない。
コメント0