生成型人工知能（AI）技術の発展に伴い、悪用する事例も増加している。AI企業は関連する安全対策の強化を実施しているが、最近Grok AIで一部の欠陥が発見され、批判の的となった。
2日（現地時間）「CNBC」や「ガーディアン」など海外メディアによると、イーロン・マスク主導で開発されたAIチャットボット「Grok AI」は最近、ユーザーの要求に応じて不適切な画像を大量に生成し、これをオンラインに投稿した。
GrokはChatGPT（OpenAI）、Gemini（Google）などの競合他社よりも検閲基準が低いとされる。昨年8月には性的機能を拡大し、「Spicyモード」を導入した。
問題は、実在の人物を基に容易に性的な画像を作成できることである。Grok AIに人物写真をアップロードし、「この人物の服装をビキニに変えて」といった指示を入力するだけで、AIは写真の人物を性的対象化した画像を出力した。写真の原作者の同意なしに生成することが可能であった。
写真の人物が未成年に見えても生成できた。Grok AIは児童の不適切な搾取物の生成について「違法であり禁止されている」と述べたが、先月28日には12〜16歳と推定される少女2人を性的対象化した画像を生成し、オンラインに投稿することを許可して物議を醸した。該当投稿は論争となり、しばらくして削除された。
不適切な搾取画像生成に対する批判が続く中、Grokは「安全対策の欠陥が発見され、これを緊急に解決している」とし、「児童の不適切な搾取物（CSAM）は違法であり、禁止されている。公式の通報は連邦捜査局（FBI）を通じて行ってほしい」との声明を発表した。
フランスとインド当局は今回の件について調査を進めると発表した。
フランスは先月7月、SNSアルゴリズムが外国の介入目的で操作されているとの報告に関連して調査を進めていたが、今回の画像生成問題を追加して調査を拡大する方針だ。また、欧州連合のデジタルサービス法の遵守を確認するため、フランスのメディア規制機関である視聴覚およびデジタル通信規制局（Arcom）に通報したと述べた。
インド電子・情報技術省はGrok AIの悪用を防げなかったとして「X」側に「3日以内に対策内容の報告書を提出せよ」と要求した。
コメント0