スマートフォン向けアプリケーション（アプリ）ストアで、ヌード画像を合成する人工知能（AI）アプリが公然と配信されている中、AppleとGoogleがこうしたアプリを放置し、収益を得ているとの分析結果が示された。
非営利監視団体「技術透明性プロジェクト（TTP）」は27日（現地時間）に公表した報告書で、AppleのApp StoreとGoogleのPlay ストアで、同様のアプリをそれぞれ47件、55件確認したと明らかにした。両社は自社のアプリストアで、性的コンテンツや他者を侮辱・客体化するアプリを禁止する政策を掲げているが、このようなフィルタリング機能が十分に機能していなかったという。
問題となったアプリは、全世界で7億500万回以上ダウンロードされており、推定収益は1億1,700万ドル（約180億円）に達すると分析された。AppleとGoogleはアプリ開発者の収益の最大30%を手数料として受け取るため、こうしたアプリを放置することで、両社が直接的な利益を得ているとTTPは批判している。
これらのアプリはAI技術を用いて写真に写っている人物を裸身やビキニ姿などの扇情的な姿に変換したり、別の性的画像に顔を合成したりする「ディープフェイク」（AIによる画像・映像操作）機能を提供していた。多くのアプリは娯楽目的の画像合成機能や、さまざまな衣装を仮想的に試着できる「AIフィッティングルーム」アプリとして宣伝されていることが明らかになった。
一部のアプリは、卑猥なコンテンツや他者を不快にさせるコンテンツの生成を禁じる利用規約を設けているにもかかわらず、実際のアプリ使用過程では性的画像の生成をほとんど制限していなかった。一方で、他のアプリは「服を破る」や「お尻を振る」といった扇情的な動画テンプレートを最初から提供しているアプリもあったとされている。
これに関して、Appleの広報担当者は米CNBCに対し「TTPが指摘したアプリのうち28件を削除し、開発者に対してポリシー違反があれば排除され得ると警告した」と説明した。Googleの広報担当者も、報告書で言及されたアプリをポリシー違反として利用停止にしたと明らかにしたが、具体的な対象件数は公表しなかったという。
最近では、イーロン・マスク氏のソーシャルメディア（SNS）X（旧Twitter）でも、人工知能（AI）チャットボット「Grok」がビキニ姿などの画像を合成し、各国政府の調査対象となるなど、論争が広がっている。
パリを拠点とする非営利団体「AI Forensics」によると、Grokが生成した2万枚以上の画像を分析した結果、その半数以上が「肌の露出度が高い人物」を描写していたという。画像に写っていた人物の大半は女性で、約2％は未成年だったことも明らかになった。
一部の利用者は、マスク氏がビキニ姿の合成画像を生成する形で抗議したが、マスク氏はこれらの写真に笑顔の絵文字や「パーフェクト」といった返信を残すなど、問題提起を軽視する姿勢を見せ、さらなる批判を招いた。
論争が激化する中、Xの安全対策チームは14日「人物の画像をビキニ、下着、これに類する服装に再生成する機能について、当該行為を違法とみなす地域ではジオブロック（地域ブロック）を行う」と発表した。
コメント0