「ポリシー違反です（利益は別）」AI不適切画像で荒稼ぎ、アップルとグーグルの“綺麗事”が崩れた瞬間

スマートフォン向けアプリケーション（アプリ）ストアで、ヌード画像を合成する人工知能（AI）アプリが公然と配信されている中、AppleとGoogleがこうしたアプリを放置し、収益を得ているとの分析結果が示された。

非営利監視団体「技術透明性プロジェクト（TTP）」は27日（現地時間）に公表した報告書で、AppleのApp StoreとGoogleのPlay ストアで、同様のアプリをそれぞれ47件、55件確認したと明らかにした。両社は自社のアプリストアで、性的コンテンツや他者を侮辱・客体化するアプリを禁止する政策を掲げているが、このようなフィルタリング機能が十分に機能していなかったという。

問題となったアプリは、全世界で7億500万回以上ダウンロードされており、推定収益は1億1,700万ドル（約180億円）に達すると分析された。AppleとGoogleはアプリ開発者の収益の最大30%を手数料として受け取るため、こうしたアプリを放置することで、両社が直接的な利益を得ているとTTPは批判している。

これらのアプリはAI技術を用いて写真に写っている人物を裸身やビキニ姿などの扇情的な姿に変換したり、別の性的画像に顔を合成したりする「ディープフェイク」（AIによる画像・映像操作）機能を提供していた。多くのアプリは娯楽目的の画像合成機能や、さまざまな衣装を仮想的に試着できる「AIフィッティングルーム」アプリとして宣伝されていることが明らかになった。

一部のアプリは、卑猥なコンテンツや他者を不快にさせるコンテンツの生成を禁じる利用規約を設けているにもかかわらず、実際のアプリ使用過程では性的画像の生成をほとんど制限していなかった。一方で、他のアプリは「服を破る」や「お尻を振る」といった扇情的な動画テンプレートを最初から提供しているアプリもあったとされている。

これに関して、Appleの広報担当者は米CNBCに対し「TTPが指摘したアプリのうち28件を削除し、開発者に対してポリシー違反があれば排除され得ると警告した」と説明した。Googleの広報担当者も、報告書で言及されたアプリをポリシー違反として利用停止にしたと明らかにしたが、具体的な対象件数は公表しなかったという。